Apple选择GoogleTPU而不是NVIDIAGPU来构建Ap...

迈步看大势 2024-07-30 16:28:33

这家总部位于库比蒂诺的科技巨头透露,它采用了谷歌基于云的 TPU 集群,特别是 v4 和 v5p 版本,来训练其 Apple 基础模型 (AFM)。

苹果公司透露,决定利用谷歌的张量处理单元(TPU)来训练其AI模型,而避开行业标准的英伟达NVIDIA GPU。这一决定是通过苹果公司发表的一篇技术论文曝光的,该论文详细介绍了该公司开发其人工智能能力的方法。

这家总部位于美国库比蒂诺的科技巨头透露,采用了谷歌基于云的TPU集群,特别是TPU v4 和TPU v5p版本,来训练其Apple 基础模型(AFM)。该公司在研究论文中提到:“AFM 模型是在v4和v5p Cloud TPU集群上使用AXLearn框架进行预训练的,AXLearn 框架是一个基于 JAX的深度学习库,专为公共云而设计。”

该模型是Apple新的AI计划的基础,被称为Apple Intelligence,将为Apple 产品生态系统中即将推出的一系列AI驱动功能提供动力。

鉴于 NVIDIA 在AI芯片市场的主导地位,Apple决定使用Google的 TPU 而不是 NVIDIA 的 GPU意义重大。NVIDIA的 GPU是AI训练的首选,为世界领先的AI研究提供动力。该公司控制着约95%的AI芯片市场。

英伟达的高价图形处理单元(GPU)主导了高端人工智能训练芯片的市场,过去几年需求量大得惊人,以至于根本很难按需采购到。OpenAI、微软和Anthropic都在使用英伟达的GPU来支持他们的模型,而其他科技公司,如谷歌、Meta、甲骨文和特斯拉,也在疯狂采购这些芯片,以构建他们的人工智能系统和产品。

Meta首席执行官马克·扎克伯格和Alphabet首席执行官桑达尔·皮查伊都表示,他们的公司以及行业中的其他公司可能在人工智能基础设施方面投资过多,但也承认如果不这样做,商业风险太高。

这一决定表明,大型科技公司正在探索英伟达产品的替代品。苹果还强调了 Google 定制设计的 TPU不断增长的功能,这些 TPU 最初是为内部使用而开发的,但现在可以通过 Google Cloud Platform 供外部客户使用。同样,Meta 最近与以其 LPU 而闻名的 Groq 合作,运行和推断Llama 3.1。

苹果计划推出基于生成式人工智能的功能,包括图像生成、表情符号生成,以及一个更强大的Siri,能够访问用户的个人信息并在应用内执行操作。

Apple 的研究论文表明,对于其基于服务器的 AI 模型,使用了8,192 个 TPUv4 芯片。对于为 iPhone 和其他 Apple 设备设计的设备上 AI 模型,采用了 2,048 个 TPUv5p 芯片。这些大规模的部署凸显了苹果在人工智能领域的雄心壮志以及训练高级语言模型所需的计算能力。

行业分析师推测,苹果的决定可能受到成本效益、性能优势或战略合作伙伴关系等因素的推动。但是,该公司没有提供选择谷歌的TPU而不是NVIDIA的GPU的具体原因。

随着科技巨头之间的人工智能军备竞赛愈演愈烈,苹果为其人工智能基础设施选择的硬件可能会受到行业观察家和竞争对手的密切关注。该公司决定与谷歌合作开发人工智能训练硬件,同时开发自己的用于设备端人工智能处理的芯片,这表明了构建其人工智能能力的微妙方法。

0 阅读:0

迈步看大势

简介:感谢大家的关注