本文作者:郭沫若

评点二四六天彩7777788888,苹果发布 iPhone AI 预览版,论文称其模型在谷歌 TPU 上训练

评点二四六天彩7777788888,苹果发布 iPhone AI 预览版,论文称其模型在谷歌 TPU 上训练摘要: 评点二四六天彩7777788888,苹果发布 iPhone AI 预览版,论文称其模型在谷歌 TPU 上训练一些芯片行业媒体称,这是苹果打响了抛弃英伟达GPU的第一枪。今年5月,谷...

苹果基本模型建模概述苹果官方发布了一份论文

根据苹果公布的论文,他们在 8192 块 TPU v4 芯片上训练了云端 AFM(Apple Model),采用的序列长度为 4096,batch size 为 4096 个序列,训练了 6.3 万亿个 token。而客户端 AFM 则是在 2048 块 TPU v5p 芯片上进行训练的。

苹果的决定表明,一些大型科技公司可能正在寻找英伟达图形处理单元的替代品,用于人工智能训练。

有芯片行业媒体称,这是苹果放弃 GPU的第一枪。

6 月初,日本证券公司瑞穗证券估计, 控制着用于训练和部署 GPT 等模型的 AI 芯片市场的 70% 至 95%。一些专家将 在 AI 芯片市场的地位描述为护城河,其旗舰 AI 图形处理单元 GPU(如 H100)与该公司的 CUDA 软件相结合独到见解2023澳彩资料免费大全,使其在竞争中占据优势。

谷歌、Meta、甲骨文和特斯拉等科技公司一直在致力于打造自己的人工智能系统和产品。

评点二四六天彩7777788888,苹果发布 iPhone AI 预览版,论文称其模型在谷歌 TPU 上训练

心灵观察研究院研究员潘功宇指出,苹果宣布其苹果模型(AFM)在谷歌自研处理单元(TPU)上进行训练,同时还租用谷歌云服务。苹果在AI训练上的权衡24年新澳彩资料免费长期公开,反映出英伟达通用AI加速器与谷歌ASIC定制化AI服务体系之间竞争的升级。

谷歌从2015年开始就使用自家的TPU来训练和部署AI模型,它并非设计一款通用处理器介绍新澳好彩免费资料查询,而是被设计为专门针对神经网络工作负载的矩阵处理器,在整个大规模计算和数据传输过程中根本不需要访问内存。

今年 5 月,谷歌发布了一款人工智能 (AI) 数据中心芯片,据称该芯片比之前的版本快了近五倍。该公司表示,该芯片将用于开发自己的模型,包括用于人工智能和计算的模型。

谷歌表示,如果提前三年订购,最新的 TPU 每小时使用成本不到 2 美元。谷歌于 2015 年首次推出 TPU 用于内部工作负载,并于 2017 年向公众开放。它们现在是专为人工智能设计的最成熟的定制芯片之一。

尽管如此,谷歌仍然是 最大的客户之一。它使用 的 GPU 和自己的 TPU 来训练 AI 系统,并且还在其云端出售 技术的访问权限。

“虽然目前掌控着高达80%的高端AI芯片市场,但剩余的市场份额大多被谷歌、微软、亚马逊等大型云服务商占据。苹果此次采用的谷歌TPUv5虽然在通用性方面不如同领域的芯片,但主打性价比,总体拥有成本(TCO)比低4倍,交付周期短。目前谷歌TPUv5的市场规模约为300亿美元。一直对这块‘肥肉’垂涎不已,但考虑到与谷歌微妙的竞争关系,目前不会贸然进入ASIC领域。”潘功宇分析道。

Meta CEO 马克·扎克伯格和 CEO 桑达尔·皮查伊上周均表示,他们的公司和业内其他公司可能在 AI 基础设施上投资过多,但他们也承认不这样做的商业风险太高。如果他们落后评点二四六天彩7777788888,苹果发布 iPhone AI 预览版,论文称其模型在谷歌 TPU 上训练,就会错过未来 10 到 15 年最重要的技术。

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏

阅读
分享

发表评论

快捷回复:

评论列表 (暂无评论,48人围观)参与讨论

还没有评论,来说两句吧...