公布全新定制芯片，Meta豪赌AI，更新基础设施花费创纪录

英文：Announcing new customized chips, Meta gambling AI, and setting a record for infrastructure update costs

5月19日消息，过去一年，社交媒体巨头Meta致力于削减成本和裁员，但更新基础设施的花费却创下了纪录，这是为了在AI竞赛中保持领先地位。当地时间周四，Meta发布了一系列新技术，这包括一种新的定制芯片，能够帮助更快地训练AI，以及一款编程工具，可为程序员提供开发产品的建议。此外，该公司还在改造其旗下数据中心，以便更轻松地部署AI技术。Meta首席执行官马克·扎克伯格（Mark Zuckerberg）在一份电子邮件声明中说："这项工作反映了我们长期的努力，将使我们在各个领域中能够更好地利用这项技术，并取得更多的进步。”为了加速Facebook和Instagram上的推荐算法，Meta正在开发一款定制加速器芯片。此外，该公司还推出了一个专门为AI硬件设计的新数据中心。据Meta表示，他们已完成AI超级计算机的第二阶段建设，用于训练类似ChatGPT的大语言模型。去年，Meta的资本支出创下了历史新高，达到了314亿美元，比2017年增加了4.5倍以上。扎克伯格曾称今年是Meta的“效率年”，分析人士估计，Meta今年的投资水平将与2022年相当，其中很多资金将用于改进和扩大AI基础设施。Meta AI研究主管金·哈泽尔伍德（Kim Hazelwood）表示：“虽然我们在提高效率方面遇到了一些困难，但这并不意味着在投资AI和提升效率之间存在直接的竞争。”一些AI更新显然提高了Meta的内部效率，这导致公司在最近几个月内裁掉了数千名员工。CodeCompose是一款基于生成式AI的新型开发工具，可以为开发人员自动完成编程工作或提供修改代码的建议。Meta表示，目前已有5200名内部程序员在使用CodeCompose，其中AI提出的编写代码建议中有22%被采纳。Meta还越来越多地使用AI来解决最大的业务问题。由于苹果公司调整了隐私政策，很多广告商的数字广告精确定位目标用户更加困难，Meta计划利用AI来猜测用户的兴趣。为了与短视频平台TikTok竞争，Facebook和Instagram也开始展示用户并不关注的账户内容，这需要一种算法来猜测用户可能对什么感兴趣。市场研究公司CFRA Research分析师安吉洛·齐诺（Angelo Zino）在接受采访时表示，投资者将会寻求直接的证据来证明这些改进，以证明大笔支出是合理的。“很明显，这些事情需要一些时间，不可能一蹴而就，” 齐诺谈到Meta整体增加资本支出时表示。“肯定会有大量审核，确保能够加速实现收入方面的一些回报。”当我们询问AI模型时，它们会做出回答，这个过程就是所谓的推理，这需要特定类型的运算过程。Meta决定开发新的芯片MTIA（Meta Training and Inference Accelerator，意思是Meta训练和推理加速器），帮助完成内部特定的工作，补充英伟达GPU的数量不足（即使已大量采购）。Meta希望MTIA芯片能提升能力，为用户预测更准确、更有趣的原创和广告内容类型，从而让人们花更多时间使用应用程序并点击更多广告。该公司还推出了第一款专门用于处理视频和直播内容的内部专用集成电路(ASIC)。Facebook和Instagram用户每天分享的短视频已经超过20亿个。无论用户使用何种设备观看视频，这款新型处理器都可以帮助用户更快地显示这些视频，并且需要更少的流量。Meta的硬件工程副总裁亚历克西斯·比约林(Alexis Bjorlin)表示：“我们成功地对第一批芯片进行了优化、平衡和精准调整，以适应我们的推荐模型。”“我们清楚了解到生成式AI工作负载或其他相关需求，这些信息都尽在掌握。”Meta社交媒体app使用的推荐引擎基于当前的AI技术，但未来生成式AI的运行将依赖Meta的AI超级计算机Research SuperCluster。公司将利用这款超算训练大量的AI模型。周四，Meta宣布已完成第二阶段的建设，训练了名为LLaMA的大语言模型。这将成为公司建造虚拟现实平台元宇宙的关键部分。Meta一直致力于向外界开放其一些先进技术。虽然其堆栈中的大部分硬件限内部使用，但部分成果是开源的。和LLaMA模型一样，由Meta超级计算机训练出来、可解十道国际奥数竞赛难题的AI模型也已与研究人员共享。代码开发工具CodeCompose则基于Meta AI研究团队公开的技术成果构建。此外，新推理芯片将有助于Meta继续支持PyTorch，这是其创建的开源AI框架，并已转移到Linux基金会，以增加其独立性。尽管Meta多年来一直致力于开发AI工具，但扎克伯格仍然选择将公司未来设立在更加模糊的虚拟现实愿景之上。投资研究机构Third Bridge分析师斯科特·凯斯勒(Scott Kessler)表示，这种转变受到了投资者的严厉审视，因此此次对AI基础设施的深度投资可以帮助投资者重建对扎克伯格整体战略的信心。凯斯勒表示，当行业竞相将AI融入业务之时，“他们不想输在起跑线上，”他说：“相比六到九个月前，现在更多人相信这种说法了。”（辰辰）

5月19日消息，过去一年，社交媒体巨头Meta致力于削减成本和裁员，但更新基础设施的花费却创下了纪录，这是为了在AI竞赛中保持领先地位。

当地时间周四，Meta发布了一系列新技术，这包括一种新的定制芯片，能够帮助更快地训练AI，以及一款编程工具，可为程序员提供开发产品的建议。此外，该公司还在改造其旗下数据中心，以便更轻松地部署AI技术。

Meta首席执行官马克·扎克伯格（Mark Zuckerberg）在一份电子邮件声明中说："这项工作反映了我们长期的努力，将使我们在各个领域中能够更好地利用这项技术，并取得更多的进步。”

为了加速Facebook和Instagram上的推荐算法，Meta正在开发一款定制加速器芯片。此外，该公司还推出了一个专门为AI硬件设计的新数据中心。据Meta表示，他们已完成AI超级计算机的第二阶段建设，用于训练类似ChatGPT的大语言模型。

去年，Meta的资本支出创下了历史新高，达到了314亿美元，比2017年增加了4.5倍以上。扎克伯格曾称今年是Meta的“效率年”，分析人士估计，Meta今年的投资水平将与2022年相当，其中很多资金将用于改进和扩大AI基础设施。

Meta AI研究主管金·哈泽尔伍德（Kim Hazelwood）表示：“虽然我们在提高效率方面遇到了一些困难，但这并不意味着在投资AI和提升效率之间存在直接的竞争。”

一些AI更新显然提高了Meta的内部效率，这导致公司在最近几个月内裁掉了数千名员工。

CodeCompose是一款基于生成式AI的新型开发工具，可以为开发人员自动完成编程工作或提供修改代码的建议。Meta表示，目前已有5200名内部程序员在使用CodeCompose，其中AI提出的编写代码建议中有22%被采纳。

Meta还越来越多地使用AI来解决最大的业务问题。由于苹果公司调整了隐私政策，很多广告商的数字广告精确定位目标用户更加困难，Meta计划利用AI来猜测用户的兴趣。为了与短视频平台TikTok竞争，Facebook和Instagram也开始展示用户并不关注的账户内容，这需要一种算法来猜测用户可能对什么感兴趣。

市场研究公司CFRA Research分析师安吉洛·齐诺（Angelo Zino）在接受采访时表示，投资者将会寻求直接的证据来证明这些改进，以证明大笔支出是合理的。

“很明显，这些事情需要一些时间，不可能一蹴而就，” 齐诺谈到Meta整体增加资本支出时表示。“肯定会有大量审核，确保能够加速实现收入方面的一些回报。”

当我们询问AI模型时，它们会做出回答，这个过程就是所谓的推理，这需要特定类型的运算过程。Meta决定开发新的芯片MTIA（Meta Training and Inference Accelerator，意思是Meta训练和推理加速器），帮助完成内部特定的工作，补充英伟达GPU的数量不足（即使已大量采购）。

Meta希望MTIA芯片能提升能力，为用户预测更准确、更有趣的原创和广告内容类型，从而让人们花更多时间使用应用程序并点击更多广告。

该公司还推出了第一款专门用于处理视频和直播内容的内部专用集成电路(ASIC)。Facebook和Instagram用户每天分享的短视频已经超过20亿个。无论用户使用何种设备观看视频，这款新型处理器都可以帮助用户更快地显示这些视频，并且需要更少的流量。

Meta的硬件工程副总裁亚历克西斯·比约林(Alexis Bjorlin)表示：“我们成功地对第一批芯片进行了优化、平衡和精准调整，以适应我们的推荐模型。”“我们清楚了解到生成式AI工作负载或其他相关需求，这些信息都尽在掌握。”

Meta社交媒体app使用的推荐引擎基于当前的AI技术，但未来生成式AI的运行将依赖Meta的AI超级计算机Research SuperCluster。公司将利用这款超算训练大量的AI模型。

周四，Meta宣布已完成第二阶段的建设，训练了名为LLaMA的大语言模型。这将成为公司建造虚拟现实平台元宇宙的关键部分。

Meta一直致力于向外界开放其一些先进技术。虽然其堆栈中的大部分硬件限内部使用，但部分成果是开源的。和LLaMA模型一样，由Meta超级计算机训练出来、可解十道国际奥数竞赛难题的AI模型也已与研究人员共享。代码开发工具CodeCompose则基于Meta AI研究团队公开的技术成果构建。此外，新推理芯片将有助于Meta继续支持PyTorch，这是其创建的开源AI框架，并已转移到Linux基金会，以增加其独立性。

尽管Meta多年来一直致力于开发AI工具，但扎克伯格仍然选择将公司未来设立在更加模糊的虚拟现实愿景之上。投资研究机构Third Bridge分析师斯科特·凯斯勒(Scott Kessler)表示，这种转变受到了投资者的严厉审视，因此此次对AI基础设施的深度投资可以帮助投资者重建对扎克伯格整体战略的信心。

凯斯勒表示，当行业竞相将AI融入业务之时，“他们不想输在起跑线上，”他说：“相比六到九个月前，现在更多人相信这种说法了。”（辰辰）