-
小扎豪赌大模型！Meta重磅推出定制芯片MTIAv1和全新超算
新智元报道编辑：拉燕 Aeneas【新智元导读】全世界都在卷大模型，小扎也急了。如今，Meta为了发展AI，在定制芯片和超算上下了大赌注。Meta也有纯自研芯片了！本周四，Meta发布第一代AI推理定制芯片MTIA v1和超算。可以说，MTIA对Meta是一个巨大的福音，尤其是现在各家都在卷大模型，对AI算力的需求变得越来越高。小扎最近表示，Meta看到了「以有用和有意义的方式向数十亿人介绍人工智能代理的机会」。显然，随着Meta加大对AI的投入，MTIA芯片和超算计划将是Meta与其他科技巨头竞争的关键工具，现在没有哪家巨头不在AI上投入大量资源。可以看到，凭着定制芯片和超算，Meta在AI上下了大赌注。MTIA在最近的一次线上活动中，Meta拉开了开发自己的基础设施的序幕。新芯片全名是Meta训练和推理加速器，简称MTIA。MTIA是一种ASIC，一种将不同电路组合在一块板上的芯片，允许对其进行编程，以并行执行一项或多项任务。Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道，MTIA是Meta「针对推理工作负载的内部定制加速器芯片系列」，它提供了比CPU「更高的计算能力和效率」，并且「为我们的内部工作负载定制」。通过结合MTIA芯片和GPU，Janardhan 表示，Meta相信「我们将为每个工作负载提供更好的性能、更低的延迟和更高的效率。」不得不说，这是Meta实力的投射。其实，一直以来，Meta在应用AI友好型硬件系统方面进展并不迅速。这影响了Meta和竞对（如微软、谷歌等）保持同步发展的能力。Meta基础设施副总裁Alexis Bjorlin在一次采访中表示，构建属于自己的硬件，Meta就有能力控制堆栈的每一层，包括数据中心设计到培训框架。这种垂直的整合水平对于大规模推动AI研究边界是必不可少的。在过去的十年里，Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型。Meta也一直在努力将其许多更宏伟的AI创新研究投产，尤其是生成式AI。一直到2022年，Meta一直主要用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行。而CPU和芯片的组合在执行这类任务的效率上通常会低于GPU。于是Meta取消了原本打算在2022年大规模推广的定制芯片，转而订购了价值数十亿美元的英伟达GPU。引入这些GPU，Meta需要对旗下的几个数据中心进行颠覆性的重新设计。而为了扭转这一局面，Meta计划开发一款内部芯片，预计于2025年推出。这款内部芯片既能训练AI模型，还能运行AI模型，可谓性能强大。主角终于来了——新芯片名叫MITA，全称Meta Training and Inference Accelerator.这款芯片可以用来加速AI训练和推理的效率。研究团队表示，MTIA是一种ASIC，指的是一种在一块板上组合不同电路的芯片。通过编程，该芯片能同时执行一项或多项任务。专为AI工作负载定制的AI芯片Meta要知道，科技巨头公司的竞争说白了玩儿的就是芯片。比方说谷歌的TPU，用来训练Palm-2和Imagen。亚马逊也有自己的芯片，用于训练AI模型。此外，有消息称微软也在和AMD开发一款叫Athena的芯片。这不，MITA的到来也是Meta不甘示弱的表现。Meta表示，2020年他们创建了第一代的MITA——MITA v1，采用的是7nm工艺。该芯片内部内存可以从128MB扩展到128GB，同时，在Meta设计的基准测试中，MITA在处理中低复杂度的AI模型时，效率要比GPU还高。在芯片的内存和网络部分，还有不少工作要做。随着AI模型的规模越来越大，MITA也即将遇到瓶颈。Meta需要将工作量分担到多个芯片上。对此，Meta表示，会继续完善MITA在运行推荐的工作量时每瓦的性能。早在2020年，Meta就已经为内部工作负载设计了第一代MTIA ASIC。此推理加速器是共同设计的全栈解决方案的一部分，包括芯片、PyTorch和推荐模型。该加速器采用台积电 7nm工艺制造，运行频率为800 MHz，在INT8精度下提供102...
智能设备 2023-05-21 01:34:10 -
公布全新定制芯片，Meta豪赌AI，更新基础设施花费创纪录
5月19日消息，过去一年，社交媒体巨头Meta致力于削减成本和裁员，但更新基础设施的花费却创下了纪录，这是为了在AI竞赛中保持领先地位。当地时间周四，Meta发布了一系列新技术，这包括一种新的定制芯片，能够帮助更快地训练AI，以及一款编程工具，可为程序员提供开发产品的建议。此外，该公司还在改造其旗下数据中心，以便更轻松地部署AI技术。Meta首席执行官马克·扎克伯格（Mark Zuckerberg）在一份电子邮件声明中说："这项工作反映了我们长期的努力，将使我们在各个领域中能够更好地利用这项技术，并取得更多的进步。”为了加速Facebook和Instagram上的推荐算法，Meta正在开发一款定制加速器芯片。此外，该公司还推出了一个专门为AI硬件设计的新数据中心。据Meta表示，他们已完成AI超级计算机的第二阶段建设，用于训练类似ChatGPT的大语言模型。去年，Meta的资本支出创下了历史新高，达到了314亿美元，比2017年增加了4.5倍以上。扎克伯格曾称今年是Meta的“效率年”，分析人士估计，Meta今年的投资水平将与2022年相当，其中很多资金将用于改进和扩大AI基础设施。Meta AI研究主管金·哈泽尔伍德（Kim Hazelwood）表示：“虽然我们在提高效率方面遇到了一些困难，但这并不意味着在投资AI和提升效率之间存在直接的竞争。”一些AI更新显然提高了Meta的内部效率，这导致公司在最近几个月内裁掉了数千名员工。CodeCompose是一款基于生成式AI的新型开发工具，可以为开发人员自动完成编程工作或提供修改代码的建议。Meta表示，目前已有5200名内部程序员在使用CodeCompose，其中AI提出的编写代码建议中有22%被采纳。Meta还越来越多地使用AI来解决最大的业务问题。由于苹果公司调整了隐私政策，很多广告商的数字广告精确定位目标用户更加困难，Meta计划利用AI来猜测用户的兴趣。为了与短视频平台TikTok竞争，Facebook和Instagram也开始展示用户并不关注的账户内容，这需要一种算法来猜测用户可能对什么感兴趣。市场研究公司CFRA Research分析师安吉洛·齐诺（Angelo Zino）在接受采访时表示，投资者将会寻求直接的证据来证明这些改进，以证明大笔支出是合理的。“很明显，这些事情需要一些时间，不可能一蹴而就，” 齐诺谈到Meta整体增加资本支出时表示。“肯定会有大量审核，确保能够加速实现收入方面的一些回报。”当我们询问AI模型时，它们会做出回答，这个过程就是所谓的推理，这需要特定类型的运算过程。Meta决定开发新的芯片MTIA（Meta Training and Inference Accelerator，意思是Meta训练和推理加速器），帮助完成内部特定的工作，补充英伟达GPU的数量不足（即使已大量采购）。Meta希望MTIA芯片能提升能力，为用户预测更准确、更有趣的原创和广告内容类型，从而让人们花更多时间使用应用程序并点击更多广告。该公司还推出了第一款专门用于处理视频和直播内容的内部专用集成电路(ASIC)。Facebook和Instagram用户每天分享的短视频已经超过20亿个。无论用户使用何种设备观看视频，这款新型处理器都可以帮助用户更快地显示这些视频，并且需要更少的流量。Meta的硬件工程副总裁亚历克西斯·比约林(Alexis Bjorlin)表示：“我们成功地对第一批芯片进行了优化、平衡和精准调整，以适应我们的推荐模型。”“我们清楚了解到生成式AI工作负载或其他相关需求，这些信息都尽在掌握。”Meta社交媒体app使用的推荐引擎基于当前的AI技术，但未来生成式AI的运行将依赖Meta的AI超级计算机Research SuperCluster。公司将利用这款超算训练大量的AI模型。周四，Meta宣布已完成第二阶段的建设，训练了名为LLaMA的大语言模型。这将成为公司建造虚拟现实平台元宇宙的关键部分。Meta一直致力于向外界开放其一些先进技术。虽然其堆栈中的大部分硬件限内部使用，但部分成果是开源的。和LLaMA模型一样，由Meta超级计算机训练出来、可解十道国际奥数竞赛难题的AI模型也已与研究人员共享。代码开发工具CodeCompose则基于Meta AI研究团队公开的技术成果构建。此外，新推理芯片将有助于Meta继续支持PyTorch，这是其创建的开源AI框架，并已转移到Linux基金会，以增加其独立性。尽管Meta多年来一直致力于开发AI工具，但扎克伯格仍然选择将公司未来设立在更加模糊的虚拟现实愿景之上。投资研究机构Third Bridge分析师斯科特·凯斯勒(Scott Kessler)表示，这种转变受到了投资者的严厉审视，因此此次对AI基础设施的深度投资可以帮助投资者重建对扎克伯格整体战略的信心。凯斯勒表示，当行业竞相将AI融入业务之时，“他们不想输在起跑线上，”他说：“相比六到九个月前，现在更多人相信这种说法了。”（辰辰） ...
业界动态 2023-05-19 17:20:48 -
魅族20将推白色面板版本，少量定制，近期上市
5 月 17 日消息，星纪魅族集团董事长兼 CEO 沈子瑜表示，魅族 20 白面板机将在近期上市。魅族 20 有四款配色，分别是定胜青、先锋灰、悦动黄、热爱粉...
手机互联 2023-05-19 08:56:13 -
小度推出青禾学习手机，为青少年打造定制专属系统
5月17日消息，小度宣布将推出全新品牌“小度青禾”，并推出旗下首款产品——小度青禾学习手机，一部专为青少年打造的学习手机。据介绍，新品专为青少年定制手机系统，并应用小度灵机大模型；同时还拥有全免费的小初学习资源，以及具备应用管控、实时定位、视力保护等全面能力...
电信通讯 2023-05-17 16:55:32 -
爆料｜iPhone15ProMax主摄曝光：定制大底IMX903，影像再次升级
众所周知，每一年新款iPhone的顶配机型都代表着苹果尖端科技的汇总，除了配备顶尖的处理器以外，在影像方面也会有独到的先进体验，因此受到了众多消费者的关注。比如现售的iPhone14ProMax就配备了苹果最新的A16芯片以及最新的48MP主摄，带给了用户不同于普通机型的使用体验，也因此大受欢迎...
手机互联 2023-04-24 08:35:32 -
6月发布，售价2万？苹果备战MR头盔，多款定制软件即将上线
4月19日消息，据知情人士透露，苹果正在为即将推出的混合现实（MR）头盔构建大量软件和服务，试图通过利用这款设备新颖的3D界面应用，来吸引潜在用户的青睐。据称这些软件和服务将包括游戏、健身和协作工具，现有iPad功能的升级，以及可以观看体育赛事的服务...
智能设备 2023-04-20 21:02:59 -
彻底不怕“杀后台”！一加Ace2原神定制版搭载18GB豪华内存
快科技4月12日消息，一加中国区总裁李杰今天宣布，即将推出的一加Ace2原神定制版将搭载18GB的"豪华内存"。对于用户来说，内存容量的提升带来最直观的体验变化，就是系统"杀后台"的问题得到了解决...
手机互联 2023-04-12 11:03:23 -
一加Ace2原神定制礼盒发布会定档4月17日，红色素皮机身
IT之家4月11日消息，一加Ace2于2月7日发布，当时官方还预告称将于4月份推出一加Ace2原神定制礼盒，今天官方公布了这款定制版手机具体的发布时间——4月17日19:00。官方放出的图片显示，一加Ace2原神定制礼盒是一款围绕《原神》角色香菱和锅巴打造的深度定制机型，手机采用红色素皮机身，机身左右两侧有缝线印压设计，外包装是中式饭盒设计，官方还未公布礼盒中具体有哪些内容...
手机互联 2023-04-11 10:18:30 -
三星GalaxyZFold5/Flip5曝光：配备定制版骁龙8Gen2
最近，GalaxyZFold5和GalaxyZFlip5两款新机在Geekbench跑分数据库中出现了。这两款新机将采用高通骁龙8Gen2forGalaxy芯片组，与GalaxyS23系列所使用的芯片完全相同...
手机互联 2023-04-03 08:42:21 -
吉利推出全球首个共享出行定制车品牌命名“曹操汽车”
3月23日消息，全球首个共享出行定制车品牌命名公布，定名曹操汽车。官方介绍，曹操汽车整合了吉利产业基础和智造优势，及曹操出行服务1.5亿用户的共享出行基础，是专为共享出行市场推出的造车品牌...
业界动态 2023-03-24 11:06:47 -
GPT-4将允许用户定制AI的“性格”数字人或成为下一个杀手级应用
GPT-4将允许接入API的用户定制AI的“性格”，将相关技术带入虚拟人场景中，使虚拟人成为真正的“人”。相比ChatGPT固定的语言风格，GPT-4将允许接入API的用户定制AI的“性格”...
智能设备 2023-03-20 10:50:57 -
《纪元1800》免费周末明日开启定制手柄预告图公布
《纪元1800》官方宣布将于明日开启免费游玩活动，持续至3月23日。而参与此次免费周末游玩，还将有机会获得《纪元1800》的Xbox定制手柄...
游戏资讯 2023-03-16 17:26:51
