-
小扎豪赌大模型！Meta重磅推出定制芯片MTIAv1和全新超算
新智元报道编辑：拉燕 Aeneas【新智元导读】全世界都在卷大模型，小扎也急了。如今，Meta为了发展AI，在定制芯片和超算上下了大赌注。Meta也有纯自研芯片了！本周四，Meta发布第一代AI推理定制芯片MTIA v1和超算。可以说，MTIA对Meta是一个巨大的福音，尤其是现在各家都在卷大模型，对AI算力的需求变得越来越高。小扎最近表示，Meta看到了「以有用和有意义的方式向数十亿人介绍人工智能代理的机会」。显然，随着Meta加大对AI的投入，MTIA芯片和超算计划将是Meta与其他科技巨头竞争的关键工具，现在没有哪家巨头不在AI上投入大量资源。可以看到，凭着定制芯片和超算，Meta在AI上下了大赌注。MTIA在最近的一次线上活动中，Meta拉开了开发自己的基础设施的序幕。新芯片全名是Meta训练和推理加速器，简称MTIA。MTIA是一种ASIC，一种将不同电路组合在一块板上的芯片，允许对其进行编程，以并行执行一项或多项任务。Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道，MTIA是Meta「针对推理工作负载的内部定制加速器芯片系列」，它提供了比CPU「更高的计算能力和效率」，并且「为我们的内部工作负载定制」。通过结合MTIA芯片和GPU，Janardhan 表示，Meta相信「我们将为每个工作负载提供更好的性能、更低的延迟和更高的效率。」不得不说，这是Meta实力的投射。其实，一直以来，Meta在应用AI友好型硬件系统方面进展并不迅速。这影响了Meta和竞对（如微软、谷歌等）保持同步发展的能力。Meta基础设施副总裁Alexis Bjorlin在一次采访中表示，构建属于自己的硬件，Meta就有能力控制堆栈的每一层，包括数据中心设计到培训框架。这种垂直的整合水平对于大规模推动AI研究边界是必不可少的。在过去的十年里，Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型。Meta也一直在努力将其许多更宏伟的AI创新研究投产，尤其是生成式AI。一直到2022年，Meta一直主要用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行。而CPU和芯片的组合在执行这类任务的效率上通常会低于GPU。于是Meta取消了原本打算在2022年大规模推广的定制芯片，转而订购了价值数十亿美元的英伟达GPU。引入这些GPU，Meta需要对旗下的几个数据中心进行颠覆性的重新设计。而为了扭转这一局面，Meta计划开发一款内部芯片，预计于2025年推出。这款内部芯片既能训练AI模型，还能运行AI模型，可谓性能强大。主角终于来了——新芯片名叫MITA，全称Meta Training and Inference Accelerator.这款芯片可以用来加速AI训练和推理的效率。研究团队表示，MTIA是一种ASIC，指的是一种在一块板上组合不同电路的芯片。通过编程，该芯片能同时执行一项或多项任务。专为AI工作负载定制的AI芯片Meta要知道，科技巨头公司的竞争说白了玩儿的就是芯片。比方说谷歌的TPU，用来训练Palm-2和Imagen。亚马逊也有自己的芯片，用于训练AI模型。此外，有消息称微软也在和AMD开发一款叫Athena的芯片。这不，MITA的到来也是Meta不甘示弱的表现。Meta表示，2020年他们创建了第一代的MITA——MITA v1，采用的是7nm工艺。该芯片内部内存可以从128MB扩展到128GB，同时，在Meta设计的基准测试中，MITA在处理中低复杂度的AI模型时，效率要比GPU还高。在芯片的内存和网络部分，还有不少工作要做。随着AI模型的规模越来越大，MITA也即将遇到瓶颈。Meta需要将工作量分担到多个芯片上。对此，Meta表示，会继续完善MITA在运行推荐的工作量时每瓦的性能。早在2020年，Meta就已经为内部工作负载设计了第一代MTIA ASIC。此推理加速器是共同设计的全栈解决方案的一部分，包括芯片、PyTorch和推荐模型。该加速器采用台积电 7nm工艺制造，运行频率为800 MHz，在INT8精度下提供102...
智能设备 2023-05-21 01:34:10 -
第四范式涂威威：打造专属大模型的三大关键策略
【网易科技5月20日报道】第七届世界智能大会，第四范式副总裁、主任科学家涂威威出席高峰会并表示：生成式AI让企业软件的人机交互和应用价值内核价值都有了质的提升，而想要打造企业专属大模型，还需要满足三大条件。据介绍，三大条件即形成高质量的闭环数据、具备多步推理思维链（Chain of thoughts）的学习能力、解决大模型落地效率问题...
智能设备 2023-05-20 21:57:16 -
科技大佬论剑大模型：中国距世界一流还有多远，如何抓住百年机遇
一路“狂飙”的大模型，成为今年世界智能大会的焦点话题。5月18日，在第七届世界智能大会期间，李彦宏、周鸿祎、刘庆峰、王坚等互联网企业家代表不约而同地选择以大模型为主题演讲...
智能设备 2023-05-20 11:25:41 -
云从科技从容大模型发布可提供参考资料来源标注
【网易科技5月18日报道】今日，云从科技在广州举行人机协同发布会，推出了从容大模型。据现场介绍，该模型展示了问答、伴随和托管功能，具备多领域的个性化应用和出色的交互性...
智能设备 2023-05-18 18:25:34 -
开源人工智能模型崛起，追赶ChatGPT和谷歌，它好在哪
5月18日消息，谷歌和OpenAI正在开发专有的人工智能模型，但免费的开源模型也在激增。谷歌员工称，公司面临的压力越来越大，如果不推出更多开源模型，就可能在这场人工智能竞赛中落伍...
互联网 2023-05-18 17:04:22 -
周鸿祎公开演示大模型产品“360智脑”及“360鸿图”
【网易科技5月18日报道】第七届世界智能大会在天津开幕，360集团创始人周鸿祎在会上发表主题演讲并展示了两款大模型产品“360智脑”以及AI生图工具“360鸿图”。据悉，“360智脑”现场展示了理解力和推理力，在回答天津经济社会发展的相关问题时内容详实、条理清晰...
智能设备 2023-05-18 14:22:34 -
谷歌新一代AI大模型刚发布，就打算应用于广告业务
5月18日消息，内部文件显示，谷歌正在努力将最新的人工智能技术快速融入其核心产品和服务，公司已经批准了使用大语言模型推动生成式人工智能计划，应用于广告投放和协助YouTube创作者。上周，谷歌发布了其最新、功能最强大的大语言模型PaLM 2...
互联网 2023-05-18 13:08:05 -
360与智谱AI宣布战略合作，共同研发千亿级大语言模型“360GLM”
【网易科技5月16日报道】今日，360和智谱AI宣布达成战略合作，宣布双方共同研发的千亿级大模型“360GLM”已具备新一代认知智能通用模型水准。据了解，双方合作研发，这也是基础模型和应用场景的一次有效结合...
智能设备 2023-05-16 14:33:00 -
传OpenAI正准备发布新的开源语言模型
5月16日消息，当地时间周一，据知情人士透露，OpenAI正准备发布一款新的开源语言模型。去年11月份，OpenAI发布了人工智能聊天机器人ChatGPT，它可以根据指令生成散文或诗歌，因此在硅谷得到了广泛关注，投资者认为生成式人工智能是科技公司下一个重大增长领域...
业界动态 2023-05-16 08:44:19 -
凌晨重磅！Google版ChatGPT史诗级更新，新模型赶超GPT-4，要把搜索彻底颠覆
文章开始之前先说个冷知识：今年是Google举办I/O开发者大会的第15个年头。纵观近七年来的I/O大会，AI内容一直是Google的重中之重...
智能设备 2023-05-11 11:11:08 -
谷歌I/O：全新大模型赋能「全家桶」；广汽埃安+滴滴，2025量产L4车型；加入通话功能，推特变微信
极客早知道6minread谷歌I/O：全新大模型赋能「全家桶」；广汽埃安+滴滴，2025量产L4车型；加入通话功能，推特变微信Jesse2023/05/11摘要理想汽车第一季度营收187.9亿元，Non-GAAP净利润同比增长196.4%淘天集团CEO戴姗首次亮相，称将以「历史级投入」打响规模之战国家区块链技术创新中心落地北京中关村谷歌举办I/O23发布会，以AI为核心发布一系列新工具北京时间5月11日凌晨，谷歌举办了今年的GoogleI/O开发者大会。比起去年，强调「整合全球信息，使人人都能从访问中受益」的使命，谷歌CEOSundarPichai今年以「MakingAIhelpfulforeveryone」总领整个发布会，发布了一系列模型、产品、功能、平台...
区块链 2023-05-11 08:38:21 -
谷歌深夜王炸级更新！PaLM2大模型震撼发布！Bard写代码，哪里不懂点哪里！
这回，谷歌急了！他们这半年过得是真憋屈！近半年来AI的发展速度就像坐上了火箭，11月ChatGPT横空出世，今年2月发布的NewBing和3月发布的GPT-4，更是让许多大厂都难以望其项背。不甘落后的谷歌立刻推出聊天机器人Bard，结果因为演示视频中的小错误而导致股价大跌（其实GPT也会失误），现在，在谷歌一年一度的I/O大会上，谷歌需要让公众以及股东们相信其在AI方面的实力，来“一雪前耻”...
智能设备 2023-05-11 04:04:09
