热门搜索
-
小扎豪赌大模型！Meta重磅推出定制芯片MTIAv1和全新超算
新智元报道编辑：拉燕 Aeneas【新智元导读】全世界都在卷大模型，小扎也急了。如今，Meta为了发展AI，在定制芯片和超算上下了大赌注。Meta也有纯自研芯片了！本周四，Meta发布第一代AI推理定制芯片MTIA v1和超算。可以说，MTIA对Meta是一个巨大的福音，尤其是现在各家都在卷大模型，对AI算力的需求变得越来越高。小扎最近表示，Meta看到了「以有用和有意义的方式向数十亿人介绍人工智能代理的机会」。显然，随着Meta加大对AI的投入，MTIA芯片和超算计划将是Meta与其他科技巨头竞争的关键工具，现在没有哪家巨头不在AI上投入大量资源。可以看到，凭着定制芯片和超算，Meta在AI上下了大赌注。MTIA在最近的一次线上活动中，Meta拉开了开发自己的基础设施的序幕。新芯片全名是Meta训练和推理加速器，简称MTIA。MTIA是一种ASIC，一种将不同电路组合在一块板上的芯片，允许对其进行编程，以并行执行一项或多项任务。Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道，MTIA是Meta「针对推理工作负载的内部定制加速器芯片系列」，它提供了比CPU「更高的计算能力和效率」，并且「为我们的内部工作负载定制」。通过结合MTIA芯片和GPU，Janardhan 表示，Meta相信「我们将为每个工作负载提供更好的性能、更低的延迟和更高的效率。」不得不说，这是Meta实力的投射。其实，一直以来，Meta在应用AI友好型硬件系统方面进展并不迅速。这影响了Meta和竞对（如微软、谷歌等）保持同步发展的能力。Meta基础设施副总裁Alexis Bjorlin在一次采访中表示，构建属于自己的硬件，Meta就有能力控制堆栈的每一层，包括数据中心设计到培训框架。这种垂直的整合水平对于大规模推动AI研究边界是必不可少的。在过去的十年里，Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型。Meta也一直在努力将其许多更宏伟的AI创新研究投产，尤其是生成式AI。一直到2022年，Meta一直主要用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行。而CPU和芯片的组合在执行这类任务的效率上通常会低于GPU。于是Meta取消了原本打算在2022年大规模推广的定制芯片，转而订购了价值数十亿美元的英伟达GPU。引入这些GPU，Meta需要对旗下的几个数据中心进行颠覆性的重新设计。而为了扭转这一局面，Meta计划开发一款内部芯片，预计于2025年推出。这款内部芯片既能训练AI模型，还能运行AI模型，可谓性能强大。主角终于来了——新芯片名叫MITA，全称Meta Training and Inference Accelerator.这款芯片可以用来加速AI训练和推理的效率。研究团队表示，MTIA是一种ASIC，指的是一种在一块板上组合不同电路的芯片。通过编程，该芯片能同时执行一项或多项任务。专为AI工作负载定制的AI芯片Meta要知道，科技巨头公司的竞争说白了玩儿的就是芯片。比方说谷歌的TPU，用来训练Palm-2和Imagen。亚马逊也有自己的芯片，用于训练AI模型。此外，有消息称微软也在和AMD开发一款叫Athena的芯片。这不，MITA的到来也是Meta不甘示弱的表现。Meta表示，2020年他们创建了第一代的MITA——MITA v1，采用的是7nm工艺。该芯片内部内存可以从128MB扩展到128GB，同时，在Meta设计的基准测试中，MITA在处理中低复杂度的AI模型时，效率要比GPU还高。在芯片的内存和网络部分，还有不少工作要做。随着AI模型的规模越来越大，MITA也即将遇到瓶颈。Meta需要将工作量分担到多个芯片上。对此，Meta表示，会继续完善MITA在运行推荐的工作量时每瓦的性能。早在2020年，Meta就已经为内部工作负载设计了第一代MTIA ASIC。此推理加速器是共同设计的全栈解决方案的一部分，包括芯片、PyTorch和推荐模型。该加速器采用台积电 7nm工艺制造，运行频率为800 MHz，在INT8精度下提供102...
智能设备 2023-05-21 01:34:10 -
Meta挖来AI网络芯片专业团队，开发AI超算系统
5月6日消息，Facebook母公司Meta最近聘请了一个人工智能网络芯片专业团队。该团队曾长期为英国芯片独角兽公司Graphcore开发人工智能网络技术，直至去年年底...
业界动态 2023-05-07 12:43:16 -
特斯拉起诉前工程师盗取超算机密，最终双方和解
4月20日消息，特斯拉和前员工亚历山大·亚茨科夫(AlexanderYatskov)的法律纠纷已经结束。此前，特斯拉指控亚茨科夫窃取与人工智能超级计算机Dojo相关的商业机密并提起诉讼...
互联网 2023-04-20 21:02:18 -
科技部启动国家超算互联网部署工作
4月17日消息，科技部高新司在天津组织召开国家超算互联网工作启动会。中国工程院院士李国杰，中国科学院院士、超算互联网总体专家组组长钱德沛，中国工程院院士孙凝晖等多位专家，有关高校、科研机构代表，各国家超算中心负责人，网络运营商代表，以及上下游相关企业及用户代表参会，分享超算运营服务经验，探讨国家超算互联网建设路径，加快构建超算自主生态体系，落实超算互联网行动方案...
互联网 2023-04-18 08:17:45 -
谷歌公布新一代AI超算，称比英伟达A100更快、更节能
4月5日消息，当地时间周二，Alphabet旗下的谷歌公开了一些新细节，展示了用于训练人工智能模型的超级计算机，称其比英伟达A100芯片的系统更快、更节能。谷歌公司设计了自己的定制芯片，称为TensorProcessingUnit(TPU)，并将这些芯片应用于90%以上的人工智能训练工作...
业界动态 2023-04-05 09:12:32 -
谷歌公布新一代AI超算，称比英伟达A100更快、更节能
4月5日消息，当地时间周二，Alphabet旗下的谷歌公开了一些新细节，展示了用于训练人工智能模型的超级计算机，称其比英伟达A100芯片的系统更快、更节能。谷歌公司设计了自己的定制芯片，称为TensorProcessingUnit(TPU)，并将这些芯片应用于90%以上的人工智能训练工作...
业界动态 2023-04-05 09:12:32 -
微软为ChatGPT打造专用超算！砸几亿美元，上万张英伟达A100打造
萧箫发自凹非寺量子位|公众号QbitAI微软砸下大几亿美元，专门为训练ChatGPT打造了一台超算——上万张英伟达A100芯片打造，甚至专门为此调整了服务器架构，只为给ChatGPT和新必应AI提供更好的算力。△图源：微软不仅如此，微软还在Azure的60多个数据中心部署了几十万张GPU，用于ChatGPT的推理...
智能设备 2023-03-15 09:53:24 -
谷歌：在量子计算机上取得重大进展！
量子计算机朝实用的方向迈进了一大步。当地时间2月22日，谷歌宣布，在量子计算机的纠错方面取得了突破，这一研究结果已发表在英国《自然》杂志上...
智能设备 2023-02-23 09:57:26 -
美计算机专业学生：突然间大公司就不要这么多人了，很焦虑
12月7日消息，随着谷歌、Meta、亚马逊等大型科技公司纷纷裁员、暂停或放缓招聘，那些曾经一心想要打入科技行业、谋得一份高薪职位的计算机科学专业大学生都面临着新的选择。有些人开始把期望的标准降低，有些人转而到科技行业之外寻找新的技术岗位...
业界动态 2022-12-07 15:08:16 -
树莓派CEO及其妻子被英国国家计算机博物馆授予荣誉院士称号
IT之家11月22日消息，树莓派公司首席执行官埃本・厄普顿（EbenUpton），及其妻子同时也是该公司的首席营销官丽兹・厄普顿（LizUpton）因对计算机科学的贡献，近日被英国国家计算机博物馆授予荣誉院士（honoraryfellowships）称号。IT之家了解到，该博物馆总部位于英国布莱切利公园，在第二次世界大战期间是国家密码破译工作的中心，也是阿兰・图灵（AlanTuring）帮助发明第一台可编程电子数字计算机（Colossus）的地方，该博物馆现在包括从20世纪60年代开始的计算机展示，以及一台正在运行的ColossusMarkII...
智能设备 2022-11-22 12:09:38 -
通过SQLSERVER重启SQLSERVER服务和计算机的方法
昨天和朋友在网上谈到SQL语句的应用，我朋友的远程服务器出现了无法连接的现象，问题的原因是远程服务器到达了最大连接数，为了实现远程重新启动，从而想到了用SQL语句命令实现这个功能，但是具体的命令格式给忘记了，找了点资料，把方法写在下面，希望可以给大家一些帮助吧，呵呵首先在本地计算机--创建重启脚本复制代码代码如下:declare@oint,@fint,@tint,@retintexecsp_oacreate'scripting.filesystemobject',@ooutexecsp_oamethod@o,'createtextfile',@fout,'c:restart.bat',1exec@ret=sp_oamethod@f,'writeline',NULL,'netstopmssqlserver'exec@ret=sp_oamethod@f,'writeline',NULL,'netstartmssqlserver'通过SQL数据库连接到远程服务器--执行重启脚本execmaster..xp_cmdshell'c:restart.bat'/*如果重新启动计算机，请确认mssql...
数据库操作教程 2022-09-23 20:23:27 -
百度发布超导量子计算机“乾始”、量子软硬一体解决方案“量羲”
8月25日消息，今日，百度发布超导量子计算机“干始”，以及量子软硬一体解决方案“量羲”。据悉，“量羲”集量子硬件、量子软件、量子应用于一体，提供移动端、PC端、云端等在内的全平台使用方式...
互联网 2022-08-25 13:46:24
