-
小扎豪赌大模型！Meta重磅推出定制芯片MTIAv1和全新超算
新智元报道编辑：拉燕 Aeneas【新智元导读】全世界都在卷大模型，小扎也急了。如今，Meta为了发展AI，在定制芯片和超算上下了大赌注。Meta也有纯自研芯片了！本周四，Meta发布第一代AI推理定制芯片MTIA v1和超算。可以说，MTIA对Meta是一个巨大的福音，尤其是现在各家都在卷大模型，对AI算力的需求变得越来越高。小扎最近表示，Meta看到了「以有用和有意义的方式向数十亿人介绍人工智能代理的机会」。显然，随着Meta加大对AI的投入，MTIA芯片和超算计划将是Meta与其他科技巨头竞争的关键工具，现在没有哪家巨头不在AI上投入大量资源。可以看到，凭着定制芯片和超算，Meta在AI上下了大赌注。MTIA在最近的一次线上活动中，Meta拉开了开发自己的基础设施的序幕。新芯片全名是Meta训练和推理加速器，简称MTIA。MTIA是一种ASIC，一种将不同电路组合在一块板上的芯片，允许对其进行编程，以并行执行一项或多项任务。Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道，MTIA是Meta「针对推理工作负载的内部定制加速器芯片系列」，它提供了比CPU「更高的计算能力和效率」，并且「为我们的内部工作负载定制」。通过结合MTIA芯片和GPU，Janardhan 表示，Meta相信「我们将为每个工作负载提供更好的性能、更低的延迟和更高的效率。」不得不说，这是Meta实力的投射。其实，一直以来，Meta在应用AI友好型硬件系统方面进展并不迅速。这影响了Meta和竞对（如微软、谷歌等）保持同步发展的能力。Meta基础设施副总裁Alexis Bjorlin在一次采访中表示，构建属于自己的硬件，Meta就有能力控制堆栈的每一层，包括数据中心设计到培训框架。这种垂直的整合水平对于大规模推动AI研究边界是必不可少的。在过去的十年里，Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型。Meta也一直在努力将其许多更宏伟的AI创新研究投产，尤其是生成式AI。一直到2022年，Meta一直主要用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行。而CPU和芯片的组合在执行这类任务的效率上通常会低于GPU。于是Meta取消了原本打算在2022年大规模推广的定制芯片，转而订购了价值数十亿美元的英伟达GPU。引入这些GPU，Meta需要对旗下的几个数据中心进行颠覆性的重新设计。而为了扭转这一局面，Meta计划开发一款内部芯片，预计于2025年推出。这款内部芯片既能训练AI模型，还能运行AI模型，可谓性能强大。主角终于来了——新芯片名叫MITA，全称Meta Training and Inference Accelerator.这款芯片可以用来加速AI训练和推理的效率。研究团队表示，MTIA是一种ASIC，指的是一种在一块板上组合不同电路的芯片。通过编程，该芯片能同时执行一项或多项任务。专为AI工作负载定制的AI芯片Meta要知道，科技巨头公司的竞争说白了玩儿的就是芯片。比方说谷歌的TPU，用来训练Palm-2和Imagen。亚马逊也有自己的芯片，用于训练AI模型。此外，有消息称微软也在和AMD开发一款叫Athena的芯片。这不，MITA的到来也是Meta不甘示弱的表现。Meta表示，2020年他们创建了第一代的MITA——MITA v1，采用的是7nm工艺。该芯片内部内存可以从128MB扩展到128GB，同时，在Meta设计的基准测试中，MITA在处理中低复杂度的AI模型时，效率要比GPU还高。在芯片的内存和网络部分，还有不少工作要做。随着AI模型的规模越来越大，MITA也即将遇到瓶颈。Meta需要将工作量分担到多个芯片上。对此，Meta表示，会继续完善MITA在运行推荐的工作量时每瓦的性能。早在2020年，Meta就已经为内部工作负载设计了第一代MTIA ASIC。此推理加速器是共同设计的全栈解决方案的一部分，包括芯片、PyTorch和推荐模型。该加速器采用台积电 7nm工艺制造，运行频率为800 MHz，在INT8精度下提供102...
智能设备 2023-05-21 01:34:10 -
公布全新定制芯片，Meta豪赌AI，更新基础设施花费创纪录
5月19日消息，过去一年，社交媒体巨头Meta致力于削减成本和裁员，但更新基础设施的花费却创下了纪录，这是为了在AI竞赛中保持领先地位。当地时间周四，Meta发布了一系列新技术，这包括一种新的定制芯片，能够帮助更快地训练AI，以及一款编程工具，可为程序员提供开发产品的建议。此外，该公司还在改造其旗下数据中心，以便更轻松地部署AI技术。Meta首席执行官马克·扎克伯格（Mark Zuckerberg）在一份电子邮件声明中说："这项工作反映了我们长期的努力，将使我们在各个领域中能够更好地利用这项技术，并取得更多的进步。”为了加速Facebook和Instagram上的推荐算法，Meta正在开发一款定制加速器芯片。此外，该公司还推出了一个专门为AI硬件设计的新数据中心。据Meta表示，他们已完成AI超级计算机的第二阶段建设，用于训练类似ChatGPT的大语言模型。去年，Meta的资本支出创下了历史新高，达到了314亿美元，比2017年增加了4.5倍以上。扎克伯格曾称今年是Meta的“效率年”，分析人士估计，Meta今年的投资水平将与2022年相当，其中很多资金将用于改进和扩大AI基础设施。Meta AI研究主管金·哈泽尔伍德（Kim Hazelwood）表示：“虽然我们在提高效率方面遇到了一些困难，但这并不意味着在投资AI和提升效率之间存在直接的竞争。”一些AI更新显然提高了Meta的内部效率，这导致公司在最近几个月内裁掉了数千名员工。CodeCompose是一款基于生成式AI的新型开发工具，可以为开发人员自动完成编程工作或提供修改代码的建议。Meta表示，目前已有5200名内部程序员在使用CodeCompose，其中AI提出的编写代码建议中有22%被采纳。Meta还越来越多地使用AI来解决最大的业务问题。由于苹果公司调整了隐私政策，很多广告商的数字广告精确定位目标用户更加困难，Meta计划利用AI来猜测用户的兴趣。为了与短视频平台TikTok竞争，Facebook和Instagram也开始展示用户并不关注的账户内容，这需要一种算法来猜测用户可能对什么感兴趣。市场研究公司CFRA Research分析师安吉洛·齐诺（Angelo Zino）在接受采访时表示，投资者将会寻求直接的证据来证明这些改进，以证明大笔支出是合理的。“很明显，这些事情需要一些时间，不可能一蹴而就，” 齐诺谈到Meta整体增加资本支出时表示。“肯定会有大量审核，确保能够加速实现收入方面的一些回报。”当我们询问AI模型时，它们会做出回答，这个过程就是所谓的推理，这需要特定类型的运算过程。Meta决定开发新的芯片MTIA（Meta Training and Inference Accelerator，意思是Meta训练和推理加速器），帮助完成内部特定的工作，补充英伟达GPU的数量不足（即使已大量采购）。Meta希望MTIA芯片能提升能力，为用户预测更准确、更有趣的原创和广告内容类型，从而让人们花更多时间使用应用程序并点击更多广告。该公司还推出了第一款专门用于处理视频和直播内容的内部专用集成电路(ASIC)。Facebook和Instagram用户每天分享的短视频已经超过20亿个。无论用户使用何种设备观看视频，这款新型处理器都可以帮助用户更快地显示这些视频，并且需要更少的流量。Meta的硬件工程副总裁亚历克西斯·比约林(Alexis Bjorlin)表示：“我们成功地对第一批芯片进行了优化、平衡和精准调整，以适应我们的推荐模型。”“我们清楚了解到生成式AI工作负载或其他相关需求，这些信息都尽在掌握。”Meta社交媒体app使用的推荐引擎基于当前的AI技术，但未来生成式AI的运行将依赖Meta的AI超级计算机Research SuperCluster。公司将利用这款超算训练大量的AI模型。周四，Meta宣布已完成第二阶段的建设，训练了名为LLaMA的大语言模型。这将成为公司建造虚拟现实平台元宇宙的关键部分。Meta一直致力于向外界开放其一些先进技术。虽然其堆栈中的大部分硬件限内部使用，但部分成果是开源的。和LLaMA模型一样，由Meta超级计算机训练出来、可解十道国际奥数竞赛难题的AI模型也已与研究人员共享。代码开发工具CodeCompose则基于Meta AI研究团队公开的技术成果构建。此外，新推理芯片将有助于Meta继续支持PyTorch，这是其创建的开源AI框架，并已转移到Linux基金会，以增加其独立性。尽管Meta多年来一直致力于开发AI工具，但扎克伯格仍然选择将公司未来设立在更加模糊的虚拟现实愿景之上。投资研究机构Third Bridge分析师斯科特·凯斯勒(Scott Kessler)表示，这种转变受到了投资者的严厉审视，因此此次对AI基础设施的深度投资可以帮助投资者重建对扎克伯格整体战略的信心。凯斯勒表示，当行业竞相将AI融入业务之时，“他们不想输在起跑线上，”他说：“相比六到九个月前，现在更多人相信这种说法了。”（辰辰） ...
业界动态 2023-05-19 17:20:48 -
喜大普奔iPhone可以同步Windows11了
微软表示，其Phone Link应用对iPhone的支持现在已经对所有Windows 11用户开放。微软在2月份宣布，该功能允许在iPhone和PC之间同步通话、联系人和信息，包括有限的iMessage支持。自2015年以来，Phone Link一直存在（以不同的名称）用于安卓同步的桌面功能，但这是它第一次支持iPhone手机。微软已经部署了一个分阶段的发射，从2月下旬的部分Windows Insider预览版测试者开始。然后，该公司在上个月开始推出普遍可用性，承诺在5月中旬支持所有Windows 11用户。所以，就在今天，它说每个拥有Windows PC和iPhone的人现在都可以使用这个新功能。iPhone的Phone Link有几个限制，而安卓手机则没有。首先，虽然它支持iMessage同步，但它不能用于群组聊天或发送图片和视频。此外，语音信息和iMessage应用程序也无法使用。不过，它还是可以作为一个方便的内置服务，让你免于在电脑和手机之间切换。要开始使用，你要在Windows任务栏中搜索 "Phone Link"。打开该应用程序后，你仍然需要在两台设备上设置一些东西。首先，选择iPhone作为你的设备类型，并使用你的手机摄像头扫描Phone Link应用程序中的QR码。设备将通过蓝牙配对，你需要在iPhone和PC上确认几个权限。它支持任何运行iOS 14.0或更高版本的iPhone。 ...
手机互联 2023-05-19 08:56:11 -
云从科技从容大模型发布可提供参考资料来源标注
【网易科技5月18日报道】今日，云从科技在广州举行人机协同发布会，推出了从容大模型。据现场介绍，该模型展示了问答、伴随和托管功能，具备多领域的个性化应用和出色的交互性...
智能设备 2023-05-18 18:25:34 -
美团外卖：直播商品券让商家货架交易同步增加50%
5月17日消息，近日美团外卖公布了首场直播带动货架的“交叉销售”数据。数据现实，平均1张商品券核销带动产生了商品券价值1.5倍的订单交易额。此前的4月18日，美团外卖举办首场神券节直播，100多个品牌商家参与了此次活动，品牌商家交易额周增速均值超30%。活动期间，蜜雪冰城销售额破1亿；瑞幸仅生椰拿铁一个商品就卖出100万杯。数据统计发现，多数用户在核销时还会加购其他商品，平均加购金额约为商品券金额的50%。此外，活动直播带来的大流量曝光为品牌获取了不少新客，核销订单中有42%来自该品牌新用户。美团方面表示，神券节第二场直播将于5月18日再次开展，此次直播将有明星艺人以及美食达人参与。据悉美团本次神券节直播在资源投入、商家参与度上将比上一场有更大提升。 ...
互联网 2023-05-17 19:01:18 -
Tourbox发布全新控制器配套软件改善摄影创作流程
【网易科技5月13日报道】数字创作控制器Tourbox在2023 CHINA P&E展会上发布了全新配套软件系统TourBox Console 5.0，旨在为摄影师、剪辑师、绘师等数字创作者提供更加优化的照片编辑管理流程。据介绍，该软件系统与主流软件兼容，能够快速完成浏览照片、标记、选图、调色、修图和输出等操作，为创作者提供了更直观、高效的创作体验。据悉，TourBox Console 5...
智能设备 2023-05-13 21:02:05 -
FF91已生产40辆：5月底开启第一阶段交付
Tech星球5月12日消息，Faraday Future公布的2023年第一季度财报数据显示，FF一季度亏损大幅下降，FF91生产顺利且交车计划正常。其中，最令外界关注的车辆碰撞测试成功通过测试项目。财报数据显示，截至2023年3月31日，FF季度经营性支出为8300万美元，季度净收入为650万美元，用于经营活动的净现金为1.032亿美元。资产负债表方面，公司截至2023年3月31日，FF拥有现金3300万美元，其中包括150万美元的限制性现金。FF在2023年的生产交付计划已取得初步进展，并按计划在今年3月开始公司首款旗舰车型FF 91的生产，并按照三阶段计划交付。FF在投资者会议上表示，FF汉福德团队正在努力进行产量爬坡，目标是为公司的用户尽快提供最高质量的FF 91车辆。截至目前，FF已经生产了40辆用于工程、测试、营销和用户的车辆，并已经制造出FMVSS测试所需的所有车辆。此前3月30日，Faraday Future（法拉第未来）首次正式宣布启动生产FF 91 Futurist量产车型。FF全球CEO陈雪峰、FF创始人兼CPUO贾跃亭、FF全球产品执行高级副总裁Matthias Aydt等进行演讲并展示美国加州FF ieFactory California工厂现场。贾跃亭在演讲中感叹道：“九年，为梦想窒息”。公开资料显示，法拉第未来（Faraday Future）为贾跃亭旗下造车公司，总部位于美国洛杉矶 ，全球员工规模为超过1000人，在开发首款电动车产品，其将特斯拉作为标杆和目标。2017年1月3日，Faraday Future在拉斯维加斯正式发布首款量产电动车FF91。 ...
智能设备 2023-05-13 10:25:53 -
谷歌一雪前耻！全新PaLM2反超GPT-4，办公全家桶炸裂升级，Bard史诗进化
新智元报道编辑：编辑部【新智元导读】新版PaLM2超强进化，办公全家桶Workspace全面升级，Bard全面增强、所有人可用……可以看出，这届I/O大会，谷歌是真的憋出不少大招。谷歌I/O2023大会，仿佛又给谷歌的支持者们打了一针强心剂...
智能设备 2023-05-11 11:11:58 -
凌晨重磅！Google版ChatGPT史诗级更新，新模型赶超GPT-4，要把搜索彻底颠覆
文章开始之前先说个冷知识：今年是Google举办I/O开发者大会的第15个年头。纵观近七年来的I/O大会，AI内容一直是Google的重中之重...
智能设备 2023-05-11 11:11:08 -
谷歌I/O：全新大模型赋能「全家桶」；广汽埃安+滴滴，2025量产L4车型；加入通话功能，推特变微信
极客早知道6minread谷歌I/O：全新大模型赋能「全家桶」；广汽埃安+滴滴，2025量产L4车型；加入通话功能，推特变微信Jesse2023/05/11摘要理想汽车第一季度营收187.9亿元，Non-GAAP净利润同比增长196.4%淘天集团CEO戴姗首次亮相，称将以「历史级投入」打响规模之战国家区块链技术创新中心落地北京中关村谷歌举办I/O23发布会，以AI为核心发布一系列新工具北京时间5月11日凌晨，谷歌举办了今年的GoogleI/O开发者大会。比起去年，强调「整合全球信息，使人人都能从访问中受益」的使命，谷歌CEOSundarPichai今年以「MakingAIhelpfulforeveryone」总领整个发布会，发布了一系列模型、产品、功能、平台...
区块链 2023-05-11 08:38:21 -
后摩智能发布存算一体智驾芯片“鸿途H30”
5月10日消息，后摩智能正式发布存算一体智驾芯片——鸿途H30，最高物理算力256TOPS，典型功耗35W。后摩智能创始人兼CEO吴强表示：“2年前，后摩智能成立，我们坚定地选择以存算一体的底层架构创新，来实现AI计算效率的极致突破...
业界动态 2023-05-10 17:23:24 -
OpenAI推出Shap・E：基于文本数秒内生成高质量3D模型
IT之家5月9日消息，继文本生成图片模型DALL・E之后，OpenAI近日再次发布了Shap・E模型。用户可以输入文本，用于创建逼真且多样化的3D模型...
智能设备 2023-05-09 12:36:14
