-
谷歌PaLM2训练所用文本数据量是初代的近5倍
5月17日消息，谷歌上周在2023年I/O开发者大会上推出最新大型语言模型PaLM 2。公司内部文件显示，自2022年起训练新模型所使用的文本数据量几乎是前一代的5倍。据悉，谷歌最新发布的PaLM 2能够执行更高级的编程、运算和创意写作任务。内部文件透露，用于训练PaLM 2的token数量有3.6万亿个。所谓的token就是字符串，人们会将训练模型所用文本中的句子、段落进行切分，其中的每个字符串通常被称为token。这是训练大型语言模型的重要组成部分，能教会模型预测序列中接下来会出现哪个单词。谷歌于2022年发布的上一代大型语言模型PaLM在训练中使用了7800亿个token。尽管谷歌一直热衷于展示其在人工智能技术领域的实力，说明如何将人工智能嵌入到搜索引擎、电子邮件、文字处理和电子表格中，但一直不愿公布训练数据的规模或其他细节。微软支持的OpenAI也对最新发布的GPT-4大型语言模型细节保密。两家公司都表示，不披露这些信息的原因是人工智能行业存在激烈竞争。谷歌和OpenAI都想要吸引那些希望使用聊天机器人而不是传统搜索引擎搜索信息的用户。但随着人工智能领域竞争的白热化，研究界要求提高透明度。自推出PaLM 2以来，谷歌一直表示，新模型比之前的大型语言模型更小，这意味着该公司技术在完成更复杂任务时能变得更高效。参数（parameters）通常用于说明语言模型的复杂性。根据内部文件，PaLM 2接受了3400亿个参数的训练，初代的PaLM接受了5400亿个参数的训练。谷歌没有立即发表评论。谷歌在一篇关于PaLM 2的博客文章中表示，新模型使用了一种名为“计算最优缩放”（compute-optimal scaling）的“新技术”，能使得PaLM 2“更高效，整体性能更好，比如推理更快、服务参数更少，服务成本也更低。”在发布PaLM 2时，谷歌透露新模型接受了100种语言的训练，并能胜任各种各样的任务。包括谷歌试验性聊天机器人Bard在内的25项功能和产品用的都是PaLM 2。PaLM 2按参数规模有四个不同的版本，从小到大依次是Gecko（壁虎）、Otter（水獭）、Bison（野牛）和Unicorn（独角兽）。根据谷歌公开披露的信息，PaLM 2比任何现有模型都更强大。Facebook在今年2月份宣布推出名为LLaMA的大型语言模型，其在训练中用了1...
业界动态 2023-05-17 13:33:30 -
Meta开源多感官人工智能模型，整合文本、音频、视觉等六类数据
IT之家5月9日消息，Meta公司发布了一个新的开源人工智能模型ImageBind，该模型能够将多种数据流，包括文本、音频、视觉数据、温度和运动读数等整合在一起。该模型目前只是一个研究项目，还没有直接的消费者或实际应用，但它展示了未来生成式人工智能系统的可能性，这些系统能够创造出沉浸式、多感官的体验...
智能设备 2023-05-10 10:49:03 -
OpenAI推出Shap・E：基于文本数秒内生成高质量3D模型
IT之家5月9日消息，继文本生成图片模型DALL・E之后，OpenAI近日再次发布了Shap・E模型。用户可以输入文本，用于创建逼真且多样化的3D模型...
智能设备 2023-05-09 12:36:14 -
开发者用ChatGPT改造《上古卷轴5》游戏，赋予NPC“生命”
IT之家4月28日消息，MOD开发者近日结合ChatGPT、xVASynth和Whisper，改造《上古卷轴5》游戏中的NPC，让其更人性化、更遵从游戏角色设定。开发者在Reddit社区发帖，详细介绍了如何使用上述3项工具，为每个NPC创建记忆系统...
智能设备 2023-04-28 10:05:23 -
首部AI正式参与剧本创作的短剧《蝶羽游戏》年内开机
【网易科技4月27日报道】今日，北京一览科技与上海欢雀影业宣布达成合作，双方将共同开发多部基于AI编剧辅助生成剧本的影视长短剧项目。据悉，开篇项目《蝶羽游戏》为古装悬疑谍谋短剧，现已完成前期剧本撰写，由知名编剧徐婷执笔创作，在一览运营宝「AI编剧」的辅助下高效完成...
智能设备 2023-04-27 16:16:59 -
微软承认XboxDVR游戏录屏存在无法保存、分享、删除等问题
IT之家4月25日消息，微软近日停用了XboxDVR分享到Twitter的功能，现在部分玩家反馈XboxDVR功能无法正常执行保存、分享和删除操作。Xbox工程负责人EdenMarie发布推文承认这个问题，IT之家翻译推文内容如下：“我们正积极调查XboxDVR上传和删除操作问题”...
智能设备 2023-04-25 10:36:04 -
ROG7D游戏手机曝上半年发布：天玑9200+旗舰芯
在此之前ROG联合腾讯在国内发布了ROG7系列游戏手机，搭载了第二代骁龙8旗舰处理器。而该品牌还将在8月发布一款新机，命名为“ROG7D”处理器换装联发科天玑9200+...
手机互联 2023-04-24 08:28:37 -
人工智能如何打造下一个爆款游戏
4月18日消息，游戏公司表示，ChatGPT背后的技术将会极大地加速游戏开发，降低成本，并帮助玩家以新的方式与游戏角色互动。近几个月来，AIGC工具因能够根据简单的文本提示创建文本、图像甚至音乐而广受欢迎...
互联网 2023-04-18 12:41:02 -
日本世嘉约7.7亿美元收购《愤怒的小鸟》游戏开发商
4月17日消息，日本游戏巨头世嘉周一宣布，以7.06亿欧元（约合7.76亿美元）收购芬兰公司RovioEntertainmentOyj，即《愤怒的小鸟》游戏的开发商。世嘉表示，该交易将涵盖Rovio所有的股票和期权，每股股票定价为9.25欧元，较前一交易日溢价约19%...
互联网 2023-04-18 08:17:43 -
Meta大幅裁员内卷严重员工私下吐槽：仿佛真实版饥饿游戏
虽然科技业在这半年来集体都被裁员阴影笼罩，并疯狂降低支出，但Meta似乎是表现最“突出”的那一个。财联社4月13日讯（编辑马兰）2023年是Meta首席执行官扎克伯格口中的“效率年”，但在Meta的普通员工心中，2023年有望成为他们在Meta最深刻的“噩梦年”...
智能设备 2023-04-13 14:56:55 -
Epic游戏商城春季特卖活动开启：多款游戏大作首次特价出售
IT之家4月7日消息，Epic游戏商城春季特卖活动近日正式开启，多款游戏大作更是首次迎来折扣，以超低价格出售。Epic游戏商城春季特卖活动将从4月6日晚上11点开始，持续至4月20日晚上11点，部分游戏最高可享2.5折优惠...
智能设备 2023-04-07 10:21:05 -
亚马逊游戏部门宣布裁员100多人
4月5日消息，当地时间周二，亚马逊游戏部门高管宣布将裁员100多人。亚马逊游戏（AmazonGames）副总裁克里斯托弗·哈特曼(ChristophHartmann)在给员工的备忘录中写道，此次裁员涉及隶属于亚马逊视频游戏部门的游戏增长(GameGrowth)团队、亚马逊圣地亚哥游戏工作室和专门为亚马逊会员提供游戏服务的PrimeGaming团队...
互联网 2023-04-05 08:29:07
