-
谷歌PaLM2训练所用文本数据量是初代的近5倍
5月17日消息，谷歌上周在2023年I/O开发者大会上推出最新大型语言模型PaLM 2。公司内部文件显示，自2022年起训练新模型所使用的文本数据量几乎是前一代的5倍。据悉，谷歌最新发布的PaLM 2能够执行更高级的编程、运算和创意写作任务。内部文件透露，用于训练PaLM 2的token数量有3.6万亿个。所谓的token就是字符串，人们会将训练模型所用文本中的句子、段落进行切分，其中的每个字符串通常被称为token。这是训练大型语言模型的重要组成部分，能教会模型预测序列中接下来会出现哪个单词。谷歌于2022年发布的上一代大型语言模型PaLM在训练中使用了7800亿个token。尽管谷歌一直热衷于展示其在人工智能技术领域的实力，说明如何将人工智能嵌入到搜索引擎、电子邮件、文字处理和电子表格中，但一直不愿公布训练数据的规模或其他细节。微软支持的OpenAI也对最新发布的GPT-4大型语言模型细节保密。两家公司都表示，不披露这些信息的原因是人工智能行业存在激烈竞争。谷歌和OpenAI都想要吸引那些希望使用聊天机器人而不是传统搜索引擎搜索信息的用户。但随着人工智能领域竞争的白热化，研究界要求提高透明度。自推出PaLM 2以来，谷歌一直表示，新模型比之前的大型语言模型更小，这意味着该公司技术在完成更复杂任务时能变得更高效。参数（parameters）通常用于说明语言模型的复杂性。根据内部文件，PaLM 2接受了3400亿个参数的训练，初代的PaLM接受了5400亿个参数的训练。谷歌没有立即发表评论。谷歌在一篇关于PaLM 2的博客文章中表示，新模型使用了一种名为“计算最优缩放”（compute-optimal scaling）的“新技术”，能使得PaLM 2“更高效，整体性能更好，比如推理更快、服务参数更少，服务成本也更低。”在发布PaLM 2时，谷歌透露新模型接受了100种语言的训练，并能胜任各种各样的任务。包括谷歌试验性聊天机器人Bard在内的25项功能和产品用的都是PaLM 2。PaLM 2按参数规模有四个不同的版本，从小到大依次是Gecko（壁虎）、Otter（水獭）、Bison（野牛）和Unicorn（独角兽）。根据谷歌公开披露的信息，PaLM 2比任何现有模型都更强大。Facebook在今年2月份宣布推出名为LLaMA的大型语言模型，其在训练中用了1...
业界动态 2023-05-17 13:33:30 -
美股周二：三大股指全线下跌，谷歌涨逾2%，百度涨超4%
5月17日消息，美国时间周二，美股收盘主要股指全线下跌。投资者仍在关注美国白宫与国会就债务上限问题谈判的最新进展。道琼斯指数收于33012.14点，下跌336...
互联网 2023-05-17 07:39:42 -
DeepMind联合创始人警告谷歌：传统搜索引擎十年内消失
人工智能实验室DeepMind联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）向他的前雇主谷歌发出了严厉警告：互联网即将发生根本性变革，老式搜索引擎将在十年内消失。在近期接受No Priors播客节目采访时，苏莱曼表示：“如果我是谷歌，我会非常担心，因为老式搜索引擎将在十年内不复存在...
业界动态 2023-05-16 15:57:23 -
爱憎分明，谷歌员工看I/O大会：赞扬工程师，吐槽高管只会反复强调AI
5月15日消息，谷歌在上周召开了一年一度的I/O开发者大会，展示了公司最新的人工智能技术成果。据内部消息，许多谷歌员工认为工程师在公司股价大幅上涨中起到了更大的作用，而高管们则只会“一直反复强调人工智能”，这引起了员工们的嘲笑。以下是翻译内容：上周，谷歌员工们非常关注公司的年度开发者大会以及华尔街对此的积极反应。I/O大会之后，公司股票价格上涨了4.3%。从内部交流中可以看出，很多员工更倾向于将功劳归于公司的工程师，认为他们是主要贡献者，而非高管们。在谷歌的内部网站Memegen上，一张以母公司Alphabet的股价对比图的表情包最受欢迎，获得了几千个“赞”。图片左侧是公司股价下跌的图表，上面写着“高管们削减成本并回购股票”。右侧则是公司股价上涨的图表，上面写着：“工程师们完成了工作。”很多员工在评论区表扬同事，他们认为在全公司的努力下，工程师们不负众望做好了产品，准备迎接人工智能竞争的关键时刻。而在不久前，谷歌员工猛烈抨击首席执行官桑德尔·皮查伊(Sundar Pichai)。他们认为，在公司裁员和削减成本之际，皮查伊去年还获得了超过2亿美元的股票奖励。他们同时还批评了公司授权开展700亿美元的股票回购。上周三，谷歌宣布推出名为PaLM 2的新型通用大型语言模型，并在改进搜索引擎的人工智能技术方面取得了一系列进展。随后，谷歌母公司Alphabet的股价跃升至去年8月份以来的最高水平，当周累计上涨11%。自去年年底OpenAI公开发布人工智能聊天机器人ChatGPT以来，谷歌在生成式人工智能技术方面一直承受着巨大压力。微软作为OpenAI的支持者，将基于大型语言模型GPT的新技术嵌入必应搜索引擎和其他产品中。这让人们担心，谷歌在自家核心业务搜索引擎领域占据主导地位的日子可能不多了。今年2月份，谷歌在一次活动上仓促推广人工智能聊天机器人Bard，结果公司股价下跌7%。谷歌员工回应称，皮查伊的声明“仓促”且“拙劣”。此后，谷歌一直想要迅速将人工智能领域的消费级服务推向市场。在谷歌I/O开发者大会召开之后，员工们对Bard的一些更新非常认可，比如黑暗模式，这是工程师们非常喜欢的一个选项。当谷歌宣布这项功能后，人群中曾响起了热烈掌声。其中一个表情包获得了几百个赞，上面写着“我从I/O中学到了不少东西”，“谷歌仍然能给我留下深刻印象。”“那些努力工作的人做得很好”，“作为一个一直想制作讽刺表情包的人，很高兴被惊艳到了。”在另一个表情包中，谷歌员工们赞扬了工程副总裁戴夫·伯克(Dave Burke)在Android 14发布会上的演讲，说他在台上的呈现很真实，而不是典型的宣传套话。但在谷歌I/O开发者大会两小时的主题演讲中，员工们嘲笑高管们频繁使用人工智能这个词。其中一个非常受欢迎的表情包是一个卡通人物，上面配文说“2023年度I/O开发者大会提高了谷歌股价”，紧接着是“我一直在说人工智能，它就一直在涨。”另一个梗图说，“让我们在上面再撒一些人工智能/机器学习”，并展示了一大堆粉末，上面写着“谷歌2023年度I/O开发者大会”的字样。其他员工则选择用歌曲或电影角色恶搞公司首席执行官皮查伊，称他一直在大会上反复说人工智能这个词。谷歌发言人拒绝置评。去年，Alphabet股价下跌近40%。但今年以来上涨了33%。（辰辰） ...
互联网 2023-05-15 16:30:21 -
-
谷歌PixelFold：折叠屏旗舰，提供全面客服与保修
谷歌最近发布了 Pixel Fold，这是一款折叠屏智能手机。这款新产品采用了 Tensor 处理器，使其比其他折叠屏手机更快、更流畅...
手机互联 2023-05-14 23:41:48 -
苹果又羞辱了一次谷歌！8亿人使用谷歌RCS，但不包括iPhone用户
北京时间5月11日，谷歌举行了开发者大会，宣布了很多针对Android和Pixel产品的新东西。但演讲中，谷歌再次强调苹果没有在iPhone上提供对RCS消息协议的支持...
手机互联 2023-05-14 23:41:40 -
网络出版商担忧谷歌AI搜索会白嫖内容损害网站流量收益
5月12日消息，当地时间本周三，谷歌宣布将生成式人工智能引入搜索引擎，这可能是谷歌搜索引擎历史上最大的变化之一。但网络出版商普遍担心，全新的谷歌搜索可能会影响到他们网站的流量...
互联网 2023-05-12 10:00:59 -
谷歌折叠屏手机曝光外观眼熟
近期多个消息来源透露，谷歌正在研发一款名为Pixel Fold的折叠屏手机。该手机采用类似书本的横向折叠方案，折叠后的尺寸非常适合单手握持，并且外观设计十分吸引人，而目前外观照片爆出，有些像OPPO旗下的折叠屏。谷歌Pixel Fold的外屏采用5.8英寸OLED屏幕，内屏采用一块7...
手机互联 2023-05-12 09:46:34 -
谷歌推动PixelFold手机销量：高价折抵吸引iPhone用户购买
IT之家 5 月 12 日消息，谷歌为了吸引更多消费者购买 Pixel Fold 可折叠手机，不仅赠送 Pixel Watch 智能手表，而且大幅提高了以旧换新的折抵价格。IT之家访问谷歌 Pixel Fold 以旧换新页面，发现 128GB 存储空间的 iPhone 14 Pro 手机的最高折抵价格为 900 美元，仅比全新价格便宜 100 美元...
手机互联 2023-05-12 09:46:20 -
美股周四：道指四连跌，谷歌再涨逾4%，京东、拼多多涨超7%
5月12日消息，美国时间周四，美股收盘主要股指涨跌不一，纳指小幅上涨。数据显示美国就业市场放缓，同时市场再度担忧美国地区银行的健康状况。道琼斯指数收于33309.51点，下跌221...
互联网 2023-05-12 07:45:59 -
谷歌一雪前耻！全新PaLM2反超GPT-4，办公全家桶炸裂升级，Bard史诗进化
新智元报道编辑：编辑部【新智元导读】新版PaLM2超强进化，办公全家桶Workspace全面升级，Bard全面增强、所有人可用……可以看出，这届I/O大会，谷歌是真的憋出不少大招。谷歌I/O2023大会，仿佛又给谷歌的支持者们打了一针强心剂...
智能设备 2023-05-11 11:11:58
