-
谷歌PaLM2训练所用文本数据量是初代的近5倍
5月17日消息,谷歌上周在2023年I/O开发者大会上推出最新大型语言模型PaLM 2。公司内部文件显示,自2022年起训练新模型所使用的文本数据量几乎是前一代的5倍。据悉,谷歌最新发布的PaLM 2能够执行更高级的编程、运算和创意写作任务。内部文件透露,用于训练PaLM 2的token数量有3.6万亿个。所谓的token就是字符串,人们会将训练模型所用文本中的句子、段落进行切分,其中的每个字符串通常被称为token。这是训练大型语言模型的重要组成部分,能教会模型预测序列中接下来会出现哪个单词。谷歌于2022年发布的上一代大型语言模型PaLM在训练中使用了7800亿个token。尽管谷歌一直热衷于展示其在人工智能技术领域的实力,说明如何将人工智能嵌入到搜索引擎、电子邮件、文字处理和电子表格中,但一直不愿公布训练数据的规模或其他细节。微软支持的OpenAI也对最新发布的GPT-4大型语言模型细节保密。两家公司都表示,不披露这些信息的原因是人工智能行业存在激烈竞争。谷歌和OpenAI都想要吸引那些希望使用聊天机器人而不是传统搜索引擎搜索信息的用户。但随着人工智能领域竞争的白热化,研究界要求提高透明度。自推出PaLM 2以来,谷歌一直表示,新模型比之前的大型语言模型更小,这意味着该公司技术在完成更复杂任务时能变得更高效。参数(parameters)通常用于说明语言模型的复杂性。根据内部文件,PaLM 2接受了3400亿个参数的训练,初代的PaLM接受了5400亿个参数的训练。谷歌没有立即发表评论。谷歌在一篇关于PaLM 2的博客文章中表示,新模型使用了一种名为“计算最优缩放”(compute-optimal scaling)的“新技术”,能使得PaLM 2“更高效,整体性能更好,比如推理更快、服务参数更少,服务成本也更低。”在发布PaLM 2时,谷歌透露新模型接受了100种语言的训练,并能胜任各种各样的任务。包括谷歌试验性聊天机器人Bard在内的25项功能和产品用的都是PaLM 2。PaLM 2按参数规模有四个不同的版本,从小到大依次是Gecko(壁虎)、Otter(水獭)、Bison(野牛)和Unicorn(独角兽)。根据谷歌公开披露的信息,PaLM 2比任何现有模型都更强大。Facebook在今年2月份宣布推出名为LLaMA的大型语言模型,其在训练中用了1...
业界动态 2023-05-17 13:33:30 -
旗下首款联名手机:小米Civi迪士尼100周年特别合作款官宣
IT之家 5 月 17 日消息,小米手机官方今日宣布:小米 Civi 迪士尼 100 周年特别合作来了!据介绍,这是小米品牌首款联名产品,将会挑选一位迪士尼角色 IP 进行联名,但未公布具体发布时间。我们将携手,为迪士尼粉丝准备 100 周年的惊喜礼物...
智能设备 2023-05-17 12:09:50 -
全系标配潜望式长焦,OPPOReno10系列提前解析
进入五月下旬将会有多款重磅机型发布,比如:iQOO Neo8系列、荣耀90系列以及OPPO Reno10系列等等。目前iQOO Neo8系列与OPPO Reno 10系列发布日期已经确认,前者也开始了预热,后者目前已经上架官网开启了预约。根据行业的信息今天重点给大家提前解析下OPPO Reno10系列,其中:OPPO Reno10是基于高通骁龙778G处理器打造的,采用的是6.7英寸、2412*1080分辨率、120Hz刷新率、居中打孔OLED屏幕;前置摄像头为3200万像素,后置主摄为6400万像素(OV64B),超广角为800万像素,另外有一颗3200万像素(IMX709)的长焦镜头;内置电池为4600毫安,支持80W有线快充。注:机身重量为180克,机身厚度为7...
手机互联 2023-05-17 08:47:15 -
美股周二:三大股指全线下跌,谷歌涨逾2%,百度涨超4%
5月17日消息,美国时间周二,美股收盘主要股指全线下跌。投资者仍在关注美国白宫与国会就债务上限问题谈判的最新进展。道琼斯指数收于33012.14点,下跌336...
互联网 2023-05-17 07:39:42 -
虎牙2023年Q1财报:总收入19.5亿元,移动端MAU达8210万
5月16日消息,虎牙公司(NYSE:HUYA)公布了2023年第一季度财报。财报显示,第一季度,虎牙公司总收入为19.5亿元。按照美国通用会计准则,2023年第一季度,虎牙公司的毛利润为2...
互联网 2023-05-16 18:29:50 -
百度第一季度营收311亿元同比增10%,净利润57亿元
5月16日消息,百度(NASDAQ:BIDU,HKEX:9888)发布了截至2023年3月31日的第一季度未经审计的财务报告。第一季度,百度实现营收311亿元,同比增长10%;归属百度的净利润(non-GAAP)达到57亿元,同比增长48%。第一季度,百度核心经营利润(non-GAAP)同比大幅增长45%至53.6亿元。百度智能云在本季度实现了盈利(non-GAAP)。百度核心的在线营销收入为166亿元,同比增长6%。此外,一季度,百度回购股份1...
互联网 2023-05-16 17:12:37 -
DeepMind联合创始人警告谷歌:传统搜索引擎十年内消失
人工智能实验室DeepMind联合创始人穆斯塔法·苏莱曼(Mustafa Suleyman)向他的前雇主谷歌发出了严厉警告:互联网即将发生根本性变革,老式搜索引擎将在十年内消失。在近期接受No Priors播客节目采访时,苏莱曼表示:“如果我是谷歌,我会非常担心,因为老式搜索引擎将在十年内不复存在...
业界动态 2023-05-16 15:57:23 -
107万辆!一季度超越日本!中国今年有望成为全球第一大汽车出口国
服装、家电、家具等“老三样”,已成为我国外贸出口的“过去时”。据央广网北京5月15日报道,如今,在“老三样”产业不断升级的同时,以电动载人汽车、太阳能电池、锂电池为代表的“新三样”一季度出口增长60%以上,正在推动我国外贸结构持续优化。数据显示,今年前四个月我国电动载人汽车、锂电池、太阳能电池“新三样”产品合计出口超3500亿元,同比增长72%,拉高出口整体增速2.1个百分点。具有高附加值、引领绿色转型的产品正在成为我国出口新的增长点。中国机电产品进出口商会新闻发言人高士旺表示,“新三样”出口未来可期。图片来源:每经记者 张建 摄(资料图)“因为这几个行业产业厚度比较深,市场容量比较大,市场空间也比较大。现在这几个行业从产业周期上来说,都属于快速增长的一个时期。在这个阶段,从需求、从产业的角度来说,发展速度其实还是可以预期的。”中国机电产品进出口商会新闻发言人高士旺表示。值得一提的是,在“新三样”中,我国新能源汽车的出口量可圈可点。上述报道中提到,在福建宁德,首批新能源汽车出口以色列,实现了宁德港新能源汽车出口“从无到有”的新突破。700辆企业自主生产的新能源汽车及25辆大型纯电动客车已搭乘大型汽车滚装船发往海外。“近年来,我们在设计、制造、研发等关键环节持续投入,自主品牌新能源汽车更有底气,”某汽车物流公司出口车项目组福建项目分中心负责人沙浩在上述报道中表示。事实上,今年以来,中国汽车出口的强势表现引发了业内普遍关注。回顾中国汽车出口之路,2002年全年汽车出口仅有2万辆;2012年,中国汽车出口首次超过百万辆;2021年,中国汽车出口首次突破200万辆,达到201...
智能设备 2023-05-16 10:09:31 -
Vivaldi浏览器上架微软商城,为Win10/Win11用户提供新安装方式
IT之家 5 月 16 日消息,Vivaldi 浏览器近日上架 Microsoft Store,为 Win10 / Win11 用户提供了安装该浏览器的新方式。Vivaldi 浏览器基于 Chromium,可以安装 Chrome 扩展程序,主打隐私保护,公司强调会妥善保护用户隐私,尽可能不让网站使用你的数据...
智能设备 2023-05-16 10:09:22 -
爱憎分明,谷歌员工看I/O大会:赞扬工程师,吐槽高管只会反复强调AI
5月15日消息,谷歌在上周召开了一年一度的I/O开发者大会,展示了公司最新的人工智能技术成果。据内部消息,许多谷歌员工认为工程师在公司股价大幅上涨中起到了更大的作用,而高管们则只会“一直反复强调人工智能”,这引起了员工们的嘲笑。以下是翻译内容:上周,谷歌员工们非常关注公司的年度开发者大会以及华尔街对此的积极反应。I/O大会之后,公司股票价格上涨了4.3%。从内部交流中可以看出,很多员工更倾向于将功劳归于公司的工程师,认为他们是主要贡献者,而非高管们。在谷歌的内部网站Memegen上,一张以母公司Alphabet的股价对比图的表情包最受欢迎,获得了几千个“赞”。图片左侧是公司股价下跌的图表,上面写着“高管们削减成本并回购股票”。右侧则是公司股价上涨的图表,上面写着:“工程师们完成了工作。”很多员工在评论区表扬同事,他们认为在全公司的努力下,工程师们不负众望做好了产品,准备迎接人工智能竞争的关键时刻。而在不久前,谷歌员工猛烈抨击首席执行官桑德尔·皮查伊(Sundar Pichai)。他们认为,在公司裁员和削减成本之际,皮查伊去年还获得了超过2亿美元的股票奖励。他们同时还批评了公司授权开展700亿美元的股票回购。上周三,谷歌宣布推出名为PaLM 2的新型通用大型语言模型,并在改进搜索引擎的人工智能技术方面取得了一系列进展。随后,谷歌母公司Alphabet的股价跃升至去年8月份以来的最高水平,当周累计上涨11%。自去年年底OpenAI公开发布人工智能聊天机器人ChatGPT以来,谷歌在生成式人工智能技术方面一直承受着巨大压力。微软作为OpenAI的支持者,将基于大型语言模型GPT的新技术嵌入必应搜索引擎和其他产品中。这让人们担心,谷歌在自家核心业务搜索引擎领域占据主导地位的日子可能不多了。今年2月份,谷歌在一次活动上仓促推广人工智能聊天机器人Bard,结果公司股价下跌7%。谷歌员工回应称,皮查伊的声明“仓促”且“拙劣”。此后,谷歌一直想要迅速将人工智能领域的消费级服务推向市场。在谷歌I/O开发者大会召开之后,员工们对Bard的一些更新非常认可,比如黑暗模式,这是工程师们非常喜欢的一个选项。当谷歌宣布这项功能后,人群中曾响起了热烈掌声。其中一个表情包获得了几百个赞,上面写着“我从I/O中学到了不少东西”,“谷歌仍然能给我留下深刻印象。”“那些努力工作的人做得很好”,“作为一个一直想制作讽刺表情包的人,很高兴被惊艳到了。”在另一个表情包中,谷歌员工们赞扬了工程副总裁戴夫·伯克(Dave Burke)在Android 14发布会上的演讲,说他在台上的呈现很真实,而不是典型的宣传套话。但在谷歌I/O开发者大会两小时的主题演讲中,员工们嘲笑高管们频繁使用人工智能这个词。其中一个非常受欢迎的表情包是一个卡通人物,上面配文说“2023年度I/O开发者大会提高了谷歌股价”,紧接着是“我一直在说人工智能,它就一直在涨。”另一个梗图说,“让我们在上面再撒一些人工智能/机器学习”,并展示了一大堆粉末,上面写着“谷歌2023年度I/O开发者大会”的字样。其他员工则选择用歌曲或电影角色恶搞公司首席执行官皮查伊,称他一直在大会上反复说人工智能这个词。谷歌发言人拒绝置评。去年,Alphabet股价下跌近40%。但今年以来上涨了33%。(辰辰) ...
互联网 2023-05-15 16:30:21 -
特斯拉重新在欧洲推出Model3后驱长续航版,德国为46970欧元
IT之家 5 月 15 日消息,特斯拉在欧洲重新推出 Model 3 后轮驱动长续航版(此前仅作为 B2B),目前已经在欧洲各国以库存新车的形式上架官网。目前,德国 Model 3 LR RWD 版为 46970 欧元(IT之家备注:当前约 35.6 万元人民币),而 Model 3 LR AWD 为 50990 欧元(当前约 38...
智能设备 2023-05-15 10:15:05