-
谷歌PaLM2训练所用文本数据量是初代的近5倍
5月17日消息，谷歌上周在2023年I/O开发者大会上推出最新大型语言模型PaLM 2。公司内部文件显示，自2022年起训练新模型所使用的文本数据量几乎是前一代的5倍。据悉，谷歌最新发布的PaLM 2能够执行更高级的编程、运算和创意写作任务。内部文件透露，用于训练PaLM 2的token数量有3.6万亿个。所谓的token就是字符串，人们会将训练模型所用文本中的句子、段落进行切分，其中的每个字符串通常被称为token。这是训练大型语言模型的重要组成部分，能教会模型预测序列中接下来会出现哪个单词。谷歌于2022年发布的上一代大型语言模型PaLM在训练中使用了7800亿个token。尽管谷歌一直热衷于展示其在人工智能技术领域的实力，说明如何将人工智能嵌入到搜索引擎、电子邮件、文字处理和电子表格中，但一直不愿公布训练数据的规模或其他细节。微软支持的OpenAI也对最新发布的GPT-4大型语言模型细节保密。两家公司都表示，不披露这些信息的原因是人工智能行业存在激烈竞争。谷歌和OpenAI都想要吸引那些希望使用聊天机器人而不是传统搜索引擎搜索信息的用户。但随着人工智能领域竞争的白热化，研究界要求提高透明度。自推出PaLM 2以来，谷歌一直表示，新模型比之前的大型语言模型更小，这意味着该公司技术在完成更复杂任务时能变得更高效。参数（parameters）通常用于说明语言模型的复杂性。根据内部文件，PaLM 2接受了3400亿个参数的训练，初代的PaLM接受了5400亿个参数的训练。谷歌没有立即发表评论。谷歌在一篇关于PaLM 2的博客文章中表示，新模型使用了一种名为“计算最优缩放”（compute-optimal scaling）的“新技术”，能使得PaLM 2“更高效，整体性能更好，比如推理更快、服务参数更少，服务成本也更低。”在发布PaLM 2时，谷歌透露新模型接受了100种语言的训练，并能胜任各种各样的任务。包括谷歌试验性聊天机器人Bard在内的25项功能和产品用的都是PaLM 2。PaLM 2按参数规模有四个不同的版本，从小到大依次是Gecko（壁虎）、Otter（水獭）、Bison（野牛）和Unicorn（独角兽）。根据谷歌公开披露的信息，PaLM 2比任何现有模型都更强大。Facebook在今年2月份宣布推出名为LLaMA的大型语言模型，其在训练中用了1...
业界动态 2023-05-17 13:33:30 -
360与智谱AI宣布战略合作，共同研发千亿级大语言模型“360GLM”
【网易科技5月16日报道】今日，360和智谱AI宣布达成战略合作，宣布双方共同研发的千亿级大模型“360GLM”已具备新一代认知智能通用模型水准。据了解，双方合作研发，这也是基础模型和应用场景的一次有效结合...
智能设备 2023-05-16 14:33:00 -
SQL注入之sqlmap入门学习
目录一、判断是否存在注入点二、查询当前用户下所有数据库三、获取数据库中的表名四、获取表中的字段名五、获取字段内容六、获取数据库的所有用户七、获取数据库用户的密码八、获取当前网站数据库的名称九、获取当前网站数据库的用户名称原来sql注入如此简单以SQL注入靶场sqli-labs第一关为例，进行sqlmap工具的使用分享。一、判断是否存在注入点使用命令：使用命令：sqlmap -u "http://49.232...
数据库操作教程 2023-05-12 12:12:30 -
谷歌一雪前耻！全新PaLM2反超GPT-4，办公全家桶炸裂升级，Bard史诗进化
新智元报道编辑：编辑部【新智元导读】新版PaLM2超强进化，办公全家桶Workspace全面升级，Bard全面增强、所有人可用……可以看出，这届I/O大会，谷歌是真的憋出不少大招。谷歌I/O2023大会，仿佛又给谷歌的支持者们打了一针强心剂...
智能设备 2023-05-11 11:11:58 -
谷歌深夜王炸级更新！PaLM2大模型震撼发布！Bard写代码，哪里不懂点哪里！
这回，谷歌急了！他们这半年过得是真憋屈！近半年来AI的发展速度就像坐上了火箭，11月ChatGPT横空出世，今年2月发布的NewBing和3月发布的GPT-4，更是让许多大厂都难以望其项背。不甘落后的谷歌立刻推出聊天机器人Bard，结果因为演示视频中的小错误而导致股价大跌（其实GPT也会失误），现在，在谷歌一年一度的I/O大会上，谷歌需要让公众以及股东们相信其在AI方面的实力，来“一雪前耻”...
智能设备 2023-05-11 04:04:09 -
官宣了！realme11将于5月10日发布，主打影像旗舰
据官方预热，realme11系列新品手机将于5月10日发布，该系列预计包括三款设备：realme11标准版、realme11Pro、realme11Pro+，将主打影像旗舰。消息显示，该系列采用高定旗舰120Hz刷新率曲面屏，支持2160Hz超高频调光、20000级自动调光；搭载2亿像素单镜变焦相机，“一颗镜头实现多焦段无损变焦”...
手机互联 2023-05-09 10:03:17 -
谷歌将在开发者大会上发布PaLM2展示创意写作和编码能力
5月9日消息，据泄露的内部文件显示，人工智能将成为谷歌今年开发者大会GoogleI/O的中心主题，该公司计划发布一系列生成式人工智能（AIGC）功能更新，包括推出通用的大型语言模型(LLM)。这份内部文件显示，谷歌将推出其最新、最先进的LLM——PaLM2...
业界动态 2023-05-09 07:12:32 -
图灵奖得主LeCun：我赞成用LLM写论文！科研老将更恨ChatGPT？
新智元报道编辑：LRS【新智元导读】最近康奈尔大学的一位副教授调研了业界用ChatGPT写论文的态度，支持与反对者大致相同，但混迹科研圈越久的人，越反对ChatGPT。ChatGPT发布后，「用语言模型辅助论文写作」到底算作弊剽窃，还是合理使用写作工具，目前各高校、论文会议中仍然没有统一标准，甚至不同的科研人员对ChatGPT都持有不同的态度...
智能设备 2023-05-08 13:15:58 -
卷疯了？千元1TB手机要来了realme和荣耀还力挺国产屏
【手机中国新闻】在2023年，智能手机市场的竞争愈发激烈。目前，我们已经在今年见证了三款售价在3500元以下的，配备1TB存储空间的智能手机发布，它们主要来自realme真我和Redmi红米等厂商...
手机互联 2023-05-05 08:48:27 -
APUS发布多模态大模型“AiLMe”
4月18日消息，今日，APUS发布会现场发布自研多模态人工智能大模型“AiLMe”。据介绍，AiLMe参数已达千亿规模，具备对文本、图像、视频、音频的理解和生成能力...
互联网 2023-04-20 21:02:01 -
翻版“灵动岛”？realmeNarzoN55发布，采用“mini胶囊”
近日，realme正式发布新机realmeNarzoN55，支持类似苹果灵动岛的“mini”胶囊功能。外观上看，realmeNarzoN55配备了居中打孔显示屏，采用类似于苹果灵动岛的“mini胶囊”功能，侧面指纹识别...
手机互联 2023-04-15 10:49:54 -
翻版“灵动岛”？realmeNarzoN55发布，采用“mini胶囊”
近日，realme正式发布新机realmeNarzoN55，支持类似苹果灵动岛的“mini”胶囊功能。外观上看，realmeNarzoN55配备了居中打孔显示屏，采用类似于苹果灵动岛的“mini胶囊”功能，侧面指纹识别...
手机互联 2023-04-15 10:49:50
