-
谷歌PaLM2训练所用文本数据量是初代的近5倍
5月17日消息，谷歌上周在2023年I/O开发者大会上推出最新大型语言模型PaLM 2。公司内部文件显示，自2022年起训练新模型所使用的文本数据量几乎是前一代的5倍。据悉，谷歌最新发布的PaLM 2能够执行更高级的编程、运算和创意写作任务。内部文件透露，用于训练PaLM 2的token数量有3.6万亿个。所谓的token就是字符串，人们会将训练模型所用文本中的句子、段落进行切分，其中的每个字符串通常被称为token。这是训练大型语言模型的重要组成部分，能教会模型预测序列中接下来会出现哪个单词。谷歌于2022年发布的上一代大型语言模型PaLM在训练中使用了7800亿个token。尽管谷歌一直热衷于展示其在人工智能技术领域的实力，说明如何将人工智能嵌入到搜索引擎、电子邮件、文字处理和电子表格中，但一直不愿公布训练数据的规模或其他细节。微软支持的OpenAI也对最新发布的GPT-4大型语言模型细节保密。两家公司都表示，不披露这些信息的原因是人工智能行业存在激烈竞争。谷歌和OpenAI都想要吸引那些希望使用聊天机器人而不是传统搜索引擎搜索信息的用户。但随着人工智能领域竞争的白热化，研究界要求提高透明度。自推出PaLM 2以来，谷歌一直表示，新模型比之前的大型语言模型更小，这意味着该公司技术在完成更复杂任务时能变得更高效。参数（parameters）通常用于说明语言模型的复杂性。根据内部文件，PaLM 2接受了3400亿个参数的训练，初代的PaLM接受了5400亿个参数的训练。谷歌没有立即发表评论。谷歌在一篇关于PaLM 2的博客文章中表示，新模型使用了一种名为“计算最优缩放”（compute-optimal scaling）的“新技术”，能使得PaLM 2“更高效，整体性能更好，比如推理更快、服务参数更少，服务成本也更低。”在发布PaLM 2时，谷歌透露新模型接受了100种语言的训练，并能胜任各种各样的任务。包括谷歌试验性聊天机器人Bard在内的25项功能和产品用的都是PaLM 2。PaLM 2按参数规模有四个不同的版本，从小到大依次是Gecko（壁虎）、Otter（水獭）、Bison（野牛）和Unicorn（独角兽）。根据谷歌公开披露的信息，PaLM 2比任何现有模型都更强大。Facebook在今年2月份宣布推出名为LLaMA的大型语言模型，其在训练中用了1...
业界动态 2023-05-17 13:33:30 -
SqlServer常用函数及时间处理小结
YEAR() 函数返回一个整数值，它表示指定日期的年份，一般使用为：Year(时间)，如：YEAR('2023-03-14 16:50:08.543')--2023REPLACE() 字符串替换函数，一般使用为：REPLACE(被搜索字符串,需要替换的字符串,替换值)，如：REPLACE('测试添加的','的','测试数据')--测试添加测试数据STUFF() 函数用于删除指定长度的字符，并可以在指定的起点处插入另一组字符，一般使用为：STUFF(字符串,从1开始计算字符开始位置,要删除的字符数,要重新插入的字符串)，如：STUFF('测试添加的',3,2,'修改')--测试修改的DATEADD() 函数将数字值添加到输入日期的指定日期部分，并返回修改后的值,一般使用为：DATEADD(需要对时间的什么部分操作，时间，间隔数–过去为负数未来为正数)，如：DATEADD(Year, -7,GETDATE())`--2016-03-14 16:48:01...
数据库操作教程 2023-05-12 12:13:30 -
SQLServer数据库密码短时间强制过期的解决
1、打开Sqlserver，选择登录名下的账户右击点击属性2、右击点击属性查看强制过期是否被勾选上，如勾选上，会在一段时间后该账户不能正常使用3、修改 过期的时间，这个过期时间是根据windows 的时间策略制定的windows 运行 输入 gpedit.msc按照下图打开选择密码策略 修改密码最长使用期限，就可以达到 延长效果了到此这篇关于SQLServer数据库密码短时间强制过期的解决的文章就介绍到这了,更多相关SQLServer密码强制过期内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！ ...
数据库操作教程 2023-05-12 12:13:01 -
-
OpenAI确认通过API收集的数据不会用于训练ChatGPT
IT之家5月6日消息，OpenAI首席执行官萨姆・奥尔特曼（SamAltman）向CNBC确认，该公司不再使用API客户数据来训练其大型语言模型。OpenAI于今年3月初更新其服务条款，只是并未作出公告...
智能设备 2023-05-07 12:43:12 -
用API接入更安全，OpenAI称不会用付费客户数据训练AI
5月6日消息，OpenAI首席执行官萨姆·奥尔特曼(SamAltman)周五表示，他们“已经有一段时间”没有使用付费客户的数据来训练其GPT等人工智能大语言模型。奥尔特曼表示，“客户明确表示不希望用他们的数据进行训练，因此我们已经改变了计划：我们不会这样做...
智能设备 2023-05-07 12:42:55 -
谷歌正在为Android系统开发“时间轴定位”功能
IT之家4月27日消息，谷歌正在为Android系统的设置应用开发“时间轴定位”功能，与谷歌地图上的功能类似，会以时间轴的形式显示用户的历史定位信息。根据爆料人NailSadykov发现的信息，谷歌GooglePlay服务中隐藏了一项功能，开启后即可在设置中看到“Timeline”选项，内部包含四个选项，IT之家汇总如下：用于查看历史定位和行动路线的“YourTimeline”用于导出json文件备份的“ExportTimelinedata”用于删除时间轴数据的“DeleteTimelinedata”用于将时间轴传输到另一台设备的“Encryptedbackup”该功能目前正处于开发阶段，尚未在稳定版Android系统中提供...
智能设备 2023-04-27 14:56:43 -
训练效果未及预期，31名ChatGPT训练派遣工遭解雇
4月23日消息，据知情人士爆料和内部沟通文件显示，今年3月，30余名帮助培训爆火聊天机器人ChatGPT背后语言模型的派遣工被解雇。Slack内部聊天截图显示，截至3月16日，总部位于旧金山的外包公司InvisibleTechnologies解雇了31名派遣工...
智能设备 2023-04-23 11:08:21 -
用友CTO樊冠军：用友已启动企业服务大模型训练
4月19日消息，今日，用友网络执行副总裁兼CTO樊冠军宣布：用友已启动企业服务大模型训练。全球生成式AI热潮的兴起，用友认为，AI在企业的普及应用主要有三个方向：一是企业业务与职能工作的智能化运营；二是企业应用、企业服务的自然化人机交互；三是企业客户利用AI赋能的低代码开发与集成平台实现快速应用生成...
互联网 2023-04-20 21:02:29 -
因为这事，马斯克怒斥微软非法使用推特数据训练AI，称将提起诉讼
4月20日，微软在当地时间周三宣布，其为广告商提供营销活动管理服务的SmartCampaigns将不再支持社交媒体推特。推特所有者埃隆·马斯克（Elonmusk）随即回应称，微软非法使用推特数据训练人工智能，并威胁要提起诉讼...
互联网 2023-04-20 21:02:22 -
美媒揭秘大模型训练数据集：部分内容有些"脏"
4月20日消息，过去四个月，人工智能聊天机器人变得越来越受欢迎，它们能够完成各种任务，比如写复杂的学术论文和进行紧张的对话，能力很令人惊叹。聊天机器人并不像人类那样思考，它们甚至不知道自己在说什么...
互联网 2023-04-20 21:02:05 -
OpenAICEO：公司目前没有训练GPT-5，短期内也不会训练
4月14日消息，OpenAICEO萨姆·奥尔特曼(SamAltman)近日确认，公司目前没有训练GPT-5，并且“短期内也不会训练”。GPT-5被认为是GPT-4的继任者，后者是OpenAI今年三月发布的大语言模型...
业界动态 2023-04-14 22:41:34
