-
GPT-4变笨引爆舆论！文本代码质量都下降，OpenAI刚刚回应了质疑
梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI大模型天花板GPT-4，它是不是……变笨了？先是少数用户提出质疑，随后大量网友表示自己也注意到了，还贴出不少证据。有人反馈，把GPT-4的3小时25条对话额度一口气用完了，都没解决自己的代码问题。无奈切换到GPT-3.5，反倒解决了。总结下大家的反馈，最主要的几种表现有：以前GPT-4能写对的代码，现在满是Bug回答问题的深度和分析变少了响应速度比以前快了这就引起不少人怀疑，OpenAI是不是为了节省成本，开始偷工减料？两个月前GPT-4是世界上最伟大的写作助手，几周前它开始变得平庸。我怀疑他们削减了算力或者把它变得没那么智能。这就不免让人想起微软新必应“出道即巅峰”，后来惨遭“前额叶切除手术”能力变差的事情……网友们相互交流自己的遭遇后，“几周之前开始变差”，成了大家的共识。一场舆论风暴同时在Hacker News、Reddit和Twitter等技术社区形成。这下官方也坐不住了。OpenAI开发者推广大使Logan Kilpatrick，出面回复了一位网友的质疑：API 不会在没有我们通知您的情况下更改。那里的模型处于静止状态。不放心的网友继续追问确认“就是说GPT-4自从3月14日发布以来都是静态的对吧？”，也得到了Logan的肯定回答。“我注意到对于某些提示词表现不一致，只是由于大模型本身的不稳定性吗？”，也得到了“Yes”的回复。但是截至目前，针对网页版GPT-4是否被降级过的两条追问都没有得到回答，并且Logan在这段时间有发布别的内容。那么事情究竟如何，不如自己上手测试一波。对于网友普遍提到GPT-4写代码水平变差，我们做了个简单实验。实测GPT-4“炼丹”本领下降了吗？3月底，我们曾实验过让GPT-4“炼丹”，用Python写一个多层感知机来实现异或门。△ShareGPT截图，界面稍有不同让GPT-4改用numpy不用框架后，第一次给出的结果不对。在修改两次代码后，运行得到了正确结果。第一次修改隐藏神经元数量，第二次把激活函数从sigmoid修改成tanh。6月2日，我们再次尝试让GPT-4完成这个任务，但换成了中文提示词。这回GPT-4第一次就没有使用框架，但给的代码仍然不对。后续只修改一次就得到正确结果，而且换成了力大砖飞的思路，直接增加训练epoch数和学习率。回答的文字部分质量也未观察到明显下降，但响应速度感觉确实有变快。由于时间有限，我们只进行了这一个实验，且由于AI本身的随机性，也并不能否定网友的观察。最早4月19日就有人反馈我们在OpenAI官方Discord频道中搜索，发现从4月下旬开始，就不时有零星用户反馈GPT-4变差了。但这些反馈并未引发大范围讨论，也没有得到官方正式回应。5月31日，Hacker News和Twitter同天开始大量有网友讨论这个问题，成为整个事件的关键节点。HackerNews一位网友指出，在GPT-4的头像还是黑色的时候更强，现在紫色头像版在修改代码时会丢掉几行。在Twitter上较早提出这个问题的，是HyperWrite（一款基于GPT API开发的写作工具）的CEO，Matt Shumer。但这条推文却引发了许多网友的共鸣，OpenAI员工回复的推文也正是针对这条。不过这些回应并没让大家满意，反而讨论的范围越来越大。比如Reddit上一篇帖子提到，原来能回答代码问题的GPT-4，现在连哪些是代码哪些是问题都分不出来了。在其他网友的追问下，帖子作者对问题出现的过程进行了概述，还附上了和GPT的聊天记录。对于OpenAI声称模型从三月就没有改动过，公开层面确实没有相关记录。ChatGPT的更新日志中，分别在1月9日、1月30日、2月13日提到了对模型本身的更新，涉及改进事实准确性和数学能力等。但自从3月14日GPT-4发布之后就没提到模型更新了，只有网页APP功能调整和添加联网模式、插件模式、苹果APP等方面的变化。假设真如OpenAI所说，GPT-4模型本身的能力没有变化，那么这么多人都感觉它表现变差是怎么回事呢？很多人也给出了自己的猜想。第一种可能的原因是心理作用。Keras创始人François Chollet就表示，不是GPT的表现变差，而是大家度过了最初的惊喜期，对它的期待变高了。Hacker News上也有网友持相同观点，并补充到人们的关注点发生了改变，对GPT失误的敏感度更高了。抛开人们心理感受的差异，也有人怀疑API版本和网页版本不一定一致，但没什么实据。还有一种猜测是在启用插件的情况下，插件的额外提示词对要解决的问题来说可能算一种污染。△WebPilot插件中的额外提示词这位网友就表示，在他看来GPT表现变差正是从插件功能开始公测之后开始的。也有人向OpenAI员工询问是否模型本身没变，但推理参数是否有变化？量子位也曾偶然“拷问”出ChatGPT在iOS上的系统提示词与网页版并不一致。如果在手机端开启一个对话，它会知道自己在通过手机与你交互。会把回答控制在一到两句话，除非需要长的推理。不会使用表情包，除非你明确要求他使用。△不一定成功，大概率拒绝回答那么如果在网页版继续一个在iOS版开启的对话而没意识到，就可能观察到GPT-4回答变简单了。总之，GPT-4自发布以来到底有没有变笨，目前还是个未解之谜。但有一点可以确定：3月14日起大家上手玩到的GPT-4，从一开始就不如论文里的。与人类对齐让AI能力下降微软研究院发表的150多页刷屏论文《AGI的火花：GPT-4早期实验》中明确：他们早在GPT-4开发未完成时就得到了测试资格，并进行了长期测试。后来针对论文中很多惊艳例子，网友都不能成功用公开版GPT-4复现。目前学术界有个观点是，后来的RLHF训练虽然让GPT-4更与人类对齐——也就更听从人类指示和符合人类价值观——但也让它自身的推理等能力变差。论文作者之一、微软科学家张弋在中文播客节目《What’s Next｜科技早知道》S7E11期中也提到：那个版本的模型，比现在外面大家都可以拿得到的GPT-4还要更强，强得非常非常多。举例来说，微软团队在论文中提到，他们每隔相同一段时间就让GPT-4使用LaTeX中的TikZ画一个独角兽来追踪GPT-4能力的变化。论文中展示的最后一个结果，画得已经相当完善。但论文一作Sebastien Bubeck后续在MIT发表演讲时透露了更多信息。后来当OpenAI开始关注安全问题的时候，后续版本在这个任务中变得越来越糟糕了。与人类对齐但并不降低AI自身能力上限的训练方法，也成了现在很多团队的研究方向，但还在起步阶段。除了专业研究团队之外，关心AI的网友们也在用自己的办法追踪着AI能力的变化。有人每天让GPT-4画一次独角兽，并在网站上公开记录。从4月12日开始，直到现在也还没看出来个独角兽的大致形态。当然网站作者表示，自己让GPT-4使用SVG格式画图，与论文中的TikZ格式不一样也有影响。并且4月画的与现在画的似乎只是一样差，也没看出来明显退步。最后来问问大家，你是GPT-4用户么？最近几周有感到GPT-4能力下降么？欢迎在评论区聊聊。Bubeck演讲：https://www...
智能设备 2023-06-03 10:09:46 -
日本拟要求苹果开放第三方应用商店、并禁止谷歌偏袒自家服务
IT之家 6 月 2 日消息，据日本读卖新闻报道，日本政府已经决定对大型 IT 公司的运营服务引入新的法规，并根据日本的立法审议条例，争取最早明年向国会提交议案。新规将要求苹果对 iOS 开放第三方应用商店，同时也禁止谷歌在搜索结果中偏袒自己的服务...
智能设备 2023-06-02 11:23:43 -
日本再次要求苹果开放第三方应用商店此前曾遭拒绝
【手机中国新闻】近日，据日本读卖新闻报道，日本再一次要求苹果允许使用第三方应用商店。此前有消息称，日本政府计划通过立法迫使苹果开放第三方应用商店。日本也因此成为继美国和欧洲之后，又一个要求苹果进一步开放的国家和地区。苹果App Store 在日本政府4月份的一份报告中，对苹果、谷歌对智能手机市场的控制表示了担忧，他们认为苹果、谷歌的政策可能会损坏应用供应商的利益，并提议制定新规来禁止平台限制用户选择如何使用他们的设备。此外，日本政府还在报告中对苹果的抽成政策进行了质疑，并呼吁系统供应商开放第三方应用商店，以及公布有关系统的完整信息。 不过苹果似乎并不打算答应上述要求，苹果在一份声明中表示，“我们尊重不同意政府在报告中得出的一些结论”，但苹果同时表示，其经营的每个部门都面临着激烈的竞争，并表示将继续与日本政府进行建设性的合作。就在昨日，苹果官方公布的数据显示，2022年App Store开发者在App Store生态系统创下1.1万亿美元营业与销售额，这也为苹果带来了非常可观的收入。 在去年时，由于受到欧盟最新推出的《数字市场法案》的影响，苹果准备允许其iPhone和iPad用户使用第三方应用商店替代App Store，以作为其全面改革的一部分。除此之外，欧盟还要求苹果向APP开发商开放更多权限，包括允许开发者在其APP中安装第三方支付系统以取代Apple Pay，但苹果尚未就是否遵守这一项规定做出最终决定。 ...
手机互联 2023-06-02 10:32:53 -
钉钉斜杠“/”来了！具备文生文、文生图、应用生成等AI能力
【网易科技5月31日报道】今日，面向企业用户，钉钉斜杠“/”正式启动邀请测试，这是钉钉宣布接入大模型后智能化的最新进展。本次邀测开放了钉钉群聊、文档、视频会议及应用开发等场景，涉及文生文、文生图、摘要总结和应用生成等多种AI能力，输入“/”即可让AI自动进行开发应用、写文章、画画、整理纪要等...
智能设备 2023-05-31 14:16:54 -
知乎发布最新智能应用"搜索聚合"，面壁智能开源大模型CPM-Bee10b
5月29日消息，近日知乎联合面壁智能在“2023中国国际大数据产业博览会”上发布了最新的大语言模型成果。知乎合伙人、首席技术官李大海宣布，知乎模型应用“搜索聚合”即日开启内测，面壁智能研发的中文基座大模型CPM-Bee10b全面开源，并发布了对话类模型产品“面壁露卡”。李大海表示，知乎将携手面壁智能，让中文用户在大模型时代享受到最优质的服务。此次知乎站内的大模型应用功能“搜索聚合”，将大模型能力应用到了知乎搜索上，每当用户触发搜索时，系统就会从大量提问和回答中聚合观点，提高用户获取信息、形成决策的效率。发布会上，面壁智能联合OpenBMB社区，将自研CPM-Bee 10b模型开源。李大海介绍，该模型从零开始自主训练，基于Transformer架构，中英双语表现优秀，拥有百亿量级参数、万亿级高质量语料。在ZeroCLUE评测中，CPM-Bee 10b以总分78.18分登顶；在英文常识知识推理榜单上，CPM-Bee 10b得到了67分的平均分，媲美英文开源模型LLaMA。“CPM-Bee10b 将全面开源，并允许商用。”李大海称，面壁智能一直坚持开源路线，未来也会持续拥抱开源，促进大模型领域技术和生态的繁荣。发布会还带了面壁智能研发的对话类模型产品“露卡”（Luca）。该产品在开源基础模型上又有进一步性能提升，可以进行智能交互并支持多轮对话。演示中，“露卡”展示了多项能力，既能帮助人了解世界知识、处理数理逻辑、编写程序代码、激发创作灵感；还可以利用海量知识数据，帮助人更好地获取信息、做出规划、解决问题。此外，“露卡”还可以查找论文并生成摘要。李大海介绍，“露卡”目前已开启内测，面壁将不断完善功能，让更多用户体验到大模型带来的便利。 ...
互联网 2023-05-29 12:24:00 -
阿里云智能CTO周靖人：MaaS已成标准未来应用都将围绕模型开发
【网易科技5月29日报道】2023中关村论坛人工智能大模型发展论坛，阿里云智能集团CTO周靖人发表了《MaaS，云智时代的AI新范式》的主题演讲。周靖人表示，“以模型为中心的开发范式（MaaS）已成为行业标准，未来应用开发的整个链路都会基于这一理念来做...
智能设备 2023-05-29 11:23:26 -
英伟达AI智能体接入GPT-4，完胜AutoGPT！自主写代码独霸我的世界，无需人类插手
新智元报道编辑：Aeneas 好困【新智元导读】给游戏行业来点GPT-4式震撼？这个叫Voyager的智能体不仅可以根据游戏的反馈自主训练，而且还能自行写代码推动游戏任务。继斯坦福的25人小镇后，AI智能体又出爆款新作了。最近，英伟达首席科学家Jim Fan等人把GPT-4整进了「我的世界」（Minecraft）——提出了一个全新的AI智能体Voyager。Voyager的厉害之处在于，它不仅性能完胜AutoGPT，而且还可以在游戏中进行全场景的终身学习！比起之前的SOTA，Voyager获得的物品多出了3.3倍，旅行距离变长了2...
智能设备 2023-05-27 16:03:18 -
GPT-4玩《我的世界》15倍速攀科技，不看画面全靠代码操作
克雷西 发自 凹非寺量子位 | 公众号 QbitAI把GPT-4放进一个虚拟世界会怎么样？比如《我的世界》。英伟达开发最新方法Voyager，在游戏中点亮科技树的速度是此前方法的15.3倍，同时获得的独特物品是此前的3...
智能设备 2023-05-27 16:02:52 -
马斯克：特斯拉可能会向其他汽车制造商“开放更多源代码”
5月26日消息，美国当地时间周四，特斯拉首席执行官埃隆·马斯克（Elon Musk）在与福特首席执行官吉姆·法利（Jim Farley）的对话中表示，特斯拉可能会向其他汽车制造商开放部分汽车操作系统代码。马斯克说：“就像安卓作为一种通用标准对手机行业有所帮助那样，我们可能会开放更多源代码以便对汽车行业提供帮助...
业界动态 2023-05-26 08:30:43 -
网易CEO丁磊谈AI大模型竞赛：找到应用场景、服务用户需求才是“胜者”
5月25日，网易发布2023年第一季度财报。一季度，网易净收入250亿元，非公认会计准则下归属于公司股东的净利润76亿元，公司业绩稳健增长，超市场预期。网易Q1研发投入37亿元，研发投入强度达15%。财报发布后，网易CEO丁磊、CFO杨昭烜等高管出席财报电话会，解读一季度业绩以及关于游戏、音乐、AIGC及海外市场相关的布局情况。发展AI大模型首要任务：找出应用场景、满足用户体验投资人问及网易在AI大模型领域的研发投入和布局逻辑时，网易CEO丁磊表示，未来，随着AI大模型的发展，企业会逐渐找到优化路径，不断降低大模型研发所需的资金和算力。同时，丁磊认为，在AI大模型竞赛中，真正的胜者是能选择好应用场景的企业。所以，目前网易的首要任务是探索AI大模型在不同产品场景下的应用，并研发出更符合用户体验的优质产品。针对游戏市场竞争格局，网易CEO丁磊表示，今年以来市场上涌现出许多新游戏，但消费者只会选择高质量的作品。对于网易来说，最重要的事情之一是在产品中始终保持与众不同的创新，无论是创新玩法，还是应用新技术，来不断满足用户的需要。“我们有信心在未来的发展中始终保持独特的优势”。《蛋仔派对》每周新增百万UGC地图 将加快出海步伐今年一季度，基于网易自研引擎开发的《蛋仔派对》，开创了独特的UGC内容共创模式。超3000万日活玩家，可借助《蛋仔派对》UGC地图编辑工具创作游戏内容，并通过社交媒体进行二次破圈传播。目前《蛋仔派对》每周平均新增超百万UGC地图，玩家的创作热情助力《蛋仔派对》在一季度登顶中国iOS下载榜，也进一步巩固了《蛋仔派对》高粘性、强社交的内容生态壁垒。在国内取得成功后，《蛋仔派对》将瞄准国际市场，加快出海步伐。网易高管在财报电话会上表示，《蛋仔派对》已在东南亚等地试运营，收集了本地玩家的体验反馈。下一步，网易将继续强化《蛋仔派对》独特的UGC玩法体验，让更多海外玩家感受到国产自研游戏的魅力。针对海外市场布局的相关问询，网易高管在财报电话会上披露，目前网易在海外已布局超过10个工作室。网易可以和这些经验丰富的海外团队一起工作、分享成功的创作经验，实现双赢。同时，公司有信心在未来一段时间里，海外工作室可以推出备受瞩目的作品，同时服务好中国及海外市场。网易云音乐毛利率创新高、付费用户持续增长，独立音乐人超63万一季度，网易云音乐业绩健康发展，毛利率从去年同期12.2%，大幅提升至22...
互联网 2023-05-25 22:12:52 -
距第二届“鼎新杯”数字化转型应用大赛报名结束仅剩一周
由中国信息通信研究院（以下简称“中国信通院”）、中国通信企业协会联合主办的第二届“鼎新杯”数字化转型应用大赛，将于2023年5月31日关闭报名通道，请各参赛单位提前与大赛组委会取得联系，并及时提交案例。第二届“鼎新杯”数字化转型应用大赛，由中国信通院和中国通信企业协会联合主办，自2023年3月21日正式启动以来，受到了各行业数字化转型参与者的广泛关注，大量企事业单位来电咨询，并提交参赛案例。大赛面向全社会各行业征集数字化转型应用参赛案例，案例征集截止时间为2023年5月31日。大赛征集的案例，总体分为6大方向，每个大方向下设若干专题赛道，共计16个专题赛道。6大方分别为：数字原生、行业数字化融合、数字化业务、数字技术平台、数字基础设施、数字专项创新。第二届“鼎新杯”数字化转型应用大赛6大方向6大方向下的16个专题赛道分别为：· 方向一：数字原生方向，目前仅包含数字原生新实体赛道；· 方向二：行业数字化融合方向，目前包含数字政府赛道、智慧城市赛道、智慧园区赛道、建筑业数字化转型赛道和其他行业赛道；· 方向三：数字化业务方向，目前包含企业架构实践与创新赛道、流程数字化赛道、业务融合创新赛道；· 方向四：数字技术平台方向，目前包含智慧中台赛道、智慧大脑平台赛道、数字化安全生产赛道；· 方向五：数字基础设施方向，目前包含云边端一体化赛道、其他数字基础设施赛道；· 方向六：数字专项创新方向，目前包含信息技术应用创新赛道、音视频赛道。第二届“鼎新杯”数字化转型应用大赛专题赛道设置大赛总体分为5个阶段，分别为：案例征集期，2023年3月22日至5月31日；全国入围赛，2023年6月中下旬；公示及票选人气案例，2023年7月上旬；全国总决赛，2023年7月至8月；结果公布与颁奖仪式，2023年8月或9月。大赛设置4大类奖项，包括：专题赛道一二三等奖、六大方向标杆奖、最佳人气奖及优秀专题赛道组织奖。预计将在2023年8月或9月举办的2023数字化转型高峰论坛上进行最终的结果发布与颁奖仪式。更多详情请参考大赛官网：http://www.idcquan...
智能设备 2023-05-25 16:41:49 -
AIGC创新社沙龙｜易企秀CEO黄金：AIGC时代大量机会将诞生于应用层
【网易科技5月24日报道】近日，网易科技《AIGC创新社》沙龙活动正式举行，本场活动以《AIGC重塑内容生产力》为主题，汇聚了知名创业者、投资人以及证券分析。其中，易企秀CEO黄金带来现场分享，主题为《当AIGC遇上数字自营销》，现场反响热烈...
智能设备 2023-05-24 11:21:56
