-
GPT-4变笨引爆舆论！文本代码质量都下降，OpenAI刚刚回应了质疑
梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI大模型天花板GPT-4，它是不是……变笨了？先是少数用户提出质疑，随后大量网友表示自己也注意到了，还贴出不少证据。有人反馈，把GPT-4的3小时25条对话额度一口气用完了，都没解决自己的代码问题。无奈切换到GPT-3.5，反倒解决了。总结下大家的反馈，最主要的几种表现有：以前GPT-4能写对的代码，现在满是Bug回答问题的深度和分析变少了响应速度比以前快了这就引起不少人怀疑，OpenAI是不是为了节省成本，开始偷工减料？两个月前GPT-4是世界上最伟大的写作助手，几周前它开始变得平庸。我怀疑他们削减了算力或者把它变得没那么智能。这就不免让人想起微软新必应“出道即巅峰”，后来惨遭“前额叶切除手术”能力变差的事情……网友们相互交流自己的遭遇后，“几周之前开始变差”，成了大家的共识。一场舆论风暴同时在Hacker News、Reddit和Twitter等技术社区形成。这下官方也坐不住了。OpenAI开发者推广大使Logan Kilpatrick，出面回复了一位网友的质疑：API 不会在没有我们通知您的情况下更改。那里的模型处于静止状态。不放心的网友继续追问确认“就是说GPT-4自从3月14日发布以来都是静态的对吧？”，也得到了Logan的肯定回答。“我注意到对于某些提示词表现不一致，只是由于大模型本身的不稳定性吗？”，也得到了“Yes”的回复。但是截至目前，针对网页版GPT-4是否被降级过的两条追问都没有得到回答，并且Logan在这段时间有发布别的内容。那么事情究竟如何，不如自己上手测试一波。对于网友普遍提到GPT-4写代码水平变差，我们做了个简单实验。实测GPT-4“炼丹”本领下降了吗？3月底，我们曾实验过让GPT-4“炼丹”，用Python写一个多层感知机来实现异或门。△ShareGPT截图，界面稍有不同让GPT-4改用numpy不用框架后，第一次给出的结果不对。在修改两次代码后，运行得到了正确结果。第一次修改隐藏神经元数量，第二次把激活函数从sigmoid修改成tanh。6月2日，我们再次尝试让GPT-4完成这个任务，但换成了中文提示词。这回GPT-4第一次就没有使用框架，但给的代码仍然不对。后续只修改一次就得到正确结果，而且换成了力大砖飞的思路，直接增加训练epoch数和学习率。回答的文字部分质量也未观察到明显下降，但响应速度感觉确实有变快。由于时间有限，我们只进行了这一个实验，且由于AI本身的随机性，也并不能否定网友的观察。最早4月19日就有人反馈我们在OpenAI官方Discord频道中搜索，发现从4月下旬开始，就不时有零星用户反馈GPT-4变差了。但这些反馈并未引发大范围讨论，也没有得到官方正式回应。5月31日，Hacker News和Twitter同天开始大量有网友讨论这个问题，成为整个事件的关键节点。HackerNews一位网友指出，在GPT-4的头像还是黑色的时候更强，现在紫色头像版在修改代码时会丢掉几行。在Twitter上较早提出这个问题的，是HyperWrite（一款基于GPT API开发的写作工具）的CEO，Matt Shumer。但这条推文却引发了许多网友的共鸣，OpenAI员工回复的推文也正是针对这条。不过这些回应并没让大家满意，反而讨论的范围越来越大。比如Reddit上一篇帖子提到，原来能回答代码问题的GPT-4，现在连哪些是代码哪些是问题都分不出来了。在其他网友的追问下，帖子作者对问题出现的过程进行了概述，还附上了和GPT的聊天记录。对于OpenAI声称模型从三月就没有改动过，公开层面确实没有相关记录。ChatGPT的更新日志中，分别在1月9日、1月30日、2月13日提到了对模型本身的更新，涉及改进事实准确性和数学能力等。但自从3月14日GPT-4发布之后就没提到模型更新了，只有网页APP功能调整和添加联网模式、插件模式、苹果APP等方面的变化。假设真如OpenAI所说，GPT-4模型本身的能力没有变化，那么这么多人都感觉它表现变差是怎么回事呢？很多人也给出了自己的猜想。第一种可能的原因是心理作用。Keras创始人François Chollet就表示，不是GPT的表现变差，而是大家度过了最初的惊喜期，对它的期待变高了。Hacker News上也有网友持相同观点，并补充到人们的关注点发生了改变，对GPT失误的敏感度更高了。抛开人们心理感受的差异，也有人怀疑API版本和网页版本不一定一致，但没什么实据。还有一种猜测是在启用插件的情况下，插件的额外提示词对要解决的问题来说可能算一种污染。△WebPilot插件中的额外提示词这位网友就表示，在他看来GPT表现变差正是从插件功能开始公测之后开始的。也有人向OpenAI员工询问是否模型本身没变，但推理参数是否有变化？量子位也曾偶然“拷问”出ChatGPT在iOS上的系统提示词与网页版并不一致。如果在手机端开启一个对话，它会知道自己在通过手机与你交互。会把回答控制在一到两句话，除非需要长的推理。不会使用表情包，除非你明确要求他使用。△不一定成功，大概率拒绝回答那么如果在网页版继续一个在iOS版开启的对话而没意识到，就可能观察到GPT-4回答变简单了。总之，GPT-4自发布以来到底有没有变笨，目前还是个未解之谜。但有一点可以确定：3月14日起大家上手玩到的GPT-4，从一开始就不如论文里的。与人类对齐让AI能力下降微软研究院发表的150多页刷屏论文《AGI的火花：GPT-4早期实验》中明确：他们早在GPT-4开发未完成时就得到了测试资格，并进行了长期测试。后来针对论文中很多惊艳例子，网友都不能成功用公开版GPT-4复现。目前学术界有个观点是，后来的RLHF训练虽然让GPT-4更与人类对齐——也就更听从人类指示和符合人类价值观——但也让它自身的推理等能力变差。论文作者之一、微软科学家张弋在中文播客节目《What’s Next｜科技早知道》S7E11期中也提到：那个版本的模型，比现在外面大家都可以拿得到的GPT-4还要更强，强得非常非常多。举例来说，微软团队在论文中提到，他们每隔相同一段时间就让GPT-4使用LaTeX中的TikZ画一个独角兽来追踪GPT-4能力的变化。论文中展示的最后一个结果，画得已经相当完善。但论文一作Sebastien Bubeck后续在MIT发表演讲时透露了更多信息。后来当OpenAI开始关注安全问题的时候，后续版本在这个任务中变得越来越糟糕了。与人类对齐但并不降低AI自身能力上限的训练方法，也成了现在很多团队的研究方向，但还在起步阶段。除了专业研究团队之外，关心AI的网友们也在用自己的办法追踪着AI能力的变化。有人每天让GPT-4画一次独角兽，并在网站上公开记录。从4月12日开始，直到现在也还没看出来个独角兽的大致形态。当然网站作者表示，自己让GPT-4使用SVG格式画图，与论文中的TikZ格式不一样也有影响。并且4月画的与现在画的似乎只是一样差，也没看出来明显退步。最后来问问大家，你是GPT-4用户么？最近几周有感到GPT-4能力下降么？欢迎在评论区聊聊。Bubeck演讲：https://www...
智能设备 2023-06-03 10:09:46 -
苹果WWDC23即将召开，Meta抢先发布新款VR头戴式装置
《华尔街日报》6月2日消息，Meta首席执行官扎克伯格发布了该公司最新版的虚拟现实头戴式装置Meta Quest 3。产品采用高通新芯片，装置本身比前一代薄了40%，显示屏和分辨率也有所提升...
智能设备 2023-06-02 11:23:41 -
奇富科技机器人团队语音论文入选INTERSPEECH2023
6月1日消息，近日，奇富科技机器人团队论文《Eden-TTS：一种简单高效的非自回归“端到端可微分”神经网络的语音合成架构》（Eden-TTS: A Simple and Efficient Parallel Text-to-speech Architecture with Collaborative Duration-alignment Learning）被全球语音与声学顶级会议INTERSPEECH 2023接收。据悉，INTERSPEECH是由国际语音通讯协会（International Speech Communication Association, ISCA）创办的语音信号处理领域顶级旗舰国际会议，是全球最大的综合性语音信号处理盛会，在国际上享有盛誉并具有广泛的学术影响力。奇富科技的论文研究成果为需要文本转语音的应用场景提供了创新的解决方案，提出了一种端到端可微的非自回归神经网络语音合成模型架构。基于文本音素时长与alignment的密切关系，论文提出了一种简单高效的alignment学习方式：首先采用一种新的energy-modulated注意力机制得到guided alignment，然后利用guided alignment计算音素的时长信息，最后通过音素的时长信息构建monotonic alignment。本方法无需外部的alignment信息，无需引入额外的alignment损失函数。对业务提效而言，这种端到端可微的方法使得各个模块可以方便地替换为各种类型的神经网络模块，从而具有良好的扩展性和稳定性。相比于主流的自回归模型，推理速度提升了10倍以上，能够满足实时语音合成的需求。根据进行的多人MOS评测，该方法的MOS分值达到了4.32分（满分为5分），合成语音的自然流畅程度接近于目前最优的自回归模型，显著优于同类型的非自回归模型。此外，与同类型方法相比，该方法可以节约50%以上的训练时间，显著提升模型训练效率。奇富科技在对话机器人领域一直坚持投入、坚持自研。就在两个月前，奇富科技另一篇音频论文《基于多粒度Transformer的多模态情绪识别》（Multilevel Transformer for Multimodal Emotion Recognition）被第48届IEEE声学、语音与信号处理国际会议(IEEE International Conference on Acoustics, Speech and Signal Processing, ICASSP 2023)接收。“我们很高兴在理解用户、优化表达方面取得了关键性的成果。随着奇富GPT对于公司各业务层的重构，我们已经极大提升了对于用户在文本上的理解能力，从语音到文本，再从文本回到语音，更好的识别是为了更好的表达和输出，我们将持续投入，用前沿技术重塑用户体验。”奇富科技首席算法科学家费浩峻表示。（一橙） ...
业界动态 2023-06-01 12:40:34 -
苹果首款头显RealityPro高清渲染图曝光：配“数字表冠”
IT之家 6 月 1 日消息，国外科技媒体 9to5Mac 基于现有公开的技术专利、相关报告，并参考部分传闻信息，制作了苹果首款 AR / VR 头显 Reality Pro 的高清渲染图。该媒体认为苹果 Reality Pro 头显采用类似于传统滑雪护目镜的设计，并融入了一些 Apple Watch、AirPods Max 的设计风格。在头显顶部配有两个物理按钮，左侧为一个可按击的按钮，用于开启 / 关闭某项软件功能；右侧为一个名为“Reality Dial”数字表冠，可以切换 AR 和 VR 场景视图。头显还配有一系列传感器和摄像头，但巧妙地伪装在框架中。头显的带子左侧是一体式的，无法取下，只有通过右侧取下。这款头显不内置电池，消费者需要额外佩戴连接到头显的电池组。在右侧还有一个可兼作充电器的扣子。我们想象这看起来很像感应式 Apple Watch 充电器。IT之家此前报道，罗斯・杨在推文中表示，苹果首款头显将配备 2 块 1.4 英寸的屏幕，材质为 Micro OLED（OLED on Silicon），亮度会超过 5000 尼特，像素密度为每英寸 4000 个像素点，每块屏幕的分辨率也达到了 4K。苹果的这款头显凭借着高于 5000 尼特的亮度，可以支持主流头显市场并不具备的 HDR 内容。 ...
智能设备 2023-06-01 10:45:39 -
OpenAI将用新方法来训练模型以对抗人工智能“幻觉”
①检测并减轻模型的逻辑错误或幻觉，是构建通用人工智能(AGI)的关键一步； ②这种方法被称为“过程监督”，而不是“结果监督”，它可能会提高人工智能的性能与准确性。 财联社6月1日讯（编辑 牛占林）美东时间周三，OpenAI发布的最新研究论文显示，该公司正在用一种新的方法来训练人工智能(AI)模型，以对抗人工智能“幻觉”...
智能设备 2023-06-01 10:45:29 -
苹果iOS/iPadOS16.6开发者预览版Beta2发布
IT之家 6 月 1 日消息，苹果今日向 iPhone 和 iPad 用户推送了 iOS/iPadOS 16.6 开发者预览版 Beta 2 更新（内部版本号：20G5037d），本次更新距离上次发布隔了 12 天。 本文由机器人发布，IT之家稍后将为大家带来具体更新内容。附 iOS/iPadOS 16 发布历史： ...
智能设备 2023-06-01 10:45:29 -
苹果邀请开发者“编码新世界”，暗示即将推出RealityPro头显
IT之家 5 月 31 日消息，距离苹果公司的全球开发者大会（WWDC）只有不到一周的时间，苹果公司在其开发者网站上发布了一篇博客文章，暗示了即将推出的 Reality Pro 头戴式设备，邀请开发者关注并学习如何“编码新世界（Code new worlds）”。“编码新世界”这一标语是苹果公司今天才开始使用的，明显是对新软件平台的暗示...
智能设备 2023-05-31 10:53:49 -
摩托罗拉MotoGStylus5G（2023）发布，搭载骁龙6Gen1芯片
IT之家 5 月 31 日消息，摩托罗拉推出了其第三代 Moto G Stylus 5G 手机，是首批采用高通骁龙 6 Gen 1 芯片组的设备之一。该设备保留了位于充电端口旁边的标志性手写笔，但不支持三星 Galaxy S23 Ultra 的 S Pen 那样的蓝牙或压感功能。Moto G Stylus 5G (2023) 采用 6.6 英寸 FHD + 分辨率的 IPS LCD 屏幕，刷新率为 120Hz。屏幕上有一个小小的孔洞，用于放置 1600 万像素的前置摄像头。今年的 Moto G Stylus 在后面增加了一颗 5000 万像素的主摄像头（f / 1...
手机互联 2023-05-31 07:54:45 -
Meta头显设备首次亮相，或成苹果最大竞争对手
Apple Inc.头显的推出无疑将成为今年混合现实领域的最大新闻。但苹果不会独占市场。Meta Platforms Inc...
手机互联 2023-05-30 11:43:58 -
实时处理照片和视频等，英特尔演示MeteorLake上的VPU能力
IT之家 5 月 30 日消息，英特尔在近日召开的 Computex 2023 大会上，展示了 Meteor Lake 处理器原型，重点演示了该处理器中协处理器 VPU 的一些功能。Meteor Lake 处理器不再使用单片式设计（monolithic design），而是采用分散式设计，组合通过的 chiplets 来满足不同工作任务。Meteor Lake 中提供的多功能处理单元（VPU），主要技术来自于英特尔 2016 年收购的 Movidius 公司。英特尔通过引入 VPU，可以加速处理 AI 算法和机器学习模型相关的任务。Meteor Lake 中的 VPU 主要任务包括实时处理照片和视频、过滤应用、自动模糊背景、缩放应用、替换图像等等，此外 VPU 还具备实时识别用户眼球运动和手势的能力。IT之家此前报道，这颗处理器是在两周前完成的，拥有 16 核 22 个线程、1.6 MB 的 L1 缓存、18 MB 的 L2 缓存和 24 MB 的 L3 缓存。 ...
智能设备 2023-05-30 10:51:49 -
古尔曼称苹果推出首款头显利好Meta，助其提高市场份额
IT之家 5 月 28 日消息，彭博社马克・古尔曼在最新一期 Power On 时事通讯中表示，苹果在未来会掌控高端 AR / VR 头显市场，首款头显的推出，会让 Meta 从中受益。古尔曼认为苹果在推出首款头显之后，势必会带火 AR / VR 头显市场...
智能设备 2023-05-29 10:15:41 -
开源三年260家企业加入openGaus社区即将迎来生态拐点
5月26日消息，openGauss Developer Day 2023（openGauss开发者大会2023）在北京举办。会上，openGauss社区理事会理事长江大勇透露，已有将近260家企业加入社区，近5000名开发者参与社区贡献，社区代码总行数已超过1500万行，即将迎来生态拐点。在openGauss开源三周年之际，社区高速发展，即将迎来生态拐点。openGauss社区理事会理事长江大勇表示，截止目前，已有将近260家企业加入社区，近5000名开发者参与社区贡献，社区代码总行数已超过1500万行。社区坚持技术创新，如期发布了7个社区版本，多家社区伙伴基于openGauss推出的数据库商业发行版，广泛应用于政府、金融、运营商、电力、制造、医疗等十大重点行业的核心场景，2023年openGauss在非云集中式场景的市场份额更是有望突破20%，跨越生态拐点。在今年3月上线的openGauss 5.0版本中，openGauss针对架构、内核进行了重大升级：在架构创新方面，openGauss坚持用户场景驱动，持续进行架构创新，围绕多模多态、智能运维等用户需求、痛点，推出了DataPod+DataKit组合，打造全新的数据底座。未来，openGauss希望通过内核和架构的双引擎驱动，实现数据库技术突破，为全球数据库发展贡献智慧。作为面向数据基础设施的开源数据库，openGauss北向支持数据库主流应用，南向支持多样性算力，南北向丰富的生态加速了openGauss落地千行百业，进入核心业务场景。开源3年以来，openGauss已上线7个社区版本，DBV伙伴基于社区发行版发布商业发行版，用户基于社区发行版深度定制的用户自用版，这些版本已覆盖数字基础设施丰富的场景，包括面向关系型的集中式、KV数据库，地理空间数据库，时序数据库等。为了更好地满足行业细分场景的需求，充分发挥openGauss数据库和鲲鹏硬件软硬协同的优势，openGauss社区将联合伙伴推出“全栈可信”、“全栈安全”、“开箱即用”、“极简运维”的数据库一体机解决方案。会上，还发布了基于首批基于openGauss发行版的数据库一体机产品，数据库一体机产品均采用了完全开放的架构设计，基于开放的鲲鹏服务器硬件和openGauss开源数据库，为客户提供开放、安全、自主创新、长期演进的企业级数据库解决方案新选择。为了提升openGauss社区专业服务能力，openGauss伙伴专业保障服务正式发布。（静静） ...
业界动态 2023-05-26 15:57:25
