-
度小满CEO朱光：生成式AI在金融领域的应用是未来五年最重要战略方向
10月17日消息，百度世界2023上，度小满CEO朱光表示，随着技术底座的建设，大模型技术出发的“第一幕”已经成功上演，应用落地的“第二幕”正徐徐拉开，生成式AI正在深入到各行各业。朱光回顾了过去十年来金融业的发展，大数据技术与金融业结合，推动了数字普惠金融的极大发展，这是AI 1.0在金融领域带来的变革，“以大模型技术为代表的人工智能2...
互联网 2023-10-19 02:33:17 -
S13赛前Knight采访：每个面对我们的对手都小心点，目标S赛冠军！
目前S13入围赛阶段的比赛已经告一段落，在抽签结束后目前瑞士轮首轮的对阵情况也已确定，除了BLG一上来就要和LCK三号种子KT打一场硬仗以外，其他LPL队伍签运整体来看其实都相当不错，而作为今年LPL赛区被寄予厚望的一号种子，JDG无疑是S13赛前最受看好的夺冠大热，在今年一年他们参加的LOL官方赛事都取得了冠军，距离达成年度大满贯也只差最后这座S赛冠军奖杯。在S13瑞士轮比赛正式打响之前，JDG战队的中单选手Knight也是接受了媒体采访，谈及了自己对于此次S13的一些想法...
游戏资讯 2023-10-19 02:28:30 -
knight采访放话：JDG今年S赛夺冠，就是历史第2战队！仅次于SKT
S13世界赛即将开赛，最近对于各大战队选手的采访也越来越多。这几天Knight也接受了外媒的采访，在采访中knight放话如果JDG夺冠，将成为历史第二战队，仅次于SKT...
游戏资讯 2023-10-19 02:27:17 -
百度发布AINative商业全景应用，推出AI商业引擎“扬楫”
10月18日消息，“百度世界2023”上， 百度集团副总裁，移动生态商业体系负责人王凤阳，首次体系化发布“AI Native商业全景应用”，包括全新AI商业引擎“扬楫”、AI Native营销平台“轻舸”、打造开启对话式营销的“品牌BOT”、焕新助力商家长效经营的“智能商家经营平台”等，并向生态伙伴发起“共拓计划”合作邀请。王凤阳表示，“AI Native商业全景应用”是百度营销全方位重构商业新生态的体现，从技术创新、营销科学、应用落地，到生态共建...
互联网 2023-10-19 02:22:56 -
AMD撤回最新驱动以应对新功能导致《CS2》封禁
前几天，使用 AMD 显卡的《反恐精英2》玩家发现，在更新了最新的显卡驱动并开启 Radeon Anti-Lag+ 功能之后，他们的账号遭遇了封禁问题。随后 V社也表示他们已经了解该问题，并警告还未被封禁的玩家不要开启该功能。几天过去了，AMD 并未推出更新的驱动，而是将其在官方下载页面的新版本驱动进行了下架。面向《反恐精英2》的 Anti-Lag+ 技术支持是在 AMD 23.20...
游戏资讯 2023-10-19 02:20:59 -
已在央行数字货币桥等落地应用！中国自主设计研发的大圣协议是什么
10月12日举办的2023中国（北京）数字金融论坛“数字金融技术开源论坛暨区块链共识协议（大圣协议）应用研讨会”上，来自政、产、学、研、用的各界人士齐聚一堂共议大圣协议，呼吁为更好地服务金融科技发展，大圣协议应推广使用，进一步赋能数字产业应用。“下一步相信大圣协议的生态很快就会建立起来。”中国科学院院士、清华大学高等研究院“杨振宁讲座”教授王小云指出，“大圣协议完全基于自主设计、自主研发，不存在技术‘卡脖子’的问题。”去年，中国人民银行数字货币研究所（下称“数研所”）联合清华大学公开发布了可解决共识算法四方难题的区块链大圣（DASHING）协议。经过一年多的发展，大圣协议已在多边央行数字货币桥项目、央行贸易金融区块链平台等金融基础设施上落地应用，取得良好效果。大圣协议破解四方难题澎湃新闻了解到，一直以来，传统共识算法无法解决金融科技场景下高安全、高延展、高吞吐和低延迟同时满足的四方难题，共识算法创新成为推动联盟链在金融科技应用的关键。针对上述技术难点，数研所和清华大学王小云院士团队共同创新攻关，在可证明安全条件下创新出区块链f+1投票理论，研发出具有国际领先水平的大圣协议。王小云介绍，大圣协议是联盟链中一种全新的可变门限链状共识协议，兼顾安全性和效率，填补了符合金融场景“三高一低”的共识协议空白。对比现有国际主流区块链共识算法性能，大圣协议在4节点测试中提升30%以上，在复杂网络环境的91节点测试中提升10倍以上。在落地应用中，大圣协议既能作为单独模块乐高式替换现有联盟链中共识算法，又能助力构建多方协同安全高效的新型金融基础设施。中国人民银行数字货币研究所副所长狄刚指出，大圣协议具备五个技术创新亮点：一是支持复杂网络动态的自适应；二是协议的可证明安全；三是解耦提案和区块共识，实现高性能；四是优化共识流程，实现高延展、低延迟；五是实现事件驱动的可变模式编程。大圣协议已在货币桥、贸易平台落地应用狄刚介绍，过去一年，大圣协议相关技术成果已在多边央行数字货币桥项目、央行贸易金融区块链平台等金融基础设施上落地应用，取得良好效果，并向瑞典央行、法国央行、国际货币基金组织等二十余家多边央行数字货币桥观察员进行了成果展示。多边央行数字货币桥项目由数研所会同香港金管局、泰国央行、阿联酋央行联合发起，在国际清算银行（香港）创新中心的支持和协调下共同探索央行数字货币在跨境支付中的应用。2022年9月，全球首次完成了基于四个国家或地区央行数字货币的真实交易试点，实现了货币桥与贸易金融区块链平台、香港贸易联动平台的业务联动，完成了订单融资业务和货币桥跨境支付能力的共同验证。此外，狄刚表示，大圣协议还在贸易金融区块链平台得到了充分应用。针对传统贸易金融痛点，由数研所牵头，联合多家高校、研究机构共同围绕金融服务实体经济的总要求，建设了央行贸易金融区块链平台。该平台被列为国家重点研发计划重大专项，旨在建设下一代贸易金融生态3.0，实现由“系统”到“平台”再到“生态”的跨越式发展。目前该重大专项已通过项目验收。 ...
区块链 2023-10-19 02:16:10 -
大圣协议破解传统共识算法难题，已在多边央行数字货币桥应用
去年中国人民银行数字货币研究所（下称“数研所”）联合清华大学公开发布了可解决共识算法四方难题的区块链大圣（DASHING）协议。经过一年多的发展，大圣协议已在多边央行数字货币桥项目、央行贸易金融区块链平台等金融基础设施上落地应用，取得良好效果。日前，在2023中国（北京）数字金融论坛“数字金融技术开源论坛暨区块链共识协议（大圣协议）应用研讨会”上，来自政、产、学、研、用的各界人士共议大圣协议，呼吁为更好地服务金融科技发展，大圣协议应推广使用，进一步赋能数字产业应用。“下一步相信大圣协议的生态很快就会建立起来。”中国科学院院士、清华大学高等研究院“杨振宁讲座”教授王小云指出，“大圣协议完全基于自主设计、自主研发，不存在技术‘卡脖子’的问题。”坚持自主研发，破解四方难题“十四五”规划提出，推动共识算法等区块链技术创新，以联盟链为重点发展区块链服务平台和金融科技等领域应用方案。一直以来，传统共识算法无法解决金融科技场景下高安全、高延展、高吞吐和低延迟同时满足的四方难题，共识算法创新成为推动联盟链在金融科技应用的关键。针对这一技术难点，数研所和清华大学王小云院士团队共同创新攻关，在可证明安全条件下创新出区块链f+1投票理论，研发出具有国际领先水平的大圣协议。王小云介绍，大圣协议是联盟链中一种全新的可变门限链状共识协议，兼顾安全性和效率，填补了符合金融场景“三高一低”的共识协议空白。对比现有国际主流区块链共识算法性能，大圣协议在4节点测试中提升30%以上，在复杂网络环境的91节点测试中提升10倍以上。在落地应用中，大圣协议既能作为单独模块乐高式替换现有联盟链中共识算法，又能助力构建多方协同安全高效的新型金融基础设施。中国人民银行数字货币研究所副所长狄刚指出，大圣协议具备五个技术创新亮点：一是支持复杂网络动态的自适应；二是协议的可证明安全；三是解耦提案和区块共识，实现高性能；四是优化共识流程，实现高延展、低延迟；五是实现事件驱动的可变模式编程。“我们对比了半同步以及异步的几种共识协议的特性，大圣协议同时做到了满足严格证明安全性、强延展性、高吞吐量和低延迟性这四种特性。”狄刚指出。蚂蚁集团技术战略发展部副总经理彭晋指出，蚂蚁集团对包括大圣协议在内的多种共识协议进行比较研究后发现，一些国际主流共识协议更偏向于在信任度比较强、网络复杂度比较低的环境里应用，而大圣协议在不引入额外信任假设的情况下能够适应更复杂的网络环境，具有更好的普适性。工商银行首席信息官吕仲涛指出，以共识算法为代表的区块链核心技术，是支撑未来区块链创新应用的重点突破方向。自主研发出大圣协议意义重大，有利于解决金融场景区块链应用的关键技术难题，推动金融业区块链规模化应用。“区块链和隐私计算技术有望带来数字身份产业的巨大变革，但目前区块链技术要达到国家基础设施级别的服务保障和支撑能力，在性能、可扩展性和安全性方面还有待进一步提高，亟须创新。”公安部第一研究所身份管理事业部主任郭小波指出，无疑大圣协议在这方面迈出了自主创新的重要一步。已在货币桥、贸易平台落地应用技术条件已经具备，关键是下一步的落地。狄刚介绍，过去一年大圣协议相关技术成果已在多边央行数字货币桥项目、央行贸易金融区块链平台等金融基础设施上落地应用，取得良好效果，并向瑞典央行、法国央行、国际货币基金组织等二十余家多边央行数字货币桥观察员进行了成果展示。多边央行数字货币桥项目由数研所会同香港金管局、泰国央行、阿联酋央行联合发起，在国际清算银行（香港）创新中心的支持和协调下共同探索央行数字货币在跨境支付中的应用。2022年9月，全球首次完成了基于四个国家或地区央行数字货币的真实交易试点，实现了货币桥与贸易金融区块链平台、香港贸易联动平台的业务联动，完成了订单融资业务和货币桥跨境支付能力的共同验证。此外，大圣协议还在贸易金融区块链平台得到了充分应用。针对传统贸易金融痛点，由数研所牵头，联合多家高校、研究机构共同围绕金融服务实体经济的总要求，建设了央行贸易金融区块链平台。该平台被列为国家重点研发计划重大专项，旨在建设下一代贸易金融生态3.0，实现由“系统”到“平台”再到“生态”的跨越式发展。目前该重大专项已通过项目验收。呼吁推广使用为更好服务金融科技发展，业内呼吁，自主开发的大圣协议应推广使用，进一步赋能数字产业应用。北京微芯区块链与边缘计算研究院副院长任常锐指出，区块链共识技术的发展呈现出技术融合的趋势，即竞争型共识算法与合作型共识算法越来越多的融合，目标是能够为各种不同需求的应用提供广频谱、自适应的支持。同时，区块链技术正在逐渐演化为下一代价值互联网的基础设施，这更要求作为底层基础性技术的区块链能够做到代码开源、生态开放。吕仲涛建议，加强银行业区块链生态建设，整合打造行业级区块链应用平台。建议有关行业主管部门以业务需求为导向，统筹整合现有多个银行领域区块链应用产品，并加强与海关、物流、税务等关联领域区块链应用的互联互通，打造业务流程全闭环的行业级银行区块链应用平台，形成银行业标准化的区块链应用范式，持续做大银行区块链生态网络规模。他还建议，推动大圣协议的推广使用。从目前的多边央行数字货币桥应用不断拓展到数字人民币智能合约、行业级区块链应用等场景，充分发挥大圣协议在大规模区块链网络节点场景下的高性能、低延迟、强安全等技术特点，更好地促进科研成果转化。 ...
区块链 2023-10-19 02:15:23 -
vivo将发布自研AI大模型矩阵将在OriginOS4首次应用
10月16日消息，C-Eval大模型评测榜单更新，榜单显示，vivo自研大模型在C-Eval全球中文榜单中排名第一。vivo相关负责人透露，vivo自研AI大模型将会在即将发布的OriginOS 4系统中被首次应用，其中包括十亿、百亿、千亿三个不同参数量级的5款自研大模型，全面覆盖核心应用场景...
电信通讯 2023-10-19 02:15:19 -
百度智能云上线国内首个“AI原生应用商店”
允中 发自 凹非寺量子位 | 公众号 QbitAI在10月17日举行的百度世界2023上，百度智能云宣布，百度智能云千帆大模型服务平台已服务17000多家客户，覆盖近500个场景。同时，新的企业和开发者还正在不断地涌入千帆，大模型调用量高速攀升...
智能设备 2023-10-19 02:15:18 -
谷歌Chrome浏览器测试新特性：新窗口打开PWA应用链接
IT之家 10 月 17 日消息，谷歌今天邀请部分 Canary 频道的 Chrome 浏览器用户，测试名为 Link Capturing for PWAs 的新特性。用户点击 PWA 应用链接之后，不再跳出新的标签页，而是会唤起相应的 PWA 应用窗口，方便用户直接浏览...
智能设备 2023-10-19 02:14:51 -
三星GalaxyZFlip5手机外屏更大更实用，谷歌应用也将跟进
IT之家 6 月 13 日消息，三星即将推出新款折叠手机 Galaxy Z Flip 5，其最大的亮点是拥有一个更大更实用的外屏。Galaxy Z Flip 5 的外屏尺寸将达到 3.4 英寸，比现有的 Galaxy Z Flip 系列手机的外屏要大得多。用户可以在折叠状态下使用外屏完成许多操作，例如打字、语音输入、浏览网页、查看日历等。三星的大部分应用都已经为外屏进行了优化，不仅如此，据 Sammobile 报道称，谷歌应用也为 Galaxy Z Flip 5 的外屏进行了专门的优化。例如，谷歌地图可以在外屏上显示导航信息，用户无需展开手机就可以查看路线。谷歌的其他应用，如信息、YouTube 等也都支持外屏操作。用户可以在折叠状态下发送短信、观看视频等。三星和谷歌之间的合作并不意外。自从三星推出第一款折叠手机以来，两家公司就一直密切合作，为三星的折叠手机优化 Android 系统和应用。例如，谷歌 Meet就支持 Galaxy Z Flip 的 Flex模式。虽然 Galaxy Z Flip 5 的外屏无法提供 Galaxy Z Fold 5 的外屏那样完整的 Android 系统体验，但仍然为用户带来了更多的便利和可能性。据悉三星 Galaxy Z Flip 5 将在 7 月 27 日上市，IT之家将保持关注。 ...
智能设备 2023-06-13 10:59:33 -
SamAltman中国对话全文
Sam Altman 的致辞发生在6月10日智源大会的AI安全与对齐分论坛上。现场座无虚席，这位OpenAI CEO在屏幕上出现时，现场响起掌声，几乎所有人都举起手机对着屏幕拍照。不过Altman本人显得十分平静，甚至是谨慎。这是去年ChatGPT搅动全球AI热潮以来，Sam Altman 首度在中国背景的场合公开发表意见。事实上当天他也在离中国不远的地方，此前他刚刚抵达首尔，见了韩国总统。在对话中他自己提到，上一次来中国是2016年。在发表演讲后，他还与智源研究院理事长张宏江进行了一对一问答。以下为要点及实录。要点：随着我们在技术上越来越接近AGI，不对齐的影响和缺陷将呈指数级增长。OpenAI目前使用强化学习人类反馈技术来确保AI系统有用与安全，同时也在探索新的技术，其中一个思路是使用AI系统来辅助人类去监督别的AI系统。十年内人类将拥有强大的人工智能系统（AI System）。OpenAI没有相关的新的有关开源的时间表，尽管他承认在有关AI安全的问题上，开源模型具有优势，但开源所有东西可能并不是一条（促进AI发展的）最佳路线。看明白神经网络比看明白人类脑子容易多了。中国有最优秀的人工智能人才，AI安全需要中国研究者的参与和贡献。以下为演讲实录：今天，我想谈谈未来。具体来说，就是我们在人工智能能力方面看到的增长速度。我们现在需要做什么，为它们引入世界做好负责任的准备，科学史教会我们，技术进步遵循指数曲线。我们已经能从历史中看到这一点，从农业、工业到计算革命。人工智能令人震撼的不仅是它的影响力，还有它的进步速度。它拓展了人类想象力的边界，并且以快速的步伐进行着。想象一下，在未来十年里，通常被称为通用人工智能（AGI）的系统，在几乎所有领域都超越了人类的专业水平。这些系统最终可能超过我们最大公司的集体生产力。这里面潜藏着巨大的上升空间。人工智能革命将创造共享财富，并使提高每个人生活水平成为可能，解决共同挑战，如气候变化和全球卫生安全，并以无数其他方式提高社会福祉。我深信这个未来，为了实现它并享受它，我们需要共同投资于AGI安全，并管理风险。如果我们不小心，一个不符合目标的AGI系统，可能会通过提供没有根据的建议，破坏整个医疗系统。同样地，一个旨在优化农业实践的AGI系统可能会由于缺乏对长期可持续性的考虑而无意中耗尽自然资源或破坏生态系统，影响食品生产和环境平衡。我希望我们都能同意，推进AGI安全是我们最重要的领域之一。我想把我剩下的讲话重点放在我认为我们可以从哪里开始的地方。一个领域是AGI治理，这是一项具有全球影响的技术。鲁莽开发和部署造成的事故成本将影响我们所有人。在这方面，有两个关键要素：首先，我们需要建立国际规范和标准，并通过包容的过程，在所有国家为AGI的使用制定平等统一的保护措施。在这些保护措施之内，我们相信人们有充分的机会做出自己的选择。其次，我们需要国际合作来建立对日益强大的人工智能系统安全开发的全球信任，以可验证的方式。这不是一件容易的事情。我们需要作为国际社会投入持续而重要的关注，才能做好这件事。道德经提醒我们，千里之行始于足下。我们认为在这里采取最有建设性的第一步是与国际科技界合作。特别是，我们应该促进增加透明度和知识共享的机制，关于AGI安全方面的技术进展。发现新出现安全问题的研究人员应该为了更大的利益分享他们的见解。我们需要认真考虑如何在尊重和保护知识产权权利的同时，鼓励这种规范。如果我们做好了这一点，它将为我们打开新的大门，让我们能够加深合作。更广泛地说，我们应该投资、促进和引导对目标和安全研究的投资。在OpenAI，我们今天的目标研究主要集中在技术问题上，即如何让人工智能系统作为一个有用和安全的助手，在我们当前的系统中行动。这可能意味着，我们如何训练ChatGPT，使它不会发出暴力威胁或协助用户进行有害活动。但是随着我们更接近AGI，任何不符合目标的潜在影响和程度都将呈指数增长。为了提前解决这些挑战，我们努力将未来灾难性结果的风险降到最低。对于当前系统，我们主要使用来自人类反馈的强化学习来训练我们的模型，使其作为一个有用和安全的助手行动。这是后期训练目标技术中的一个例子，我们也在忙于开发新的技术。要做好这件事情需要很多艰苦的工程工作。从GPT-4完成预训练到部署它，我们花了8个月的时间来做这件事。总的来说，我们认为我们在这方面走在了正确的轨道上。GPT-4比我们以前的任何模型都更符合目标。然而，对于更先进的系统来说，目标仍然是一个未解决的问题，我们认为这需要新的技术方法，以及更多的治理和监督。想象一下，一个未来的AGI系统提出了10万行二进制代码。人类监督者不太可能检测到这样一个模型是否在做一些邪恶的事情。所以我们正在投资一些新的和互补的研究方向，我们希望能够取得突破。一个是可扩展的监督。我们可以尝试使用人工智能系统来协助人类监督其他人工智能系统。例如，我们可以训练一个模型来帮助人类监督者发现其他模型输出中的缺陷。第二个是可解释性。我们想尝试更好地理解这些模型内部发生了什么。我们最近发表了一篇论文，使用GPT-4来解释GPT-2中的神经元。在另一篇论文中，我们使用模型内部信息来检测模型何时在说谎。虽然我们还有很长的路要走，但我们相信先进的机器学习技术可以进一步提高我们产生解释的能力。最终，我们的目标是训练人工智能系统来帮助目标研究本身。这种方法的一个有希望的方面是，它随着人工智能发展的步伐而扩展。随着未来模型变得越来越聪明和有用作为助手，我们将找到更好的技术，实现AGI的非凡利益，同时减轻风险，是我们这个时代最重要的挑战之一。以下为对话实录：张宏江：我们离人工智能还有多远？风险是不是很紧迫，还是我们离它还很遥远？无论是安全的人工智能，还是潜在的不安全的人工智能。Sam Altman ：这个问题很难准确预测时间，因为它需要新的研究思路，而这些思路并不总是按照规定的日程来发展的。它可能很快就会发生，也可能需要更长的时间。我认为很难用任何程度的确定性来预测。但我确实认为，在未来十年内，我们可能会拥有非常强大的人工智能系统。在这样的世界里，我认为解决这个问题是重要而紧迫的，这就是为什么我呼吁国际社会共同合作来解决这个问题。历史上确实给我们提供了一些新技术比许多人想象的更快地改变世界的例子。我们现在看到的这些系统的影响和加速度，在某种意义上是前所未有的。所以我认为做好准备，让它尽快发生，并且解决好安全性方面的问题，考虑到它们的影响和重要性，是非常有意义的。张宏江：你感觉到了一种紧迫感吗？Sam Altman：是的，我感觉到了。我想强调一下，我们并不真正知道。而且人工智能的定义也不同，但是我认为在十年内，我们应该为一个拥有非常强大系统的世界做好准备。张宏江：你在刚才的演讲中也提到了几次全球合作。我们知道世界在过去六七十年里面临过很多危机。不过对于其中的很多危机，我们设法建立了共识和全球合作。你也正在进行一次全球之旅。你正在推动什么样的全球合作？你对目前收到的反馈感觉如何？Sam Altman：是的，我对目前收到的反馈非常满意。我认为人们非常认真地对待人工智能带来的风险和机遇。我认为在过去六个月里，这方面的讨论已经有了很大进步。人们真正致力于找出一个框架，让我们能够享受这些好处，同时共同合作来减轻风险。我认为我们处于一个非常有利的位置来做这件事。全球合作总是很困难的，但我认为这是一种机会和威胁，可以让世界团结起来。我们可以制定一些框架和安全标准，来指导这些系统的开发，这将是非常有帮助的。张宏江：在这个特定的话题上，你提到了高级人工智能系统的对齐是一个未解决的问题。我也注意到OpenAI在过去几年里投入了很多精力。你还提到了GPT-4是对齐方面的最佳例子。你认为我们能否通过对齐来解决人工智能安全问题？或者这个问题比对齐更大？Sam Altman ：我认为对齐这个词有不同的用法。我认为我们需要解决的是如何实现安全人工智能系统的整个挑战。对齐在传统意义上是指让模型按照用户的意图行事，这当然是其中的一部分。但我们还需要回答其他一些问题，比如我们如何验证系统是否做了我们想要它们做的事情，以及我们要根据谁的价值观来对齐系统。但我认为重要的是要看到实现安全人工智能所需要的全貌。张宏江：是的，如果我们看看GPT-4所做的事情，在很大程度上，它仍然是从技术角度来看的。但除了技术之外，还有许多其他因素。这是一个非常复杂的问题。通常复杂问题是系统性的。人工智能安全可能也不例外。除了技术方面之外，你认为还有哪些因素和问题对人工智能安全至关重要？我们应该如何应对这些挑战？特别是我们大多数人都是科学家，我们应该做什么？Sam Altman：这当然是一个非常复杂的问题。我会说没有技术解决方案，其他一切都很难。我认为把很多精力放在确保我们解决了安全方面的技术问题上是非常重要的。正如我提到的，弄清楚我们要根据什么样的价值观来对齐系统，这不是一个技术问题。它需要技术输入，但它是一个需要全社会深入讨论的问题。我们必须设计出公平、有代表性和包容性的系统。而且，正如你指出的，我们不仅要考虑人工智能模型本身的安全性，还要考虑整个系统的安全性。所以建立安全分类器和检测器，可以在模型之上运行，可以监控使用策略的遵守情况，这也很重要。然后，我也认为很难提前预测任何技术会出现什么问题。所以从真实世界中学习和迭代地部署，看看当你把模型放到现实中时会发生什么，并改进它，并给人们和社会时间去学习和更新，并思考这些模型将如何以好的和坏的方式影响他们的生活。这也很重要。张宏江：你刚才提到了全球合作。你已经访问了很多国家，你提到了中国。但你能否分享一些你在合作方面取得的成果？你对下一步有什么计划或想法？从这次世界之旅中，从你与各种政府、机构、机构之间的互动中？Sam Altman：我认为通常需要很多不同的视角和人工智能安全。我们还没有得到所有的答案，这是一个相当困难和重要的问题。此外，正如所提到的，这不是一个纯粹的技术问题，使人工智能安全和有益的。涉及在非常不同的背景下了解不同国家的用户偏好。我们需要很多不同的投入才能实现这一目标。中国拥有一些世界上最优秀的人工智能人才。从根本上说，我认为，考虑到解决高级人工智能系统对齐的困难，需要来自世界各地的最好的头脑。所以我真的希望中国的人工智能研究人员在这里做出巨大的贡献。张宏江：我明白今天的论坛是关注AI安全的，因为人们对OpenAI很好奇，所以我有很多关于OpenAI的问题，不仅仅是AI安全。我这里有一个观众的问题是，OpenAI有没有计划重新开源它的模型，就像在3.0版本之前那样？我也认为开源有利于AI安全。Sam Altman：我们有些模型是开源的，有些不是，但随着时间的推移，我认为你应该期待我们将来会继续开源更多的模型。我没有一个具体的模型或时间表，但这是我们目前正在讨论的事情。张宏江：我们把所有的努力都投入到了开源中，包括模型本身、开发模型的算法、优化模型和数据之间关系的工具。我们相信有必要分享，并让用户感觉到他们控制了自己所使用的东西。你是否有类似的反馈？或者这是你们在OpenAI中讨论的内容？Sam Altman：是的，我认为开源在某种程度上确实有一个重要的作用。最近也有很多新的开源模型出现。我认为API模型也有一个重要的作用。它为我们提供了额外的安全控制。你可以阻止某些用途。你可以阻止某些类型的微调。如果某件事情不起作用，你可以收回它。在当前模型的规模下，我不太担心这个问题。但是随着模型变得像我们期望的那样强大，如果我们对此是正确的，我认为开源一切可能不是最佳路径，尽管有时候它是正确的。我认为我们只需要仔细地平衡一下。张宏江：关于GPT-4和AI安全方面的后续问题是，我们是否需要改变整个基础设施或整个AGI模型的架构，以使其更安全、更容易被检查？你对此有什么想法？Sam Altman：这肯定有可能，我们需要一些非常不同的架构，无论是从能力还是从安全性方面来看。我认为我们将能够在可解释性方面取得一些进展，在当前类型的模型上，并让它们更好地向我们解释它们在做什么以及为什么。但是，如果在变换器之后还有另一个巨大的飞跃，那也不会让我感到惊讶。而且实际上我们已经在原始的变换器之后，架构已经发生了很大的变化。张宏江：作为一个研究人员，我也很好奇，下一步的AGI研究方向是什么？在大模型、大语言模型方面，我们会不会很快看到GPT-5？下一个前沿是不是在具身模型上？自主机器人是不是OpenAI正在或者准备探索的领域？Sam Altman：我也很好奇下一步会发生什么，我最喜欢做这项工作的原因之一就是在研究的前沿，有很多令人兴奋和惊讶的事情。我们还没有答案，所以我们在探索很多可能的新范式。当然，在某个时候，我们会尝试做一个GPT-5模型，但不会是很快。我们不知道具体什么时候。我们在OpenAI刚开始的时候就做过机器人方面的工作，我们对此非常感兴趣，但也遇到了一些困难。我希望有一天我们能够回到这个领域。张宏江：听起来很棒。你在演讲中也提到了你们是如何用GPT-4来解释GPT-2的工作原理，从而使模型更安全的例子。这种方法是可扩展的吗？这种方向是不是OpenAI未来会继续推进的？Sam Altman：我们会继续推进这个方向。张宏江：那你认为这种方法可以应用到生物神经元上吗？因为我问这个问题的原因是，有一些生物学家和神经科学家，他们想借鉴这个方法，在他们的领域里研究和探索人类神经元是如何工作的。Sam Altman：在人工神经元上观察发生了什么比在生物神经元上容易得多。所以我认为这种方法对于人工神经网络是有效的。我认为使用更强大的模型来帮助我们理解其他模型的方法是可行的。但我不太确定你怎么把这个方法应用到人类大脑上。张宏江：好的，谢谢你。既然我们谈到了AI安全和AGI控制，那么我们一直在讨论的一个问题是，如果这个世界上只有三个模型，那么会不会更安全？这就像核控制一样，你不想让核武器扩散。我们有这样的条约，我们试图控制能够获得这项技术的国家数量。那么控制模型数量是不是一个可行的方向？Sam Altman：我认为对于世界上有少数模型还是多数模型更安全，有不同的观点。我认为更重要的是，我们是否有一个系统，能够让任何一个强大的模型都经过充分的安全测试？我们是否有一个框架，能够让任何一个创造出足够强大的模型的人，既有资源，也有责任，来确保他们创造出的东西是安全和对齐的？张宏江：昨天在这个会议上，MIT未来生命研究所的Max教授提到了一种可能的方法，就是类似于我们控制药物开发的方式。科学家或者公司开发出新药，你不能直接上市。你必须经过这样的测试过程。这是不是我们可以借鉴的？Sam Altman：我绝对认为，我们可以从不同行业发展出来的许可和测试框架中借鉴很多东西。但我认为从根本上说，我们已经有了一些可以奏效的方法。张宏江：非常感谢你，Sam。谢谢你抽时间来参加这次会议，虽然是虚拟的。我相信还有很多问题，但考虑到时间，我们不得不到此为止。希望下次你有机会来中国，来北京，我们可以有更深入的讨论。非常感谢你。 ...
智能设备 2023-06-13 10:58:37
