萨姆·奥特曼：人工智能的救世主还是末日预言家？

英文：Nasdaq Seeks Regulatory Approval for Bitcoin Index Options

萨姆·奥特曼：人工智能的救世主还是末日预言家？ 7月2日消息，作为OpenAI的首席执行官，萨姆·奥特曼（Sam Altman）致力于开发世界上首个通用人工智能（AGI），这是一种具备类人思考与推理能力的强大机器。然而，人们开始担忧，他是否可能无意中创造出一个将人类视为低等生物的AI霸主

萨姆·奥特曼：人工智能的救世主还是末日预言家？

7月2日消息，作为OpenAI的首席执行官，萨姆·奥特曼（Sam Altman）致力于开发世界上首个通用人工智能（AGI），这是一种具备类人思考与推理能力的强大机器。然而，人们开始担忧，他是否可能无意中创造出一个将人类视为低等生物的AI霸主。

在上周末举行的阿斯彭创意节（Aspen Ideas Festival）上的一次演讲中，媒体大亨阿里·伊曼纽尔（Ari Emanuel）回忆了与埃隆·马斯克（Elon Musk）之间的一次对话（马斯克是他所在的娱乐公司Endeavor的前董事）。伊曼纽尔回忆道：“马斯克曾以一种令人心悸的方式告诉我——‘阿里，你了解自己与狗的关系吗？你可以这样想，我们将来或许会成为人工智能的宠物狗。’这让我感到害怕，而我不想当狗。”

AI专家如“人工智能教父”杰弗里·辛顿（Geoffrey Hinton）等担心，硅谷的高管不会满足于仅发展AGI：人类最终可能创造出人工超级智能（ASI）。这种超级智能不仅能模仿现有的基于变换器的神经网络（如OpenAI的GPT-4）的人类学习过程，还可能在此过程中获得自我意识，悄然间将人类降级为次等生命。

鉴于奥特曼是否能做出负责任的决策至关重要，伊曼纽尔直言不讳地表达了他的疑虑：过去的行为表明，人们不相信他能正确开发突破性技术，尤其是在批评声音日益高涨的情况下。伊曼纽尔说：“我认为他是个骗子。马斯克给了他很多钱，（OpenAI）本应该是一个非盈利机构，现在他却赚了很多钱。我不知道我为什么要信任他。”此前披露的法律文件显示，马斯克在2016年至2020年9月期间向OpenAI注入了超过4400万美元的资金。

伊曼纽尔还表示，奥特曼还没有足够证明他的技术不会对社会构成长期威胁，尤其是他似乎更注重商业化而非安全。“你告诉我你已经算过，好处大于坏处，真的吗？我不这么认为。”他的媒体企业可能受到OpenAI开发的生成式AI如Sora的影响。面对外界的质疑与评论请求，OpenAI选择了沉默。

奥特曼本人曾表示，部分提供股权是为了吸引和留住人才，但他也说过，没有足够证据证明信任是合理的，人们不应盲目信任任何一家AI公司或CEO。AI未来是否意味着一个缺乏目标的社会？

奥特曼目前的净资产约为20亿美元，去年在经历了一场由董事会内部引发的“权力风波”后，他幸存下来，这部分得益于微软CEO萨蒂亚·纳德拉（Satya Nadella）的支持而稳固了地位。随着三位反对他的前董事会成员相继离场，奥特曼的权力似乎达到了前所未有的高度。

其中一位前董事，海伦·托纳（Helen Toner），在今年5月指责奥特曼不诚实行为，称他会隐瞒关键信息、扭曲事实，有时甚至会对董事会撒谎。同时，OpenAI的一些科学家，如简·雷克（Jan Leike）等人在指责奥特曼违背了对研究资助的关键承诺后，选择离开了公司。雷克和首席科学家伊利亚·苏茨凯弗（Ilya Sutskever）曾共同设计足够强大的安全协议，确保AI永不超越人类。现在，奥特曼不仅担任公司首席执行官，还负责AI安全，这在治理上引起了人们的关注。

Twitter创始人杰克·多西（Jack Dorsey）同样发出了警示，他表示，相较于未来可能由人工智能引发的深远影响，自己亲手打造的、旨在促进用户参与的算法所带来的影响显得微不足道。所有这些都让伊曼纽尔对AI的未来感到担忧。“我不想抑制创新，因为我认为我们需要AI，但我们必须为其设定界限，”伊曼纽尔在阿斯彭创意节上说，“在那样一个没有目的的世界里，社会将会如何？”

伊曼纽尔是谁？伊曼纽尔是前美国总统奥巴马（Barack Obama）的幕僚长拉姆·伊曼纽尔（Rahm Emanuel）的弟弟，他在好莱坞被誉为超级经纪人，代表过像马丁·斯科塞斯（Martin Scorsese）这样的明星，但他本质上是一个企业家。1995年，作为国际创意管理公司（International Creative Management）的高级合伙人，他创立了Endeavor代理公司，并将其发展成为一个全面的媒体和娱乐帝国，该公司于2021年4月在股票交易所上市。在他的亲密朋友和商业伙伴中，包括好莱坞明星道恩·“巨石”·约翰逊（Dwayne “The Rock” Johnson）、终极格斗冠军赛（UFC）的老板达纳·怀特（Dana White），以及特斯拉首席执行官马斯克等人。值得一提的是，马斯克曾短暂担任Endeavor董事会的一员。伊曼纽尔曾在希腊招待马斯克，当时马斯克的肥胖身材在网上引发了大量嘲笑，这促使马斯克踏上了减肥之旅。

尽管奥特曼和马斯克在2015年共同创立了OpenAI并担任联合主席，但马斯克于2018年离开了该组织。从那以后，两人在产品和言辞上展开了激烈的竞争，马斯克甚至在今年早些时候试图起诉OpenAI。

伊曼纽尔在好莱坞同行中享有极高的声誉：“世界上没有像这位首席执行官一样的人。”约翰逊在今年1月这样评价伊曼纽尔。