-
马斯克：人工智能毁灭人类的可能性很小但绝非不可能
5月24日消息，美国当地时间周二，亿万富翁埃隆·马斯克(Elon Musk)参加《华尔街日报》CEO委员会伦敦峰会时表示，他认为有必要建立能与谷歌和微软竞争的人工智能公司，这可能涉及其商业帝国的不同部分，包括推特。在伦敦峰会开幕式上，马斯克表示他去年斥资440亿美元收购推特的努力正在取得成果。他说，推特目前还不是很赚钱，但最快下个月就可能实现现金流正增长。自马斯克将其私有化以来，推特不再公开报告财务业绩，自2019年以来始终没有盈利。马斯克表示，推特可能是他创建人工智能业务的重要组成部分。特斯拉也始终在使用人工智能来改进其先进的司机辅助驾驶功能。马斯克称，推特和特斯拉可以成为一家人工智能公司的合作伙伴，就像微软和OpenAI那样。此前，马斯克已经创建了名为X.AI的人工智能公司。马斯克说：“我认为，人工智能竞赛中应该有第三匹马（be a significant third horse）。”作为推特和特斯拉的老板，马斯克长期以来始终试图引导人工智能的发展方向。他对人工智能领域快速取得的进展表示担忧，并呼吁政府进行监管。“人工智能毁灭人类的可能性很小，但绝非不可能。”马斯克周二称。（小小） ...
业界动态 2023-05-24 08:33:21 -
硅谷热辩：AI是否会毁灭人类？
5月22日消息，随着生成式人工智能等新技术成为科技界新热潮，关于人工智能是否会毁灭人类的争论愈演愈烈。有知名科技领袖警告称，人工智能可能会接管整个世界。其他研究人员和高管则表示，这种说法是科幻小说。在上周召开的美国国会听证会上，人工智能初创企业OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)明确提醒大家，该公司公开的这项技术存在安全风险。奥尔特曼警告说，ChatGPT聊天机器人等人工智能技术可能会引发虚假信息和恶意操纵等问题，并呼吁进行监管。他表示，人工智能可能“对世界造成严重伤害”。奥尔特曼在美国国会作证之际，关于人工智能是否会主宰世界的辩论正转向主流，整个硅谷和致力于推广人工智能技术的人士意见不一、分歧也越来越大。以前曾有个别人认为，机器的智力水平可能会突然超越人类，并决定毁灭人类，现在这种边缘型想法正在获得越来越多人的支持。一些权威科学家甚至都认为计算机学会超越人类并能控制人的时间将有所缩短。但许多研究人员和工程师表示，虽然不少人担心现实中出现像电影《终结者》中的天网那种杀手型人工智能，但这种担忧并不是基于合乎逻辑的好科学。相反其分散了人们对这种技术已经造成现实问题的注意力，包括奥尔特曼在证词中所描述的问题。现在的人工智能技术正在混淆版权，加剧人们对数字隐私和监控的担忧，还可能被用来提高黑客突破网络防御的能力。谷歌、微软以及OpenAI都已经公开发布突破性的人工智能技术。这些技术可以与用户进行复杂对话，并根据简单文本提示生成图像。关于邪恶人工智能的争论已经升温。“这不是科幻小说，”人工智能教父、谷歌前员工杰弗里·辛顿(Geoffrey Hinton)说。辛顿表示，比人类更聪明的人工智能可能会在5到20年内出现，而他之前的估计是30到100年。“就好像外星人已经登陆地球或即将登陆，”他说。“我们真的无法接受，因为它们讲话流利，它们很有用，它们会写诗，还会回复无聊的信。但它们真的是外星人。”尽管如此，在大型科技公司内部，许多与这项技术有密切关系的工程师并不认为人工智能取代人类是大家现在需要担心的事情。人工智能初创公司Cohere旗下研究实验室Cohere for AI主管、前谷歌研究员萨拉·胡克(Sara Hooker)说：“在积极从事这一学科的研究人员中，关注当前现实风险的人远远多于关注人类是否有生存风险的人。”目前的现实风险很多，比如发布受过不良内容训练的机器人会加深偏见和歧视等问题；人工智能的绝大多数训练数据用的都是英语，主要来自北美或欧洲，这可能会使互联网更加偏离大多数人的语言和文化；这些机器人还经常编造虚假信息，将其伪装成事实；在某些情况下，它们甚至会陷入攻击用户的无限循环对话。此外，人们也不清楚这项技术带来的连锁反应，所有行业都在为人工智能可能带来的颠覆或变革做准备，甚至律师或医生等高薪工作也会被取代。也有人认为，未来人工智能可能会伤害人类，甚至以某种方式控制整个社会。虽然事关人类生存的风险似乎更加严峻，但许多人认为，这种风险更难量化，也不那么具体。“有一群人认为，这些只是算法。它们只是在重复网上看到的内容。”今年4月份谷歌首席执行官桑德尔·皮查伊（Sundar Pichai）在接受采访时表示：“还有一种观点认为，这些算法正涌现出新特性，具有创造力、推理能力和规划能力。”“我们需要审慎对待这件事。”这场争论源于过去10年间计算机科学领域机器学习技术的不断突破。机器学习创造出相关软件和技术，可以在没有人类明确指令的情况下，从大量数据中提取出新颖见解。这种技术在社交媒体算法、搜索引擎和图像识别程序等各种应用中无处不在。去年，OpenAI和其他几家小公司开始陆续发布使用新机器学习技术的工具：生成式人工智能。这种所谓的大语言模型用网上抓取的上万亿张照片和句子进行自我训练后，可以根据简单提示生成图像和文本，与用户开展复杂对话，并编写计算机代码。未来生命研究所(Future of Life Institute)执行董事安东尼·阿吉雷(Anthony Aguirre)说，大公司正在竞相开发越来越智能的机器，几乎没有任何监管。未来生命研究所成立于2014年，目的是研究社会存在的风险。在特斯拉首席执行官埃隆·马斯克（Elon Musk）的资助下，研究所于2015年开始研究人工智能毁灭人类的可能性。阿吉雷说，如果人工智能获得比人类更好的推理能力，它们就会试图实现自我控制。这是值得人们担心的，就像现在存在的现实问题一样。他说：“如何约束它们不偏离轨道，将变得越来越复杂。”“不少科幻小说已经说得很具体了。”今年3月份，阿吉雷帮助撰写了一封公开信，呼吁暂停训练新的人工智能模型6个月时间。这封公开信共获得27000位人士签名支持，获得2018年计算机科学最高奖项的资深人工智能研究员约书亚·本吉奥（Yoshua Bengio）和最具影响力的人工智能初创企业之一首席执行官埃马德·莫斯塔克（Emad Mostaque）都位列其中。马斯克无疑是其中最引人注目的。他曾帮助创建OpenAI，现在自己也在忙着组建人工智能公司，最近投资了训练人工智能模型所需的昂贵计算机设备。多年来马斯克一直认为，人类应该对发展超级人工智能的后果倍加小心。在上周特斯拉年度股东大会期间接受采访时，马斯克表示，自己当初之所以资助OpenAI，是因为他觉得谷歌联合创始人拉里·佩奇(Larry Page)对人工智能的威胁“漫不经心”。美版知乎Quora也在开发自家人工智能模型。公司首席执行官亚当·德安吉洛(Adam D’angelo)没有在公开信上签名。他在谈到这封公开信时说，“人们提出这项建议时有各自不同的动机。”OpenAI首席执行官奥尔特曼也不认可公开信内容。他表示，自己赞同这封公开信的部分内容，但总体上缺乏“技术细节”，并不是监管人工智能的正确方式。奥尔特曼在上周二举行的人工智能听证会上表示，他公司的做法是尽早向公众推出人工智能工具，以便在技术变得更强大之前发现和解决问题。但科技界有关杀手型机器人的争论越来越多。其中一些最严厉的批评来自多年来一直研究这项技术缺陷的研究人员。2020年，谷歌研究人员蒂姆尼特·格布鲁（Timnit Gebru）和玛格丽特·米切尔（Margaret Mitchell）与华盛顿大学学者艾米丽·M·本德（Emily M. Bender）和安吉丽娜·麦克米兰-梅杰（Angelina McMillan-Major）合作撰写了一篇论文。他们认为，大语言模型模仿人类的能力不断增强，这加剧了人们会认为它们是有感情的风险。相反，他们认为这些模型应该被理解为“随机的鹦鹉学舌”，或者说仅仅是非常擅长纯粹根据概率预测句子接下来会出现哪一个单词，而不需要理解自己在说什么。其他批评者称大语言模型是“自动补全”或“知识灌肠”。他们详细记录了大语言模型如何照本宣科地生成性别歧视等不良内容。格布鲁说，这篇论文曾被谷歌压下来了。在自己坚持公开发表这篇文章后，谷歌解雇了她。几个月后，公司又解雇了米切尔。这篇论文的四位合作者也写了一封信，以此回应马斯克等人签名的公开信。他们说：“用一个幻想中的人工智能乌托邦或世界末日来分散我们的注意力很危险。”“相反，我们应该关注那些开发公司非常真实、非常现实的剥削行为，这些公司正在迅速集中力量，加剧社会不平等。”谷歌当时拒绝就格布鲁被解雇一事发表评论，但表示仍有许多研究人员在研究负责任和合乎道德的人工智能。“毫无疑问，现代人工智能是强大的，但这并不意味着它们对人类生存的威胁迫在眉睫，”Cohere公司人工智能研究主管胡克说。目前，关于人工智能摆脱人类控制的大部分讨论都集中在其如何迅速克服自身的限制上，就像《终结者》中的天网一样。胡克说：“大多数技术和技术中存在的风险都是逐步变化的。”“目前存在的技术限制加剧了大多数风险。”去年，谷歌解雇了人工智能研究员布莱克·莱蒙（Blake Lemoine）。他在接受采访时曾表示，自己坚信谷歌的LaMDA人工智能模型具有感知能力。当时，莱蒙遭到了业内许多人的严厉斥责。但一年后，科技界也有不少人开始接受他的观点。前谷歌研究员辛顿说，直到最近使用了最新的人工智能模型之后，自己改变了对这项技术潜在危险的既定看法。辛顿向计算机程序提出一些复杂的问题，在他看来，这些问题需要人工智能模型能大致理解他的请求，而不仅仅是根据训练数据预测出可能的答案。今年3月份，微软研究人员表示，在研究OpenAI的最新模型GPT4时，他们观察到了“通用人工智能的火花”，其指的就是能够像人类一样独立思考的人工智能。微软已经花了数十亿美元与OpenAI合作开发必应聊天机器人。质疑者认为，微软正在围绕人工智能技术打造自己的公众形象。人们总认为这种技术比实际情况更先进，微软可以从中获益良多。微软研究人员在论文中认为，这项技术仅仅基于所训练的文本内容，就已经发展出对世界空间和视觉的理解。GPT4可以自动画出独角兽，并描述如何将包括鸡蛋在内的随机物体堆叠在一起，让鸡蛋不会破碎。微软研究团队写道：“除了掌握语言之外，GPT-4还可以解决涉及数学、编程、视觉、医学、法律、心理学等领域的各种复杂新问题，而且不需要任何特殊提示。”他们总结说，人工智能在许多领域的能力与人类相当。不过其中一位研究人员承认，尽管人工智能研究人员曾尝试制定量化标准来评估机器的智能程度，但如何定义“智能”依旧非常棘手。他说，“它们都存在问题或有争议。”（辰辰） ...
业界动态 2023-05-22 09:37:15 -
智见丨衣宝廉院士：燃料电池车是氢能应用的突破口
出品｜网易科技《智见访谈》作者｜赵芙瑶编辑｜丁广胜你有多久没见过蓝天了？伴随着全球气候变暖、燃料价格上涨以及环境污染日益严重的现状，人类对更清洁、更安全、更高效能源的需求与日俱增。面对这一迫切的需求，燃料电池作为一种具有巨大发展前景的新能源备受瞩目。燃料电池凭借其清洁、高效的特点，正成为能源领域的明日之星。它不仅可以提供清洁的能源供应，减少环境污染和温室气体排放，还具备更高的能源利用效率。随着技术的不断创新和成本的逐渐降低，燃料电池有望为人类提供可持续发展的能源解决方案，助力能源结构的转型与升级。而氢能作为燃料电池的燃料，是一种来源丰富、环保低碳、广泛应用的次生能源，在构建清洁、低碳、安全、高效的能源体系以及实现碳达峰和碳中和目标方面扮演着重要的角色。2022年，国家发展改革委、国家能源局联合印发的《氢能产业发展中长期规划（2021-2035年）》中提出了氢能产业发展各阶段目标：到2025年，基本掌握核心技术和制造工艺，燃料电池车辆保有量约5万辆，足以见得国家对于氢能与燃料电池产业的重视程度。那么燃料电池发展现状如何？面对氢气运输的高成本以及加氢站的缺乏问题，我们应该采取何种对策？与发达国家相比，我们在技术方面应该如何奋起直追？网易科技《智见》专访本次通过世界新能源汽车大会科技委员会秘书处邀请到了燃料电池专家，中国工程院院士衣宝廉。数年前，一次偶然的机会，陪同所书记到北京开会并接下航天燃料电池任务，从此与燃料电池结缘。在燃料电池领域深耕多年的他，如何看待上述问题呢？以下为采访实录。加氢站降价方能与燃油车竞争燃料电池车缓解“里程焦虑”网易科技：您五十多年来一直专注燃料电池研究，您认为氢燃料电池汽车及氢能产业应用的价值到底何在？衣宝廉：要实现双碳目标，必须大力发展可再生能源，实现能源转型，由于可再生能源的波动性和季节性，为实现可再生能源安全上网，必须大力发展储能。氢储能，即用可再生能源电解水制氢，不但可以实现可在生能源储存，还可以实现可再生能源的再分配，也可以消除发展可再生能源的天花板，实现氢—电体系的能源供应，确保国家的能源安全。燃料电池车是氢能应用的突破口，理论上，可以用氢能代替燃油，驱动各种交通工具如各种车辆。大幅度减少石油进口，不但能实现交通领域碳减排，还可以提高国家能源安全性。网易科技：氢氧燃料电池与普通电池有何区别？中国发展燃料电池汽车的既有优势在哪里？您认为短板又主要体现在哪些方面？衣宝廉：燃料电池和二次电池如锂离子电池均是依据电化学原理将化学能转化为电能。但它们的工作方式不同，燃料电池是按内燃机方式工作的即它要发电一定要组建一个系统：燃料氢供给，氧（空气）供给，氢氧反应产物水的排除，电堆热管理和电管理等分系统。在十五科技部就成立电动汽车专家组，万刚任组长，并设立电动汽车专项。专家组提出三从三横的电动汽车发展战略：三从：锂离子电池车，混合动力车和燃料电池车。三横：电池与燃料电池，电机与推进系统，电控系统。在锂离子电池车产业化后，又提出燃料电池车的成市群示范计划，已批准二批，五个城市群，以奖励代替补贴的促进燃料电池车的发展。氢燃料电池的优势包括以下几点。第一，电池系统比能量高达到每公斤0.5-1...
智能设备 2023-05-19 16:48:55 -
邬贺铨院士：应主动迎接IPv6主导的互联网时代护航数据安全流动
5月8日消息，中国工程院院士邬贺铨在在2023西湖论剑·数字安全大会（原西湖论剑·网络安全大会）上提出，随着数据上升为重要的生产要素，跨境数据流动的安全管理面临巨大挑战，应该主动迎接IPv6主导的互联网时代，通过IPv6提升数据安全能力，支撑跨境数据流动的有效管理，护航数据安全流动。中国发展研究基金会副理事长、国务院发展研究中心原副主任刘世表示：随着实体经济发展重心转向数字化实体经济，需要正确认识和发挥资本作为生产要素的积极作用，促进数字平台创新发展，把握好数字经济发展和安全关系，坚持“用”字当头，平衡和处理好数据产权保护、安全与利用的关系...
业界动态 2023-05-08 09:40:03 -
AI大牛们预警，但眼前问题或毁灭人类风险，哪个更值得担心？
5月4日消息，建构当今人工智能基础技术的“大牛们”纷纷发出警告，称该技术存在潜在的危险。然而，他们目前尚未就人工智能的危险性或预防措施达成共识...
业界动态 2023-05-04 11:08:48 -
“乱世”买什么？达里奥：比特币不靠谱黄金方为永恒
亿万富翁投资者达里奥（RayDalio）近日表示，比特币的走势并不可靠，相较于比特币，他更喜欢黄金。财联社4月28日讯（编辑周子意）亿万富翁投资者、桥水基金创始人达里奥（RayDalio）近日表示，比特币的走势并不可靠...
区块链 2023-04-28 17:56:31 -
“乱世”买什么？达里奥：比特币不靠谱黄金方为永恒
亿万富翁投资者达里奥（RayDalio）近日表示，比特币的走势并不可靠，相较于比特币，他更喜欢黄金。财联社4月28日讯（编辑周子意）亿万富翁投资者、桥水基金创始人达里奥（RayDalio）近日表示，比特币的走势并不可靠...
区块链 2023-04-28 17:56:28 -
“乱世”买什么？达里奥：比特币不靠谱黄金方为永恒
亿万富翁投资者达里奥（RayDalio）近日表示，比特币的走势并不可靠，相较于比特币，他更喜欢黄金。财联社4月28日讯（编辑周子意）亿万富翁投资者、桥水基金创始人达里奥（RayDalio）近日表示，比特币的走势并不可靠...
区块链 2023-04-28 17:56:10 -
“乱世”买什么？达里奥：比特币不靠谱黄金方为永恒
亿万富翁投资者达里奥（RayDalio）近日表示，比特币的走势并不可靠，相较于比特币，他更喜欢黄金。财联社4月28日讯（编辑周子意）亿万富翁投资者、桥水基金创始人达里奥（RayDalio）近日表示，比特币的走势并不可靠...
区块链 2023-04-28 17:55:58 -
达利欧：只持有小部分比特币，更青睐黄金因为其“永恒而普世”
桥水基金创始人瑞·达利欧本周表示，虽然自己持有少量比特币，但他认为加密货币走势并不可靠，相比之下，黄金这一资产更有吸引力。在做客YouTube网红ChrisWilliamson的节目时，达利欧称：“我不明白为什么人们更倾向于去买比特币而不是黄金...
区块链 2023-04-28 15:45:02 -
郑志明院士：隐私计算已实现交互信息、共同收益的阶段目标
4月24日下午，“星河杯”隐私计算大赛新闻发布会在京召开。本次大赛由中国信通院、中国通信学会、隐私计算联盟共同主办，中移动信息技术有限公司、联通数字科技有限公司、天翼电子商务有限公司、中国通信标准化协会大数据技术标准推进委员会联合协办，北京国际大数据交易所、贵阳大数据交易所、深圳数据交易所提供生态支持，FATE开源社区、隐语开源社区、隐私计算联盟开源工作组提供技术支持，DataFountain提供竞赛平台支持...
智能设备 2023-04-25 17:49:07 -
美国芯片法案相关规定引发不满韩国专业人士：霸王条款不可接受
财联社4月2日电，美国商务部近日公布了《芯片与科学法案》的所谓“护栏”条款细则，在韩国引发轩然大波，遭到媒体和业界人士的批评。所谓“护栏”条款的细则规定，申请补贴的半导体企业需提交不同晶片种类的产能、预期收益率等信息，此外，还要求公开与生产相关的详细数据...
智能设备 2023-04-02 11:52:43
