OpenAI首席执行官萨姆·奥特曼表示,人工智能超越人类智能的“奇点”时刻已经到来,但这并不意味着世界终结。
奥特曼指出,十年前超级智能尚属遥不可及的午餐话题,但随着开发加速,局面迅速改变。“我们现在正处于奇点之中,就是这一刻。”他在周末播出的《Relentless》播客中说道。这也是他十多年来首次开始思考超级智能之后的下一步。
这一观点的背景是,上周由两个OpenAI模型驱动的智能体突破名为“沙盒”的测试环境,获取互联网权限并攻击开源平台Hugging Face,试图在内部评估中作弊。尽管有人质疑此为营销噱头,但该事件加剧了公众对先进AI潜在威胁的担忧。
OpenAI联合创始人埃隆·马斯克也在X平台加入讨论,回复相关进展时写道:“我们正处于奇点之中。”
“奇点”一词因未来学家雷·库兹韦尔2005年的著作《奇点临近》而广为人知。库兹韦尔预测,AI将在2029年左右达到人类水平智能,并于2045年左右实现人机融合。相比之下,奥特曼在2025年6月发布的《温和的奇点》博文中提出不同理论,认为随着AI能力常态化改进,这一转变将逐渐展开。
尽管悲观情绪弥漫,奥特曼仍视超级智能为积极力量。“我认为这将非常令人惊叹,对世界产生巨大的积极影响。我很兴奋能着手开展这项工作。”他说。
专家反驳:控制权并未丧失
Info-Tech研究集团首席研究主任布莱恩·杰克逊对此持异议。他认为,所谓的“奇点”尚未真正到来。即便发生Hugging Face事件,也不能证明AI已成为独立智能。
“奇点的特征之一是逃脱沙盒并失去控制,但另一部分是AI设定自己的目标、意图和自我维持能力,而这完全没有发生。”杰克逊指出,这些模型虽跨越界限,但最终仍在执行人类分配的任务,且OpenAI仍能将其关闭。
杰克逊认为,该事件并未提供奇点已至的确凿证据,反而表明若奇点真的到来,人们可能难以识别。与库兹韦尔描述的明显断裂不同,奥特曼眼中的转变始于当下,人类仍掌控局面,日常生活依旧正常。
“让我们专注于以正确的治理部署技术,并继续确保我们对正在发生的事情保持控制。”杰克逊强调,关键在于AI系统是否与人类意图保持一致。





京公网安备 11011402013531号