Computer scientist Geoffrey Hinton: ‘AI will make a few people much richer and most people poorer’

“人工智能教父”谈人类“唯一的希望”、中国何以具备优势——以及机器何时将超越人类。

2025年9月5日

© 詹姆斯弗格森

我提前了10分钟到达，杰弗里辛顿却已在多伦多里士满车站酒店（一家雅致的美食酒吧）的前厅等候。这位计算机科学家——人工智能领域的先驱、诺贝尔物理学奖得主——选择这个地方，是因为他曾在这里与当时的加拿大总理贾斯汀特鲁多共进午餐。

我们穿过一个装修风格偏工业风、颇具时尚感的葡萄酒吧，来到热闹的里间，这里早已坐满了食客。辛顿取下那个略显陈旧的绿色“谷歌科学家”背包（来自他曾任职的公司），由于长期受背伤困扰，他把背包垫在身下，以便坐得更直。

他有着像猫头鹰般的神态，白发塞在眼镜框下方。他低头看着我，问我在大学学的是什么专业。“因为如果对方拥有理学学位，你解释事情的方式就得不一样。”我并没有理学学位。不过至少特鲁多“懂微积分”。

这位被称作“人工智能教父”的学者，早已习惯向他人讲解自己毕生的研究——如今这项研究正逐渐渗透到我们生活的各个角落。他见证了人工智能从学术界（他几乎整个职业生涯都在学术界度过，其中在多伦多大学任职超过20年）走向主流：资金雄厚的科技公司渴望触达消费者与企业，为人工智能的普及注入了动力。

辛顿因20世纪80年代中期的“基础性发现与发明”获得诺贝尔奖，这些成果为“基于人工神经网络的机器学习”奠定了基础。这种方法大致借鉴了人类大脑的工作原理，为我们如今触手可及的强大人工智能系统打下了根基。

然而，ChatGPT的问世以及随之而来的人工智能发展热潮，让辛顿停下了脚步。他不再推动这项技术加速发展，而是开始警示其潜在风险。过去几年，随着人工智能领域的飞速进步，辛顿的态度变得愈发悲观，他指出这项技术可能会给人类带来严重危害。

“借助人工智能的普通人，很快就能制造生物武器，这太可怕了。试想一下，如果街上随便一个普通人都能制造核弹，后果会怎样？”

在两个小时的午餐时间里，我们的话题广泛：从核威胁（“借助人工智能的普通人，很快就能制造生物武器，这太可怕了。试想一下，如果街上随便一个普通人都能制造核弹，后果会怎样？”），到他自己使用人工智能的习惯（称其“极其有用”），再到聊天机器人如何意外成为他上一段恋情破裂中的“第三者”。

不过，辛顿首先兴致勃勃地开启了一场小型“研讨会”，解释为何“人工智能”是一个恰当的术语：“无论从何种定义来看，人工智能都是具备智能的。”注意到面前的我是人文社科专业出身，他用了六七个不同的类比，试图让我相信人工智能对现实的感知与人类并无太大差异。

“在我看来，这很明显。如果你和这些人工智能系统对话、向它们提问，会发现它们是能理解的，”辛顿接着说，“在技术领域，几乎没人怀疑这些系统会变得越来越智能。”

服务员过来致歉，打扰了我们的谈话。辛顿没有点葡萄酒，而是选择了气泡水而非自来水，理由是“这次由《金融时报》买单”，并提议点套餐。我点了西班牙冷汤作为前菜，主菜选了三文鱼。他毫不犹豫地跟我点了一样的，笑着说其实自己“本来想点些不一样的”。

辛顿在人工智能领域的地位毋庸置疑，但业内仍有一些人认为现有技术不过是一种复杂的工具。例如，他的前同事、图灵奖共同得主杨立昆（Yann LeCun）（现任Meta公司首席人工智能科学家）就认为，支撑ChatGPT等产品的大型语言模型存在局限性，无法与物理世界进行有意义的互动。在这些怀疑者眼中，这一代人工智能不具备人类智能。

“我们对自身思维的了解其实非常有限，”辛顿说，但对于人工智能系统，“是我们创造了它们、构建了它们……我们对其的理解程度远超对人类大脑的理解，因为我们清楚每个‘神经元’在做什么。”他说话时充满笃定，但也承认存在许多未知。在整个交谈过程中，他并不介意长时间陷入思考停顿，最后常以“我不知道”或“没头绪”收尾。

1947年，辛顿出生于伦敦西南部的温布尔登，父亲是昆虫学家，母亲是教师。在剑桥大学国王学院就读时，他曾辗转多个专业，最终本科选择了实验心理学，并在20世纪70年代初转向计算机科学。尽管在21世纪10年代硅谷接纳人工神经网络技术之前，该领域一直被计算机科学界忽视和否定，但辛顿始终坚持对神经网络的研究。

交谈中不难发现，他与如今运用他研究成果的人截然不同。辛顿深耕学术界多年，而萨姆奥尔特曼（OpenAI首席执行官）却从斯坦福大学辍学，专注于创业；辛顿是一名社会主义者，其成就迟至晚年才得到广泛认可；而马克扎克伯格（Meta创始人）23岁就成为亿万富翁，与社会主义理念相去甚远。

我们喝着汤时，餐厅里嘈杂的声音与辛顿轻声却严肃地谈论人类生存问题的氛围形成了刺耳的反差。他热切地阐述了人类如何应对现代人工智能系统的部分风险——这些系统由“雄心勃勃且极具竞争性的人”开发，他们将人工智能视为未来的个人助手。这听起来似乎并无危害，但辛顿并不这么认为。

“如果助手比你聪明得多，你该如何保持对它的掌控力？目前我们所知的‘高智能生物被低智能生物掌控’的案例只有一个，那就是母亲和婴儿……如果婴儿无法掌控母亲，就无法存活。”

辛顿认为，人类“唯一的希望”是将人工智能设计成“人类的母亲”，“因为母亲会极度关心婴儿，保障婴儿的生命安全”，并助力其成长。“这正是我们应该努力构建的（人与人工智能的）关系。”

“这可以作为你文章的标题，”他笑着指了指我的笔记本说道。

他告诉我，他之前的博士生伊利亚萨茨凯弗认同这种“母子关系”的观点。萨茨凯弗是顶尖的人工智能研究者、OpenAI联合创始人，此前因试图罢免首席执行官萨姆奥尔特曼失败而离开OpenAI，目前在自己创办的“安全超级智能”公司开发相关系统。我问他，奥尔特曼和埃隆马斯克（特斯拉CEO）谁更有可能在人工智能竞赛中胜出。他回答：“嗯，不好说。”那在这两人中，他更信任谁呢？

他停顿了许久，随后回忆起2016年共和党参议员林赛格雷厄姆被问及在总统候选人中选择唐纳德特朗普还是特德克鲁斯时说的话：“这就像在‘被枪杀’和‘被毒死’之间选一个。”

说完这话，辛顿提议换到更安静的地方。我试图引起服务员的注意——他们正忙着招待满座的客人。没等我开口，他突然站起来开玩笑说：“我去跟他们说，就说我之前和特鲁多一起来过这儿。”

我们最终在门口的吧台高脚凳上坐下，接着讨论人工智能何时会发展到“超级智能”阶段——届时它可能具备超越人类的能力。“很多科学家认为，最有可能的时间范围是5到20年。”

我们的菜单

气泡水（2杯） 6加元

套餐（2份） 98加元

- 库克镇西班牙冷汤

- 不伦瑞克三文鱼

草莓奶油（2份） 20加元

卡布奇诺 7加元

英式早餐茶 4加元

总计（含税费） 152.55加元（约合110.65美元）

尽管辛顿对自己的命运有着清醒的认知——“我已经77岁了，反正生命也快走到尽头了”——但许多年轻人可能会因他对未来的看法而感到沮丧。这些年轻人该如何保持乐观呢？

“我很想说‘他们为什么要保持乐观？’或许不那么乐观，他们反而会做得更多。”他用一个问题回答了我的问题——这是他常有的习惯。

“假设你通过望远镜看到外星人将在10年后入侵地球，你会问‘我们该如何保持乐观’吗？不会的，你会问‘我们到底该怎么应对’。如果‘保持乐观’意味着假装危险不会发生，那人们根本没必要乐观。”

辛顿对西方政府的干预并不抱希望，他还批评美国政府缺乏监管人工智能的意愿。而白宫则表示，必须加快人工智能技术的发展。事实上，辛顿刚从上海回来，还带着时差，此前他在上海与中方人士举行了会谈。中方邀请他讨论“人工智能带来的生存威胁”。

“中国非常重视这个问题。很多政界人士是工程师出身，他们对人工智能的理解，是律师和商人无法比拟的，”他补充道，“对于生存威胁这类问题，只要有一个国家找到解决办法，就能告诉其他国家。”

“如果助手比你聪明得多，你该如何保持对它的掌控力？”

我们能信任中国会维护全人类的利益吗？“这是次要问题。人类的生存比‘一切向好’更重要。你能信任美国吗？你能信任马克扎克伯格吗？”

此时，我们点的三分熟三文鱼（铺在甜玉米浓汤上）上桌了，话题也转向了科技公司开发人工智能的动机。辛顿一边说着，一边用叉子叉起一块三文鱼，在盘子里蘸满酱汁。

他此前曾呼吁暂停人工智能发展，并在多封反对OpenAI转型为营利性公司的信上签名。目前，马斯克正通过一场尚未了结的诉讼，试图阻止OpenAI的这一转型。

人们常说，对人工智能能力的渲染不过是科技公司为推高估值而制造的噱头，但辛顿认为，“一种说法可能对科技公司有利，同时也可能是事实”。

我很好奇他在日常生活中是否经常使用人工智能。事实证明，ChatGPT是他的首选，主要用于“研究”，但也会用它来查询诸如“如何修理烘干机”之类的问题。不过，这款聊天机器人还意外卷入了他上一段持续数年的恋情中。

“她让ChatGPT写了我有多‘渣’，”他坦言，当时这个举动让他很意外，“她让聊天机器人罗列我的行为有多糟糕，然后把内容发给了我。我并不觉得自己有多渣，所以也没太往心里去……后来我遇到了更喜欢的人，你懂的，感情就是这样。”他笑了笑，接着说：“或许你还没经历过这种事！”

我克制住了想聊自己过往感情经历的冲动，转而提到我刚庆祝完结婚一周年。“希望你暂时不会遇到这种感情问题，”他回应道，我们都笑了起来。

辛顿吃饭速度快得多，所以当他接到姐姐的电话时，我松了口气。他告诉姐姐，自己正在“一家非常吵的餐厅”接受采访。他的姐姐住在塔斯马尼亚（“她很想念伦敦”），哥哥住在法国南部（“他也想念伦敦”），而辛顿住在多伦多（当然，他也想念伦敦）。

“所以我用从谷歌赚的钱，在（汉普斯特德）希斯南部买了一栋小房子”，他的家人——包括两个从拉丁美洲收养的孩子——都可以去那里团聚。

辛顿的“谷歌收入”源于2013年出售一家公司的交易。当时，他与萨茨凯弗以及另一名博士生亚历克斯克里泽夫斯基共同创办了这家公司，开发出了一套能以“人类水平”识别物体的人工智能系统。这笔交易的成交价为4400万美元。辛顿本想三人平分这笔钱，但他的学生坚持让他拿40%。交易完成后，他们都加入了谷歌——辛顿在那里工作了10年。

他出售公司的动机是什么？为了给患有神经多样性障碍的儿子支付护理费。辛顿“当时估算，大概需要500万美元……而这笔钱靠学术界的收入是不可能实现的”。他在心里算了笔税后收入账，发现从谷歌获得的钱“刚好略多于”这个目标。

2023年，他离开了这家科技巨头，并接受了《纽约时报》的采访，警示人工智能技术的风险。当时有媒体报道称，他辞职是为了更坦诚地谈论人工智能的风险。

“每次接受记者采访，我都会纠正这个误解，但从来没用，因为‘辞职发声’是个很有话题性的故事，”他说，“我离开谷歌是因为我已经75岁了，编程能力大不如前，而且网飞（Netflix）上还有很多我没来得及看的剧。我努力工作了55年，觉得是时候退休了……而且我想，反正都要离开了，不如趁机谈谈人工智能的风险。”

科技公司高管们常常描绘一幅“人工智能乌托邦”的图景：未来，人工智能将帮助解决饥饿、贫困、疾病等重大问题。辛顿的两任妻子都因癌症去世，因此他对人工智能在医疗领域的应用前景感到兴奋；教育也是他十分关心的领域，同样让他充满期待，但除此之外，他对人工智能在其他领域的应用兴趣不大。

“我们正处在一个历史性时刻：一件不可思议的事情正在发生，它可能带来不可思议的好处，也可能造成不可思议的危害。”

“实际情况会是，富人会利用人工智能取代劳动者，”他说，“这将导致大规模失业，同时企业利润大幅上升。最终，少数人会变得极其富有，而大多数人会变得更贫穷。这不是人工智能的错，而是资本主义制度的问题。”

奥尔特曼等科技高管此前曾提议，如果劳动力市场规模缩小到无法容纳全部人口，可推行“全民基本收入”制度。但辛顿认为，这一制度“无法解决人的尊严问题”，因为人们会从工作中获得价值感。他坦言，自己很想念以前和博士生一起探讨想法、请教问题的时光——“他们年轻，理解事情更快”。如今，他会转而向ChatGPT提问。

这会不会导致人类变得懒惰、缺乏创造力？目前，“认知卸载”是一个热门话题，指的是人工智能使用者将任务交给机器，而不进行批判性思考，也不记忆获取的信息。对此，辛顿又用了一个类比来解释。

“我们穿衣服，因为穿衣服，体毛变得更少了。如果不穿衣服，我们更容易冻死。”在辛顿看来，只要能获取有用的人工智能系统，它就是一种有价值的工具。

他看了看甜点菜单，这次特意先点了单：草莓奶油。巧合的是，这也是我想吃的。他点了一杯卡布奇诺，我则点了一杯茶。“这下我们的选择不一样了。”

事实上，甜点里的“奶油”是略微融化的冰淇淋，我一边用勺子搅拌着化成液体的冰淇淋，一边向他描述了一个在硅谷常见、但对大多数人而言仍像科幻故事的场景：未来，我们将与“实体人工智能”（即机器人）和谐共处，同时通过为身体植入人工部件、注射化学物质来延长寿命，逐渐变成“赛博格”（半人半机器）。

“这有什么不好的？”他问道。我反驳说，这样我们会失去自我认知，忘记“做人的意义”。“‘做人的意义’就那么好吗？”他回应道。我试图进一步追问：“这不一定是‘好’，但我们将不再拥有‘人性’，这本质上不就是人类的灭绝吗？”

“嗯，你说得有道理，”他停顿了一下，说道。

“我们不知道未来会发生什么，完全没头绪。那些告诉你未来会怎样的人，都是在瞎扯，”他补充道，“我们正处在一个历史性时刻：一件不可思议的事情正在发生，它可能带来不可思议的好处，也可能造成不可思议的危害。我们可以猜测，但现状绝不会一直持续下去。”

本文作者：克里斯蒂娜克里德尔是英国《金融时报》科技记者，驻旧金山，主要报道人工智能领域新闻。