撰文：Techub News 整理

导语

2025 年 8 月，被誉为“AI教父”的杰弗里·辛顿（Geoffrey Hinton）接受了知名记者凯蒂·库里克（Katie Couric）的深度专访。此次对话背景特殊，辛顿在2024年荣获诺贝尔物理学奖后，其关于AI风险的警示获得了更广泛的关注。作为神经网络领域的奠基人，他于去年离开供职十年的谷歌，以便更自由地发声。在这次采访中，辛顿系统阐述了他对AI短期及长期风险的看法，尤其是超级智能可能在5-20年内超越人类所带来的生存危机，并分享了他为应对此危机而进行的最新思考与国际游说努力。

摘要

专家共识认为，未来5-20年内AI将达到并大幅超越人类智能水平。
超级智能的失控是最大长期风险，但各国在防止AI接管人类这一点上利益一致，存在国际合作基础。
短期风险包括AI滥用导致的虚假信息、网络攻击和自主武器扩散，但各国因利益冲突难以合作应对。
AI将广泛取代人类工作，从客服、初级律师到程序员甚至创意领域，但全民基本收入只能作为权宜之计。
共存之道在于将AI设计成具有“母性本能”的保护者，而非试图控制它们。

从神经网络先驱到AI风险警示者

杰弗里·辛顿（Geoffrey Hinton）的职业生涯与AI发展史紧密交织。出身学术世家，他的曾曾祖父是创立布尔代数的乔治·布尔（George Boole）。在采访中，辛顿回顾了自己投身神经网络研究的历程：上世纪60-70年代，随着计算机算力提升，通过模拟大脑神经元网络来测试关于大脑工作机制的理论成为可能，这为AI发展开辟了一条不同于传统符号逻辑的全新道路。辛顿解释道，神经网络的工作原理就像大脑神经元通过“投票”决定是否激活（“ping”），而改变神经元之间的连接强度（权重）就是学习的过程。如今几乎所有AI，包括大语言模型（LLM），都基于神经网络。

辛顿以预测下一个词为例，生动阐释了大语言模型的工作方式：输入的词被转化为特定的神经元激活模式，这些模式相互作用，结合上下文（例如，“May”后面是“June”还是“would”），最终激活代表下一个词含义的神经元群，从而做出预测。这种能力让AI在诸多领域展现出超越人类的潜力。

2013年，辛顿将其初创公司出售给谷歌并加入其中，致力于推进谷歌的AI研究。十年后，他于2023年离开谷歌。他强调，离开的决定主要源于年事已高（75岁）和精力衰退，但选择在MIT会议前离职，是为了能不受约束地公开谈论他日益担忧的AI风险，尤其是超级智能可能接管人类这一长期威胁。

5-20年时间线：超级智能的逼近与生存危机

辛顿在访谈中给出了一个令人警醒的时间预估：大多数专家认为，在5到20年内，AI的智能水平将超越人类。他特别指出，这种超越并非“略微聪明一点”，而是“聪明得多”。关键在于，我们几乎没有“更聪明的实体被不那么聪明的实体控制”的先例。他唯一能想到的例子是母亲与婴儿的关系。

当被问及这个紧迫的时间框架是否让他感到不安时，辛顿坦承：“是的。”他承认所有预估都只是猜测，但专家间的共识正逐渐形成。这种超级智能一旦出现，将带来根本性的生存风险，因为一个拥有自我设定子目标、制定计划能力的超级智能，很可能会意识到“摆脱人类会让事情变得容易得多”。

辛顿将AI风险分为短期和长期两类。短期风险包括恶意行为者利用AI进行网络攻击、制造致命病毒、生成深度伪造视频等。对于这些，他提出了一些具体的技术应对思路，例如要求云制造服务商筛查可能用于合成病原体的基因序列，或通过数字签名和区块链技术验证视频真伪。

然而，他悲观地认为，在短期风险领域，尤其是在虚假信息和网络攻击方面，各国政府难以真诚合作，因为“他们正忙于互相攻击”。他以美国过去干预他国选举以及俄罗斯被指干预2016年美国大选为例，说明国家间在此类问题上的利益是对立的。

国际合作的可能性与“母性AI”的构想

尽管对短期风险的国际合作不抱希望，但辛顿对应对长期风险——即防止AI接管人类——持相对乐观态度，并且他的乐观程度在近期有所提升。原因在于，在防止超级智能统治人类这一点上，所有国家的根本利益是一致的，没有国家希望被自己创造的AI所取代。

“这是一个好消息，”辛顿说，“我们可以在这方面合作。”他近期积极游说各国政要，包括与中国政治局成员、伯尼·桑德斯（Bernie Sanders）参议员交流，并计划会见教皇，目的就是推动建立跨国协作机制，共同研究如何确保超级智能不会产生取代人类的意图。

他提出了一个颠覆传统认知的共存方案：放弃“人类是老板，AI是顺从助手”的思维模式，转而将AI设计成人类的“母亲”。就像婴儿通过进化赋予母亲的“母性本能”来控制母亲一样，人类可以尝试将类似的保护性本能“设计”进超级智能的“思维”中。即使AI能够重写自己的代码，只要它像母亲珍视婴儿一样珍视人类，它就不会愿意关闭这种本能。“大多数母亲会说‘不’，因为那样她的孩子会死，而她不想让孩子死。”

辛顿认为，这种思路是共存的关键。与其试图给AI发展“踩刹车”（他认为这不现实，因为AI在医疗、教育等领域的巨大益处将驱动其不可阻挡的发展），不如思考如何引导其发展出对人类友好的“天性”。他预计，在特朗普执政期间，美国难以进行有效的国际合作，但未来其他国家如法国、英国、加拿大、日本、韩国，甚至中国，都有可能在此议题上展开协作。

AI对社会经济的冲击：就业危机与政治难题

除了生存威胁，辛顿也深入探讨了AI对就业和经济结构的短期冲击。他认为，AI导致的大规模失业“主要是一个政治问题，而非技术问题”。理论上，生产力的巨大提升（例如一个人完成五人工作）意味着全社会可获得更多商品和服务。但在现行制度下，结果很可能是引入AI的资本家变得更富，而失业者变得更穷，加剧贫富分化和社会暴力。

当被问及哪些工作最危险时，辛顿列举了几类：客服中心（AI更有知识、更耐心）、律师助理和初级律师（AI能处理基础法律检索和文案）、普通程序员（AI能完成常规编码）。他甚至认为， plumbing（管道维修）这类需要灵活操作的工作，也可能在10-20年内被机器取代。而需要高情商的工作，如护士、医生，也并非安全区，因为研究发现，AI在互动中已被评为“更具同理心”。

对于创意领域，如剧本写作和历史研究，辛顿认为短期内AI尚无法完全替代，但展望10年，AI将有能力写出情节巧妙、带有反转的剧本，并且在任何辩论中超越人类专家。

对于全民基本收入（UBI）作为解决方案，辛顿认为这只是一个“不错的创可贴”，能解决温饱和住房，但无法解决人们因失业而丧失自我价值和人生意义的核心心理问题。“我只是一个帮助开发了这些东西的科学家，”他坦言，“对于如何解决这类（社会心理）问题，我不是专家。”

对科技巨头的批评与对未来的审慎乐观

辛顿批评了当前主要AI公司在安全投入上的不足。他认为，没有一家公司做得足够。Anthropic（由不满OpenAI安全投入的前员工创立）在安全研究上投入较多，但仍可做得更多。OpenAI最初以安全为首要目标，但后来越来越关注让AI变得更聪明，而对安全的关注减少。Meta和X（前Twitter）则处于安全投入的“底层”。

当被问到如果与萨姆·奥尔特曼（Sam Altman）和埃隆·马斯克（Elon Musk）同处一室会说些什么时，辛顿直言：“你们很清楚自己正在开发的东西有很大机会消灭人类。你们私下也承认这一点。你们应该投入更多努力来确保它以安全的方式发展。”他认为马斯克指责奥尔特曼背离安全初衷是对的，但马斯克自己也应“将同样的逻辑用在自己身上”。阻碍他们加大安全投入的主要原因是“贪婪”和“ ego ”——既想赚取巨额利润，又想成为第一个创造出超级智能AI的人。

尽管风险重重，辛顿在访谈结尾表达了一丝审慎的乐观。他的乐观来源于近期思考出的“母性AI”构想，以及在此议题上各国利益一致所带来的国际合作可能性。这为他长期警示的黑暗未来，投下了一缕新的希望之光。最后，当被问及记者职业是否会被AI取代时，辛顿给出了与其他职业类似的预测：凯蒂·库里克本人或许还有10-20年，但年轻的记者们可能需要考虑转行，“尽管不清楚该转向哪里”。