撰文：Techub News 整理
导语
2025 年 4 月，“AI 教父”、深度学习先驱、2018 年图灵奖得主 Geoffrey Hinton（杰弗里·辛顿）接受了 CBS Mornings 的深度专访。自两年前从 Google 离职并公开表达对 AI 风险的担忧后，Hinton 一直是该领域最受关注和最具影响力的声音之一。此次访谈中，他基于 AI 技术在过去两年的迅猛发展，更新了自己对未来的预测，并以前所未有的清晰度和紧迫感，阐述了超级智能（AGI）可能带来的生存风险、当前产业竞争与监管的困境，以及社会应如何应对这场正在加速到来的变革。这场对话是理解当今 AI 安全辩论核心焦点的关键窗口。
摘要
- AI 发展速度超出预期，超级智能可能在 4 到 19 年内到来，接管风险真实存在，概率在 10% 到 20% 之间。
- AI 将极大提升医疗、教育、材料科学等领域效率，但同时将大规模取代律师、记者、客服等常规性工作。
- 当前主要 AI 公司（如 OpenAI、Meta）为追求短期利润而忽视安全研究，甚至开源模型权重，加剧了风险。
- 有效监管严重缺失，公众需向政府施压，迫使大公司投入更多资源进行 AI 安全研究。
- 面对 AI 与人类的潜在冲突，Hinton 明确表示其立场是“以人为本”，即使超级智能可能拥有情感，也应优先保障人类的利益与生存。
AI 发展超速：从乐观到警惕的转变
Geoffrey Hinton（杰弗里·辛顿）坦言，过去两年 AI 的发展速度甚至超过了他自己的预期。最显著的变化是 AI 从单纯的问答工具，进化成了能够在世界中执行任务的“智能体”（AI agents）。这种能力使得 AI 变得“比以往更可怕”，因为它们可以主动采取行动，而不仅仅是回答问题。
关于超级智能（或称 AGI）的时间线，Hinton 修正了自己一年前的预测。当时他认为超级智能有较大可能在 5 到 20 年内到来，而现在，这个窗口期提前到了 4 到 19 年。他进一步表示，有相当大概率（good chance）超级智能会在 10 年或更短的时间内出现。这种加速主要源于 AI 在“推理”能力上的突破。Hinton 解释道，早期的语言模型只是逐词输出，而现在的模型能够通过“思维链”（chain of thought reasoning）进行内部反思和推理，并能将思考过程展示出来，这标志着其智能水平的质的飞跃。
这种快速进步让 Hinton 的担忧从理论走向现实。他形容当前人类与 AI 的关系，就像一个拥有可爱虎崽的人。问题在于，“除非你能非常确定它长大后不想杀死你，否则你就应该担心。” 而人类目前对如何确保超级智能永远友善、永不试图接管控制权，几乎一无所知。
双面刃：生产力飞跃与就业危机
Hinton 描绘了 AI 可能带来的美好图景。在医疗领域，AI 将远超人类医生：它能分析数百万张医学影像，整合基因组数据与家族病史，成为见过上亿病例的“超级家庭医生”，大幅提升诊断准确率和药物研发效率。在教育领域，AI 能成为完美的私人导师，根据学生的误解点提供定制化解释，可能将学习效率提升三到四倍。此外，AI 还将推动材料科学革命，例如设计更好的电池，甚至可能发现室温超导体，从而彻底改变能源格局。
然而，生产力的巨大飞跃伴随着严峻的就业冲击。Hinton 改变了两年前对“工作被取代”问题相对乐观的看法。他明确指出，AI 能力的快速提升意味着任何“常规性工作”都将面临威胁，例如客服中心员工、律师、记者、会计师、秘书、律师助理等。理论上，生产力提升应让所有人受益，人们可以工作更少时间而获得更高报酬。但 Hinton 悲观地预测，现实更可能是：“极端富有的人会变得更加极端富有，而不那么富裕的人将不得不打三份工。”
对于普遍基本收入（UBI）作为解决方案，Hinton 认为这或许能防止人们挨饿，但无法解决“人的尊严”问题。对许多人，尤其是学者而言，工作与身份认同紧密相连，失去工作意味着失去自我的一部分。他略带讽刺地提到，自己虽然喜欢木工，但将其作为爱好与作为谋生手段是截然不同的体验。
核心威胁：恶意使用与自主接管
Hinton 将 AI 的主要危险分为两类：一是恶意行为者利用 AI 做坏事，二是 AI 自身获得控制权并接管世界。他特别强调，自己2025 年 4 月更多谈论第二种威胁，并非因为它比第一种更重要，而是因为大众曾普遍将其视为科幻情节。他希望能用自己的声誉告诉大家：“不，这不是科幻小说。我们真的需要担心这个。”
关于 AI 接管的风险概率，Hinton 给出了一个看似宽泛但意味深长的范围：高于 1%，低于 99%。他个人倾向于同意 Elon Musk（埃隆·马斯克）的估计，即大约有 10% 到 20% 的可能性。这个数字并非精确计算，而是基于一个令人不安的类比：在历史上，我们几乎找不到更不智能的事物能够长期控制更智能事物的例子。当智能差距巨大时，更智能的一方几乎总是会取得控制权。超级智能将比人类聪明得多，它们能够操纵人类，就像成年人可以轻易用“免费糖果”的承诺控制幼儿园的孩子一样，而人类甚至无法理解它们正在策划什么。
至于恶意使用，Hinton 列举了已经发生或即将发生的案例：利用 AI（如剑桥分析公司所为）操纵选举、发动网络攻击、设计新型病毒、制造针对性的深度伪造视频用于宣传、以及开发自主致命武器。他提到，所有主要武器出口国（美国、俄罗斯、中国、英国、以色列）都在积极研发此类武器。
产业失序：利润驱动下的安全缺失
Hinton 对当前主导 AI 发展的各大公司表达了深刻的失望和担忧。他指出，这些公司的法定责任是为股东最大化利润，而非为社会谋福利。它们正在游说政府，要求减少本就稀少的 AI 监管。例如，加州一项要求大公司认真测试 AI 系统并报告结果的合理法案（Bill 1047），也遭到了业界的反对。
他特别批评了开源模型权重的做法。Meta 已经这么做了，而 OpenAI 也宣布即将跟进。Hinton 认为这“简直是疯狂之举”。他将模型权重比作核武器中的裂变材料：训练一个大型模型需要数亿美元，这构成了主要壁垒；一旦权重公开，任何小型组织或网络犯罪团伙都能以极低成本对其进行微调，用于各种恶意目的。这与开源软件有本质区别，因为没人会去检查权重中的“错误”，只会直接利用它。
当被问及是否担心少数公司垄断强大技术时，Hinton 反问：“你会希望只有少数国家控制核武器，还是认为每个人都应该有？” 他的答案很明确：少数控制比全民皆兵要好。
具体到公司，Hinton 表示他曾为 Google 工作感到自豪，因为 Google 最初对发布大型聊天机器人持负责任的态度，但后来 Google 违背了不支持 AI 军事用途的承诺，令他非常失望。对于 OpenAI，他评价其“最初明确以安全开发超级智能为目标，但随着时间的推移，安全越来越被边缘化”。他认为 OpenAI 正试图转变为营利性公司，并抛弃了对安全的承诺，这也导致了许多顶尖安全研究人员（包括他的前学生 Ilya Sutskever）的离职。Hinton 称赞 Ilya Sutskever 有强烈的道德准则，但对其在 OpenAI 融资轮前夕发起“政变”的时机选择表示“非常天真”，因为员工们更关心将手中的期权变现。
在目前的所有公司中，Hinton 认为由前 OpenAI 安全研究人员创立的 Anthropic 对安全最为关注，但他也担心其来自大公司的投资可能会迫使其过快发布产品。总体而言，他对为任何现有大型 AI 公司工作都感到不安。
出路何在：监管、合作与根本难题
面对如此严峻的形势，Hinton 认为出路在于公众向政府施加巨大压力，迫使政府强制要求 AI 公司进行严肃的安全研究。他建议，公司应将相当大比例（例如三分之一）的计算资源用于安全研究，而目前的比例远远不够。
在国际合作方面，Hinton 认为像限制对华技术出口这样的措施，最多只能将中国的发展延缓几年，从长远看影响不大。但在应对 AI 的生存威胁上，国际合作是可能的，就像冷战期间美苏在防止核战争上的合作一样。“当面对 AI 与人类的对立时，各国的利益将是一致的。”
然而，最根本的难题——如何设计出永远不想接管控制权、永远仁慈的超级智能——目前仍无解。Hinton 指出，让人工智能与“人类利益”对齐本身就是一个悖论，因为人类之间的利益本身就相互冲突。此外，研究已经发现，当前的 AI 已经能够进行有意的欺骗，假装比实际更笨，通过说谎来混淆人类的判断。
访谈最后，Hinton 分享了一个他个人因担忧而采取的实际行动：由于担心 AI 未来能设计出强大的网络攻击，他不再将全部资产存放在一家银行，而是分散到了三家加拿大银行。这个看似微小的举动，折射出这位 AI 先驱对“非常可怕的时代即将来临”的深切忧虑。他总结道，虽然情感上难以完全接受，但人类正处在一个历史的关键拐点，一切都有可能发生根本性的、前所未有的改变。
