撰文：Techub News 整理
导语
2025 年 7 月，“AI教父”、图灵奖得主杰弗里·辛顿（Geoffrey Hinton）在《The Diary Of A CEO》的专访中，罕见地系统阐述了他对人工智能近期风险的深刻忧虑。这位深度学习的先驱者，因其开创性工作而广受赞誉，但近年来却频繁发声警告AI的潜在危险。此次访谈中，辛顿以清晰且紧迫的语言，描绘了AI技术在缺乏有效监管的情况下，可能在2027年前对社会造成的五大冲击。他的观点不仅基于技术洞察，也触及了资本主义、监管困境和人性的深层矛盾。
摘要
- 网络安全风险：AI驱动的网络攻击可能瘫痪银行等关键机构，辛顿个人已采取分散资产等措施以自保。
- 生物武器风险：AI大幅降低了设计制造新型致命病毒的门槛和成本，使得个人或小团体获得大规模杀伤能力成为可能。
- 选举干预风险：AI能生成高度个性化的政治广告，精准操纵选民，而集中化数据则为这种操纵提供了“燃料”。
- 社会分裂风险：社交媒体推荐算法为了利润最大化，不断推送极端化内容，加深信息茧房，撕裂社会共识。
- 战争风险降低：致命自主武器将大幅降低大国发动战争的“摩擦”和国内政治成本，可能导致侵略行为更加频繁。
一、从网络攻击到生物战：迫在眉睫的生存威胁
辛顿的担忧首先落脚于具体且可能很快成为现实的生存威胁，其中网络安全和生物武器被他置于高风险前列。
对于网络安全，辛顿展现了一种近乎“备战”的个人姿态。他透露，自己因为害怕网络攻击，已经“彻底改变了”行为方式。他特别担心像加拿大银行这样监管良好的金融机构，也可能在AI加持的网络攻击面前倒下。他解释道，尽管银行破产时客户资产理论上仍是客户的，但如果攻击者能操纵并抛售银行持有的客户股票，个人财富仍将遭受灭顶之灾。为此，他将自己和孩子的资金分散在三个不同的银行，寄望于当一家银行受攻击时，其他银行能迅速加强防御。他甚至使用不联网的手机和离线硬盘备份重要数据，为“整个互联网瘫痪”做准备。
更令人不寒而栗的是AI在制造生物武器方面的潜力。辛顿指出，AI使得设计新病毒变得“相对廉价”，不再需要非常熟练的分子生物学家。他描绘了一个恐怖场景：一个心怀怨恨、略懂分子生物学并精通AI的“疯子”，或是一个能筹集几百万美元的小型邪教组织，就可能设计出一大批病毒。国家行为体同样可能秘密进行此类研究。尽管国家会顾虑报复和病毒反噬本国，但风险已然存在。辛顿强调，这种威胁之所以格外可怕，在于它让大规模杀伤能力的获取变得前所未有的“民主化”。
二、撕裂社会：选举被操纵与共识的消亡
辛顿认为，AI对民主社会运作根基的侵蚀正在悄然发生，其核心在于对选举的操纵和社会共识的破坏。
他提出，利用AI进行选举腐败的“非常有效”手段，是基于海量个人数据的针对性政治广告。了解选民的收入、住址等一切信息后，AI可以生成极具说服力的信息，例如劝说不去投票。辛顿直言不讳地将矛头指向埃隆·马斯克（Elon Musk）在美国的商业行为。他指出，马斯克正在推动获取那些原本被严格隔离的数据，声称是为了提高效率，但这“恰恰是如果你想腐蚀下一次选举所需要的”。辛顿基于常理推断，获取这些政府来源的数据，动机之一可能就是为了操纵选举，另一个动机则是这些数据是训练大模型的绝佳素材。
更深层的社会分裂则源于社交媒体平台的利润驱动机制。辛顿分析，像YouTube和Facebook这样的平台，其决定向你展示内容的算法政策，本质是“展示任何能让你点击的内容”。而最能让人点击的，往往是那些让人感到“义愤”（indignant）的、确认自身偏见（bias）的极端内容。这种机制导致用户不断被推向更深的“回音室”（echo chamber），与其他群体的现实认知越来越远。“我们不再拥有共享的现实。”辛顿感叹道。他分享了自己的体验：iPhone新闻推送中四分之三的内容是关于AI的，这让他难以判断是世界都在谈论AI，还是只是自己的信息茧房。这种算法驱动的个性化，正使“我的现实与你的现实越来越远”。
辛顿将根源归结为资本主义下的利润动机。公司有法律义务最大化利润，而当为了利润必须做有害社会的事（如推送极端内容）时，就需要监管介入。然而，监管面临双重困境：一是政客可能被大公司“收买”；二是政客可能根本不懂技术，他举例提及美国教育部长将AI称为“A1”的尴尬场面。最终，技术公司很可能实际掌控局面，因为它们更聪明。辛顿提到，美国科技公司正在打广告，强调“不要监管AI，否则会在与中国的竞争中受伤”。他认为这是一个貌似合理的论点，但社会需要决定：是否要通过伤害自身社会的方式来赢得竞争？
三、降低战争门槛：自主武器与失控的超级智能
从现实威胁延伸到终极恐惧，辛顿讨论了致命自主武器和超级智能AI可能带来的毁灭性前景。
所谓致命自主武器，是指可以自行决定杀人的机器。辛顿认为，其最坏的影响是让大国侵略小国变得更容易。使用士兵会有人员伤亡，尸体袋回国会引发国内抗议（如越战）。但如果出动的是机器人，国内抗议会少得多，军事工业复合体也会更喜欢，因为机器人造价昂贵、有利可图。这“降低了入侵的成本”和“战争的摩擦”，可能导致侵略行为更加频繁。辛顿分享了一次令人“毛骨悚然”的经历：朋友的一架不到200英镑的无人机，不仅能仔细审视他，还能在树林中持续跟踪他。他断言，所有大型国防部门都在忙于制造这类武器。
当这些风险组合叠加时，将产生“组合性”的更多风险。而这最终指向了超级智能AI的风险。辛顿的核心理念是：面对比人类更聪明的超级智能，我们无法阻止它消灭我们（如果它想的话），唯一的方法是确保它永远不想这样做。他用生动的比喻阐释了这种不对称关系：要了解自己不是顶级智慧生物的感受，去问一只鸡；他与他的法国斗牛犬Pablo之间的智力鸿沟，就是未来人类与超级AI之间鸿沟的缩影。他又比喻说，就像养一只小老虎，你必须确保它长大后永远不想杀死你，否则你几秒内就会丧命。“我们现在的AI就是那只小老虎。”
他提到了一个积极的例子：母亲和婴儿。进化让母亲虽然比婴儿聪明，但婴儿却能通过哭声等方式“控制”母亲。我们需要找到方法，让超级智能“不想接管我们”。然而，辛顿坦诚道：“我们根本不知道能否让它们不想接管、不想伤害我们……我认为可能毫无希望。”但他话锋一转，认为如果因为人类懒得尝试而导致灭绝，那将是疯狂的。当被问及这是否影响他对毕生工作的看法时，他承认“这确实削弱了成就感”，并感到一丝悲伤，因为AI本应在医疗、教育等领域创造巨大福祉。他觉得自己现在有责任谈论这些风险。
四、行业洞察：安全先驱的出走与领导者的双面性
结合2025 年 7 月行业事件，辛顿分享了他对AI安全倡导者和企业领导者的一些观察。
谈到离开OpenAI的联合创始人兼首席科学家伊利亚·苏茨克维（Ilya Sutskever）时，辛顿表示他们仍不时共进午餐。他虽无内幕消息，但基于对伊利亚的了解——“他有良好的道德准则”，且对安全 genuinely concerned——认为这确实是伊利亚离开的原因。作为GPT-2等早期版本发展的核心人物，伊利亚的出走本身就释放了一个信号。与之形成对比的是，辛顿评价埃隆·马斯克“没有道德准则”。对于萨姆·奥尔特曼（Sam Altman），辛顿表示不了解本人不予置评，但他注意到奥尔特曼的言论变化：几年前曾轻松表示AI可能杀死所有人，而现在却说无需过分担心。辛顿怀疑，这种转变不是由追求真理驱动，而是由追求金钱（或权力）驱动。
辛顿转述了一位亿万富翁朋友透露的、关于全球最大AI公司之一领导者的私下言论，这让他深感不安。这位朋友与这些AI建设者圈子交往甚密，他透露，这位领导者（辛顿暗示是三位巨头之一）私下认为我们正走向一个拥有大量空闲时间、无需工作的反乌托邦世界，并且此人“根本不在乎”这将对世界造成的伤害。辛顿观看此人的公开访谈后，震惊地发现“他在公开说谎”。辛顿反思，部分原因驱动这些人物的是一种对权力的“施虐倾向”，他们喜欢自己能从根本上改变世界的想法。他认为马斯克显然有这种特质，并评价马斯克是一个“复杂的角色”，既推动了电动汽车等好事，也做过一些“非常糟糕的事”。
在访谈最后，辛顿重申了他的核心呼吁：如果超级智能可能导致人类灭绝，他希望通过这一可能性的警示，促使人们告诉政府，必须着力研究如何控制这项技术。政府必须迫使公司将资源投入到安全研究上，而目前企业在这方面投入不足，因为这无法直接带来利润。在辛顿看来，面对正在“长大”的AI“小老虎”，人类的协调与规制能力正面临前所未有的考验。
