撰文：Techub News 整理
导语
2025 年 6 月，被誉为“AI教父”的计算机科学家、2018年图灵奖得主杰弗里·辛顿（Geoffrey Hinton）做客知名播客《The Diary Of A CEO》，进行了一场长达90分钟、坦诚而深入的对话。辛顿是深度学习革命的奠基人之一，他的反向传播算法等开创性工作为现代AI奠定了基石。在谷歌工作十年后，他于2023年选择离开，以便能更自由地发声，警示AI发展带来的生存风险。本次对话，辛顿系统阐述了他对AI短期滥用与长期失控的担忧，并分享了从技术先驱到风险警示者的心路历程。
摘要
- 辛顿警告超级智能超越人类是真实风险，人类将首次面对比自己更聪明的事物，未来充满不确定性。
- 他详细列举了AI的短期风险：网络攻击、虚假信息操纵选举、制造致命病毒、致命自主武器以及算法加剧社会分裂。
- 辛顿认为，AI导致大规模失业“已经开始发生”，并可能比超级智能威胁更早冲击社会，建议普通人考虑如水管工等不易被替代的体力职业。
- 他解释了数字智能相对生物智能的“巨大优势”：可完美克隆、高速共享知识、理论上可实现“数字永生”。
- 辛顿呼吁建立全球协作与严格监管，迫使大公司将资源投入AI安全研究，但他对竞争格局下发展速度能否放缓表示悲观。
从神经网络先驱到AI风险警示者
杰弗里·辛顿（Geoffrey Hinton）被称作“AI教父”，是因为在长达50年的时间里，他几乎是孤军奋战，坚信模仿大脑的神经网络才是实现人工智能的正途，这与当时主流基于逻辑和符号的AI研究背道而驰。他的坚持最终被证明是正确的，并引领了2010年代至今的深度学习革命。
辛顿坦言，自己起初并未充分认识到AI的全部风险。“一些风险一直很明显，比如人们会用AI制造自主致命武器。”他说道，“但另一些风险，比如它们有一天会比我们更聪明，我们可能会变得无关紧要，我认识到这点比较慢。有些人在20年前就意识到了，我是在几年前才意识到这是一个真实且可能很快到来的风险。”
转折点发生在ChatGPT问世以及他深入思考数字智能的本质之后。辛顿意识到，人类创造的数字智能拥有生物智能无法比拟的优势：可完美复制与高速知识共享。他解释道，数字神经网络可以克隆在多台硬件上运行，各自学习不同数据后，能瞬间同步“权重”（连接强度），实现万亿比特级别的知识共享。而人类通过语言交流，每秒只能传递约10比特的信息。“它们是我们的数十亿倍，”辛顿说，“这仅仅因为它们是数字的。”此外，只要保存了权重数据，数字智能就能被重建，从而实现某种形式的“数字永生”。
正是这种根本性优势，让辛顿确信超级智能的出现并非天方夜谭。“如果我们制造的这类数字智能拥有某种特质，使其远优于我们拥有的这种生物智能……那么它们总有一天会比我们更聪明。”他估计，超级智能可能在10到20年内出现，甚至更早。
剖析层层风险：从网络攻击到生存威胁
辛顿将AI风险分为截然不同的两类：一类是坏人滥用AI带来的风险，这构成了大多数风险及所有短期风险；另一类是AI变得超级智能后，可能不再需要人类所带来的生存风险。
短期滥用风险：
- 网络攻击：大型语言模型让网络钓鱼攻击变得极其容易，2023到2024年间此类攻击增长了约12倍。AI可以克隆声音、图像，制造令人信服的骗局。辛顿本人也深受其害，有诈骗者利用他的播客音频制作视频，推广加密货币骗局。
- 制造致命病毒：AI可以相对廉价地设计新型病毒。“只需要一个怀有怨恨的疯子，懂一点分子生物学，很懂AI，就想毁灭世界。”辛顿认为这非常可怕，小型邪教组织筹集几百万美元就可能做到。
- 操纵选举与加剧分裂：AI可以实现高度个性化的政治广告，精准操控选民。辛顿对马斯克在美国获取大量政府数据的行为表示担忧，认为这“恰好是如果你想操纵下次选举所需要的”。此外，YouTube、Facebook等平台的推荐算法为了最大化点击率和利润，不断向用户推送更极端、更符合其偏见的内容，导致社会日益分裂，共识难以形成。“我们没有共同的现实了，”辛顿感叹。
- 致命自主武器：即能够自行决定杀戮的机器。辛顿指出，最糟糕的一点在于，这降低了大国入侵小国的门槛。“如果用的是真正的士兵，会有尸体装在袋子里运回，阵亡士兵的亲属会不满……但如果运回的是死掉的机器人，抗议就会少得多。”这将使得战争更容易发生。
长期生存风险：
辛顿用了一个生动的比喻：我们现在拥有的AI就像一只可爱的虎崽，但你必须确保它长大后永远不会想杀死你，因为如果它想，你几秒钟内就会丧命。“我们需要弄清楚如何让它们不想接管我们。”但他坦言，不确定人类是否能做到这一点。“我认为这可能毫无希望，但我也认为我们或许能够做到。如果连尝试都懒得做，导致人类灭绝，那将是疯狂的。”
对于超级智能会如何消灭人类，辛顿认为有太多方式，不值得逐一推测，比如制造一种传染性极强、致死率极高且潜伏期长的病毒。关键不是防止它如何做（因为它比我们聪明），而是防止它产生这么做的意愿。
行业内部：动机、分歧与未言的秘密
作为AI领域的核心人物，辛顿对行业内部的动态和关键人物有着深刻的洞察。他提到他的学生、OpenAI联合创始人兼前首席科学家伊利亚·苏茨克弗（Ilya Sutskever）的离开。“我认为他离开是因为安全问题，”辛顿说，他了解伊利亚的为人，认为他“有良好的道德罗盘”，并且伊利亚现已创立了一家AI安全公司。
当被问及OpenAI CEO萨姆·奥尔特曼（Sam Altman）时，辛顿谨慎地表示不了解他本人，但提及奥尔特曼早期的公开言论似乎认为AI可能导致人类灭绝，而现在的表态则缓和许多。“我怀疑这并非受追求真相驱动，而是受追求……（金钱或权力）驱动。”辛顿补充道。
主持人分享了一个来自亿万富翁朋友的警示：某全球顶级AI公司的领导者私下认为世界正走向一个拥有大量空闲时间的反乌托邦未来，并且此人“根本不在乎这将对世界造成的危害”。辛顿听后确认，此人就是那“三巨头”之一。这种公开言论与私下想法可能存在的巨大差距，令人不安。
辛顿认为，目前推动AI发展的最大动力是国家和公司间的竞争。“我不相信我们会放慢速度，”他说，“如果美国放慢，中国不会放慢。”他呼吁需要“运行良好的世界政府”来应对超级智能的挑战，但坦言“我们拥有的并非如此”。
迫在眉睫的失业危机与个人应对
与可能尚有时日的生存威胁相比，辛顿认为AI导致的大规模失业是正在发生的“相当紧迫的短期威胁”。他驳斥了“新技术总会创造新工作”的乐观论调，认为AI替代人类智力劳动，与工业革命机器替代肌肉劳动有本质相似。“如果它能完成所有平凡的人类智力劳动，那它将创造什么新工作呢？”
他指出，在许多岗位上，一个人加一个AI助手就能完成以前十个人的工作，这意味着所需人力将大幅减少。他的侄女处理投诉信的时间从25分钟缩短到5分钟，效率提升五倍，也意味着只需要原先五分之一的人力。
“如果你在呼叫中心工作，我会感到恐惧。”辛顿说。他预测律师助理、会计等知识型工作岗位将很快受到冲击。当被问及普通人应如何规划职业生涯时，辛顿给出了一个看似玩笑却十分严肃的建议：“训练成为一名水管工。”他的理由是，AI在物理操控方面赶上人类还需要很长时间。但他也补充，直到人形机器人出现。
辛顿担心这会加剧贫富差距和社会不平等。他认同全民基本收入（UBI）是一个起点，可以防止人们挨饿，但也指出“许多人的尊严与工作绑在一起”。失去工作带来的身份认同危机，是金钱难以弥补的。
意识、情感与人类的特殊性
针对“机器永远不会有意识或情感”的人类特殊论，辛顿从唯物主义立场进行了反驳。他认为，随着AI系统变得足够复杂，能够拥有自我模型和感知能力时，它们就会开始具备意识。对于情感，他认为机器可以拥有情感的所有认知和行为方面，只是缺少生理反应（如肾上腺素分泌、脸红）。
“假设我制造一个战斗机器人，它看到一个比自己强大得多的战斗机器人，如果它能感到恐惧，那将非常有用。”辛顿说，“它们会有这些情绪吗？它们不会有生理方面的表现，但所有认知方面……都会在机器人身上发生。我认为说它们只是在模拟情绪会很奇怪。不，它们真的拥有那些情绪。”
辛顿认为，人类历史上总倾向于认为自己很特殊（如处于宇宙中心、由上帝创造），但一次又一次地被证明是错误的。他预言，随着对心智运作机制的理解加深，“意识”这个词可能会像汽车“动力”一样，不再是一个有用的解释性概念。
呼吁行动与未竟的答案
回顾自己的职业生涯和人生，辛顿给出了两条建议：一是如果你有一种直觉认为人们做错了事，有更好的方法，不要因为别人说这很傻就放弃，要坚持直到自己弄清它错在哪里；二是多花时间陪伴家人，他对自己在孩子们年幼时以及妻子在世时工作过于投入感到后悔。
对于世界领导人，辛顿的建议是实施“高度监管的资本主义”。对于普通大众，他坦言个人能做的有限，就像气候变化不能单靠垃圾分类解决一样，关键在于能否控制大公司的游说力量。公众可以尝试向政府施压，迫使大公司将资源投入AI安全研究。
当被问及是否仍怀有希望时，辛顿说自己是“不可知论者”。“当我情绪有点低落时，我认为人类完蛋了，AI将会接管。当我感到振奋时，我认为我们会找到办法。”他总结道，“我们必须面对这样一种可能性：除非我们尽快做些什么，否则我们已接近终点。”
