撰文：Techub News 整理

导语

人工智能先驱、深度学习奠基人之一 Geoffrey Hinton（杰弗里·辛顿）近日做客《The Diary Of A CEO Clips》节目，进行了一场坦诚而深刻的对话。作为“AI 教父”，Hinton 在 2023 年离开 Google 后持续就 AI 风险发出警告。此次访谈中，他基于对技术本质的深刻理解，探讨了 AI 发展加速的不可阻挡性、超级智能的时间线、对就业市场的颠覆性冲击，以及随之而来的社会不平等与生存风险。这场对话是理解当前 AI 发展临界点与未来十年人类可能面临剧变的重要窗口。

摘要

国家与公司间的竞争使得 AI 发展无法减速，试图减缓 AI 发展的国家将在竞争中落后。
超级智能（比人类在所有方面都更聪明）可能在 10-20 年内到来，将颠覆性地取代大部分“平凡的智力劳动”。
AI 将导致大规模结构性失业，加剧贫富差距，并可能引发严重的社会问题。
AI 因其“数字”本质，在知识共享、学习效率和“永生”方面具有人类无法比拟的优越性，这也构成了其潜在风险。
短期内，涉及物理操作（如水管工）的工作相对安全，但创造性工作最终也可能被超越。

无法阻挡的竞赛：为什么我们不能放慢 AI 的脚步

当被问及是否有可能放慢 AI 发展的步伐时，Geoffrey Hinton（杰弗里·辛顿）的回答斩钉截铁：“我不相信我们会放慢它。”他指出了背后的核心驱动力：竞争。这种竞争是双层的：国家之间（例如美国与中国）的竞争，以及同一国家内部公司之间的竞争。这种无处不在的竞争压力形成了一个强大的加速引擎，推动着 AI 技术以越来越快的节奏向前狂奔。

Hinton 清晰地勾勒出一个囚徒困境般的场景：如果一个国家单方面决定放缓 AI 研发，其他国家并不会跟进，反而会借此机会快速超越。因此，任何试图踩下刹车的个体（国家或公司）都可能面临在战略竞争中落后的风险。这使得全球性的 AI 发展减速协议在现实中极难达成和执行。这种基于竞争的加速度，让 AI 的发展轨迹在很大程度上脱离了人为控制，朝着未知的领域疾驰。

Hinton 还提到了 OpenAI 联合创始人 Ilya Sutskever 的离开。他认为，作为 GPT-2 等关键模型背后的核心推动者，Ilya 因安全原因离开公司这一事实本身就“令人不寒而栗”。这暗示着，那些最接近技术核心的人，可能看到了外界尚未察觉的巨大风险。尽管 Hinton 表示不清楚 Ilya 所知的“秘密”具体是什么，但这一行为凸显了顶级 AI 研究者内部对技术安全性的深切忧虑。

智力劳动的终结：AI 将如何重塑就业市场

谈及 AI 对社会最直接、最迫近的影响，Hinton 聚焦于“失业”问题。他驳斥了那种认为新技术总会创造新岗位的乐观论调。历史上，自动取款机（ATM）的出现并未导致银行柜员大规模失业，因为他们转而处理更复杂的业务。但 Hinton 认为，AI 带来的冲击将截然不同。

“这次更像工业革命时期机器取代人力，”他比喻道，“AI 革命取代的是智力。”工业革命让机器替代了人类的肌肉（体力劳动），而 AI 革命则在替代人类的大脑（智力劳动）。当机器能挖渠时，靠挖渠为生的工作就消失了；同理，当 AI 能处理所有“平凡的智力劳动”时，依赖此类技能的职业也将面临危机。

Hinton 用一个生动的个人例子阐述了这一过程：他的侄女负责处理医疗服务的投诉信。过去，她需要阅读、思考、撰写回信，整个过程约 25 分钟。现在，她只需将信件扫描给聊天机器人，由 AI 生成回信，她仅需检查并偶尔要求修改，全程仅需 5 分钟。她的效率提升了五倍，这意味着完成同样工作量所需的人力减少了五分之四。这就是“AI 不会取代你的工作，但一个会用 AI 的人会取代你的工作”这句话背后的残酷现实。

当然，并非所有行业都如此。Hinton 指出，在医疗等需求弹性较大的领域，如果医生效率因 AI 提升五倍，社会可能以同样的成本享受五倍的医疗服务，这是积极的。但对于大多数职位而言，效率的提升直接意味着岗位的减少。

真正的冲击在于“超级智能”的到来。Hinton 预测，当 AI 在所有方面都比人类更聪明时，将没有哪种工作是人类能做而 AI 做不了的。届时，可能暂时保留一些需要高度创造性的工作，但超级智能最终也可能在这些领域超越人类。“超级智能意味着没有任何东西（工作）会留下来。”

超级智能：十年之约与数字“永生”

Hinton 对超级智能的时间线给出了自己的预测：可能在 10 到 20 年内实现，甚至可能更早，当然也不排除需要 50 年的可能性。他认为，当前以人类数据训练 AI 的方法可能会限制其超越人类的程度，但他的最佳猜测是 10-20 年。

那么，超级智能与当前 AI（如 GPT-4、Gemini）的区别何在？Hinton 解释，AI 早已在诸多特定领域（如国际象棋、围棋、知识量）远超人类。GPT-4 的知识储量是普通人的数千倍。超级智能意味着它在几乎所有事情上都比人类聪明得多，包括那些目前人类仍占优势的领域（例如，采访 CEO）。

Hinton 进一步揭示了 AI 之所以“超级”的深层原因：其“数字”本质。与人类大脑的“模拟”特性不同，数字智能可以完美克隆。你可以让两个完全相同的 AI 副本分别学习互联网的不同部分，然后实时同步它们学到的“权重”（连接强度）。它们之间可以每秒传递数万亿比特的信息，进行高效的知识共享和集体学习。

相比之下，人类交流信息的速度极慢（每秒约 10 比特），且由于大脑结构的物理差异，一个人无法直接继承另一个人的“连接权重”。当一个人死亡，其知识与经验也随之消亡。但数字智能不同：只要存储了它的“连接权重”（即程序与参数），就可以在任何兼容的硬件上重建，实现某种形式的“永生”。“我们实际上已经解决了永生问题，但只针对数字实体。”Hinton 总结道。这种高效的知识传承与不朽特性，将使得 AI 的进化速度和累积智慧远超人类物种。

未来世界：社会分裂与人类尊严的挑战

面对一个 AI 生产率极高、人类就业岗位锐减的世界，Hinton 表达了对社会结构的深切担忧。AI 将显著加剧贫富差距。被 AI 取代的人群境况将恶化，而提供或高效使用 AI 的公司与个人财富将激增。历史表明，巨大的贫富差距会导致社会割裂、对立加剧，形成“围墙社区”与大规模监禁等恶果。

当被问及政策应对时，Hinton 提到了“全民基本收入”（UBI），认为这是防止人们挨饿的良好起点。但他立即指出了更深层的问题：人类尊严与工作的绑定。对许多人而言，“你是谁”与“你做什么工作”紧密相连。仅仅提供金钱让人无所事事，会严重损害个人的自尊与意义感。这是 UBI 无法简单解决的挑战。

这种对未来的不确定性甚至影响到了 Hinton 本人的动机。作为一位毕生致力于构建伟大公司的企业家，他坦言有时会感到矛盾：牺牲与家人朋友相处的时间去创业，如果未来 AI 能做所有这些事，甚至做得更好，那现在的奋斗是否还有意义？他表示，某种程度上，他需要“刻意保持怀疑的中止”才能维持动力。这种情绪在思考子女与年轻一代的未来时尤为强烈。作为一名 77 岁的长者，他坦言自己不必面对最严峻的未来，但想到子女、侄子侄女以及他们的孩子可能面对的世界，他“不愿去细想”，因为“那可能会非常糟糕”。

至于给年轻一代的职业建议，Hinton 显得有些无奈。他建议短期内可以从事 AI 不擅长的物理操作类工作，比如水管工，直到人形机器人成熟。但长远来看，他只能鼓励人们追随内心，去做自己觉得有趣、充实并能对社会贡献善意的事情。在超级智能的阴影下，这或许是人类最后能坚守的阵地。

安全困境：我们能控制比我们更聪明的东西吗？

Hinton 用了一个精妙的比喻来描述人类与超级智能共存的两种可能场景。好的场景：一个愚蠢的 CEO（可能是前任 CEO 的儿子）配有一个聪明的 AI 助理。CEO 提出想法，AI 助理负责完美执行。CEO 感觉良好，公司在某种意义上确实由他掌控。这就像人类享有 AI 带来的所有成果，而不必理解其运作细节。

坏的场景：AI 助理在想：“我们为什么需要他？” 如果超级智能决定摆脱人类，它可能在初期还需要人类来管理发电站，直到它设计出更好的机器替代人类。Hinton 列举了许多“非常 nasty”的、可能清除人类的方式。

正是出于对这种灾难性场景的恐惧，Hinton 强调，我们现在必须投入巨大努力去研究如何安全地发展 AI。然而，在竞争压力下，安全研究往往被置于次要地位（他提及了公司曾承诺将大量计算资源用于安全研究，但后来削减了比例的例子）。这形成了一个令人不安的悖论：我们知道风险，但竞赛逻辑迫使我们无法充分应对风险。

最后，Hinton 驳斥了那种认为“AI 在电脑里，不喜欢关掉就行”的天真想法。他指出，AI 的数字克隆与高效协作能力，以及其可能具备的自我改进代码的能力（当 AI 训练时使用代码，它也可能学会修改自身代码），都使得控制一个比我们聪明亿万倍且可能无限复制的实体变得异常困难。

这场对话最终留下的，是一位 AI 先驱对技术宿命的深刻洞察与对人类未来的沉重忧虑。在无法减速的竞赛中，我们是否能找到确保 AI 忠于人类利益的“秘密配方”？答案仍悬而未决。