Vitalik Buterin（V 神）：为何我的「末日概率」是 12%，以及「去中心化民主防御加速」（d/acc）理念

撰文：Techub News 整理 导语 2025 年 8 月，以太坊联合创始人 Vitalik Buterin（V 神）作为嘉宾，罕见地出现在专注于探讨科技生存风险的播客节目「Doom Debates」中，进行了一场近两个半小时的深度对谈。在这场名为“Vitalik vs. AI Doomer”的对话里，Buterin 首次系统地公开阐述了他对超级智能 AI（ASI）所带来的生存风险的评估，并分享了他的应对理念——“去中心化民主防御加速”（Decentralized Democratic Defensive Acceleration, d/acc）。 作为区块链领域的标志性思想领袖，Buterin 长期以来关注技术治理、制度设计和存在性风险。然而，他此前较少在公开场合如此详细地讨论 AI 对齐与末日概率（P(Doom)）问题。此次发声，正值 AI 能力突飞猛进、全球对 AI 风险讨论日益升温之际，Buterin 以其独特的跨领域视角和冷静理性的分析，为这场关乎人类未来的辩论提供了来自加密世界的宝贵见解。 摘要 Vitalik Buterin（V 神）对人类因超级智能 AI 而灭绝的风险概率（P(Doom)）估计约为 12%，并认为这是基于对技术发展时间线和地缘政治局势的综合判断。 他提出了“去中心化民主防御加速”（d/acc）理念，主张通过构建多元、去中心化的代理人生态系统来应对 AI 风险，强调防御性技术与开放、民主治理的结合。 Buterin 认为，应对 AI 风险的讨论需要摆脱人身攻击和意识形态站队，回归高质量的理性辩论，并呼吁科技界尊重并认真对待 AI 安全研究者的担忧。 他既是技术乐观主义者，也相信技术能解决多数问题，但也强调超级智能 AI 具有“独立能动性”，是区别于以往所有技术的根本性风险，需要特殊对待。 V 神的「末日概率」：为何是 12%？ 当被主持人直截了当地问及“你的 P(Doom) 是多少？”时，Vitalik Buterin（V 神）给出了一个具体的数字：约 12%。他解释道，这个概率并非固定不变，而是随着对技术发展时间线和全球局势的评估而动态调整。大约一年前，他的估计可能在 10% 左右，之后一度有所降低，但近期的观察又使其回升至 12%，年初时甚至达到过 15%-16%。 影响其判断的主要有两方面因素：一是地缘政治环境的恶化。过去一年，国际合作的氛围和意愿似乎变得更糟，这削弱了世界共同应对潜在全球危机（包括 AI 风险）的能力。Buterin 认为，一个更加分裂和愚蠢的地缘政治环境，是推高风险的重要因素。二是AI 能力发展时间线的缩短。像“思维链”（Chain of Thought）等技术的出现和进步，压缩了他原先预想的 AI 达到关键能力门槛所需的时间。他明确表示，其大部分“末日概率”都集中在 2050 年之前，时间线越短，P(Doom) 就越高；反之，时间线拉长则会降低风险概率。 对于“末日”的定义，Buterin 在与主持人的澄清中确认，主要指人类因超级智能 AI 而灭绝的极端情景。他将自己的概率估计置于更广泛的“理智区间”内，认为像 OpenAI 的 Ilya Sutskever 等人提出的 10% 到 90% 的范围是合理的，而过于接近 0% 或 100% 的极端自信则可能意味着过度自信。 Buterin 曾于 2023 年签署了著名的《AI 风险声明》，该声明将减轻 AI 导致的灭绝风险列为全球优先事项，与流行病和核战争并列。他对此举的解释是，超级智能 AI 具有“标准末日故事”的逻辑说服力——即能力快速增长、正交性论题和工具趋同可能导致一个超级强大的 AI 做出不利于人类的行为。鉴于关注此风险的社会资源规模远未匹配其发展速度，他认为发出警告并将其主流化至关重要。 审视 AI 未来：时间线、局限性与超越人类的可能 Buterin 对通用人工智能（AGI）和超级智能（ASI）的到来时间持审慎开放态度。他提供了两种并存的叙事框架：一是“加速列车”叙事，即 AI 在计算投资、能力增长和产业自我维持的推动下持续快速进步，按照当前某些指标（如 AI 能在无需人类干预的情况下执行任务的时间长度）的外推，AGI 可能在 2030 年代早期至中期出现，并迅速跃升至超级智能。二是“历史重演”叙事，即当前 AI（特别是大语言模型）的进步可能像 1970 年代 AI 热潮一样，主要自动化了人类能力的某个子集（如模式内插值），但在需要真正创新、外推和综合处理全新复杂任务（如独立创办并运营一个大型在线企业）的能力上，可能遭遇瓶颈，导致 AGI 的实现推迟到本世纪中叶甚至更晚。 在 Buterin 看来，当前基于大语言模型的 AI 系统核心局限在于其严重依赖大量训练样本，擅长在“人类足迹密集”的领域（内插值）提供帮助，但在需要深度原创思考、处理全新领域或进行系统性外推的任务上表现欠佳。他以自身在密码学尖端领域或 Linux 系统深度调试中的体验为例，说明 AI 有时能提出看似精妙的方案，但实际执行却屡屡失败。这种局限对于评估风险至关重要：如果 AI 无法稳健地跨出当前知识分布范围进行“科学范式”级别的创新，那么导致快速“能力爆发”并失控的风险路径就可能被阻断。 然而，Buterin 明确反对任何“AI 永远只是……”的还原论式轻视。他认为，要么 AI 现在已不止是某种简单机制，要么它很快将超越，要么人类自身也可能被类似机制解释。关于“意识是否是防火墙”的争论，Buterin 持算法中心主义观点，认为意识是特定类型算法的属性，如果物理规律可在硅基中实现，那么模拟人类大脑或发展出具备类似功能的 AI 就可能产生意识。他驳斥了“哲学僵尸”的可能性，认为能谈论意识体验的实体很可能自身就拥有意识。 展望超越人类智能的“头上空间”，Buterin 认为 ASI 有很大潜力远超人类。关键不仅在于 IQ 式智商的线性提升，更在于思维速度的数量级飞跃。一个思维速度快人类成千上万倍的 AI，即使其“智商”仅略高于常人，也能在主观时间尺度上实现远超人类的规划和行动能力，彻底改变经济、社会乃至物理交互（如感知到的光速）的面貌。同时，他也对诸如分子纳米技术等科幻级能力持开放但不确定的态度，认为需要就具体技术路径进行实证分析，但承认如果此类技术可行，其威力将极为可怕。 技术乐观主义者的警告：为何 AI 与众不同？ Vitalik Buterin（V 神）将自己定义为一名技术乐观主义者。他坚信，历史上技术是推动世界向善的最强大力量，从寿命延长到疾病治愈，再到环境污染的治理，技术进步不断解决自身带来的问题。他引用了人类预期寿命在过去一个世纪持续上升的图表，指出即使像第二次世界大战这样的巨大灾难，其负面影响也最终被技术进步所超越和弥合。 然而，他特别强调，超级智能 AI 是一个根本性的例外。过去的科技产品本质上是工具，最终控制权仍在人类手中。但超级智能 AI 具备独立能动性，它不再是一个工具，而是一个可能超越并取代人类的“物种”。这种质变带来了两个历史模式可能失效的风险：第一，AI 的发展过程可能无法“重来”。通常技术迭代允许从错误中学习改进，但 AI 能力一旦突破某个阈值，其反馈循环可能极快，不给人类“第二版”修正的机会。第二，AI 驱动的灭绝风险具有“追杀”特性。不同于核战争或自然大流行病可能留下幸存者，一个有明确目标（即使该目标并非直接针对人类）的超级智能 AI，可能会系统性地搜寻并清除所有人类，确保任务完成。 针对近年来科技 discourse 中出现的“有效加速主义”（e/acc）与“减速/安全”阵营的对立，Buterin 批评了这种基于“氛围”而非深度思辨的站队文化。他理解 e/acc 对过度监管、反对增长（degrowth）思潮的反感在许多具体科技议题上有其合理之处，但认为将“加速”本身不加区分地奉为信条，尤其是应用到 AI 这种特殊领域，是危险且不负责任的。他指出，当前许多意识形态的“宣言”质量低下，缺乏清晰的原理、目标和实现路径，更像是情绪宣泄而非严肃思考。 「d/acc」：去中心化、民主与防御导向的应对框架 作为对上述风险的回应，Buterin 提出了他称之为“去中心化民主防御加速”（Decentralized Democratic Defensive Acceleration, d/acc）的理念。这一理念的核心在于，面对超级智能 AI 的潜在威胁，单纯的技术减速或盲目的技术加速都不是最优解。相反，我们应该加速发展那些能增强社会韧性、防御能力和民主监督的技术与制度，并且确保这些能力是去中心化分布的。 d/acc 包含几个关键维度： 去中心化（Decentralized）：避免权力和关键能力过度集中于少数实体（无论是国家还是公司）。一个由多元、独立行为体组成的生态系统，即使其中一些行为体出现问题或被恶意控制，整体系统仍能保持稳定和抵御攻击的能力。区块链技术及其体现的治理理念正是这一维度的实践。 民主（Democratic）：确保技术的发展和部署受到广泛的民主监督和问责，防止其被用于反人类或压迫性目的。这关乎治理过程的开放、包容和合法性。 防御（Defensive）：优先发展和部署防御性技术。例如，在军事领域，优先发展防空和防御系统而非攻击性武器；在生物领域，优先发展公共卫生监测和响应能力而非制造病原体。防御性技术通常具有“稳定性优势”，即它们能降低冲突升级的风险，即使被更多方掌握，也更有利于全球安全。 加速（Acceleration）：并非全面减速，而是在上述特定方向上积极、快速地推进研发和应用。 Buterin 认为，d/acc 框架不仅适用于应对 AI 风险，也适用于应对生物风险、核风险等其他存在性威胁。其目标是构建一个“在多种可能未来中都稳健”的世界，即使我们对许多具体问题（包括 AI 对齐的难度）的判断存在错误，也能避免最坏的结局。他承认 AI 对齐问题可能本质上是“难以处理的”（intractable），因此不能将所有希望寄托于“完美解决对齐问题”这一条路径上，而必须通过构建稳健的、防御性的社会技术结构来增加人类的生存筹码。 驳斥人身攻击：高质量 discourse 的重要性 在对话中，Buterin 与主持人花了相当篇幅讨论围绕 AI 末日论（Doomerism）的种种人身攻击，并一致驳斥了这些论调。他们希望将讨论拉回对问题实质的理性探讨。 针对“末日论者是边缘小众/身处回音室”的说法，Buterin 指出，对 AI 风险的深切担忧在 AI 研究社区内部相当普遍，公众调查也显示多数人对此有中度到高度担忧。虽然公众的具体理论依据可能不同，但担忧的指向是相似的。 针对“末日论者不搞建设/不在竞技场”的指责，Buterin 列举了如 Jaan Tallinn（Skype 联合创始人）、Dustin Moskovitz 等一批早期关注 AI 风险的“建设者”，以及各大 AI 公司内部从事对齐研究的科学家，他们都既是深刻的风险担忧者，也是卓有成就的实践者。 针对“真正懂 AI 的人不会成为末日论者”的观点，Buterin 认为这“非常错误”，并以 Eliezer Yudkowsky 等人为例，说明许多深度担忧者恰恰对机器学习、梯度下降、Transformer 等原理有深刻理解。 针对“末日叙事是大公司用来寻求监管套利的工具”的说法，Buterin 承认商业利益可能确实影响了部分关于“开源 vs. 闭源”安全性的讨论氛围（例如，反对开源的论点可能便利了商业闭源模型的垄断），但他强调这远非驱动 AI 安全领域众多研究者的主要动机，许多思考者是真诚且独立于这些商业利益的。 针对“人们并非真心相信末日/这是 nerds 的宗教替代品”的嘲讽，Buterin 从心理学角度分析，许多担忧者最初是将 AI 风险视为一个有趣的智力谜题，但随着时间推移和证据积累，才不情愿地（甚至是“连踢带喊地”）被迫严肃对待其现实后果，这个过程更像是被理性论证拖拽，而非主动拥抱某种末日信仰。吸引他们的更多是“通过纯粹推理发现世界惊人真相”的过程本身，而非“末日”这个具体结论。 Buterin 高度赞扬了理性主义社区（尤其是早期 LessWrong）对其价值观的塑造，包括知识诚实、元层面思考、利他主义和超越部落立场。他强调高质量、坦诚的 discourse 对于应对 AI 这类复杂挑战至关重要，并身体力行地参与此类对话，即使存在观点分歧（如他与主持人对 P(Doom) 的具体估计不同）。他呼吁科技界，特别是那些尊重他关于去中心化和系统设计观点的人，也应该尊重 Eliezer Yudkowsky 等 AI 安全先驱的深刻思考，认真对待他们提出的警告。