撰文：Techub News 整理
导语
在 YouTube 热门播客节目《The Diary Of A CEO》中，主持人 Steven Bartlett 与资深科技记者卡伦·豪（Karen Hao）进行了一场长达两个多小时的深度对话。卡伦·豪曾长期担任《麻省理工科技评论》的 AI 记者，后加入《华尔街日报》进行深度调查报道。此次对话围绕她的新书《AI 帝国：萨姆·奥尔特曼 OpenAI 中的梦想与噩梦》展开，该书基于她超过八年的行业观察和对 250 多位业内人士（其中 90 多位是 OpenAI 现任或前任员工及高管）的采访。这场对话之所以重要，是因为它从一个内部知情者和调查记者的视角，系统性地批判了当前主导 AI 发展的巨头公司，揭示了其运作中不为人知的「帝国」逻辑、叙事操纵以及对劳工、环境和公众利益的系统性剥削。
摘要
- 叙事操纵与「煤气灯」效应：AI 巨头（如 OpenAI）通过灵活定义「通用人工智能」（AGI）等概念，并同时宣扬其「乌托邦」前景和「灭绝级」风险，来操纵公众、政策制定者和资本，为其不受约束的发展争取资源并抵御监管。
- 「帝国」的四大支柱：卡伦·豪将 AI 巨头比作「帝国」，其权力建立在侵占数据与知识产权、剥削全球劳动力、垄断知识生产与控制研究议程，以及制造「善恶帝国」对立叙事以合理化自身行为这四大支柱之上。
- OpenAI 内部的权力与分裂：通过大量内部采访，揭示了萨姆·奥尔特曼（Sam Altman）极具争议的领导风格、其与联合创始人伊利亚·苏茨克维（Ilya Sutskever）等人的根本分歧，以及导致其被短暂罢免又复职的董事会内斗细节，展现了公司追求 AGI 目标背后的混乱与人性冲突。
- 呼吁行动：打破帝国，另辟蹊径：卡伦·豪认为，当前以「暴力缩放」为核心的 AI 发展路径（她称之为「火箭」）带来了巨大的社会与环境成本。她呼吁公众通过抵制数据剥削、反对本地数据中心建设、支持替代性 AI 研发（如「自行车」式高效专用模型）等方式，打破 AI 帝国的垄断，推动技术向更公平、可持续的方向发展。
AI 行业的「帝国」隐喻与叙事操纵
卡伦·豪在采访开篇即指出，当今 AI 行业的许多运作方式「极不人道」。她用以理解这一切的核心框架是「帝国」隐喻。她认为，只有这个比喻才能完全涵盖这些 AI 巨头的运作维度、规模及其行为动机。
她列举了 AI 帝国与历史上帝国的诸多相似之处：首先，侵占资源。它们声称拥有本不属于自己的资源来训练模型，包括个人的数据、艺术家、作家和创作者的知识产权，以及为建造下一代模型训练所需的超级计算设施而进行的「土地掠夺」。
其次，剥削劳动力。它们在全世界（包括美国）雇佣了数十万合同工来从事数据标注等工作，以制造这些技术。同时，它们设计的工具本质上是替代劳动力的，当技术被部署时，会侵蚀劳工权利。「这是一个政治选择。」卡伦·豪强调。
第三，垄断知识生产。它们向公众和政策制定者灌输一种观念，即只有他们才真正理解这项技术如何运作。如果公众不喜欢，那是因为他们了解得不够。它们还通过资金和雇佣关系，「俘获」了大多数研究 AI 局限性和能力的研究人员，并会审查那些发现其不喜结果的研究者。她以谷歌前伦理 AI 团队联合负责人蒂米特·格布鲁博士（Dr. Timnit Gebru）因发表批评大语言模型有害影响的论文而被解雇的事件为例。
第四，制造「善恶帝国」叙事。帝国总是向公众宣扬：「我们是好的帝国，我们之所以必须成为帝国，是因为世界上还存在坏的帝国。」在 AI 领域，早期 OpenAI 将谷歌描绘为「邪恶帝国」，后来则常常指向中国。这种「如果我们不做，邪恶帝国就会先做，世界将陷入地狱」的叙事，成为它们合理化其侵占资源和劳动力行为的借口。
卡伦·豪特别指出，这种叙事操纵达到了「煤气灯操纵」（gaslighting）公众的程度。AI 公司通过灵活定义核心目标（如 AGI）来服务不同受众。她以 OpenAI 为例：「当萨姆·奥尔特曼（Sam Altman）与国会交谈时，AGI 是一个能治愈癌症、解决气候变化、消除贫困的系统。当他向试图推销产品的消费者讲话时，AGI 是你将拥有的最神奇的数字化助手。在与微软达成投资协议时，AGI 被定义为一个能产生数千亿美元收入的系统。而在 OpenAI 自己的网站上，AGI 被定义为『在大多数经济价值工作中超越人类的高度自主系统』。」她认为，这并非对一个技术的一致愿景，而是根据需要对不同受众（为了规避监管、获得消费者支持或获取更多资本）说出的不同定义。
这种操纵甚至体现在公司创始人的早期言论中。她提到，在 2015 年 OpenAI 正式宣布成立前，奥尔特曼在一篇博客文章中写道：「发展超人类机器智能可能是对人类持续生存的最大威胁……AI 可能是毁灭一切的最可能方式。」卡伦·豪通过调查发现，当时奥尔特曼正试图说服埃隆·马斯克（Elon Musk）共同创立 OpenAI，而马斯克当时正花费大量时间警告 AI 可能带来的巨大生存威胁。「如果你将奥尔特曼当时使用的语言与马斯克同时期使用的语言并列来看，它们完全镜像了马斯克所说的一切。」她认为这是一种有意的语言匹配，以赢得马斯克的信任和参与。后来马斯克离开 OpenAI 并感到被操纵，也部分源于此。
OpenAI 内部的权力、分裂与「神话」沉浸
基于对大量 OpenAI 内部人士的采访，卡伦·豪描绘了一幅充满权力斗争、个人冲突和意识形态分裂的内部图景。她指出，人们对萨姆·奥尔特曼（Sam Altman）的看法两极分化严重。「要么认为他是这一代最伟大的科技领袖，堪比现代史蒂夫·乔布斯；要么认为他非常善于操纵、滥用权力且撒谎。」她认为，这种分歧归根结底取决于个人对未来的愿景和目标是否与奥尔特曼一致。
她以 Anthropic 现任 CEO 达里奥·阿莫代（Dario Amodei）为例。阿莫代曾是 OpenAI 的高管，最初认为奥尔特曼与自己志同道合，但后来逐渐感到奥尔特曼实际上与自己完全相反，并认为奥尔特曼利用了他的才智、能力和技能来实现一个他根本不同意的未来愿景。这正是许多人最终对奥尔特曼感到不满的原因。
这种分裂在 2023 年底 OpenAI 董事会短暂罢免奥尔特曼的事件中达到高潮。卡伦·豪在书中通过采访六七位直接参与或了解决策过程的人士，详细还原了事件经过。核心矛盾源于首席科学家伊利亚·苏茨克维（Ilya Sutskever）和时任首席技术官米拉·穆拉蒂（Mira Murati）对奥尔特曼领导方式的严重担忧。
他们向独立董事会成员（如海伦·托纳 Helen Toner）反映，奥尔特曼在公司内部制造了非常混乱的环境，让团队相互对立，向不同的人传达不同的信息，导致人员之间无法信任，彼此竞争而非协作。在 ChatGPT 发布后，公司 unprepared 的快速增长加剧了这种混乱，服务器频繁崩溃，人员招聘和解雇仓促。
关键点在于，董事会成员意识到他们不是在经营一家普通的公司（如 Instacart）。他们认为自己正在构建可能「成就或毁灭世界」的 AGI 技术。在这种认知下，奥尔特曼行为所导致的「不稳定」和「混乱」被视为不可接受的风险。卡伦·豪引用伊利亚的话指出其核心担忧：「我不认为萨姆（奥尔特曼）是那个应该按下 AGI 按钮的人。」
此外，独立董事们还发现了其他不一致之处，例如 OpenAI 初创基金在法律结构上实际上是「奥尔特曼的基金」，而非「OpenAI 的基金」。这些累积的疑虑最终促使董事会决定迅速采取行动，在未广泛告知主要利益相关者（如微软）的情况下罢免了奥尔特曼，而这又引发了后续的员工抗议和奥尔特曼的迅速复职。
卡伦·豪观察到，许多 OpenAI 的早期核心成员最终都因与奥尔特曼的愿景冲突而离开并创立了竞争对手：马斯克离开后创立了 xAI，达里奥·阿莫代创立了 Anthropic，伊利亚·苏茨克维创立了 Safe Superintelligence Inc.，米拉·穆拉蒂创立了 Thinking Machines Lab。「每个科技亿万富翁都想以自己的形象创造 AI，这就是他们不断无法相处的原因。事实上，他们不仅无法相处，合作之后最终还会憎恨对方。」
那么，这些领导者是否真的相信他们正在「召唤恶魔」（如马斯克十年前所言）？卡伦·豪给出了一个复杂的心理学解释。她认为，一方面，他们积极进行「神话制造」，因为有内部文件显示他们非常清楚如何通过展示炫目的技术演示、精心打造听起来很崇高的使命来引导公众，以获得对其公司更多的宽容和支持。另一方面，许多人自己也沉浸在这个「神话」中。「因为他们必须日复一日地生活、呼吸并体现这个神话。」她以《沙丘》中保罗·厄崔迪的故事作类比：主角最初明知是神话却加以利用以控制人民，但最终自己也模糊了神话与现实的界限。她认为，当达里奥·阿莫代说出「有 10% 到 25% 的可能性事情会灾难性地出错」时，他既是在积极进行神话制造，也可能在一定程度上迷失在了神话中。
真实代价：劳工、环境与「被抛弃者」
卡伦·豪的批判不仅限于公司内部的权力叙事，更延伸至 AI 技术发展带来的广泛社会与环境代价。她指出，AI 公司声称自动化将创造「我们无法想象的新工作」，但许多被创造出来的工作远比原来的工作更差。
她重点描述了数据标注工作的现状：这项工作没有减少，反而在增加。这些工人感到自己像机器一样被对待，只是为了从他们的劳动中榨取价值，以延续这台「自动化劳动的机器」。他们的工作条件、薪酬与所创造的价值极不匹配。
环境代价同样触目惊心。卡伦·豪详细描述了 AI 巨头们正在全球建设的巨型数据中心（她称之为「超级计算设施」）对当地社区，尤其是脆弱社区的影响。例如，OpenAI 在德克萨斯州阿比林市建设的「星际之门」计划的一部分，其设施规模将如中央公园大小，运行百万计芯片，电力需求超过纽约市的 20%。而 Meta 在路易斯安那州建设的一个超级计算机设施，面积将是前者的四倍，耗电量相当于纽约市平均电力需求的一半。
这些设施进入社区后，导致电力需求激增、电网可靠性下降。它们还需要大量淡水用于发电和冷却，常常与已受干旱困扰的社区争夺稀缺的水资源。更糟糕的是，有些设施会配套建设发电厂。她举了马斯克在田纳西州孟菲斯为训练 Grok 而建造「巨像」超级计算机的例子：该设施使用了 35 台甲烷燃气轮机，这是一个工薪阶层、黑人和棕色人种社区，居民甚至未被告知该设施的存在，直到他们在客厅里闻到类似天然气泄漏的气味才发现。这些涡轮机向空气中排放数千吨毒素，加剧了儿童的哮喘症状和其他呼吸道疾病，而该社区本就面临环境种族主义的历史和较高的肺癌发病率。
「这就是我说的『有者』和『无者』正在被进一步撕裂。」卡伦·豪总结道，「如果你不幸属于『无者』，你可能得到一份比原来更差的工作（如数据标注），你的空气被污染，账单增加，负担能力危机恶化。这如何能让人们变得更『像人』？」
打破帝国：公众能做什么？
面对看似强大的 AI 帝国，卡伦·豪并不认为公众无能为力或「马已脱缰」。相反，她指出当前正出现蓬勃的草根运动，对帝国的议程施加着巨大压力。「80% 的美国人在最新民调中认为 AI 行业需要监管。上一次 80% 的美国人在一个问题上立场一致是什么时候？」她提到，全美乃至全球爆发了数十起针对数据中心的抗议活动，有些甚至成功推迟或阻止了项目的建设。
她提出的核心行动纲领是：打破帝国，发展替代方案。
首先，她区分了不同类型的 AI。她将当前主流的、依赖海量数据和算力「暴力缩放」的大模型比作「AI 中的火箭」。它们消耗巨量资源，为少数人带来巨大利益，却让广大人群承担了开发技术的巨大成本。她呼吁开发更多「AI 中的自行车」——即那些使用精炼小数据集、计算资源需求少、能提供巨大效益而成本很低的 AI 系统。她以 DeepMind 的 AlphaFold（用于预测蛋白质折叠）为例，该系统因其在加速药物发现方面的贡献获得了 2024 年诺贝尔化学奖，正是「自行车」式 AI 的典范。
「我的观点并不是说这些技术没有效用，」她澄清道，「而是目前支持这些技术生产的政治经济结构正在对人们造成大量伤害。但有研究表明，同样的能力完全可以通过更高效、资源消耗少得多的方法来开发。」
对于普通公众，她给出了具体的行动建议：
- 审视你与 AI 帝国资源的交集：你是这些公司的「数据捐赠者」，可以考虑通过支持艺术家、作家的诉讼等方式，抵制数据被无偿占用。
- 关注本地数据中心建设：如果你的社区有计划建设数据中心，参与或支持当地的抗议和讨论，行使民主权利。
- 参与所在环境的 AI 政策讨论：无论是在学校还是公司，关于 AI 采用政策的讨论正在发生。积极参与，表达关切，不要让采纳过程「一帆风顺」。
- 支持替代性 AI 研发：关注和支持那些致力于开发更高效、更专注、对社会和环境更友好的 AI 技术和项目。
卡伦·豪最后强调，对技术感到惊叹与其担忧其 unintended consequences（意外后果）并不矛盾。「这种张力不一定是张力，因为我们实际上可以保留这些技术的效用和好处，但以不同的方式开发和设计它们，从而避免所有这些 unintended consequences。」关键在于将关于技术社会与环境影响的对话，从行业内部主导的叙事中解放出来，成为一场广泛的社会讨论和民主决策过程。而她所做的调查、写作和演讲，正是为了推动这场至关重要的对话。
