Michael I. Jordan（迈克尔·乔丹）：AI 应服务于集体与市场，而非成为“山巅之神”

撰文：Techub News 整理 导语 在 ACM 推荐系统顶级会议 RecSys 2023 上，机器学习领域的奠基性人物、加州大学伯克利分校教授 Michael I. Jordan（迈克尔·乔丹）发表了题为《AI 的集体主义愿景：协作学习、统计激励与社会福祉》的主题演讲。作为统计机器学习、贝叶斯推断等方向的先驱，Jordan 教授近年来将研究重心转向机器学习与经济学、社会科学的交叉领域。在当前全球沉迷于大语言模型和“超级智能”叙事的背景下，他的演讲如同一剂清醒剂，系统性地批判了主流 AI 范式的局限，并勾勒出一个以“集体”和“市场机制”为核心的、更具建设性的技术未来图景。 摘要 批判“山巅之神”AI 范式：当前硅谷主导的 AI 愿景（将所有计算和数据集中于一个实体）是低效且脱离现实的，忽略了人类实时互动与本地化决策的本质。 提出“集体主义”AI 新愿景：下一代 AI 的核心应是构建和支持多方参与的“市场”，而不仅仅是做预测或推荐。这需要融合计算机科学、统计学和经济学三大支柱。 强调不确定性、激励与信息不对称：真正的智能系统必须能处理不确定性、设计兼容的激励机制，并解决信息不对称问题，而当前基于大数据的预测模型在这些方面存在严重缺陷。 展示前沿交叉研究实例：通过“预测赋能推断”方法纠正 AI 用于科学发现时的偏差，以及开创“统计合约理论”来设计同时满足统计推断与经济激励的协议（如药物审批）。 倡导“三方市场”设计：以音乐平台 United Masters 为例，说明连接创作者、听众和品牌方的三方市场能创造更公平、可持续的价值循环，是优于传统双边平台（如 Spotify）的模型。 从预测机器到市场构建者：AI 的误读与正途 Michael I. Jordan（迈克尔·乔丹）开篇便与推荐系统社区产生了共鸣。他认为，当前被过度炒作的“AI”一词，实际上掩盖了过去二十多年由数据、预测和计算架构驱动的真实技术进步史。他以亚马逊为例，指出其成功根基并非魔法般的 AI，而是为了解决全球供应链这一“世界上最大的随机控制系统”问题。早期，亚马逊使用随机森林等机器学习模型，处理海量数据以优化库存、物流，这需要巨大的计算资源，从而催生了云计算的雏形。“云的起源，实际上是为了在供应链数据上运行随机森林。”Jordan 教授说道。 随后，当这些公司拥有了用户交易数据，同样的技术栈（云计算+机器学习模型）便自然转向了推荐系统。技术的核心并未突变，只是数据变成了“与人相关”的数据。再到如今，规模更大，GPU 加速的神经网络取代了随机森林，处理的数据变成了人类语言和视觉信息。由于输出看起来“拟人”，便引发了如今关于通用人工智能（AGI）的狂热对话。Jordan 教授认为，这种叙事在很大程度上是错位的。 他尖锐地批评了以 Sam Altman（萨姆·奥尔特曼）和 Elon Musk（埃隆·马斯克）等人代表的硅 Valley 主流愿景——即构建一个汇聚全球数据和算力的“山巅之神”，由它来解答一切问题。“这不仅不是一个好的经济模型，而且根本行不通，” Jordan 教授指出，“我们基于当下情境行事，‘山巅之神’无法知晓我每一个瞬间的愿望，也无法看到我们人与人之间的互动。这是一种愚蠢的思考方式。” 那么，什么才是更有前景的方向？Jordan 教授提出了“集体主义”和“市场”这两个关键词。他认为，我们正在进入的时代，其标志不是超级智能单体，而是“新兴市场”。市场是一种社会现象，它连接多方参与者（生产者、消费者、中介），其复杂程度远超单纯的推荐。构建和支持这种大规模、数字化的市场，才是下一代智能系统的核心任务。 这需要学术界跨越单一学科的局限。Jordan 教授勾勒了一个三角形，三个顶点分别是计算机科学、统计学和经济学。两两结合产生了现有领域：统计学+计算机科学=机器学习；统计学+经济学=计量经济学；经济学+计算机科学=算法博弈论。然而，这些两两结合的领域都缺失了第三方的关键视角。例如，机器学习缺乏对激励机制的深入讨论；算法博弈论则很少涉及从数据中学习。真正的突破在于实现三者的深度融合，而这正是亚马逊、阿里巴巴等公司在实践中正在做的事情——围绕构建一个市场，汇集来自这三个领域的专家共同解决问题。“所以，AI 本应为我们解决所有这些问题。”Jordan 教授总结道。 不确定性、集体智慧与市场机制 为什么当前以大型语言模型为代表的 AI 范式存在根本缺陷？Jordan 教授从两个核心概念切入：不确定性和激励。 首先是不确定性。他指出，像 ChatGPT 这样的系统并不真正理解或推理不确定性。当你质疑它的回答时，它可以轻易地改变立场，因为它只是在模仿数据中的模式，而非进行基于不确定性的逻辑思考。“这比不会逻辑推理更糟糕，” Jordan 教授强调，“因为在现实世界中互动，我们需要了解所有的不确定性。如果我的医生告诉我某事，我需要知道他的确信程度。” 研究显示，ChatGPT 的置信度校准极差，它倾向于极端肯定或否定，无法像人类专家那样给出 nuanced 的概率评估。 然而，人类个体处理不确定性的能力其实也有限。关键洞察在于：人类是通过集体和文化来缓释不确定性的。在陌生城市，我们可以询问他人；在市场中，价格信号传递着稀缺信息。Jordan 教授用一个“鸭子觅食”的经典例子来说明：从个体贝叶斯最优决策看，鸭子应该总是去食物更多的湖左边。但实际上，鸭子群会以一定比例（如2/3去左，1/3去右）分配，这恰恰是一种纳什均衡——避免了所有个体挤在一边导致资源枯竭。这不仅是“探索-利用”权衡，更是集体在不确定环境下演化出的最优分配机制。 因此，构建智能系统必须考虑其运行的集体语境。技术可以促进信息流动和连接，但单纯连接并不自动产生好结果，因为人们可能说谎、隐瞒或拒绝合作。这引出了第二个核心：激励。Jordan 教授为市场机制辩护：“市场是一种自然力量，远在数学和技术出现之前就已存在。你可以规范它们，但不应想象能消除它们。” 市场的优点在于通过分散决策达到均衡，并能显著降低不确定性。例如，城市食品市场不仅保证了番茄的每日供应，更关键的是，让披萨店等下游业务能够基于这种稳定性进行规划和创新，形成层层叠加的经济生态。 “所以，我们需要思考如何构建市场机制，而不仅仅是预测和推荐。” Jordan 教授指出，这需要将价格、效用、激励等经济学概念，以及信息不对称等关键问题，嵌入到系统的核心设计中。 案例与实践：从音乐三方市场到统计合约理论 为了将理论落地，Jordan 教授分享了两个层面的案例：一个已成功运行的商业实践，和一系列前沿的学术研究。 1. 三方市场实例：United Masters Jordan 教授以他担任董事并参与设计的音乐平台 United Masters 为例，展示了何为成功的“三方市场”。该平台连接了音乐人、听众和品牌方。其创新之处在于价值循环：品牌方（如 NBA、FIFA）需要为其视频内容支付音乐版权费用。United Masters 说服他们使用平台上海量新兴音乐人的作品，并支付费用。当某首音乐在 NBA 视频中播放时，创作该音乐的年轻音乐人能即时获得收入。其他品牌看到该音乐在特定受众中的流行度，可能会进一步与该音乐人合作，例如定制歌曲。这样，音乐人获得了可持续的收入（“开始看起来像一份薪水”），品牌获得了优质且贴合受众的内容，听众发现了新音乐。 “这底层是一个推荐系统，但更是一个市场机制，” Jordan 教授强调，“连接这个图谱各边的，是激励相容的机制。没有这个，它就无法运作。” 他对比了 Spotify 这类双边（音乐人-听众）平台，指出其低利润率导致平台有动机用 AI 生成音乐取代真人音乐人。而三方市场因为引入了品牌预算这个新的价值源，创造了更健康、可持续的生态。他鼓励创业者：“不要只想着构建大语言模型，想想如何构建三方市场。” 2. 前沿交叉研究：纠正偏差与设计激励 在学术层面，Jordan 教授介绍了其团队在解决 AI 实际应用难题上的两项突破性工作。 第一项是“预测赋能推断”。当科学家使用 AlphaFold 等高性能 AI 模型进行科学发现（如研究蛋白质特性）时，会直接使用模型输出的预测结果进行统计检验，从而得到非常狭窄的置信区间，并据此做出看似坚实的科学结论。Jordan 教授团队发现，由于 AI 模型在训练数据稀少或特殊的科学前沿问题上可能存在系统性偏差（如“幻觉”），这种基于 AI 输出的置信区间往往严重偏离真实情况，导致错误结论。他们提出了一种新的统计方法，能够利用 AI 的预测，但通过少量人工标注数据进行“纠偏”，产生既比纯经典统计方法更精确，又保证覆盖真实参数的可靠置信区间。这项工作为“AI for Science”提供了严谨的统计基础。 第二项是开创性的“统计合约理论”。Jordan 教授将经济学中的合约理论（解决信息不对称下的激励问题，如航空公司差异化定价）与统计学深度融合。他以药物审批为例：药企（代理方）比 FDA（委托方）更了解候选药物的潜力。FDA 通过临床试验（统计推断）决定是否批准。传统方法下，如果药物潜在利润极高，药企即使对药效没把握也有强烈动机送审，因为即使药效为零，也有一定概率（假阳性率）通过审批而获利，这会导致无效药物上市。Jordan 教授团队设计了一种“统计合约”：药企在支付一笔费用后，可以从一个由 FDA 设计的“合约菜单”中选择一个支付函数（类似于选择不同的定价-服务组合）。这个菜单经过精心设计，使得药企只有在其药物真正有效时，选择进入合约并完成临床试验才有利可图。他们证明了，一个合约是激励相容的，当且仅当合约菜单中的所有选项都是“e值”（一种新兴的统计证据度量）。这为在数据学习与激励机制必须共存的场景（如平台数据市场、临床试验、金融）中设计合规、高效的协议提供了全新的数学框架。 迈向人、数据与决策交互的新工程学科 在演讲的最后，Michael I. Jordan（迈克尔·乔丹）回归其核心论点，并为未来指明了方向。他重申，“AI”这个术语并不适合描述我们正在进入的时代。我们不是在建造一个吞噬数据、吐出答案的超级大脑，而是在开创一个全新的工程领域。 他类比道：每过大约50年，就会出现一个新的工程学科。化学工程将分子间的相互作用工程化，电气工程将电子间的相互作用工程化。而我们当下面对的，是将人类、数据与决策之间的相互作用工程化的挑战。这涉及到构建大规模、动态、适应性的市场和社会技术系统，其中激励机制、不确定性量化和学习算法必须被协同设计。 关于监管，Jordan 教授在问答环节提出了一个关键建议：监管者不应仅仅针对底层算法或数据实践进行监管（如 GDPR 的某些方面），而应该关注并试图影响整个系统达到的均衡状态。通过分析市场均衡，理解调整某些参数（如隐私保护强度、成本结构）如何改变均衡结果，从而判断何种监管能真正提升社会福祉、公平性和个体效用。这种基于均衡分析的监管思维，远比粗暴的一刀切规则更为科学和有效。 尽管 Jordan 教授坦言自己输掉了关于“AI”命名的战役，但他充满希望地将思想领导的接力棒交给了在场的年轻一代。“硅谷目前没有提供思想领导力，”他说，“我们希望你们中的一些人能够站出来。” 他的演讲不仅是一次对当前 AI 热潮的深刻反思，更是一份面向未来的、以人为中心、以集体福祉为目标的智能系统设计蓝图。