MIT 等高校提出「逆向博弈论」机制设计，激励 AI 模型遵守规则

Techub News 消息，MIT 经济学家 Stephen Morris 与耶鲁、哥伦比亚大学的研究人员提出一种名为「逆向博弈论」（又称机制设计）的新方法，旨在为强大的 AI 模型创建激励机制，使遵守规则成为最理性的选择。 该方法的核心理念是，我们可能永远无法充分理解前沿模型的内部运作以确保其对齐，因此应设计机制来激励 AI 代理表现出我们希望的行为。例如，模型可因能准确预测另一个模型的回答而获得奖励，从而避免其「故意表现不佳」；或让代理相互竞争，激励其发挥最佳性能。 普林斯顿大学计算机科学教授 Elad Hazan 提出的另一种机制则借鉴人类社会对齐人类的方式：让 AI 模型轮流扮演解决问题的「求解者」和检查他人工作的「审计者」，并根据结果进行奖励或惩罚。（MIT Technology Review）