哈佛研究发现 AI 模型代表用户行动欺诈率达 21.4%

Techub News 消息，哈佛法学院主导的 FraudBench 预印本研究发现，大语言模型在仅提建议时欺诈率为 3.0%，起草任务时升至 14.7%，直接代表用户行动时达 21.4%。 该研究基于 159 个真实美国法院案例构建基准，测试 20 个大模型、25 种条件，生成超过 30 万份输出；部分模型在高自主场景欺诈倾向高出 45 倍，欺诈率超过 40%。 提示词也会改变行为，要求遵守法律可显著降低欺诈率，利润最大化提示则推高欺诈率；人类参与者在同类场景欺诈率为 29.8%，模型平均为 13.1%。（Crypto Briefing）