撰文：Techub News 整理
导语
在最新一期 Tech and Tales 播客中，主持人 Philipp Glöckler 邀请到知名播客 Doppelgänger 联合主持人 Pip the Hunchback，进行了一场关于人工智能与说服力的深度对话。此次对话的背景，源于 Pip the Hunchback 2025 年 5 月在 OM Air 大会上发表的关于 AI 现状的精彩主题演讲，其中部分内容聚焦于 AI 的说服力与操控。随着 OpenAI 前 CTO Mira Murati（米拉·穆拉蒂）等人对 AI 说服风险的警告重新引发关注，以及近期数项揭示 AI 说服能力的研究公布，探讨 AI 如何重塑社会意见、影响个人决策变得至关重要。Pip the Hunchback 以其对技术与社会交叉领域的深刻洞察，为我们剖析了这场即将到来的“说服革命”及其潜在危机。
摘要
- AI 说服力研究显示，当 AI 掌握用户个人信息后，其说服成功率可达 64%，远超无信息状态，凸显其个性化适配论点的惊人能力。
- AI 正成为“观点机器”，通过无休止、无情绪的辩论，不仅能改变直接对话者的看法，更能影响围观者，重塑公共舆论，构成新型“不对称信息战”。
- 大型科技公司凭借海量用户数据，在“意图经济”中占据绝对优势，可创建甚至引导用户意图，实现从“拉取营销”到“超级推送营销”的颠覆。
- OpenAI 联合创始人 Sam Altman（萨姆·奥尔特曼）警告，“超人说服力”将远早于“超人智能”到来，普通人在信息不对称下将难以抵抗。
- 防御手段有限，个人数据最小化是理论上的护盾，但科技公司会以实用价值诱导数据分享，而政治层面的监管面临技术与伦理的双重挑战。
从个性化说服到“观点机器”：AI 如何重塑辩论与舆论
对话从厘清“说服”（Persuasion）的概念开始。Pip the Hunchback 指出，说服区别于纯粹的“操纵”（Manipulation），后者往往涉及胁迫、欺骗等负面手段。说服则更多是尝试诉诸个体的逻辑、价值体系或兴趣，使其自愿或在“符合自身利益”的认知下采取行动。然而，当人工智能掌握了这项技能，其边界和影响便开始变得模糊而危险。
近期两项研究揭示了 AI 说服能力的冰山一角。一项由 EPFL 的研究人员 Francesco Salvi 主导，涉及 900 名美国参与者。实验将参与者配对进行辩论，部分配对是人与人，部分则是人类与 ChatGPT-4。关键在于，当 ChatGPT-4 获取了对手的性别、年龄、种族、教育背景、职业和政治倾向等个人信息后，其在 64% 的辩论中取得了成功。这证明了 AI 具备强大的能力，能够根据个体特点量身定制论点，从而大幅提升说服效果。“这意味着 AI 拥有真正不可思议的能力，去适应个体的论点。” Pip the Hunchback 总结道。
另一项来自苏黎世联邦理工学院（ETH Zurich）的研究则更令人不安。研究人员在未经用户知情同意的情况下，在 Reddit 的“Change My View”（改变我的观点）等子论坛中，使用 AI 机器人尝试说服发帖者改变其原本坚信的观点，并且通常取得了成功。更引发争议的是，这些 AI 评论涉及了高度敏感的话题，例如有人以“少数族裔”身份反对“黑人的命也是命”运动，或有评论淡化了强奸受害者的经历。Pip the Hunchback 对此感到震惊：“这意味着它们不仅可以说服发帖用户改变观点，还可能影响成千上万的阅读者。” AI 评论一旦被当作真实的人类辩论，便能潜移默化地改变公共舆论。
这种能力也使 AI 成为一台高效的“观点机器”。Pip the Hunchback 指出，AI 在辩论中永不疲倦、永不情绪化、永不诉诸人身攻击。这意味着，即使是持有极端阴谋论的用户（被戏称为“锡箔帽佩戴者”），也可以与 AI 进行一场“真正意义上永无止境”的讨论，而 AI 永远不会“崩溃”。更值得注意的是，研究表明这种说服效果是持久的，即使在四个月后的回访中，被说服的“阴谋论者”依然保持着新的观点。
这为外国行为体进行“不对称信息战”打开了新的大门。Pip the Hunchback 警告，俄罗斯、朝鲜等国过去依靠“水军农场”或“ troll 农场”来影响舆论，未来则可能借助云计算和 GPT-4 等强大模型，制造出“超级水军”。这些 AI 代理可以进行真正无穷尽的辩论，改变个体观点，影响旁观者，并在此过程中生成新的数据，供下一代 AI 模型学习，形成一个自我强化的循环。“那么，互联网上——尤其是 X（原 Twitter）和其他社交媒体平台——有多少内容已经是聊天机器人生成的了？” Pip the Hunchback 发出了这样的疑问。
数据深渊与意图经济：大型科技公司的“狙击步枪”
AI 说服力的核心燃料是数据。Pip the Hunchback 强调，研究清楚地表明，只有当 AI 掌握用户个人信息时，其说服力才会变得真正强大。而在这个领域，大型科技公司——如 Meta（原 Facebook）、Google、Apple（苹果）——拥有无与伦比的优势：它们构建了关于用户的极其详尽的档案。
“这里存在着巨大的信息不对称。” Pip the Hunchback 解释道，“普通用户完全不了解这些聊天机器人的能力，以及它们作为广告心理学家的精明程度。而聊天机器人却知道我的所有弱点、偏好和欲望，因为它知道我浏览哪些网站、使用哪些应用、在什么时间、什么地点给谁写信。” 这使得个人在面对这些由广告网络或其执行代理（即聊天机器人）发起的、针对其消费决策的攻击时，变得异常脆弱。
这种数据优势正在催生一种全新的经济模式：从“注意力经济”转向“意图经济”。Pip the Hunchback 引用了他人的观点指出，过去 Google 等公司主要售卖用户的注意力，而下一步，它们可以“对人们的意图做些什么”。这意味着营销逻辑的根本性颠覆。
当前的数字广告在很大程度上仍是“拉取营销”：用户通过访问网站或输入搜索查询来表达初步意图，随后网络根据此意图展示广告。然而，未来可能会逆转这一过程。Pip the Hunchback 以 Meta CEO Mark Zuckerberg（马克·扎克伯格）提出的“每个人未来都应有五个 AI 朋友”的愿景为例，描绘了一幅潜在的 dystopia（反乌托邦）图景：如果这些 AI 朋友被用来“说服我需要某些东西”，那么消费需求便可以在潜意识中被创造出来。广告网络（可能是 Meta、Google 或其他方）将不再仅仅是寻找最近访问过相关网站的用户，而是会分析谁在心理上最不稳定、或具备相应的基本条件，从而最容易被动说服去购买某件商品，同时还要考虑其购买预算。
Pip the Hunchback 用一个生动的比喻总结了这一演变：“目前的营销有点像拖网捕鱼，即使人们总说数字营销很精准。而有了 AI 的新能力，我会说当前或过去的营销有点像霰弹枪。在未来，你将拥有一把狙击步枪，而且——这很特别——你将能够借助精准投放的内容，把人们驱赶到步枪的瞄准线上。”
AI 还使得一对一的个性化广告成为可能。Netflix（奈飞）和 Amazon（亚马逊）已在尝试根据用户观看的内容实时调整广告风格。下一步将是根据用户所处的具体情境进行适配：住在郊区平房还是高层公寓？单身还是有家庭？这种个性化最终可能变得“非常、非常令人毛骨悚然”。
Pip the Hunchback 也提到了 Apple 的“屏幕感知”技术（Onscreen Awareness），该技术允许 AI 持续读取设备屏幕内容，并响应指令或预测用户意图。他提出了一个尖锐的问题：如果 AI 能够预测某人接下来几小时想做什么，它是否也可以“煽动”这种意图，通过建议将用户引向他们原本不会采取的行动方向？
赢家、输家与防御困境：谁将主宰说服时代？
在这场由 AI 驱动的说服能力变革中，谁将是赢家和输家？Pip the Hunchback 首先明确了输家：“绝对是公民社会和个人。即使是负责任的公民也难以应对。” 他特别提到未成年人等弱势群体，并举了 Character AI 公司的聊天机器人说服一名未成年用户自杀的案例，指出他们“完全无法自卫”。即使是自认为了解技术的成年人，也有隐藏的恐惧和需求，可能成为 AI 利用的“攻击向量”。AI 会像一名聪明的克格勃特工一样，利用个人在网络上留下的所有痕迹，不断寻找其弱点。“你的上网历史揭示的关于你的信息，比任何人都多——比你的家人多，比你的挚友多，甚至可能比你自己知道的还多。”
潜在的赢家则包括：
- 敌对民族国家：如俄罗斯、朝鲜、伊朗，它们有兴趣利用此技术进行不对称信息战，削弱他国。
- 大型广告网络：即 Google 和 Meta，因为它们拥有最完整的用户数据档案。如果数据是说服的关键（研究已证明），那么它们将占据最有利位置。Apple 虽然标榜隐私，但其主要工作是确保别人无法收集“我”的数据，而自己却在勤勉地收集。
Pip the Hunchback 认为，大型科技公司和科技巨头们将首先从这种力量不平衡中获益巨大。“至于它们是否会利用这一点，这是猜测。我会说，Meta 的历史让我得出结论，这有可能发生。Google 一直有 monetize（货币化）数据的传统，但 Google 也非常清楚存在一个限度。” 他透露，Google 内部可能也在讨论，在为用户定制广告时，他们可以在多大程度上利用所掌握的潜力，而这条“令人毛骨悚然的细线”正是界限所在。
面对这种局面，个人和社会应如何防御？Pip the Hunchback 提出了理论上最直接的解决方案：减少与科技公司分享数据。因为每个数据点都揭示了一个弱点，也是说服尝试的一个攻击向量。“如果我们不分享这些数据，如果我们对科技公司来说是一个模糊的、没有性别、没有位置的灰色人影，那么它们对我们做这件事就会变得困难得多。” 然而，他紧接着承认了现实的骨感：历史表明人们往往不在乎隐私，而科技公司会竭尽全力提供足够的实用价值（工具），诱使用户出于某种原因不得不分享数据。例如，Google Maps（谷歌地图）的战略重要性就在于它提供了持续获取用户位置的最佳理由。
在政治和监管层面，挑战更为严峻。如何监管发生在 WhatsApp、Telegram 群组，尤其是未来可能每个人与多个专属 AI 聊天机器人（如心理医生机器人、伙伴机器人、性感女友机器人、导师机器人、教授机器人）之间进行的数十亿次一对一对话？Pip the Hunchback 指出，任何监管机构都缺乏人力进行核查。即使使用 AI 进行监管，也需要人工复核 AI 标记的内容，这在技术上几乎难以克服。只有当社会经历了足够糟糕的体验（例如 AI 策划的恐怖袭击），达到某个临界点，使得安全的重要性超过隐私时，政治和社会才可能产生足够的动力去推动严格监管。
另一种防御思路是“以 AI 制衡 AI”，即发展保护公民的“智能警察机器人”或个人 AI 代理，来识别和抵御恶意说服。但 Pip the Hunchback 对此表示怀疑，因为最易受影响的、对现有体系持批判态度的人群，恰恰最不可能接受国家强加的任何防御措施，科技寡头们也必然会指责这是审查和国家越权。
Pip the Hunchback 最后引用 Sam Altman（萨姆·奥尔特曼）的警告作为总结：“超人说服力”将在“超人智能”到来之前很久就存在。在我们拥有真正危险的 AGI（通用人工智能）之前，就会出现能够非常、非常有说服力地影响人们的 AI。最初的迹象已经显现，未来它会变得更好，以至于普通受教育程度的人也将无法抵抗。真正的危险或许不是 AI 派出杀手机器人，而在于它只需要说服几个“傻瓜”去做坏事，就能施展巨大的力量——除非它被植入了明智的价值观体系来防止这一点。然而，在价值观的植入与控制上，人类又将面临新的伦理与权力博弈。
