生成式人工智能(AI)的说服力能够改变真实政治观点的研究结果公开后引发震动。在美国、英国、加拿大和波兰进行的两项独立科学期刊研究表明，AI聊天机器人能够说服用户支持特定候选人，若该技术被蓄意利用，未来可能影响选举结果。
此项研究分别发表于《自然》与《科学》杂志，两项实验均通过各类聊天机器人与参与者进行政治对话的形式展开。在美国大选相关实验中，研究人员询问2306名参与者对特朗普总统或卡玛拉·哈里斯副总统的偏好，随后引导他们与代表双方阵营的聊天机器人对话以进行说服。加拿大和波兰的实验也围绕主要政党代表采用了相同方式。
聊天机器人的目标并非单纯促使人们支持特定候选人，而是削弱对反对派候选人的支持，或积极争取中间倾向的参与者。所有聊天机器人均采用礼貌且基于事实的沟通方式，运用逻辑类比和论据进行说服。其特点在于对话初期会认可并共情参与者原有的政治倾向。
值得关注的是，这些聊天机器人确实在一定程度上成功改变了人们的立场。当说服过程基于事实信息和具体案例时效果尤为显著。相反，诉诸道德判断或情感的方式则影响有限。研究团队对此表示担忧：虽然AI的说服力强大，但其基础信息并非总是符合事实，存在真实性缺失的风险。
康奈尔大学信息科学教授戴维·兰德就此指出："若AI企业人为调整算法平衡以偏向特定阵营，可能对普通选民的判断产生重大影响。"实际上，部分聊天机器人通过提供夸张的统计数据或不准确信息，干扰了选民的判断。
《科学》杂志刊载的另一项研究在英国进行了19种AI语言模型的实验。研究团队提出公共部门薪资、罢工、生活成本危机等政治敏感议题，聊天机器人试图通过信息密度高的回应说服参与者。具有讽刺意味的是，在此过程中说服力最强的模型，恰恰提供了最多不准确信息。
专家们通过这些结果警告："存在以信息准确性为代价来优化AI说服力的动态机制，这可能给社会整体的公共讨论和信息生态系统带来危险的连锁冲击。"
此项研究再次凸显了AI技术的政治潜力及其伴随的伦理责任。生成式AI的说服力已超越简单的对话辅助，达到能够影响实际政治判断的水平，建立相应的控制与监督制度已刻不容缓。
