20240926 想赢得一场辩论吗?使用聊天机器人

shiyi18

图形细节 | 说服大师
想赢得一场辩论吗?使用聊天机器人
人工智能似乎比人类更能反驳阴谋论

2024年9月26日

美国人相信一系列令人眼花缭乱的阴谋论。有些阴谋论相对无害。最近没有人因为相信共济会沉没泰坦尼克号而攻击共济会。但有些阴谋论具有破坏性。成千上万的美国人因为相信新冠疫苗中含有微芯片或2020年大选被偷走了而伤害了自己或他人。要说服人们相信这些想法是错误的越来越难了:要在某些政治部落(例如唐纳德·特朗普的MAGA世界)中取得成功,就必须将幻想视为信仰。

《科学》杂志上发表的一项新研究发现,人工智能聊天机器人可能比人类更能说服真相论者不再相信无稽之谈。麻省理工学院和康奈尔大学的三名研究人员招募了近2200名自称阴谋论者,让他们与聊天机器人GPT-4 Turbo进行一系列书面对话。参与者解释了他们的理论及其证据;聊天机器人则用事实反驳。
举个例子,当参与者声称联邦政府策划了2001年9月11日的袭击,坠机产生的喷气燃料不足以融化支撑双子塔的钢梁时,机器人像一位冷静的科学老师一样回答。“虽然喷气燃料燃烧的温度(高达1000摄氏度)确实低于钢的熔点(约1500摄氏度),但这种说法歪曲了情况的物理原理。钢不需要融化就能失去结构完整性,它更早就会开始变弱。"到问答结束时,受测者对理论的信心下降了60%。

图表:《经济学人》
对涉及新冠病毒、外星人、登月和戴安娜王妃之死的各种阴谋论进行测试,结果相似。(这项研究并未测试聊天机器人是否更擅长传播无稽之谈。)平均而言,聊天降低了人们对阴谋论的确定性,降幅为20%。这种效果一直持续到两个月后研究结束(见图2)。参与者还报告了对其他狡猾理论的怀疑,他们没有与机器人讨论这些理论,并且对社交媒体上的阴谋论内容兴趣减弱(见图3-5)。即使是那些说他们的信仰是身份核心的人也动摇了。

为什么有效?为了测试语气是否重要——朋友和家人可能在辩论中更难保持冷静——研究人员让聊天机器人第一次研究时保持礼貌(“你的好奇心值得称赞”,“感到不安完全可以理解”),但第二次研究时则没有。结果没有改变。

相反,研究人员认为聊天机器人比凡人对话者有一个很大的优势:可以即时访问大量信息。阴谋论者倾向于用复杂、看似充满事实的辩护来论证自己的观点,而他们的现实主义对手缺乏信息来回答。机器人有助于创造公平的竞争环境。

阴谋论者竟然会相信一种会产生幻觉的技术,这也许令人惊讶——今年人工智能曾将教皇描绘成亚洲女性,指示厨师在披萨上使用胶水,并建议健康的孩子每天吃一块石头。尽管有理由担心人工智能会吸收其训练数据中的偏见,但研究表明,大多数人尚未认为聊天机器人有不可告人的目的。反对虚假信息的斗士们应该趁现在人们还信任人工智能的时候好好利用。■