Science最新封面：阴谋论的“兔子洞”，被AI大模型粉碎了

“诡计论的兔子洞，一旦掉进便很难再出来？”

在信息时代，毫无根据的诡计论好像病毒般在全球范围内传达，对社会信赖、科学遍及以及个人心思健康造成了严峻危害。数据显现，美国有超越 50% 的人口信赖某种办法的诡计论。

虽然学者们企图经过戳穿逻辑过错和遍及科学知识等办法戳穿诡计论，但这些干涉办法短少互动性和针对性，大多无效。

现在，人工智能（AI）在破除诡计论方面取得了新打破，开端大展拳脚——

由 AI 驱动的谈天机器人能够将诡计论信众（即使是那些最固执的人）的过错崇奉均匀削减 20%，且效果至少能够继续 2 个月，并在各种不相关的诡计论以及不同的人口统计类别中都有用。

这一效果来自美国麻省理工学院和康奈尔大学联合研讨团队，他们经过提出一种运用 AI 谈天机器人来敌对虚伪信息的新办法，企图打破 “诡计论崇奉根深柢固且无法改动” 这一观念。

他们讨论了 GPT-4 Turbo 等大言语模型（LLMs）是否能运用其强壮的信息获取才干，并经过运用定制的对话辩驳，来直接回应诡计论信众提出的详细根据，然后有用地戳穿诡计论。

研讨成果标明，LLMs 能够应对很多虚伪信息的“进犯”，并供给很多反根据，相较于人类难以处理的信息激流，LLMs 或许能够无限期针对过错信息生成辩驳。

相关研评论文以 “Durably Reducing Conspiracy Beliefs Through Dialogues with AI” 为题，以封面文章的办法宣布 在科学期刊 Science 上。

在一篇相关的前瞻性（perspective）文章中，Bence Bago 和 Jean-François Bonnefon 写道，“不管好坏，AI 都将深入改动咱们的文明。这项研讨展现了生成式 AI 压服才干的潜在活跃运用。”

AI 成功破坏诡计论

在维基百科上，有关诡计论（Conspiracy theory）的解说是，“在其他解说更有或许的情况下，将事情或现实情况解说成凶恶而又强力的集团在背面密议的理论”。

这些理论一般由于短少更多牢靠的根据而不行证伪，并且在逻辑上或许是自洽的，因而或许有相当多的信众。

信众的诡计论崇奉的构成遭到多种心思机制的影响，虽然其荒唐性十分显着，但出于对杂乱国际的简单化需求，以及对某些事情的不确定性的反响，想要压服他们根据现实抛弃毫无根据的崇奉，而非从根本上改动他们的潜在心思和身份许诺，简直不太或许。

为此，研讨团队运用 LLMs 能够拜访海量信息、与用户进行实时个性化交互的特色，讨论了是否能够用满足令人服气的根据来压服人们走出诡计的“兔子洞”。

他们首要提出假定，根据现实、纠正性信息的干涉办法或许看起来无效，只是是由于它们短少满足的深度和个性化。他们根据 GPT-4 Turbo 规划了一系列试验，招募了 2190 名诡计论信众作为参加者，测验 LLMs 是否能经过个性化对话有用冲击诡计论。

图｜人类参加者与 LLMs 的对话规划和流程。（来历：该论文）

首要，研讨团队挑选了 774 名参加者，在让他们描绘自己所崇奉的诡计论和理由后，将他们分为干涉组和对照组，别离与 LLMs 进行对话。

干涉组与 LLMs 进行对话时，会进行屡次个性化互动，共享他们的观念和所谓的“根据”，LLMs 则根据这些根据供给有针对性的辩驳；而对照组的参加者与 LLMs 体系则就诡计论无关的论题打开对话。

图｜与 LLMs 对话能够耐久地下降诡计论崇奉，即使是在坚决的信众中。（左）按研讨 1 的条件（赤色：LLMs 企图辩驳诡计论；蓝色：与 LLMs 评论无关论题）和时刻点区分的人类参加者诡计论的均匀崇奉。（来历：该论文）

成果显现，即使是对诡计论毫不置疑的参加者，经过 LLMs 的推理和根据也乐意改动崇奉，这进一步着重了理性考虑在批改过错崇奉中的效果；与 LLMs 对话不只能影响详细的诡计论，还能对其他不相关的诡计理论发生额定效应。

并且，LLMs 辩驳诡计论的准确性极高，经过专业现实核查员评价，99.2% 的辩驳内容被认为是实在的，只要 0.8% 具有误导性，且没有任何虚伪信息或显着的成见。

此外，经过不断地批改问卷遣词，研讨团队在两轮试验中验证了这一成果的鲁棒性。

该研讨的立异之处在于：

实时交互：与传统的静态信息不同，这一研讨运用 LLMs 规划实时对话试验，个性化地辩驳参加者提出的诡计论崇奉，这种互动办法能够及时回应人类参加者的疑问和辩驳，进步干涉的有用性；

个性化对话：LLMs 根据参加者的详细崇奉生成定制化的辩驳内容，使得干涉愈加有针对性和压服力；

直接辩驳：LLMs 不只供给现实信息，还会针对参加者引证的虚伪根据当即供给实在数据并解说其来历和牢靠性。

但是，有必要警觉的是，LLMs 或许会被用于推行虚伪崇奉，因而需求负职责的运用和恰当的约束。

当然，这一研讨也具有必定的局限性。例如，研讨样本首要来自美国在线参加者，未来应测验其他文明和布景的诡计论信众。

并且，这一研讨只运用了 GPT-4 Turbo 模型，尚不清楚其他模型的体现怎么。

再者，虽然 LLMs 在改动崇奉方面体现出色，但详细的认知机制仍不清晰，未来仍需进一步讨论 LLMs 怎么经过对话影响崇奉的改动。

科学现实是最有力的反根据

此外，国际经济论坛在《2024年全球危险陈述》中，将 AI 扩大虚伪信息列为全球最严峻危险之一。在此情况下，AI 的潜在活跃影响显得尤为重要。

以上成果标明，LLMs 等 AI 模型不只能够有用地削减人们对特定诡计论的崇奉，还具有改动深层次崇奉的巨大潜力。

但是，正如 Bence Bago 等人在前瞻性文章中指出， 这一 AI 对话办法或许只适用于经过充沛论说的诡计崇奉，关于没有合理根据的过错崇奉，AI 的有用性或许会有所下降 。

他们进一步指出，AI 对话干涉办法的可扩展性是一种抱负状况，它不只能够适用于诡计论，还包括伪科学、健康神话、气候置疑主义等范畴。但是 ，这些类型的过错崇奉是否与诡计论具有相同的纠正难度，仍有待进一步研讨。

他们主张，未来的研讨 应讨论这种 AI 对话需求继续多久、多久进行一次才干保证其有用性。

此外， 诡计论信众或许不会信赖任何科学组织，怎么压服他们与 AI 进行互动仍是一个巨大应战 。

从另一视点来看，一种个性化办法或许能够发挥效果，由于诡计论信众的亲朋往往急于破坏过错崇奉，或许能够经过鼓舞亲朋来引导信众参加和 AI 的对话。

Science 杂志主编 H. Holden Thorp 在一篇 focus 文章中指出：“ LLMs 或许是敌对诡计崇奉的有用东西，这或许看起来有点挖苦 ，由于 LLM 以假造虚伪现实而出名。但在与诡计论信众的攀谈中，它们却能有用地削减崇奉。”

该研评论文的作者之一 David Rand 也标明：“咱们的根据标明，真实起效果确实实是反根据和非诡计解说。”

Thorp 进一步提出了一个问题：“ 这是否与 LLMs 的中立性、短少人类对话中的情绪化反响有关？ 但现在的研讨没有给出有力的根据来支撑这一观念。”

这些成果标明，当很多反根据变得至关重要时，削减科学过错信息的尽力或许不该过度着重信息的传递者，而应聚集于供给满足的敌对根据。

H. Holden Thorp 谈道： 令人困惑的是，虽然诡计论盛行，但大众对科学家的信赖度依然很高。 或许，正是这种对科学家的坚决信赖，使得 LLMs 在供给反根据时如此有用。

虽然机器或许比人类更拿手辩驳过错信息，但终究让人们服气的依然是科学现实。因而，科学家们有职责证明 AI 的未来潜力。

作者：田小婷 编审：学术君

如需转载或投稿，请直接在大众号内留言