A misinformation playbook sharpens judgement without breeding cynicism
作者: Tong Guo, Teng Ye, Yutong Xie, Qiaozhu Mei
分类: cs.CY, cs.CL, cs.HC, cs.SI
发布日期: 2026-10-15
💡 一句话要点
提出一种新防御策略以应对虚假信息的影响
🎯 匹配领域: 支柱一：机器人控制 (Robot Control)
关键词: 虚假信息 说服策略 判断能力 事实核查 生成式人工智能 公共健康 社交媒体
📋 核心要点
- 核心问题：现有的虚假信息防御方法往往依赖于事实核查，无法应对新颖的虚假声明，且可能导致对真相的怀疑。
- 方法要点：本文提出通过学习虚假信息的说服策略来提高判断能力，而不是单纯依赖于事实核查。
- 实验或效果：实验结果显示，经过相关培训后，参与者对不熟悉的声明的辨别能力有所提高，且对真实声明的信任未受到影响。
📝 摘要（中文）
虚假信息对公共健康和民主造成危害，而生成式人工智能能够生成与人类相媲美的虚假信息。现有的防御措施包括对个别声明进行事实核查和训练人们抵制虚假信息。然而，许多声明过于新颖，无法进行核查，而教导怀疑的干预措施可能会削弱对真相的信任。本文提出了一种新的防御策略，针对虚假信息中的说服策略，而非每个声明的事实。通过分析214,646个经过事实核查的声明，构建了一个说服策略的“剧本”，该剧本能够提高人类和机器对不熟悉声明的判断能力，而不会使其对真实声明产生更多的怀疑。
🔬 方法详解
问题定义：本文旨在解决虚假信息对公众判断力的影响，现有方法如事实核查无法应对新出现的虚假声明，且可能导致对真实信息的怀疑。
核心思路：论文的核心思路是通过识别和学习虚假信息中的常见说服策略，帮助人们和机器更好地判断不熟悉的声明，而不依赖于逐个核查事实。
技术框架：整体架构包括数据收集、说服策略分析和模型训练三个主要模块。首先，从214,646个经过事实核查的声明中提取说服策略，然后将其应用于语言模型的训练中。
关键创新：最重要的技术创新点在于构建了一个针对虚假信息的说服策略“剧本”，该剧本能够有效提高判断能力，而不需要等待特定声明的核查。
关键设计：在模型训练中，设计了特定的参数设置和损失函数，以确保模型能够有效区分真实和虚假声明，并结合了对说服策略的理解。通过提供相关的培训材料，参与者的判断能力得到了提升。
🖼️ 关键图片
📊 实验亮点
实验结果表明，经过相关培训后，参与者对不熟悉声明的辨别能力显著提高，且对真实声明的信任未受到影响。尽管在所有声明的平均提升未达到统计显著性，但针对特定类型声明的效果仍然值得关注，显示出该方法的潜在价值。
🎯 应用场景
该研究的潜在应用领域包括公共健康信息传播、社交媒体内容审核和教育培训等。通过提高公众对虚假信息的辨别能力，可以有效维护社会的健康与民主，减少虚假信息的传播。未来，该方法可能在多种信息环境中得到广泛应用，帮助人们更好地理解和应对虚假信息的挑战。
📄 摘要（原文）
Misinformation harms public health and democracy, and generative artificial intelligence now writes falsehoods as persuasive as people's. Defences range from fact-checking individual claims to training people to resist falsehoods. Yet many claims are too new to check, and interventions that teach doubt can reduce belief in truth too. We propose a defence that targets not the facts of each claim but the persuasion strategies that recur across them. Here we show that learning misinformation's persuasion playbook, mapped from 214,646 fact-checked claims in 51 languages, can sharpen human and machine judgement of claims they know little about, without making either more cynical about true claims. The playbook spans social influence, information manipulation and emotional appeals, combined around a core of fear, conspiracy and fabrication. Briefed with it, plus a reminder that persuasion is not proof of falsehood, a language model better distinguished true from machine-generated false claims about events after its training data. In a pre-registered experiment, the same briefing improved people's discernment of claims they reported as unfamiliar and left their belief in true claims unchanged. Averaged over all claims, the gain was not statistically significant. Because it targets what recurs, this defence need not wait for claim-specific fact-checks.