按年被提到
20192019 · 6 次2026
AI 安全、伦理与社会影响›模型窃取、记忆与水印·arXiv:1905.12616 · cs.CL

Defending Against Neural Fake News

防御神经假新闻(Grover)
Rowan Zellers, Ari Holtzman, Hannah Rashkin, Yonatan Bisk, Ali Farhadi, Franziska Roesner, Yejin Choi · 2019

Grover 能按标题生成假新闻,并用自身来检测假新闻

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 6 人首次 2019-05-30 · 最近 2019-08-21
6不同的人
3活跃月份
6讨论串
665被引(OpenAlex)

论文从威胁建模角度研究神经网络生成的假新闻:提出可控文本生成模型 Grover,给定标题就能写出整篇文章,人类觉得这些生成内容比人写的虚假信息更可信。目前最好的判别器在中等训练数据下,区分神经假新闻与真实新闻的准确率为 73%,而最好的防御反而是 Grover 自己,准确率达 92%,说明公开强生成器很重要。作者还发现暴露偏差及缓解它的采样策略都会留下判别器能抓住的痕迹,并讨论了相关伦理问题。

HN 为什么提它

HN 上的人在讨论 AI 生成文本和假新闻时引用它,称它生成的文章连贯得不寻常,并把它当作了解机器生成新闻检测的出发点。

实证研究难度 3 / 5约 45 分钟有时效性
读之前最好知道
1语言模型与文本生成
2采样策略(如 nucleus sampling)
3文本分类与判别器
4威胁建模(threat modeling)

学习路径

读这篇之前,按顺序读书架上的 4 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

先读 Transformer 和 GPT-2 式生成的采样问题,再了解语言模型发布的社会影响,最后看 Grover 如何同时做生成和检测假新闻。

  1. 1
    Attention Is All You Need注意力就是你所需要的一切 · 2017

    Grover 的生成器是基于 Transformer 的大型语言模型。

    读解码器端的自注意力与掩码,理解自回归生成的结构。

  2. 2
    Hierarchical Neural Story Generation层级式神经故事生成 · 2018

    它给出 top-k 采样和条件故事生成的做法,是 Grover 采样策略的前身。

    读top-k 采样与按提示生成长文的设置。

  3. 3
    The Curious Case of Neural Text Degeneration神经文本退化的奇特案例(核采样) · 2019

    Grover 用核采样(top-p)生成文章,并分析采样方式对检测难度的影响。

    读似然解码为何退化,以及核采样的定义与效果。

  4. 4
    Release Strategies and the Social Impacts of Language Models语言模型的发布策略与社会影响 · 2019

    它讨论强语言模型的双重用途风险与发布策略,正是目标论文的威胁模型背景。

    读分阶段发布的理由和对潜在滥用的评估思路。

  5. 5
    Defending Against Neural Fake News防御神经假新闻(Grover) · 2019 · 就是这篇

    在前面的生成与风险背景之上,看按标题条件生成假新闻并用同一模型做检测的方法。

    读威胁模型的设定、可控生成的输入字段,以及为什么最好的检测器就是生成器本身。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐dTal · 2019-06

“the AI still manages to display an unusually high level of coherence”

指出这个 AI 生成假新闻的连贯性高得异常
New AI Generates Horrifyingly Plausible Fake News原评论 ↗
推荐mappingbabeljc · 2019-08

“I think the Grover paper is a good place to read about some of this:”

推荐读 Grover 论文了解相关内容,它能检测机器生成的新闻
GPT-2: 6-Month Follow-Up原评论 ↗
被提交为 story · 4 次