“the AI still manages to display an unusually high level of coherence”
按年被提到
20192019 · 6 次2026
Defending Against Neural Fake News
防御神经假新闻(Grover)
Rowan Zellers, Ari Holtzman, Hannah Rashkin, Yonatan Bisk, Ali Farhadi, Franziska Roesner, Yejin Choi · 2019
Grover 能按标题生成假新闻,并用自身来检测假新闻
被推荐 · 6 人首次 2019-05-30 · 最近 2019-08-21
6不同的人
3活跃月份
6讨论串
665被引(OpenAlex)
论文从威胁建模角度研究神经网络生成的假新闻:提出可控文本生成模型 Grover,给定标题就能写出整篇文章,人类觉得这些生成内容比人写的虚假信息更可信。目前最好的判别器在中等训练数据下,区分神经假新闻与真实新闻的准确率为 73%,而最好的防御反而是 Grover 自己,准确率达 92%,说明公开强生成器很重要。作者还发现暴露偏差及缓解它的采样策略都会留下判别器能抓住的痕迹,并讨论了相关伦理问题。
HN 为什么提它
HN 上的人在讨论 AI 生成文本和假新闻时引用它,称它生成的文章连贯得不寻常,并把它当作了解机器生成新闻检测的出发点。
实证研究难度 3 / 5约 45 分钟有时效性
读之前最好知道
1语言模型与文本生成
2采样策略(如 nucleus sampling)
3文本分类与判别器
4威胁建模(threat modeling)
学习路径
读这篇之前,按顺序读书架上的 4 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出先读 Transformer 和 GPT-2 式生成的采样问题,再了解语言模型发布的社会影响,最后看 Grover 如何同时做生成和检测假新闻。
- 1
- 2
- 3
Grover 用核采样(top-p)生成文章,并分析采样方式对检测难度的影响。
读似然解码为何退化,以及核采样的定义与效果。
- 4
它讨论强语言模型的双重用途风险与发布策略,正是目标论文的威胁模型背景。
读分阶段发布的理由和对潜在滥用的评估思路。
- 5Defending Against Neural Fake News
在前面的生成与风险背景之上,看按标题条件生成假新闻并用同一模型做检测的方法。
读威胁模型的设定、可控生成的输入字段,以及为什么最好的检测器就是生成器本身。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及推荐dTal · 2019-06
指出这个 AI 生成假新闻的连贯性高得异常
推荐mappingbabeljc · 2019-08
“I think the Grover paper is a good place to read about some of this:”
推荐读 Grover 论文了解相关内容,它能检测机器生成的新闻
被提交为 story · 4 次
- Defending Against Neural Fake News (Using GPT to Generate Fake News and Demo) ↗ve55 · 2019-05-30 · 1 分
- “Defending Against Neural Fake News” (Check Out the Samples in the Appendix) ↗visarga · 2019-05-31 · 3 分
- Defending Against Neural Fake News [pdf] ↗rococode · 2019-06-07 · 1 分
- Defending Against Neural Fake News ↗lawrenceyan · 2019-06-19 · 1 分