按年被提到
20262026 · 7 次2026
大模型与语言模型›大模型文本、写作与版权·arXiv:2603.20957 · cs.CL

Alignment Whack-a-Mole : Finetuning Activates Verbatim Recall of Copyrighted Books in Large Language Models

对齐打地鼠:微调会激活大模型对受版权保护书籍的逐字复现
Xinyue Liu, Niloofar Mireshghallah, Jane C. Ginsburg, Tuhin Chakrabarty · 2026

微调可让主流 LLM 逐字复现最高 85–90% 的受版权图书内容。

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 7 人首次 2026-03-31 · 最近 2026-07-01
7不同的人
4活跃月份
7讨论串
0被引(OpenAlex)

前沿 LLM 公司向法院和监管者保证模型不存储训练数据副本,并依靠 RLHF、系统提示和输出过滤阻止逐字复述。作者表明微调可绕过这些保护:训练模型把情节摘要扩写成全文后,GPT-4o、Gemini-2.5-Pro 和 DeepSeek-V3.1 仅凭语义描述就能复现最高 85–90% 的留出受版权图书,单个逐字片段超过 460 词。只在村上春树小说上微调,也能解锁 30 多位无关作者图书的逐字回忆;三个不同厂商的模型记住的是同样书籍的同样区域,作者据此认为模型权重中存有受版权作品的副本,并动摇了合理使用判决所依赖的前提。

HN 为什么提它

评论者用它佐证模型权重里仍然存有受版权作品的副本:即使训练过拒答和改写,微调后仍能让模型逐字复述大段内容(评论者引用的比例高达八九成)。

实证研究难度 3 / 5约 40 分钟有时效性
读之前最好知道
1大语言模型微调
2RLHF 与安全对齐
3训练数据记忆(memorization)
4版权与合理使用(fair use)基础

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用hajile · 2026-03

“As it turns out, AI can regurgitate verbatim large sections of copyrighted works (up to 80% according to this study[0])”

引用它说明 AI 能逐字复现受版权作品的大段内容,最高达 80%
The Claude Code Source Leak: fake tools, frustration regexes, undercover mode原评论 ↗
引用t23414321 · 2026-04

“"Finetuning Activates Verbatim Recall of Copyrighted Books in LLMs"”

引用其标题,说明微调会激活对受版权书籍的逐字复现
AI Code Is Hollowing Out Open Source, and Maintainers Are Looking the Other Way原评论 ↗
引用fer · 2026-06

“Even if they're trained for refusal and rewording, the data is still there in the weights.”

拿它说明即便训练过拒绝和改写,数据仍保留在权重里
US holds off blacklisting China's DeepSeek, +100 firms deemed security risks原评论 ↗
引用usef- · 2026-07

“We know that models like Deepseek are trained on copyrighted books too: Alignment Whack-a-Mole”

拿它佐证 DeepSeek 等模型也用受版权书籍训练
Claude Code Is Steganographically Marking Requests原评论 ↗
被提交为 story · 3 次