按年被提到
20252025 · 3 次2026
AI 安全、伦理与社会影响›模型窃取、记忆与水印·arXiv:2510.07192 · cs.LG

Poisoning Attacks on LLMs Require a Near-constant Number of Poison Samples

对大模型的投毒攻击只需近乎恒定数量的毒样本
Alexandra Souly, Javier Rando, Ed Chapman, Xander Davies, Burak Hasircioglu, Ezzeldin Shereen, Carlos Mougan, Vasilios Mavroudis, Erik Jones, Chris Hicks, Nicholas Carlini, Yarin Gal 等 13 人 · 2025

约250份毒文档就能给各种规模的大模型植入后门

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 5 人首次 2025-10-15 · 最近 2026-01-11
5不同的人
3活跃月份
5讨论串
46被引(OpenAlex)

已有预训练投毒研究假设攻击者控制训练语料的一定比例,但对大模型即使很小的比例也对应巨大的数据量。论文首次证明投毒攻击所需的文档数近乎恒定,与数据集规模无关:他们在 chinchilla 最优数据量(6B 到 260B token)上预训练 600M 到 13B 参数的模型,这是迄今最大的预训练投毒实验,结果是 250 份毒文档就能同样攻陷所有规模的模型,尽管最大模型的干净数据多了 20 倍以上。微调阶段的投毒也有同样的规律,这意味着对大模型植入后门可能比以往认为的更容易。

HN 为什么提它

HN 评论者把它当作“只需少量固定数量的样本就能给 LLM 训练投毒”的标志性例子,用来讨论训练数据被恶意利用的风险。

实证研究难度 3 / 5约 40 分钟经得起时间
读之前最好知道
1大语言模型的预训练与微调
2数据投毒与后门攻击
3Chinchilla 最优训练配比
4AI 安全基础

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用Terr_ · 2025-10

“There are lots of comments about it here:”

指出这里有很多相关评论
Beliefs that are true for regular software but false when applied to AI原评论 ↗
引用faxmeyourcode · 2025-11

“I think they're referring to this study on LLM poisoning in the pretraining step: Poisoning Attacks on LLMs Require a Near-constant Number of Poison Samples”

认为对方指的是这项预训练阶段投毒的研究
PRC elites voice AI-skepticism原评论 ↗
引用D-Machine · 2026-01

“This would be a classic recent example”

举它作为 LLM 训练易受离群值投毒的经典近例
LeCun calls Alex Wang inexperienced, predicts more Meta AI employee departure原评论 ↗
引用sigmar · 2026-01

“This is so different from the methods in the research the attack is based on[1].”

指出它与此攻击所依据的研究方法差别很大
AI industry insiders launch site to poison the data that feeds them原评论 ↗
被提交为 story · 1 次