按年被提到
20232023 · 3 次2026
视觉、语音与图像生成›扩散模型·arXiv:2307.01850 · cs.LG

Self-Consuming Generative Models Go MAD

自我消耗的生成模型会「疯」:模型自噬紊乱
Sina Alemohammad, Josue Casco-Rodriguez, Lorenzo Luzi, Ahmed Imtiaz Humayun, Hossein Babaei, Daniel LeJeune, Ali Siahkoohi, Richard G. Baraniuk · 2023

用自身生成数据反复训练生成模型会导致质量或多样性衰退

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 6 人首次 2023-07-16 · 最近 2026-09-30发表于 LatinX in AI at Neural Information Processing Systems Conference (LXAI)
6不同的人
6活跃月份
6讨论串
83被引(OpenAlex)

论文用理论与实验分析了生成图像模型在「自噬循环」中的表现,即后一代模型用前几代模型生成的样本来训练,并比较了真实数据固定或新鲜、采样是否偏向质量等三类设置。核心结论是:如果每一代没有足够的新鲜真实数据,生成模型的精度(precision)或多样性(recall)会逐代下降,作者将这种现象称为模型自噬紊乱(MAD)。

HN 为什么提它

HN 上的人用它说明拿 AI 生成内容训练 AI 会让模型退化,每一代都需要新鲜的真实数据。

实证研究难度 3 / 5约 45 分钟经得起时间
读之前最好知道
1生成模型基础(GAN、扩散模型)
2精度与召回(precision / recall)
3合成数据训练
4迭代训练与分布漂移

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐claytonwramsey · 2023-07

“The paper is quite approachable and worth a quick scan.”

推荐快速浏览,易读,重复使用生成输出会得到怪异结果
AI Loses Its Mind After Being Trained on AI-Generated Data原评论 ↗
引用matteoraso · 2023-10

“Except you can't train AI on AI generated content.”

用它讽刺:你不能用 AI 生成的内容训练 AI,否则模型会退化
Why Generative AI Is Currently Doomed原评论 ↗
引用pankajdoharey · 2024-07

“This is a similar problem to what was observed in Diffusion models going”

指出这和扩散模型中观察到的问题类似:用合成数据训练会退化
AI models collapse when trained on recursively generated data原评论 ↗
引用wavewrangler · 2026-09

“They need fresh real data every generation or they go downhill: Self-Consuming Generative Models Go MAD”

引用它:自我消耗的生成模型每代都需要新的真实数据,否则会走下坡路
Nvidia wants to put a watchdog chip next to every AI agent原评论 ↗
被提交为 story · 2 次