按年被提到
20242024 · 4 次2026
大模型与语言模型›幻觉与语言模型局限·arXiv:2406.17642 · cs.CL

Banishing LLM Hallucinations Requires Rethinking Generalization

消除 LLM 幻觉需要重新思考泛化
Johnny Li, Saksham Consul, Eda Zhou, James Wong, Naila Farooqui, Yuxin Ye, Nithyashree Manohar, Zhuxiaona Wei, Tian Wu, Ben Echols, Sharon Zhou, Gregory Diamos · 2024

论证幻觉源于训练损失偏高,并提出百万记忆专家的 Lamini-1

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 3 人首次 2024-08-27 · 最近 2025-01-27
3不同的人
4活跃月份
4讨论串
25被引(OpenAlex)

论文认为「幻觉是创造力与事实性的权衡、靠外部知识接地可缓解但无法消除」的传统看法不能解释实践中的幻觉。通过系统实验,作者称加入大规模记忆专家混合(MoME)的 LLM 能轻易记住大量随机数,并给出理论构造:训练损失高于某个阈值时,预测下一个 token 的简单神经网络会产生幻觉。基于此,他们设计了首代去幻觉模型 Lamini-1,把事实存进数百万个动态检索的记忆专家中。

HN 为什么提它

论文作者团队自己在 HN 上推介它,称幻觉是可修复的训练问题;也有评论者质疑,认为它实际衡量的只是能否检索出已知的正确答案。

观点难度 3 / 5约 50 分钟有时效性
读之前最好知道
1大语言模型(LLM)基础
2幻觉(hallucination)
3混合专家模型(Mixture of Experts)
4检索增强生成(RAG)
5训练损失与泛化

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
批评Animats · 2024-11

“What they are measuring, it seems, is whether LLMs can be built which will retrieve a reliable known correct answer on request.”

OpenAI, Google and Anthropic are struggling to build more advanced AI原评论 ↗
引用gdiamos · 2024-08

“a paper we wrote digging into why LLMs hallucinate and how to fix it.”

介绍自己团队写的论文,探讨 LLM 为何幻觉及如何修复
Anthropic publishes the 'system prompts' that make Claude tick原评论 ↗
引用gdiamos · 2024-09

“We cover halting problem and intractable problems in the related work.”

说明相关工作部分讨论了停机问题和难解问题与幻觉极限的关系
LLMs Will Always Hallucinate, and We Need to Live with This原评论 ↗
引用nickpsecurity · 2024-11

“Their paper is below in case people qualified to review it want to.”

贴出论文:声称能消除幻觉,欢迎有资质的人来评审
OpenAI, Google and Anthropic are struggling to build more advanced AI原评论 ↗
引用nickpsecurity · 2025-01

“I forgot one tech that’s actually commercialized by lamini.ai:”

补充 lamini.ai 已商业化的记忆微调技术,声称可减少幻觉
Memory makes computation universal, remember?原评论 ↗