按年被提到
20242024 · 6 次2026
大模型与语言模型›幻觉与语言模型局限·arXiv:2409.05746 · stat.ML

LLMs Will Always Hallucinate, and We Need to Live With This

LLM 永远会产生幻觉,我们必须与之共存
Sourav Banerjee, Ayushi Agarwal, Saloni Singla · 2024

论证幻觉源于 LLM 的数学结构,无法通过改进彻底消除

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 6 人首次 2024-09-12 · 最近 2026-09-19
6不同的人
4活跃月份
8讨论串
146被引(OpenAlex)

论文主张幻觉不是偶发错误,而是语言模型不可避免的特性,源于其基本的数学与逻辑结构,因此不可能靠改进架构、增强数据集或事实核查彻底消除。作者借助可计算性理论和哥德尔第一不完备定理(涉及停机、空性、接受等不可判定问题),指出从训练数据收集、事实检索、意图分类到文本生成的每个阶段都有非零的幻觉概率,并提出「结构性幻觉」概念。

HN 为什么提它

评论者把它当作「幻觉无法彻底解决」的论据来引用,用来支持自己对 LLM 的怀疑,其中有人坦言只读过标题。

观点难度 3 / 5约 35 分钟经得起时间
读之前最好知道
1可计算性理论(停机问题)
2哥德尔不完备定理
3大语言模型的生成过程
4幻觉(hallucination)

学习路径

读这篇之前,按顺序读书架上的 4 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

先看幻觉的定义和已有分类,再看衡量与缓解幻觉的代表工作,以及规模带来新能力的论点,最后读主张幻觉不可根除的这篇理论论证。

  1. 1
    Survey of Hallucination in Natural Language Generation自然语言生成中的幻觉综述 · 2022

    系统梳理 NLG 中幻觉的定义、成因和缓解,是理解本文讨论对象的背景。

    读抓住内在幻觉与外在幻觉的区分,以及各类缓解方法的概览。

  2. 2

    提供衡量模型模仿人类错误说法的基准,可用来对照本文关于幻觉不可消除的论点。

    读了解基准构造方式和较大模型反而更不真实的发现。

  3. 3

    代表借助检索与人类反馈来减少事实错误的缓解思路,对应本文要论证无法彻底奏效的一类方法。

    读理解让模型浏览网页并引用来源的做法。

  4. 4
    Emergent Abilities of Large Language Models大语言模型的涌现能力 · 2022

    涌现能力的讨论背景:规模扩大能带来新能力,与幻觉能否随规模消除的问题相关。

    读理解涌现的定义和判断标准,了解其争议。

  5. 5
    LLMs Will Always Hallucinate, and We Need to Live With ThisLLM 永远会产生幻觉,我们必须与之共存 · 2024 · 就是这篇

    目标论文:用计算理论和哥德尔不完备定理论证幻觉不可避免。

    读看其形式化论证的前提、各类幻觉来源的归纳,以及结论的适用范围。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用az09mugen · 2024-09

“What reinforces my opinion are papers like these: LLMs Will Always Hallucinate, and We Need to Live With This [OTHER_PAPER]”

引它与另一篇论文,佐证自己对 LLM 的怀疑
I no longer use AI assistant原评论 ↗
引用az09mugen · 2024-10

“some papers describe it [0] and [1] for example.”

举它为例,说明有论文论述 LLM 总会幻觉
Announcing the Tech for Palestine Incubator原评论 ↗
引用az09mugen · 2024-10

“LLM will always hallucinate. People did already some research, among which: LLMs Will Always Hallucinate, and We Need to Live With This and [OTHER_PAPER] for example.”

举它与另一篇为例,说明已有研究支持 LLM 总会幻觉
Show HN: Last CLI tool you will need原评论 ↗
引用Retr0id · 2024-10

“(disclaimer, I also have not read any of these papers beyond the title!)”

只列出标题,并声明自己没读过这些论文
LLMs know more than they show: On the intrinsic representation of hallucinations原评论 ↗
引用ezst · 2025-06

“Making stuff up is what defines¹ LLMs”

引它作为出处,说明编造内容是 LLM 的本质
O3 Turns Pro原评论 ↗
引用gozucito · 2026-09

“I remember the paper proving that hallucinations could never be fully solved back in 2024: LLMs Will Always Hallucinate, and We Need to Live With This”

记得 2024 年有论文证明幻觉永远无法完全解决
How OpenAI Used Its Own LLMs to Design Its Jalapeño Chip原评论 ↗
被提交为 story · 2 次