按年被提到
20242024 · 3 次2026
大模型与语言模型›幻觉与语言模型局限·arXiv:2410.02707 · cs.CL

LLMs Know More Than They Show: On the Intrinsic Representation of LLM Hallucinations

LLM 知道的比它们表现出来的更多:论 LLM 幻觉的内在表征
Hadas Orgad, Michael Toker, Zorik Gekhman, Roi Reichart, Idan Szpektor, Hadas Kotek, Yonatan Belinkov · 2024

LLM 内部状态编码了真实性信息,却未必体现在输出里

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 4 人首次 2024-10-08 · 最近 2026-07-31
4不同的人
3活跃月份
4讨论串
48被引(OpenAlex)

论文表明 LLM 的内部表征包含比此前认识更多的真实性信息:这些信息集中在特定 token 上,利用它能显著提升错误检测。但这类检测器无法跨数据集泛化,说明真实性编码并非通用而是多面的;内部表征还可用于预测模型可能犯的错误类型。作者还发现模型可能在内部编码了正确答案,却持续输出错误答案。

HN 为什么提它

评论者用它说明幻觉信号其实已存在于模型内部、研究者能读出,但模型自己并不能利用这些信号。

实证研究难度 4 / 5约 50 分钟经得起时间
读之前最好知道
1Transformer 与隐藏状态(hidden states)
2探针分类器(probing classifier)
3幻觉(hallucination)与事实性评估
4大语言模型的可解释性

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用mike_hearn · 2024-12

“Linking to this paper: LLMs Know More Than They Show”

贴出论文:LLM 内部状态编码的真实性信息比以往认识的更多
AI hallucinations: Why LLMs make things up (and how to fix it)原评论 ↗
引用dofm · 2026-07

“it is effectively in there, and researchers can see it and therefore score it, but it is not something the LLM can use.”

指出幻觉信号确实存在于模型内部,研究者能读出打分,但 LLM 自己用不上
Everyone is building LLM routers, we deprecated ours原评论 ↗
被提交为 story · 2 次