按年被提到
20242024 · 2 次2026
大模型与语言模型›幻觉与语言模型局限·arXiv:2410.22071 · cs.CL

Distinguishing Ignorance from Error in LLM Hallucinations

区分 LLM 幻觉中的无知与错误
Adi Simhi, Jonathan Herzig, Idan Szpektor, Yonatan Belinkov · 2024

区分模型不知道(HK-)与知道却答错(HK+)两类幻觉

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 3 人首次 2024-11-08 · 最近 2026-04-28
3不同的人
3活跃月份
3讨论串
11被引(OpenAlex)

论文主张区分两类幻觉:模型参数中本就没有正确答案(HK-),以及模型拥有所需知识却答错(HK+)。作者发现 HK+ 幻觉很普遍,跨模型和数据集都会出现,区分二者有助于缓解幻觉;并且不同模型在不同样例上产生幻觉,因此应构建针对特定模型的幻觉数据集来训练检测器。

HN 为什么提它

有评论者只是以它为例,说明这一领域已有不少关于幻觉相关激活的研究,没有展开评价。

实证研究难度 3 / 5约 40 分钟有时效性
读之前最好知道
1大语言模型(LLM)基础
2幻觉检测与缓解
3模型内部激活与探针(probing)

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用Lerc · 2026-04

“There has been quite a lot of work in this area.”

指出这方面已有不少工作,并以它为例,研究与幻觉相关的激活
The Social Edge of Intellgience: Individual Gain, Collective Loss原评论 ↗
被提交为 story · 2 次