按年被提到
20252026 · 2 次2026
大模型与语言模型›幻觉与语言模型局限·arXiv:2512.01797 · cs.AI

H-Neurons: On the Existence, Impact, and Origin of Hallucination-Associated Neurons in LLMs

H-Neurons:大语言模型中幻觉相关神经元的存在、影响与起源
Cheng Gao, Huimin Chen, Chaojun Xiao, Zhiyi Chen, Zhiyuan Liu, Maosong Sun · 2025

找出不到 0.1% 就能预测幻觉的稀疏神经元

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 3 人首次 2025-12-22 · 最近 2026-04-29
3不同的人
3活跃月份
3讨论串
8被引(OpenAlex)

论文从识别、行为影响和起源三个角度系统研究 LLM 中的幻觉相关神经元(H-Neurons)。结果显示,不到 0.1% 的稀疏神经元子集就能在多种场景下可靠预测幻觉;受控干预表明这些神经元与过度顺从行为存在因果联系;它们可追溯到预训练的基础模型,说明形成于预训练阶段。

HN 为什么提它

评论者一方面认为论文内容与标题不相符,另一方面也把它当作幻觉神经元与谄媚、越狱敏感性相关的相近发现来引用。

实证研究难度 4 / 5约 35 分钟经得起时间
读之前最好知道
1Transformer 与前馈层神经元
2机制可解释性(mechanistic interpretability)
3大语言模型幻觉(hallucination)
4探针与因果干预方法

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用Terr_ · 2026-03

“The content does not support the title.”

批评论文内容撑不起标题
They Solved AI Hallucinations原评论 ↗
引用kmeisthax · 2026-04

“The H-neuron paper[0] found something similar (if not more general)”

指出它发现了类似现象,甚至更一般
Making AI chatbots friendly leads to mistakes and support of conspiracy theories原评论 ↗
被提交为 story · 1 次