引用Lerc · 2026-04
“There has been quite a lot of work in this area.”
指出这方面已有不少工作,并以它为例,研究与幻觉相关的激活
区分模型不知道(HK-)与知道却答错(HK+)两类幻觉
论文主张区分两类幻觉:模型参数中本就没有正确答案(HK-),以及模型拥有所需知识却答错(HK+)。作者发现 HK+ 幻觉很普遍,跨模型和数据集都会出现,区分二者有助于缓解幻觉;并且不同模型在不同样例上产生幻觉,因此应构建针对特定模型的幻觉数据集来训练检测器。
有评论者只是以它为例,说明这一领域已有不少关于幻觉相关激活的研究,没有展开评价。
“There has been quite a lot of work in this area.”