按年被提到
20242026 · 4 次2026
大模型与语言模型›大模型文本、写作与版权·arXiv:2404.01019 · cs.CL

Source-Aware Training Enables Knowledge Attribution in Language Models

源感知训练使语言模型具备知识溯源能力
Muhammad Khalifa, David Wadden, Emma Strubell, Honglak Lee, Lu Wang, Iz Beltagy, Hao Peng · 2024

训练 LLM 把知识与来源文档标识关联,实现预训练来源引用

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 3 人首次 2024-07-18 · 最近 2026-10-18
3不同的人
8活跃月份
8讨论串
7被引(OpenAlex)

论文研究“内在来源引用”问题:让 LLM 在回答时指出支撑该回答的预训练来源。方法分两步:先训练模型把每篇文档的唯一标识符与其中的知识关联起来,再用指令微调教模型被问到时给出来源。在合成数据上的实验表明,这种做法能实现忠实的来源归因,且对困惑度影响不大,并显示预训练阶段的数据增强对归因很关键。

HN 为什么提它

评论者在谈到 LLM 的幻觉、抄袭、知识溯源和给上下文打时间戳时,反复把它当作让模型引用训练来源的现成方法。

方法难度 3 / 5约 30 分钟经得起时间
读之前最好知道
1LLM 预训练与指令微调(instruction tuning)
2困惑度(perplexity)
3幻觉(hallucination)与引用归因
4Transformer 语言模型

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐DoctorOetker · 2025-09

“The analogy may be much less wishy-washy than you imagine: check out”

推荐这篇论文,称这种类比没有想象中那么含糊:让模型能把说法归到来源
Knowledge and memory原评论 ↗
引用numeri · 2024-09

“Sort of like this? It does help: Source-Aware Training Enables Knowledge Attribution in Language Models”

以它回应:训练 LLM 把来源标识与知识关联,并引用预训练来源
Training Language Models to Self-Correct via Reinforcement Learning原评论 ↗
引用DoctorOetker · 2025-12

“Less than 800 words, but more if you follow the link:)”

指出这是文章背后的论文,讲如何训练模型把知识归到来源
The "confident idiot" problem: Why AI needs hard rules, not vibe checks原评论 ↗
引用DoctorOetker · 2026-02

“can be addressed with the same training method: source-aware training.”

指出同一种训练方法,即源感知训练,可应对幻觉和抄袭
The Problem with LLMs原评论 ↗
引用DoctorOetker · 2026-05

“In this case I think you'd want to use Source-Aware-Training [0] to associate a "timestamp" vector to each native context chunk”

建议用源感知训练给每个原生上下文块关联一个“时间戳”向量
Local AI needs to be the norm原评论 ↗
引用DoctorOetker · 2026-09

“It's not that machine learning as a scientific discipline hasn't found solutions, its that such solutions enormously undermine the position of Frontier LLM labs: source-aware training”

指出机器学习已有解法,如源感知训练,但这会严重削弱前沿 LLM 公司的地位
AI companies in race to demonstrate their model most threatening to humanity原评论 ↗
看全部 7 条 →
引用DoctorOetker · 2026-10

“@DeepSeek teams, why not train your next series of LLM models with source-aware training?”

呼吁 DeepSeek 团队下一代 LLM 用源感知训练,让模型能把事实归到训练来源
DeepSeek search and fetch – $0.75 per 1000 successful requests原评论 ↗
被提交为 story · 1 次