按年被提到
20232023 · 2 次2026
大模型与语言模型›大模型推理与思维链·arXiv:2302.00093 · cs.CL

Large Language Models Can Be Easily Distracted by Irrelevant Context

大语言模型容易被无关上下文分散注意力
Freda Shi, Xinyun Chen, Kanishka Misra, Nathan Scales, David Dohan, Ed Chi, Nathanael Schärli, Denny Zhou · 2023

加入无关信息会让大模型的数学推理准确率大幅下降

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 3 人首次 2023-02-03 · 最近 2026-08-12
3不同的人
3活跃月份
3讨论串
179被引(OpenAlex)

论文研究大语言模型的“易分心性”,即无关上下文会如何影响解题准确率。作者构造了在题面中带有无关信息的小学数学推理数据集 GSM-IC,用它测试当时先进的提示技术,发现一旦加入无关信息,模型表现就大幅下降。他们还找到几种缓解办法,如自洽解码,以及在提示中明确要求模型忽略无关信息。

HN 为什么提它

评论者引用它说明大模型会被提示中的无关上下文干扰,用来反驳“上下文越多越好”的说法。

实证研究难度 2 / 5约 25 分钟有时效性
读之前最好知道
1大语言模型与提示技术(如思维链)
2小学数学推理基准
3自洽解码(self-consistency)

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用estreeper · 2023-11

“the extent to which the models are able to ignore irrelevant context, which is a problem [2].”

指出模型能否忽略无关上下文是个问题,引它为证
Introducing GPTs原评论 ↗
引用root-parent · 2026-08

“Trivially falsifiable:”

拿它反驳“上下文越多越好”,指出无关上下文会让 LLM 分心
Tim Gowers: What sort of maths are LLMs good at?原评论 ↗
被提交为 story · 1 次