按年被提到
20232023 · 3 次2026
大模型与语言模型›大模型推理与思维链·arXiv:2310.01798 · cs.CL

Large Language Models Cannot Self-Correct Reasoning Yet

大语言模型目前还无法自我纠正推理
Jie Huang, Xinyun Chen, Swaroop Mishra, Huaixiu Steven Zheng, Adams Wei Yu, Xinying Song, Denny Zhou · 2023

没有外部反馈时,LLM 自我纠正推理常常无效,甚至更差

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 6 人首次 2023-10-09 · 最近 2026-08-25
6不同的人
5活跃月份
6讨论串
220被引(OpenAlex)

论文检验「自我纠正」能否修复 LLM 的错误,重点是内在自我纠正:模型只靠自身能力、没有外部反馈来修正初始回答。在推理任务上,结果显示 LLM 在没有外部反馈时难以自我纠正,有时纠正后性能反而下降;作者据此给出对未来研究和实际应用的建议。

HN 为什么提它

评论者用它作为「让模型自我反思并不管用」的证据,指出模型常常假装发现错误后又给出另一个错误答案;也有人认为标题和结论的措辞过强。

实证研究难度 2 / 5约 30 分钟有时效性
读之前最好知道
1大语言模型提示(prompting)
2链式思维(chain-of-thought)推理
3自我纠正(self-correction)
4推理基准评测

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
批评montebicyclelo · 2023-10

“So the wording of the title/conclusion is too strong.”

LLMs can't self-correct in reasoning tasks, DeepMind study finds原评论 ↗
引用rvz · 2023-10

“even when you tell it to correct itself, it pretends to identify its mistake and regurgitates another incorrect answer”

拿它说明让 LLM 自我纠正时,它只是假装找出错误并给出另一个错误答案
GPT-4 Understands原评论 ↗
引用astrange · 2024-04

“Self-reflection doesn't work well though: Large Language Models Cannot Self-Correct Reasoning Yet”

引用它说明自我反思效果不好
The question that no LLM can answer and why it is important原评论 ↗
引用bofadeez · 2024-08

“self-correct its own reasoning: Large Language Models Cannot Self-Correct Reasoning Yet”

引用它说明 LLM 无法自我纠正自己的推理
OpenDevin: An Open Platform for AI Software Developers as Generalist Agents原评论 ↗
引用johnbarron · 2026-08

“"Large Language Models Cannot Self-Correct Reasoning Yet" - Large Language Models Cannot Self-Correct Reasoning Yet”

贴出该论文,说明没有外部反馈时 LLM 无法自我纠正推理
Dutch lawyer fined €2,300 for using AI-hallucinated citation原评论 ↗
被提交为 story · 1 次