按年被提到
20222026 · 2 次2026
大模型与语言模型›大模型推理与思维链·arXiv:2203.11171 · cs.CL

Self-Consistency Improves Chain of Thought Reasoning in Language Models

自洽性提升语言模型的思维链推理
Xuezhi Wang, Jason Wei, Dale Schuurmans, Quoc Le, Ed Chi, Sharan Narang, Aakanksha Chowdhery, Denny Zhou · 2022

采样多条推理路径再对答案做多数表决,替代贪心解码

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 5 人首次 2022-03-29 · 最近 2026-08-23
5不同的人
5活跃月份
5讨论串
2,236被引(OpenAlex)

论文提出新的解码策略「自洽性(self-consistency)」,替代思维链提示中朴素的贪心解码:先采样多条不同的推理路径,再通过对这些路径边缘化,选出最一致的答案。其直觉是复杂推理题通常有多种思路指向唯一正确答案。在常用的算术与常识推理基准上,它大幅提升了思维链提示的表现,包括 GSM8K(+17.9%)、SVAMP(+11.0%)、AQuA(+12.2%)、StrategyQA(+6.4%)和 ARC-challenge(+3.9%)。

HN 为什么提它

HN 评论者把它当作「让模型自动做合理性检查」的方法来引用,多次把它概括为多次采样后多数表决,并指出组合同一模型的多次运行能带来改进。

方法难度 3 / 5约 35 分钟经得起时间
读之前最好知道
1大语言模型与思维链提示(chain-of-thought)
2解码策略(贪心解码与温度采样)
3多数表决与边缘化
4GSM8K 等推理基准

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用ctoth · 2022-03

“I believe this recent paper demonstrates a method for allowing these large language models to perform this "sanity check" automatically[0].”

认为这篇论文展示了让大模型自动做这种 sanity check 的方法
GPT-3 can run code原评论 ↗
引用dingocat · 2023-09

“akin to consensus voting/self-consistency[1]”

把做法类比为共识投票,即 self-consistency
A GPT-4 capability forecasting challenge原评论 ↗
引用intended · 2024-02

“Self-Consistency Improves Chain of Thought Reasoning in Language Models] (Wang et al., 2022)”

列出这篇 self-consistency 论文(Wang 等,2022)作为参考
Hallucination is inevitable: An innate limitation of large language models原评论 ↗
引用stephenbez · 2026-02

“combining multiple models or multiple runs of the same models leads to improvements”

引用它说明组合多个模型或同一模型多次运行能带来提升
The path to ubiquitous AI (17k tokens/sec)原评论 ↗
引用rush86999 · 2026-08

“Wang et al. Self-Consistency Improves Chain-of-Thought — ICLR 2023, Google Brain, 4k+ cites — Self-Consistency Improves Chain of Thought Reasoning in Language Models — N-sample majority vote we use verbatim”

说明自己照搬了这篇论文的 N 次采样多数投票做法
What Is a Harness?原评论 ↗