按年被提到
20252025 · 9 次2026
大模型与语言模型›大模型推理与思维链·arXiv:2506.21734 · cs.AI

Hierarchical Reasoning Model

层级推理模型(Hierarchical Reasoning Model)
Guan Wang, Jin Li, Yuhao Sun, Xing Chen, Changling Liu, Yue Wu, Meng Lu, Sen Song, Yasin Abbasi Yadkori · 2025

2700 万参数的双层循环网络,在数独、迷宫和 ARC 上表现突出

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 8 人首次 2025-07-04 · 最近 2025-10-07
8不同的人
3活跃月份
9讨论串
32被引(OpenAlex)

论文提出层级推理模型 HRM,受大脑多时间尺度处理启发,用两个相互依赖的循环模块(负责慢速抽象规划的高层模块和负责快速细节计算的低层模块),在一次前向传播中完成推理,不需要对中间过程做显式监督。模型只有 2700 万参数、约 1000 个训练样本,不用预训练和思维链数据,就在复杂数独和大型迷宫最优路径上接近满分,并在 ARC 基准上超过更大的、上下文更长的模型。

HN 为什么提它

HN 上的人被它的小模型加强基准成绩吸引,但也提醒结果尚新、还缺少充分检验,后续的 TRM 工作更是对它的复现与简化。

方法难度 4 / 5约 45 分钟经得起时间
读之前最好知道
1循环神经网络(RNN)
2思维链(chain-of-thought)推理
3ARC-AGI 基准
4Transformer 架构

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐mingli_yuan · 2025-07

“We believe HRM represents a transformative step towards more general and efficient reasoning systems.”

引用作者的话,称 HRM 是迈向更通用高效推理系统的变革一步
A 27M-param model that solves hard Sudoku/mazes where LLMs fail, without CoT原评论 ↗
推荐munro · 2025-07

“Still reading, but the benchmarks for ARC-AGI-1, ARC-AGI-2, Sudoku-Extreme (9x9), and Maze-Hard (30x30) look impressive.”

称它在 ARC-AGI、数独和迷宫上的基准成绩令人印象深刻
Hierarchical Reasoning Model – 1k training samples SoTA reasoning v/s CoT原评论 ↗
推荐mucho_mojo · 2025-08

“This paper I read from here has an interesting mathematical model for reasoning based on cognitive science.”

推荐它,称其基于认知科学提出了有趣的推理数学模型
Is chain-of-thought AI reasoning a mirage?原评论 ↗
引用mxkopy · 2025-08

“very new and largely untested”

指出它很新,基本还没经过检验
From multi-head to latent attention: The evolution of attention mechanisms原评论 ↗
引用Balinares · 2025-10

“Wow, so not only are the findings from Hierarchical Reasoning Model (posted on HN a while back) confirmed, they're generalizable? Intriguing.”

惊讶于它的发现不仅被证实,还能泛化
Less is more: Recursive reasoning with tiny networks原评论 ↗
被提交为 story · 4 次