按年被提到
20252025 · 5 次2026
大模型与语言模型›大模型推理与思维链·arXiv:2502.05171 · cs.LG

Scaling up Test-Time Compute with Latent Reasoning: A Recurrent Depth Approach

用潜在推理扩展测试时计算:递归深度方法
Jonas Geiping, Sean McLeish, Neel Jain, John Kirchenbauer, Siddharth Singh, Brian R. Bartoldson, Bhavya Kailkhura, Abhinav Bhatele, Tom Goldstein · 2025

循环迭代同一模块,在潜空间推理,推理时加深而不增参数

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 6 人首次 2025-02-10 · 最近 2026-03-10
6不同的人
4活跃月份
6讨论串
47被引(OpenAlex)

论文研究一种新的语言模型架构:通过迭代一个循环模块,在潜空间里隐式推理,从而在测试时把计算展开到任意深度。与靠生成更多 token 的主流推理模型不同,它不需要专门的思维链训练数据,可以用小上下文窗口,并能表达难以用文字描述的推理类型;作者把概念验证模型扩展到 35 亿参数、8000 亿 token,推理基准上的表现最多可提升到相当于 500 亿参数的计算量。

HN 为什么提它

评论者把它当作「递归深度」和潜空间推理的代表,用来说明可以在推理时增加推理深度而不增加参数、也不靠生成更多 token,多在相关工作清单里列出。

方法难度 4 / 5约 60 分钟经得起时间
读之前最好知道
1Transformer 与循环网络
2测试时计算(test-time compute)
3链式思维(chain-of-thought)推理
4潜空间表示(latent space)

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用korbip · 2025-02

“[17] Scaling up Test-Time Compute with Latent Reasoning”

引作 recurrent depth(深度迭代)这一设计主题的参考文献
Ask HN: Is anybody building an alternative transformer?原评论 ↗
引用vonneumannstan · 2025-07

“We study a novel language model architecture that is capable of scaling test-time computation by implicitly reasoning in latent space.”

引用摘要:在潜在空间隐式推理来扩展测试时计算的新架构
Chain of thought monitorability: A new and fragile opportunity for AI safety原评论 ↗
引用atrudeau · 2025-10

“Scaling up Test-Time Compute with Latent Reasoning: A Recurrent Depth Approach Scaling up Test-Time Compute with Latent Reasoning”

把它列为相关工作,面向语言模型的 recurrent-depth 潜在推理
Less is more: Recursive reasoning with tiny networks原评论 ↗
引用imranq · 2026-03

“takes the idea to its logical conclusion: a model trained with a single recurrent block repeated at inference time, scaling reasoning depth without adding parameters.”

指出它把思路推到极致:单个循环块在推理时重复,不加参数就能增加推理深度
Show HN: How I Topped the HuggingFace Open LLM Leaderboard on Two Gaming GPUs原评论 ↗
被提交为 story · 2 次