按年被提到
20242024 · 6 次2026
大模型与语言模型›长上下文与测试时计算·arXiv:2408.03314 · cs.LG

Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters

最优地扩展 LLM 测试时计算,可能比扩大模型参数更有效
Charlie Snell, Jaehoon Lee, Kelvin Xu, Aviral Kumar · 2024

按题目难度自适应分配推理算力,某些问题上小模型可胜过 14 倍大模型。

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 7 人首次 2024-08-07 · 最近 2025-02-16
7不同的人
4活跃月份
7讨论串
401被引(OpenAlex)

论文研究 LLM 推理时计算的扩展:给定固定且不小的推理算力,模型在难题上能提升多少。作者分析两种扩展方式:用稠密的、基于过程的验证器奖励模型做搜索,以及根据提示在测试时自适应地更新模型的回答分布。结果显示各方法的有效性随提示难度显著变化,因此提出按提示自适应分配算力的“计算最优”策略,其测试时算力扩展效率比 best-of-N 基线高出 4 倍以上;在 FLOPs 匹配的比较中,对小基础模型有一定成功率的问题,测试时算力可超过 14 倍大的模型。

HN 为什么提它

评论者把它当作测试时(推理时)算力扩展的代表性研究引用,用来说明更多推理算力可以补偿模型规模,并讨论其中验证器的训练方式。

实证研究难度 4 / 5约 50 分钟经得起时间
读之前最好知道
1大语言模型推理与采样
2过程奖励模型(process reward model)与验证器
3best-of-N 与树搜索
4缩放定律(scaling laws)

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用sanxiyn · 2024-08

“DeepMind had a detailed look, see Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters.”

指出 DeepMind 对测试时计算扩展有过详细研究
Cerebras Inference: AI at Instant Speed原评论 ↗
引用sharemywin · 2024-08

“Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters”

只贴出论文链接,摘要称测试时计算在部分问题上可胜过大 14 倍的模型
Let's Verify Step by Step原评论 ↗
引用wesleyyue · 2024-09

“already been a lot of inference time compute papers recently [1,2]”

指出近来已有不少推理时计算论文,它是其一
Learning to Reason with LLMs原评论 ↗
引用dimitry12 · 2024-12

“In the original paper they fine-tune a fresh verifier.”

指出原论文是微调一个全新的验证器
Open source inference time compute example from HuggingFace原评论 ↗
被提交为 story · 3 次