按年被提到
20242024 · 4 次2026
大模型与语言模型›模型表达力与计算理论·arXiv:2402.14083 · cs.AI

Beyond A*: Better Planning with Transformers via Search Dynamics Bootstrapping

超越 A*:通过搜索动态自举,用 Transformer 做更好的规划
Lucas Lehnert, Sainbayar Sukhbaatar, DiJia Su, Qinqing Zheng, Paul Mcvay, Michael Rabbat, Yuandong Tian · 2024

训练 Transformer 预测 A* 搜索过程,得到 Searchformer 规划器

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 4 人首次 2024-02-23 · 最近 2024-10-23
4不同的人
3活跃月份
4讨论串
19被引(OpenAlex)

论文展示如何训练 Transformer 解决复杂规划任务:训练一个编码器-解码器 Transformer 去预测 A* 搜索算法的搜索动态,再微调得到 Searchformer。A* 的搜索动态被表示为描述任务状态何时加入和移出搜索树的 token 序列。Searchformer 能 93.7% 地最优求解未见过的推箱子(Sokoban)谜题,所用搜索步数比初始训练所用的 A* 实现最多少 26.8%;它还显著优于直接预测最优计划的基线,所需模型小 5 到 10 倍、训练数据少 10 倍,并能扩展到更大更复杂的决策任务。

HN 为什么提它

评论者把它当作 Transformer 通过模仿搜索过程学会规划的早期成功证据,并用它解释某个 LLM 系统如何借用 Searchformer 的技术。

方法难度 4 / 5约 45 分钟经得起时间
读之前最好知道
1A* 搜索算法
2编码器-解码器 Transformer
3符号规划与搜索树
4序列模型训练与微调

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用throwaway4aday · 2024-09

“As it turns out, Logic and Algorithms has seen some early success using Transformers (Searchformer) Beyond A*”

指出逻辑与算法方向已有用 Transformer 的早期成果(Searchformer)
We're in the brute force phase of AI – once it ends, demand for GPUs will too原评论 ↗
引用hislaziness · 2024-10

“As I understand, the LLM uses the techniques of searchformer - Beyond A*.”

解释该 LLM 采用了 Searchformer 的技术,用 Transformer 做 A* 搜索
Controllable Fast and Slow Thinking by Learning with Randomized Reasoning Traces原评论 ↗
被提交为 story · 2 次