引用throwaway4aday · 2024-09
“As it turns out, Logic and Algorithms has seen some early success using Transformers (Searchformer) Beyond A*”
指出逻辑与算法方向已有用 Transformer 的早期成果(Searchformer)
训练 Transformer 预测 A* 搜索过程,得到 Searchformer 规划器
论文展示如何训练 Transformer 解决复杂规划任务:训练一个编码器-解码器 Transformer 去预测 A* 搜索算法的搜索动态,再微调得到 Searchformer。A* 的搜索动态被表示为描述任务状态何时加入和移出搜索树的 token 序列。Searchformer 能 93.7% 地最优求解未见过的推箱子(Sokoban)谜题,所用搜索步数比初始训练所用的 A* 实现最多少 26.8%;它还显著优于直接预测最优计划的基线,所需模型小 5 到 10 倍、训练数据少 10 倍,并能扩展到更大更复杂的决策任务。
评论者把它当作 Transformer 通过模仿搜索过程学会规划的早期成功证据,并用它解释某个 LLM 系统如何借用 Searchformer 的技术。
“As it turns out, Logic and Algorithms has seen some early success using Transformers (Searchformer) Beyond A*”
“As I understand, the LLM uses the techniques of searchformer - Beyond A*.”