按年被提到
20232023 · 3 次2026
大模型与语言模型›大模型推理与思维链·arXiv:2305.18323 · cs.CL

ReWOO: Decoupling Reasoning from Observations for Efficient Augmented Language Models

ReWOO:将推理与观察解耦,实现高效的增强型语言模型
Binfeng Xu, Zhiyuan Peng, Bowen Lei, Subhabrata Mukherjee, Yuchen Liu, Dongkuan Xu · 2023

先规划再调用工具,省下增强型 LLM 的大量 token

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 4 人首次 2023-06-05 · 最近 2024-02-27
4不同的人
3活跃月份
4讨论串
67被引(OpenAlex)

增强型语言模型(ALM)让 LLM 借助工具检索知识、执行动作,但现有做法让推理与工具观察交错进行,会因重复提示和重复执行造成巨大的计算开销。论文提出模块化范式 ReWOO(Reasoning WithOut Observation),将推理过程与外部观察分离,从而显著减少 token 消耗;在 HotpotQA 上 token 效率提升 5 倍、准确率提升 4%,且在工具失败时仍稳健。解耦还使指令微调可把推理能力从 175B 的 GPT-3.5 迁移到 7B 的 LLaMA。

HN 为什么提它

评论者把它当作类似的相关工作,以及“规划模型把其他模型当作工具来调用”的例子。

方法难度 3 / 5约 40 分钟经得起时间
读之前最好知道
1大语言模型工具调用(tool use / agents)
2ReAct 等交错推理范式
3思维链与规划(planning)
4指令微调与模型蒸馏

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用kordlessagain · 2023-06

“Here's a similar paper I ran across this morning: ReWOO.”

贴出一篇相似的论文,讲把推理与工具观察解耦
A Prompt Pattern Catalog to Enhance Prompt Engineering with ChatGPT原评论 ↗
引用hobofan · 2023-11

“(see e.g. the ReWOO paper[0])”

拿它作例子:规划模型把其他模型当工具调用
Orca 2: Teaching Small Language Models How to Reason原评论 ↗
被提交为 story · 2 次