按年被提到
20242024 · 3 次2026
大模型与语言模型›大模型评测与真实性·arXiv:2406.07496 · cs.CL

TextGrad: Automatic "Differentiation" via Text

TextGrad:通过文本实现自动“微分”
Mert Yuksekgonul, Federico Bianchi, Joseph Boen, Sheng Liu, Zhi Huang, Carlos Guestrin, James Zou · 2024

把 LLM 的文本反馈当作梯度,反向传播优化复合 AI 系统

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 4 人首次 2024-06-12 · 最近 2025-06-04
4不同的人
3活跃月份
4讨论串
96被引(OpenAlex)

论文受反向传播和自动微分启发,提出 TextGrad 框架:让 LLM 给出自然语言反馈,并沿计算图反向传播,以优化复合 AI 系统中的各个变量(代码、提示词、分子结构等),接口沿用 PyTorch 的风格。无需修改框架,它把 GPT-4o 在 GPQA 上的零样本准确率从 51% 提到 55%,在 LeetCode-Hard 解法优化上取得约 20% 的相对提升,并应用于提示词优化、分子设计和放疗方案设计。

HN 为什么提它

评论者把它列为用文本梯度优化提示词这一思路的学习参考。

方法难度 3 / 5约 50 分钟经得起时间
读之前最好知道
1反向传播与自动微分
2PyTorch 计算图
3提示工程(prompt engineering)
4复合 AI 系统(compound AI system)

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用Xmd5a · 2025-06

“This is exactly what I'm doing. Some papers I'm studying:”

称正在做同样的事,并把它列入学习的论文,用文本梯度优化 prompt
A deep dive into self-improving AI and the Darwin-Gödel Machine原评论 ↗
被提交为 story · 3 次