引用Xmd5a · 2025-06
“This is exactly what I'm doing. Some papers I'm studying:”
称正在做同样的事,并把它列入学习的论文,用文本梯度优化 prompt
把 LLM 的文本反馈当作梯度,反向传播优化复合 AI 系统
论文受反向传播和自动微分启发,提出 TextGrad 框架:让 LLM 给出自然语言反馈,并沿计算图反向传播,以优化复合 AI 系统中的各个变量(代码、提示词、分子结构等),接口沿用 PyTorch 的风格。无需修改框架,它把 GPT-4o 在 GPQA 上的零样本准确率从 51% 提到 55%,在 LeetCode-Hard 解法优化上取得约 20% 的相对提升,并应用于提示词优化、分子设计和放疗方案设计。
评论者把它列为用文本梯度优化提示词这一思路的学习参考。
“This is exactly what I'm doing. Some papers I'm studying:”