按年被提到
20242024 · 1 次2026
大模型与语言模型›长上下文与测试时计算·arXiv:2405.15012 · cs.CL

Extracting Prompts by Inverting LLM Outputs

通过反演 LLM 输出来提取提示词
Collin Zhang, John X. Morris, Vitaly Shmatikov · 2024

output2prompt:只凭正常输出黑盒还原生成它们的提示词

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 3 人首次 2024-05-27 · 最近 2026-02-04
3不同的人
3活跃月份
3讨论串
24被引(OpenAlex)

论文研究语言模型反演:给定模型的输出,反推出生成这些输出的提示词。作者提出黑盒方法 output2prompt,无需访问 logits,也不需要对抗性或越狱式查询,只需普通用户查询的输出;并用新的稀疏编码技术提高内存效率,在多种用户提示和系统提示上验证了效果,且能零样本迁移到不同 LLM。

HN 为什么提它

评论者用它回应「能否从输出反推输入」的疑问:信息有损,没有正向那么容易,但提示词可以被部分还原,比想象的好。

方法难度 3 / 5约 40 分钟有时效性
读之前最好知道
1大语言模型(LLM)基础
2提示词与系统提示
3序列到序列(seq2seq)模型
4提示词泄露与隐私风险

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用bionhoward · 2025-03

“Do they even need inputs to train on outputs by inferring inputs?”

回应时指出已有论文研究从模型输出反推输入
Hacking Your Own AI Coding Assistant with Claude Pro and MCP原评论 ↗
引用gpm · 2026-02

“Not as trivially as the forwards direction, unsurprisingly information is lost, but better than you might expect. See for example Extracting Prompts by Inverting LLM Outputs”

引它说明从输出反推 prompt 会丢信息,但效果好于预期
Attention at Constant Cost per Token via Symmetry-Aware Taylor Approximation原评论 ↗
被提交为 story · 1 次