按年被提到
20232023 · 7 次2026
AI 安全、伦理与社会影响›提示注入与对齐风险·arXiv:2302.12173 · cs.CR

Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection

并非你所订阅的:通过间接提示注入攻破真实世界的 LLM 集成应用
Kai Greshake, Sahar Abdelnabi, Shailesh Mishra, Christoph Endres, Thorsten Holz, Mario Fritz · 2023

提出间接提示注入,揭示 LLM 应用中数据与指令界限模糊

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 8 人首次 2023-02-24 · 最近 2025-10-06
8不同的人
6活跃月份
9讨论串
50被引(OpenAlex)

论文指出,LLM 集成应用使数据与指令的界限变得模糊:攻击者可把提示注入将被检索的数据中,在没有直接接口的情况下远程利用应用,这就是间接提示注入(Indirect Prompt Injection)。作者从计算机安全角度给出系统性分类,涵盖数据窃取、蠕虫式传播和信息生态污染等影响,并在 Bing Chat、代码补全引擎和基于 GPT-4 的合成应用上演示了攻击的可行性,同时指出当时缺乏有效缓解手段。

HN 为什么提它

HN 上的人引用它来说明“间接提示注入”这个术语的出处,并说明它是最难缓解的 LLM 应用攻击面。

实证研究难度 3 / 5约 60 分钟经得起时间
读之前最好知道
1大语言模型(LLM)与提示工程
2提示注入(prompt injection)
3检索增强生成(RAG)与工具调用
4基础网络安全概念

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐danShumway · 2023-12

“it's still a good read today.”

推荐:今天读仍然值得,早期清楚讲述了间接提示注入的风险
Purple Llama by Meta AI原评论 ↗
引用simonw · 2024-03

“a term that was introduced in this paper by Kai Greshake et al: Not what you've signed up for”

指出“间接提示注入”这个术语由这篇论文提出
Prompt injection and jailbreaking are not the same thing原评论 ↗
引用arw0n · 2025-10

“The biggest and most difficult to mitigate attack vector is indirect prompt injection.[0]”

引用它说明间接提示注入是最难缓解的攻击向量
NIST's DeepSeek "evaluation" is a hit piece原评论 ↗
被提交为 story · 6 次