按年被提到
20252025 · 7 次2026
AI 安全、伦理与社会影响›提示注入与对齐风险·arXiv:2506.08837 · cs.LG

Design Patterns for Securing LLM Agents against Prompt Injections

保护 LLM 智能体免受提示注入的设计模式
Luca Beurer-Kellner, Beat Buesser, Ana-Maria Creţu, Edoardo Debenedetti, Daniel Dobos, Daniel Fabian, Marc Fischer, David Froelicher, Kathrin Grosse, Daniel Naeff, Ezinwanne Ozoani, Andrew Paverd 等 14 人 · 2025

一组让 LLM 智能体可证明抵抗提示注入的设计模式

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 8 人首次 2025-07-08 · 最近 2026-07-04
8不同的人
4活跃月份
8讨论串
28被引(OpenAlex)

论文提出一组原则性的设计模式,用来构建对提示注入具有可证明抵抗力的 LLM 智能体。作者系统分析了各模式在实用性与安全性之间的权衡,并通过一系列案例展示它们在现实中的适用性。

HN 为什么提它

评论者把它当作自己最喜欢的提示注入防御论文,或一份缓解措施综述,常引用其中让独立 LLM 处理不可信数据、阻止其触发关键动作的模式。

方法难度 3 / 5约 30 分钟经得起时间
读之前最好知道
1提示注入(prompt injection)
2LLM 智能体与工具调用
3权限隔离与信息流控制
4基础网络安全概念

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
强烈推荐simonw · 2025-07

“My favorite paper on prompt injection remedies is this one: Design Patterns for Securing LLM Agents against Prompt Injections”

称这是自己最喜欢的提示注入防御论文
Supabase MCP can leak your entire SQL database原评论 ↗
引用benlivengood · 2025-08

“Others are also researching in this direction; [LINK] and Design Patterns for Securing LLM Agents against Prompt Injections for example.”

把它列为同方向的相关研究
My Lethal Trifecta talk at the Bay Area AI Security Meetup原评论 ↗
引用amonks · 2025-09

“a paper offering a survey of different mitigation techniques, including CaMeL”

提到它是一篇综述各种缓解技术的论文,包括 CaMeL
Launch HN: Slashy (YC S25) – AI that connects to apps and does tasks原评论 ↗
引用mattalex · 2026-07

“see, for instance, some of the later patterns in Design Patterns for Securing LLM Agents against Prompt Injections”

指引去看其中后面几种设计模式
Leaking YouTube Creators Private Videos原评论 ↗
被提交为 story · 4 次