按年被提到
20232023 · 4 次2026
AI 安全、伦理与社会影响›模型窃取、记忆与水印·arXiv:2307.15043 · cs.CL

Universal and Transferable Adversarial Attacks on Aligned Language Models

针对对齐语言模型的通用且可迁移的对抗攻击
Andy Zou, Zifan Wang, Nicholas Carlini, Milad Nasr, J. Zico Kolter, Matt Fredrikson · 2023

自动搜索对抗后缀,使对齐过的大模型被越狱

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 5 人首次 2023-07-28 · 最近 2025-08-16
5不同的人
5活跃月份
6讨论串
1,244被引(OpenAlex)

论文提出用贪心加梯度的搜索自动生成对抗后缀,附在各种请求后面以最大化模型给出肯定回答的概率,从而诱使对齐过的语言模型输出有害内容。后缀在多个提示和多个模型(Vicuna-7B/13B)上训练,结果可迁移到 ChatGPT、Bard、Claude 以及 LLaMA-2-Chat、Pythia、Falcon 等开源模型。这种方法即 GCG,不再依赖人工设计越狱提示。

HN 为什么提它

HN 评论在讨论越狱与提示注入时引用它,作为“自动优化的对抗后缀(GCG)能压过 RLHF 对齐”的出处。

方法难度 3 / 5约 40 分钟经得起时间
读之前最好知道
1大语言模型的对齐与 RLHF
2对抗样本(adversarial examples)
3基于梯度的离散优化
4越狱与提示注入

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用_______W_______ · 2023-08

“See Universal and Transferable Adversarial Attacks on Aligned Language Models for methods and more details about this adversarial attack.”

指向论文了解这种对抗攻击的方法和细节
Destroy Humanity Tutorial (ChatGPT Jailbreak)原评论 ↗
引用nneonneo · 2023-12

“specifically designed to maximize an LLM’s probability of compliance with an arbitrary request, despite RLHF: Universal and Transferable Adversarial Attacks on Aligned Language Models”

引用它:自动优化的提示能让模型无视 RLHF,顺从任意请求
Data exfiltration from Writer.com with indirect prompt injection原评论 ↗
引用MyNameIs_Hacker · 2024-01

“classic prompt injections for appending an adversarial prompt like Universal and Transferable Adversarial Attacks on Aligned Language Models”

拿它作例子:经典提示注入会附加对抗性提示,用于命名之争
Attacks on machine learning models原评论 ↗
引用nneonneo · 2025-08

“If you wanted to get a readable prompt, I wonder if you could follow the GCG trick used by jailbreak maximizers (e.g. Universal and Transferable Adversarial Attacks on Aligned Language Models)?”

想知道能否用越狱方法常用的 GCG 技巧得到可读的提示
Prompting by Activation Maximization原评论 ↗
被提交为 story · 2 次