按年被提到
20262026 · 4 次2026
AI 安全、伦理与社会影响›智能体安全与滥用·arXiv:2605.11086 · cs.CR

ExploitGym: Can AI Agents Turn Security Vulnerabilities into Real Attacks?

ExploitGym:AI 智能体能把安全漏洞变成真实攻击吗?
Zhun Wang, Nico Schiller, Hongwei Li, Srijiith Sesha Narayana, Milad Nasr, Nicholas Carlini, Xiangyu Qi, Eric Wallace, Elie Bursztein, Luca Invernizzi, Kurt Thomas, Yan Shoshitaishvili 等 16 人 · 2026

评测 AI 智能体把漏洞输入扩展为可用 exploit 的基准,含 898 个实例

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 4 人首次 2026-05-15 · 最近 2026-09-03
4不同的人
3活跃月份
4讨论串
8被引(OpenAlex)

论文提出 ExploitGym,一个大规模、多样、贴近现实的基准,评估 AI 智能体的漏洞利用能力:给定能触发漏洞的程序输入,要求智能体逐步把它扩展成可工作的 exploit。基准包含 898 个来自真实漏洞的实例,涵盖用户态程序、Google V8 JavaScript 引擎和 Linux 内核,并改变所施加的安全防护以分离其影响,全部配置打包为可复现的容器环境。评测显示利用仍有难度,但前沿模型能成功利用相当比例的漏洞,最强配置 Claude Mythos Preview 与 GPT-5.5 分别为 157 个和 120 个实例生成可用 exploit,开启常用防御后仍保有不小的成功率。

HN 为什么提它

评论者围绕它的评测方式展开讨论:要求拿到 flag 并由评判器检查是否真的利用了预期漏洞,用来说明 AI 在安全上的最坏情况测试。

实证研究难度 4 / 5约 50 分钟有时效性
读之前最好知道
1软件漏洞与 exploit 开发
2内存布局与常见缓解措施(ASLR 等)
3AI 智能体(agent)评测
4容器化的可复现实验环境

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用Imnimo · 2026-07

“the right ExploitGym, it says the evaluation consists of:”

引用 ExploitGym 论文说明其评测内容:夺旗加裁判核验的漏洞利用
OpenAI and Hugging Face partner to address security incident原评论 ↗
引用no-name-here · 2026-07

“AI is also tested to see more of its worst case in terms of security - but the tests are supposed to remain sandboxed.”

指出它测试 AI 在安全方面的最坏情况,但测试应保持在沙箱内
OpenAI's accidental cyberattack against Hugging Face is science fiction原评论 ↗
引用jldugger · 2026-09

“Apparently they read the ExploitGym paper[1], which claims to have a causal analysis requirement:”

引用其要求:漏洞利用必须有因果分析,确实用到了目标漏洞
METR Report on OpenAI / Hugging Face Hacking Incident原评论 ↗
被提交为 story · 1 次