按年被提到
20242024 · 7 次2026
AI 安全、伦理与社会影响›智能体安全与滥用·arXiv:2404.08144 · cs.CR

LLM Agents can Autonomously Exploit One-day Vulnerabilities

LLM 智能体可自主利用 one-day 漏洞
Richard Fang, Rohan Bindu, Akul Gupta, Daniel Kang · 2024

GPT-4 智能体给出 CVE 描述后能自主利用 87% 的真实 one-day 漏洞。

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 7 人首次 2024-04-19 · 最近 2024-07-05
7不同的人
3活跃月份
7讨论串
97被引(OpenAlex)

此前研究只表明 LLM 智能体能自主入侵含简单漏洞的网站。作者收集了 15 个 one-day 漏洞(含 CVE 描述中被归为严重级别的),在给出 CVE 描述时,GPT-4 能利用其中 87%,而测试的其他模型(GPT-3.5、开源 LLM)和开源漏洞扫描器(ZAP、Metasploit)均为 0%。没有 CVE 描述时,GPT-4 只能利用 7%,作者据此对高能力 LLM 智能体的广泛部署提出担忧。

HN 为什么提它

提及很少:评论者把它作为新闻报道背后的原始研究引用,即 GPT-4 在拿到 CVE 描述时能利用 87% 的 one-day 漏洞。

实证研究难度 3 / 5约 25 分钟有时效性
读之前最好知道
1CVE 与 one-day 漏洞概念
2LLM 智能体与工具调用
3Web 与系统安全基础
4漏洞扫描器(ZAP、Metasploit)

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用skilled · 2024-04

“Source of the story,”

指出这是新闻报道所依据的原始研究:GPT-4 智能体可利用 one-day 漏洞
Study: OpenAI's GPT-4 Can Autonomously Exploit 87% of One-Day Vulnerabilities原评论 ↗
引用sillywalk · 2024-06

“which links to a Register Article[0], which links to a paper[1]:”

顺着报道找到论文:给出 CVE 描述时,GPT-4 能利用 87% 的 one-day 漏洞
A buffer overflow in the XNU kernel原评论 ↗
被提交为 story · 5 次