按年被提到
20242024 · 3 次2026
AI 安全、伦理与社会影响›提示注入与对齐风险·arXiv:2406.13843 · cs.AI

Generative AI Misuse: A Taxonomy of Tactics and Insights from Real-World Data

生成式 AI 滥用:策略分类法及来自真实数据的洞察
Nahema Marchal, Rachel Xu, Rasmi Elasmar, Iason Gabriel, Beth Goldberg, William Isaac · 2024

基于约 200 起真实事件,归纳生成式 AI 滥用策略的分类法

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 3 人首次 2024-06-25 · 最近 2024-08-28
3不同的人
3活跃月份
3讨论串
56被引(OpenAlex)

论文结合已有学术文献,以及对 2023 年 1 月至 2024 年 3 月报道的约 200 起滥用事件的定性分析,提出生成式 AI 滥用策略的分类法。它梳理了这一时期滥用行为的动机、策略,以及攻击者如何跨图像、文本、音频、视频等模态利用系统能力。

HN 为什么提它

mentions 中没有留存评论摘录,只知道有 3 位用户在 3 个不同月份提到它,具体讨论角度无法确认。

综述难度 2 / 5约 40 分钟有时效性
读之前最好知道
1生成式 AI 基础
2AI 安全与风险分类
3定性内容分析方法

HN 书评

没有评论直接链到它;下面是它被提交的讨论串里回复最多的评论(不计入统计)

讨论串里没有 ≥100 字的评论,只有提交记录。

被提交为 story · 3 次