按年被提到
20162017 · 4 次2026
AI 安全、伦理与社会影响›对抗样本与后门·arXiv:1610.08401 · cs.CV

Universal adversarial perturbations

通用对抗扰动
Seyed-Mohsen Moosavi-Dezfooli, Alhussein Fawzi, Omar Fawzi, Pascal Frossard · 2016

一个与图像无关的微小扰动即可让深度分类器大面积出错

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 7 人首次 2016-10-29 · 最近 2018-11-12发表于 IEEE Computer Society Conference on Computer Vision and Pattern Recognition/Proceedings - IEEE Computer Society Conference on Computer Vision and Pattern Recognition/Proceedings
7不同的人
7活跃月份
8讨论串
2,680被引(OpenAlex)

论文证明存在一个与图像无关(universal)且很小的扰动向量,能让自然图像以高概率被最先进的深度神经网络分类器误分类,同时人眼几乎察觉不到。作者给出计算通用扰动的系统算法,并通过实验显示这些扰动在不同网络之间有很好的泛化。这一现象揭示了高维决策边界间的几何关联,也指出输入空间中存在可被攻击者利用的单一方向的安全隐患。

HN 为什么提它

HN 上的人引用它说明深度网络可被一个通用的、人看来合理的扰动图案骗过,并常提到论文中那些看起来像迷幻视觉幻觉的扰动图像。

实证研究难度 3 / 5约 40 分钟经得起时间
读之前最好知道
1深度神经网络与图像分类
2对抗样本(adversarial examples)
3决策边界几何
4范数与梯度优化

学习路径

读这篇之前,按顺序读书架上的 4 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

这条路径帮你先理解对抗样本的来源和逐图生成方法,再读与图像无关的通用扰动。

  1. 1
    Intriguing properties of neural networks神经网络的有趣性质 · 2013

    最早发现微小扰动可让网络误分类,是通用扰动的问题出发点。

    读对抗样本的发现与跨模型可迁移性。

  2. 2
    Explaining and Harnessing Adversarial Examples解释并利用对抗样本 · 2014

    解释对抗样本源于线性并给出快速梯度符号法,是后续攻击的基础。

    读线性解释和 FGSM 的构造。

  3. 3
    Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images深度神经网络很容易被愚弄:对无法辨认的图像给出高置信度预测 · 2014

    展示了对不可辨认图像的高置信度预测,补全脆弱性的另一面。

    读愚弄图像的生成方式与结论。

  4. 4

    DeepFool 给出逐图求最小扰动的迭代方法,通用扰动的算法在它之上累积。

    读沿决策边界的线性化迭代求最小扰动的思路。

  5. 5
    Universal adversarial perturbations通用对抗扰动 · 2016 · 就是这篇

    把逐图的扰动推广为对大多数图像都有效的单个扰动。

    读通用扰动的迭代算法,以及跨网络泛化的实验。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐yorwba · 2017-10

“EDIT: Also interesting: "Universal Adversarial Perturbations" Universal adversarial perturbations”

补充推荐这篇论文,一个难以察觉的扰动就能让网络在多数图像上出错
AI Model Fundamentally Cracks Captchas, Scientists Say原评论 ↗
引用oifnwoivnoinvo · 2016-11

“^ Actually, you are wrong on this. See this recent paper "Universal adversarial perturbations"”

用这篇论文反驳对方,说明通用模式可让普通图像被误分类
How close are we to solving vision?原评论 ↗
引用taliesinb · 2016-11

“Universal adversarial perturbations”

只贴出通用对抗扰动论文的链接
Show HN: Interactive deep convnet visualization for Keras and Tensorflow原评论 ↗
引用vicaya · 2017-01

“last year showed that you can easily generate reasonable (to human) perturbations to completely fool the state of the art DNNs for images.”

指出通用扰动能用人眼看似合理的噪声轻易骗过最先进的图像 DNN
OpenNMT: Open-Source Neural Machine Translation原评论 ↗
引用zkms · 2017-06

“in page 6 of Universal adversarial perturbations were striking to see”

称论文第 6 页的扰动图像令人震撼,类似几何视觉幻觉
Noninvasive Deep Brain Stimulation via Temporally Interfering Electric Fields原评论 ↗
引用clickok · 2017-07

“1. Universal adversarial perturbations”

作为脚注引用的来源,没有对论文作评价
Robust Adversarial Examples原评论 ↗
看全部 7 条 →
引用zkms · 2018-11

“the "universal adversarial perturbations" (see page 5 in Universal adversarial perturbations) look.”

指出论文里的通用扰动图案看起来很迷幻,像视觉幻觉
Adversarial Examples That Fool Both Computer Vision and Time-Limited Humans原评论 ↗
被提交为 story · 1 次