“EDIT: Also interesting: "Universal Adversarial Perturbations" Universal adversarial perturbations”
Universal adversarial perturbations
一个与图像无关的微小扰动即可让深度分类器大面积出错
论文证明存在一个与图像无关(universal)且很小的扰动向量,能让自然图像以高概率被最先进的深度神经网络分类器误分类,同时人眼几乎察觉不到。作者给出计算通用扰动的系统算法,并通过实验显示这些扰动在不同网络之间有很好的泛化。这一现象揭示了高维决策边界间的几何关联,也指出输入空间中存在可被攻击者利用的单一方向的安全隐患。
HN 上的人引用它说明深度网络可被一个通用的、人看来合理的扰动图案骗过,并常提到论文中那些看起来像迷幻视觉幻觉的扰动图像。
学习路径
读这篇之前,按顺序读书架上的 4 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出这条路径帮你先理解对抗样本的来源和逐图生成方法,再读与图像无关的通用扰动。
- 1
- 2
- 3
展示了对不可辨认图像的高置信度预测,补全脆弱性的另一面。
读愚弄图像的生成方式与结论。
- 4
DeepFool 给出逐图求最小扰动的迭代方法,通用扰动的算法在它之上累积。
读沿决策边界的线性化迭代求最小扰动的思路。
- 5Universal adversarial perturbations
把逐图的扰动推广为对大多数图像都有效的单个扰动。
读通用扰动的迭代算法,以及跨网络泛化的实验。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及“^ Actually, you are wrong on this. See this recent paper "Universal adversarial perturbations"”
“Universal adversarial perturbations”
“last year showed that you can easily generate reasonable (to human) perturbations to completely fool the state of the art DNNs for images.”
“in page 6 of Universal adversarial perturbations were striking to see”
“1. Universal adversarial perturbations”
看全部 7 条 →
“the "universal adversarial perturbations" (see page 5 in Universal adversarial perturbations) look.”
- Universal adversarial perturbations ↗legatus · 2016-10-29 · 108 分