“cause a classifier to confuse a stop sign with a speed-limit sign.”
Robust Physical-World Attacks on Deep Learning Models
RP2 攻击:在路标上贴黑白贴纸即可诱使分类器误判
提出通用攻击算法 RP2(Robust Physical Perturbations),能在包括不同视角在内的各种物理条件下生成鲁棒的视觉对抗扰动。以道路标志分类为例,对标准架构的分类器实现了很高的定向误分类率,并提出由实验室测试和现场测试组成的两阶段评估方法。仅用黑白贴纸做扰动攻击真实的停车标志,实验室里 100% 的图像被定向误分类,在移动车辆拍摄的视频帧中为 84.8%。
评论者用它说明路标识别很脆弱:在 STOP 标志上贴几平方英寸的黑白贴纸,就能让分类器把它当成限速标志。
学习路径
读这篇之前,按顺序读书架上的 5 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出这条路径先建立对抗样本的基本概念,再看它如何从数字图像走到物理世界,最后读 RP2。
- 1
- 2
给出快速梯度符号法(FGSM)和线性解释,是后续攻击的基础。
读线性假说与 FGSM 的构造;RP2 的优化目标可视为它的物理化推广。
- 3
首次证明打印后经摄像头拍摄的对抗图像仍然有效,是物理世界攻击的前身。
读打印加拍照的实验设置与结果;注意它只在受控条件下测试。
- 4
用对视角、噪声等变换取期望来生成鲁棒对抗样本,RP2 的思路与之相近。
读对变换分布取期望的优化思想(EOT);3D 打印物体的实验。
- 5
该文声称物理对抗样本在自动驾驶里不构成威胁,RP2 正是针对这类质疑给出反例。
读它的实验条件与结论,以及 RP2 在距离、角度变化下如何反驳。
- 6Robust Physical-World Attacks on Deep Learning Models
目标论文:在路标上贴黑白贴纸的 RP2 攻击。
读RP2 的优化目标、对物理变化的建模,以及路标实验与实地测试。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及“By slapping black and white stickers a couple square inches in size on the STOP sign, the authors managed to achieve a 100% misclassification of the STOP sign into 45 MPH speed limit one.”
- Robust Physical-World Attacks on Machine Learning Models ↗earlenceferns · 2017-07-29 · 97 分
- Robust Physical-World Attacks on Deep Learning Models (2018) ↗bookofjoe · 2020-03-14 · 1 分