按年被提到
20172020 · 2 次2026
AI 安全、伦理与社会影响›对抗样本与后门·arXiv:1707.08945 · cs.CR

Robust Physical-World Attacks on Deep Learning Models

对深度学习模型的鲁棒物理世界攻击
Kevin Eykholt, Ivan Evtimov, Earlence Fernandes, Bo Li, Amir Rahmati, Chaowei Xiao, Atul Prakash, Tadayoshi Kohno, Dawn Song · 2017

RP2 攻击:在路标上贴黑白贴纸即可诱使分类器误判

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 4 人首次 2017-07-29 · 最近 2020-03-14
4不同的人
4活跃月份
4讨论串
443被引(OpenAlex)

提出通用攻击算法 RP2(Robust Physical Perturbations),能在包括不同视角在内的各种物理条件下生成鲁棒的视觉对抗扰动。以道路标志分类为例,对标准架构的分类器实现了很高的定向误分类率,并提出由实验室测试和现场测试组成的两阶段评估方法。仅用黑白贴纸做扰动攻击真实的停车标志,实验室里 100% 的图像被定向误分类,在移动车辆拍摄的视频帧中为 84.8%。

HN 为什么提它

评论者用它说明路标识别很脆弱:在 STOP 标志上贴几平方英寸的黑白贴纸,就能让分类器把它当成限速标志。

方法难度 3 / 5约 45 分钟经得起时间
读之前最好知道
1对抗样本(adversarial examples)
2卷积神经网络图像分类
3基于梯度的优化与攻击方法

学习路径

读这篇之前,按顺序读书架上的 5 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

这条路径先建立对抗样本的基本概念,再看它如何从数字图像走到物理世界,最后读 RP2。

  1. 1
    Intriguing properties of neural networks神经网络的有趣性质 · 2013

    对抗样本概念的起点:微小扰动即可让网络误分类。

    读不可察觉扰动的定义与现象;理解对抗样本为什么存在。

  2. 2
    Explaining and Harnessing Adversarial Examples解释并利用对抗样本 · 2014

    给出快速梯度符号法(FGSM)和线性解释,是后续攻击的基础。

    读线性假说与 FGSM 的构造;RP2 的优化目标可视为它的物理化推广。

  3. 3
    Adversarial examples in the physical world物理世界中的对抗样本 · 2016

    首次证明打印后经摄像头拍摄的对抗图像仍然有效,是物理世界攻击的前身。

    读打印加拍照的实验设置与结果;注意它只在受控条件下测试。

  4. 4
    Synthesizing Robust Adversarial Examples合成鲁棒的对抗样本 · 2017

    用对视角、噪声等变换取期望来生成鲁棒对抗样本,RP2 的思路与之相近。

    读对变换分布取期望的优化思想(EOT);3D 打印物体的实验。

  5. 5
    NO Need to Worry about Adversarial Examples in Object Detection in Autonomous Vehicles无需担心自动驾驶车辆目标检测中的对抗样本 · 2017

    该文声称物理对抗样本在自动驾驶里不构成威胁,RP2 正是针对这类质疑给出反例。

    读它的实验条件与结论,以及 RP2 在距离、角度变化下如何反驳。

  6. 6
    Robust Physical-World Attacks on Deep Learning Models对深度学习模型的鲁棒物理世界攻击 · 2017 · 就是这篇

    目标论文:在路标上贴黑白贴纸的 RP2 攻击。

    读RP2 的优化目标、对物理变化的建模,以及路标实验与实地测试。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用al2o3cr · 2018-03

“cause a classifier to confuse a stop sign with a speed-limit sign.”

说明贴纸能让分类器把停车标志认成限速标志
LiDAR scans are finding hidden Roman roads and cutting crime原评论 ↗
引用greendestiny_re · 2020-02

“By slapping black and white stickers a couple square inches in size on the STOP sign, the authors managed to achieve a 100% misclassification of the STOP sign into 45 MPH speed limit one.”

转述几平方英寸的黑白贴纸让 STOP 标志 100% 被误判为 45 MPH 限速
Hackers tricked Teslas into speeding with 2-inch strip of tape on a 35-MPH sign原评论 ↗
被提交为 story · 2 次