按年被提到
20172017 · 4 次2026
AI 安全、伦理与社会影响›对抗样本与后门·arXiv:1707.03501 · cs.CV

NO Need to Worry about Adversarial Examples in Object Detection in Autonomous Vehicles

无需担心自动驾驶车辆目标检测中的对抗样本
Jiajun Lu, Hussein Sibai, Evan Fabry, David Forsyth · 2017

实验称物理对抗样本在不同距离和角度下难以干扰检测

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 4 人首次 2017-07-15 · 最近 2017-11-03
4不同的人
3活跃月份
4讨论串
194被引(OpenAlex)

此前的研究表明,把扰动过的图像打印出来再拍照仍会导致误分类,但这些实验忽略了相机可从不同距离和角度观察物体。论文的实验表明,现有物理对抗样本的构造并不会扰乱移动平台上的目标检测,训练好的网络对从不同距离和角度拍摄的扰动图像大多分类正确。作者推测对抗性对观察尺度敏感,并提出能否构造在大多数观察条件下都有效的对抗样本这一问题。

HN 为什么提它

评论者起初把它当作对自动驾驶物理对抗样本担忧的有力反驳,但随后有人指出 OpenAI 很快造出了旋转、缩放后仍能骗过分类器的对抗样本,反驳了它的结论。

实证研究难度 3 / 5约 25 分钟有时效性
读之前最好知道
1对抗样本(adversarial examples)
2卷积神经网络与目标检测
3图像的尺度与视角变换

学习路径

读这篇之前,按顺序读书架上的 4 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

这条路径从对抗样本最初的发现,到线性解释与快速生成方法,再到物理世界和通用扰动,帮你建立目标论文所要反驳的对象。

  1. 1
    Intriguing properties of neural networks神经网络的有趣性质 · 2013

    最早发现微小扰动就能使神经网络误分类,是整个对抗样本问题的起点。

    读对抗样本的定义与存在性、跨模型的迁移现象;理解这是目标论文讨论的对象。

  2. 2
    Explaining and Harnessing Adversarial Examples解释并利用对抗样本 · 2014

    给出对抗样本的线性解释和快速梯度符号法(FGSM),是后续物理攻击的常用生成方式。

    读线性解释的论证和 FGSM 的公式;了解对抗训练的初步想法。

  3. 3
    Adversarial examples in the physical world物理世界中的对抗样本 · 2016

    证明打印并用手机摄像头拍摄后对抗样本仍有效,正是目标论文要质疑其适用性的物理对抗样本实验。

    读照片转换(photo transformation)实验的设置与结论,注意它没有系统考虑距离和角度变化。

  4. 4
    Universal adversarial perturbations通用对抗扰动 · 2016

    通用扰动说明单个扰动即可广泛欺骗分类器,是目标论文所关心的鲁棒攻击的另一条线索。

    读通用扰动的生成思路与跨图像、跨网络的泛化结果;跳过具体网络对比表。

  5. 5
    NO Need to Worry about Adversarial Examples in Object Detection in Autonomous Vehicles无需担心自动驾驶车辆目标检测中的对抗样本 · 2017 · 就是这篇

    目标论文:指出物理对抗样本实验忽略了观察距离和角度,并给出实验称检测器不易被干扰。

    读实验在不同距离和角度下拍摄的设置、检测结果,以及作者的论证和局限。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
批评swordswinger12 · 2017-07

“This paper is a fairly convincing counter-argument to another recent work on physical adversarial examples for autonomous vehicles.”

Robust Physical-World Attacks on Machine Learning Models原评论 ↗
批评moyix · 2017-08

“However, OpenAI quickly refuted it by creating adversarial examples that continue to fool the classifier even when rotated, scaled, etc:”

Slight Street Sign Modifications Can Fool Machine Learning Algorithms原评论 ↗
引用dontreact · 2017-11

“Was there a follow up to this paper?”

询问这篇论文是否有后续研究
How Adversarial Attacks Work原评论 ↗
被提交为 story · 1 次