按年被提到
20172017 · 7 次2026
AI 安全、伦理与社会影响›对抗样本与后门·arXiv:1710.08864 · cs.LG

One pixel attack for fooling deep neural networks

愚弄深度神经网络的单像素攻击
Jiawei Su, Danilo Vasconcellos Vargas, Sakurai Kouichi · 2017

只改一个像素,就能让深度网络把图像分错类

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 9 人首次 2017-10-27 · 最近 2026-01-10
9不同的人
4活跃月份
8讨论串
2,420被引(OpenAlex)

论文研究只允许修改一个像素的极端场景,提出基于差分进化(differential evolution)的单像素对抗扰动生成方法,属于黑盒攻击,所需的对抗信息更少,能欺骗更多类型的网络。在 Kaggle CIFAR-10 测试集上,67.97% 的自然图像仅改一个像素就能被扰动到至少一个目标类别,平均置信度 74.03%;ImageNet 上为 16.04% 与 22.91%。作者认为这说明当前 DNN 也容易受到此类低维攻击,并展示了进化计算在生成低成本对抗攻击、评估鲁棒性上的应用。

HN 为什么提它

HN 上的人在讨论神经网络图像分类器脆弱性时引用它,说明只改变一个精心选择的像素就足以让卷积网络的输出发生大幅变化。

方法难度 3 / 5约 30 分钟经得起时间
读之前最好知道
1卷积神经网络与图像分类
2对抗样本(adversarial examples)
3差分进化(differential evolution)
4黑盒与白盒攻击

学习路径

读这篇之前,按顺序读书架上的 5 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

这条路径带我从对抗样本的发现、线性解释和快速生成,到愚弄式样本、黑盒攻击和通用扰动,最后理解只改一个像素的极端设定。

  1. 1
    Intriguing properties of neural networks神经网络的有趣性质 · 2013

    对抗样本概念的起点。

    读微小扰动让网络误分类的发现,以及这类样本的可迁移性。

  2. 2
    Explaining and Harnessing Adversarial Examples解释并利用对抗样本 · 2014

    解释对抗样本为何存在,并给出 FGSM 生成方法,是后续攻击的参照。

    读线性解释和快速梯度符号法;对比单像素攻击不使用梯度。

  3. 3
    Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images深度神经网络很容易被愚弄:对无法辨认的图像给出高置信度预测 · 2014

    说明网络可能对无法辨认的图像给出高置信度,是另一类愚弄方式。

    读用进化算法生成愚弄图像的思路,与目标论文使用进化方法相呼应。

  4. 4
    Practical Black-Box Attacks against Machine Learning针对机器学习的实用黑盒攻击 · 2016

    单像素攻击是黑盒攻击,需要知道黑盒设定的含义。

    读只依赖输出标签的黑盒攻击设定。

  5. 5
    Universal adversarial perturbations通用对抗扰动 · 2016

    通用扰动和单像素攻击都在探究扰动的几何结构与脆弱性。

    读一个与图像无关的扰动为什么能欺骗大多数样本。

  6. 6
    One pixel attack for fooling deep neural networks愚弄深度神经网络的单像素攻击 · 2017 · 就是这篇

    目标论文:只改一个像素,用差分进化生成对抗扰动。

    读差分进化如何搜索像素位置与颜色,以及在不同网络上的成功率。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用ColinWright · 2017-10

“* One pixel attack for fooling deep neural networks”

仅贴出论文链接
One pixel attack for fooling deep neural networks原评论 ↗
引用trott · 2017-11

“Very recently, it was found that changing a single, carefully placed, pixel is enough to confuse NN classifiers.”

说明只改变一个关键像素就能骗过神经网络分类器
How Adversarial Attacks Work原评论 ↗
引用pdkl95 · 2017-11

“The recent single-pixel attack[1] against image classifiers.”

用单像素攻击证明算法容易被操纵
New Jersey’s experiment to reduce the number of people in jail awaiting trial原评论 ↗
引用amag · 2017-11

“clearly not at classifying images[1]”

拿它说明神经网络显然不擅长图像分类
The impossibility of intelligence explosion原评论 ↗
引用anton_ · 2018-10

“the results of a convolutional net can change drastically by altering a single pixel in an image[1]”

说明改动一个像素就能大幅改变卷积网络的结果
What Toasters and Distributed Systems Might Have in Common原评论 ↗
被提交为 story · 4 次