“* One pixel attack for fooling deep neural networks”
One pixel attack for fooling deep neural networks
只改一个像素,就能让深度网络把图像分错类
论文研究只允许修改一个像素的极端场景,提出基于差分进化(differential evolution)的单像素对抗扰动生成方法,属于黑盒攻击,所需的对抗信息更少,能欺骗更多类型的网络。在 Kaggle CIFAR-10 测试集上,67.97% 的自然图像仅改一个像素就能被扰动到至少一个目标类别,平均置信度 74.03%;ImageNet 上为 16.04% 与 22.91%。作者认为这说明当前 DNN 也容易受到此类低维攻击,并展示了进化计算在生成低成本对抗攻击、评估鲁棒性上的应用。
HN 上的人在讨论神经网络图像分类器脆弱性时引用它,说明只改变一个精心选择的像素就足以让卷积网络的输出发生大幅变化。
学习路径
读这篇之前,按顺序读书架上的 5 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出这条路径带我从对抗样本的发现、线性解释和快速生成,到愚弄式样本、黑盒攻击和通用扰动,最后理解只改一个像素的极端设定。
- 1
- 2
解释对抗样本为何存在,并给出 FGSM 生成方法,是后续攻击的参照。
读线性解释和快速梯度符号法;对比单像素攻击不使用梯度。
- 3
说明网络可能对无法辨认的图像给出高置信度,是另一类愚弄方式。
读用进化算法生成愚弄图像的思路,与目标论文使用进化方法相呼应。
- 4
- 5
- 6One pixel attack for fooling deep neural networks
目标论文:只改一个像素,用差分进化生成对抗扰动。
读差分进化如何搜索像素位置与颜色,以及在不同网络上的成功率。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及“Very recently, it was found that changing a single, carefully placed, pixel is enough to confuse NN classifiers.”
“The recent single-pixel attack[1] against image classifiers.”
“clearly not at classifying images[1]”
“the results of a convolutional net can change drastically by altering a single pixel in an image[1]”
- One pixel attack for fooling deep neural networks ↗chr1 · 2017-10-27 · 3 分
- One pixel attack for deceiving deep neural networks ↗astdb · 2017-10-29 · 260 分
- One pixel attack for fooling deep neural networks ↗anaclet0 · 2017-10-31 · 1 分
- One pixel attack for fooling deep neural networks ↗rafaepta · 2026-01-10 · 1 分