按年被提到
20172018 · 2 次2026
机器学习与深度学习›机器学习实践与反思·arXiv:1705.06640 · cs.LG

DeepXplore: Automated Whitebox Testing of Deep Learning Systems

DeepXplore:深度学习系统的自动化白盒测试
Kexin Pei, Yinzhi Cao, Junfeng Yang, Suman Jana · 2017

用神经元覆盖率与差分测试自动找出深度学习系统的错误

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 3 人首次 2017-06-06 · 最近 2018-03-10
3不同的人
3活跃月份
3讨论串
1,296被引(OpenAlex)

提出首个系统化测试真实深度学习系统的白盒框架:引入神经元覆盖率衡量测试输入触及网络多少部分,让功能相近的多个模型互为参照以免去人工标注,并把寻找既触发差异行为又覆盖率高的输入表述为联合优化问题,用基于梯度的搜索求解。在五个常用数据集上的先进模型中找出了数千个错误的边角行为,用这些输入重新训练还能把模型精度最多提升 3%。

HN 为什么提它

在讨论如何系统性地验证或攻击神经网络时,评论者认为它用安全测试式的思路来测试深度网络,方向是对的。

方法难度 3 / 5约 45 分钟经得起时间
读之前最好知道
1深度神经网络
2软件测试与代码覆盖率
3对抗样本与基于梯度的输入搜索
4差分测试(differential testing)

学习路径

读这篇之前,按顺序读书架上的 4 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

先熟悉 DeepXplore 测试的典型模型(VGG、ResNet、端到端驾驶)和深度网络易被愚弄的现象,再看它如何用神经元覆盖率和差分测试找错。

  1. 1
    Very Deep Convolutional Networks for Large-Scale Image Recognition面向大规模图像识别的极深卷积网络 · 2014

    VGG 是 DeepXplore 测试的图像分类模型之一。

    读了解 3x3 卷积堆叠的结构,知道被测对象长什么样。

  2. 2
    Deep Residual Learning for Image Recognition用于图像识别的深度残差学习 · 2015

    ResNet 同样是被测的图像分类模型,其残差结构影响神经元覆盖的统计。

    读理解残差连接的基本结构;训练细节略读。

  3. 3
    End to End Learning for Self-Driving Cars自动驾驶汽车的端到端学习 · 2016

    端到端自动驾驶 CNN 是 DeepXplore 关注的安全关键应用场景。

    读理解从摄像头像素直接回归方向盘转角的做法。

  4. 4
    Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images深度神经网络很容易被愚弄:对无法辨认的图像给出高置信度预测 · 2014

    说明深度网络对人眼无法辨认的输入也会高置信度分类,激发系统性找错的需求。

    读抓住网络在异常输入上行为不可预测这一核心现象。

  5. 5
    DeepXplore: Automated Whitebox Testing of Deep Learning SystemsDeepXplore:深度学习系统的自动化白盒测试 · 2017 · 就是这篇

    首个白盒框架,用神经元覆盖率和多模型差分测试自动发现错误。

    读抓住神经元覆盖率的定义,以及联合优化覆盖和模型分歧的生成测试输入的过程。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐wpasc · 2018-02

“I read a great, great paper about training systems against this.”

推荐一篇很棒的论文,针对此类攻击训练系统
Stanford, USC, Duke study shows AI can read contracts better than lawyers原评论 ↗
推荐stochastic_monk · 2018-03

“I think that DeepXplore [0] is on the right track.”

认为 DeepXplore 方向正确:用对抗式、安全风格的方法对深度网络做白盒测试
AI Has a Hallucination Problem That's Proving Tough to Fix原评论 ↗
被提交为 story · 1 次