按年被提到
20182018 · 6 次2026
AI 安全、伦理与社会影响›对抗样本与后门·arXiv:1802.08195 · cs.LG

Adversarial Examples that Fool both Computer Vision and Time-Limited Humans

同时欺骗计算机视觉与限时人类的对抗样本
Gamaleldin F. Elsayed, Shreya Shankar, Brian Cheung, Nicolas Papernot, Alex Kurakin, Ian Goodfellow, Jascha Sohl-Dickstein · 2018

迁移性强的对抗样本也会影响限时观察的人类判断

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 7 人首次 2018-02-23 · 最近 2021-05-12
7不同的人
4活跃月份
6讨论串
213被引(OpenAlex)

机器学习模型容易被对抗样本欺骗,例如把校车识别为鸵鸟,但人类是否会犯类似错误尚不清楚。论文借助把对抗样本从已知结构与参数的模型迁移到未知模型的新技术,并模拟人类视觉系统的初始处理,发现在多个计算机视觉模型之间迁移性强的对抗样本,也会影响限时观察者的分类判断。

HN 为什么提它

HN 上的人引用它说明人类也会被针对 AI 构造的扰动欺骗,是对抗样本研究里一个有趣的进展。

实证研究难度 3 / 5约 35 分钟经得起时间
读之前最好知道
1对抗样本(adversarial examples)
2卷积神经网络与图像分类
3对抗样本的迁移性(transferability)
4人类视觉系统基础

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐katmannthree · 2021-05

“This study[0] discusses adversarial images which fool both ML classifiers and time limited humans, a rather interesting development in the field.”

推荐它,对抗图像能同时骗过 ML 分类器和限时人类,进展有趣
●●|●●●●●|●●|●原评论 ↗
引用ben_w · 2018-11

“humans are vulnerable to perturbations created to fool a multitude of existing AI: Adversarial Examples that Fool both Computer Vision and Time-Limited Humans”

引用它说明人也会被针对 AI 设计的扰动欺骗
Artificial Intelligence Hits the Barrier of Meaning原评论 ↗
引用dontreact · 2018-11

“Looks like we are starting to find examples.”

认为它是开始出现的相关例子
Artificial Intelligence Hits the Barrier of Meaning原评论 ↗
被提交为 story · 4 次