按年被提到
20212021 · 1 次2026
AI 安全、伦理与社会影响›算法偏见与监控·arXiv:2106.14851 · cs.LG

Data Poisoning Won't Save You From Facial Recognition

数据投毒救不了你:对抗人脸识别的局限
Evani Radiya-Dixit, Sanghyun Hong, Nicholas Carlini, Florian Tramèr · 2021

论证给照片投毒的防人脸识别工具只是虚假的安全感

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 3 人首次 2021-06-29 · 最近 2026-02-01
3不同的人
3活跃月份
3讨论串
27被引(OpenAlex)

论文指出,用户发布前一次性扰动照片、却要对付此后所有模型,这种不对称使数据投毒难以长期有效。作者评估了 Fawkes 和 LowKey,说明训练者可以等待后续技术进步来抵消旧照片的保护,或用黑盒访问训练出抗扰动的模型并检测被投毒图片。

HN 为什么提它

评论者用它说明 Glaze、Fawkes 一类扰动工具给人虚假的隐私感,投毒式防护已被证明很容易被破解。

实证研究难度 3 / 5约 40 分钟经得起时间
读之前最好知道
1对抗样本(adversarial examples)
2数据投毒(data poisoning)
3人脸识别模型
4Fawkes 与 LowKey

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用simandl · 2023-03

“This statement from that paper is quite damning.”

引用论文中的话,批评 Glaze 和 Fawkes 给人虚假的隐私感
Glaze (Poisoning AI Artists)原评论 ↗
引用jessa0 · 2026-02

“It sounds like this is a poisoning attack, which has been shown to be pretty trivially defeated [1].”

认为投毒攻击已被证明很容易被破解,保护不了人脸
Autonomous cars, drones cheerfully obey prompt injection by road sign原评论 ↗
被提交为 story · 1 次