“Apparently perceptual hashing is also susceptible to some pretty simple attacks:”
Learning to Break Deep Perceptual Hashing: The Use Case NeuralHash
实证表明苹果 NeuralHash 易被轻微图像改动操纵,不适合客户端扫描
苹果的深度感知哈希系统 NeuralHash 用于在文件上传 iCloud 前于用户设备上检测 CSAM。论文首次对基于 NeuralHash 的深度感知哈希做全面实证分析,表明攻击者可通过基于梯度的方法或标准图像变换对图像做轻微改动来操纵哈希值,强行制造或避免哈希碰撞,从而藏匿违规内容或陷害无辜用户;还可以从哈希值推断设备上所存数据。作者据此认为当前形式的深度感知哈希还不足以用于稳健的客户端扫描,从隐私角度不应使用。
HN 上的人在讨论内容扫描和苹果 CSAM 方案时,用它证明感知哈希易被简单攻击破坏,会带来误报和漏报,也用来反驳苹果的隐私说法。
学习路径
读这篇之前,按顺序读书架上的 4 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出这条路径从对抗样本的起源与线性解释,到单像素和黑盒攻击,帮你理解目标论文为什么能通过微小改动操纵 NeuralHash 的哈希值。
- 1
最早发现微小扰动能改变网络输出,是对 NeuralHash 的各类攻击所依据的基本现象。
读对抗样本的存在性与不可察觉性,以及它们能在不同模型间迁移。
- 2
给出基于梯度的快速生成方法,目标论文的梯度类攻击与此同类。
读线性解释与快速梯度符号法的公式;理解沿梯度方向改动输入如何改变输出。
- 3
只改一个像素就能改变输出,说明攻击所需的改动可以非常小。
读差分进化搜索的做法与攻击成功率;对应目标论文中轻微图像改动的威胁。
- 4
只靠查询就能攻击远程模型,对应没有模型内部信息的黑盒攻击情景。
读替代模型加合成数据的黑盒攻击流程,思考如何迁移到只能查询哈希的场景。
- 5Learning to Break Deep Perceptual Hashing: The Use Case NeuralHash
目标论文:实证表明 NeuralHash 可被轻微图像改动操纵,不适合客户端扫描。
读梯度攻击、碰撞与逆向、去除哈希的各类实验,以及对客户端扫描可靠性的结论。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及“Basically, even with current tech, you go straight back to false positives and false negatives: Learning to Break Deep Perceptual Hashing”
“Paper breaking the hash: Learning to Break Deep Perceptual Hashing”
- Learning to Break Deep Perceptual Hashing: The Use Case NeuralHash ↗Blurgy · 2021-11-15 · 3 分