按年被提到
20212026 · 2 次2026
AI 安全、伦理与社会影响›算法偏见与监控·arXiv:2111.06628 · cs.LG

Learning to Break Deep Perceptual Hashing: The Use Case NeuralHash

学习攻破深度感知哈希:以 NeuralHash 为例
Lukas Struppek, Dominik Hintersdorf, Daniel Neider, Kristian Kersting · 2021

实证表明苹果 NeuralHash 易被轻微图像改动操纵,不适合客户端扫描

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 4 人首次 2021-11-15 · 最近 2026-07-21
4不同的人
3活跃月份
4讨论串
156被引(OpenAlex)

苹果的深度感知哈希系统 NeuralHash 用于在文件上传 iCloud 前于用户设备上检测 CSAM。论文首次对基于 NeuralHash 的深度感知哈希做全面实证分析,表明攻击者可通过基于梯度的方法或标准图像变换对图像做轻微改动来操纵哈希值,强行制造或避免哈希碰撞,从而藏匿违规内容或陷害无辜用户;还可以从哈希值推断设备上所存数据。作者据此认为当前形式的深度感知哈希还不足以用于稳健的客户端扫描,从隐私角度不应使用。

HN 为什么提它

HN 上的人在讨论内容扫描和苹果 CSAM 方案时,用它证明感知哈希易被简单攻击破坏,会带来误报和漏报,也用来反驳苹果的隐私说法。

实证研究难度 3 / 5约 40 分钟经得起时间
读之前最好知道
1感知哈希(perceptual hashing)
2神经网络与对抗样本
3哈希碰撞
4客户端扫描与隐私争议

学习路径

读这篇之前,按顺序读书架上的 4 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

这条路径从对抗样本的起源与线性解释,到单像素和黑盒攻击,帮你理解目标论文为什么能通过微小改动操纵 NeuralHash 的哈希值。

  1. 1
    Intriguing properties of neural networks神经网络的有趣性质 · 2013

    最早发现微小扰动能改变网络输出,是对 NeuralHash 的各类攻击所依据的基本现象。

    读对抗样本的存在性与不可察觉性,以及它们能在不同模型间迁移。

  2. 2
    Explaining and Harnessing Adversarial Examples解释并利用对抗样本 · 2014

    给出基于梯度的快速生成方法,目标论文的梯度类攻击与此同类。

    读线性解释与快速梯度符号法的公式;理解沿梯度方向改动输入如何改变输出。

  3. 3
    One pixel attack for fooling deep neural networks愚弄深度神经网络的单像素攻击 · 2017

    只改一个像素就能改变输出,说明攻击所需的改动可以非常小。

    读差分进化搜索的做法与攻击成功率;对应目标论文中轻微图像改动的威胁。

  4. 4
    Practical Black-Box Attacks against Machine Learning针对机器学习的实用黑盒攻击 · 2016

    只靠查询就能攻击远程模型,对应没有模型内部信息的黑盒攻击情景。

    读替代模型加合成数据的黑盒攻击流程,思考如何迁移到只能查询哈希的场景。

  5. 5
    Learning to Break Deep Perceptual Hashing: The Use Case NeuralHash学习攻破深度感知哈希:以 NeuralHash 为例 · 2021 · 就是这篇

    目标论文:实证表明 NeuralHash 可被轻微图像改动操纵,不适合客户端扫描。

    读梯度攻击、碰撞与逆向、去除哈希的各类实验,以及对客户端扫描可靠性的结论。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用_manifold · 2023-02

“Apparently perceptual hashing is also susceptible to some pretty simple attacks:”

引用它说明感知哈希也容易受到相当简单的攻击
Teens can proactively block their nude images from Instagram, OnlyFans原评论 ↗
引用ben_w · 2026-07

“Basically, even with current tech, you go straight back to false positives and false negatives: Learning to Break Deep Perceptual Hashing”

引用它说明即使用现有技术,仍会回到误报和漏报的问题
EU Parliament greenlights Chat Control 1.0 – Breyer: "Our children lose out"原评论 ↗
引用bayindirh · 2026-07

“Paper breaking the hash: Learning to Break Deep Perceptual Hashing”

贴出攻破该哈希的论文,反驳 Apple 的隐私说法
Apple Defeats Liability for Not Scanning iCloud for CSAM原评论 ↗
被提交为 story · 1 次