“They advertise differential privacy as a solution for that but researchers aren't impressed”
Privacy Loss in Apple's Implementation of Differential Privacy on MacOS 10.12
逆向分析苹果差分隐私:单条数据损失小,但每日预算会重置
作者通过实验加 macOS Sierra 的静态与动态代码分析,还原了苹果差分隐私的数据管线、各类数据的扰动参数和上传频率。结论是每条数据的隐私损失为 1 或 2,但四个初始应用每天允许的总损失可高达 16,且预算每天重置,累积损失可随使用天数增长;作者呼吁苹果增加透明度并设置有意义的默认值。
每当有人提到苹果宣传差分隐私,评论者就拿它说明研究者并不买账:隐私预算每天重置,参数也缺乏推导依据。
学习路径
读这篇之前,按顺序读书架上的 1 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出先看本地差分隐私的经典工业实现 RAPPOR,建立对隐私预算 epsilon 和随机响应的直觉,再读对苹果实现的隐私损失分析。
- 1
Google 的本地差分隐私部署,是理解苹果实现参数选择及其隐私含义的参照。
读抓住随机响应、客户端扰动与隐私预算(epsilon)的关系,以及多次上报带来的累积隐私损失。
- 2Privacy Loss in Apple's Implementation of Differential Privacy on MacOS 10.12
目标论文:逆向分析苹果在 macOS 上的差分隐私实现,评估其隐私参数与预算管理。
读看每次上报的 epsilon、每日预算及其重置方式,以及由此得出的总体隐私损失结论。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及“I don't understand Time crediting Wired with the research[0], which does a disservice to their actual sources of funding.”
“but researchers [1] have shown that the privacy budget is reset every day and the parameters, buried inside the code, lack a proper derivation.”
“(See, for example, this paper [3].)”
- Privacy Loss in Apple's Implementation of Differential Privacy on MacOS 10.12 ↗sohkamyung · 2017-09-12 · 180 分
- Privacy Loss in Apple’s Implementation of Differential Privacy (2017) ↗ChrisCinelli · 2019-04-17 · 59 分