按年被提到
20162017 · 2 次2026
AI 安全、伦理与社会影响›模型窃取、记忆与水印·arXiv:1609.02943 · cs.CR

Stealing Machine Learning Models via Prediction APIs

通过预测 API 窃取机器学习模型
Florian Tramèr, Fan Zhang, Ari Juels, Michael K. Reiter, Thomas Ristenpart · 2016

仅凭黑盒查询接口,近乎完美地复制出云端机器学习模型

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 6 人首次 2016-09-22 · 最近 2019-01-20
6不同的人
6活跃月份
6讨论串
796被引(OpenAlex)

论文研究模型提取攻击:攻击者只有黑盒访问权限,不知道模型参数和训练数据,却能通过预测 API 复制出模型的功能。作者针对逻辑回归、神经网络和决策树给出简单高效的攻击,并在 BigML 与 Amazon Machine Learning 的在线服务上验证;即使去掉置信度输出,攻击仍然可行。

HN 为什么提它

评论者把它当作「通过预测 API 窃取或逆向 AI 服务」这类技术的参考文献,用来说明这种推断并不等于直接拷贝模型。

实证研究难度 3 / 5约 50 分钟经得起时间
读之前最好知道
1监督学习基础
2逻辑回归与决策树
3机器学习即服务(ML-as-a-service)
4黑盒攻击与安全威胁模型

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用__coaxialcabal · 2017-01

“examines techniques in this space.”

指出这篇论文考察了这方面的技术
Amazon AI原评论 ↗
引用red_dinosaur · 2017-03

“This is reverse engineering AI companies:”

把它当作逆向工程 AI 公司的例子
I reverse-engineered a $500M Artificial Intelligence company in one week原评论 ↗
引用taurine · 2018-06

“It is referring to Stealing Machine Learning Models via Prediction APIs”

指明所说的就是这篇,并称那是推断模型行为而非复制
Attacks against machine learning – an overview原评论 ↗
被提交为 story · 3 次