引用__coaxialcabal · 2017-01
“examines techniques in this space.”
指出这篇论文考察了这方面的技术
仅凭黑盒查询接口,近乎完美地复制出云端机器学习模型
论文研究模型提取攻击:攻击者只有黑盒访问权限,不知道模型参数和训练数据,却能通过预测 API 复制出模型的功能。作者针对逻辑回归、神经网络和决策树给出简单高效的攻击,并在 BigML 与 Amazon Machine Learning 的在线服务上验证;即使去掉置信度输出,攻击仍然可行。
评论者把它当作「通过预测 API 窃取或逆向 AI 服务」这类技术的参考文献,用来说明这种推断并不等于直接拷贝模型。
“examines techniques in this space.”
“This is reverse engineering AI companies:”
“It is referring to Stealing Machine Learning Models via Prediction APIs”