按年被提到
20222023 · 2 次2026
AI 安全、伦理与社会影响›模型窃取、记忆与水印·arXiv:2209.15259 · cs.LG

On the Impossible Safety of Large AI Models

论大型 AI 模型不可能安全
El-Mahdi El-Mhamdi, Sadegh Farhadkhani, Rachid Guerraoui, Nirupam Gupta, Lê-Nguyên Hoang, Rafael Pinot, Sébastien Rouault, John Stephan · 2022

从统计下界论证高精度又强安全的大模型难以同时实现

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 4 人首次 2022-11-01 · 最近 2026-09-28
4不同的人
4活跃月份
4讨论串
27被引(OpenAlex)

论文系统梳理了“无法构建任意精确且安全的机器学习模型”的基本不可能性。作者指出今天许多机器学习场景有一些关键特征:高精度似乎需要记忆大量训练数据,而这些数据往往由用户生成、高度异质,并混有敏感信息和虚假用户。随后综述了一系列统计下界,论证设计兼具高精度与强安全保证的大型 AI 模型并不可行。

HN 为什么提它

评论者把它当作“大模型无法做到安全”这一论点的出处,在讨论相关视频和论文系列时引用。

观点难度 4 / 5约 60 分钟经得起时间
读之前最好知道
1机器学习安全(数据投毒、对抗样本)
2统计学习理论与下界(lower bounds)
3差分隐私(differential privacy)
4大语言模型基础

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用uhryks · 2022-11

“This video seems to be the continuation of papers co-authored by Lê:”

指出视频延续了 Lê 合著的论文,主张大型 AI 模型无法做到安全
Google poisoned the science cmty, which now amplifies its disinformation [video]原评论 ↗
引用westurner · 2026-09

“"On the Impossible Safety of Large AI Models" (2022)”

指向这篇论文,主张大型 AI 模型无法做到安全
Its not just the fucking sandbox原评论 ↗
被提交为 story · 2 次