引用uhryks · 2022-11
“This video seems to be the continuation of papers co-authored by Lê:”
指出视频延续了 Lê 合著的论文,主张大型 AI 模型无法做到安全
从统计下界论证高精度又强安全的大模型难以同时实现
论文系统梳理了“无法构建任意精确且安全的机器学习模型”的基本不可能性。作者指出今天许多机器学习场景有一些关键特征:高精度似乎需要记忆大量训练数据,而这些数据往往由用户生成、高度异质,并混有敏感信息和虚假用户。随后综述了一系列统计下界,论证设计兼具高精度与强安全保证的大型 AI 模型并不可行。
评论者把它当作“大模型无法做到安全”这一论点的出处,在讨论相关视频和论文系列时引用。
“This video seems to be the continuation of papers co-authored by Lê:”
“"On the Impossible Safety of Large AI Models" (2022)”