“see figure 4 and you will understand what I mean”
Your Classifier is Secretly an Energy Based Model and You Should Treat it Like One
把分类器重新解读为联合分布的能量模型
把标准判别式分类器 p(y|x) 重新解释为联合分布 p(x,y) 的能量模型(EBM),由此可同时得到类别概率以及未归一化的 p(x) 和 p(x|y),也能用无标签数据训练。作者改进了能量模型的训练技术,报告该方法能改善校准、鲁棒性和分布外检测,同时生成质量可与当时的 GAN 相当,额外训练开销不大。
评论者拿它说明分类器本质上可看作能量模型(softmax 与 log-sum-exp 的联系),也用来讨论神经网络置信度为何不可靠,以及 GAN 只是训练方法而非架构。
学习路径
读这篇之前,按顺序读书架上的 6 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出这条路径涵盖现代分类器的架构、校准、对抗鲁棒性和 GAN 生成评测,对应 JEM 声称的几项改进。
- 1
- 2
- 3
- 4
- 5
GAN 训练技巧论文,JEM 将自身生成样本质量与 GAN 的结果比较。
读抓 Inception Score 等生成质量评价的思路。
- 6
对抗训练的平滑分类器,是 JEM 在鲁棒性上对比的一类方法。
读抓对抗训练提升鲁棒性的思路;证明部分略读。
- 7Your Classifier is Secretly an Energy Based Model and You Should Treat it Like One
把分类器重新解读为联合分布的能量模型。
读抓用 logits 定义 p(x,y)、p(x) 的方式,以及基于 SGLD 的训练和采样。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及“Also an interesting paper about hybrid energy based models:”
“A bit more nuance will be found by reading this far underappreciated work: Your Classifier is Secretly an Energy Based Model and You Should Treat it Like One.”
“For people interested in the softmax, log sum exp and energy models, have a look at”
“Reminds me of JEMs from Grathwohl et al last year [0].”
“you can even demonstrate that classifiers are EBMs.”