“This is very, very, very good.”
A high-bias, low-variance introduction to Machine Learning for physicists
面向物理学家的机器学习综述,附 Jupyter 笔记本
这篇综述从偏差-方差权衡、过拟合、正则化、泛化和梯度下降讲起,再延伸到集成模型、深度学习、聚类与可视化、能量模型(含 MaxEnt 模型和受限玻尔兹曼机)以及变分方法,并处处强调机器学习与统计物理的联系。文中配有基于 Ising 模型等物理数据集的 Python Jupyter 笔记本,结尾讨论了机器学习在物理中的应用前景与开放问题。
评论者称它是浓缩而出色的现代机器学习入门,并因为带有代码示例而被当作「给物理学家的 ML 综述」反复推荐。
学习路径
读这篇之前,按顺序读书架上的 6 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出这篇综述面向物理学家,路径里挑了深度学习综述、训练实践、正则化与归一化,以及物理视角和量子多体的应用,再回到目标。
- 1
深度学习及其历史的总览,提供综述所涉及概念的整体地图。
读浏览全文脉络,抓住监督、无监督和深度网络的发展线索,不必逐节读。
- 2
训练深度网络的实践指南,对应综述中梯度下降与超参数的内容。
读重点读学习率、批大小等超参数建议。
- 3
dropout 是综述讨论正则化与过拟合的典型技巧。
读理解训练时随机丢弃单元如何抑制共适应。
- 4
批归一化是现代深度网络训练的常用组件。
读理解对小批量归一化并还原的机制,以及它加速训练的原因。
- 5
从物理角度解释深度学习为何有效,契合综述面向物理学家的角度。
读抓住物理定律的低阶多项式、对称性等结构如何让深度网络高效。
- 6
用神经网络解量子多体问题,是机器学习在物理中的典型应用。
读理解把神经网络当作变分波函数的思路;细节略读。
- 7A high-bias, low-variance introduction to Machine Learning for physicists
面向物理学家的机器学习入门,涵盖偏差-方差、正则化、梯度下降及更多主题。
读按监督、无监督到深度学习的顺序读,并跑配套 Jupyter 笔记本。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及“The following recent review article actually provides code samples:”
“Which is how you get review articles like this one.”
“It reminds me of this widely-cited paper”
- A high-bias, low-variance intro to ML for physicists ↗selimthegrim · 2018-03-26 · 2 分
- A high-bias, low-variance introduction to Machine Learning for physicists (2019) ↗Tomte · 2022-08-16 · 1 分
- A high-bias, low-variance introduction to Machine Learning for physicists ↗teleforce · 2024-04-25 · 5 分