按年被提到
20182018 · 4 次2026
机器学习与深度学习›科学机器学习·arXiv:1803.08823 · physics.comp-ph

A high-bias, low-variance introduction to Machine Learning for physicists

写给物理学家的高偏差低方差机器学习入门
Pankaj Mehta, Marin Bukov, Ching-Hao Wang, Alexandre G. R. Day, Clint Richardson, Charles K. Fisher, David J. Schwab · 2018

面向物理学家的机器学习综述,附 Jupyter 笔记本

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 7 人首次 2018-03-26 · 最近 2024-04-25
7不同的人
7活跃月份
7讨论串
1,104被引(OpenAlex)

这篇综述从偏差-方差权衡、过拟合、正则化、泛化和梯度下降讲起,再延伸到集成模型、深度学习、聚类与可视化、能量模型(含 MaxEnt 模型和受限玻尔兹曼机)以及变分方法,并处处强调机器学习与统计物理的联系。文中配有基于 Ising 模型等物理数据集的 Python Jupyter 笔记本,结尾讨论了机器学习在物理中的应用前景与开放问题。

HN 为什么提它

评论者称它是浓缩而出色的现代机器学习入门,并因为带有代码示例而被当作「给物理学家的 ML 综述」反复推荐。

教程难度 3 / 5约 300 分钟经得起时间
读之前最好知道
1线性代数与微积分
2概率与统计基础
3统计物理基础
4Python 与 Jupyter

学习路径

读这篇之前,按顺序读书架上的 6 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

这篇综述面向物理学家,路径里挑了深度学习综述、训练实践、正则化与归一化,以及物理视角和量子多体的应用,再回到目标。

  1. 1
    Deep Learning in Neural Networks: An Overview神经网络中的深度学习:综述 · 2014

    深度学习及其历史的总览,提供综述所涉及概念的整体地图。

    读浏览全文脉络,抓住监督、无监督和深度网络的发展线索,不必逐节读。

  2. 2

    训练深度网络的实践指南,对应综述中梯度下降与超参数的内容。

    读重点读学习率、批大小等超参数建议。

  3. 3
    Improving neural networks by preventing co-adaptation of feature detectors通过防止特征检测器的共适应来改进神经网络 · 2012

    dropout 是综述讨论正则化与过拟合的典型技巧。

    读理解训练时随机丢弃单元如何抑制共适应。

  4. 4
    Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift批归一化:通过减少内部协变量偏移加速深度网络训练 · 2015

    批归一化是现代深度网络训练的常用组件。

    读理解对小批量归一化并还原的机制,以及它加速训练的原因。

  5. 5
    Why does deep and cheap learning work so well?为什么深度而廉价的学习效果这么好? · 2016

    从物理角度解释深度学习为何有效,契合综述面向物理学家的角度。

    读抓住物理定律的低阶多项式、对称性等结构如何让深度网络高效。

  6. 6

    用神经网络解量子多体问题,是机器学习在物理中的典型应用。

    读理解把神经网络当作变分波函数的思路;细节略读。

  7. 7
    A high-bias, low-variance introduction to Machine Learning for physicists写给物理学家的高偏差低方差机器学习入门 · 2018 · 就是这篇

    面向物理学家的机器学习入门,涵盖偏差-方差、正则化、梯度下降及更多主题。

    读按监督、无监督到深度学习的顺序读,并跑配套 Jupyter 笔记本。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
强烈推荐ivan_ah · 2018-08

“This is very, very, very good.”

强烈称赞,这份浓缩的现代 ML 入门值得整篇读完
A high bias low-variance introduction to Machine Learning for physicists原评论 ↗
引用drams · 2018-04

“The following recent review article actually provides code samples:”

推荐这篇较新的综述文章,附有代码示例
Boltzmann Encoded Adversarial Machines原评论 ↗
引用orbifold · 2018-07

“Which is how you get review articles like this one.”

举这篇综述为例,说明这类面向物理学家的 ML 入门文章
TherML – Thermodynamics of Machine Learning原评论 ↗
引用quanto · 2023-06

“It reminds me of this widely-cited paper”

想起这篇被广泛引用的面向物理学家的 ML 入门论文
Data-Driven Science and Engineering 2nd Edition [pdf]原评论 ↗
被提交为 story · 3 次