“There were some interesting talks on neural differentiation applied to physics at ICLR.”
按年被提到
20192020 · 3 次2026
Hamiltonian Neural Networks
哈密顿神经网络
Sam Greydanus, Misko Dzamba, Jason Yosinski · 2019
借鉴哈密顿力学,让神经网络无监督地学习并遵守守恒律
被推荐 · 3 人首次 2020-02-06 · 最近 2020-07-21
3不同的人
3活跃月份
3讨论串
577被引(OpenAlex)
神经网络难以学会基本物理定律,论文借鉴哈密顿力学训练能以无监督方式学习并遵守精确守恒律的模型,即哈密顿神经网络。作者在能量守恒很重要的问题上评估,包括二体问题和单摆的像素观测,结果显示模型比普通神经网络训练更快、泛化更好,并且有一个有趣的副作用是模型在时间上完全可逆。
HN 为什么提它
HN 评论者把它当作把物理(如能量守恒)直接构建进模型架构的例子,并提到相关工作在 ICLR 与 NeurIPS 上的讨论。
方法难度 3 / 5约 30 分钟经得起时间
读之前最好知道
1哈密顿力学与能量守恒
2神经网络与自动微分
3常微分方程与数值积分
4归纳偏置(inductive bias)
学习路径
读这篇之前,按顺序读书架上的 2 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出这条路径从用神经网络学习物理对象之间的交互,到把动力学建模为连续时间的微分方程,再读哈密顿神经网络如何把守恒律作为归纳偏置。
- 1
Interaction Networks 展示了让神经网络学习物体间物理交互的思路,是学习物理的一个前驱。
读把物体和关系分别建模并推演系统下一步状态的框架;了解即可。
- 2
神经 ODE 把隐状态的导数交给网络,目标论文同样学习系统的时间导数,并借助 ODE 求解器。
读用网络参数化导数、用 ODE solver 前向积分,以及伴随法反传的概念。
- 3Hamiltonian Neural Networks
借鉴哈密顿力学,让网络学习哈密顿量并由此得到守恒的动力学。
读哈密顿量由网络输出、再用其梯度得到动力学的做法,并看二体与摆的实验。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及推荐ylem · 2020-07
提到 ICLR 上神经网络用于物理的有趣报告,推荐哈密顿神经网络
引用shoyer · 2020-02
“to build in lots of physics into the model architecture, e.g., conservation of energy:”
举例说明把能量守恒等物理约束建进模型架构
引用seesawtron · 2020-06
“Hamiltonian NNs are not a new thing. There was a NIPS 2019 paper [0] that attempted to do that same for some toy problems.”
指出哈密顿神经网络不是新东西,此前已有论文在玩具问题上做过