按年被提到
20192020 · 4 次2026
数学、逻辑与理论›AI 数学与定理证明·arXiv:1912.01412 · cs.SC

Deep Learning for Symbolic Mathematics

用于符号数学的深度学习
Guillaume Lample, François Charton · 2019

用序列到序列模型做符号积分与解微分方程,超过 Mathematica

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 9 人首次 2019-12-05 · 最近 2023-03-21
9不同的人
6活跃月份
8讨论串
285被引(OpenAlex)

论文表明神经网络在符号积分和求解微分方程这类更复杂的数学任务上也能出人意料地好。作者提出表示数学问题的语法和生成大规模数据集的方法,用于训练序列到序列模型,结果超过了 Matlab、Mathematica 等商业计算机代数系统。

HN 为什么提它

HN 上的人把它作为神经网络能学会符号操作、做符号积分和解微分方程的证据,并讨论方程用逆波兰表示而非树编码的细节。

方法难度 3 / 5约 45 分钟经得起时间
读之前最好知道
1序列到序列模型与 Transformer
2符号积分与微分方程
3计算机代数系统(CAS)
4前缀与逆波兰表示法

学习路径

读这篇之前,按顺序读书架上的 4 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

这条路径建立序列到序列模型、神经网络做程序执行与符号推理的早期尝试,以及 Transformer,用来理解论文如何把符号积分当作翻译问题。

  1. 1
    Sequence to Sequence Learning with Neural Networks用神经网络进行序列到序列学习 · 2014

    论文把积分和微分方程求解看成序列到序列的翻译,思想来自这里。

    读编码器-解码器框架,以及把输入反转等训练细节;理解端到端序列映射。

  2. 2
    Learning to Execute学习执行 · 2014

    是用神经网络做符号程序执行的早期工作,和用网络做符号计算的动机相近。

    读字符级读程序并输出结果的任务设置,以及课程学习。

  3. 3
    Attention Is All You Need注意力就是你所需要的一切 · 2017

    目标论文使用的就是 Transformer 序列到序列模型。

    读编码器-解码器结构与自注意力,不必深究翻译实验。

  4. 4
    Deep Network Guided Proof Search深度网络引导的证明搜索 · 2017

    同属用深度网络辅助符号推理与定理证明,可作为对照。

    读网络如何为证明搜索中的子句选择提供引导。

  5. 5
    Deep Learning for Symbolic Mathematics用于符号数学的深度学习 · 2019 · 就是这篇

    目标论文:用序列到序列模型做符号积分与解微分方程。

    读数学表达式的前缀表示、训练数据的生成方法,以及与 Mathematica 的对比。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用_0ffh · 2020-05

“the paper seems to be easy to find and access”

指出这篇论文容易找到和获取
Symbolic mathematics finally yields to neural networks原评论 ↗
引用thomasahle · 2020-05

“They don't actually use trees in the paper though.”

指出论文其实没有用树结构
Symbolic mathematics finally yields to neural networks原评论 ↗
引用Isinlor · 2020-08

“Actually even a lot smaller models trained on arthritics are able to do impressive feats like symbolic integration and solving differential equations.”

拿它说明较小模型也能完成符号积分和解微分方程
Natural language benchmarks don’t measure AI models’ general knowledge well原评论 ↗
引用visarga · 2022-05

“Deep Learning for Symbolic Mathematics Deep Learning for Symbolic Mathematics”

贴出它作为语言模型能做符号数学的证据
Learning to think critically about machine learning原评论 ↗
引用MrScruff · 2023-03

“Also, it's not clear to me why it's impossible for an LLM to learn symbolic manipulation?”

引它反驳 LLM 无法学会符号操作的说法
The Age of AI has begun原评论 ↗
被提交为 story · 4 次