按年被提到
20222023 · 2 次2026
数学、逻辑与理论›AI 数学与定理证明·arXiv:2202.01344 · cs.LG

Formal Mathematics Statement Curriculum Learning

形式数学命题的课程学习
Stanislas Polu, Jesse Michael Han, Kunhao Zheng, Mantas Baksys, Igor Babuschkin, Ilya Sutskever · 2022

用专家迭代让语言模型在形式数学上自学出难度课程

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 3 人首次 2023-04-12 · 最近 2024-02-02
3不同的人
3活跃月份
3讨论串
50被引(OpenAlex)

论文把专家迭代(证明搜索与学习交替进行)用于面向形式数学的语言建模。在相同算力预算下,专家迭代显著优于只做证明搜索;当形式命题的难度足够多样时,它还能自行发现并解决难度递增的课程,而不需要对应的标准证明。把它用于人工整理的命题集后,在 miniF2F 基准上达到当时最优,自动解出了多道高中奥赛难题。

HN 为什么提它

评论者把它作为“LEAN 定理证明器加 LLM”研究的例子,说明可以不靠人写的证明,而用自生成的形式命题课程和强化学习来训练证明器。

方法难度 4 / 5约 50 分钟经得起时间
读之前最好知道
1形式化数学与交互式定理证明器(如 Lean)
2GPT 类语言模型
3专家迭代(expert iteration)与证明搜索
4强化学习基础

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐williamstein · 2023-04

“There's interesting research going into combining the LEAN theorem prover with LLMs, e.g., this recent paper: Formal Mathematics Statement Curriculum Learning”

推荐这篇把 LEAN 定理证明器与 LLM 结合的近期研究
Terence Tao on GPT-4原评论 ↗
引用aSanchezStern · 2023-10

“In terms of using reinforcement learning to learn beyond human written proofs, there's TacticZero ([LINK]), this paper from OpenAI”

说到用强化学习超越人类证明时,提到 TacticZero 和 OpenAI 的这篇论文
Lean4 helped Terence Tao discover a small bug in his recent paper原评论 ↗
被提交为 story · 1 次