“OA has done that, as 'GPT-f': Generative Language Modeling for Automated Theorem Proving”
Generative Language Modeling for Automated Theorem Proving
GPT-f:用 Transformer 语言模型为 Metamath 生成并检验证明
论文探索把基于 Transformer 的语言模型用于自动定理证明,动机是:自动证明器相比人类的主要局限是难以生成原创的数学项,而语言模型的生成能力可能弥补这一点。作者为 Metamath 形式化语言构建了证明器与证明助手 GPT-f 并分析其表现。GPT-f 找到的新的短证明被收进 Metamath 主库,据作者所知这是深度学习系统首次为形式数学社区贡献被采纳的证明。
HN 评论者把 GPT-f 当作语言模型做形式化定理证明的代表案例,用来说明预训练(如在 arXiv 文本上)能显著提升证明表现,并与后来的 Baldur、COPRA 等并列。
学习路径
读这篇之前,按顺序读书架上的 6 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出这条路径先建立 Transformer 与 GPT-3 的语言模型基础,再回顾用深度学习做前提选择和证明搜索的先行工作,最后读 GPT-f 如何在 Metamath 上生成证明。
- 1
- 2
- 3
最早把深度序列模型用于定理证明的前提选择,是 GPT-f 的前身思路。
读用序列模型给前提打分的做法与实验设置。
- 4
同样面向 Metamath 的神经证明器,是 GPT-f 直接对比的前驱。
读证明搜索的整体结构,以及它如何生成和选择证明步骤。
- 5
给出神经定理证明的环境和基准,方便理解该领域的评测方式。
读环境接口与 DeepHOL 证明器的基本流程。
- 6
- 7Generative Language Modeling for Automated Theorem Proving
目标论文:用 Transformer 语言模型生成并检验 Metamath 证明。
读证明表示、搜索与检验流程,以及被主库接受的新证明。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及“Section 4.7.1 shows this is entirely feasible for neural networks, though the technique is very different.”
“GPT-f[1] was doing Metamath proofs on 9-digit division (again, a vastly harder context, they involve ~10k proof steps) with 50-50 accuracy”
“GPT-f already gets a big performance boost from pretraining on Arxiv etc”
“There are increasing experiments in making DRL agents exploit or initialize from pretrained language models”
“but if you're specifically looking for the LLM's that have been big recently, there's GPT-f, Baldur ([OTHER_PAPER]), and COPRA ([OTHER_PAPER])”
- Generative Language Modeling for Automated Theorem Proving ↗colinhb · 2020-09-09 · 3 分
- Generative Language Modeling for Automated Theorem Proving ↗tosh · 2020-09-09 · 88 分