按年被提到
20222022 · 3 次2026
大模型与语言模型›大模型推理与思维链·arXiv:2206.14858 · cs.CL

Solving Quantitative Reasoning Problems with Language Models

用语言模型解决定量推理问题
Aitor Lewkowycz, Anders Andreassen, David Dohan, Ethan Dyer, Henryk Michalewski, Vinay Ramasesh, Ambrose Slone, Cem Anil, Imanol Schlag, Theo Gutman-Solo, Yuhuai Wu, Behnam Neyshabur 等 14 人 · 2022

Minerva:在技术文本上继续训练,大模型能解大学水平数理题

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 5 人首次 2022-09-20 · 最近 2025-01-28
5不同的人
6活跃月份
6讨论串
425被引(OpenAlex)

介绍 Minerva:在通用自然语言数据上预训练、再用技术内容继续训练的大语言模型,不借助外部工具就在技术类基准上达到当时最优。作者还在 200 多道本科水平的物理、生物、化学、经济等定量推理题上评测,模型约能答对近三分之一。

HN 为什么提它

HN 上的人用它作为证据,说明大型神经网络在数学推理上的能力超出人们的预期,并讨论记忆化与数据过滤的影响。

实证研究难度 3 / 5约 50 分钟有时效性
读之前最好知道
1Transformer 架构
2大语言模型预训练与微调
3思维链提示(chain-of-thought prompting)
4数学与科学基准(如 MATH)

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐nl · 2022-12

“I'd encourage you to read the Minerva paper[4] and update your understanding on what large neural networks are doing.”

推荐读 Minerva 论文,借此更新对大型神经网络能力的认识
Building a Virtual Machine Inside ChatGPT原评论 ↗
引用edouard-harris · 2022-10

“Minvera scored 65%; the 2021 national average was 57%. See [LINK] and Section 3 of the Minerva paper at Solving Quantitative Reasoning Problems with Language Models”

引它说明 Minerva 在波兰全国数学考试中高于平均分
AI language models are struggling to “get” math原评论 ↗
引用nl · 2023-02

“Minerva improved it by 50% and PaLM improved it even more.”

引它说明 Minerva 把 MATH 基准提升了 50%
To Build Truly Intelligent Machines, Teach Them Cause and Effect原评论 ↗
引用reasonableklout · 2023-11

“The paper explicitly investigates whether memorization has overly impacted performance.”

指出论文专门检验了记忆对表现的影响
Sam Altman's ouster was precipitated by letter to board about AI breakthrough原评论 ↗
引用highfrequency · 2025-01

“[2] [OTHER_PAPER] and Solving Quantitative Reasoning Problems with Language Models”

举它为对数学模型的网页文本做细致过滤的例子
Berkeley Researchers Replicate DeepSeek R1's Core Tech for Just $30: A Small Mod原评论 ↗
被提交为 story · 1 次