按年被提到
20202021 · 4 次2026
软件工程与 AI 编程›代码生成与程序合成·arXiv:2006.08381 · cs.AI

DreamCoder: Growing generalizable, interpretable knowledge with wake-sleep Bayesian program learning

DreamCoder:用唤醒-睡眠贝叶斯程序学习积累可泛化、可解释的知识
Kevin Ellis, Catherine Wong, Maxwell Nye, Mathias Sable-Meyer, Luc Cary, Lucas Morales, Luke Hewitt, Armando Solar-Lezama, Joshua B. Tenenbaum · 2020

通过写程序学习,并自建领域语言的程序归纳系统

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 12 人首次 2020-06-23 · 最近 2026-05-26
12不同的人
13活跃月份
15讨论串
143被引(OpenAlex)

提出 DreamCoder,一个通过写程序来解决问题的系统:它为领域概念创建编程语言,并训练神经网络引导在这些语言中的程序搜索。唤醒-睡眠算法交替进行:一边用新的符号抽象扩展语言,一边在想象和回放的问题上训练神经网络。它能解决经典归纳编程任务以及画图、搭场景等创造性任务,并重新发现函数式编程基础、向量代数和牛顿定律、库仑定律。

HN 为什么提它

评论者把它当作神经符号方法和程序归纳的里程碑:在 LLM 之前就展示了可组合、可解释的抽象学习,常被拿来对比后来的神经程序合成。

方法难度 5 / 5约 90 分钟经得起时间
读之前最好知道
1程序合成(program synthesis)
2贝叶斯推断(Bayesian inference)
3λ 演算与函数式编程
4神经网络引导的搜索

学习路径

读这篇之前,按顺序读书架上的 2 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

候选里只有两篇和 DreamCoder 的核心思路直接相关:一篇讲类人学习为何需要组合性与程序式表示,一篇讲神经引导的程序搜索。

  1. 1
    Building Machines That Learn and Think Like People构建像人一样学习和思考的机器 · 2016

    DreamCoder 的动机来自这里:类人学习靠组合性、因果模型和可复用概念。

    读读组合性(compositionality)与「学会学习」的论述,理解为何要学一套领域概念语言。

  2. 2
    DeepCoder: Learning to Write ProgramsDeepCoder:学习编写程序 · 2016

    DreamCoder 的识别网络沿用了神经网络引导程序搜索的思路。

    读抓住用网络预测程序成分来缩小搜索空间的想法,以及基于输入输出示例的程序合成设定。

  3. 3
    DreamCoder: Growing generalizable, interpretable knowledge with wake-sleep Bayesian program learningDreamCoder:用唤醒-睡眠贝叶斯程序学习积累可泛化、可解释的知识 · 2020 · 就是这篇

    把程序合成、神经引导搜索与自建语言(库学习)合到唤醒-睡眠框架里。

    读抓 wake-sleep 的三个阶段:搜索程序、抽象出新概念扩充语言、用梦境数据训练识别网络。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
强烈推荐macleginn · 2020-12

“A killer paper presenting an algorithm capable of inductive learning.”

强烈推荐,称它提出了能做归纳学习的算法
Ask HN: What's the best paper you've read in 2020?原评论 ↗
推荐YeGoblynQueenne · 2021-11

“the Dreamcoder paper in the paperswithcode search you linked to was an interesting milestone [2].”

称 DreamCoder 是一个有意思的程序归纳里程碑
GPT-3 is no longer the only game in town原评论 ↗
推荐YeGoblynQueenne · 2023-05

“I liked the work on DreamCoder, particularly the part where it learned to draw in Logo graphics.”

喜欢这项工作,尤其是它学会用 Logo 绘图的部分
Early Computer Art in the 50s and 60s原评论 ↗
引用Cybiote · 2021-08

“DreamCoder: DreamCoder is the latest development along this investigatory and very much underexplored path to Machine intelligence.”

把它当作通往机器智能这条鲜有探索之路上的最新进展
Why AM and Eurisko Appear to Work (1983) [pdf]原评论 ↗
引用KhoomeiK · 2021-11

“Reminds me of some recent neurosymbolic work, like "DreamCoder: Growing generalizable, interpretable knowledge with wake-sleep Bayesian program learning" [1]”

把它当作近期 neurosymbolic 工作的例子
In the 17th century, Leibniz dreamed of a machine that could calculate ideas原评论 ↗
引用YeGoblynQueenne · 2022-02

“Another example from June 2020:”

举 2020 年 6 月的另一个早期神经程序合成例子
Competitive Programming with AlphaCode原评论 ↗
看全部 13 条 →
引用bglazer · 2022-02

“I know of at least one approach to neural program synthesis that employs self supervised learning.”

说有一种神经程序合成方法用了自监督学习,以它举例
Competitive Programming with AlphaCode原评论 ↗
引用ahgamut · 2022-02

“LISP-without-macros in Dreamcoder”

指出它用了类似不带宏的 LISP 这种极简语法语言
AlphaCode as a dog speaking mediocre English原评论 ↗
引用YeGoblynQueenne · 2022-07

“for example DreamCoder”

举它作为早于 LLM 的非 LLM 神经程序合成系统的例子
AI Coding with CodeRL: Toward Mastering Program Synthesis with Deep RL原评论 ↗
引用notacat · 2023-07

“I am personally interested in LLM's, MuZero ([OTHER_PAPER]), Dreamer ([OTHER_PAPER]) and DreamCoder”

在招聘帖里把它列为个人感兴趣的研究方向之一
Ask HN: Who is hiring? (July 2023)原评论 ↗
引用nextos · 2023-09

“That's relevant for pursuing current neuro-symbolic research, e.g. DreamCoder.”

把它当作当前 neuro-symbolic 研究的相关例子
Doug Lenat has died原评论 ↗
引用erichocean · 2024-10

“We have, it's called DreamCoder. There's a paper and everything.”

回应“有没有这样的系统”:有,就是 DreamCoder,还有论文
Language is not essential for the cognitive processes that underlie thought原评论 ↗
引用bmc7505 · 2026-05

“seems to periodically be rediscovered [2,3,4] in different contexts”

把它当作基于睡眠的学习在不同场景中被反复重新发现的例子之一
Language Models Need Sleep原评论 ↗
被提交为 story · 3 次