按年被提到
20222023 · 10 次2026
大模型与语言模型›提示工程与输出稳定性·arXiv:2206.08896 · cs.NE

Evolution through Large Models

通过大模型进化(Evolution through Large Models)
Joel Lehman, Jonathan Gordon, Shawn Jain, Kamal Ndousse, Cathy Yeh, Kenneth O. Stanley · 2022

用代码大模型当遗传编程的变异算子,生成海量程序

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 5 人首次 2022-06-20 · 最近 2025-05-15
5不同的人
13活跃月份
20讨论串
89被引(OpenAlex)

论文的出发点是:经代码生成训练的大语言模型能大幅提升遗传编程中程序变异算子的效果,因为它们的训练数据包含一系列连续修改,能近似人类可能做出的改动。主实验中,这种“大模型进化”(ELM)结合 MAP-Elites,在 Sodarace 领域生成了数十万个能输出可行走机器人的功能性 Python 程序,而原 LLM 在预训练中从未见过这类程序。这些样本再用来引导训练一个新的条件语言模型,使其能为特定地形输出合适的行走器,作者还深入探讨了对开放性、深度学习和强化学习的影响。

HN 为什么提它

HN 上的人在讨论用 LLM 做变异算子的进化式搜索、基于测试验证的反馈学习以及 AlphaEvolve 类工作时,反复把它当作代表性的早期例子。

方法难度 3 / 5约 60 分钟经得起时间
读之前最好知道
1遗传编程与进化算法
2MAP-Elites 质量多样性算法
3代码语言模型
4开放式进化(open-endedness)

学习路径

读这篇之前,按顺序读书架上的 2 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

只有两篇候选与目标直接相关:Transformer 提供语言模型基础,AlphaCode 展示代码生成。读完后再看大模型如何充当遗传编程的变异算子。

  1. 1
    Attention Is All You Need注意力就是你所需要的一切 · 2017

    代码大模型都建立在 Transformer 之上,是理解 ELM 的生成部分的基础。

    读自注意力与自回归解码的基本思想,不必深入实验。

  2. 2

    它展示了大模型生成程序的能力和采样筛选思路,是 ELM 使用代码模型的背景。

    读大规模采样再过滤的流程,以及模型生成程序的质量与多样性。

  3. 3
    Evolution through Large Models通过大模型进化(Evolution through Large Models) · 2022 · 就是这篇

    把代码大模型当成遗传编程的变异算子,与 MAP-Elites 结合生成大量程序。

    读差异(diff)形式的变异算子、MAP-Elites 质量多样性搜索的思路,以及机器人行走实验。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐visarga · 2022-12

“I'm leaving this for further reading. It's fascinating.”

存起来留待进一步阅读,觉得很有意思
Study finds AI assistants help developers produce code likely to be buggy原评论 ↗
推荐visarga · 2024-04

“The paper "Evolution through Large Models" shows the way.”

认为它指明了方向:用 LLM 作为进化搜索中的变异算子
ResearchAgent: Iterative Research Idea Generation Using LLMs原评论 ↗
引用visarga · 2022-12

“Here is a related paper:”

把它当作相关论文,用 LLM 做遗传编程的变异算子
Show HN: Built your front end in React, then let ChatGPT be you Redux reducer原评论 ↗
引用visarga · 2023-01

“Here is an example of using code language models for this kind of dataset-creation by play.”

举它为用代码语言模型通过博弈式演化造数据的例子
GitHub Is Sued, and We May Learn Something About Creative Commons Licensing原评论 ↗
引用visarga · 2023-01

“For example: "Evolution through Large Models" Evolution through Large Models”

举它为 LLM 作变异算子做进化搜索的例子
The Limits of GPT-3 and Similar Large Language Models原评论 ↗
引用visarga · 2023-01

“It is true that simply using a dataset or a bunch of environments is not enough.”

拿它说明仅靠数据集或环境不够,应从验证中学习
How Organisms Come to Know the World: Fundamental Limits on AGI原评论 ↗
看全部 19 条 →
引用visarga · 2023-01

“In their paper "Evolution through Large Models", CarperAI shows how you can use diffs to evolve code, while running the code against a test or an environment for validation.”

引它说明用 diff 演化代码,并用测试或环境验证
Diff Models – A New Way to Edit Code原评论 ↗
引用visarga · 2023-02

“LLMs can also learn by reinforcement learning and evolutionary techniques.”

拿它说明 LLM 也能通过进化技术学习
Scott Aaronson: Should GPT Exist?原评论 ↗
引用visarga · 2023-03

“They are using a diff-LM trained on GitHub commits to generate mutations to a population of problem solutions expressed as code.”

介绍它用在 GitHub commit 上训练的 diff 模型对代码解的种群做变异
Revisiting Vernor Vinge’s “predictions” for 2025原评论 ↗
引用visarga · 2023-05

“when they get tools they can integrate external signals and actually become creative and even discover knowledge - like [1]”

拿它说明 LLM 有工具后能整合外部信号,甚至发现新知识
He wrote a book on a rare subject. Then a ChatGPT replica appeared on Amazon原评论 ↗
引用visarga · 2023-06

“Here is a paper doing evolutionary approaches on top of LLM generating code.”

贴出它作为在 LLM 生成代码之上做进化方法的例子
The Curse of Recursion: Training on Generated Data Makes Models Forget原评论 ↗
引用visarga · 2023-06

“For example: Evolution through Large Models - Evolution through Large Models”

举它为 LLM 作变异算子做代码进化搜索的例子
LLM Powered Autonomous Agents原评论 ↗
引用visarga · 2023-06

“They can also generate the model code, explain it, make meaningful changes[2], monitor the training run and evaluate the "child" models[3].”

引它说明 LLM 能对模型代码做有意义的修改
The Darwinian argument for worrying about AI原评论 ↗
引用visarga · 2024-01

“Evolution through Large Models - Evolution through Large Models”

举它为 LLM 作进化搜索变异算子的例子
A Philosophical Introduction to Language Models原评论 ↗
引用visarga · 2024-03

“You can do pretty amazing things with evolutionary methods where the LLMs are the mutation operator.”

拿它说明让 LLM 当变异算子的进化方法能做出惊人的事
DBRX: A new open LLM原评论 ↗
引用visarga · 2024-06

“Here is an example of LLMs discovering useful ideas by feedback, even when they are completely outside their training distribution:”

举它为 LLM 靠反馈发现有用想法的例子,即使超出训练分布
ARC Prize – a $1M+ competition towards open AGI progress原评论 ↗
引用namaria · 2025-04

“In other words, the model learns to predict plausible changes to code from examples of changes made to code by human programmers.”

引它说明模型从人类代码改动中学会预测合理的改动
2025 AI Index Report原评论 ↗
引用namaria · 2025-04

“written in collaboration between OpenAI and Anthropic researchers”

指出论文由 OpenAI 和 Anthropic 研究者合作写成
2025 AI Index Report原评论 ↗
引用_delirium · 2025-05

“And some academic papers kind of in this space: Evolution through Large Models, [OTHER_PAPER], [OTHER_PAPER]”

列为与 AlphaEvolve 相关的学术工作
AlphaEvolve: A Gemini-powered coding agent for designing advanced algorithms原评论 ↗
被提交为 story · 1 次