“A lot of the references in it are golden.”
AI-GAs: AI-generating algorithms, an alternate paradigm for producing general artificial intelligence
主张让算法自动学会产生通用 AI,作为手工拼装之外的路线
指出主流做法是人工逐一发现智能所需的各个部件(“手工 AI 路线”),并提出另一条可能更成功的路线:构造能自动学习如何产生通用 AI 的 AI 生成算法(AI-GA)。该路线依赖三大支柱:元学习架构、元学习学习算法本身,以及自动生成有效的学习环境。作者主张学界应加大对这一路线的投入,并讨论了其特有的安全与伦理问题。
评论者把它推荐为了解开放式探索(open-endedness)及其通向通用 AI 潜力的入门文章,并称其参考文献很有价值。
学习路径
读这篇之前,按顺序读书架上的 7 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出这条路径围绕“让算法自己学会产生智能”:元学习、自动架构搜索、进化与开放式探索,读完再看 AI-GA 的整体主张。
- 1
让网络学会做优化器,是元学习里最早的清晰例子,对应 AI-GA 的第一个支柱。
读理解用 LSTM 替代手工优化器并用梯度训练它的思路。
- 2
用强化学习自动设计网络结构,对应 AI-GA 中自动搜索架构的支柱。
读抓住控制器 RNN 生成架构并以验证精度为奖励的循环。
- 3
把快速强化学习算法编码进 RNN,由慢速 RL 训练,是元学习学习算法本身的例子。
读理解外层慢速训练、内层 RNN 快速适应的两层结构。
- 4
MAML 是另一类元学习:学一个易于微调的初始化。
读抓住内外两层梯度更新的结构,与 RL² 的思路对照。
- 5
说明简单的遗传算法也能训练深度网络,是 AI-GA 中进化路线的现实基础。
读看无梯度的进化训练如何与深度 RL 竞争;结果部分抓大意即可。
- 6
进化算法钻目标漏洞的轶事,支撑 AI-GA 对开放式进化和创造力的论点。
读挑几个有代表性的轶事,体会进化为何会产出意料之外的解。
- 7
同一作者团队的 Go-Explore,展示探索与开放式思路在难题上的效果。
读理解先记住有前景状态再回到那里继续探索的思路。
- 8AI-GAs: AI-generating algorithms, an alternate paradigm for producing general artificial intelligence
提出用 AI 生成算法取代手工拼装,通向通用智能的第二条路径。
读抓住三大支柱(元学习架构、元学习算法、自动生成学习环境)及其与手工路线的对比。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及“EDIT: I added this paper [2] by Jeff Clune, a nice introduction of Open-endedness and their potential for reaching general AI.”
- AI-GAs: AI-generating algorithms, an alternate paradigm for producing general AI ↗headalgorithm · 2019-09-10 · 6 分
- An alternate paradigm for producing general artificial intelligence ↗ghgr · 2021-01-03 · 2 分