按年被提到
20192021 · 2 次2026
AI 安全、伦理与社会影响›通用智能与意识·arXiv:1905.10985 · cs.AI

AI-GAs: AI-generating algorithms, an alternate paradigm for producing general artificial intelligence

AI-GA:AI 生成算法,通向通用人工智能的另一条路径
Jeff Clune · 2019

主张让算法自动学会产生通用 AI,作为手工拼装之外的路线

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 3 人首次 2019-09-10 · 最近 2021-04-28
3不同的人
4活跃月份
4讨论串
116被引(OpenAlex)

指出主流做法是人工逐一发现智能所需的各个部件(“手工 AI 路线”),并提出另一条可能更成功的路线:构造能自动学习如何产生通用 AI 的 AI 生成算法(AI-GA)。该路线依赖三大支柱:元学习架构、元学习学习算法本身,以及自动生成有效的学习环境。作者主张学界应加大对这一路线的投入,并讨论了其特有的安全与伦理问题。

HN 为什么提它

评论者把它推荐为了解开放式探索(open-endedness)及其通向通用 AI 潜力的入门文章,并称其参考文献很有价值。

观点难度 3 / 5约 80 分钟经得起时间
读之前最好知道
1机器学习与元学习(meta-learning)
2神经架构搜索
3开放式进化(open-endedness)
4强化学习基础

学习路径

读这篇之前,按顺序读书架上的 7 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

这条路径围绕“让算法自己学会产生智能”:元学习、自动架构搜索、进化与开放式探索,读完再看 AI-GA 的整体主张。

  1. 1
    Learning to learn by gradient descent by gradient descent用梯度下降学习梯度下降 · 2016

    让网络学会做优化器,是元学习里最早的清晰例子,对应 AI-GA 的第一个支柱。

    读理解用 LSTM 替代手工优化器并用梯度训练它的思路。

  2. 2
    Neural Architecture Search with Reinforcement Learning用强化学习搜索神经网络架构 · 2016

    用强化学习自动设计网络结构,对应 AI-GA 中自动搜索架构的支柱。

    读抓住控制器 RNN 生成架构并以验证精度为奖励的循环。

  3. 3
    RL$^2$: Fast Reinforcement Learning via Slow Reinforcement LearningRL²:通过慢速强化学习实现快速强化学习 · 2016

    把快速强化学习算法编码进 RNN,由慢速 RL 训练,是元学习学习算法本身的例子。

    读理解外层慢速训练、内层 RNN 快速适应的两层结构。

  4. 4
    Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks与模型无关的元学习:深度网络的快速适应 · 2017

    MAML 是另一类元学习:学一个易于微调的初始化。

    读抓住内外两层梯度更新的结构,与 RL² 的思路对照。

  5. 5
    Deep Neuroevolution: Genetic Algorithms Are a Competitive Alternative for Training Deep Neural Networks for Reinforcement Learning深度神经进化:遗传算法是训练深度强化学习网络的有力替代方案 · 2017

    说明简单的遗传算法也能训练深度网络,是 AI-GA 中进化路线的现实基础。

    读看无梯度的进化训练如何与深度 RL 竞争;结果部分抓大意即可。

  6. 6

    进化算法钻目标漏洞的轶事,支撑 AI-GA 对开放式进化和创造力的论点。

    读挑几个有代表性的轶事,体会进化为何会产出意料之外的解。

  7. 7

    同一作者团队的 Go-Explore,展示探索与开放式思路在难题上的效果。

    读理解先记住有前景状态再回到那里继续探索的思路。

  8. 8
    AI-GAs: AI-generating algorithms, an alternate paradigm for producing general artificial intelligenceAI-GA:AI 生成算法,通向通用人工智能的另一条路径 · 2019 · 就是这篇

    提出用 AI 生成算法取代手工拼装,通向通用智能的第二条路径。

    读抓住三大支柱(元学习架构、元学习算法、自动生成学习环境)及其与手工路线的对比。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐hsikka · 2020-06

“A lot of the references in it are golden.”

推荐它,其中神经架构搜索思路和参考文献很有价值
Ask HN: What 'hard tech' company are you founding or most interested in?原评论 ↗
推荐ghgr · 2021-04

“EDIT: I added this paper [2] by Jeff Clune, a nice introduction of Open-endedness and their potential for reaching general AI.”

补充推荐它,作为开放式演化通向通用 AI 的入门介绍
Why AI is harder than we think原评论 ↗
被提交为 story · 2 次