按年被提到
20202020 · 7 次2026
AI 安全、伦理与社会影响›通用智能与意识·arXiv:2002.06177 · cs.AI

The Next Decade in AI: Four Steps Towards Robust Artificial Intelligence

AI 的下一个十年:迈向稳健人工智能的四步
Gary Marcus · 2020

主张用知识驱动的混合推理路线,造更稳健的 AI

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 11 人首次 2020-02-17 · 最近 2025-08-10
11不同的人
8活跃月份
12讨论串
540被引(OpenAlex)

作者批评近年 AI 研究过于强调通用学习、更大的训练集和更多算力,提出以认知模型为核心的混合、知识驱动、基于推理的路线。他认为这条路线能为比现有方法更丰富、更稳健的 AI 提供基础。

HN 为什么提它

评论者把它当作怀疑派的论点来引用,认为深度学习的某些重要任务可能无法靠规模解决,并推荐 Marcus 的观点。

观点难度 2 / 5约 60 分钟经得起时间
读之前最好知道
1深度学习基础
2符号推理与知识表示
3认知科学基础

学习路径

读这篇之前,按顺序读书架上的 7 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

这条路径先看对深度学习局限的批评与评测证据,再看对话、符号数学、问答考试和模块化机制等具体案例,才能理解 Marcus 为什么主张知识驱动、基于推理的混合路线。

  1. 1
    Deep Learning: A Critical Appraisal深度学习:一次批判性评估 · 2018

    同一作者先列出深度学习的十点局限,目标论文是在此基础上提出的正面方案。

    读数据饥渴、不透明、难以迁移、缺乏因果和推理等局限的论点。

  2. 2
    Deep Reinforcement Learning that Matters真正重要的深度强化学习 · 2017

    说明深度强化学习结果难以复现,支持作者对只靠规模和算力的路线的质疑。

    读复现性问题和更严谨的评测建议。

  3. 3

    用对抗句子暴露阅读理解模型的脆弱,是目标论文谈模型不稳健的实例。

    读在段落中插入干扰句后模型准确率大幅下降的实验设计。

  4. 4
    Towards a Human-like Open-Domain Chatbot迈向类人的开放域聊天机器人 · 2020

    Meena 是靠规模堆出来的开放域聊天模型,目标论文用它作为纯规模路线的代表。

    读SSA 指标和困惑度与对话质量的关系;思考规模路线的边界。

  5. 5
    Deep Learning for Symbolic Mathematics用于符号数学的深度学习 · 2019

    用神经网络做符号积分,是目标论文讨论神经与符号结合的相关案例。

    读把数学表达式编码为序列并用序列到序列模型求解的做法。

  6. 6

    Aristo 项目展示了科学考试问答里混合式系统的进展,对应目标论文强调的知识与推理。

    读系统由哪些组件组成,以及性能从低分到高分的提升来自哪里。

  7. 7
    Recurrent Independent Mechanisms循环独立机制(Recurrent Independent Mechanisms) · 2019

    让多个近乎独立的循环模块稀疏通信,对应目标论文主张的模块化和更稳健泛化。

    读独立机制加注意力瓶颈的设计,以及分布外泛化的结果。

  8. 8
    The Next Decade in AI: Four Steps Towards Robust Artificial IntelligenceAI 的下一个十年:迈向稳健人工智能的四步 · 2020 · 就是这篇

    目标论文:提出知识驱动、认知模型为核心的混合推理路线,并给出稳健 AI 的四个步骤。

    读四个步骤的内容,以及它们与纯数据驱动的深度学习路线的对比。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐randcraw · 2020-06

“I recommend the work of Gary Marcus and Ernest Davis.”

推荐 Gary Marcus 和 Ernest Davis 对深度学习的批评
An understanding of AI’s limitations is starting to sink in原评论 ↗
引用genezeta · 2022-10

“Some important tasks might simply not scale. The Next Decade in AI”

引用它说明某些重要任务可能根本无法靠规模解决
What “game over” for the latest paradigm in AI might look like原评论 ↗
引用Madmallard · 2025-08

“He sent me all these articles geared toward that end as well.”

提到对方发来的文章,其中包括这篇质疑 AI 炒作的怀疑派论述
GPT-5: Overdue, overhyped and underwhelming. And that's not the worst of it原评论 ↗
被提交为 story · 9 次