按年被提到
20212021 · 4 次2026
AI 安全、伦理与社会影响›AI 的经济与社会影响·arXiv:2104.12871 · cs.AI

Why AI is Harder Than We Think

为什么 AI 比我们想象的更难
Melanie Mitchell · 2021

指出 AI 研究者常犯的四个谬误及其导致的过度乐观

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 8 人首次 2021-04-28 · 最近 2025-09-11
8不同的人
5活跃月份
7讨论串
170被引(OpenAlex)

论文回顾 AI 领域在“AI 之春”与“AI 之冬”之间反复循环的历史,认为原因之一是我们对智能本质与复杂性的理解有限。作者总结了 AI 研究者常见假设中的四种谬误,它们会导致对领域进展的过度自信预测,并以如何赋予机器类人常识等开放问题作结。

HN 为什么提它

HN 上的人把它当作反驳“AI 进展必然很快”的代表性文章,在讨论 AI 炒作、自动驾驶和常识推理时被反复拿来作为延伸阅读。

观点难度 2 / 5约 30 分钟经得起时间
读之前最好知道
1AI 发展简史(AI 之春与寒冬)
2机器学习基本概念
3常识推理(common sense reasoning)

学习路径

读这篇之前,按顺序读书架上的 7 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

这条路径帮你看到 AI 的预测乐观、模型脆弱、捷径学习和对智能的定义,再读这篇总结四个谬误的文章。

  1. 1
    When Will AI Exceed Human Performance? Evidence from AI Experts人工智能何时会超过人类表现?来自 AI 专家的证据 · 2017

    对 AI 研究者预测时间表的调查,正好对应文中反复出现的过度乐观。

    读各类任务的预测时间及专家之间的分歧。

  2. 2
    Intriguing properties of neural networks神经网络的有趣性质 · 2013

    神经网络对微小扰动脆弱,是文中说模型并未真正理解的典型证据。

    读对抗样本现象的发现过程,以及扰动可跨模型的结论。

  3. 3
    Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images深度神经网络很容易被愚弄:对无法辨认的图像给出高置信度预测 · 2014

    对不可辨认图像给出高置信度,与人类感知的差异一目了然。

    读愚弄图像的生成方式与高置信度的结果。

  4. 4

    捷径学习说明模型常靠表面线索拿高分,与文中对基准分数的警惕相呼应。

    读捷径的定义和几类典型案例;不必细读每个数据集。

  5. 5
    Building Machines That Learn and Think Like People构建像人一样学习和思考的机器 · 2016

    指出类人智能需要因果模型、直觉理论等,对应文中对人类理解与常识的讨论。

    读核心设想:因果模型、直觉物理与心理、组合性、学会学习。

  6. 6
    Deep Learning: A Critical Appraisal深度学习:一次批判性评估 · 2018

    对深度学习局限的批评,与文中对 AI 能力的谨慎态度同属一条线。

    读列出的局限,如数据饥渴、迁移差、缺少因果推理。

  7. 7
    On the Measure of Intelligence论智能的度量 · 2019

    把智能定义为技能获取效率,为文中讨论什么算真正的智能提供参照。

    读智能的定义部分与 ARC 基准的设计思想。

  8. 8
    Why AI is Harder Than We Think为什么 AI 比我们想象的更难 · 2021 · 就是这篇

    归纳 AI 研究者常犯的四个谬误及其带来的周期性过度乐观。

    读四个谬误的论述,以及末尾关于概念与常识的讨论。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐swyx · 2023-01

“Another related paper readers might like is Melanie Mitchell's Why AI is Harder than We Think: Why AI is Harder Than We Think”

推荐 Melanie Mitchell 这篇相关论文,供读者延伸阅读
The Expanding Dark Forest and Generative AI原评论 ↗
引用juliangamble · 2021-04

“Link to paper: Why AI is Harder Than We Think”

贴出论文链接
Why AI is harder than we think原评论 ↗
引用RuffleGordon · 2021-04

“There was also a good discussion on HN [0] about a new paper by Melanie Mitchell”

提到 HN 上关于 Melanie Mitchell 这篇新论文的讨论
Superintelligence Risk Project: Conclusion原评论 ↗
引用Jiocus · 2021-05

“This article seems to be a rehash of the paper ‘Why AI is harder than we think’[1].”

认为这篇文章不过是该论文的翻版
Why A.I. Moonshots Miss原评论 ↗
引用degamad · 2025-09

“I think this might be the paper being referenced:”

猜测所指的可能就是这篇论文
Four Fallacies of Modern AI原评论 ↗
被提交为 story · 3 次