引用tedsanders · 2025-07
“I myself published a 100-page paper on why I think transformative AGI by 2043 is quite unlikely.”
作者自己介绍这篇百页论文,论证 2043 年前实现变革性 AGI 不太可能
把变革性 AGI 拆成连乘的必要步骤,估计 2043 年前实现概率仅 0.4%。
这是提交给 Open Philanthropy AI Worldviews 竞赛的论文,估计 2043 年前出现“变革性 AGI”(能以不高于人类的成本完成几乎所有有价值任务的 AI)的概率低于 1%。作者把该事件分解为软件、硬件和社会政治三类必要步骤,对每一步估计在前序步骤已达成的条件下于 2043 年前成功的概率(16% 到 95%),连乘得到 0.4%。他们认为要让总概率超过 10% 需要不合理的高取值,即便 3% 也难以成立。
输入里只有一条摘录:作者本人在 2025 年的评论中引用这篇长篇论文,说明自己为何认为 2043 年前实现变革性 AGI 很不可能。
“I myself published a 100-page paper on why I think transformative AGI by 2043 is quite unlikely.”