按年被提到
20252026 · 5 次2026
AI 安全、伦理与社会影响›AI 风险与对齐·arXiv:2507.09369 · cs.AI

A Taxonomy of Omnicidal Futures Involving Artificial Intelligence

涉及人工智能的灭绝性未来分类
Andrew Critch, Jacob Tsimerman · 2025

把 AI 可能导致人类灭绝的情景分门别类并逐类举例

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 5 人首次 2026-07-21 · 最近 2026-10-04
5不同的人
3活跃月份
5讨论串
0被引(OpenAlex)

这份报告给出由 AI 引发的“灭绝性”事件(全部或几乎全部人类死亡)的分类,并为各类提供示例。作者强调这些并非不可避免,而是可以努力避免的可能性,希望通过公开呈现这些情景,争取公众对预防灾难性风险措施的支持。

HN 为什么提它

评论者把它当作一份“吓人”的分类来引用,称其每个分类叶节点都有示例,有人觉得其中的情景(如以自主无人机军队为主的全球战争)相当可信。

观点难度 2 / 5约 30 分钟经得起时间
读之前最好知道
1AI 安全与灾难性风险基础
2自主武器与军事 AI 背景
3风险情景分析(scenario analysis)

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用hackandthink · 2026-07

“Scary stuff from one of the winners:”

转述这篇由一位菲尔兹奖得主参与的论文,称内容吓人
Fields Medals 2026原评论 ↗
引用buellerbueller · 2026-09

“and it gives an example in each taxonomic leaf node:”

指出它在每个分类叶节点下都给出了例子
The Last 24 Hours Are the Opening Scene in a Horror Movie原评论 ↗
引用reasonableklout · 2026-10

“I find the scenarios quite plausible, especially section (3a), which examines the consequences of a global war involving mostly autonomous drone militaries”

认为其中的场景相当可信,尤其是自主无人机军队的全球战争
LeCun has "zero concerns" about AI wiping out humanity, recent "rogue" incidents原评论 ↗
被提交为 story · 2 次