按年被提到
20232023 · 3 次2026
AI 安全、伦理与社会影响›AI 风险与对齐·arXiv:2306.12001 · cs.CY

An Overview of Catastrophic AI Risks

灾难性 AI 风险概览
Dan Hendrycks, Mantas Mazeika, Thomas Woodside · 2023

把灾难性 AI 风险分成四类并给出情景与缓解建议

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 5 人首次 2023-06-22 · 最近 2025-02-10发表于 CRC Press eBooks
5不同的人
5活跃月份
5讨论串
191被引(OpenAlex)

系统梳理灾难性 AI 风险的主要来源,分为四类:恶意使用、AI 竞赛、组织性风险、失控的 AI。每一类都描述具体危害、给出示例情景、设想理想情形,并提出实用的缓解建议,目的是促进对这些风险的全面理解和提前行动。

HN 为什么提它

有人把它推荐为比较广泛、技术性较低的 AI 安全入门读物。

综述难度 2 / 5约 90 分钟经得起时间
读之前最好知道
1人工智能基础概念
2AI 安全(AI safety)基本问题
3风险分析与组织事故理论的基本概念

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐agucova · 2024-05

“A broader, less technical introduction to AI Safety that I like is Hendricks et al's An Overview of Catastrophic AI Risks, An Overview of Catastrophic AI Risks”

推荐它作为范围更广、技术性更低的 AI 安全入门
OpenAI created a team to control 'superintelligent' AI – then let it wither原评论 ↗
引用neom · 2025-02

“Oh there have been LOADS over the years.”

指出多年来已有大量论述 AI 对劳动力市场和社会的风险
Three Observations原评论 ↗
被提交为 story · 3 次