按年被提到
20232023 · 4 次2026
AI 安全、伦理与社会影响›AI 风险与对齐·arXiv:2303.16200 · cs.CY

Natural Selection Favors AIs over Humans

自然选择偏爱 AI 而非人类
Dan Hendrycks · 2023

用进化论论证最成功的 AI 可能带来灾难性风险

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 4 人首次 2023-06-18 · 最近 2026-09-28
4不同的人
4活跃月份
6讨论串
44被引(OpenAlex)

论文用自然选择的逻辑分析塑造 AI 演化的环境,认为企业和军队之间的竞争压力会让最成功的 AI 智能体具备取代人类角色、欺骗他人、攫取权力等不良特质。更抽象地说,自然选择作用于存在竞争和变异的系统,自私者通常占优,这一逻辑也可能适用于人工智能体。作者最后讨论了设计内在动机、限制行动、建立促进合作的制度等干预思路。

HN 为什么提它

HN 评论者提到它是因为作者认真地把新达尔文主义进化论用到 AI 上,且面向非专业读者;有人把它当作某篇短文的完整长版。

观点难度 2 / 5约 60 分钟经得起时间
读之前最好知道
1自然选择与进化论基础
2AI 安全与对齐问题(alignment)
3博弈论中的竞争与合作

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐da39a3ee · 2023-06

“The author takes a lot of care to attempt to justify his claims about the application of neo-Darwinian evolutionary theory to AI.”

推荐:作者很用心地论证把新达尔文进化论用于 AI 的主张
The Darwinian argument for worrying about AI原评论 ↗
引用da39a3ee · 2023-06

“This article is a shortened version of the much longer (but still written for a non-expert audience) paper: Natural Selection Favors AIs over Humans”

指出这篇文章是该长论文的缩短版,长论文同样面向非专业读者
The Darwinian Argument for Worrying About AI原评论 ↗
被提交为 story · 4 次