按年被提到
20182018 · 4 次2026
AI 安全、伦理与社会影响›AI 风险与对齐·arXiv:1802.07228 · cs.AI

The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation

人工智能的恶意使用:预测、预防与缓解
Miles Brundage, Shahar Avin, Jack Clark, Helen Toner, Peter Eckersley, Ben Garfinkel, Allan Dafoe, Paul Scharre, Thomas Zeitzoff, Bobby Filar, Hyrum Anderson, Heather Roff 等 26 人 · 2018

多机构联合报告:梳理 AI 恶意使用的安全威胁并提出应对建议

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 7 人首次 2018-02-21 · 最近 2026-09-14
7不同的人
5活跃月份
7讨论串
1,398被引(OpenAlex)

这份报告综述了恶意使用 AI 带来的潜在安全威胁,并提出更好地预测、预防和缓解这些威胁的办法。作者分析了 AI 在数字、物理和政治三个领域如何改变威胁格局,向 AI 研究者和其他利益相关方提出四条高层建议,并指出若干可扩大防御组合、或让攻击更低效更困难的研究方向。报告最后讨论了攻防双方的长期均衡,但没有给出定论。

HN 为什么提它

HN 上的人推荐它主要是帮人省时间:在相关新闻链接里,真正有内容的是这篇 arXiv 报告,它预测了 AI 的恶意使用及对策。

综述难度 2 / 5约 90 分钟有时效性
读之前最好知道
1人工智能基础概念
2网络安全基础
3AI 治理与政策

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐appleflaxen · 2018-02

“In case it saves anyone time: the real meat in this link is the arxiv paper:”

提醒链接里真正有价值的是这篇 arXiv 论文
Preparing for Malicious Uses of AI原评论 ↗
被提交为 story · 6 次