按年被提到
20142015 · 1 次2026
AI 安全、伦理与社会影响›AI 风险与对齐·arXiv:1410.8233 · cs.AI

Do Artificial Reinforcement-Learning Agents Matter Morally?

人工强化学习智能体在道德上重要吗?
Brian Tomasik · 2014

论证当今的强化学习智能体具有微小但非零的道德地位

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 3 人首次 2015-08-10 · 最近 2022-09-12
3不同的人
3活跃月份
3讨论串
5被引(OpenAlex)

作者指出,计算机科学中的强化学习与动物和人脑中的奖惩学习有惊人的相似。他论证当今的人工 RL 智能体具有极小但非零的伦理重要性:对“感受性有程度之分”的观点尤其合理,即便持二元意识观的人也应给 RL 程序拥有道德相关体验一个非零概率。作者认为它们现在还不是首要伦理议题,但未来可能变得更重要,呼吁科学家、哲学家和公众开始讨论。

HN 为什么提它

输入没有评论摘录,只知道 2015、2018、2022 年有 3 个人在不同月份提过它,具体原因不明。

观点难度 2 / 5约 40 分钟经得起时间
读之前最好知道
1强化学习基础
2意识与感受性(sentience)的哲学讨论
3动物伦理学基础

HN 书评

没有评论直接链到它;下面是它被提交的讨论串里回复最多的评论(不计入统计)
讨论串评论version_five · 2022-09

“If it ends up being theoretically possible to write out a "sentient" equation on paper, I expect our concern should be more that we as humans can be represented this way and what it says about the nature of our existence, rather that what the feelings are of the equation we wrote down”

Do Artificial Reinforcement-Learning Agents Matter Morally?原评论 ↗
被提交为 story · 3 次