“This is a relatively old manuscript, and I would recommend instead reading, or at least first reading:”
按年被提到
20142022 · 2 次2026
Robust Cooperation in the Prisoner's Dilemma: Program Equilibrium via Provability Logic
囚徒困境中的稳健合作:基于可证明性逻辑的程序均衡
Mihaly Barasz, Paul Christiano, Benja Fallenstein, Marcello Herreshoff, Patrick LaVictoire, Eliezer Yudkowsky · 2014
能读对方源码的程序,用可证明性逻辑在囚徒困境中稳健合作
被推荐 · 6 人首次 2014-07-18 · 最近 2025-12-30
6不同的人
6活跃月份
6讨论串
18被引(OpenAlex)
论文考虑算法之间的一次性囚徒困境,双方可以读取对方的源代码,并用可证明性的模态逻辑构造能实现相互合作的智能体。这种合作是稳健的,不要求双方源代码完全相同,也是不可被利用的,即对手背叛时智能体绝不合作。作者给出了这类“模态智能体”的一般框架,并研究其性质。
HN 为什么提它
HN 上的人把它当作程序均衡和一次性囚徒困境中基于相互证明的合作理论的代表作,也因 Yudkowsky 是作者之一而提及。
奠基之作难度 5 / 5约 60 分钟经得起时间
读之前最好知道
1博弈论与囚徒困境
2模态逻辑(modal logic)
3可证明性逻辑(provability logic)
4哥德尔不完备定理
5程序均衡(program equilibrium)
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及推荐Eliezer · 2015-04
称这是较旧的手稿,建议先读更新的相关文献
推荐Jach · 2019-01
“I encourage people click through, though, really, and maybe even take a glance at Robust Cooperation in the Prisoner's Dilemma”
鼓励大家点进去,甚至瞥一眼这篇关于程序均衡的论文
引用psyc · 2022-04
“Here's a sampling of his non-fiction writing:”
把它列为 Yudkowsky 的非虚构作品之一
引用dash2 · 2022-06
“The paper underlying this discussion is here, by the way, and Eliezer Yudkowsky is an author:”
指出讨论所依据的论文,作者包括 Eliezer Yudkowsky
引用benlivengood · 2025-12
“If you want to solve logically harder problems like one-shot prisoners dilemma, there are preliminary theories for how that can be done by proving things about the other participants directly.”
引用它说明通过直接证明对方行为,可解决一次性囚徒困境这类难题
被提交为 story · 1 次
- Robust Cooperation in the Prisoner's Dilemma ↗jonbaer · 2014-07-18 · 3 分