按年被提到
20142022 · 2 次2026
算法与数据结构›游戏复杂度与博弈论·arXiv:1401.5577 · cs.GT

Robust Cooperation in the Prisoner's Dilemma: Program Equilibrium via Provability Logic

囚徒困境中的稳健合作:基于可证明性逻辑的程序均衡
Mihaly Barasz, Paul Christiano, Benja Fallenstein, Marcello Herreshoff, Patrick LaVictoire, Eliezer Yudkowsky · 2014

能读对方源码的程序,用可证明性逻辑在囚徒困境中稳健合作

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 6 人首次 2014-07-18 · 最近 2025-12-30
6不同的人
6活跃月份
6讨论串
18被引(OpenAlex)

论文考虑算法之间的一次性囚徒困境,双方可以读取对方的源代码,并用可证明性的模态逻辑构造能实现相互合作的智能体。这种合作是稳健的,不要求双方源代码完全相同,也是不可被利用的,即对手背叛时智能体绝不合作。作者给出了这类“模态智能体”的一般框架,并研究其性质。

HN 为什么提它

HN 上的人把它当作程序均衡和一次性囚徒困境中基于相互证明的合作理论的代表作,也因 Yudkowsky 是作者之一而提及。

奠基之作难度 5 / 5约 60 分钟经得起时间
读之前最好知道
1博弈论与囚徒困境
2模态逻辑(modal logic)
3可证明性逻辑(provability logic)
4哥德尔不完备定理
5程序均衡(program equilibrium)

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐Eliezer · 2015-04

“This is a relatively old manuscript, and I would recommend instead reading, or at least first reading:”

称这是较旧的手稿,建议先读更新的相关文献
Timeless Decision Theory [pdf]原评论 ↗
推荐Jach · 2019-01

“I encourage people click through, though, really, and maybe even take a glance at Robust Cooperation in the Prisoner's Dilemma”

鼓励大家点进去,甚至瞥一眼这篇关于程序均衡的论文
Alexandria Ocasio-Cortez Is Absolutely Right About Racist Algorithms原评论 ↗
引用psyc · 2022-04

“Here's a sampling of his non-fiction writing:”

把它列为 Yudkowsky 的非虚构作品之一
The singularity is close?原评论 ↗
引用dash2 · 2022-06

“The paper underlying this discussion is here, by the way, and Eliezer Yudkowsky is an author:”

指出讨论所依据的论文,作者包括 Eliezer Yudkowsky
An introduction to logical decision theory for everyone else原评论 ↗
引用benlivengood · 2025-12

“If you want to solve logically harder problems like one-shot prisoners dilemma, there are preliminary theories for how that can be done by proving things about the other participants directly.”

引用它说明通过直接证明对方行为,可解决一次性囚徒困境这类难题
Non-Zero-Sum Games原评论 ↗
被提交为 story · 1 次