按年被提到
20152021 · 2 次2026
AI 安全、伦理与社会影响›通用智能与意识·arXiv:1510.04931 · cs.AI

Bad Universal Priors and Notions of Optimality

糟糕的通用先验与最优性的概念
Jan Leike, Marcus Hutter · 2015

证明 AIXI 的最优性依赖通用图灵机的选择,带有主观性

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 3 人首次 2021-06-25 · 最近 2024-11-24
3不同的人
4活跃月份
4讨论串
50被引(OpenAlex)

算法信息论中一个悬而未决的问题是通用图灵机(UTM)的选择:对柯尔莫哥洛夫复杂度和 Solomonoff 归纳有不变性定理,但对通用智能体 AIXI 没有。论文给出全是负面的结果:不走运或被刻意选择的 UTM 会让 AIXI 表现得非常糟糕,Legg-Hutter 智能以及平衡 Pareto 最优性完全是主观的,在所有可计算环境类中每个策略都是 Pareto 最优的。这削弱了 AIXI 现有的全部最优性性质,说明 AIXI 是依赖于 UTM 选择的相对性理论。

HN 为什么提它

评论者引用它说明通用先验的弱点:通用图灵机的选择不能忽略,AIXI 因此带有“主观”色彩。

其他难度 5 / 5约 90 分钟经得起时间
读之前最好知道
1柯尔莫哥洛夫复杂度(Kolmogorov complexity)
2所罗门诺夫归纳(Solomonoff induction)
3AIXI 与通用智能的形式化
4通用图灵机(universal Turing machine)
5强化学习的基础理论

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐tarxzvf · 2021-08

“This paper provides some interesting results on the weakness inherent in universal priors: Bad Universal Priors and Notions of Optimality”

推荐:论文给出了通用先验固有弱点的有趣结果
Fooling Neural Networks [pdf]原评论 ↗
引用vintermann · 2024-05

“Here is Leike's paper, coauthored with Hutter:”

贴出 Leike 与 Hutter 合著的论文
Ilya Sutskever to leave OpenAI原评论 ↗
引用chriswarbo · 2024-11

“This paper from Hutter in 2015 Bad Universal Priors and Notions of Optimality considers AIXI to be "subjective", since the choice of Universal Turing Machine is left unspecified:”

引用 Hutter 这篇论文,说明 AIXI 因通用图灵机选择未定而显得主观
The $5000 Compression Challenge (2001)原评论 ↗
被提交为 story · 1 次