“Must reads:”
按年被提到
20182024 · 3 次2026
Categorizing Variants of Goodhart's Law
古德哈特定律变体的分类
David Manheim, Scott Garrabrant · 2018
拆解过度优化指标导致失效的几种机制
被推荐 · 4 人首次 2018-06-15 · 最近 2026-01-17
4不同的人
8活跃月份
9讨论串
74被引(OpenAlex)
指出把某个指标当作优化目标、优化过度后会失效或有害,这类问题常被称为古德哈特定律,但术语含糊使人忽略了不同失效模式之间的区别。论文在 Garrabrant 此前提出的至少四种机制基础上,进一步细化并更清楚地说明各自如何发生,可用于理解经济监管、公共政策、机器学习和 AI 对齐中的类似失败。
HN 为什么提它
评论者把它作为讲清指标如何在压力下被扭曲的必读材料,用来区分古德哈特定律的不同形式,并讨论如何缓解。
综述难度 3 / 5约 40 分钟经得起时间
读之前最好知道
1古德哈特定律(Goodhart's Law)
2代理指标与目标函数
3基础统计学(回归、相关与因果)
4AI 对齐的基本问题
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及强烈推荐divan · 2024-02
列为必读,古德哈特定律变体的分类
强烈推荐divan · 2024-02
“I highly recommend reading these two papers on the subject for anyone interested:”
强烈推荐感兴趣的人读这篇古德哈特定律变体的分类
推荐pikwip · 2021-09
“Here's a interesting paper I found that attempts to categorize the mechanisms by which Goodhart's Law operates in the real world.”
推荐这篇给古德哈特定律在现实中的作用机制分类的论文
推荐divan · 2023-06
“Here are a couple of good papers on how metrics distort systems and what can be done to mitigate this.”
推荐它,讲指标如何扭曲系统以及如何缓解
引用davidmanheim · 2018-06
“As well as my more recent paper categorizing the different ways it occurs; Categorizing Variants of Goodhart's Law”
作者介绍自己较新的论文,对古德哈特定律的不同发生方式做了分类
引用davidmanheim · 2021-10
“For an extensive discussion of how this can happen, see: Categorizing Variants of Goodhart's Law”
引用它,详细讨论指标在压力下如何被扭曲
看全部 8 条 →
被提交为 story · 1 次
- Categorizing Variants of Goodhart's Law ↗foster_nyman · 2026-01-17 · 1 分