“It provides a good representation of what she does and what she is well known for.”
Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead
主张高风险决策应直接使用固有可解释模型,而非事后解释黑箱
论文指出,黑箱机器学习模型正被用于医疗、刑事司法等高风险决策并引发问题,而试图“解释”黑箱而非从一开始就构建可解释模型,很可能延续不良做法并带来灾难性后果。作者主张设计固有可解释的模型,澄清了解释黑箱与使用可解释模型之间的鸿沟,列出在高风险决策中应避免“可解释黑箱”的若干理由,指出可解释机器学习的挑战,并给出刑事司法、医疗和计算机视觉中可用可解释模型替代黑箱的例子。
HN 上的人引用它代表 Rudin 的哲学立场:高风险场景应选可解释模型而非事后解释黑箱,并用它讨论偏见和模型可信度(如 Rashomon 集合的论点)。
学习路径
读这篇之前,按顺序读书架上的 2 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出这条路径帮你看到监管对可解释性的要求,以及复杂分类器不一定比简单方法更好的早期证据,再读主张改用可解释模型的论文。
- 1
说明法规对算法决策解释权的要求,是文中讨论解释与可解释模型的现实背景。
读GDPR 对算法决策和解释权的含义。
- 2
指出复杂分类器相对简单方法的优势往往是幻觉,支持改用简单可解释模型的论点。
读简单方法与复杂方法性能接近的论证。
- 3Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead
主张高风险决策应直接使用固有可解释模型,而非事后解释黑箱。
读对事后解释的批评,以及可解释模型与准确性并不矛盾的论述。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及“to create a more easily explainable model, and try to avoid biases that may creep into a model”
“From the linked paper, linked again [0] below, I think this represents Rudins philosophical view, and why it could be practical:”
“There is good evidence these reduced form estimates can often be misleading, Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead.”
“They are also well known to be black boxes”
- Stop Explaining Black Box Models for High Stakes Decisions ↗polm23 · 2019-10-31 · 150 分
- Stop Explaining Black Box Machine Learning Models, Use Interpretable Models [pdf] ↗alanfranz · 2020-02-19 · 2 分