按年被提到
20202020 · 7 次2026
机器学习与深度学习›机器学习实践与反思·arXiv:2011.03395 · cs.LG

Underspecification Presents Challenges for Credibility in Modern Machine Learning

欠规范性对现代机器学习可信度的挑战
Alexander D'Amour, Katherine Heller, Dan Moldovan, Ben Adlam, Babak Alipanahi, Alex Beutel, Christina Chen, Jonathan Deaton, Jacob Eisenstein, Matthew D. Hoffman, Farhad Hormozdiari, Neil Houlsby 等 40 人 · 2020

指出欠规范性使模型训练域表现相同、部署后行为却迥异

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 9 人首次 2020-11-09 · 最近 2023-03-24
9不同的人
4活跃月份
9讨论串
490被引(OpenAlex)

论文指出欠规范性(underspecification)是机器学习模型在真实部署中表现意外变差的关键原因:若一个 ML 流水线能返回许多在训练域留出集上表现同样出色的预测器,它就是欠规范的,这在深度学习流水线中很常见。这些预测器在训练域看似等价,在部署域却可能行为迥异,造成不稳定,且不同于训练与部署域结构不匹配的已知问题;作者用计算机视觉、医学影像、NLP、基于电子病历的临床风险预测和医学基因组学等多个实例展示了这一问题,并指出面向真实部署的建模流程需要明确考虑欠规范性。

HN 为什么提它

HN 上的人引用它说明现代机器学习模型即便在测试集上表现良好,部署后也可能因欠规范性而脆弱、不稳定。

实证研究难度 3 / 5约 60 分钟经得起时间
读之前最好知道
1机器学习泛化与留出集评估
2分布偏移(distribution shift)
3深度学习与过参数化
4随机初始化与训练的可复现性

学习路径

读这篇之前,按顺序读书架上的 5 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

这条路径帮我理解深度模型会学到捷径、训练分布内表现相同的模型在部署时行为迥异,以及分布外泛化的不同视角,这些是欠规范性论证的背景。

  1. 1
    BERT: Pre-training of Deep Bidirectional Transformers for Language UnderstandingBERT:用于语言理解的深度双向 Transformer 预训练 · 2018

    目标论文的 NLP 实验使用预训练 BERT,需要了解其微调流程。

    读预训练加微调的流程;不同随机种子微调结果的差异。

  2. 2
    ImageNet-trained CNNs are biased towards texture; increasing shape bias improves accuracy and robustnessImageNet 训练的 CNN 偏向纹理;提高形状偏好可改善精度与鲁棒性 · 2018

    CNN 偏向纹理的发现,是训练分布内表现好、部署时脆弱的典型例子。

    读纹理偏好与形状偏好的对比实验。

  3. 3
    Right for the Wrong Reasons: Diagnosing Syntactic Heuristics in Natural Language Inference答对了却理由错误:诊断自然语言推理中的句法启发式 · 2019

    说明 NLI 模型靠句法启发式答对,是同类的捷径现象。

    读HANS 评测集的设计,以及模型在其上失败的原因。

  4. 4
    Invariant Risk Minimization不变风险最小化 · 2019

    提供另一种处理分布外泛化的视角,即学习跨环境不变的相关性。

    读不变性的核心想法,以及虚假相关的例子。

  5. 5

    对捷径学习做系统归纳,与欠规范性互为补充。

    读捷径的定义、分类和例子,以及为何测试集表现会产生误导。

  6. 6
    Underspecification Presents Challenges for Credibility in Modern Machine Learning欠规范性对现代机器学习可信度的挑战 · 2020 · 就是这篇

    目标论文:用欠规范性解释部署时的失败。

    读欠规范性的定义,以及同一管线不同随机种子的预测器在训练域外的差异。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用throwaway888abc · 2020-11

“Here is the paper.”

给出论文,说明 ML 流水线中的欠规范会导致部署性能不稳定
Google Reveals Major Hidden Weakness in Machine Learning原评论 ↗
引用andy99 · 2021-05

“You've probably seen it, but a more recent, related paper (that I think has some of the same authors) about inherent features of modern ML that make models so fragile, even if they test OK:”

推荐一篇相关的较新论文,讲现代 ML 的固有特性让模型即便测试通过也很脆弱
Andrew Ng says AI has a proof-of-concept-to-production gap原评论 ↗
引用pms · 2023-03

“I wished more parameters gave a generalizable solution, but research suggests”

拿研究说明更多参数并不会带来可泛化的解
ChatGPT Plugins原评论 ↗
被提交为 story · 6 次