按年被提到
20162017 · 5 次2026
机器学习与深度学习›机器学习实践与反思·arXiv:1602.04938 · cs.LG

"Why Should I Trust You?": Explaining the Predictions of Any Classifier

「我为什么该相信你?」:解释任意分类器的预测(LIME)
Marco Tulio Ribeiro, Sameer Singh, Carlos Guestrin · 2016

LIME:在预测点附近拟合可解释的局部模型,解释任意分类器

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 15 人首次 2016-04-12 · 最近 2024-06-05发表于 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (NAACL-HLT)
15不同的人
13活跃月份
15讨论串
6,702被引(OpenAlex)

提出 LIME,通过在单个预测附近学习一个可解释的局部模型,以可解释且忠实的方式解释任意分类器的预测;并把「挑选有代表性的个体预测及其解释」建模为子模优化问题(SP-LIME)。作者在文本和图像分类上,通过模拟实验和人类实验,展示了解释在判断是否信任预测、选择模型、改进模型等场景中的作用。

HN 为什么提它

HN 上的人把 LIME 当作可解释机器学习的代表方法,有人提到它在欧盟被用于解释信用决策,也有人用其中的例子说明分类器可能因无关原因而准确。

方法难度 3 / 5约 50 分钟经得起时间
读之前最好知道
1监督学习与分类器
2线性模型与稀疏回归
3模型可解释性(interpretability)
4子模优化(submodular optimization)基础

学习路径

读这篇之前,按顺序读书架上的 2 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

候选里与 LIME 直接相关的不多,主要是理解卷积网络内部可视化与图像分类器(LIME 在图像上解释的对象)。

  1. 1
    Visualizing and Understanding Convolutional Networks卷积网络的可视化与理解 · 2013

    代表另一类解释思路:直接可视化卷积网络内部特征,与 LIME 的黑盒局部解释形成对照。

    读反卷积可视化的做法与它依赖模型内部结构这一点。

  2. 2
    Going Deeper with Convolutions用卷积走得更深 · 2014

    LIME 的图像实验解释的就是 Inception 这类深度卷积网络的预测。

    读只需了解 Inception 是怎样的图像分类网络;不必细读结构细节。

  3. 3
    "Why Should I Trust You?": Explaining the Predictions of Any Classifier「我为什么该相信你?」:解释任意分类器的预测(LIME) · 2016 · 就是这篇

    目标论文:在预测点附近扰动输入,拟合可解释的局部线性模型。

    读局部保真度与可解释性的权衡目标函数,扰动采样与稀疏线性模型;再看 SP-LIME 选代表性样本。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐nl · 2017-03

“The most impressive piece of work I'm aware of in this area is LIME”

称 LIME 是这一领域最让人印象深刻的工作
War by any means: The story of DARPA原评论 ↗
推荐rangerranvir · 2020-04

“Found a good resource which explained the trust component:”

分享一份解释信任部分的好资料
Introduction to Support Vector Machines in Machine Learning原评论 ↗
引用vonnik · 2016-09

“If any one wants the direct link to the arXiv paper, it's here: "Why Should I Trust You?"”

贴出 LIME 论文的 arXiv 直链
Explainable Artificial Intelligence (XAI) Darpa Funding原评论 ↗
引用yoav_hollander · 2016-09

“This paper ([0]) is actually mentioned in the DARPA BAA ([1]) as an example of a possible direction.”

指出 DARPA BAA 把这篇论文列为可能的方向
Explainable Artificial Intelligence (XAI) Darpa Funding原评论 ↗
引用halwa · 2017-07

“Roughly speaking, LIME learns a locally approximate model which can be interpreted.”

概括 LIME 是学一个可解释的局部近似模型
Thoughts on OpenAI, reinforcement learning, and killer robots原评论 ↗
引用drieddust · 2017-08

“Look at section 3.5 where classifier was predicting with 94% accuracy for completely unrelated reasons like a person's name.”

指向第 3.5 节:分类器靠人名之类无关原因也有 94% 准确率
Should Artificial Intelligence Be Regulated?原评论 ↗
看全部 12 条 →
引用nl · 2017-12

“LIME is being used within the EU to explain credit decisions and fraud detection flagging on neural network based models, which is quite a high bar to regulatory oversight to pass.”

指出欧盟用 LIME 解释神经网络的信贷决策和欺诈标记
DeepVariant: Highly Accurate Genomes with Deep Neural Networks原评论 ↗
引用standyro · 2017-12

“explainability of machine learning models is a hot field:”

借它说明可解释性是个热门领域
A friend of mine died and I didn't know because of algorithms原评论 ↗
引用jamessb · 2018-03

“The lime [2] package, based on this paper [3], is also notable.”

提到基于这篇论文的 lime 包同样值得关注
It’s time for a digital protection agency原评论 ↗
引用Der_Einzige · 2019-07

“A simple counter-example.”

拿 LIME 作简单反例
Interpretable Machine Learning原评论 ↗
引用spekcular · 2020-11

“See also Section 6.3 of this paper for how interpretability can help choose models with superior generalization”

推荐看第 6.3 节:可解释性有助于挑选泛化更好的模型
Interpretability in Machine Learning: An Overview原评论 ↗
引用pona-a · 2024-06

“If they've trained an interpretable student [2]”

提到训练一个可解释的学生模型来解释预测
No physics? No problem. AI weather forecasting is already making strides原评论 ↗
被提交为 story · 4 次