按年被提到
20252025 · 6 次2026
大模型与语言模型›可解释性与表征研究·arXiv:2505.11581 · cs.CV

Questioning Representational Optimism in Deep Learning: The Fractured Entangled Representation Hypothesis

质疑深度学习中的表征乐观主义:破碎纠缠表征假说
Akarsh Kumar, Jeff Clune, Joel Lehman, Kenneth O. Stanley · 2025

对比演化网络与 SGD 网络,提出 SGD 训练得到“破碎纠缠表征”。

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 7 人首次 2025-05-20 · 最近 2026-09-14
7不同的人
6活跃月份
9讨论串
12被引(OpenAlex)

这篇立场论文质疑“性能更好必然意味着内部表征更好”的表征乐观主义。作者在生成单张图像这一极简任务上,对比了通过开放式搜索演化出的网络与常规 SGD 训练的网络:两者输出行为相同,内部表征却差别很大。SGD 网络出现一种称为“破碎纠缠表征”(FER)的混乱,而演化网络基本没有 FER,甚至接近统一的因子化表征(UFR)。作者认为在大模型中 FER 可能损害泛化、创造力和(持续)学习,理解并缓解它对表征学习的未来可能至关重要。

HN 为什么提它

评论者借它论证梯度下降得不到功能上有组织的内部表征,把“破碎纠缠表征”当作对深度学习表征质量的批评来引用,也有人称其为 Ken Stanley 最新的表征论文。

观点难度 4 / 5约 40 分钟经得起时间
读之前最好知道
1神经网络与随机梯度下降(SGD)
2表征学习
3开放式进化搜索(open-ended search)
4神经元可视化与可解释性

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用mattdesl · 2025-05

“The full title of the paper is “Questioning Representational Optimism in Deep Learning: The Fractured Entangled Representation Hypothesis.””

给出论文全名,其核心概念是破碎纠缠表征假说
Questioning Representational Optimism in Deep Learning原评论 ↗
引用kmeisthax · 2025-06

“Stochastic gradient descent does not yield functional internal representations[1]; it fills the bucket of parameters with one distribution and one distribution only.”

拿它论证梯度下降得不到有功能的内部表征,只是用单一分布填满参数
Vision Language Models Are Biased原评论 ↗
引用vatsachak · 2025-11

“Survival is not a goal, it is a constraint.”

在论述末尾链接这篇对深度学习表征质量的批评
The space of minds原评论 ↗
引用publicdaniel · 2026-02

“This reminds me of the latest Ken Stanley paper on representations.”

联想到 Ken Stanley 最新的表征论文,认为深度学习表征破碎而纠缠
An autopsy of AI-generated 3D slop原评论 ↗
引用ianjbutler · 2026-08

“maybe the more modern lens on this is e.g. Questioning Representational Optimism in Deep Learning.”

把它当作看待手工特征工程与 SGD 学习表征之间关系的更现代视角
Small Models Have Arrived原评论 ↗
引用jsrozner · 2026-09

“which is hopefully coherent and consistent -- but definitely not always! see, e.g., Questioning Representational Optimism in Deep Learning)”

指出深度学习表征未必连贯一致,可能是破碎纠缠的
A beginning for mathematics原评论 ↗
被提交为 story · 3 次