按年被提到
20162016 · 4 次2026
强化学习与智能体›深度强化学习与世界模型·arXiv:1606.04671 · cs.LG

Progressive Neural Networks

渐进式神经网络
Andrei A. Rusu, Neil C. Rabinowitz, Guillaume Desjardins, Hubert Soyer, James Kirkpatrick, Koray Kavukcuoglu, Razvan Pascanu, Raia Hadsell · 2016

用横向连接复用旧任务特征、避免灾难性遗忘的网络结构

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 4 人首次 2016-07-04 · 最近 2016-12-14
4不同的人
4活跃月份
4讨论串
1,306被引(OpenAlex)

提出渐进式网络:通过到先前已学特征的横向连接来利用旧知识,从而不会遗忘旧任务。在 Atari 和 3D 迷宫等强化学习任务上优于预训练加微调等常见基线,并用一种新的敏感度度量表明迁移同时发生在低层感知和高层控制层。

HN 为什么提它

评论者在讨论“积累知识而不遗忘已有知识”的新方法时拿它做对照参考。

方法难度 4 / 5约 40 分钟经得起时间
读之前最好知道
1强化学习(reinforcement learning)
2迁移学习与微调
3灾难性遗忘(catastrophic forgetting)
4深度神经网络

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用iverjo · 2016-12

“How does this relate to Progressive Neural Networks [0]? That technique is also about accumulating knowledge (while not forgetting existing knowledge)”

拿它与新工作对比,同样是累积知识而不遗忘
Neurogenesis Deep Learning原评论 ↗
被提交为 story · 3 次