“Yes, one of the links is from DeepMind: "A simple neural network module for relational reasoning" A simple neural network module for relational reasoning”
A simple neural network module for relational reasoning
即插即用的关系网络(RN)模块,在 CLEVR 上超越人类
关系推理是通用智能的核心,却很难让神经网络学会。论文介绍关系网络(Relation Networks,RN)这一即插即用的简单模块,并在三类任务上测试:视觉问答(CLEVR 数据集,达到当时最佳并超越人类)、基于文本的 bAbI 问答,以及动态物理系统推理。借助 Sort-of-CLEVR 数据集,作者还表明强大的卷积网络本身不具备通用的关系推理能力,加上 RN 后才获得。
HN 上的人把它当作 DeepMind 关系推理模块的出处,作为样本效率进步和神经网络能回答场景问题的例子,也出现在论文阅读清单中。
学习路径
读这篇之前,按顺序读书架上的 6 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出这条路径先看记忆网络与 bAbI 这条问答推理主线,再看动态记忆网络和视觉推理的程序式方法,最后读关系网络如何用一个简单模块在 CLEVR 与 bAbI 上取得好成绩。
- 1
- 2
- 3
关系网络要评测的 bAbI 任务集来自这里。
读各任务类型与评测方式,尤其是需要推理的任务。
- 4
动态记忆网络,在 bAbI 上的强基线。
读情景记忆与迭代注意力,与关系网络的做法对比。
- 5
把动态记忆网络扩展到视觉问答,与目标论文在视觉任务上对应。
读视觉输入如何接入记忆模块。
- 6
同期在 CLEVR 上的程序式方法,是对照关系网络端到端方案的另一条路线。
读先生成程序再执行的流程,与关系网络的简单模块对比。
- 7A simple neural network module for relational reasoning
目标论文:即插即用的关系网络模块,在 CLEVR 上超越人类。
读成对对象关系的计算形式,以及 CLEVR、bAbI 和物理推理三类实验。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及“an example of recent progress in terms of sample efficiency is this paper[0].”
“In 2017, it could answer questions about a scene[1].”
“A Simple Neural Network Module for Relational Reasoning - A simple neural network module for relational reasoning”
- Relational Reasoning with Neural Networks ↗idibidiartists · 2017-06-06 · 137 分