按年被提到
20172018 · 1 次2026
大模型与语言模型›可解释性与表征研究·arXiv:1711.08028 · cs.AI

Recurrent Relational Networks

循环关系网络
Rasmus Berg Palm, Ulrich Paquet, Ole Winther · 2017

在对象图上做多步关系推理的通用模块,能解数独和 bAbI 任务

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 3 人首次 2018-12-24 · 最近 2023-07-06
3不同的人
3活跃月份
3讨论串
71被引(OpenAlex)

论文针对需要一连串相互依赖的关系推理的任务,提出循环关系网络(Recurrent Relational Network),它是对 Santoro 等关系网络(relational network)的推广,可为任意神经网络增加多步关系推理能力。该模型在 bAbI 文本问答数据集上稳定解决 20/20 个任务,作者还提出诊断数据集 Pretty-CLEVR,并展示其能从监督数据中学会解数独,在最难的数独上解出 96.6%,在可比方法中达到最优。

HN 为什么提它

评论者用它作为例子,一方面说明它的衍生工作被用于解数独、星际争霸 II 等,另一方面说明神经网络解数独早已是入门级机器学习项目。

方法难度 3 / 5约 45 分钟经得起时间
读之前最好知道
1图神经网络与消息传递
2循环神经网络(RNN)
3关系网络(relational network)
4bAbI 问答基准

学习路径

读这篇之前,按顺序读书架上的 3 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

先看关系推理要解决的任务与关系网络,再理解消息传递框架,读循环关系网络如何做多步关系推理。

  1. 1
    Towards AI-Complete Question Answering: A Set of Prerequisite Toy Tasks迈向 AI 完备的问答:一组前置玩具任务 · 2015

    bAbI 任务是本文要评测的关系推理任务之一。

    读抓任务形式,特别是需要多步推理的几类任务。

  2. 2
    Neural Message Passing for Quantum Chemistry面向量子化学的神经消息传递 · 2017

    消息传递框架是在对象图上多步推理的通用形式。

    读抓消息函数、聚合与更新函数的统一框架,理解图上的迭代传播。

  3. 3
    A simple neural network module for relational reasoning用于关系推理的简单神经网络模块 · 2017

    本文是它的直接推广,把单步关系网络扩展到多步。

    读抓关系网络对所有对象对做成对关系计算,并想想为什么它只做一步推理。

  4. 4
    Recurrent Relational Networks循环关系网络 · 2017 · 就是这篇

    在对象图上做多步关系推理的模块,能解数独和 bAbI 任务。

    读抓循环的消息传递怎么实现多步推理,以及数独上的应用。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用yonkshi · 2018-12

“Derivatives of this paper have been used to solve Sudoku[1], Starcraft II[2] and more [3].”

指出这篇论文的衍生工作已被用于解数独、星际争霸 II 等
The Machine Learning Race Is Really a Data Race原评论 ↗
引用Isinlor · 2019-02

“Finally, we show how recurrent relational networks can learn to solve Sudoku puzzles from supervised training data”

引用它展示循环关系网络能从监督数据中学会解数独
Neural Networks Are Essentially Polynomial Regression (2018)原评论 ↗
引用selalipop · 2023-07

“training a NN to solve sudoku puzzles has been something you could do as an into to ML project going years back: Recurrent Relational Networks”

指出训练神经网络解数独多年前就是入门级 ML 项目
Code Interpreter will be available to all ChatGPT Plus users over the next week原评论 ↗