“For anyone interested in "building AI", read that paper and all it's references.”
End-To-End Memory Networks
可端到端训练、带多跳注意力读取外部记忆的网络
论文提出一种对可能很大的外部记忆做循环注意力的神经网络。它是 Memory Network 的一种形式,但可以端到端训练,因此训练时所需监督显著减少,更适用于现实场景;也可视为把 RNNsearch 扩展为每个输出符号执行多步计算(hop)。在(合成)问答上它与 Memory Network 相当但监督更少,在 Penn TreeBank 和 Text8 的语言建模上与 RNN、LSTM 相当,且多跳计算在两类任务中都带来改进。
HN 评论者把它当作通向具备推理能力的 AI 的一条路线来推荐,也把它列为问答任务的例子,并有人尝试把它用于视觉问答。
学习路径
读这篇之前,按顺序读书架上的 4 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出这条路径先建立序列到序列、软注意力和外部记忆(神经图灵机)的基础,再看 bAbI 问答任务,最后读端到端记忆网络如何用多跳注意力读取记忆。
- 1
编码器-解码器的序列建模基础,端到端记忆网络的输出端沿用了这种思路。
读用 LSTM 编码再解码的整体框架;理解其定长向量瓶颈。
- 2
论文自称是 RNNsearch 的扩展(每个输出符号做多步计算),需要先懂软注意力。
读软对齐的注意力权重如何计算并加权求和上下文;重点看对齐模型一节。
- 3
- 4
目标论文的合成问答实验就用 bAbI 任务评测。
读各类任务(单事实、多事实、计数等)想考察的推理能力,以及任务格式。
- 5End-To-End Memory Networks
目标论文:多跳注意力读取外部记忆,可端到端训练,监督更少。
读单层结构(嵌入、注意力、输出)与多层堆叠成多跳的方式;bAbI 问答与语言建模实验。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及“question answering (Q/A) [10][11]”
“Right now I am working on converting "End to end network" -End-To-End Memory Networks to this task.”
- Weakly supervised memory networks [pdf] ↗dave_sullivan · 2015-04-01 · 1 分