按年被提到
20172017 · 11 次2026
大模型与语言模型›序列模型与注意力机制·arXiv:1706.05137 · cs.LG

One Model To Learn Them All

一个模型学会所有任务
Lukasz Kaiser, Aidan N. Gomez, Noam Shazeer, Ashish Vaswani, Niki Parmar, Llion Jones, Jakob Uszkoreit · 2017

单个模型联合学习图像、翻译、语音和句法解析

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 15 人首次 2017-06-19 · 最近 2024-10-30
15不同的人
7活跃月份
15讨论串
253被引(OpenAlex)

论文提出一个单一模型,在 ImageNet、多个翻译任务、COCO 图像描述、语音识别语料和英语句法分析上同时训练,在多个领域都取得不错的结果。其架构融合了卷积层、注意力机制和稀疏门控层,作者观察到即便某个模块对某任务并不关键,加入它也不会损害性能、多数情况下还能提升,数据较少的任务从联合训练中受益最大,而大任务的性能几乎不受影响。

HN 为什么提它

2017 年评论者把它当作多任务、跨领域统一模型的早期例子,与 Karpathy 的 Software 2.0 并提,2019 年也有人以略带批评的口吻提到它。

方法难度 3 / 5约 35 分钟经得起时间
读之前最好知道
1卷积神经网络
2注意力机制与 Transformer
3多任务学习(multi-task learning)
4稀疏门控专家混合(MoE)

学习路径

读这篇之前,按顺序读书架上的 6 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

这条路径先补序列到序列、残差网络和机器翻译系统,再看多语言单模型与卷积序列模型,才能理解 MultiModel 如何把图像、语音和文本任务塞进同一个模型。

  1. 1
    Sequence to Sequence Learning with Neural Networks用神经网络进行序列到序列学习 · 2014

    MultiModel 处理文本任务时沿用编码器-解码器的序列到序列框架。

    读编码器读入、解码器逐步生成的基本结构;理解自回归输出的概念。

  2. 2
    Deep Residual Learning for Image Recognition用于图像识别的深度残差学习 · 2015

    MultiModel 的图像和卷积模块里大量使用残差连接。

    读残差块 y = F(x) + x 的思想,以及它为何让深层网络可训练。

  3. 3
    Google's Neural Machine Translation System: Bridging the Gap between Human and Machine Translation谷歌神经机器翻译系统:弥合人类与机器翻译之间的差距 · 2016

    GNMT 是当时的翻译系统基线,MultiModel 的翻译任务与它对比。

    读注意力式的编码器-解码器结构与整体系统设计;跳过推理加速和量化部分。

  4. 4
    Google's Multilingual Neural Machine Translation System: Enabling Zero-Shot Translation谷歌多语言神经机器翻译系统:实现零样本翻译 · 2016

    同一个模型处理多种语言对,是 MultiModel 多任务共享一个模型的前身。

    读在输入前加目标语言标记的做法,以及单模型共享参数的思路。

  5. 5

    ByteNet 用卷积而非循环处理序列,与 MultiModel 用卷积和注意力处理序列的路线相近。

    读扩张卷积的堆叠与线性时间复杂度的概念;对比它与循环网络的区别。

  6. 6
    Attention Is All You Need注意力就是你所需要的一切 · 2017

    MultiModel 的构件里包含注意力机制,这是同期的核心工作。

    读缩放点积注意力的概念;理解注意力如何替代循环做序列建模。

  7. 7
    One Model To Learn Them All一个模型学会所有任务 · 2017 · 就是这篇

    目标论文:单个模型同时训练图像、翻译、语音和句法解析等任务。

    读各模态的 modality net 与共享主体的设计,以及多任务联合训练后小任务受益的结果。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐indescions_2017 · 2017-11

“A nice complement to this is Andrej Karpathy's Software 2.0 essay.”

推荐把它当作 Karpathy 的 Software 2.0 文章的良好补充
Low Hanging Fruit of Programming Language Design原评论 ↗
批评phowon · 2019-03

“lest we forget papers like "One Model To Learn Them All" [1].”

Yann LeCun, Geoffrey Hinton and Yoshua Bengio win Turing Award原评论 ↗
引用bdcs · 2017-06

“And code:”

给出这篇多任务模型论文的相关代码
Google advances AI with ‘one model to learn them all’原评论 ↗
引用espadrine · 2017-07

“Related paper: "One Model To Learn Them All"[1].”

列出这篇相关论文:单一模型联合学习多种任务
The future of deep learning原评论 ↗
引用cs702 · 2018-02

“which is trained to learn to perform multiple image-recognition, language-translation, image-captioning, speech-recognition, and language-parsing tasks at the same time”

描述该模型同时学习图像识别、翻译、图像描述、语音识别和句法分析等任务
The Shallowness of Google Translate原评论 ↗
被提交为 story · 10 次