“The original Baidu paper [1] had 7.89% with original Deep Speech and 5.33%”
Deep Speech 2: End-to-End Speech Recognition in English and Mandarin
用端到端深度学习识别英语与普通话,并大幅提速训练
论文表明,同一套端到端深度学习方法既能识别英语也能识别普通话,它用神经网络取代整条手工设计的流水线,因此可以处理噪声环境、口音和多语言。关键在于运用 HPC 技术使训练比之前的系统快 7 倍,实验周期由数周缩短到数天;在多个标准数据集上,系统在若干情况下可与人工转写竞争,并通过 GPU 上的 Batch Dispatch 技术实现低成本、低延迟的在线部署。
HN 上的人把它当作端到端语音识别的早期代表工作来引用,常用来讨论其训练数据规模(每种语言约 1 万小时)和基准错误率。
学习路径
读这篇之前,按顺序读书架上的 2 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出候选里与 Deep Speech 2 方法最直接相关的是上一代 Deep Speech 和批归一化,读它们能弄清其改进了什么、依赖了什么训练技术。
- 1
Deep Speech 2 是它的直接后继,沿用端到端训练的基本框架。
读端到端 RNN 语音识别与合成数据扩增;记下它的局限。
- 2
深层循环网络的训练依赖归一化技术。
读批归一化的原理;之后关注其在循环网络中的使用方式。
- 3Deep Speech 2: End-to-End Speech Recognition in English and Mandarin
目标论文:英语与普通话的端到端语音识别,并大幅提升训练速度。
读模型结构改进、高性能计算优化与两种语言的结果。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及“[1] used 10k hour datasets (per language, while the 2k hours are distributed amongst multiple languages) [1].”
“One early piece of work here was DeepSpeech2 (2015): Deep Speech 2”
“Deep Speech 2: End-to-End Speech Recognition in English and Mandarin - Deep Speech 2”
- Deep Speech 2: End-To-End Speech Recognition in English and Mandarin ↗sherjilozair · 2015-12-09 · 105 分