“Take a look at the paper at Deep Speech and [LINK]”
Deep Speech: Scaling up end-to-end speech recognition
用 RNN 与海量合成数据端到端做语音识别
论文提出用端到端深度学习构建的语音识别系统 Deep Speech,架构比依赖繁琐流水线的传统系统简单得多:不需要音素词典,甚至不需要音素的概念,也不必手工设计对噪声、混响和说话人差异的建模。关键是优化良好的多 GPU RNN 训练系统和能高效获得大量多样数据的数据合成技术;在 Switchboard Hub5'00 全测试集上错误率为 16.0%,在嘈杂环境下也优于主流商用系统。
评论者把它当作百度端到端语音识别的出处:提到它先训练英文再迅速适配中文,以及 Mozilla 的开源引擎 DeepSpeech 就基于这篇论文。
学习路径
读这篇之前,按顺序读书架上的 2 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出候选里相关的不多:先了解 dropout 正则化和 Graves 的循环网络序列建模,再读 Deep Speech 如何用循环网络和大量合成数据做端到端语音识别。
- 1
Deep Speech 在训练中使用 dropout 来对抗过拟合。
读训练时随机丢弃一半特征检测器的做法与效果。
- 2
Graves 用循环网络对序列建模的工作,是用循环网络处理连续序列的背景知识。
读用 LSTM 做逐步预测的基本做法;跳过手写合成的细节。
- 3Deep Speech: Scaling up end-to-end speech recognition
目标论文:用循环网络和大量合成与真实数据做端到端语音识别,不需要音素词典。
读网络结构、CTC 式的端到端训练,以及用数据合成扩大训练集来增强噪声鲁棒性。
HN 书评
推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及“So they've quickly trained their Deep Speech engine [1] to process Mandarin after first training it to transcribe English”
“Kur Speech Recognition example based on Deepspeech on our blog.”
“with respect to pure word error rate, the article[2] does a comparison of several engines as of circa 2015.”
“is an open source speech recognition engine, based upon Baidu”
- DeepSpeech: Scaling up end-to-end speech recognition ↗cbcase · 2014-12-18 · 79 分
- DeepSpeech: Scaling up end-to-end speech recognition [pdf] ↗benhamner · 2014-12-19 · 4 分
- Deep Speech: Scaling up end-to-end speech recognition ↗lelf · 2015-02-14 · 63 分
- Deep Speech: Scaling up end-to-end speech recognition (2014) ↗s16h · 2018-08-07 · 3 分