按年被提到
20142015 · 3 次2026
视觉、语音与图像生成›语音与音频生成·arXiv:1412.5567 · cs.CL

Deep Speech: Scaling up end-to-end speech recognition

Deep Speech:扩展端到端语音识别
Awni Hannun, Carl Case, Jared Casper, Bryan Catanzaro, Greg Diamos, Erich Elsen, Ryan Prenger, Sanjeev Satheesh, Shubho Sengupta, Adam Coates, Andrew Y. Ng · 2014

用 RNN 与海量合成数据端到端做语音识别

开始阅读 ↗PDFalphaXiv 讨论
被推荐 · 9 人首次 2014-12-18 · 最近 2021-08-05
9不同的人
8活跃月份
9讨论串
1,488被引(OpenAlex)

论文提出用端到端深度学习构建的语音识别系统 Deep Speech,架构比依赖繁琐流水线的传统系统简单得多:不需要音素词典,甚至不需要音素的概念,也不必手工设计对噪声、混响和说话人差异的建模。关键是优化良好的多 GPU RNN 训练系统和能高效获得大量多样数据的数据合成技术;在 Switchboard Hub5'00 全测试集上错误率为 16.0%,在嘈杂环境下也优于主流商用系统。

HN 为什么提它

评论者把它当作百度端到端语音识别的出处:提到它先训练英文再迅速适配中文,以及 Mozilla 的开源引擎 DeepSpeech 就基于这篇论文。

方法难度 3 / 5约 35 分钟经得起时间
读之前最好知道
1循环神经网络(RNN)
2CTC 损失(connectionist temporal classification)
3传统语音识别(声学模型、语言模型)
4GPU 并行训练

学习路径

读这篇之前,按顺序读书架上的 2 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

候选里相关的不多:先了解 dropout 正则化和 Graves 的循环网络序列建模,再读 Deep Speech 如何用循环网络和大量合成数据做端到端语音识别。

  1. 1
    Improving neural networks by preventing co-adaptation of feature detectors通过防止特征检测器的共适应来改进神经网络 · 2012

    Deep Speech 在训练中使用 dropout 来对抗过拟合。

    读训练时随机丢弃一半特征检测器的做法与效果。

  2. 2
    Generating Sequences With Recurrent Neural Networks用循环神经网络生成序列 · 2013

    Graves 用循环网络对序列建模的工作,是用循环网络处理连续序列的背景知识。

    读用 LSTM 做逐步预测的基本做法;跳过手写合成的细节。

  3. 3
    Deep Speech: Scaling up end-to-end speech recognitionDeep Speech:扩展端到端语音识别 · 2014 · 就是这篇

    目标论文:用循环网络和大量合成与真实数据做端到端语音识别,不需要音素词典。

    读网络结构、CTC 式的端到端训练,以及用数据合成扩大训练集来增强噪声鲁棒性。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
推荐jhartmann · 2015-06

“Take a look at the paper at Deep Speech and [LINK]”

推荐阅读,深度语音识别直接处理音频输入
What's Wrong with Deep Learning?原评论 ↗
引用oska · 2015-10

“So they've quickly trained their Deep Speech engine [1] to process Mandarin after first training it to transcribe English”

以 Deep Speech 为例:先训练英文转写,再很快训练到普通话
How Baidu is improving Mandarin voice recognition with deep learning原评论 ↗
引用stephensonsco · 2017-02

“Kur Speech Recognition example based on Deepspeech on our blog.”

说明博客里的 Kur 语音识别示例基于 Deep Speech
How to Train Baidu's Deepspeech Model with Kur原评论 ↗
引用kdavis · 2017-12

“with respect to pure word error rate, the article[2] does a comparison of several engines as of circa 2015.”

引用它比较多个语音引擎的词错率,时间约在 2015 年
A TensorFlow implementation of Baidu's DeepSpeech architecture原评论 ↗
引用orra · 2021-08

“is an open source speech recognition engine, based upon Baidu”

指出 Mozilla 的开源语音识别引擎基于百度这篇论文
Mozilla Common Voice Adds 16 New Languages and 4,600 New Hours of Speech原评论 ↗
被提交为 story · 4 次