按年被提到
20172017 · 5 次2026
视觉、语音与图像生成›卷积网络与图像识别·arXiv:1704.04861 · cs.CV

MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications

MobileNets:面向移动视觉应用的高效卷积神经网络
Andrew G. Howard, Menglong Zhu, Bo Chen, Dmitry Kalenichenko, Weijun Wang, Tobias Weyand, Marco Andreetto, Hartwig Adam · 2017

用深度可分离卷积搭轻量网络,在延迟与精度间灵活取舍

开始阅读 ↗PDFalphaXiv 讨论
被提及 · 6 人首次 2017-04-18 · 最近 2020-02-24
6不同的人
5活跃月份
6讨论串
19,007被引(OpenAlex)

论文提出 MobileNets,用深度可分离卷积(depth-wise separable convolution)搭建轻量网络,并引入两个全局超参数,让使用者按延迟和精度的约束选择模型大小。实验在 ImageNet 分类上与其他主流模型对比,并展示了在目标检测、细粒度分类、人脸属性和大规模地理定位等任务上的效果。

HN 为什么提它

评论者把它当作手机端高效神经网络的典型例子,说明这类网络能把乘加运算量降低约一个数量级,从而在手机上跑起来。

方法难度 3 / 5约 35 分钟经得起时间
读之前最好知道
1卷积神经网络(CNN)
2深度可分离卷积(depthwise separable convolution)
3ImageNet 图像分类
4模型延迟与精度权衡

学习路径

读这篇之前,按顺序读书架上的 6 篇 · 参考文献来自 OpenAlex,顺序和要点由 Claude Code 排出

先看当时的主流大网络(VGG、Inception)作为对照,再看几条模型压缩与小网络路线(Deep Compression、SqueezeNet、XNOR-Net、蒸馏),最后读 MobileNets 的深度可分离卷积。

  1. 1
    Very Deep Convolutional Networks for Large-Scale Image Recognition面向大规模图像识别的极深卷积网络 · 2014

    VGG 是 MobileNets 实验中用来对比计算量与精度的大型基线。

    读理解全 3x3 卷积堆叠的结构,留意它参数量和计算量都很大。

  2. 2
    Rethinking the Inception Architecture for Computer Vision重新思考计算机视觉中的 Inception 架构 · 2015

    Inception-v3 的分解卷积是降低卷积开销的前例,也是 MobileNets 的对比对象。

    读抓住把大卷积分解为小卷积的思路,与深度可分离卷积对照。

  3. 3

    代表通过剪枝、量化、编码压缩已训练网络的路线,与 MobileNets 直接设计小网络的路线形成对比。

    读理解三阶段压缩流程和压缩比结论。

  4. 4
    SqueezeNet: AlexNet-level accuracy with 50x fewer parameters and <0.5MB model sizeSqueezeNet:参数少 50 倍、模型小于 0.5MB 的 AlexNet 级精度 · 2016

    SqueezeNet 是同期的小模型设计,MobileNets 与其对比参数量和精度。

    读看 Fire 模块的设计和用 1x1 卷积降参数的思路。

  5. 5
    XNOR-Net: ImageNet Classification Using Binary Convolutional Neural NetworksXNOR-Net:用二值卷积神经网络做 ImageNet 分类 · 2016

    二值化是另一条让网络变小变快的路线,可与 MobileNets 的结构路线对比。

    读理解权重与输入二值化带来的内存和速度收益,以及精度代价。

  6. 6
    Distilling the Knowledge in a Neural Network蒸馏神经网络中的知识 · 2015

    知识蒸馏是训练小模型的常用手段,MobileNets 论文把它列为可与自己互补的小网络训练方法。

    读理解用大模型的软标签训练小模型的基本想法。

  7. 7
    MobileNets: Efficient Convolutional Neural Networks for Mobile Vision ApplicationsMobileNets:面向移动视觉应用的高效卷积神经网络 · 2017 · 就是这篇

    目标论文:用深度可分离卷积构建轻量网络,并用宽度和分辨率两个超参数权衡延迟与精度。

    读看深度可分离卷积的计算量推导、宽度乘子与分辨率乘子,以及与各基线的对比表。

HN 书评

推荐在前,同类按时间 · 每篇最多保留 20 条,统计用全部提及
引用ip_addr · 2017-05

“I believe they are referring to this paper titled”

认为对方指的是这篇 MobileNets 论文
Not Hotdog App原评论 ↗
引用bwasti · 2017-07

“MobileNets and ShuffleNet are some examples. They see 10x reductions in MACs”

以 MobileNets 为例,说明乘加运算可减少约 10 倍
Bringing neural networks to cellphones原评论 ↗
引用fxtentacle · 2020-02

“The algorithms that run on cell phones tend to be specially optimized and quality-reduced neural networks.”

举 MobileNets 为手机端专门优化的神经网络例子
Andreessen-Horowitz craps on “AI” startups from a great height原评论 ↗
被提交为 story · 3 次