39.常用的轻量级网络——MobileNet

• MobileNet 是针对手机等嵌入式设备提出的一种轻量级的深层神经网络
  • 该网络结构在VGG的基础上使用DW+PW的组合
  • 在保证不损失太大精度的同时，降低模型参数量

39.1 设计思想

• 采用深度可分离卷积代替传统卷积
  • 采用DW卷积在减少参数数量的同时提升运算速度
  • 但是由于每个feature map只被一个卷积核卷积，因此经过DW输出的feature map不能只包含输入特征图的全部信息，而且特征之间的信息不能进行交流，导致“信息流通不畅”
  • 采用PW卷积实现通道特征信息交流，解决DW卷积导致“信息流通不畅”的问题。
• 使用stride=2的卷积替换pooling
  • 直接在卷积时利用stride=2完成了下采样，从而节省了需要再去用pooling再去进行一次下采样的时间，可以提升运算速度

39.2 网络架构

• DW conv和PW conv
  • MobileNet的网络架构主要是由DW conv和PW conv组成，相比于传统卷积可以降低倍的计算量。
  • 标准卷积与DW conv和PW conv如图所示:
    

• 深度可分离卷积与传统卷积运算量对比：

  
  

• 网络结构：

  
  

• MobileNets的架构

  
  

39.3 实验结果

• 使用相同的结构，深度可分离卷积虽然准确率降低1%，但是参数量减少了6/7

大数据视频推荐：
网易云课堂
CSDN
人工智能算法竞赛实战
AIops智能运维机器学习算法实战
ELK7 stack开发运维实战
PySpark机器学习从入门到精通
AIOps智能运维实战
腾讯课堂
大数据语音推荐：
ELK7 stack开发运维
企业级大数据技术应用
大数据机器学习案例之推荐系统
自然语言处理
大数据基础
人工智能：深度学习入门到精通