美文网首页深度学习
40.常用的轻量级网络——MobileNet-v2

40.常用的轻量级网络——MobileNet-v2

作者: 大勇任卷舒 | 来源:发表于2023-03-19 10:17 被阅读0次
  • 是对MobileNet-V1的改进,同样是一个轻量化卷积神经网络

40.1 设计思想

  • 采用Inverted residuals
    • 为了保证网络可以提取更多的特征,在residual block中第一个1*1 Conv和3*3 DW Conv之前进行通道扩充
  • Linear bottlenecks
    • 为了避免Relu对特征的破坏,在residual block的Eltwise sum之前的那个 1*1 Conv 不再采用Relu
  • stride=2的conv不使用shot-cot,stride=1的conv使用shot-cut

40.2 网络架构

  • Inverted residuals
    • ResNet中Residuals block先经过1*1的Conv layer,把feature map的通道数降下来,再经过3*3 Conv layer,最后经过一个1*1 的Conv layer,将feature map 通道数再“扩张”回去
    • 即采用先压缩,后扩张的方式。而 inverted residuals采用先扩张,后压缩的方式。
    • MobileNet采用DW conv提取特征,由于DW conv本身提取的特征数就少,再经过传统residuals block进行“压缩”,此时提取的特征数会更少,因此inverted residuals对其进行“扩张”,保证网络可以提取更多的特征


  • Linear bottlenecks
    • ReLu激活函数会破坏特征
    • ReLu对于负的输入,输出全为0,而本来DW conv特征通道已经被“压缩”,再经过ReLu的话,又会损失一部分特征
    • 采用Linear,目的是防止Relu破坏特征


  • shortcut
    • stride=2的conv不使用shot-cot,stride=1的conv使用shot-cut


  • 网络架构

大数据视频推荐:
网易云课堂
CSDN
人工智能算法竞赛实战
AIops智能运维机器学习算法实战
ELK7 stack开发运维实战
PySpark机器学习从入门到精通
AIOps智能运维实战
腾讯课堂
大数据语音推荐:
ELK7 stack开发运维
企业级大数据技术应用
大数据机器学习案例之推荐系统
自然语言处理
大数据基础
人工智能:深度学习入门到精通

相关文章

  • iOS开发第三方库、插件整理集合

    项目常用第三方 建议通过CocoaPods安装 AFNetworking一款轻量级网络请求开源框架,其中带有 R...

  • 神经网络参数量计算

    这篇文章主要是记录一下神经网络的参数量大致估算方法,计算过程利用的是mobilenet-v2来举例说明,如果对mo...

  • R语言可视化(四十):网络图绘制

    40. 网络图绘制 清除当前环境中的变量 设置工作目录 使用igraph包绘制网络图 使用ggraph包绘制网络图...

  • 轻量级网络设计

    一、分组卷积 分组卷积即将输入的feature maps分成不同的组(沿channel维度进行分组),然后对不同的...

  • Android常用框架收藏!!!

    Android常用框架 1.网络请求框架 2.图片下载框架 3.轻量级数据库 4.沉浸式状态栏 5.异步链式框架 ...

  • WEB相关

    zBase -- 轻量级 DOM 操作库 没有任何依赖轻量级的 Dom 操作库,封装一些常用的 css 选择器和事...

  • iOS开发常用库

    框架类 网络AFNetworking轻量级网络库。 网络-图像SDWebImage支持缓存的异步图片加载库。 图像...

  • iOS网络框架简单封装

    AFN 简单封装--iOS重构-轻量级的网络请求封装实践 YTKNetworking 网络框架封装源码解析:网络层...

  • 轻量级网络之ShuffleNet

    轻量级网络之ShuffleNet 原论文——ShuffleNet: An Extremely Efficient ...

  • 鸿蒙(HarmonyOS)-Fa应用级轻量存储(数据库)

    简单讲:使用Preferences 场景介绍 轻量级偏好数据库是轻量级存储,主要用于保存应用的一些常用配置,并不适...

网友评论

    本文标题:40.常用的轻量级网络——MobileNet-v2

    本文链接:https://www.haomeiwen.com/subject/grzerdtx.html