美文网首页
3.2 ThunderNet思考

3.2 ThunderNet思考

作者: 深度学习模型优化 | 来源:发表于2019-05-02 01:01 被阅读0次

1 设计思想

ThunderNet的优化目标是二阶段检测器中计算开销大的结构。

  • 在backbone部分,设计了轻量级网络SNet;
  • 在detection部分,借鉴Light-Head R-CNN的思路,并进一步压缩RPN和R-CNN子网络。
    为了避免性能的衰退,设计了2个高效的结构CEM和SAM来改善性能。

2 网络架构

图1 ThunderNet网络架构

ThunderNet的输入是320 \times 320分辨率的图像。

  • Backbone部分,采用SNet,SNet基于Shuffle Net V2修改得到的。
  • Detection部分,利用了压缩的RPN网络,从Light-Head R-CNN的轻量化head方法,来提高计算效率。
    • Context Enhancement Module(CEM),整合局部和全部特征增强网络特征表达能力。
    • Spatial Attension Module(SAM),引入来自RPN的前后景信息用于优化特征分布。

3 实现

backbone部分:

  1. 输入图像的分辨率应该和骨干网络的能力相匹配。
  2. 骨干网络需要利用深层语义信息和浅层高分辨信息。

考虑到ShuffleNet V1/V2限制了感受野,ShuffleNet V2和MobileNet V2缺乏浅层特征,Xception在算力低的情况下缺乏深层特征。作者对ShuffleNet V2进行了改进,这里的backbone网络称为SNet(为了检测目的单独设计)。

图2 SNet的网络结构

SNet49用于更快的推理,SNet535用于更好的精度,SNet146用于更好的速度/精度权衡。

detection部分:
为了与backbone网络匹配,作者改进了light-head R-CNN的head部分,主要设计了两个模块。

  1. Context Enhancement Module(CEM)。
图3 Context Enhancement Module

CEM合并三个尺度的特征图。

  • 尺度一:C4特征图上应用1\times 1积以将通道数量压缩为\alpha \times p \times p = 245
  • 尺度二:C5进行上采样 + C5特征图上应用1\times 1卷积以将通道数量压缩为\alpha \times p \times p = 245
  • 尺度三:Cglb进行Broadcast + Cglb特征图上应用1\times 1卷积以将通道数量压缩为\alpha \times p \times p = 245
  1. Spatial Attension Module(SAM)
    思想:使用来自RPN学习到的知识来细化特征图的特征分布。

F^{SAM} = F^{CEM} \cdot sigmoid(\theta(F^{FPN}))

其中\theta(\cdot)是一个尺度变换,用来匹配两组特征图中的通道数。

图4 SAM结构

4 性能分析

图5 VOC2007上的性能 图6 COCO数据集上的性能

5 总结

本文首先介绍了ThunderNet的思想,然后简介了ThunderNet的网络结构,以及重点改进的CEM和SAM结构,最后给出了在VOC2007和COCO数据集上的性能比较。

相关文章

  • 3.2 ThunderNet思考

    1 设计思想 ThunderNet的优化目标是二阶段检测器中计算开销大的结构。 在backbone部分,设计了轻量...

  • 3.2陪伴思考

    熊姐姐的大锅菜饭,吃得Q弹,饭后热咖,很满足 很喜欢值一天班,斜雨安静,可以思绪飞散,静读思考,细细领悟,明白一点...

  • 3.2思考卡61

    活在当下有两种:一种是现在的当下,即此时此刻;另一种是未来想要的当下,即未来计划。 每一个当下都是未来的过去,在未...

  • 3.2强化,思考,练习(二)

    思考 思考是什么?简单说,也就是用脑子想,想事,想问题。 听人说也好,看文章也好,我觉得你们已经早就听烦了人们跟你...

  • 3.2.笔记思考术

    个人知识管理创造竞争优势,积累跨领域的创意箱,建立资料之间的链接,并集中到一个平台便于搜索。 画重点,记注解,整合...

  • ThunderNet: Towards Real-time Ge

    旷视科技:据我们所知,ThunderNet实现了ARM平台上的第一个实时检测器和最快的单线程速度。 论文地址代码即...

  • 150本书单完成情况统计

    3.1《六顶思考帽》 3.2《超效率手册》 3.5《高效时间法》 3.6《高效经营法》 3.7《细节:如何轻松影响...

  • 两阶段实时检测网络ThunderNet

    ThunderNet是旷视和国防科技大学合作提出的目标检测模型,目标是在计算力受限的平台进行实时目标检测。需要关注...

  • 对定投策略的思考(二)

    昨天已经思考了为什么定投策略是有效策略,今天思考定投策略成功的决定因素是什么。 笑来老师在《定投改变命运》第3.2...

  • SICP Python 描述 3.2 函数和所生成的过程

    3.2 函数和所生成的过程 来源:3.2 Functions and the Processes They G...

网友评论

      本文标题:3.2 ThunderNet思考

      本文链接:https://www.haomeiwen.com/subject/vlxfnqtx.html