旷视科技提出的新型轻量架构ShuffleNet V2
重点1. 高效网络设计的实用准则
- G1. 相同的通道宽度可最小化内存访问成本(MAC)
- G2. 过度的组卷积会增加 MAC
- G3. 网络碎片化(例如 GoogLeNet 的多路径结构)会降低并行度
- G4. 元素级运算不可忽视
G1. 相同的通道宽度可最小化内存访问成本(MAC)
输入和输出的通道数要尽可能相同
G2. 过度的组卷积会增加 MAC
组卷积:通道分组卷积.
1x1分组卷积(ShuffleNet v1)
G3. 网络碎片化（例如 GoogLeNet 的多路径结构）会降低并行度
多路卷积.
G4. 元素级运算不可忽视
类比ResNet的跳连, 即加法运算.
重点2. 和ShuffleNet V1 对比
V1 vs V2
重点3. ShuffleNet V2 参数
ShuffleNet V2
参考:
https://blog.csdn.net/u011974639/article/details/79200559
https://www.colabug.com/3803962.html
网友评论