MutualNet: Adaptive ConvNet via

论文提出了一种通过网络宽度和输入分辨率相互学习的通用网络训练框架（适用各种CNN网络结构以及各种任务包括分类，检测和分割）。

该训练框架可以得到一个自适应网络来实时调节不同计算资源下的精度和速度的平衡。同时提出的网络训练框架能免费帮助网络涨点，超过了一些SOTA数据增加技巧, 例如AutoAugmentation

https://arxiv.org/abs/1909.12978v3

https://github.com/taoyang1122/MutualNet

我们提出了宽度分辨率互学习方法（MutualNet）来训练一个在动态资源约束下可执行的网络，以在运行时实现自适应的精度-效率权衡。我们的方法训练一组不同宽度的子网络，使用不同的输入分辨率来互相学习每个子网络的多尺度表示。在不同的计算约束条件下，它始终比最先进的自适应网络US-Net获得更好的ImageNet top-1精度，并且在效率上优于最佳复合尺度MobileNet 1.5%。在COCO对象检测、实例分割和转移学习等方面也验证了该方法的优越性。令人惊讶的是，MutualNet的训练策略还可以提高单个网络的性能，在效率（GPU搜索小时数：15000对0）和准确性（ImageNet:77.6%对78.6%）方面都大大优于强大的自动增强。