【目标检测】|ReXNet 2021CVPR

2021/6/4 10:23:51

本文主要是介绍【目标检测】|ReXNet 2021CVPR,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!

论文:https://arxiv.org/pdf/2007.00992.pdf
代码:https://github.com/clovaai/rexnet
ref
https://mp.weixin.qq.com/s/wn6n8tEeDA7z6tFSaoaf5g

作者认为:传统的网络架构设计范式会产生表达瓶颈问题,进而影响模型的性能。为研究表达瓶颈问题,作者研究了上万随机网络生成的特征的matric rank,同时进一步研究了网络的层通道配置方案。基于前述研究发现,作者提出了一组简单而有效的设计原则消除表达瓶颈问题。在基准网络上采用上述设计原则进行轻微调整即可取得ImageNet上的性能显著提升;

作者所提出的一组设计原则如下:

最后,结合一系列的分析得出了该文的网路架构设计新范式:(1) 选择合适的激活函数,比如Swish-1;(2)网络的通道层采用递增方式设计;(3)网络需要具有更多的扩展层(该文设置了16个,而非已有网络中的4个)。

首先,给出几个术语:(1) 如果某个层的输出通道数大于输入通道数,那么将其称之为扩张层;(2) 如果某个层的输出通道数小于输入通道数,那么将其称之为收缩层.

作者将结合上述设计原则而设计的网路架构称之为ReXNet(Rank eXpandsion Networks)。结合上述设计原则,MobileNetV2的改进架构信息见下表,此时称之为ReXNet。
在这里插入图片描述

MobileNetV1的改进架构信息见下表,该网络称之为ReXNet-plain。

在这里插入图片描述



这篇关于【目标检测】|ReXNet 2021CVPR的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!


扫一扫关注最新编程教程