RepVGG模型的结构和特点?

RepVGG模型的基本架构由20多层卷积组成,分成5个stage,每个stage的第一层是stride=2的降采样,每个卷积层用ReLU作为激活函数。

RepVGG的主要特点:

卷积在GPU上的计算密度(理论运算量除以所用时间)可达1x1和5x5卷积的四倍.

直筒型单路结构的计算效率比多路结构高。

直筒型单路结构比起多路结构内存占用少。

单路架构灵活性更好,容易进一步进行模型压缩等操作。

RepVGG中只含有一种算子,方便芯片厂商设计专用芯片来提高端侧AI效率。


在训练阶段,训练一个多分支模型,并将多分支模型等价转换为单路模型。在部署阶段,部署单路模型即可。这样就可以同时利用多分支模型训练时的优势(性能高)和单路模型推理时的好处(速度快、省内存)。


蓝海大脑 京ICP备18017748号-1