论文笔记:MobileNetV2: Inverted Residuals and Linear Bottlenecks

MobileNetV2: Inverted Residuals and Linear Bottlenecks

MobileNet V2是MobileNet V1的改进版,Inverted residual 是个非常精妙的设计!
MobileNet V1引入depthwise separable convolution代替standard convolution,减少运算量。
MobileNet V1 的结构其实非常简单,是类似于VGG一样非常复古的直筒结构。后续一系列的ResNet, DenseNet等结构已经证明通过复用图像特征, 使用concat/eltwise+ 等操作进行融合, 能极大提升网络的性价比。【1】

v2 主要的改进有两点:

  • Linear Bottlenecks:去掉了小维度输出层后面的非线性激活层,目的是为了保证模型的表达能力。 好处:通过去掉Eltwise+ 的特征去掉ReLU, 减少ReLU对特征的破坏;
  • Inverted Residual block:和residual block中维度先缩减再扩增正好相反,因此shotcut也就变成了连接的是维度缩减后的feature map。好处:1. 复用特征, 2. 旁支block内先通过1x1升维, 再接depthw

你可能感兴趣的:(Deep,Learning)