RT-DETR改进策略【Backbone/主干网络】| ICLR-2023 替换骨干网络为:RevCol 一种新型神经网络设计范式

一、本文介绍

本文记录的是基于RevCol的RT-DETR目标检测改进方法研究RevCol是一种新型神经网络设计范式,它由多个子网(列)及多级可逆连接构成,正向传播时特征逐渐解缠结且保持信息。可逆变换借鉴可逆神经网络思想,设计多级可逆单元用于解决模型对特征图形状的限制以及与信息瓶颈原则的冲突。本文将其应用到RT-DETR中,并配置了原论文中的revcol_tinyrevcol_smallrevcol_baserevcol_largerevcol_xlarge五种不同大小的模型,以适应不同的需求。


专栏目录:RT-DETR改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进

专栏地址:RT-DETR改进专栏——以发表论文的角度,快速准确的找到有效涨点的创新点!

文章目录

  • 一、本文介绍
  • 二、RevCol模型设计
    • 2.1出发点
    • 2.2 原理
      • 2.2.1 可逆变换的核心作用
      • 2.2.2 中间监督机制
    • 2.3 结构
      • 2.3.1 宏观设计
      • 2.3.2 微观设计
    • 2.4 优势
  • 三、RevCol的实现代码
  • 四、修改步骤
    • 4.1 修改一

你可能感兴趣的:(RT-DETR改进专栏,深度学习,目标检测,RT-DETR,计算机视觉)