openmmlab计算机视觉之图像分类算法

1、图像分类：卷积神经网络、残差网络、神经结构搜索、Vision Transforms、轻量化神经网络、可分离卷积；

2、模型学习范式：监督学习、自监督学习

3、学习率和优化器策略：学习率退火、升温、linear scaling rule(batchsize扩大原来k倍，学习率也应该扩大k倍)、

4、自适应梯度算法：SGD、Adaw

5、数据增强：几何变换、色彩变换、随机遮挡、强化学习、组合图形（逐像素混合图像）、标签平滑

6、权重初始化（随机、用训练好的模型进行权重初始化）

7、微调通常使用较小的学习率（0.001-0.01）、从头训练使用较大学习率（0.01-0.1）