关于pytorch中drop_last的提醒,不同类别数据不均衡时使用drop_last=True会导致模型训练结果很差

项目场景:

我在使用pytorch进行图像分类的时候。
我的解决办法对于我而言很有效,你可以把我的结论当作一种参考


问题描述

遇到了这样的问题。一共16类,第15 16类的训练集数量是15、15,测试集分别为14、5。其他1-14类训练集分别有50个,测试集均为200左右。

当我在pytorch的dataloader中设置了drop_last=True时,无论怎么训练,使用怎么样的数据增强,第15 16类才测试集上的准确率永远为0.


原因分析:

当dataloader设置了drop_last=True时,在训练时如果数据总量无法整除batch_size,那么这个dataloader就会丢掉最后一个batch,也就是说训练的时候有部分数据是被丢掉的。而我遇到的情况可能是正好把第15 16类的测试数据给丢掉了部分,导致模型很好的学习到这两类的特征。


解决方案:

将drop_last改为False,即可解决该问题。

你可能感兴趣的:(python,深度学习,pytorch)