tensorrt加速yolov5(5m.pt)

tensorrt 加速yolov5模型
#配置过程
https://zhuanlan.zhihu.com/p/430470397
https://blog.csdn.net/qq_41375609/article/details/110099409

#tensorrtx 配置以及使用
https://github.com/wang-xinyu/tensorrtx/tree/yolov5-v5.0/yolov5
#tensorrtx下载
https://github.com/wang-xinyu/tensorrtx/tree/yolov5-v5.0
注：下载与yolovx版本一致的！！如yolov5-v5.0安装tensorrt-yolov5-v5.0

加速过程
1、将.pt模型转换成.wts中间模型（注意：.pt模型的image_size以及s/m/l/x,后续使用）
cp {tensorrtx}/yolov5/gen_wts.py {yolov5}/
在yolov5虚拟环境中运行gen_wts.py(生成.wts)
python gen_wts.py -w best.pt
2、将.wts中间模型转换成.engine最终加速模型

1、将{tensorrtx}/yolov5/yololayer.h
#修改CLASS_NUM 类别、 INPUT_H INPUT_W 图片尺寸
2、
mkdir build #在{tensorrtx}/yolov5下
cd build
cmake …
make
#生成.engine文件
sudo ./yolov5 -s [.wts] [.engine] [s/m/l/x/s6/m6/l6/x6 or c/c6 gd gw] // serialize model to plan file
#使用生成.engine文件运行预测图片
sudo ./yolov5 -d [.engine] [image folder] // deserialize and run inference, the images in [image folder] will be processed.
#eg:./yolov5 -s best.wts best.engine m #.pt由yolov5m训练得来
./yolov5 -d best.engine …/data