ubuntu安装tensorrt

首先确认ubuntu、cuda、cudnn版本，在nvidia官网下载相应版本的tensorrt。

https://developer.nvidia.com/nvidia-tensorrt-download

1 下载tar格式的package

(1) c++

tar -xzvf TensorRT-xxxxx.tar

添加环境变量：
 
#解压得到TensorR文件夹，将里边的lib
 

vim ~/.bashrc
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/path/to/TensorRT-xxxxx/lib
source ~/.bashrc

注意：TensorRT是第三方库，最好在CMakeLists.txt中，添加TensorRT的库文件和头文件，而不是TensorRT的库文件和头文件添加系统路径内：

include_directories("/path/to/TensorRT-xxxxx/include")
link_directories("/path/to/TensorRT-xxxxx/lib")

或者
set(TENSORRT_ROOT /home/usrname/my_install/TensorRT-8.2.5.1)
include_directories(${TENSORRT_ROOT}/include)
link_directories(${TENSORRT_ROOT}/lib)

为防止找不到TensorRT库，把tenorrt的库和头文件添加到系统变量中，在解压的TensorRT路径下：

sudo cp -r ./lib/* /usr/lib
sudo cp -r ./include/* /usr/include

 验证

cd /path/to/TensorRT-xxxxx/data/mnist
python download_pgms.py

cd /path/to/TensorRT-xxxxx/samples/sampleMNIST
make
cd ../../bin/
./sample_mnist

(2) python

# 安装TensorRT
cd TensorRT-xxxxx/python
pip install tensorrt-xxxxx.whl
 
# 可以tensorflow模型转化
cd TensorRT-xxxxx/uff
pip install uff-xxxxx.whl
 
# 自定义结构
cd TensorRT-xxxxx/graphsurgeon
pip install graphsurgeon-xxxxx.whl

2 deb格式

（1）c++

按照下载时官网安装

注意：sudo apt-key add /var/nv 双击tab自动补全

$ sudo dpkg -i  
nv-tensorrt-repo-ubuntu1x04-cudax.x-trt5.x.x.x-ga-yyyymmdd_1-1_amd64.deb
$ sudo apt-key add /var/nv-tensorrt-repo-cudax.x-trt5.x.x.x-ga-yyyymmdd/7fa2af80.pub
 
$ sudo apt-get update
$ sudo apt-get install tensorrt

卸载

#删除软件及其配置文件
apt-get --purge remove 

# 删除没用的依赖包
apt-get autoremove 

# 此时dpkg的列表中有“rc”状态的软件包，可以执行如下命令做最后清理：
dpkg -l |grep ^rc|awk '{print $2}' |sudo xargs dpkg -P

cuda11.1和tensorrt 7.x；

cuda11.3和tensorrt 8.x；

以.run格式安装cuda可能会出问题

以deb方式安装cuda会强制卸载系统中已有的显卡驱动，安装cuda自带的驱动，有可能会遇到cuda自带的显卡驱动版本低于显卡需要的驱动版本（导致开机进不了桌面且nvidia-smi命令无法查看信息）。

只需在cuda安装完成后（不要重启）卸载附带安装的驱动，用命令：

sudo apt-get remove nvidia-*

sudo apt install nvidia-driver-xxx