确保 pip
和 wheel
模块已更新并安装:
参考链接
python3 -m pip install --upgrade pip
python3 -m pip install wheel
Python:版本 3.8 - 3.13
OS:Ubuntu 20.04+ 或 Windows 10+
CPU:x86_64 或 ARM SBSA 架构
安装前确保 pip、wheel 是最新的:
python3 -m pip install --upgrade pip setuptools wheel packaging
pip cache remove "tensorrt*"
python3 -m pip install --upgrade tensorrt
若你需要 指定 CUDA 版本(如 CUDA 11),则:
python3 -m pip install tensorrt-cu11 tensorrt-lean-cu11 tensorrt-dispatch-cu11
python3 -m pip install --upgrade tensorrt-lean
python3 -m pip install --upgrade tensorrt-dispatch
加上 --user
参数:
python3 -m pip install --user tensorrt
打开 Python,运行以下命令:
import tensorrt
print(tensorrt.__version__)
assert tensorrt.Builder(tensorrt.Logger())
import tensorrt_lean as trt
print(trt.__version__)
assert trt.Runtime(trt.Logger())
import tensorrt_dispatch as trt
print(trt.__version__)
assert trt.Runtime(trt.Logger())
如果报错:
[TensorRT] ERROR: CUDA initialization failure with error 100
可能原因:
没有安装 NVIDIA 驱动
驱动与 CUDA 不兼容
在容器中未挂载 GPU
可尝试使用 NVIDIA 官方容器:
docker run --gpus all -it --rm nvidia/cuda:12.3.2-base-ubuntu20.04
需要我帮你检查 CUDA 和驱动是否匹配,或者生成一个完整的安装脚本吗?