tensorRT DOC

 

1. Using The Python API

以下部分重点介绍了可以使用Python API执行的TensorRT用户目标和任务。这些部分专注于使用Python API而不使用任何框架。 “样品支持指南”中提供了更多详细信息，并在适当情况下链接到下面。 假设您从训练有素的模型开始。本章将介绍使用TensorRT的以下必要步骤：

• 从模型中创建TensorRT网络定义
• 调用TensorRT构建器以从网络创建优化的运行时引擎
• 序列化和反序列化引擎，以便在运行时快速重新创建
• 使用数据为引擎提供执行推理

 

Python API vs C++ API

从本质上讲，C ++ API和Python API在支持您的需求方面应该完全相同。 Python API的主要优点是数据预处理和后处理易于使用，因为您可以使用各种库，如NumPy和SciPy。

C ++ API应该用于安全性很重要的情况，例如汽车行业。有关C ++ API的更多信息，请参阅使用C ++ API使用TensorRT。

有关如何使用Python优化性能的更多信息，请参阅如何优化我的Python性能？来自TensorRT最佳实践指南。

1.1. Importing TensorRT Into Python