tensorRt 第49页

tensorRT DOC

1.UsingThePythonAPI以下部分重点介绍了可以使用PythonAPI执行的TensorRT用户目标和任务。这些部分专注于使用PythonAPI而不使用任何框架。

ChengLaun·2020-06-28 22:43

【TensorRT】Faster RCNN部署

在本示例中，使用了TensorRT的一个叫做RPROI_TRT的pluginlibrary，它融合了RPN和ROIPooling。

懂懂懂懂懂懂懂·2020-06-27 12:01

cuda9.2+cudnn7.1.3+python3.5+TensorRT4.0.1.6下tensorflow1.8报的bug：ImportError: libcublas.so.9.0

Usingusername"sinc-lab"[email protected]'spassword:[email protected]'spassword:WelcometoUbuntu16.04.5LTS(GNU/Linux4.4.0-21-genericx86_64)*Documentation:https://help.ubuntu.com*M

vslyu·2020-06-27 11:03

TensorRT安装小记

docker中查看cuda和cudnn版本查看cuda版本cat/usr/local/cuda/include/cudacat/usr/local/cuda/version.txt查看cudnn版本cat/usr/include/cudnn.h|grepCUDNN_MAJOR-A2或cat/usr/local/cuda/include/cudnn.h|grepCUDNN_MAJOR-A2错误信息s

慕思侣·2020-06-27 08:17

在 tensorrtserver 中使用 saved_model

###1.部署tensorrtserver建议使用docker部署tensorrtserver。docker相关的知识网上很多，自行参考。

屈_zi·2020-06-27 07:14

Jetson Nano配置与使用（7）Hello AI World( Inference Only)

实例使用NVIDIATensorRT高效地将神经网络部署到嵌入式平台上，并利用Jetson上的图形优化、内核融合和hafl-precisionFP16提高性能。

Damon0626·2020-06-27 07:38

PaddleClas-图像分类模型TensorRT预测评估

简介在之前介绍分类模型的时候，大家除了比较精度之外，一般还会比较flops和params这两个参数，flops表示计算量，可以间接反映推理速度，params表示参数量，可以反映存储大小。但是有一个问题，flops相同的两个网络，它们的推理速度并不一定是相同的，因为可能有内存拷贝、通道拆分操作等其他差异。因此最好的方法就是直接在机器上预测，统计下耗时。T4GPU是可用于模型推理的GPU显卡，支持Te

Strangers_bye·2020-06-27 04:02

TensorRT 的 C++ API 使用详解

1.TensorRT的C++API使用示例进行推理，需要先创建IExecutionContext对象，要创建这个对象，就需要先创建一个ICudaEngine的对象（engine）。

学海无涯子·2020-06-26 22:03

tf-pose-estimation尝试

swigpycocotools一直不成功pipinstallgit+https://github.com/philferriere/cocoapi.git#subdirectory=PythonAPI不确认是否要安装tensorRTt

tomyk·2020-06-26 20:18

Jetson Nano 【14】Pytorch的YOLOv3 spp 模型中关于tensorRT+ 矩形推理问题的解决过程

文章目录背景说明最终效果实现过程矩形推理在整体流程中的位置图形数据输入处理推理输出接收总结git地址背景说明模型是YOLOv3spp框架是Pytorch由于我的Nano上GPU计算资源不够，所以我们急需减少模型计算量，在剪枝与量化+转tensorRT

椰子奶糖·2020-06-26 17:26

[TensorRT进击之旅] TensorRT 安装篇

11月21、22两天参加了苏州的NVIDIAGTC2018大会，各大厂商把TensorRT用的神乎其神，京东无人柜在TRT的加成之下，模型能搞提升一倍，效果可观。

FireeLee·2020-06-26 10:19

【TensorRT】tensorRT 7.0的安装配置

前几天老黄发布了tensorRT7.0,对于模型服务器部署来说，tensorRT是真的香啊。

Shwan_Ma·2020-06-26 10:53

梳理TensorFlow模型在Jetson TX2上进行inference的主要流程

2开发环境注意：PC端和JetsonTX2所使用的TensorRT安装包是不一样的，前者使用的是TeslaGPUs版本，而后者使用的是JetsonPlatforms版本2.1PC端1)Pychar

有些代码不应该被忘记·2020-06-26 07:54

英伟达新技术引领AI市场，目标股价再创新高至350美元

英伟达的新产品TensorRTHyperscaler平台应该在人工智能领域获得更大的市场份额。

rebuild_ai·2020-06-26 05:18

Jetson Nano从零开始（1）：介绍

JetsonNano从零开始（1）：介绍摘要介绍摘要最近开始玩JetsonNano，写下这个从零开始的教程备忘，这个教程主要分为四部分：介绍：对板子情况进行介绍硬件篇：拿到板子后如何做软件篇：板子系统上的软件配置TensorRT

Mingyong_Zhuang·2020-06-26 04:59

Centos7 安装Tensorflow2.1 GPU以及Pytorch1.3 GPU（CUDA10.1）

太阳花的小绿豆·2020-06-25 12:03

Deep Learning-1-一文读懂误差反向传播算法中的关键点、难点

Yolov-1-TX2上用YOLOv3训练自己数据集的流程(VOC2007-TX2-GPU)Yolov--3--TensorRT中yolov3性能优化加速（基于caffe）yolov-5-目标检测：YOLOv2

hy-lscj·2020-06-25 07:29

Jetson Nano--1--Jetson Nano刷机教程-开机配置及Tensorflow安装详细步

Yolov-1-TX2上用YOLOv3训练自己数据集的流程(VOC2007-TX2-GPU)Yolov--2--一文全面了解深度学习性能优化加速引擎---TensorRTYolov--3--TensorRT

hy-lscj·2020-06-25 07:57

TensorRT5.1.5.0入门 TensorRT头文件学习

目录结构1.NvInfer.hITensorILayerIConvolutionLayerIFullyConnectedLayerIActivationLayerIPoolingLayerILRNLayerIScaleLayerISoftmaxLayerIConcatnationLayerIDeconvolutionLayerIElementWiseLayerIGatherLayerIRNNLay

Nonentity_neu·2020-06-25 06:12

tensorRT 5.1.5.0 工作总结

-6.23第三周6.24-6.30第四周7.1-7.7第五周7.8-7.14第六周7.15-7.21第七周7.22-7.28第八周7.29-8.3第九周8.3-8.11第三章工作总结3.1Caffe-tensorRT3.1.1

Nonentity_neu·2020-06-25 06:12

ImportError: libnvinfer.so.6: cannot open shared object file: No such file or directory

tensorrt安装教程可以根据下面的连接：https://blog.csdn.net/zong596568821xp/article/details/86077553linux系统安装tensorrt

骑走的小木马·2020-06-25 06:02

TensorRT接口封装成功能库出现的error

平台：TX2JetPack3.3语言：C++ide：Qt遇到的error：参考：https://www.cnblogs.com/octave/p/4824584.htmlhttps://www.cnblogs.com/techiel/p/8035014.htmlunresolvableR_AARCH64_ADR_PREL_PG_HI21relocationagainstsymbol`__stack

猫猫与橙子·2020-06-25 01:27

Pytorch利用TensorRT在NVIDIA Jetson Nano上加速

之前做了个项目，就是在JetsonNano上做实时图像分割。输入是一个HDMI的采集卡，输出是显示器。用pytorch做了个分割模型在上面直接跑。Pytorch用的1.3，具体环境配置略过。经过代码赤果果的搬运之后，发现inference需要70ms，加上数据采集/数据前处理和后处理和图像显示花120ms。而且原始图像和处理过的图像之间误差了1.5s以上。首先，我们把inference的cost降

ppCuda·2020-06-24 20:58

yolov3-tiny转tensorrt及bug解决

平台:TeslaP4，x86环境信息:ubuntu16.04cuda9.0cudnn7.5python3.6tensorflow-gou1.12tensorrt5.1.5.0onnx1.4.1(高版本会出现

椰子46·2020-06-24 20:51

小小甜菜tensorrt爬坑记

小小甜菜tensorrt爬坑记遍观全球，模型优化部署方案中生产化最好的是intel，英伟达，谷歌（TPU）。

小小甜菜·2020-06-24 18:35

Nvidia TensorRT

nvidia推出的TensorRT就是用来做inferecne加速的，他们对几个典型的网络做了针对性的优化，比如将Conv、BN、Relu三个操作变成一个操作（fusenetworklayers）等。

mao_feng·2020-06-24 13:28

新TensorRT支持超千种计算变换，开源自动驾驶平台

image大数据文摘出品作者：魏子敏、云舟、曹培信英伟达2019GPU技术大会（GTC19）今年落地苏州。长达两小时的主题演讲仍然由英伟达创始人兼首席执行官黄仁勋带来，经历了“人人挖矿”的2018年之后，2019年，英伟达又将重点重新拉回了一直关注的游戏、机器学习和自动驾驶领域，同时，本次发布会上黄教主还探索了在电信5G和生物基因测序两个崭新的应用场景。据英伟达称，这是有史以来参会人数最多的一次，

大数据文摘·2020-06-24 10:12

YoloV4模型解析及TensorRT加速

一.Yolo演化史FasterRCNN诞生以后，目标检测准确度得到保证，但是two-stage的方式存在天然的效率缺陷，SSD和Yolo填补了这一空白，Yolo一共经历了4个版本。模型数据增强/训练Backbone网络特征层性能对比备注Yolov1Lenet-maxPooling每个点支持2个boxYolov2-随机裁剪、旋转-色调、饱和度、曝光偏移-混合训练集策略（coco+imagenet）-

linolzhang·2020-06-24 05:42

TensorRT/parsers/caffe/caffeParser/readProto.h源碼研讀

TensorRT/parsers/caffe/caffeParser/readProto.h源碼研讀TensorRT/parsers/caffe/caffeParser/readProto.htrtcaffe.pb.hstd

keineahnung2345·2020-06-24 00:20

TensorRT/parsers/caffe/caffeParser/caffeParser.cpp - parse源碼研讀

TensorRT/parsers/caffe/caffeParser/caffeParser.cpp-parse源碼研讀TensorRT/parsers/caffe/caffeParser/caffeParser.cpp-parseconstructornew

keineahnung2345·2020-06-24 00:20

TensorRT/parsers/caffe/caffeParser/caffeParser.cpp - parseBinaryProto源碼研讀

TensorRT/parsers/caffe/caffeParser/caffeParser.cpp-parseBinaryProto源碼研讀parseBinaryProtogoogle::protobufCHECK

keineahnung2345·2020-06-24 00:20