1 环境准备
本文环境:ubuntu 18.04
、cuda 10.0
cudnn 7.6
python 3.7.6
1.1 conda
不进行赘述
1.2 tensorrt安装包
根据你的机器的cuda
和cudnn
版本下载tensorrt6
tensorrt官网
-
进入官网下载
-
点击登陆,没账号的去注册一个
-
选择版本
-
同意协议,根据系统及cuda选择版本
2 安装
2.1 解压压缩包
tar -zxvf TensorRT-6.0.1.5.Ubuntu-18.04.x86_64-gnu.cuda-10.0.cudnn7.6.tar.gz
2.2 安装tensorrt
根据你的版本安装合适的包
cd TensorRT-6.0.1.5/python
pip install tensorrt-6.0.1.5-cp36-none-linux_x86_64.whl
2.3 安装uff
(可选,tensorflow需要)
cd TensorRT-6.0.1.5/uff
pip install uff-0.6.5-py2.py3-none-any.whl
2.4 安装graphsurgeon
cd TensorRT-6.0.1.5/graphsurgeon
pip install graphsurgeon-0.4.1-py2.py3-none-any.whl
3 配置
3.1 配置环境变量
vim /etc/profile
加入下面的环境变量
export TENSORRT_ROOT={你的tensorrt目录}
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:{你的tensorrt目录}/lib
保存:wq
source /etc/profile
4 运行测试
python
import tensorrt