1、下载
NVIDIA TensorRT 8.x Download | NVIDIA Developer
EA是提前发布的不稳定版本,GA是经过完备测试的稳定版
解压后,我放到了C盘
从名字可以看出对应的cuda版本、cudnn版本。下载对应的cuda、cudnn。onnxruntime、cuda、cudnn、显卡驱动 - 夕西行 - 博客园 (cnblogs.com)
2、配置环境变量
把包含dll的路径添加到系统path环境变量中。
C:\TensorRT-8.2.4.2.Windows10.x86_64.cuda-11.4.cudnn8.2\TensorRT-8.2.4.2\lib
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.4\bin (我把cudnn解压后的lib\bin\include直接放到了此路径同名文件夹里)
3、测试
打开C:\TensorRT-8.2.4.2.Windows10.x86_64.cuda-11.4.cudnn8.2\TensorRT-8.2.4.2\samples\sampleMNIST里的sln
VS里配置,运行即可。
【推荐学习的博客】