step1, 提前准备好CUDA环境
注意，CUDA，cuDNN需要去官网下载.run和tar文件安装，否则在下面step4 make命令会报找不到cuda等的错误，具体安装教程网上有很多。
CUDA通过.run文件安装后，需要配置环境变量，命令：vim ~/.bashrc, 以及source ~/.bashrc使生效
export PATH=$PATH:/usr/local/cuda-12.2/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-12.2/lib64
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-12.2/extras/CUPTI/lib64然后cnDNN目前下载（我的版本：cudnn–linux–x86_64-8.9.6.50_cuda12-archive）解压后只有include, lib文件夹，没有lib64了，所以copy时候把之前的从lib64变成从lib复制。即：
cp lib/* /usr/local/cuda-12.2/lib64/
cp include/* /usr/local/cuda-12.2/include/
sudo chmod a+r /usr/local/cuda-12.2/include/cudnn.h
sudo chmod a+r /usr/local/cuda-12.2/lib64/libcudnn*step2, 下载并安装tensorRT
tar -xzvf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-12.0
vim ~/.bashrc
# 添加以下内容
export LD_LIBRARY_PATH=/home/xxx/0_code/TensorRT-8.6.1.6/lib:$LD_LIBRARY_PATH
export LIBRARY_PATH=/home/xxx/0_code/TensorRT-8.6.1.6/lib:$LIBRARY_PATH
source ~/.bashrcstep3, tensorRT组件安装
参考：Ubuntu 20.04 安装 TensorRT记录 – 知乎
step4, C++测试
cd path/TensorRT-8.6.1.6/samples/
make -j8
cd path/TensorRT-8.6.1.6/bin/
./sample_char_rnn执行时候遇到问题就解决啥问题，比如CUDA initialization failure with error: 999-CSDN博客
原文地址:https://blog.csdn.net/u010420283/article/details/134635103
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如若转载，请注明出处：http://www.7code.cn/show_16569.html
如若内容造成侵权/违法违规/事实不符，请联系代码007邮箱：suwngjj01@126.com进行投诉反馈，一经查实，立即删除！
声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。
