0


Ubuntu安装Cuda、PyTorch、TensorRT、OpenCV、Redis等AI推理环境


【安装 Nvidia驱动】
1、执行 nvidia-smi,查看是否已安装驱动,若已安装跳过本环节,否则执行第2步

2、执行自动安装驱动:sudo ubuntu-drivers autoinstall

3、重启系统,执行 reboot

4、查看版本
nvidia-smi


【安装 GCC】
1、到官网查看对应cuda版本要求的gcc版本,找到“Versioned Online Documentation”
或者打开:https://docs.nvidia.com/cuda/archive/
选择对应的版本打开文档后,选择【Installation Guide Linux】,查看相关组件要求的版本

2、查看系统的gcc是否安装,如未安装执行第3步,如已安装执行第4步
sudo dpkg -l | grep gcc

3、按照版本要求替换以下命令gcc-xx,安装完成后执行第4步
sudo apt install gcc-11

注:如果无法找到gcc版本,执行添加下载源:sudo add-apt-repository ppa:ubuntu-toolchain-r/test

4、根据第1步选择对应版本的gcc,末尾的20代表权重,可以10、20、30、40
sudo update-alternatives --install /usr/bin/gcc gcc /usr/bin/gcc-11 20

注:需要到/usr/bin查看gcc的链接名称,再修改上述指令的gcc名称

5、查看版本
gcc --version


【安装 CUDA】
1、CUDA官网下载ubuntu版本的【runfile(local)】文件
https://developer.nvidia.com/cuda-toolkit-archive

2、执行:sudo bash cuda_12.1.0_530.30.02_linux.run

4、勾选组件时,如果已安装nvidia驱动,则x掉nvidia驱动选项

5、环境配置
sudo gedit ~/.bashrc

在末尾填入:

CUDA >>>

export PATH=/usr/local/cuda-12.1/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.1/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
export CUDA_HOME=/usr/local/cuda-12.1

CUDA <<<

4、更新系统环境
source ~/.bashrc
sudo ldconfig

5、查看版本
nvcc -V

6、选择gcc版本
sudo update-alternatives --config gcc
然后填序号,回车


【安装 CUDNN】
1、CUDNN官网下载Liunx_x86_64版本的【Tar】文件
https://developer.nvidia.com/rdp/cudnn-archive

2、执行 tar xvf 文件名(由于没有用gzip格式压缩,所以不用加z指令)

3、cd进入解压后的文件夹,执行以下命令,复制文件到cuda目录(12.1之后的版本)
sudo cp -r ./include/* /usr/local/cuda/include/
sudo cp -r ./lib/* /usr/local/cuda/lib64/
sudo chmod a+r /usr/local/cuda/include/cudnn.h
sudo chmod a+r /usr/local/cuda/lib64/libcudnn*

4、验证安装,需要安装完pytorch后,新建并执行脚本:python test_torch.py,如下内容:
from torch.backends import cudnn
print(cudnn.is_available())


【安装 TensorRT】
1、下载对应cuda版本的TensorRT版本和Liunx_x86_64版本的【Tar】文件
https://developer.nvidia.com/tensorrt-download

2、执行 tar xvf 文件名

3、sudo mv 解压的目录名 /usr/local/TensorRT

5、环境配置
sudo gedit ~/.bashrc

在末尾填入:

TensorRT>>>

export LD_LIBRARY_PATH=/usr/local/TensorRT/lib:$LD_LIBRARY_PATH
export LIBRARY_PATH=/usr/local/TensorRT/lib:$LIBRARY_PATH
export CPLUS_INCLUDE_PATH=/usr/local/TensorRT/include:$CPLUS_INCLUDE_PATH
export C_INCLUDE_PATH=/usr/local/TensorRT/include:$C_INCLUDE_PATH

TensorRT <<<

6、更新系统环境
source ~/.bashrc

7、进入sample目录,验证安装
① cd /usr/local/TensorRT/samples/sampleOnnxMNIST
② sudo make -j8
③ ../../bin/sample_onnx_mnist


【安装 Anaconda】
1、Anaconda 官网版本仓库下载【.sh】文件
https://repo.anaconda.com/archive/
https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/

2、执行:bash Anaconda3-2021.11-Linux-x86_64.sh
注:2021.5为py3.8

3、环境配置:(安装2023.03-1之后的版本,在安装最后的conda init选择“yes”,则无需手动配置以下环境)
sudo gedit ~/.bashrc

Anaconda>>>

export PATH="/home/xm/anaconda3/bin:$PATH"

Anaconda <<<

4、更新系统环境
source ~/.bashrc

5、验证安装
conda -V
python -V


【安装PyTorch】
1、PyTorch官网下载指定Python版本和GPU版本的torch、torchaudio、torchvision、xformers
https://download.pytorch.org/whl/torch_stable.html

2、用pip命令安装,末尾加上:-i https://pypi.tuna.tsinghua.edu.cn/simple


【安装 OpenCV】
1、OpenCV 官网下载【Source】文件,格式为【zip】包
https://opencv.org/releases/

2、解压:unzip opencv.zip

3、安装依赖:
sudo apt install cmake
sudo apt install build-essential libgtk2.0-dev libavcodec-dev libavformat-dev libjpeg-dev libswscale-dev libtiff5-dev
sudo apt install pkg-config

4、安装ippicv

下载ippicv:https://github.com/opencv/opencv_3rdparty/tree/ippicv/master_20180723/ippicv
对应ubuntu版本为:ippicv_2020_lnx_intel64_20191018_general.tgz

执行:vim 3rdparty/ippicv/ippicv.cmake

找到:"https://raw.githubusercontent.com/opencv/opencv_3rdparty/${IPPICV_COMMIT}/ippicv/"
替换为ippicv.tgz下载存放的目录,如:"/home/ippicv",修改完成后,退出保存vim

5、执行安装:
cd opencv目录
mkdir build
cd build
sudo cmake -D CMAKE_BUILD_TYPE=Release -D OPENCV_GENERATE_PKGCONFIG=YES -D CMAKE_INSTALL_PREFIX=/usr/local ..
sudo make -j8
sudo make install

6、配置环境
sudo gedit /etc/ld.so.conf
文本填入:
include /etc/ld.so.conf.d/*.conf
include /usr/local/lib
保存后运行:
sudo ldconfig

sudo gedit ~/.bashrc
在末尾填入:

OpenCV >>>

PKG_CONFIG_PATH=$PKG_CONFIG_PATH:/usr/local/lib/pkgconfig
export PKG_CONFIG_PATH

OpenCV <<<

保存后运行:
source ~/.bashrc

7、验证安装
sudo pkg-config --modversion opencv4


【安装 hiredis】
1、hiredis 官网下载【Source】文件,格式为【zip】包
https://github.com/redis/hiredis

2、解压:unzip hiredis.zip

3、安装:
cd hiredis目录
make
sudo make install


【安装 yaml-cpp】
1、到github下载【Source】文件,格式为【zip】包
https://github.com/jbeder/yaml-cpp

2、解压:unzip yaml-cpp.zip

3、安装:
cd yaml-cpp目录
mkdir build
cd build
cmake ..
make -j8
sudo make install


【安装 PyCharm】
1、jetbrains 官网下载【tar.gz】文件
https://www.jetbrains.com/pycharm/

2、解压:tar xzf pycharm-<version>.tar.gz

3、初始化:
进入解压后的pycharm/bin目录下,执行:sh pycharm.sh

4、在欢迎界面选择“设置”:Create Desktop Entry

5、最后将桌面图标添加到收藏栏即可


【相关命令】
linux激活pycharm创建的venv环境命令:
source 项目路径/venv/bin/activate


【安装过程&报错处理】
1、执行tensortRT验证流程时,提示 g++:command not found
解决:sudo apt-get install build-essential


本文转载自: https://blog.csdn.net/yoohome/article/details/143430132
版权归原作者 Johnny_37 所有, 如有侵权,请联系我们删除。

“Ubuntu安装Cuda、PyTorch、TensorRT、OpenCV、Redis等AI推理环境”的评论:

还没有评论