主要安装部署需要的CUDA,cuDNN,TensorRT,以及推理框架TensorFlow,Pytorch,视觉框架DeepStrem, VPI ,Multimedia等。
一. CUDA安装
1.使用SDKManger下载好的 .deb安装包,或自行下载
2.手动安装CUDA

3.登记GPG KEY

4.安装
执行 sudo apt-get update
sudo apt-get install cuda
安装出现依赖有问题时,保持出厂的源,不要修改,执行
sudo apt --fix-broken install
5.测试CUDA Demo程序
进入/usr/local/cuda-11.4/samples/4_Finance/BlackScholes

注意:源也要保证最初始的,不行,更换国内源
二. cuDNN安装
- 将SDKManager下载好的.deb包,传输到板子上

2.手动安装

3.进入/var/cudnn-local-repo-ubuntu2004-8.4.1.50

4.手动安装三个xxx.deb包



5.测试 cuDNN Demo程序
进入/usr/src/cudnn_samples_v8/mnistCUDNN
编译执行demo


三. TensorRT安装

将.deb包传输至开发板

另一种方式安装(可选)
依次安装提示的库

2.手动安装
配置os和tag变量,并安装

更新包,apt安装tensorrt

安装python3.x

安装TensorRT 使用 TensorFlow的模块

安装ONNX

验证


3.1** Pycuda安装**
若需要使用Python编写TensorRT 则需要安装pycuda
安装pip3
sudo apt-get install python3-pip
执行:pip3 install pycuda

四. TensorFlow安装
安装 :v502为jetpack版本,1.15.5为tensorflow版本,nv22.10为发布日期
查看版本https://developer.nvidia.com/embedded/downloads
sudo pip3 install --extra-index-url https://developer.download.nvidia.com/compute/redist/jp/v502 'tensorflow==1.15.5+nv22.10'

卸载:sudo 卸载出现警告是,去掉sudo
查看安装是否成功及版本号

五. PyTorch安装
1.下载脚本,https://github.com/dusty-nv/jetson-inference
2.进入目录:jetson-inference/build
3.执行:./install-pytorch.sh
六. DeepStream安装
6.1 安装依赖软件
1.执行:sudo apt install \
libssl1.1 \
libgstreamer1.0-0 \
gstreamer1.0-tools \
gstreamer1.0-plugins-good \
gstreamer1.0-plugins-bad \
gstreamer1.0-plugins-ugly \
gstreamer1.0-libav \
libgstreamer-plugins-base1.0-dev \
libgstrtspserver-1.0-0 \
libjansson4 \
libyaml-cpp-dev

2.安装librdkafka
git clone https://github.com/edenhill/librdkafka.git
配置:
git reset --hard 7101c2310341ab3f4675fc565f64f0967e135a6a
./configure 
make
sudo make install

sudo mkdir -p /opt/nvidia/deepstream/deepstream-6.1/lib
sudo cp /usr/local/lib/librdkafka* /opt/nvidia/deepstream/deepstream-6.1/lib
6.2 安装DeepStream SDK
1.下载SDK
https://developer.nvidia.com/deepstream_sdk_v6.1.1_jetson.tbz2
2.解压配置
sudo tar -xvf deepstream_sdk_v6.1.1_jetson.tbz2 -C /
cd /opt/nvidia/deepstream/deepstream-6.1
sudo ./install.sh
sudo ldconfig

6.3 运行DEMO
进入cd /opt/nvidia/deepstream/deepstream-6.1/samples

在开发板的显示屏界面操作,
使用SSH连接会出现下面错误

目标检测Demo:
执行 sudo deepstream-app -c configs/deepstream-app/source30_1080p_dec_infer-resnet_tiled_display_int8.txt
七. Multimedia API安装
1.使用SDKManager 安装

使用SDKManager 烧录系统和安装软件,均需要开发板连接外网,会检查apt update ,若不成功,会安装失败,使用公司网络会有问题
八. VPI安装
1.安装VPI repo 的key
sudo apt install gnupg
sudo apt-key adv --fetch-key https://repo.download.nvidia.com/jetson/jetson-ota-public.asc

sudo apt install software-properties-common
- 安装
sudo apt-get install libnvvpi2

- 查看

下一篇我将会分多篇给大家分享多个 AI的,分类检测,自动驾驶的语义分割等例子 。
版权归原作者 有意思科技 所有, 如有侵权,请联系我们删除。