PyTorch中查看GPU使用情况以及一些重要函数

简介

pytorch多卡相应内容学习总结，本着勤能补拙的态度，希望能够更好地提升自我能力。

1. 服务器信息查询

1. CPU查询

# 查看CPU信息
cat /proc/cpuinfo | grep "physical id" | uniq | wc -l #查看CPU个数
cat /proc/cpuinfo | grep "cpu cores" | uniq #查看CPU核数
cat /proc/cpuinfo | grep 'model name' |uniq #查看CPU型号

1. GPU查询

# 查看GPU信息
sudo dpkg --list | grep nvidia-* # 查看驱动版本
lshw -c video #查看显卡型号
$ lspci | grep -i nvidia # 可以查询所有nvidia显卡
$ lspci -v -s [显卡编号] # 可以查看显卡具体属性
$ nvidia-smi # 可以查看显卡的显存利用率
$ cat /etc/issue # 查看Linux发布版本号
$ lsb_release -a # 查看Linux发布版本号
$ uname -sr # 查看内核版本号
$ uname -a # 查看内核版本号

lspci

是一种实用程序，用于在系统中显示有关pci总线的信息以及连接到它们的设备。

1. CUDA版本

nvidia-smi # 右上角CUDA Version，但可能不准确，推荐使用下面命令
nvcc -V

以

nvcc -V

查询为主

1. 实时查看nvidia-smi

nvidia-smi -l 1 # 以每秒刷新一次进行信息，结果为1s一次输出nvidia-smi，不流畅，建议使用吓一条命令
watch -n 1 nvidia-smi # 会在同一位置处1s更新窗口信息

2. torch.cuda

1. 显卡信息查看

torch.cuda.is_available()# 查看是否有可用GPU
torch.cuda.device_count()# 查看GPU数量
torch.cuda.get_device_capability(device)# 查看指定GPU容量
torch.cuda.get_device_name(device)# 查看指定GPU名称
torch.cuda.empty_cache()# 清空程序占用的GPU资源
torch.cuda.manual_seed(seed)# 设置随机种子
torch.cuda.manual_seed_all(seed)# 设置随机种子
torch.cuda.get_device_properties(i)# i为第几张卡，显示该卡的详细信息

平时在模型中可以增肌信息输出

s = f'MODEL 🚀 torch {torch.__version__} '
    n = torch.cuda.device_count()
    space = ' ' * (len(s)+1)
    for d in range(n):
        p = torch.cuda.get_device_properties(d)
        s += f"{'' if d == 0 else space}CUDA:{d} ({p.name}, {p.total_memory / 1024 ** 2}MB)\n"  # bytes to MB
    print(s)

效果

1. 指定使用显卡 通过os.environ["CUDA_VISIBLE_DEVICES"]指定所要使用的显卡：

import os
os.environ['CUDA_VISIBLE_DEVICES']="2,1,3,4"print("torch.cuda.device_count() {}".format(torch.cuda.device_count()))

这种设置方式，

2

号卡就变成了主卡。

CUDA_VISIBLE_DEVICES

表示当前可以被python环境程序检测到的显卡。

os.environ["CUDA_VISIBLE_DEVICES"] = "2,1,3,4"

进行指定使用设备，这样会修改

pytorch

感受的设备编号，

pytorch

感知的编号还是从

device:0

开始。如上会把

2

号显卡改为

device:0

，

1

号显卡改为

device:1

。

如果有多个显卡，设置了

os.environ["CUDA_VISIBLE_DEVICES"]

后，其他没有设置的显卡将不会在本次代码中显示。

os.environ["CUDA_VISIBLE_DEVICES"]

需要设置在代码开头。

另外，使用终端也可以直接选择选择显卡，输入

CUDA_VISIBLE_DEVICES=0 python train.py

也可以

一些冷门知识补充（自取）

http://t.csdn.cn/mQH9y