全过程记录---检查PyTorch是否在使用GPU

0 引言

在普通的个人计算机上进行模型训练是一件非常痛苦的事情。过去一直使用CPU，终于忍不住要试一下GPU了。下面描述了检查PyTorch是否在使用GPU的全过程。

1 检查是否有GPU

首先检查本机是否有GPU设备。从任务管理器->性能中可以获得相关信息。GPU的名称为NVIDIA GeForce GTX 1660 SUPER，可以使用的内存共22G。这显示出计算机具备使用GPU的能力。免费给CUDA做点广告吧---CUDA是 NVIDIA 专为图形处理单元 (GPU) 上的通用计算开发的并行计算平台和编程模型。借助 CUDA，开发者能够利用 GPU 的强大性能显著加速计算应用。在经 GPU 加速的应用中，工作负载的串行部分在 CPU 上运行，且 CPU 已针对单线程性能进行优化，而应用的计算密集型部分则以并行方式在 GPU 核心上运行。使用 CUDA 时，开发者使用编程语言如 C、C++、Fortran、Python 和 MATLAB进行编程，并通过扩展程序以几个基本关键字的形式来表示并行性。NVIDIA 的 CUDA 工具包提供了开发 GPU 加速应用所需的一切。CUDA 工具包中包含多个 GPU 加速库、一个编译器、多种开发工具以及 CUDA 运行环境。

2 安装PyTorch CUDA

默认情况下安装PyTorch(pip install torch)安装的是CPU版本。为了安装GPU版本，在PyTorch的网页中按下图选择安装选项，系统得到最下端的安装命令行。

pip3 install torch==1.9.0+cu102 torchvision==0.10.0+cu102 torchaudio===0.9.0 -f https://download.pytorch.org/whl/torch_stable.html

在tfs4虚拟环境中运行该命令行，开始安装torch, 安装包大约1.44G，取决于网络速度，在我目前的安装中，花了大约10分钟时间。安装完毕，检查安装的版本为 Version: 1.9.0+cu102。

3 检查PyTorch是否在使用GPU

(1) 首先输入pytorch模块

import torchprint(torch.__version__)

(2) 检查是否可使用CUDA

torch.cuda.is_available()

(3) 检查CUDA版本

torch.version.cuda

(4) 检查有几个GPU

torch.cuda.device_count()

(5) 检查目前的GPU

torch.cuda.current_device()

(6) 检查目前GPU的设备名称

torch.cuda.get_device_name(torch.cuda.current_device())

(7) 检查内存

torch.cuda.memory_allocated(0)/1024**3torch.cuda.memory_reserved(0)/1024**3

5 结束语

目前的配置如下:  PyTorch 版本1.9.0+cu102，只有1个GPU, 设备名称GeForce GTX 1660 SUPER, 显存6G。查了一下，发现这是2019年10月推出的产品，目前的市场价格大约在1600元。接下来我们的训练模型将在GPU上运行，但不知速度能提高多少。