![v2-7cc2bb63a5caa1e1e5279a3dc06acc55_1440w.jpg?source=172ae18b](http://img-02.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic2.zhimg.com/v2-7cc2bb63a5caa1e1e5279a3dc06acc55_1440w.jpg?source=172ae18b)
写在前面
最近准备尝试跑一跑 TensorFlow GPU 训练模型,平时开发用的 MBP,无赖显卡是 AMD 只支持 CPU 训练,但恰有闲置 Win10 笔记本电脑一台显卡 NVIDIA 支持 CUDA® 。
Tensorflow GPU 训练加速需要支持 CUDA® 的 GPU 显卡,这里提到的 CUDA 指的是,是 NVIDIA 研发的一种并行计算平台和编程模型,它可以通过利用 GPU 的处理能力,可大幅提升计算性能的技术,更多查看相关内容。
环境搭建过程整体比较简单,查找下载相关工具包需要捣腾一会。
1 硬件条件
首先查看自己的显卡型号是否满足条件,TensorFlow 官方文档硬件要求提到了,CUDA® 架构为 3.5、3.7、5.2、6.0、6.1、7.0 或更高的 NVIDIA® GPU 卡。
1.1 查看显卡型号
第一步查看自己的显卡型号,进入 NVIDIA 控制面板,点击系统信息。
![v2-74633ad586378b981209fe6e7a4aebe9_b.jpg](http://img-01.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic2.zhimg.com/v2-74633ad586378b981209fe6e7a4aebe9_b.jpg)
显卡型号为 GeForce GTX 850M,电脑比较老很早前的。
![v2-29e9f4cd645cd64757b03baa948d9f73_b.jpg](http://img-03.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic4.zhimg.com/v2-29e9f4cd645cd64757b03baa948d9f73_b.jpg)
1.2 查询显卡是否支持 CUDA®
显卡型号为 GeForce GTX 850M,点击查看支持 CUDA® 的 GPU 卡列表,查看显卡型号是否在支持的列表里面。
![v2-ae3d71d0bea3d732ed7392fb08feabbc_b.jpg](http://img-01.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic1.zhimg.com/v2-ae3d71d0bea3d732ed7392fb08feabbc_b.jpg)
计算能力为 5,显卡支持 CUDA ,接下来查看 CUDA 驱动版本,NVIDIA 控制面板,系统信息的组件里面。
![v2-0054a1dfca1b13d7387508e4920f69aa_b.jpg](http://img-03.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic3.zhimg.com/v2-0054a1dfca1b13d7387508e4920f69aa_b.jpg)
版本为 11.1.96,在 TensorFlow 支持 CUDA 驱动版本范围上,如果版本过低可查看下面提到的软件下载进行安装升级最新驱动。
2 软件下载
2.1 下载安装 NVIDIA® GPU 驱动程序
输入信息查询显卡驱动,下载安装最新的 NVIDIA® GPU 驱动程序,方便后面支持 CUDA Toolkit 安装 10.1 版本,CUDA Toolkit 10.1 需要驱动版本 418.x 或更高版本。
![v2-e15635bbdca34841e0de2c5b7567c26a_b.jpg](http://img-02.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic3.zhimg.com/v2-e15635bbdca34841e0de2c5b7567c26a_b.jpg)
版本号为 456.71,满足要求,然后下载下来后安装驱动。
![v2-5aebe3b7d85163de07372a4003123a85_b.jpg](http://img-02.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic2.zhimg.com/v2-5aebe3b7d85163de07372a4003123a85_b.jpg)
2.2 下载安装 CUDA® Toolkit
CUDA 工具包提供了用于创建高性能GPU加速应用程序的开发环境。TensorFlow(TensorFlow 2.1.0 及更高版本)支持 CUDA® 10.1 的 CUDA® Toolkit 。
![v2-32125c572995b4245d9a357090794f37_b.jpg](http://img-03.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic4.zhimg.com/v2-32125c572995b4245d9a357090794f37_b.jpg)
选择临时文件目录,这里选择了默认设置。
![v2-b69d531ef99906ca29fd6bac82559846_b.jpg](http://img-01.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic3.zhimg.com/v2-b69d531ef99906ca29fd6bac82559846_b.jpg)
然后一直下一步,直到这里,如果电脑上面没有安装 Visual Studio 会提示你安装 Visual Studio,如果后续有打算从源码构建 Tensorflow,则需要安装,具体安装内容可查看 在 Windows 环境中从源代码构建。
![v2-77225568e423a210dbd4bdaa5fe264dc_b.jpg](http://img-02.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic1.zhimg.com/v2-77225568e423a210dbd4bdaa5fe264dc_b.jpg)
安装完成之后,会自动添加了几个环境变量到系统中,打开终端里面输入 nvcc -V
验证安装结果。
![v2-e356ae08673b5e339c1f8772f1ac2042_b.jpg](http://img-02.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic3.zhimg.com/v2-e356ae08673b5e339c1f8772f1ac2042_b.jpg)
2.3 下载 cuDNN SDK 7.6
cuDNN 是一个 GPU 加速的深度神经网络库,下载 cuDNN SDK 需要注册 NVIDIA Developer Program,进入下载页面后选择 CUDA 10.1 的 cuDNN 7.6 版本。
![v2-fd6bc933b784badbd48bfe04a4681e85_b.jpg](http://img-02.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic2.zhimg.com/v2-fd6bc933b784badbd48bfe04a4681e85_b.jpg)
下载成功之后将其压缩包解压,拷贝放到 CUDA 目录 C:Program FilesNVIDIA GPU Computing ToolkitCUDAv10.1
下面,这里拷贝是指将这三个目录下面的文件拷贝放入到 CUDA v10.1 对应的目录里面。
![v2-0f62fff5c08d4cf9e12b722a994d20fd_b.jpg](http://img-01.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic2.zhimg.com/v2-0f62fff5c08d4cf9e12b722a994d20fd_b.jpg)
2.4 TensorRT 6.0 (可选)
用于可缩短用某些模型进行推断的延迟时间并提高吞吐量,可选择 Zip 方式安装,这里可选安装。
![v2-69b256874f62fdd9651f4c84f8fa6e3a_b.jpg](http://img-01.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic3.zhimg.com/v2-69b256874f62fdd9651f4c84f8fa6e3a_b.jpg)
3 安装 Anaconda
使用 Anaconda 通过方便管理包依赖问题,,如果觉得 Anaconda 占用磁盘空间过大可以使用 miniconda,平时开发电脑上用的 miniconda,关于miniconda 安装使用可点击这个。
3.1 下载 Anaconda
- 从官网下载:https://www.continuum.io/downloads 官网速度比较慢,不太推荐。
- 从清华镜像下载:https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/
3.2 安装 Anaconda
安装过程也比较简单,需要注意以下两个地方。
Anaconda 安装使用后占有磁盘空间比较大,如果 C 盘空间有限不推荐安装在 C盘。
![v2-6e255d654deb4a4dcf8bb09b2c7234cc_b.jpg](http://img-01.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic1.zhimg.com/v2-6e255d654deb4a4dcf8bb09b2c7234cc_b.jpg)
下面有两个选择,第一个是将 Anaconda 添加到环境变量中,如果电脑上之前安装了 Anaconda 的另一个版本软件会影响 Anaconda 的使用,添加到环境变量的好处是可以直接打开终端执行相关命令管理包,如果不添加到环境变量也可以在 windows 的开始菜单里面找到 Anaconda Prompt ,然后在打开的终端上执行相关命令管理包,所以这里可以不添加到系统环境变量。
第二个是将 Anaconda 的 python 3.7 版本设置成我电脑上默认的 python,这样你的 IDE 等编辑器会检测到这个版本,方便后面在 IDE 调试代码的时候可以用到这个版本,如果之前电脑上有装过 python 这里可根据你的情况适当选择。
![v2-5cf5ae1e215de2695673504382d83535_b.jpg](http://img-02.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic2.zhimg.com/v2-5cf5ae1e215de2695673504382d83535_b.jpg)
3.3 配置 Anaconda
Anaconda 官方的数据包镜像,下载比较缓慢,可以考虑用清华的镜像 https://mirrors.tuna.tsinghua.edu.cn/help/anaconda/
将新的镜像地址配置到 .condarc
文件,配置镜像内容可以查看 Anaconda 清华镜像使用帮助。
4 测试
4.1 安装 TensorFlow
打开安装好的 Anaconda Navigator, 创建用于测试 tensorflow-gpu 虚拟环境。
![v2-5da5e9089d6475077b85b8d9a059dd20_b.jpg](http://img-01.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic1.zhimg.com/v2-5da5e9089d6475077b85b8d9a059dd20_b.jpg)
需要注意的是,如果你用 pip 安装官方发布的 TensorFlow ,可以直接安装 tensorflow 包即可,即 pip install --upgrade tensorflow
,因为官方对于 TensorFlow 1.x,CPU 和 GPU 软件包是分开的,而 2.x 将其打包在一起的,另外 2.x GPU 软件包也有发布的,也可以 pip install --upgrade tensorflow-gpu
安装 GPU 包。
在使用 conda 安装时, Anaconda Cloud 官方把 TensorFlow 2.x CPU 和 GPU 软件包是拆分了的,应该是为了减小包安装体积。
使用 conda 安装 tensorflow-gpu,在输入栏输入 tensorflow 选择 tensorflow-gpu 点击 Apply 即可。
![v2-9f94a4141b6a7a01550a016cb1fbcde2_b.jpg](http://img-01.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic3.zhimg.com/v2-9f94a4141b6a7a01550a016cb1fbcde2_b.jpg)
4.2 运行代码测试安装结果
打开当前环境的终端或打开 JupytarLab 或者 Notebook 运行以下代码。
import tensorflow as tf
from tensorflow.python.client import device_lib
// 打印已有的 GPU
print(tf.config.list_physical_devices('GPU'))
// 打印 GPU 设备名称
print(tf.test.gpu_device_name())
// 打印电脑上可以用于计算的设备
print(device_lib.list_local_devices())
在 JupytarLab 运行结果为
![v2-9ae8c3556eb361e5e7c5edc08af7be66_b.jpg](http://img-02.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic3.zhimg.com/v2-9ae8c3556eb361e5e7c5edc08af7be66_b.jpg)
打印出来了可用于计算的设备有 CPU 与GPU,并分别打印出它们的信息及 GPU 计算能力,安装成功之后,接下来就可以跑代码训练神经元网络了。
4.3 一个简单的神经网络测试
最后来跑一跑常见的一个入门 Hellow World DEMO,根据一个简单的公式和构建一个神经网络,简单预测房屋的价格。
import tensorflow as tf
import numpy as np
from tensorflow import keras
model = tf.keras.Sequential([keras.layers.Dense(units=1, input_shape=[1])])
model.compile(optimizer='sgd', loss='mean_squared_error')
xs = np.array([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], dtype=float)
ys = np.array([5.0, 6.5, 8.0, 9.5, 11.0, 12.5], dtype=float)
model.fit(xs, ys, epochs=1000)
print(model.predict([7.0]))
假如房子的定价很简单,如果一个带卧室的房子是 15 万 + 35 万,也就是一间带主卧的房子 50 万,两间卧室的房子 65 万,注此类推。
输入 6 条数据,预测 7 间卧室的房子多少钱,这里把单位缩小,方便神经元网络对数据的处理,输入数据 1 代表一个带卧室的房子,输出 5,表示 50 万。
![v2-527156e945244967417c90110e43cb9f_b.jpg](http://img-02.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic4.zhimg.com/v2-527156e945244967417c90110e43cb9f_b.jpg)
训练 1000 次,预测运行结果部分截图如下。
![v2-8986d844df50a6b7a2eaf9fd1355f807_b.jpg](http://img-02.proxy.5ce.com/view/image?&type=2&guid=e2a948d3-df2e-eb11-8da9-e4434bdf6706&url=https://pic4.zhimg.com/v2-8986d844df50a6b7a2eaf9fd1355f807_b.jpg)
参考链接
- TensorFlow 安装 GPU 支持
- 安装 Tensorflow 2.1.0 版本
原文首发地址 https://github.com/liuvigongzuoshi/blog