Anaconda +Geforce RTX 2060 +CUDA+cuDNN+Visual Studio+keras+tensorflow-gpu

注意：本文主要参考：https://www.tensorflow.org/install/gpu
并经过实践证明
解决问题：
Anaconda +Geforce RTX 2060 +CUDA+cuDNN+Visual Studio+keras+tensorflow-gpu
使用keras+tensorflow 调用GPU并行加速
1 前提条件：我的笔记本是联想游戏本 拯救者 Y7000P 显卡是NVIDIA Geforce RTX 2060 显存是6GB

我之前的笔记本是华为轻薄本，显卡是MX 250 ，显存只有2GB，但是也可以调用该GPU跑机器学习的程序，所以基本上所有的NVIDIA显卡应该都可以通过一系列安装操作，跑起来机器学习的并行加速
3 基本知识：你有一张显卡，你想用keras去调用该显卡进行并行加速，你需要以下操作，
(1)为你的显卡配置相匹配的的CUDA 和cuDNN（CUDA和cuDNN需要相匹配）
(2)安装Anaconda（安装anaconda之前需要安装Visual Studio2015）
(3)创建Anaconda虚拟环境（创建的同时，指定python的版本，只有3.5到3.7的python才可以）
(4)在anaconda虚拟环境中使用pip安装与CUDA相匹配的tensorflow-gpu（版本不能是最新的，也不能太高，一般1.几，否则keras不支持）
(5)在anaconda虚拟环境中使用pip安装与tensorflow-gpu相匹配的keras（版本也不能是最新的）
所有的配置都是根据以下这张表

注意：由于keras好像不支持2.0.0以上版本的tensorflow-gpu,所以你能选择的最高tensorflow-gpu版本就是1.15.0，当然你也可以安装其他版本，对应的keras如下
tensorflow-gpu 1.5.0 匹配keras2.1.4
tensorflow-gpu 1.4.0 匹配keras2.1.3
tensorflow-gpu 1.3.0 匹配keras2.1.2
tensorflow-gpu 1.2.0 匹配keras2.1.2
不过，根据我的经验，貌似你可以将tensorflow-gpu 1.2.0到tensorflow 1.5.0，与keras 2.1.2到keras 2.1.4任意匹配，但只能是这八个里面挑两个

以上理清了这些依赖项的关系
接下来开始傻瓜式教学
**
根据上面这张表，除了Build tools栏目下的Bazel你不需要安装，其他的都需要，安装顺序如下
MSVC
CUDA
cuDNN
python
tensorflow-gpu
又由于我用的Anaconda+keras
所以我的安装顺序为
MSVC
CUDA
cuDNN
Anaconda（anaconda里的环境自带python，所以不用自己安装）
tensorflow-gpu
keras

step 1 安装Microsoft Visual Studio

**
安装CUDA之前，你需要安装Visual Studio，为什么呢，因为你需要MSVS里面的C++编译选项，否则你安装CUDA就会报错，不信你试试
下载VIsual Studio 链接https://my.visualstudio.com/Downloads?q=visual%20studio%202015&wt.mc_id=o_msftvscom~older-downloads


点击安装，按照默认选项，确认
安装完成后，打开Windows控制面板-程序和功能，你会看到多出了很多程序，

step2

接下来安装CUDA和cuDNN
4 下面进行第一步：根据你的显卡安装 CUDA和cuDNN
登录官网https://developer.nvidia.com/cuda-toolkit-archive去下载
我下载的是CUDA Toolkit 10.0


我选择的是exe(local),先下载，再安装，翻墙会让下载变快
为什么是CUDA10.0呢？因为CUDA版本太高的话会导致没有匹配的python版本，进而导致没有匹配的tensorflow-gpu版本，进而导致没有匹配的keras版本

安装CUDA时，一路确认到底应该就可以

如果你的检查系统兼容性出现错误，与上图不同，出现错误如下图

那么说明，你安装CUDA版本太低或者不匹配你的显卡，一般来讲，显卡都会向后兼容几个版本，但不能太低，我的显卡仅支持CUDA9.2以上的版本（包括CUDA9.2）
点击同意并继续，选择自定义

点击下一步

看到上图了吗，有人（有的博客）告诉你，不要勾选Visual Studio Integration，这是错误的，我猜测是他勾选后出现了安装错误，显示找不到匹配的Visual版本，于是他把不勾选此选项，安装成功，他的错误源于他未安装Microsoft Visual C++ 2015,也就是未进行上面的step1 ,直接进行了step2

点击下一步
点击下一步，默认就完事了，一直到最后
…

step3

安装cuDNN
下载链接：https://developer.nvidia.com/rdp/cudnn-archive
根据那张测试过的匹配表，按照与CUDA相匹配的版本下载，


解压出来

然后解压出来，在C盘下建一个tools的文件夹

将你解压出来的cuda放到tools文件夹里
如下图

点开看一下，如下图

接下来配置Win10环境变量
要把以下路径配置到path中
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\bin
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\libnvvp
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\extras\CUPTI\libx64
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\include
C:\tools\cuda\bin
如下图

一共五个，前两个在你安装CUDA时，会自动配置
三四五需要你自己手动配置
此时CUDA和cuDNN就安装完毕
注意：在以上操作中，有很多博客告诉你要把解压出来的cuDNN中的bin,include,lib 文件夹直接替换路径C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0里的bin，include，lib，而不是像我说的那样建立一个tools文件夹，并配置相应路径
这样做，也许可以吧，你可以试试，不过我的这种方式是参考tensorflow官方文档的https://www.tensorflow.org/install/gpu
注意很多链接你如果打不开或者速度很慢，那你可能需要翻墙哦
接下来安装anaconda
安装最新版的anaconda会导致base环境中的python版本是最新版本，应该是3.8，3.8没有相应的tensorflow-gpu和keras相匹配，所以要安装较早的anaconda版本
百度anaconda

选择官网，点击进入，选择Products-individual

下载anaconda
按照默认选项（除了默认安装路径），自己装吧

注意：anaconda目标路径中不能含有空格，如果你安装在C:\Program Files (x86)这个路径下，就会提示你安装路径有空格，其实，安装任何软件，要安装的目标路径都不能有空格和中文，你的Windows用户名更不能是中文，否则会出现很多莫名的错误

继续：单击左下角Windows-开始，打开anaconda navigator，打开anaconda base 环境 Open Terminal

首先用conda命令创建一个虚拟环境名字叫ml，
conda create -n ml python==3.6.10 anaconda
注意这时候你可能需要翻墙，或者用镜像（我不知道有没有用）
注意：命令的最后使用anaconda是因为要创建一个和base环境相似的环境，如果你不加anaconda，你创建的虚拟环境就不会有jupyter notebook,最主要的是在后面安装其他package的时候会有很多问题
同时该命令指定了python的版本，否则会默认安装最新版本，也就是会大于3.6

注意 你创建的虚拟环境的名字不能太长，否则不利于你改掉jupyter notebook的默认工作路径，参考：https://editor.csdn.net/md/?articleId=110948365

安装成功后，如下图
接着：激活环境
conda activate ml

创建好环境如下图

有两个jupyter notebook的图标

打开
接下来打开你的环境的Open Terminal
安装tensorflow-gpu，指定版本的
pip install tensorflow-gpu1.13.2，为什么不是1.13.0呢？请看下图


如果下载速度慢，就翻墙，或者用国内镜像（参考：https://blog.csdn.net/qq_43347374/article/details/110959077）
完事安装keras
安装时也要指定版本，参考如下
tensorflow-gpu1.14.0匹配keras2.1.4
tensorflow-gpu1.13.1匹配keras2.1.2
tensorflow-gpu1.13.2匹配keras2.1.2
如上，打开terminal
pip install keras2.1.2

测试keras或者tensorflow是否调用了GPU
打开虚拟环境的jupyter notebook




同时你跑代码的时候，
打开任务管理器-性能
点击你的GPU，查看内存是否被调用