tensorflow和torch在cpu和gpu上切换及清缓存

前提配置

设备：linux（有显卡）（centos）
编程环境：linux-bash（xshell，jupyterlab-shell）；jupyterlab
语言：python3.8（某conda虚拟环境）
包：tensorflow（2.0+），pytorch（不重要）

jupyterlab优势颇多，沿用；
jupyterlab，启动一个kernel，【等价于所谓的一个session()，tensorflow1.0中】

一、torch和tensorflow包版本选择：

1、选 tensorflow2.0（1.0用得少） 和 pytorch
2、tensorflow和torch都有所谓的cpu版和gpu版，区别在于
2.1 cpu版则默认使用cpu，gpu版则默认使用gpu
2.2 gpu版的功能 = cpu版的功能 + 其他
2.3 提示：新手请选cpu版

二、确定包后，包的安装：

1、选择 conda 安装
1.1 优点：配套相关python包及版本变更；解决一些版本冲突等；cuda相关也会下载
1.2 缺点：为加快下载速度，换源（如清华源）略费劲，需要改配置，bash生效等新手不友好
2、选择pip下载
2.1 优点：不随意变更别的包版本（比如numpy），且下载时换源临时性 -i https… 比较方便
2.2 缺点：可能迎来一些报错，如一些配置不足（cuda），如numpy包版本引起（报错内容 ‘无dtype…’）

三、一些包的初始化与解决方案

cuda解决：略；提示：搜索对应cuda与tensorflow版本
包冲突解决：略；

四、tensorflow(gpu版本) 在 cpu与gpu的切换，及重要配置

1、tensorflow的GPU动态增长内存模式
1.1、默认为“非动态增长模式”，解释：假设你有20G的gpu内存，17G可用，当你创立一个tensorflow-gpu的张量时，17/20的内存就被占用了，这是因为tf其策略是默认先取光后智能分配（实际上不利于你观察显存使用）

1.2、关闭显存模式

import tensorflow as tf
gpus = tf.config