pytorch入门（一）简介pytorch

在读《 Programing PyTorch for Deep Learning》 提取码：pypt时做的一些笔记。

什么是pytorch

pytorch时facebook提供的一个基于python的深度学习开源框架。其有两个来源，其一是Torch，Torch最早是基于2002年的一个基于Lua的神经网络库。另一个来源是2015年日本创建的Chainer。Chainer是最早提供动态图计算的神经网络库之一。

TensorFlow和PyTorch

（这本书是19年的，应该会有一些不同，如有不同望留言指出，感谢）
在使用TensorFlow时，先建立神经网络结构的图形表示然后再在该图形上执行操作。TensorFlow使用静态图（2.0版本之前）。
在TensorFlow2.0版本之后添加了 eager execution，使得其工作原理和PyTorch相似。

Keras

Keras最初支持TeaNo和TensorFlow现在还支持MXNet。其目前为TensorFlow的一个单独部分（tf.keras）。

书中惯例

• 斜体：术语、UTL、电子邮件地址、文件名和文件扩展名。

• 等宽：用于程序列表，以及在段落中引用程序元素，如变量或函数名、数据库、数据类型、环境变量、语句和关键字。

• 等宽加粗：显示用户应按字面意思键入的命令或其他文本。

• 等宽斜体：显示应替换为用户提供的值或由上下文确定的值的文本。

补充材料

（包括代码示例和练习）可在以下网址下载：https://github.com/falloutdurham/beginners-pytorch-deep-learning。

第一章-Getting Started with PyTorch

书中建议使用云资源（如果没有相应资源不要配置）：Amazon Web Services, Google Cloud, or Microsoft Azure。

硬件

GPU

深度学习box的核心，（书中说到由于挖矿gpu涨价、然后这种情况似乎在消退（其实没有））。书中建议使用 NVIDIA GeForce RTX 2080 Ti（我实验室也是这种）。

CPU

书中推荐Z370系列。也提到了CPU不行话可能也会成为深度学习的瓶颈。

RAM

建议至少64GB DDR4的主存

Storage

建议4TB 用于储存不活跃的数据。

Deep Learning in Cloud

如果刚开始学习DL不建议使用云端的Tesla V100 。可以使用更便宜（甚至免费）的K-80。并且使用云端更容易配置。

谷歌

Colaboratory（或Colab）是一个基本免费、零安装要求的定制Jupyter笔记本环境。只需要一个谷歌账号即可。

亚马逊

在AWS上创建深度学习box步骤：

1. 登录AWS控制台。
2. 选择 EC2并启动。
3. 搜索并选择Deep Learning AMI (Ubuntu) 选项。
4. 选择p2.xlarge作为实例类型。
5. 通过创建新的密钥或者重用密钥启动实例。
6. 使用SSH连接到实例，并将本地计算机上的端口8888重定向到实例：
   ssh -L localhost:8888:localhost:8888\
   -i your .pem filename ubuntu@your instance DNS
7. 通过输入Jupyter笔记本启动Jupyter笔记本。复制生成的URL并将其粘贴到浏览器中以访问Jupyter。

配置环境

需要下载anaconda和对应版本的CUDA。详情自行搜索（因为实验室安装好了anaconda和CUDA）。
打开anaconda prompt。

conda create -n py37pt11 python=3.7 # 安装python环境
conda activate py37pt11  # 激活环境
pip install --upgrade pip  # 更新pip
conda install pytorch==1.1