深入浅出PyTorch 第一、二章：PyTorch安装与基础知识（笔记整理，个人自用）

一、安装

1.安装anaconda

2.在Anaconda Prompt或终端上创建虚拟环境

conda create -n env_name python==version
#或是
virtualenv env_name --python=version

3.激活虚拟环境并输入下载pytorch的命令（命令只能在官网上自行查找）

二、基础知识

2.1 张量

2.1.1 简介

Tensor实际上就是一个多维数组，它能够创造更高维度的矩阵、向量 。

 2.1.2 创建tensor

1.  torch.rand()的方法，构造一个随机初始化的矩阵

2.      torch.zeros()构造一个矩阵全为 0

2.1.3 张量的操作

PyTorch中的 Tensor 支持超过一百种操作，包括加法、索引、维度普变换、转置、索引、切片、数学运算、线性代数、随机数等等

2.1.4 广播机制

当对两个形状不同的 Tensor 按元素运算时，可能会触发广播(broadcasting)机制：先适当复制元素使这两个 Tensor 形状相同后再按元素运算。

2.2 自动求导

2.3 并行计算简介 

1.         使用nvtop命令来查看显卡的使用情况

2.        选定显卡运行程序

 #设置在文件最开始部分
import os
os.environ["CUDA_VISIBLE_DEVICE"] = "2" # 设置默认的显卡


或是
CUDA_VISBLE_DEVICE=0,1 python train.py # 使用0，1两块GPU

目前阶段还用不到多卡并行的处理！！