读书笔记3

Pytorch深度学习框架。

1 安装开发环境

1）安装Anaconda

集成了科学分析大量的package的软件。

base（root），默认的一个虚拟环境，代表安装成功。

2）管理环境

conda create –n pytorch python=3.8

conda activate pytorch：进入pytorch虚拟环境

3）安装pytorch

复制conda install pytorch torchvision torchaudio cpuonly -c pytorch，粘贴到Anaconda prompt，回车。

输入y，等待安装完成。

pip list查看环境下的package是否已经安装成功。

4）安装Pycharm

设置python解释器为pytorch

2 基础知识

1）sklearn：常用的机器学习库，包含多种主流机器学习算法。

sklearn.datasets：sklearn中的datasets模块提供了一些已经准备好的数据集。

2）torch.nn：是pytorch神经网络的核心，用来定义和运行神经网络。

3）numpy：常用于科学计算。

4）激活函数：

torch.nn.ReLU()对应的ReLU函数也称为修正线性单元。计算方式：

f(x)=max(0,x)，ReLU函数只保留>0的输出，其他输出则会设置为0。

5）nn.Linear()：

全连接操作以及相关参数：

torch.nn.Linear(in_features, out_features，bias = True)
参数说明如下：

in_features：每个输入样本的特征数量。

out_features：每个输出样本的特征数量。

bias：若设置为False，则该层不会学习偏置。默认值为True。

6）优化器：

torch.optim.Adam(params, lr=0.001,betas=(0.9,0.999),eps=1e-08,weight_decay=0)

参数说明如下：

params：待优化参数的iterable或定义了参数组的dict，通常为model.parameters()。

lr：算法学习率，默认为0.001。

betas：计算梯度以及梯度平方的运行平均值的系数，默认为(0.9,0.999)。

eps：为了增加数值计算的稳定性而加到分母里的项，默认为1e-8。

weight_decay ：权重衰减，默认为0。

7）损失函数：

预测与实际数据之间的差距程度。Pytorch中的nn模块提供了多种可以直接使用的深度学习损失函数，如交叉熵。

torch.nn.CrossEntropyLoss(weight=None,size_average=None,ignore_index= -100,reduce=None, reduction = 'mean')

交叉熵损失是将LogSoftMax和NLLLoss集成到一个类，通常用于多分类问题。

参数的使用情况如下：

Weight：1维的张量，包含n个元素，分别代表n类权重，默认值为None。当Weight=None时，损失函数的计算方式。

ignore_index：指定被忽略且对输入梯度没有贡献的目标值。

size_average：默认为True，计算的损失为每个batch的均值。否则为每个batch的和。

reduce:默认为True，计算的损失会根据size_average参数设定，计算每个batch的均值或和。

reduction：通过指定参数的取值为none、mean、sum来判断损失的计算方式。默认为mean，计算的损失为每个batch的均值；如果设置为sum，计算的损失为每个batch的和；如果设置为none，表示不使用该参数。

3 搭建基本神经网络  

基本思路：利用鸢尾花数据集作分类，总共分为3类，采用3层神经网络，Relu作为激活函数。

1）#导入相关所需要的库，torch主要用于张量的有关计算，torch.utils.data引入数据集

  2）#定义网络类

3）

运行结果：