PyTorch深度学习实践--P4BP算法反向传播

2021.10.20

BP算法包括信号的前向传播和误差的反向传播两个过程。即计算误差输出时按从输入到输出的方向进行，而调整权值和阈值则从输出到输入的方向进行.

线性模型 y=w*x

机器学习中最重要的是让损失函数最小，求损失函数对于w的导数来更新权重

 pytorch中，tensor是用来存数据的，可以存标量、向量、矩阵、高阶tensor

tensor中包含data和grad，分别保存权重值和损失函数对权重的导数，data和grad也是tensor

 建立了tensor就可以去建立计算图

用tensor需要import torch

反向传播体现在l.backward

w.item

w.data只取数值，不产生计算图

data也是tensor，但是不建立计算图，只是拿出数值，。item就是把数值转换成标量

import torch

x_data = [1.0, 2.0, 3.0