线性回归
-
补充欠缺知识点:
-
记录所学知识点:
-
尽量使用矢量计算,以提升计算效率。
-
迭代周期个数num_epochs和学习率lr都是超参数,是人为设置的,在实践中,大多超参数都需要通过反复试错来不断调节。
-
softmax回归
-
补充欠缺知识点:
-
记录所学知识点:
-
将高和宽分别为hh和ww像素的图像的形状记为h×wh×w或(h,w)
-
参数transform = transforms.ToTensor()使所有数据转换为Tensor,如果不进行转换则返回的是PIL图片。transforms.ToTensor()将尺寸为 (H x W x C) 且数据位于[0, 255]的PIL图片或者数据类型为np.uint8的NumPy数组转换为尺寸为(C x H x W)且数据类型为torch.float32且位于[0.0, 1.0]的Tensor
-
反向传递求梯度要注意梯度清零,避免累增
-
多层感知机
-
补充欠缺知识点:
-
记录所学知识点:
-
多层感知机在输出层与输入层之间加入了一个或多个全连接隐藏层,并通过激活函数对隐藏层输出进行变换。
-
常用的激活函数包括ReLU函数、sigmoid函数和tanh函数。
-