@pytorch深度学习预备知识
Task3学习~08 线性神经网络
线性回归与基础优化算法的一些基础知识(笔记+总结):
线性回归的从零开始实现
包括数据流水线、模型、损失函数、小批量随机梯度下降优化器
生成一个人造数据集(好处:知道真实的w与b)
(x,均值为零,方差为1的一个随机数,列数是w的长度)
得到一个训练样本(如下图)
然后进行:
👉定义data_iter函数,生成大小为batch_size的小批量
👉定义 初始化模型参数
👉定义模型
👉定义损失函数
👉定义优化算法
👉训练过程
👉比较真实参数与通过训练学来的参数,来评估训练的成功程度。
学习了从零实现后,我们接触了线性回归的简洁实现。
👉调用框架中现有的AIP来读取数据
👉使用框架的预定义好的层
👉初始化模型参数
👉计算均方误差使用的是ESELoss类
👉训练