深度学习Pytorch_1线性回归

线性回归

1.模型

为了简单起见，这里我们假设价格只取决于房屋状况的两个因素，即面积（平方米）和房龄（年）。接下来我们希望探索价格与这两个因素的具体关系。线性回归假设输出与各个输入之间是线性关系:

price=warea⋅area+wage⋅age+b

3优化函数 - 随机梯度下降

当模型和损失函数形式较为简单时，上面的误差最小化问题的解可以直接用公式表达出来。这类解叫作解析解（analytical solution）。本节使用的线性回归和平方误差刚好属于这个范畴。然而，大多数深度学习模型并没有解析解，只能通过优化算法有限次迭代模型参数来尽可能降低损失函数的值。这类解叫作数值解（numerical solution）。

在求数值解的优化算法中，小批量随机梯度下降（mini-batch stochastic gradient descent）在深度学习中被广泛使用。它的算法很简单：先选取一组模型参数的初始值，如随机选取；接下来对参数进行多次迭代，使每次迭代都可能降低损失函数的值。在每次迭代中，先随机均匀采样一个由固定数目训练数据样本所组成的小批量（mini-batch） B ，然后求小批量中数据样本的平均损失有关模型参数的导数（梯度），最后用此结果与预先设定的一个正数的乘积作为模型参数在本次迭代的减小量。

知识点学习

1.平方差损失和交叉熵损失函数的区别

平方差函数有一个弊端，例如0.6，0.4.0.0和0.6，0.2，0.2的结果实际是一样的，因为我们只需要看最大的大就可，但是对于平方差损失来说。前者的损失会小，后者的损失会大。那么交叉熵损失就很好解决了这个问题

2.直接使用输出，不加softmax的问题

1.输出层输出范围不确定
2.离散值与不确定的范围输出至误差难以衡量

————————————————
版权声明：本文为CSDN博主「lsrxz」的原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/lsrxz/article/details/104319436