- 博客(2)
- 收藏
- 关注
RSS订阅原创 PyTorch深度学习实践笔记—03梯度下降算法
视频来源： link.课程概括问题：如何去寻找权重的最优值如下图假设w初始值为红色圆点所在位置，那么如何更新w才能去接近损失函数的最小值更新算法为：算法解释：当损失函数对w的偏导为正时，说明当前处于上升阶段，即损失函数的值要增大，要想找到损失函数的最小值则要减小w；当损失函数对w的偏导为负时，说明当前处于下降阶段，损失函数的值会减小，为找到损失函数的最小值就要继续增大w。其中α为学习率，控制学习的步长，一般取值较小。若遇到损失函数为非凸函数，便会容易困在局部最优位置而找不到全局最优点。如下图
2021-09-05 07:46:03
372
1
原创 PyTorch深度学习实践—02线性模型
视频来源: link.课程概括引入实例根据已有的学习时间与所得成绩之间的对应关系，预测在给定学习时间的条件下，对应的成绩：所选用的预测模型为线性模型：y = wx +b，为简化模型，我们先将b省略，则模型为：y = wx为了找到能使预测模型所预测出的值尽量接近真实值的w,在机器学习中，一般会先给定一个任意的w值，再计算预测值与真实值之间的损失函数，通过对损失函数的评估，对w进行更新，再进一步进行预测。选用的损失函数为预测值与真实值差的平方和：但一般使用较多的是平均平方误差（Mean Squ
2021-09-04 12:42:34
204
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人