- 博客(4)
- 收藏
- 关注
原创 【刘二大人PyTorch深度学习实践】Lecture_04_04. Back Propagation随手笔记
1. loss构建了计算图2. backward()能够自动算梯度主要内容看代码详解注意改为tensor计算loss时计算出计算图注意用调用它的成员函数 backward(),自动把这条计算链路上所有需要梯度的地方都给求出来,求出来后都存在变量里面。存完之后,计算图就释放了,就没有了。下一次再进行loss计算的时候,再创建一个新的计算图。为什么要 w.grad.data?因为 grad 也是一个 tensor,如果不取到 data,就会产生计算图,就会对w的权重又进行修改。
2024-07-10 18:26:02 601
原创 【刘二大人PyTorch深度学习实践】Lecture_03_Gradient Descent随手笔记
准备epoch、cost的list,循环100个epoch,对每一个样本,计算cost,grad,更新w,打印必要信息,并把epoch、cost值添加到list中。贪心算法是一种在每一步选择中都采取在当前状态下最好或最优的选择,从而希望导致结果是最好或最优的算法。导数小于0,函数递减,目的是向右靠:w减去导数(小于零)的数,等于加上大于零的数,向右(中间)靠,cost减小。导数大于0,函数递增,目的是向左靠:w减去导数(大于零)的数,向左(中间)靠,cost减小。定义模型、cost、梯度。
2024-07-10 17:20:02 239
原创 【刘二大人PyTorch深度学习实践】Lecture_01_Overview随手笔记
首先考虑样本的数量,以及是否知道要划分的类别数量。根据这些条件,建议使用不同的聚类算法,如 K-均值(KMeans)、谱聚类(SpectralClustering)、均值漂移(MeanShift)等。
2024-07-05 10:25:51 1303
原创 【刘二大人PyTorch深度学习实践】Lecture_02_linear mordel 线性模型随手笔记
数据集Dataset 、选择模型Model、训练Training、推理inferring。
2024-07-05 10:12:15 524
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人