laownb-CSDN博客

原创【动手学深度学习v2】卷积层，一维，二维，四维的维度问题探讨，为什么V是W的重新索引？平移不变性和局部性原理如何理解？——李沐老师的课程笔记

深度学习，从零实现多层感知机——李沐老师的课程笔记对于深度学习，非常推荐李沐老师的课程，受益匪浅课程视频这里对老师的讲解做一些注释，希望大家可以更好理解这里面的意思没有基础不知道软件如何安装的可以看若有差错，请与我联系探讨。

2024-09-06 16:20:54 830

原创【动手学深度学习v2】深度学习，从零理解Kaggle房价预测 + 课程竞赛——李沐老师的课程笔记

深度学习，从零理解Kaggle房价预测 + 课程竞赛——李沐老师的课程笔记。这里对源码做一些注释，希望大家可以更好理解这里面的意思。对于深度学习，非常推荐李沐老师的课程，受益匪浅。有基础的也可以直接看代码，来加深理解。没有基础不知道软件如何安装的可以看。若有差错，请与我联系探讨。

2024-08-14 16:10:03 183

原创【动手学深度学习v2】深度学习，数值稳定性，梯度爆炸等问题探讨，为什么激活函数求导会出现对角矩阵？深度学习相关方差公式如何推导？——李沐老师的课程笔记

第一行，第一项保证了每一行输出的方差都是一致的，第二项是保证梯度一样γt就是第t层权重的方差因为你不能确定每一层的输出都是一样的所以第一行很难满足，因此有了第二行的折中办法，凑合要合理初始值的前提下使用激活函数必须得满足激活函数为y=xtanh和relu在原点附近差不多满足，sigmoid需要乘4减2才近似满足。

2024-08-09 16:19:40 1779

原创【动手学深度学习v2】深度学习，从零理解drop out_防止过拟合方法——李沐老师的课程笔记

深度学习，从零实现多层感知机——李沐老师的课程笔记对于深度学习，非常推荐李沐老师的课程，受益匪浅课程视频这里对源码做一些注释，希望大家可以更好理解这里面的意思没有基础不知道软件如何安装的可以看有基础的也可以直接看代码，来加深理解若有差错，请与我联系探讨。

2024-08-08 17:03:26 1224

原创【动手学深度学习v2】深度学习，从零理解权重衰退_防止过拟合方法——李沐老师的课程笔记

深度学习，从零实现多层感知机——李沐老师的课程笔记对于深度学习，非常推荐李沐老师的课程，受益匪浅课程视频这里对源码做一些注释，希望大家可以更好理解这里面的意思没有基础不知道软件如何安装的可以看有基础的也可以直接看代码，来加深理解若有差错，请与我联系探讨pwp。

2024-08-08 14:12:39 512

原创【动手学深度学习v2】深度学习，从零实现多层感知机相关概念详解和代码中权重w参数初始取0实现——李沐老师的课程笔记

但是这里注意，Y轴很好解决，但是x轴就不好解决了，因为相同x值（如点1，3）要得到两个不同的y值，用线性函数做不到，所以要用非线性函数，这个非线性函数作为激活函数来使如同X轴分割。这里把W1和W2全部用zero来设置初始为0，会使得loss降不下来，巨高无比，大概在2.3，图像中都显示不出来，关于d2l报错和不显示loss看我上一篇softmax。首先用两层分割线，第一层分割线X（h=sigmoid（wx+b））划分出3，4为负，1，2为正，ReLU:最常用的，简单，快速，不用算指数。

2024-08-07 14:47:01 477

原创【动手学深度学习v2】深度学习，从零实现Softmax回归及其相关问题和代码详解——李沐老师的课程笔记

1.关于调用d2l.train_ch3(net, train_iter, test_iter, loss, num_epochs, trainer)后，图像没有出现loss，那是你的loss = nn.CrossEntropyLoss(reduction='none')里面没有加上reduction='none'，或者是你的loss上天了，太大了，没能达到李沐老师设定的函数图像范围。深度学习，李沐老师的课程笔记——从零实现Softmax回归。对于深度学习，非常推荐李沐老师的课程，受益匪浅。

2024-08-07 14:29:15 417