![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习基础
深度学习基础
AloneCat2012
某大厂程序猿
展开
-
用Resnet做分类任务(附代码)
【代码】用Resnet做分类任务(附代码)原创 2024-06-26 10:56:59 · 220 阅读 · 0 评论 -
深度学习最简单的线性网络实现
net = nn.Sequential(nn.Linear(2, 1)) # 第一个指定输入特征形状,即2,第二个指定输出特征形状,输出特征形状为单个标量,因此为1。# 参考 https://zh.d2l.ai/chapter_linear-networks/linear-regression-concise.html。print('w的估计误差:', true_w - w.reshape(true_w.shape))"""构造一个PyTorch数据迭代器"""原创 2023-08-31 12:39:37 · 81 阅读 · 0 评论 -
归一化和Relu函数
【代码】归一化和Relu函数。原创 2024-06-26 11:16:10 · 125 阅读 · 0 评论 -
最简单的深度学习训练代码
即使一个tensor(命名为x)的requires_grad = True,在with torch.no_grad计算,由x得到的新tensor(命名为w-标量)requires_grad也为False,且grad_fn也为None,即不会对w求导。(即使其他相依赖的tensor的requires_grad = False)当requires_grad设置为False时,反向传播时就不会自动求导了,因此大大节约了显存。数据集,模型(此处为最简单的线性模型),损失函数,优化算法,训练流程。原创 2024-04-11 15:31:08 · 284 阅读 · 0 评论 -
Pytorch方法解析
【代码】Pytorch方法解析。原创 2023-09-26 10:55:20 · 51 阅读 · 0 评论 -
最简单的使用dropout的网络(提高泛化性)
【代码】最简单的使用dropout的网络(提高泛化性)原创 2023-11-14 11:55:53 · 120 阅读 · 0 评论 -
SelfAttention教程
先随机算出来一个注意力权重和value,这里面的逻辑就是先论文的高手整出来的,不用理解。所以以下是可以被训练的参数(linear层就是简单的y = x * W^T + b)note PyTorch 中,nn.Linear 层的权重和偏置默认是可训练的。然后计算出output,然后和target对比 迭代更新,更新参数。本质就是计算一个token和其他所有token的关系。self.W_q 中的权重和偏置。self.W_k 中的权重和偏置。self.W_v 中的权重和偏置。原创 2024-01-09 21:30:16 · 402 阅读 · 0 评论 -
cnn计算输入通道和输出通道
【代码】cnn计算输入通道和输出通道。原创 2024-06-26 17:59:06 · 87 阅读 · 0 评论