![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
DL学习笔记
文章平均质量分 84
yierrrrr
这个作者很懒,什么都没留下…
展开
-
【pytorch学习笔记03】pytorch完整模型训练套路
创建损失函数 loss_func = nn . CrossEntropyLoss() # 这里是一个多分类问题 # 定义优化器 learning_rate = 1e-2 optimizer = torch . optim . SGD(model . parameters() , lr = learning_rate) # 设置训练网络的参数 total_train_step = 0 # 训练次数 total_test_step = 0 # 测试次数 epoch = 10 # 训练轮数。原创 2023-07-25 00:24:39 · 128 阅读 · 0 评论 -
【pytorch学习笔记02】Transforms&torch.nn简介&模型的加载修改保存读取
数据中心化数据标准化缩放裁剪旋转翻转填充噪声添加灰度变换线性变换仿射变换亮度、饱和度及对比度变换。原创 2023-07-25 00:16:19 · 198 阅读 · 0 评论 -
【pytorch学习笔记01】加载数据&Tensorboard
B站我是土堆视频学习笔记,链接:https://www.bilibili.com/video/BV1hE411t7RN/?原创 2023-07-25 00:10:04 · 153 阅读 · 0 评论 -
【DL学习笔记12】《深度学习进阶——自然语言处理》—— ch05: RNN
1.概率和语言模型:概率视角下的word2vec、语言模型将CBOW模型用作语言模型?;2. RNN:循环的神经网络、展开循环、Backpropagation Through Time、Truncated BPTT、Truncated BPTT的mini-batch学习;3. RNN的实现:RNN层的实现、Time RNN层的实现;4. 处理时序数据的层的实现:RNNLM的全貌图、Time层的实现;5. RNNLM的学习和评价:语言模型的评价、RNNLM的学习代码、RNNLM的Trainer类......原创 2022-07-14 20:55:06 · 965 阅读 · 0 评论 -
【DL学习笔记11】《深度学习进阶——自然语言处理》—— ch04:word2vec的高速化
1. 改进一:Embedding层;2. 改进二:Negative Sampling(负采样):多分类到二分类的实现、负采样、采样方法、负采样的实现;3. 改进版word2vec的学习:CBOW模型的实现、CBOW模型的学习代码、CBOW模型的评价;4. word2vec相关的其他话题:应用例、单词向量的评价方法......原创 2022-07-12 21:36:05 · 346 阅读 · 0 评论 -
【DL学习笔记10】《深度学习进阶——自然语言处理》——ch03: word2vec
1. 基于推理的方法和神经网络:神经网络中单词的处理方法;2. 简单的word2vec:CBOW模型的推理与学习;3. 学习数据的准备:上下文和目标词、转化为one-hot表示、数据预处理总结;4. CBOW模型的实现;5. word2vec的补充说明:CBOW模型和概率、skip-gram模型、两个模型的区别分析、基于计数与基于推理总结...原创 2022-07-09 18:12:45 · 482 阅读 · 0 评论 -
【DL学习笔记09】《深度学习进阶——自然语言处理》——ch02: 自然语言和单词的分布式表示
1. 什么是自然语言处理;2. 同义词词典;3. 基于计数的方法:基于Python的语料库的预处理、分布式、共现矩阵、向量间的相似度、相似单词的排序;4. 基于计数的方法的改进:点互信息(PMI)、降维 dimensionality reduction、基于SVD的降维、PTB数据集、基于PTB数据集的评价;0. 补充:enumerate、argsort...原创 2022-07-07 21:34:24 · 670 阅读 · 0 评论 -
【DL学习笔记08】《深度学习进阶——自然语言处理》——ch01: 神经网络的复习
本章相当于前作的摘要,内容较简略原创 2022-07-05 15:11:56 · 427 阅读 · 0 评论 -
【DL学习笔记07】深度学习入门——基于Python的理论与实现(ch08: 深度学习)
1. 加深网络:加深层的动机;2. 三个有名的网络:VGG、GooleNe、tResNet;3. 深度学习的高速化;4. 深度学习的应用案例:物体检测、图像分割、图像标题的生成;5. 接下来是《深度学习进阶——自然语言处理》......原创 2022-07-01 15:24:58 · 465 阅读 · 0 评论 -
【DL学习笔记06】深度学习入门——基于Python的理论与实现(ch07: 卷积神经网络 CNN)
1. 整体结构;2. 卷积层:全连接层存在的问题、卷积运算、3维数据的卷积运算、批处理;3. 池化层;4. 卷积层和池化层的实现:卷积层、池化层;5. CNN的实现;6. CNN的可视化:第1层权重的可视化、基于分层结构的信息提取;7. 具有代表性的CNN:LeNet、AlexNet...原创 2022-06-30 21:16:09 · 608 阅读 · 0 评论 -
【DL学习笔记05】深度学习入门——基于Python的理论与实现(ch06: 与学习相关的技巧)
1. 参数的更新:SGD、Momentum、AdaGrad、Adam;2. 权重的初始值:可以将权重初始值设为0吗、隐藏层的激活值的分布、ReLU的权重初始值、总结;3. Batch Normalization;4. 正则化:过拟合、权值衰减、Dropout、集成学习;5. 超参数的验证:验证数据、超参数的最优化...原创 2022-06-28 21:45:58 · 544 阅读 · 2 评论 -
【DL学习笔记04】深度学习入门——基于Python的理论与实现(ch05: 误差反向传播法)
1. 计算图:用计算图求解、局部计算、为何用计算图解体(优点)2. 链式法则 3. 反向传播 4.简单层的实现:乘法层(MulLayer)、加法层(AddLayer)5. 激活函数层的实现 6. Affine/Softmax层的实现:Affine层批版本的Affine层、Softmax-with-Loss层 7. 误差反向传播法的实现:梯度确认、使用误差反向传播法的学习...原创 2022-06-27 15:51:00 · 537 阅读 · 0 评论 -
【DL学习笔记02】深度学习入门——基于Python的理论与实现(ch03:Neural Network)
1. Activation Function:step function、sigmoid function、ReLU2. 多维数组的运算、多维数组矩阵乘法、神经网络的内积3. 三层神经网络的实现4. 输出层的设计5. 手写数字识别:MNIST数据集、神经网络的推理处理、批处理(batch)简单实现.........原创 2022-06-23 20:25:15 · 652 阅读 · 0 评论 -
【DL学习笔记01】深度学习入门——基于Python的理论与实现(ch01&02:Python入门&perceptron)
NumPy、Matplotlib、感知机深度学习入门——基于Python的理论与实现(ch01&02:Python入门&perceptron)原创 2022-06-23 19:56:00 · 353 阅读 · 0 评论 -
【DL学习笔记03】深度学习入门——基于Python的理论与实现(ch04: Train Neuralnet)
1. 从数据从中学习:数据驱动、训练数据和测试数据;2. loss function:均方误差、交叉熵误差、mini-batch学习、mini-batch版交叉熵误差的实现;3. 数值微分:梯度、梯度法(gradient method)、神经网络的梯度;4. 学习算法的实现:2层神经网络的类、mini-batch的实现、基于测试数据的评价;5. 小结...原创 2022-06-25 14:26:15 · 864 阅读 · 0 评论