手动学深度学习
dayday学习
学习刷题,天天向上
展开
-
动手学习深度学习_作业
动手学习深度学习——作业1.分类任务前言1.1 利用VGG模型1.2 使用Resnet1.分类任务Fashion-mnist分类任务:针对Fashion-MNIST数据集,设计、搭建、训练机器学习模型,能够尽可能准确地分辨出测试数据地标签。前言1.1 利用VGG模型import osimport sysimport timeimport torchfrom torch im...原创 2020-03-02 21:45:25 · 664 阅读 · 0 评论 -
手动学习深度学习_08
手动学习深度学习_081.文本分类1.1 文本情感分类1.2 文本情感分类数据集1.2.1读取数据以及预处理1.3使用循环神经网络进行情感分类1.3.1双向循环神经网络1.3.2 加载预训练的词向量1.3.3 评估训练1.4 使用卷积神经网络进行情感分类1.4.1 使用卷积神经网络1.4.2 时序最大池化层1.4.3 TextCNN 模型2.数据增强2.1图像增广2.2 常用的图像增广方法2.2....原创 2020-02-25 19:07:15 · 494 阅读 · 0 评论 -
动手学深度学习_7
动手学深度学习_71. word2vec1.1词嵌入基础1.2 Skip-Gram1.2.1 二次采样1.2.2 Skip-Gram 跳字模型1.2.3负采样近似1.2.4 训练2.词嵌入进阶2.1GloVe 全局向量的词嵌入2.2 载入预训练的 GloVe 向量1. word2vec1.1词嵌入基础我们在“循环神经网络的从零开始实现”一节中使用 one-hot 向量表示单词,虽然它们构造起...原创 2020-02-25 17:12:38 · 182 阅读 · 0 评论 -
动手学深度学习_6
动手学深度学习_61 .梯度下降1.1 介绍1.2 例子1.3 牛顿法1.4 随机梯度下降2.优化算法2.1 MomentumAn ill-conditioned ProblemMaximum Learning RateSupp: PreconditioningMomentum AlgorithmExponential Moving AverageSupp由指数加权移动平均理解动量法Impleme...原创 2020-02-25 12:57:38 · 191 阅读 · 0 评论 -
动手学深度学习_4
动手学深度学习_41循环神经网络1.1 GRU1.2 LSTM1.3 深层RNN深度循环神经网络1.4 双向RNN双向循环神经网络2 机器翻译3 注意力机制与Seq2seq模型4 Transformer1循环神经网络1.1 GRURNN存在的问题:梯度较容易出现衰减或爆炸(BPTT)Ht=ϕ(XtWxh+Ht−1Whh+bh)H_{t} = ϕ(X_{t}W_{xh} + H_{t-...原创 2020-02-19 17:24:35 · 192 阅读 · 0 评论 -
动手学深度学习_5
动手学深度学习_51 卷积神经网络1.1 二维互相关运算1.2 二维卷积层1.3 填充和步幅填充步幅1.4 池化池化二维池化层1.5 总结2 卷积神经网络进阶2.1 LeNet 模型2.2 深度卷积神经网络(AlexNet)2.3 VGG2.4 NiN2.5 GoogLeNet2.6 残差网络(ResNet)2.7 稠密连接网络(DenseNet)1 卷积神经网络本文介绍卷积神经网络的...原创 2020-02-19 17:23:07 · 231 阅读 · 0 评论 -
动手学深度学习_3
动手学深度学习_31.过拟合、欠拟合1.1 过拟合、欠拟合的概念1.2. 权重衰减1.3. 丢弃法1.过拟合、欠拟合1.1 过拟合、欠拟合的概念训练误差和泛化误差在解释上述现象之前,我们需要区分训练误差(training error)和泛化误差(generalization error)。通俗来讲,前者指模型在训练数据集上表现出的误差,后者指模型在任意一个测试数据样本上表现出的误差的期望,...原创 2020-02-19 16:25:04 · 113 阅读 · 0 评论 -
pytorch手动学深度学习
pytorch手动学深度学习_打卡Task01:线性回归;Softmax与分类模型、多层感知机(: task1_动手学深度学习_1.Task02:文本预处理;语言模型;循环神经网络基础: task1_动手学深度学习_2....原创 2020-02-14 21:19:24 · 202 阅读 · 0 评论 -
动手学深度学习_2
动手学深度学习_21.文本预处理1.1读入文本1.2 分词1.3 建立字典1.4 词索引相互转换2.语言模型2.1语言模型2.2 n元语法2.3 时序采样2.3.1 随机采样相邻采样3.循环神经网络3.1 循环神经网络的构造3.2 实现循环神经网络1.文本预处理文本是一类序列数据,一篇文章可以看作是字符或单词的序列,本节将介绍文本数据的常见预处理步骤,预处理通常包括四个步骤:1.1读入文本...原创 2020-02-14 18:58:40 · 435 阅读 · 0 评论 -
动手学深度学习_1
pytorch动手学深度学习_11.线性回归1.1线性回归1.1.1 数据集1.1.2 模型1.1.3 损失函数1.1.4 优化函数 - 随机梯度下降1.2 代码实现1.2.1 线性回归从零开始版1.2.2 线性回归pytorch版2.softmax与分类模型2.1 softmax的基本概念2.2 交叉熵损失函数2.3代码2.3.1 softmax分类从零开始版2.3.2 softmax分类pyt...原创 2020-02-13 19:03:30 · 579 阅读 · 0 评论