十亩之间

文章目录GAN训练DCGAN生成器辨别器总结GANThroughout most of this book, we have talked about how to make predictions. In some form or another, we used deep neural networks learned mappings from data points to labels...

文章目录目标检测基础边界框锚框（Anchor）生成多锚框交并比标注训练集的锚框目标检测基础边界框# bbox是bounding box的缩写dog_bbox, cat_bbox = [60, 45, 378, 516], [400, 112, 655, 493]def bbox_to_rect(bbox, color): # 本函数已保存在d2lzh_pytorch中方便以后使用 ...

文章目录凸优化梯度下降优化器凸优化梯度下降优化器

文章目录一、CNN基础二、LeNet三、AlexNet四、VGG五、NiN（先审核待补充）六、GoogLeNet（先审核待补充）一、CNN基础因本身有图像处理和图像深度学习方面的基础，故在此只罗列一些重要概念词，后续再补上：二维互相关运算：二维互相关（cross-correlation）运算的输入是一个二维输入数组和一个二维核（kernel）数组，输出也是一个二维数组，其中核数组通常称为卷积...

文章目录一、机器翻译1.1 数据预处理和清洗1.2 文本预处理1.2.1 分词1.2.2 建立字典1.2.3 将词转为索引1.3 语言模型nnn元语法1.4 时序数据的采样随机采样相邻采样一、机器翻译机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。...

文章目录一、基本概念二、应对欠拟合和过拟合的解决方法2.1 欠拟合的解决办法2.2 过拟合的解决办法2.2.1 权重衰减 / L2L_{2}L2​范数正则化2.2.2 dropout三、梯度消失和梯度爆炸四、随机初始化模型参数PyTorch的默认随机初始化Xavier随机初始化(这里需要检查)考虑环境因素协变量偏移标签偏移概念偏移Q&A一、基本概念训练误差（training erro...

线性计算单元组成的RNN结构是最简单的一种，我们以此为例来说明造成梯度消失和梯度爆炸的原因：上图为线性计算单元组成的RNN.依据上图，我们现假设存在一个RNN模型仅包含一个隐藏层，整个RNN模型关注的时间步数为3，H0H_{0}H0​是隐藏层的初始状态，则可以用如下算式表示前向传播过程：H1=WXX1+WHH0+bH,O1=WOH1+bOH_{1} = W_{X}X_{1} + W_{H}H...