动手入门深度学习
mensyne
微信
展开
-
动手入门深度学习笔记-CNN模型以及进阶模型
CNN模型code实现## 二维互相关import torch import torch.nn as nndef corr2d(X, K): H, W = X.shape h, w = K.shape Y = torch.zeros(H - h + 1, W - w + 1) for i in range(Y.shape[0]): for...原创 2020-02-19 21:23:38 · 638 阅读 · 0 评论 -
动手入门深度学习笔记-机器翻译(注意力机制与Seq2seq模型,Transformer)
机器翻译1.定义将一段文本从一种语言自动翻译为另一种语言,用神经网络解决这个问题通常称为神经机器翻译(NMT)。主要特征:输出是单词序列而不是单个单词。输出序列的长度可能与源序列的长度不同。2.code 实现## 机器翻译定义"""主要是将一段文本从一种语言自动翻译成另外一种语言输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同"""import oso...原创 2020-02-19 21:10:54 · 896 阅读 · 0 评论 -
动手入门深度学习笔记-过欠拟合&梯度爆炸与消失
过欠拟合1.定义一类是模型无法得到较低的训练误差,我们将这一现象称作欠拟合(underfitting);另一类是模型的训练误差远小于它在测试数据集上的误差,我们称该现象为过拟合(overfitting)。 在实践中,我们要尽可能同时应对欠拟合和过拟合。虽然有很多因素可能导致这两种拟合问题,在这里我们重点讨论两个因素:模型复杂度和训练数据集大小。2.code实现import torch...原创 2020-02-19 20:54:40 · 396 阅读 · 0 评论 -
动手入门深度学习笔记-RNN基础&GRU&LSTM&深度RNN&双向RNN
RNN模型import osos.listdir('/home/kesci/input')import numpy as npimport torchfrom torch import nn,optimimport torch.nn.functional as Fimport syssys.path.append('../input/')import d21_jay9460...原创 2020-02-14 22:42:36 · 316 阅读 · 0 评论 -
动手入门深度学习笔记-文本预处理以及语言模型
文本预处理## 读入文本import collectionsimport redef read_time_machine(): with open('/home/kesci/input/timemachine7163/timemachine.txt', 'r') as f: lines = [re.sub('[^a-z]+', ' ', line.strip()...原创 2020-02-14 22:38:50 · 175 阅读 · 0 评论 -
动手入门深度学习笔记-线性回归&softmax回归
线性回归从0开始的实现import torchimport matplotlib.pyplot as pltimport numpy as npimport randomfrom IPython import display### 显示torch 版本print(torch.__version__)## 生成1000个样本数据num_inputs = 2num_examp...原创 2020-02-14 20:05:51 · 230 阅读 · 0 评论