Pytorch
SupCLA
Attention is all you need
展开
-
Pytorch-F函数(torch.nn.functional)和nn(torch.nn)的区别
torch.nn函数的实现去调用torch.nn.functional,实现方式是一致的。它们的区别是:nn函数可以写在深度学习模型的初始化中,F函数不可以,因为其需要输入实际的input例如nn.ReLu和F.relu原创 2021-01-30 00:57:06 · 3418 阅读 · 1 评论 -
Pytorch-巧用nn.Sequential包装你的深度学习结构
思路:自定义简单的tensor,将设计的深度学习的层包装到nn.Sequential中代码:import torchfrom torch import optim, nnimport torch.nn.functional as Fx = torch.Tensor([1, 2, 3, 4, 5]).reshape(1, 1, 5)padding_layer = torch.nn.ReflectionPad1dnet1 = nn.Sequential( padding_layer((1原创 2021-01-29 15:27:45 · 346 阅读 · 0 评论 -
Pytorch-怎么让两个dataloader打乱顺序相同,自定义一个sampler
思路:自定义一个sampler,将采样方式传进不同的dataloader,则取出的数据一致代码:import torchfrom torch import nnfrom torch.utils.data import Datasetfrom torch.utils.data import DataLoaderclass MyDataset_v1(Dataset): def __init__(self): self.data = [1, 2, 3, 4] de原创 2021-01-27 14:43:45 · 1356 阅读 · 4 评论