lbw522的博客

原创 Seaborn

Seaborn使用Seaborn 是以 Matplotlib 为核心的高阶绘图库，提供更美观和多样化的可视化效果，下面将介绍常用的几种图的使用方法。首先，比较下matplotlib和seaborn绘制相同图形的效果。import matplotlib.pyplot as pltimport seaborn as sns%matplotlib inlinex = [1, 3, 5, 7...

原创 android启动流程

原创 Transformer的pytorch实现

Transformer架构Transformer模型由encoder和decoder两部分组成，decoder输出的结果，经过一个线性层，然后计算softmax。d_model = 512 # Embedding Sized_ff = 2048 # FeedForward dimensiond_k = d_v = 64 # dimension of K(=Q), Vn_layers...

原创 torch.nn.CrossEntropyLoss

torch.nn.CrossEntropyLossnn.logSoftmax()对input进行softmax操作nn.NLLLoss()将softmax后的inout与target比较nn.CrossEntropyLoss()是nn.logSoftmax()和nn.NLLLoss()的整合import torchimport torch.nn as nninput=torch.Te...

原创 用pytorch构建神经网络

数据预处理在神经网络模型中之前，要对数据进行一系列的预处理，如果是类型变量，可使用one-hot编码；对于数值类型，可进行标准化，让其属性值在0左右波动import torchimport numpy as npimport pandas as pdfrom torch.autograd import Variable#输入特征，最后一列为分类feature = [[200,697...

原创 初识pytorch

pytorch使用基本数据单元生成随机张量基本运算自动微分用pytorch实现线性回归基本数据单元PyTorch 的基本数据单元是张量（Tensor），它实际上是一种 N 维数组。1 阶张量可以看做是一个向量，通过索引可以取到一个值;2 阶张量可以看做是一个矩阵，通过索引可以取到一个向量；3 阶张量通过索引可以取到一个矩阵；4 阶张量通过索引可以取到一个3阶张量……import to...