pytorch
Alpha Auriage
手可摘星辰
展开
-
transformer
1.encoder2.decoderdecoder只考虑左边输入的东西,原创 2022-03-21 21:50:43 · 142 阅读 · 0 评论 -
hongyi lee 作业1
#导入包import torchimport torch.nn as nnfrom torch.utils.data import DataLoader,Datasetimport numpy as npimport osimport csvimport matplotlib.pyplot as pltfrom matplotlib.pyplot import figure#train_path="D:\data\covid.train.csv"test_path="D:\data原创 2022-03-16 19:24:08 · 2093 阅读 · 0 评论 -
pytorch模型3.13
pytorch笔记3.13#linear module#准备数据,定义模型,实例化模型,实例化优化器,实例化loss,循环进行梯度下降,参数更新。import torchimport torch.nn as nnfrom torch.optim import SGDx = torch.rand([500,1])y_true= 3*x+0.8class MyLinear(nn.Module): def __init__(self): super(MyLinear,sel原创 2022-03-14 20:50:37 · 1398 阅读 · 0 评论 -
Pytorch笔记(python--类与对象(class and module))
本文用于记录python中class和module的学习笔记,主要应用到深度学习中。本文主要参考以下文章和视频。1.python-class的封装python作为面对对象编程即 OOP(object-oriented programming),面对对象意味着把对象作为自己的程序单元,每个对象包含了自己的属性和方法。主要包括封装,继承和多态。下面一一记录。class定义一个类,在类内定义的函数称为方法。class animal(): #attribute name="kattiy"原创 2022-03-12 16:31:33 · 3777 阅读 · 1 评论 -
NLP常用库安装(一)genism,nltk
插曲:genism安装![在这里插入图片描述](https://img-blog.csdnimg.cn/7e35b35be51b406b9358d836f18a83ed.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAQWxwaGEgQXVyaWFnZQ==,size_20,color_FFFFFF,t_70,g_se,x_16)![在这里插入图片描述](https://img-blog.csdni原创 2022-01-23 16:32:43 · 1781 阅读 · 0 评论 -
动手学深度学习(二)
一 图像分类数据集基于Pytorch的工具集都非常好用,比如处理自然语言的torchtext,处理音频的torchaudio,以及处理图像视频的torchvision。torchvision包含一些常用的数据集、模型、转换函数等等。当前版本0.5.0包括图片分类、语义切分、目标识别、实例分割、关键点检测、视频分类等工具,它将mask-rcnn功能也都包含在内了。mask-rcnn的Pytorch版本最高支持torchvision 0.2.*,0.3.0之后mask-rcnn就包含到tensorvisio原创 2021-08-23 20:24:39 · 86 阅读 · 0 评论 -
pytorch自动微分,反向传播(一)
1.张量计算补充2.计算图(Computational Graph)Pytorch中autograd的底层采用了计算图,计算图是一种有向无环图(DAG),用于记录算子与变量之间的关系。下图为z=wx+b的计算图图片源自:深度学习框架pytorch入门与实践,陈云著基本概念:叶子节点(leaf node)即输入的变量中间节点例如:z输出节点如:ygrad属性用于储存节点tensor的微分值grad_fn属性用于储存tensor的微分函数,又称反向传播函数例如下面代码中示意的mulba原创 2021-08-19 19:50:19 · 499 阅读 · 0 评论 -
动手学深度学习笔记一线性回归
一,线性回归线性回归的原理附录:基础知识截图创建数组:[逗号前的表示行;分号是左闭右开,逗号后表示列]import torch虽然是pytorch,我们导入时用的是torch数据操作部分截图torch.arange这里隐式构造了计算图y.detach后u成了一个常数,将某些计算移动到计算图以外。...原创 2021-08-12 21:45:46 · 177 阅读 · 0 评论 -
基于梯度的优化方法(一) ——梯度下降原理浅析
深度学习(deep learning)系列 笔记优化通俗来讲其实是求函数的最大值最小值问题,而最大值问题又可以转化为求最小值问题,因此,优化往往聚焦于最小化某个函数的值。我们借助于导数这个工具,用到函数的极限与连续的基本知识,我们可以得到,对一个足够小的,下面的式子恒成立(具体分析用到数学知识)( sign(x)或者Sign(x)叫做符号函数,在数学和计算机运算中,其功能是取某个数的符号(正或负):当x>0,sign(x)=1;当x=0,sign(x)=0;.原创 2021-08-06 15:28:49 · 1066 阅读 · 0 评论