![](https://img-blog.csdnimg.cn/20201014180756918.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
PyTorch
文章平均质量分 71
没有胡子的猫
这个作者很懒,什么都没留下…
展开
-
【代码实现】READING AND ANSWERING GIVEN REASONING PATHS
READING AND ANSWERING GIVEN REASONING PATHSreader model多任务阅读器模型多任务阅读器模型阅读理解任务使用BERT从推理路径中提取答案范围。对推理路径重排序使用Bert模型对应于CLS标识符位的输出判断推理路径包括答案的概率。根据概率对推理路径重新排序。P(E∣q)=σ(wn⋅uE) s.t. uE=BERT[CLS](q,E)∈RDP(E|q) = σ(w_n· u_E原创 2021-07-17 14:24:46 · 179 阅读 · 1 评论 -
PyTorch学习笔记(一)
PyTorch学习笔记(一)创建张量 Tensorstorch.randtorch.rand(*sizes, out=None) → Tensor返回一个张量,包含了从区间**[0,1)**的均匀分布中抽取的一组随机数,形状由可变参数sizes 定义。参数:sizes (int…) – 整数序列,定义了输出形状out (Tensor, optinal) - 结果张量例子:>>> torch.rand(4) 0.9193 0.3347 0.3232 0.77原创 2021-07-17 14:22:44 · 205 阅读 · 0 评论 -
PyTorch学习笔记(四)
PyTorch学习笔记(四)数学操作Math operationstorch.abstorch.abs(input, out=None) → Tensor计算输入张量的每个元素绝对值。例子:>>> torch.abs(torch.FloatTensor([-1, -2, 3]))FloatTensor([1, 2, 3])torch.add()torch.add(input, value, out=None)对输入张量input逐元素加上标量值value,并返回结原创 2021-07-17 14:22:17 · 207 阅读 · 1 评论 -
PyTorch学习笔记(三)
PyTorch学习笔记(三)随机抽样 Random samplingtorch.manual_seedtorch.manual_seed(seed)设定生成随机数的种子,并返回一个 torch._C.Generator 对象参数:seed (int or long) – 种子torch.initial_seedtorch.initial_seed()返回生成随机数的原始种子值(python long)torch.get_rng_statetorch.get_rng_state原创 2021-07-17 14:21:41 · 1232 阅读 · 1 评论 -
PyTorch学习笔记(二)
PyTorch学习笔记(二)dimension:0行 1列张量操作torch.cattorch.cat(inputs, dimension=0) → Tensor在给定维度上对输入的张量序列seq进行连接操作。torch.cat()可以看做 torch.split() 和 torch.chunk()的反操作。 cat() 函数可以通过下面例子更好的理解。参数:inputs (sequence of Tensors) – 可以是任意相同Tensor 类型的python 序列。dime原创 2021-07-15 10:20:47 · 168 阅读 · 0 评论 -
PyTorch常用操作
PyTorch常用操作指定GPU终端指定CUDA_VISIBLE_DEVICES=0 nohup python demo.py >> base_log.out 2>&1 &程序指定import torchint id = {0-max_gpu_num}torch.cuda.set_device(id)原创 2021-07-15 10:20:14 · 70 阅读 · 0 评论 -
使用字符级 RNN 对名称进行分类
使用字符级 RNN 对名称进行分类%matplotlib inline字符级 RNN 将单词读取为一系列字符,在每一步输出预测和隐藏状态,将其先前的隐藏状态输入到下一时间步。将最终预测作为输出,即单词属于哪个类。具体来说,我们将训练来自 18 种起源语言的数千个姓氏,并根据拼写预测名称来自哪种语言:示例: $ python predict.py Hinton (-0.47) Scottish (-1.52) English (-3.57) Irish $原创 2021-07-07 16:32:04 · 426 阅读 · 0 评论 -
使用逻辑回归对鸢尾花进行分类
使用逻辑回归对鸢尾花进行分类import numpy as npimport matplotlib.pyplot as pltfrom sklearn import linear_modelfrom sklearn.metrics import accuracy_scorefrom sklearn.datasets import load_iris# 加载数据集iris = load_iris()# 打印数据集描述print(iris.DESCR).. _iris_dataset:原创 2021-07-04 13:58:03 · 1208 阅读 · 0 评论 -
利用神经网络完成对手写数字进行识别
利用神经网络完成对手写数字进行识别网络结构两个隐藏层每层激活函数为Relu数据集:mnist1. 准备数据import osimport numpy as npimport matplotlib.pyplot as pltimport torch# 导入 pytorch 内置的 mnist 数据from torchvision.datasets import mnist# 导入预处理模块import torchvision.transforms as transfor原创 2021-07-04 13:57:39 · 708 阅读 · 1 评论 -
使用字符级 RNN 对名称进行分类
使用字符级 RNN 对名称进行分类字符级 RNN 将单词读取为一系列字符,在每一步输出预测和隐藏状态,将其先前的隐藏状态输入到下一时间步。将最终预测作为输出,即单词属于哪个类。具体来说,我们将训练来自 18 种起源语言的数千个姓氏,并根据拼写预测名称来自哪种语言:示例: $ python predict.py Hinton (-0.47) Scottish (-1.52) English (-3.57) Irish $ python predict.py Sc原创 2021-07-04 13:53:37 · 216 阅读 · 1 评论 -
用tensorboardX可视化神经网络
用tensorboardX可视化神经网络安装:pip install tensorboardXfrom tensorboardX import SummaryWriterwriter = SummaryWriter('runs/scalar_example')for i in range(10): writer.add_scalar('quadratic', i**2, global_step=i) writer.add_scalar('exponential', 2**i, glo原创 2020-11-17 14:32:25 · 300 阅读 · 0 评论 -
常用激活函数
常用激活函数import matplotlib.pyplot as pltimport numpy as npx = np.linspace(-10, 10)fig = plt.figure()1. sigmoidy_sigmoid = 1/(1+np.exp(-x))ax = fig.add_subplot(221)plt.xlim(-11, 11)plt.ylim(0, 1)ax = plt.gca() # 获得当前axis坐标轴对象ax.spines['right'].原创 2020-11-17 14:31:06 · 87 阅读 · 0 评论 -
利用神经网络完成对手写数字进行识别
利用神经网络完成对手写数字进行识别网络结构两个隐藏层每层激活函数为Relu数据集:mnist1. 准备数据import osimport numpy as npimport matplotlib.pyplot as pltimport torch# 导入 pytorch 内置的 mnist 数据from torchvision.datasets import mnist# 导入预处理模块import torchvision.transforms as transfor原创 2020-11-14 22:20:04 · 529 阅读 · 0 评论 -
使用Tensor及Autograd实现机器学习
使用Tensor及Autograd实现机器学习表达式:y=3x2+2y=3x^2+2y=3x2+2模型:y=wx2+by=wx^2+by=wx2+b损失函数:Loss=12∑i=1100(wxi2+b−yi)2Loss=\frac{1}{2}\sum_{i=1}^{100}(wx^2_i+b-y_i)^2Loss=21∑i=1100(wxi2+b−yi)2对损失函数求导:∂Loss∂w=∑i=1100(wxi2+b−yi)2xi2\frac{\partial Loss}{\partial原创 2020-11-14 22:19:27 · 125 阅读 · 0 评论 -
PyTorch自动求导
标量反向传播当目标张量为标量时,backward()无需传入参数。例子:假设w,x,bw,x,bw,x,b都是标量,z=wx+bz=wx+bz=wx+b ,对标量zzz调用backward()方法。自动求导的主要步骤import torch1.定义叶子结点,算子节点如果需要对Tensor求导,requires_grad要设置为True。# 定义输入张量xx = torch.Tensor([2])# 初始化权重参数w,偏置b,#设置requires_grad为True,使用自动原创 2020-11-12 22:14:35 · 585 阅读 · 0 评论