机器学习
文章平均质量分 70
lewjin
这个作者很懒,什么都没留下…
展开
-
PyTorch学习(8)-问答系统、文本摘要和大规模预训练语言模型
问答系统1. SQuAD数据集给定一段文字作为context,给定一个问题question,从context中寻找一段连续的文字(text span)作为问题的答案。网址:https://rajpurkar.github.io/SQuAD-explorer/代码:https://github.com/galsang/BiDAF-pytorch2. 数据格式3. 整体流程架构文本摘要所谓摘要,就是对给定的单个或者多个文档进行梗概,即在保证能够反映原文档的重要内容的情况下,尽可能地保持简原创 2021-07-08 17:38:28 · 1057 阅读 · 0 评论 -
PyTorch入门-简单图片分类
一. CNN图像分类PyTorch Version: 1.0.0import torchimport torch.nn as nnimport torch.nn.functional as Fimport torch.optim as optimfrom torchvision import datasets, transformsprint("PyTorch Version: ",torch.__version__)(1)首先定义一个基于ConvNet的简单神经网络class Net原创 2021-07-07 21:19:34 · 638 阅读 · 1 评论 -
PyTorch入门-自然语言分类任务
一. 情感分析1. 准备数据TorchText中的一个重要概念是Field。Field决定了你的数据会被怎样处理。在我们的情感分类任务中,我们所需要接触到的数据有文本字符串和两种情感,“pos"或者"neg”。Field的参数制定了数据会被怎样处理。使用TEXT field来定义如何处理电影评论,使用LABEL field来处理两个情感类别。TEXT field带有tokenize=‘spacy’,这表示我们会用spaCy tokenizer来tokenize英文句子。如果我们不特原创 2021-07-07 20:45:01 · 2580 阅读 · 0 评论 -
PyTorch入门-语言模型
1. 语言模型概念语言模型可以对一段文本的概率进行估计,对信息检索,机器翻译,语音识别等任务有着重要的作用。对于语言序列,语言模型就是计算该序列的概率,即 :从机器学习的角度来看:语言模型是对语句的概率分布的建模。通俗解释:判断一个语言序列是否是正常语句,即是否是人话 。2. torchtext的基本使用import torchtextfrom torchtext.vocab import Vectorsimport torchimport numpy as npimport ran原创 2021-07-07 12:48:42 · 2679 阅读 · 0 评论 -
PyTorch入门-词向量
一. 概念1 . 词的表示在自然语言处理任务中,首先需要考虑词如何在计算机中表示。通常,有两种表示方式:one-hot representation和distribution representation。1.1 离散表示(one-hot representation)传统的基于规则或基于统计的自然语义处理方法将单词看作一个原子符号被称作one-hot representation。one-hot representation把每个词表示为一个长向量。这个向量的维度是词表大小,向量中只有一个维度的值原创 2021-07-07 11:58:12 · 995 阅读 · 0 评论 -
PyTorch小案例二
PyTorch: Tensors使用PyTorch tensors来创建前向神经网络,计算损失,以及反向传播。一个PyTorch Tensor很像一个numpy的ndarray。但是它和numpy ndarray最大的区别是,PyTorch Tensor可以在CPU或者GPU上运算。如果想要在GPU上运算,就需要把Tensor换成cuda类型。import torchdtype = torch.floatdevice = torch.device("cpu")# device = torch原创 2021-07-06 18:14:12 · 91 阅读 · 0 评论 -
PyTorch热身小案例
用numpy实现两层神经网络一个全连接ReLU神经网络,一个隐藏层,没有bias。用来从x预测y,使用L2 Loss。这一实现完全使用numpy来计算前向神经网络,loss,和反向传播。numpy ndarray是一个普通的n维array。它不知道任何关于深度学习或者梯度(gradient)的知识,也不知道计算图(computation graph),只是一种用来计算数学运算的数据结构。import numpy as np# N is batch size; D_in is input dime原创 2021-07-06 18:08:23 · 87 阅读 · 0 评论 -
PyTorch入门-深度学习回顾和PyTorch简介
一、神经网络的复习1、深度学习2、神经网络3、激活函数4、前向神经网络5、卷积神经网络6、循环神经网络二、用PyTorch构建深度学习模型深度学习模型框架TensorFlow ay/netPyTorch Caffemxnet KerasPyTorch与其他框架的对比(1)PyTorch:动态计算图 Dynamic Computation GraphTensorflow:静态计算图 Static Computat原创 2021-07-06 18:03:57 · 158 阅读 · 0 评论