pytorch实战
GTFQAQ
好习惯的养成,目前已经养成两个好习惯了,学习英语与早早起
展开
-
PyTorch深度学习实践(二)-线性模型篇课后题
这里写自定义目录标题作业要求实现代码作业要求实现通过遍历,确定线性模型的合适参数。视频链接实现代码import numpy as npimport matplotlib.pyplot as pltfrom matplotlib import cmfrom mpl_toolkits.mplot3d import Axes3D# y = x*2.5-1 构造训练数据x_data = [1.0, 2.0, 3.0]y_data = [1.5, 4.0, 6.5]W, B = np.原创 2021-11-22 15:02:11 · 1148 阅读 · 0 评论 -
Pytorch学习笔记之语言模型(四)
语言模型的目标是计算一句话出现的概率有多高?最好的应用即生成类模型,根据一个主题完成一篇描述性文章。最近精彩的项目狗屁不通文章生成器就是典型代表。在线版本请尝试.理论一句话出现的概率:根据条件概率定义,可以推导出因此Markov提出假设:每个单词只跟它之前的n个单词有关。进而推广二元模型(每个单词由它前面一个单词决定)、N元模型(每个单词由它前面N-1个单词决定)。评价语义模型的标准困惑度(Perplexity),一句话的困惑度越高证明生成效果越差。公式如下:实战本次训练方式采用二.原创 2020-06-21 16:46:12 · 1106 阅读 · 3 评论 -
理解 NLP Subword算法:BPE、WordPiece、ULM
前言Subword算法如今已经成为了一个重要的NLP模型性能提升方法。自从2018年BERT横空出世横扫NLP界各大排行榜之后,各路预训练语言模型如同雨后春笋般涌现,其中Subword算法在其中已经成为标配。所以作为NLP界从业者,有必要了解下Subword算法的原理。1. 与传统空格分隔tokenization技术的对比传统词表示方法无法很好的处理未知或罕见的词汇(OOV问题)。...原创 2020-04-19 12:20:08 · 835 阅读 · 0 评论 -
Pytorch学习笔记之训练词向量(三)
Pytorch学习笔记之Pytorch训练词向量(三)学习目标学习词向量的概念用Skip-thought模型训练词向量学习使用PyTorch dataset和dataloader学习定义PyTorch模型学习torch.nn中常见的ModuleEmbedding学习常见的PyTorch operationsbmmlogsigmoid保存和读取PyTorch模型...原创 2020-04-11 11:09:25 · 1458 阅读 · 11 评论 -
Pytorch学习笔记之入门实战之用pytorch玩FizzBuzz(二)
Pytorch学习笔记之入门实战之用pytorch玩FizzBuzz(二)环境说明from __future__ import print_functionimport torchtorch.__version__'1.4.0'FizzBuzzFizzBuzz是一个简单的小游戏。游戏规则如下:从1开始往上数数,当遇到3的倍数的时候,说fizz,当遇到5的倍数,说buzz,当遇到1...原创 2020-03-31 14:16:31 · 331 阅读 · 0 评论 -
Pytorch学习笔记之入门实战从Numpy到pytorch(一)
Pytorch学习笔记之入门实战(一)本文从用Numpy实现两层神经网络到一步步由pytorch实现。目的:只有体验过没有深度学习框架的难处,才能明白它的好!!!运行环境说明,pytorch1.4.0from __future__ import print_functionimport torchtorch.__version__'1.4.0'开始了1.热身: 用nump...原创 2020-03-31 13:33:57 · 734 阅读 · 0 评论