- 博客(18)
- 收藏
- 关注
RSS订阅原创 2021-05-08
依赖树（dependency tree）http://nlp.stanford.edu/software/dependencies_manual.pdf一、介绍 斯坦福类型依赖表示的设计是为了提供句子中语法关系的简单描述，没有语言专业知识的人可以很容易地理解和有效地使用来提取文本关系。特别是，它不是长期在计算语言社区中占主导地位的短语结构表示，而是将所有的句子关系统一地表示为类型化的依赖关系。示例：Bell, ba
2021-05-08 17:08:25
632
原创 使用wps-excell画折线图
折线图先来一张效果图步骤：1、打开excell，选中数据（y值），选择“插入”2、定义x轴数值选中折线，右击，选择数据，之后选择x轴的数据。3、折线上显示y的值选中折线，右击，添加数据标签。选中数字标签，右击，“设置数据标签格式–>靠上”颜色不好看，上一张图，点击绿色框，可以更改点的颜色；蓝色框，更改线条颜色。4、添加轴标题总结：想画一个这样的图（简洁明了，），用程序写，搞好久没弄出想要的效果，朋友告诉我是excell画的，唉。感慨excell真香...
2021-04-09 17:25:35
4597
转载 Pytorch中的RNN之pack_padded_sequence()和pad_packed_sequence()
Pytorch中的RNN之pack_padded_sequence()和pad_packed_sequence()为什么有pad和pack操作？先看一个例子，这个batch中有5个sample如果不用pack和pad操作会有一个问题，什么问题呢？比如上图，句子“Yes”只有一个单词，但是padding了多余的pad符号，这样会导致LSTM对它的表示通过了非常多无用的字符，这样得到的句子表示就会有误差，更直观的如下图：那么我们正确的做法应该是怎么样呢？在上面这个例子，我们想要得到的表示仅仅是LS
2021-03-24 09:24:39
442
原创 ubuntu16.04+cuda8.0+cudnn6.0.21安装pytorch的gpu版本
环境配置1、版本问题2、配置.profile .bashrc1、版本问题因为需要用都学校服务器，所以研究了环境配置，过程真是很曲折啊服务器上的环境设置ubuntu16.04+cuda8.0+cudnn6.0.21官网上关于之前版本（cuda8.0的找到了一个可以用的）conda install pytorch1.0.0 torchvision0.2.1 cud80 -c pytorch因为我在博客上看的，没有设置版本，导致下载的pytorch版本过高，导致cuda 用不了下面是版本要求，我忘
2020-09-24 16:22:54
270
转载 训练集、测试集、验证集与模型选择
训练集、测试集、验证集与模型选择模型选择在机器学习过程中，为了找到泛化性能最好的那个函数，我们需要确定两方面的参数：1、假设函数参数，也就是我们通常所说的w和b，这类参数可以通过各种最优化算法自动求得。2、模型参数，比如多项式回归中的多项式次数，规则化参数λ等，这些参数被称为超参数，一般在模型训练之前通过手工指定（当然也可以采用网格法等算法进行寻优）。确定模型超参数的过程称为模型选择。模型选择...
2020-04-20 10:25:32
3511
2
原创 Pycharm 调试
Pycharm 进行项目调试打断点找到main（）函数，在需要停的地方打一个断点进入debug运行按类似甲壳虫这个键。或者右击，在运行的下面进行调试step over - 遇到断点后，程序停止运行，按图1键或（F8）单步运行。遇到函数会直接运行完，不会进入函数内容，直接单步到下一行。step into - 单步调试时，如果某行调用其他模块的函数，在此行按图2键或F7，可以...
2020-03-13 18:12:07
1497
原创 task08--模型微调
模型微调在6万张图像的Fashion-MNIST训练数据集上训练模型。学术界当下使用最广泛的大规模图像数据集ImageNet，它有超过1,000万的图像和1,000类的物体。然而，我们平常接触到数据集的规模通常在这两者之间。假设我们想从图像中识别出不同种类的椅子，然后将购买链接推荐给用户。一种可能的方法是先找出100种常见的椅子，为每种椅子拍摄1,000张不同角度的图像，然后在收集到的图像数据...
2020-02-25 18:55:06
184
原创 task07--word2vec
1、词嵌入基础使用 one-hot 向量表示单词，虽然它们构造起来很容易，但通常并不是一个好选择。一个主要的原因是，one-hot 词向量无法准确表达不同词之间的相似度，如我们常常使用的余弦相似度。Word2Vec 词嵌入工具的提出正是为了解决上面这个问题，它将每个词表示成一个定长的向量，并通过在语料库上的预训练使得这些向量能较好地表达不同词之间的相似和类比关系，以引入一定的语义信息。基于两种...
2020-02-24 18:09:08
147
原创 task06--批量归一化
批量归一化（BatchNormalization）BN算法（Batch Normalization）其强大之处如下：(1)、你可以选择比较大的初始学习率，让你的训练速度飙涨。以前还需要慢慢调整学习率，甚至在网络训练到一半的时候，还需要想着学习率进一步调小的比例选择多少比较合适，现在我们可以采用初始很大的学习率，然后学习率的衰减速度也很大，因为这个算法收敛很快。当然这个算法即使你选择了较小的学习...
2020-02-20 15:52:20
218
原创 task05--卷积神经网络
卷积神经网络卷积神经网络中，主要是卷积层和池化层，并解释填充、步幅、输入通道和输出通道的含义。卷积核的尺寸通常小于输入数组，卷积核在输入数组上滑动，在每个位置上，卷积核与该位置处的输入子数组按元素相乘并求和，得到输出数组中相应位置的元素。图1展示了一个互相关运算的例子，阴影部分分别是输入的第一个计算区域、核数组以及对应的输出。[外链图片转存中…(img-bOsyWnQN-1582011106...
2020-02-18 18:23:32
271
原创 task04--机器翻译及Transformer
（一）注意力机制在“编码器—解码器（seq2seq）”中，解码器在各个时间步依赖相同的背景变量（context vector）来获取输⼊序列信息。当编码器为循环神经⽹络时，背景变量来⾃它最终时间步的隐藏状态。将源序列输入信息以循环单位状态编码，然后将其传递给解码器以生成目标序列。然而这种结构存在着问题，尤其是RNN机制实际中存在长程梯度消失的问题，对于较长的句子，我们很难寄希望于将输入的序列转化...
2020-02-18 11:11:47
198
原创 task03--循环神经网络进阶
循环神经网络进阶1、GRURNN存在的问题：梯度较容易出现衰减或爆炸（BPTT）⻔控循环神经⽹络：捕捉时间序列中时间步距离较⼤的依赖关系RNN:Ht=ϕ(XtWxh+Ht−1Whh+bh)H_{t} = ϕ(X_{t}W_{xh} + H_{t-1}W_{hh} + b_{h})Ht=ϕ(XtWxh+Ht−1Whh+bh)GRU:Rt=σ(XtWxr+Ht−1Wh...
2020-02-15 16:37:49
159
原创 pytorch--task02--rnn，文本预处理
自然语言处理学习中的笔记心得一、文本预处理1.分词有一些现有的工具可以很好地进行分词，我们在这里简单介绍其中的两个：spaCy和NLTK。text = "Mr. Chen doesn't agree with my suggestion."import spacynlp = spacy.load('en_core_web_sm')doc = nlp(text)print([t...
2020-02-14 17:07:37
240
原创 pytorch--task01--线性回归，softmax分类
（一）线性回归模型为了简单起见，这里我们假设价格只取决于房屋状况的两个因素，即面积（平方米）和房龄（年）。接下来我们希望探索价格与这两个因素的具体关系。线性回归假设输出与各个输入之间是线性关系:price=warea⋅area+wage⋅age+b\mathrm{price} = w_{\mathrm{area}} \cdot \mathrm{area} + w_{\mathrm{age}}...
2020-02-14 14:45:34
195
原创 Linux 初级用法积累
Linux 用法学习一、 文件查找每天进步，每天积累一、 文件查找Linux入门学习（八）—— 怎么快速查找文件，怎么查找一个命令文件所在路径、以及根据文件内容进行查找？...
2019-12-17 16:38:19
69
原创 xshell 6 连接不上 VM 的服务器---解决方案
xshell 6 连接不上 VM 的服务器—解决方案 为现实所需，开始入手Linux，开始了探索这个为程序员而生的系统… 出现的问题：ping www.baidu.com 和其他虚拟主机都可以，但是cmd 和 xhsell 都ping不通，显示连接超时。已经开了 22端口，设置 ip 和 关掉防火墙 图片中，显示直接连接，显示失败。后来建立了CentOS的一个会话，也失败。直接pin...
2019-11-29 20:13:04
458
转载 Google Colab 关联不显示
关于使用谷歌云盘中免费GPU（Google Colab Colaboratory）出现的关联不显示解决方法1.设置-管理应用-Google Colaboratory 勾选“默认情况下使用”。2.直接访问 https://colab.research.google.com 创建NoteBook就可以了。在NoteBook里面写的代码会自动同步到谷歌云盘里面。以后打开方式里面就有Google ...
2019-11-15 21:33:50
1362
原创 tensorflow环境配置
anaconda--tf1.11+py3.6安装环境01 用conda创建python的虚拟环境02 安装TensorFlow03 conda和pip安装有什么区别04 配置软件的环境05 测试安装环境01 用conda创建python的虚拟环境anaconda->prompt，使用命令查看版本，我的是4.5.1，（装anaconda时，选择了最新版本的，出毛病了，菜单栏里显示不出来...
2019-11-12 18:39:37
974
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人