- 博客(23)
- 收藏
- 关注
RSS订阅原创 Python+Neo4j知识图谱环境搭建
知识图谱构建的工具主要包含两个部分Neo4j 用于存储实体和关系Django python的Web框架Django安装和使用pip install djangoimport djangoNeo4j去Neo4j官网下载安装包下载后解压并进入bin目录启动以github上一农业知识图谱的demo为例讲解搭建过程按照github上readme.md上的要求将实体和关系的数据文件 放入import文件夹下并在输入框中输入语句导入数据数据导入完成后启动Django服务
2021-05-20 14:20:57
1091
原创 对于Transformer中的mask理解
概述transformer中的mask操作，可以分成encoder端和decoder端Enocoder中的mask首先确定mask的形状是 batch_size*seq_length对于小于最大长度的句子进行补0操作，对于大于最大长度的句子进行截断操作。虽然对少于最大长度的句子进行了补零操作但是这些０仍然会参与注意力分数的计算。这里需要将mask中的０变成负无穷，１变成０，与计算的注意力矩阵相加，原来有单词的注意力不变，没有单词的位置变换成负无穷，之后在进行softmax运算decod
2021-05-13 15:28:35
2728
原创 Document-Level Relation Extraction with Adaptive Thresholding and Localized Context Pooling
摘要
2021-05-13 15:26:11
438
原创 TurboNLP部署
1 安装 pytorch-gpu 选定版本后复制 run this command中的命令行 到控制台安装2. 使用anaconda创建虚拟环境,按照readme中的提示 安装相关包配置turboTransformer使用docker安装镜像
2021-02-18 20:34:26
127
原创 Anaconda使用教程及jupyter内核操作
下载安装此部分教程很多，所以本文不再赘述，需要提醒的是在Ubuntu环境下安装时，提示是否将conda加入环境变量时，一定要选是使用教程虚拟环境相关操作创建虚拟环境conda create -n yourname python==yourversion环境搭建好之后就可以在里面尽情的配置你想要的东西了删除虚拟环境conda remove -n yourenv激活虚拟环境source activate yourenv退出虚拟环境source deactivate
2021-01-05 11:03:34
800
原创 Joint Extraction of Entities and Overlapping Relations Using Position-Attentive Sequence Labeling论文
摘要联合实体抽取使用一个模型进行实体和关系检测。本文的方法是根据问题单词的位置p 直接标注实体和关系的标签，在其他位置识别与前者有关系的实体。作者首先设计了一种标记机制给n个单词的句子生成 n 个标签序列，然后提出基于位置注意力机制了为每个查询位置生成不同的句子表示来对n标签序列建模。这样的话，我们就可以抽取到所有的实体和他们的类型，还有重叠的关系。文章的创新点和贡献提出一种标注策略，可以同时展示实体的类型和重叠的关系提出一个基于位置注意的机制，根据查询位置p生成不同的位置感知语句表示，用于.
2020-12-30 11:12:21
268
原创 Graph Neural Networks with Generated Parameters for Relation Extraction 论文阅读
创新点传统方法对于边的构造使用的是拉普拉斯矩阵，在本文中使用的是生成的参数替换拉普拉斯矩阵。数据集利用维基百科标注实体和关系，并使用Stanford CoreNLP 和 HeadTime抽取实体和时间。针对一个实体对之间存在多个关系的情况过滤，针对一个句子之间的实体少于3个的情况过滤。模型架构编码模块生成的参数相当于原始的拉普拉斯矩阵传播模块中的A来自编码模块分类模块...
2020-12-30 11:11:22
369
3
原创 docker相关操作
docker 安装sudo apt-get install \ apt-transport-https \ ca-certificates \ curl \ software-properties-common允许使用httpcurl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -添加docker官方curl -fsSL https://mirrors.ustc.edu
2020-12-30 11:10:48
67
原创 图卷积神经网络入门
1. 为什么要使用图卷积神经网络原因: 现实生活中存在着大量拓扑结构的数据,比如图等非欧式数据,传统的卷积操作只适用于欧式空间的数据(图像等);因此需要适用于图上的卷积操作。2. 怎么使用图卷积类比CNN中的卷积，传统卷积是对中心点周围的点进行加权后相加得到中心点的表示，推广到图中就是将用周围节点来表示当前节点。卷积的定义式：傅里叶变换：傅里叶变换(Fourier Transform, FT)会将一个在空域(或时域)上定义的函数分解成频域上的若干频率成分。换句话说，傅里叶变换可以将一个函数
2020-12-30 11:08:28
275
原创 Git基本使用 持续补充
配置用户信息git config --global user.name "lxy"git config --global user.email "18261195602@163.comgit config --list初始化仓库mkdir git_practisegit init git status # 查看目录状态echo "hello,git" > welcome.html # 创建内容为 hello，git的 welcome.html文件git add welcome.ht
2020-09-12 14:59:20
247
原创 Lunix操作
pwd 当前目录ls 显示文件ls -a 显示 所有文件wenjianls -a ~ 显示所有隐藏文件权限 用户所有者 文件大小 修改时间戳 文件名如果 test不存在 使用 -p删除文件夹下所有文件和子目录删除一个目录-i 带有交互的询问通配符匹配...
2020-09-12 14:58:16
988
原创 Ｕbuntu系统下配置haskell语言环境stack
大部分的操作指南都在官网上可以找到，下面的两个问题可能是出现最多的更换国内镜像源###ADD THIS IF YOU LIVE IN CHINApackage-indices: - download-prefix: http://mirrors.tuna.tsinghua.edu.cn/hackage/package/ hackage-security: keyids: - 0a5c7ea47cd1b15f01f5f51a33adda7e655bc0f
2020-05-29 15:00:16
1545
原创 Integrating Deep Learning with Logic Fusion for Information Extraction 论文学习
摘要信息抽取的目的是从输入文本中产生结构化的信息。针对信息抽取已经提出了很多尝试比如特征工程或深度学习。然而，他们中的大多数都没能将这种复杂关系和任务本身联系起来，这是很重要的。比如说，两个实体之间的关系和他们的实体类型有着很大的相关性，这种依赖关系可以被看做是可以高效表达逻辑规则的复杂的约束。为了将逻辑推理能力和学习能力结合，我们提出了将以一阶逻辑形式的逻辑知识整合，以端到端的方式进行联合训练。整合的框架可以通过逻辑规则增强带有知识正则化的神经元输出，同时更新逻辑规则的权重来符合训练数据的特征。我们证.
2020-05-18 16:32:51
411
原创 Modeling Relational Data with Graph Convolutional Networks 论文学习
摘要知识图谱有着各种各样的应用，包括问答系统和信息检索。尽管在知识图谱的创建和维护上投入了大量的努力，但是仍然是不完整的。我们引入了关系图卷积神经网络，并且将它们应用到两个标准知识库完成的任务上：1 链接预测（复原缺失的事实） 2。 实体分类（复原缺失的实体属性）。R-GCNs是一种运行在图上的神经网络，用于解决现实知识库的多关系数据特征。我们证明了R-GCNs作为一种实体分类的独立模型的有效...
2020-05-18 16:32:14
282
原创 Multi-Source Domain Adaptation for Text Classification via DistanceNet-Bandits论文学习
摘要目标域上的学习算法的域适应性能是其源域的误差和两个域的数据分布的散度度量。我们在NLP任务的上下文任务中研究了各种基于距离的方法，根据样本估计来描述域之间的差异。我们首先进行了分析实验来展示哪种距离度量方法可以最好地区分样本来自相同领域还是不同领域，和实际结果相关。接下来，我们研究了一种叫做DistanceNet的模型，这个模型使用这些距离度量的方法，或者将这些度量方法混合，作为一种额外的...
2020-05-18 16:31:35
566
原创 Deep Session Interest Network for Click-Through Rate Prediction论文学习
用于预测点击率的深度会话神经网络摘要点击率在很多工业应用中起着重要作用，比如在线广告和推荐系统。如何从用户的行为序列中捕捉用户动态的、不断变化的兴趣，仍然是CTR预测中一个不断研究的课题。然而，多数已有的研究忽视了这些序列的内在结构，这些序列由会话组成，会话是用户行为，与它们发生的时间相分离。我们发现用户行为在同一个会话中是用于预测点击率的深度会话神经网络摘要点击率在很多工业应用中起着重要作用，比如在线广告和推荐系统。如何从用户的行为序列中捕捉用户动态的、不断变化的兴趣，仍然是CTR预测中一个不断研
2020-05-18 16:29:54
217
原创 关于双系统下的操作
Window下安装Ubuntu准备工作先在windows系统下压缩一个卷，不要给它分配盘符。右击 此电脑 -选择管理 -选择磁盘管理-选择一个空间较多的盘，右击压缩卷使用软碟通将Ubuntu系统刻入U盘中 具体可见https://jingyan.baidu.com/article/a65957f42b151124e77f9b68.html进入bios，需要做的是两部分工作。一是将secu...
2020-05-16 20:10:48
101
原创 ALBERT 论文学习
摘要1.现象：在预训练时增加模型尺寸可以改善下游任务上的性能。然而在某种程度上，改善模型会变得更困难由于GPU或TPU的存储限制，更长的训练时间和意想不到的模型退化。总的来说，就是预训练模型参数过多，训练速度慢。2.解决措施：提出了两种参数削减技术来降低存储消耗并且提高了BERT的训练速度。使用一种关注模型句子间的连贯性的自监督损失，表明这种方法在多句子输入的下游任务有帮助。介绍...
2020-05-16 20:10:06
258
原创 Graph Convolutional Networks for Text Classification 论文学习
１． 关于傅里叶变换傅里叶变换的目的：可将时域（即时间域）上的信号转变为频域（即频率域）上的信号，随着域的不同，对同一个事物的了解角度也就随之改变，因此在时域中某些不好处理的地方，在频域就可以较为简单的处理。图上的卷积网络从卷积方式上可以分为两种：1.谱（spectral）卷积，2.空间域卷积，而Semi-Supervised Classification with Graph Convol...
2020-05-16 20:09:29
280
原创 Improving Domain-Adapted Sentiment Classification by Deep Adversarial Mutual Learning 论文学习
１．摘要域适应情感分类指的是在标记资源上训练然后在没有标记的目标域上进行推断。现有的相关模型大多包含一个特征提取器和情感分类器，特征提取器从两个领域中学习不同域的特征，特征提取器只在源领域上指导特征提取器。因此，他们缺乏一种使用在目标域的情感极的机制。为了改善域适应情感分类，以从目标域中学习情感，我们设计了一种新型的深度对抗互学习的方法，这个方法包含两组特征提取器，域识别器，情感分类器和标签探测...
2020-03-29 16:01:48
550
2
原创 对pytorch中张量的形状和维度的理解
1 张量的概念和定义0 维张量 是 标量 （单纯的数字）1维张量 是 向量2 维张量 是数组3维张量 可以看成多个形状相同数组同理，我们可以推导更高维度的张量张量的形状创建两个张量，形状均为[2,3,6]，也就是有2个3*6的数组。也可以使用x.size(index)来取出某个维度上的大小。在这里我们可以将张量的形状看成是列表[2,3,6],这样在使用x.size(ind...
2020-03-08 11:09:19
6000
2
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人