自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(15)
  • 收藏
  • 关注

原创 【论文IJCAI】Attention as Relation:Learning Supervised Multi-head Self-Attention for Relation Extration

论文链接:https://www.ijcai.org/Proceedings/2020/0524.pdf论文源码:https://github.com/NKU-IIPLab/SMHSA  这是IJCAI2020的联合实体关系抽取论文,也是主要针对实体重叠的三元组识别问题。这篇文章把任务分成3个部分分别处理各自问题进行抽取得到较好结果。Abstract  联合实体和关系提取是许多自然语言处理任务的关键问题,已引起人们越来越多的研究兴趣。但是,它仍然面临着识别与整个实体边界重叠的关系三联以及检测多类型.

2020-10-22 10:29:39 1270 1

原创 【论文阅读笔记】面向医学文本的实体关系抽取研究综述

这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入欢迎使用Markdown编辑器你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar

2020-09-13 15:37:32 2392

原创 【论文阅读笔记PCNN】Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks

论文链接:http://aclweb.org/anthology/D/D15/D15-1203.pdf论文模型:PCNN  这篇文章是Zeng在2014年CNN经典论文之后的有益著作,这篇论文提出PCNN方法,将卷积网络特征提取应用于远距离监督,而且还引入多示例学习方法。1 摘要  文章开头就提出两个关于使用远距离监控进行关系抽取时会出现饿问题。首先,在这种方法中,启发式地将一个已经存在的知识库与文本对齐,并将对齐结果作为标记数据处理。然而,启发式对齐可能会失败,导致错误的标签问题。此外,在...

2020-08-01 15:53:32 1360 2

原创 【python3.x中print使用方法】SyntaxError: Missing parentheses in call to ‘print‘

*SyntaxError: Missing parentheses in call to ‘print’*对于这个错误提示,已经很明显的告诉我们print后面缺少了括号。至于为什么会出现这种情况呢?主要是从python2到python3,一些基本函数的接口变了,甚至一些库或者函数都发生了一定的改变。所以导致了语法也相应的改变了一些细节。很显然在python3.x中,print是函数所以最主要与2的区别是后面接的语句是要有括号限定的,至于其他的工作方式还是基本一致的。python3.x与python2.

2020-07-20 11:10:26 450

原创 【论文阅读笔记】Span-based Joint Entity and Relation Extraction with Transformer Pre-training

论文链接:文章目录1摘要2介绍3相关工作4模型架构5实验6总结1摘要2介绍3相关工作4模型架构5实验6总结

2020-07-19 21:45:48 4523 8

原创 【cs224n学习作业】Assignment 1 - Exploring Word Vectors【附代码】

前言这篇文章是CS224N课程的第一个大作业, 主要是对词向量做了一个探索, 并直观的感受了一下词嵌入或者词向量的效果。这里简单的记录一下我探索的一个过程。 这一下几篇文章基于这次作业的笔记理论:cs224n学习笔记 01: Introduction and word vectors.cs224n学习笔记 02:Word Vectors and Word Senses.cs224n学习笔记 03:Subword Models(fasttext附代码).cs224n学习笔记 04:Contextua

2020-07-06 21:29:27 896 1

原创 cs224n学习笔记 04:Contextual Word Embeddings

课程目标Reflections on word representationsPre-ELMo and ELMOULMfit and onwardTransformer architecturesBERTReflections on word representations之前的CS22N的课程介绍了词向量比如,Word2vec, GloVe, fastText。通过这些词向量能在神经网络的训练中起到一个很好的效果,如图所示:这种常规的词向量有很多问题,比如unknown-words针对训练词向

2020-07-02 21:36:18 549

原创 cs224n学习笔记 03:Subword Models(fasttext附代码)

课程内容语言学的一点小知识词级字符级模型n-gram思想FastText模型1 、人类语言声音:语音学和音系学语音学是音流,这是属于物理层面的东西词法学:一个n-grams的代替方案在基于单词的模型中存在一些问题:需要处理很大的词汇表,在英语中单词只要变个形态就是另一个单词了,比如说:gooooood bye字符级别模型单词嵌入可以由字符嵌入表示:能为不知道的单词生成嵌入相似的拼写有相似的嵌入解决了oov问题传统来说,一个因素或者一个字母不是一个因素单元,但是深度语言模

2020-06-29 22:53:32 376

原创 cs224n学习笔记 02:Word Vectors and Word Senses

课程目标简单回顾词向量和词向量模型word2vec词向量的glove模型评估词向量词的含义1.word2vec回顾迭代语料库中的每个单词使用词向量预测周围的单词向量是行向量的形式。U*v4是外围词向量和中心词向量的乘积。在计算乘积的softmax。简单的说word2vec就是把意思相近的单词放在空间中相近的地方。J(θ)为希望最小化的代价函数。往负梯度方向更新参数,不断重复。更新方程:存在问题:J(θ)是关于整个语料库所有窗口的函数,求梯度代价很大。解决方案:SGD随

2020-06-27 15:24:16 245

原创 cs224n学习笔记 01: Introduction and word vectors

本节首先介绍NLP的一些一本概念;然后讨论如何用向量(numeric vector)来表示一个一个的单词(word);最后,我们对时下比较流行生成word vector方法进行探讨。1 词向量英语中近130万的单词,并且这些单词之间也存在一定的联系,比如:cat-feline,hotel-motel。很多研究表明,可以只要使用N维的向量空间,其中万,就足以对一种语言的全部语义进行表达。例如,语义空间可以表示出时态(过去时、现在时、奇偶、性别等信息。在这个图片中,我们假象每个维度都代表了一个清晰定义的

2020-06-23 22:18:48 273

原创 零基础入门CV赛事-模型集成

零基础入门CV赛事-模型集成在上一章我们学习了如何构建验证集,如何训练和验证。本章作为本次赛题学习的最后一章,将会讲解如何使用集成学习提高预测精度。5 模型集成本章讲解的知识点包括:集成学习方法、深度学习中的集成学习和结果后处理思路。5.1 学习目标学习集成学习方法以及交叉验证情况下的模型集成学会使用深度学习模型的集成学习5.2 集成学习方法在机器学习中的集成学习可以在一定程度上提高预测精度,常见的集成学习方法有Stacking、Bagging和Boosting,同时这些集成学习方法与具体验

2020-06-02 21:16:01 102

原创 零基础入门CV赛事-模型训练与验证

零基础入门CV赛事-模型训练与验证在上一章节我们构建了一个简单的CNN进行训练,并可视化了训练过程中的误差损失和第一个字符预测准确率,但这些还远远不够。一个成熟合格的深度学习训练流程至少具备以下功能:在训练集上进行训练,并在验证集上进行验证;模型可以保存最优的权重,并读取权重;记录下训练集和验证集的精度,便于调参。4 模型训练与验证为此本章将从构建验证集、模型训练和验证、模型保存与加载和模型调参几个部分讲解,在部分小节中将会结合Pytorch代码进行讲解。4.1 学习目标理解验证集的作用,并

2020-05-30 20:45:02 210

原创 零基础入门CV赛事-字符识别模型

零基础入门CV赛事-字符识别模型本章开始构建一个字符识别模型,基于对赛题理解本章将构建一个定长多字符分类模型。3 字符识别模型本章将会讲解卷积神经网络(Convolutional Neural Network, CNN)的常见层,并从头搭建一个字符识别模型。3.1 学习目标学习CNN基础和原理使用Pytorch框架构建CNN模型,并完成训练3.2 CNN介绍卷积神经网络(简称CNN)是一类特殊的人工神经网络,是深度学习中重要的一个分支。CNN在很多领域都表现优异,精度和速度比传统计算学习算法

2020-05-26 21:38:36 218 1

原创 零基础入门CV赛事- 数据读取与数据扩增

零基础入门CV赛事- 数据读取与数据扩增我们将学习使用【定长字符识别】思路来构建模型,逐步讲解赛题的解决方案和相应知识点。**数据读取与数据扩增**本章主要内容为数据读取、数据扩增方法和Pytorch读取赛题数据三个部分组成。1 学习目标学习Python和Pytorch中图像读取学会扩增方法和Pytorch读取赛题数据1.1图像读取由于赛题数据是图像数据,赛题的任务是识别图像中的字符。因此我们首先需要完成对数据的读取操作,在Python中有很多库可以完成数据读取的操作,比较常见的有Pil

2020-05-23 22:07:27 122 1

原创 零基础入门CV赛事

@零基础入门CV赛事-赛题理解]本章内容将会对街景字符识别赛题进行赛题背景讲解,对赛题数据的读取进行说明,并给出集中解题思路。1 赛题理解赛题名称:零基础入门CV之街道字符识别赛题目标:通过这道赛题可以引导大家走入计算机视觉的世界,主要针对竞赛选手上手视觉赛题,提高对数据建模能力。赛题任务:赛题以计算机视觉中字符识别为背景,要求选手预测街道字符编码,这是一个典型的字符识别问题。为了简化赛题难度,赛题数据采用公开数据集SVHN,因此大家可以选择很多相应的paper作为思路参考。1.1 学习目标

2020-05-20 21:57:25 188

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除