2019年10月份起正式开始进入NLP领域,尝试进行一些科研工作并完成一些项目。
接下来一段时间的博文将总结一些知识图谱领域核心工作的论文内容并分享一些个人的读书报告。
这个帖子实时更新,记录自己读过的书及论文。
读过的论文:
1、Distant supervision for relation extraction without labeled data
内容简介:介绍远监督学习(一种提取实体间关系的机器学习方法)的核心思路。
地址链接:https://www.aclweb.org/anthology/P09-1113.pdf
2、Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks
内容简介:介绍PCNN模型(一种抽取关系的模型)。此模型基于multiple instance情况,同时考虑了语法特征和结构特征,有效提升了准确率。
3、Multi-instance Multi-label Learning for Relation Extraction
内容简介:此论文较好介绍了EM算法在训练中的应用并说明白了此模型的含义
地址链接:https://www.aclweb.org/anthology/D12-1042.pdf
4、Neural Relation Extraction with Selective Attention over Instances
内容简介:基于PCNN的工作进一步拓展,通过引入注意力机制使得每个句子都有一定作用,避免像Zeng提出的PCNN论文里面一样出现大量信息浪费的情况,有效提高了关系提取的F1值。另外这个模型在文本分类等许多其他领域也可能会有较好的效果。
5、Deep contextualized word representation
内容简介:一般的BILSTM只使用最后一层输出的结果。而ELMO模型对每一层的输出加权进行最后的处理。这种模型在预训练阶段不是死板的套用词向量,而是根据前后文本对词向量进行修改,进以解决一词多义的问题。
读过的书:
1、知识图谱 方法、实践与应用
内容概述:介绍了知识图谱各个方面的一些方法和进展,适合初学者形成对知识图谱领域的基本认知,并进一步了解深度学习在知识图谱领域的应用。