作者:CHEONG
公众号:AI机器学习与知识图谱
研究方向:自然语言处理与知识图谱
本文给大家推荐两篇知识图谱表示学习相关的论文,这两篇论文都是将传统图像中的2D卷积操作直接用到知识图谱模型中,并且取得了不错的效果。完整汇报ppt获取请关注公众号回复关键字:2D卷积知识图谱嵌入
一、Background
Knowledge 1: 二维卷积常用在计算机视觉、图像处理领域,用于处理图片数据;而一维卷积常用于序列模型,多适用于自然语言处理领域。知识图谱是非结构化数据,即不具有文本序列清晰的上下文,也不具有CNN在图像上的那种平移不变性,如何使用2D卷积进行表示学习?
Knowledge2: 如何在KB上使用二维卷积?首先Node Embedding e_s和Relation Embedding r_r都仍然使用一维向量进行表征,然后通过reshape操作分别得到e_s 和r_r的二维向量表示e ̅_s和r ̅_r,之后再在二维向量e ̅_s和r ̅_r进行二维卷积操作,最后再映射回一维表示,这就是在KB上使用二维卷积的思路。
二、Paper
三、往期精彩
【知识图谱系列】探索DeepGNN中Over-Smoothing问题
【知识图谱系列】知识图谱表示学习综述 | 近30篇优秀论文串讲
【知识图谱系列】动态知识图谱表示学习综述 | 十篇优秀论文导读
Transformer模型细节理解及Tensorflow实现
GPT,GPT2,Bert,Transformer-XL,XLNet论文阅读速递
Word2vec, Fasttext, Glove, Elmo, Bert, Flair训练词向量教程+数据+源码
汇报完整版ppt可通过关注公众号后回复关键词:2D卷积知识图谱嵌入 来获得,有用就点个再看呗