事件抽取、元素识别、事件去重相关论文阅读

1、Event co-reference resolution via a multi-loss neural network without suing argument information

 

可以考虑把这四部分信息直接用来做两个词相关性的判断。

1. 窗口内的embedding
2. 词的embedding
3. Pos的embedding-指的是候选词周围窗口下的词的embedding
4. Lemma的embedding-词干的embedding，中文中没有词干
5. 总体来说就是不用提取事件的要素，单纯使用语义信息进行事件的相似匹配，当然，语义信息中加强了某些部分的信息，如各种词窗口的向量、词向量本身等等，且计算loss的时候采用多任务loss的联合，感觉这篇文章的唯一亮点就是这里了，其他的地方只不过是引入更多辅助信息罢了

 

2、Inter-sentence Relation Extraction with Document-level Graph Convolutional Neural Network

论文方法：

1. 输入是文档中每个word的描述向量及每个word与两个entity的相对位置的向量，相当于[w(i);d(i1);d(i2)]
2. 构造图中的node和node之间的边：
   1. 句法依赖边：通过使用带标签的句法依赖边来表示每个句子中词之间的关系
   2. 共指边：对同一个entity使用“共指”边链接
   3. 相邻句边：使用句法依赖中每个句子中的root作为node，连接前后一个句子的root，这个边称为相邻句边
   4. 相邻词边：连接每个词的前后各一个词作为相邻词边
   5. 自边：也就是自己和自己连起来的一种边

综上，一共有多种类型的边：句法依赖中的多种依赖关系边、共指边、相邻句边、相邻词边、自边。所以针对一个有n个word的document，构造一个有n个node的图，图中 边的个数不定，每个node至少有3个边

3、图构造完之后就是需要更新节点了，假设X=N*D是特征矩阵，N是node的个数，D是特征的维度，A=N*N是相对应的邻接矩阵，A中元素值就是边的类型；f就是类似于激活函数了，W就是权重参数。对模型引入两个限制：1、AH意味着每个节点的特征向量就是所有邻接节点的和，所以A=A+I，这样可以引入自身向量；2、对A做归一化，并动态处理，这样的话并不仅仅是对邻接节点的求平均。D是对角度矩阵-就是A中每一行的和作为D中对应行的对角元素，A是邻接矩阵，有关系的两个节点是1，无关系是0。

1. 图网络如何有效更新呢？

j是节点v(i)的邻接节点的位置；c(ij)=归一化的节点v(i)和v(j)之间边的值，从D-0.5AD-0.5中获取；W是权重参数，还有激活函数；如果参数矩阵初始化的时候是正交的，那么迭代很快就稳定了。下面式子得到的是H矩阵中每个节点的值。