动态图的连续表示

现有的动态图嵌入方法可以分为两类:

离散表示方法——动态图的演化被视为随时间变化的静态图的快照集合。动态图的离散表示允许静态图方法为每个图快照编码结构信息,然后结合时间模型对时间信息进行编码以获得动态图的嵌入表示。该方法倾向于对图的整体拓扑结构信息和粗粒度时间信息进行编码。

连续表示法——将动态图中边的出现看成事件流,对边中涉及的节点的局部交互信息和细粒度时间信息进行实时编码。动态图的连续表示是一种以更细的时间粒度对动态图进行建模的方法,并且是唯一具有准确时间信息的表示 。这使它们成为最复杂但也是最有前途的代表。

连续网络表示

1.事件

基于事件的表示包括图上边处于活动状态的时间间隔。在这种情况下,事件与链接同义。它是关注链接持续时间的动态网络的表示。网络由按时间排序的事件列表给出,其中包括事件出现的时间和事件的持续时间。

2.联系序列

联系序列表示是基于事件的表示的简化。在联系人中,链接是瞬时的,因此不提供链接持续时间。如果事件的持续时间很短或不重要,则通常将实际系统中的事件时间视为瞬时。适用于此表示的系统示例包括消息网络,例如文本消息和电子邮件网络。

3.图流

图流表示用于表示太大而无法放入内存的静态图,但也可以用作动态网络的表示。类似于基于事件的表示,但是它将链接出现和链接消失视为单独的事件,图流主要用于规避硬件限制而不是网络表示的限制。

2019 ICLR-DyRep Learning representations over dynamic graphs

image-20230528204916831

作者观察到大多数现实世界的图至少表现出两个在不同时间尺度上演化的不同动态过程——拓扑演化:节点和边的数量预计会随着时间的推移而增加(或减少),从而导致图中的结构变化;节点交互:与节点之间的活动有关,这些节点可能在结构上连接也可能不连接。

作者建议任何动态图都必须最小化表示为两个在不同时间尺度上演变的基本过程的结果: 关联过程(网络的动态),它带来图结构的变化并导致节点之间持久的信息交换;和通信过程(网络上的动态),它与(不一定连接的)节点之间的活动有关,这些活动导致它们之间的临时信息流。

作者建立了一个两倍尺度的深度时序点过程方法来捕获两个观察过程的连续时间细粒度时间动态,使用深度归纳表示网络进一步参数化时间点过程的条件强度函数,该网络学习计算节点表示的函数。最后通过设计一种新颖的时间注意机制来耦合我们框架的结构和时间组件,该机制使用学习的强度函数诱导对邻域节点的时间注意。这允许随着时间的推移捕获高度交错和非线性的动态控制节点表示。

时序点过程 TPP

现实世界中有这么个问题:有这么一系列历史事件,每个事件都有其对应的发生时间,也有其所属的事件类型,基于这一系列历史事件,预测下一个要发生的是什么类型的事件,以及其发生的时间。比如下一次地震发生在何时,何地是事件类型,比如一种股票的下一次买卖将发生在何时,买入或卖出是事件类型,比如用户将在何时去下一个目的地,目的地是哪里是事件类型。点过程可以对这一系列历史事件建模,来解决这个预测问题。

时序点过程的核心是强度函数 λ ( t ) \lambda(t) λ(t) N d ( t ) N_d(t) Nd(t)是截止时刻 t t t之前事件类型发生的总次数。 λ d ( t ) d t \lambda_d(t)dt λd(t)dt代表在时间窗口 [ t , t + d t ] [t,t+dt] [t,t+dt]内事件类型 d d d发生的概率

image-20230528203648170

只要能根据历史事件模拟出强度函数 λ ( t ) \lambda(t) λ(t),则可以根据 λ ( t ) \lambda(t) λ(t)预测下一个事件。对 λ ( t ) \lambda(t) λ(t)的模拟将点过程分为传统点过程和深度点过程。

传统点过程缺点:传统点过程对强度函数有很多设定,很有可能不符合实际情况,比如历史事件对强度函数的影响并不一定是累加的;如果有多种事件类型的话,还需作出各个事件类型是互相独立的假设,并且对每个事件类型求强度函数;传统点过程对数据的缺失处理不是很好,有时我们只能观测到一部分事件。

深度点过程就无需这么麻烦,用神经网络这样的非线性函数模拟强度函数,这样一个黑盒子无需设定任何先验知识。循环神经网络(RNNs)及其变体,比如长短时记忆循环神经网络(LSTMs)已经成为深度点过程的基石。给定事件序列 { x i } i = 1 n \{x_i\}^n_{i=1} {xi}i=1n ,经过循环神经网络得到输出序列 { h i } i = 1 n \{h_i\}^n_{i=1} {hi}i=1n ,利用这些输出可以预测事件标记的取值以及事件的发生时间。使用深度点过程最大的好处就是可以构建端到端学习模型,不必专门为某一种点过程模型设计专用的学习算法。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值