Logistics Audience Expansion via Temporal Knowledge Graph (CIKM 2023)

Logistics Audience Expansion via Temporal Knowledge Graph (CIKM 2023)

研究问题：

物流系统的受众扩展问题！（给定一些种子用户，根据种子用户扩展出更多的受众用户）

现有的应用于广告营销方法不适用于物流系统的原因：

首先，解决物流受众扩张问题需要考虑更复杂的关系，以更好地理解商家的意图。除了商家与物流公司之间的关系外，商家的意图还受到多重复杂因素的影响，包括静态和动态关系。
一方面，商家的意图受到静态关系(例如，行业和位置关系)的影响。例如，销售生鲜食品的商家可能更喜欢快递速度快的物流公司，这有助于保持他们的食品质量。
另一方面，商家的意图受到动态关系(例如，物流公司与商家送货目的地之间的关系)的影响。例如，如果商家的送货目的地发生变化，如果目的地不在主要服务区，一些物流公司可能会变得不可用。其次，物流公司关心商家的长期使用，以实现持续盈利。也就是说，物流公司不仅关注合同的成功，还关注商家未来对物流服务的使用。
现有的方法没有做到对如何找到商家谁将有长期使用的服务的解答！

方法概述：

为了弥合差距，我们利用知识图来建模实体之间的复杂关系。
特别是，电子商务平台记录了丰富的物流知识（例如，交付目的地和商家如何使用物流服务），其可以用于构建时间物流知识图以提取广泛的物流知识，捕获商家的合同意图，并探索商家的合同后模式。

然而，仍然存在挑战。(i)由知识图结构表示的关系随时间动态地改变（即，在我们的研究中，48%的关系（由知识图中的边表示）每两周就会改变一次），并且提取动态知识并不容易。
(ii)稀疏的历史合同记录在数量方面（即，新签约率低于每月2%）和多样性（即，来自多个物流的有限的签约数据）使得捕获商家的签约意图具有挑战性并且容易受到过拟合问题的影响。
(iii)商家的签约后使用模式可能与签约前不同，这使得在历史数据上训练的模型难以有效预测未来的使用。

模型构建

问题定义

每隔一段时间就需要构建一个这样的指示图，描述当前所处的状态，包括物流，省份，企业，站点，商家

Temporal Knowledge Graph Pre-trained Model ：
该模块旨在对动态关系的影响进行建模，捕获商家和物流公司之间的交互，并了解物流公司的特征。
Intention Learning Model：
在模块1的基础上，我们设计了这个模块，通过基于数据扩充的比较来预测商家与不同物流公司的签约意向。
Future Patterns Discovery Model
使用模块1中获得的商家和物流公司的嵌入，我们设计了这个模块来识别签约商家的未来模式并预测未来的使用情况。

Temporal Knowledge Graph Pre-trained Model

首先在每个事件段的知识图谱图上运行异质图，其中公式如下：

HSA是一个异构聚合函数。
感兴趣的同学可以去参考相关异质图神经网络研究

之后在动态图上运行LSTM建模动态关系。

预训练的进行基于构建商家和物流企业之间的关系构建loss函数进行；基于构建商家和省份的loss函数进行。
本质上是基于link prediction进行嵌入的训练。

Intention Learning Model

目标是了解商家对不同物流公司的签约意图，并预测当给定特定物流公司时是否签约。

Matching Network: 基于拼接和前馈神经网络预测企业和物流公司之间的交互得分；
基于BPR loss对模型进行训练。
数据增强：首先，我们利用服务关系来指导当前服务的物流公司之间的比较。也就是说，商家被认为对他们使用更频繁的物流公司有更高的意图。
其次，对于没有与商家交互的物流公司(如图4中的E和F)，我们创建了它们之间的软标签比较，以更好地了解商家对这些物流公司的意图。具体地说，如果商家准备与目标物流公司(例如A)签订合同，则表明了对目标的强烈意图。
在这种情况下，如果物流公司𝐸比物流公司𝐴更接近目标物流公司𝐹，我们假设商家对𝐸的意向得分大于𝐹。

预测未来的使用情况
个别商家有不同而复杂的模式，可能会有我们现有数据中没有捕捉到的未曾见过的未来模式。我们的解决方案是由多兴趣推荐[3，24]中的工作激励的，它提取多个兴趣并将它们组合起来表示用户的偏好。我们假设，任何未来的模式都可以由基本模式的融合来表示。这些基本模式是常见的模式，例如增加和减少，它们相对更容易建模。

利用过去的商家嵌入和注意力机制得到最终的组合结果进行使用预测。
每个模式都基于商家过去的嵌入生成一个未来预测。在每个基本模式中，我们利用自我注意机制来计算过去嵌入的不同部分对未来使用的重要性。形式上，我们将过去的商家嵌入的ℎ𝑡𝑚投影到具有线性投影𝑊𝑞，𝑏的查询向量。查询向量定义为