基于异构信息网络的元学习冷启动推荐

阅读笔记

原文章：Meta-learning on Heterogeneous Information Networks for Cold-start Recommendation

动机：

由于新用户或新item的user-item交互较少，冷启动推荐一直是一个具有挑战性的问题。现有的努力在一定程度上缓解了冷启动问题，但大多是在数据层面解决问题。早期的方法经常将辅助数据作为用户或item特征，而最近的方法利用异构信息网络(HIN)，通过高阶图结构来捕获更丰富的语义。另一方面，最近的元学习范式揭示了在模型水平上解决冷启动推荐的问题，因为它能够快速适应带有稀缺标签数据的新任务，或者在冷启动推荐的背景下，只有很少的交互的新用户和项目。因此，作者受到启发，开发了一种新的元学习方法，名为MetaHIN，以解决HINs上的冷启动推荐问题，同时利用模型层面上的元学习和数据层面上的HINs的能力。

异构信息网络(HIN)已经被用来利用互补的异构信息来丰富用户项目交互。

问题：

• 如何在元学习环境中捕获基于HIN的语义
• 如何学习可以轻松适应多层面语义的一般知识

解决方案：在MetaHIN中，我们提出了一种新的语义增强任务构造器（semantic-enhanced tasks constructor）和一种共适应元学习者（co-adaptation meta-learner）来解决这两个问题。

贡献点：(1)首次尝试利用HINs上的元学习进行冷启动推荐，在数据和模型层面都缓解了冷启动问题。(2)提出了一种新的元学习方法MetaHIN。

方法：

如图1(a)所示，作者可以构造一个toy的HIN来推荐电影，除了现有的用户-电影交互之外，还可以通过演员和导演来捕捉电影之间的关系。与基于内容的方法相结合，HIN-based方法也采用数据级策略来缓解冷启动问题，如图1(b)所示。在另一方面，在模型层面上，最近的情景元学习范式为使用稀缺的交互数据建模新用户或道具提供了见解。元学习侧重于在不同的学习任务中获取一般知识(即先验知识)，从而利用先验知识和少量的训练数据快速适应新的学习任务。元学习者在元训练过程中，从现有用户的任务中学习到具有较强泛化能力的先验，从而能够在元测试过程中轻松快速地适应交互数据稀缺的冷启动用户的新任务，如图（c）。

作者认为学习每个用户的偏好被视为元学习中的一项任务，并利用HIN来扩充数据。

1,Semantic-enhanced Task Constructor

注意：一个用户一个task

对于每一个user-item 交互，通过引入源路径p定义语义上下文。

查询集的构造方式与支持集类似。

2,Co-adaptation Meta-learner

在HINs上，全局先验可以被抽象为一个基本模型来编码如何在语境中学习的一般知识。

正如图2.(b)，base model $f_{\theta }$（有监督的推荐模型，需要大量的example rating 来实现合理的性能，对于冷启动场景中，使用meta Learning解决） 包含 context aggregation（获得用户嵌入） 和 preference prediction（预测评分）

• context aggregation:
  
• preference prediction:
  
• 最小化损失函数：

抽样base model $f_{\theta }$为怎样学习用户偏好的先验知识$\theta$。

3，Co-adaptation

co-adaptation meta-learner 学习先验知识$\theta$。

• Semantic-wise Adaptation
  每个元路径表示一个语义方面.
  
  
• Task-wise Adaptation
  任务适应的全局先验$w$，编码如何学习u的评级预测，用一个(或几个)梯度下降步来完成 task of $T_u$。
  

初入门，能力有限，记下自己的几个疑问，过几天再研究研究，如果有大佬看到，并且知道，请麻烦帮忙解读解读！

疑问1：在3.2Meta-learning for Recommendation中，下图黄色标注部分的原理还不理解！

疑问2：$w$形式化表述上怎么跟$h_w$串起来，我还没看懂！