LLM-KERec

1、LLM-KERec整体框架

LLM-KERec系统包括传统推荐模块和基于LLM的互补知识增强模块。传统推荐模块负责召回候选商品、粗排过滤、精排和重排。LLM互补知识增强模块则包括实体提取器、互补图构造、E-E-I权重决策模型等，以整合互补知识，增强推荐效果。

2、LLM-KERec各模块

传统推荐模块

• 用户打开应用时，服务器会自动触发召回模块，返回大量候选物品。
• 候选物品经过粗排模型筛选，产生较小的候选物品集。
• 细排模型和重排模型用于最终确定物品的展示顺序。
• 每个步骤都可能进行人工干预，例如给物品分配权重进行发布。

基于大语言模型的互补知识增强模块

• 实体提取器从用户账单和物品信息中提取统一的概念术语（实体），并给每个物品分配一个唯一的实体作为其类别。
• 基于实体流行度和策略，生成候选的实体对。
• 利用大语言模型判断每个实体对之间是否存在互补关系，并构建互补图。
• 使用真实互补物品的曝光点击反馈，训练E-E-I权重决策模型。
• E-E-I模型将互补图的边权重注入到排名模型，实现互补物品的推荐。
• 实体提取器和互补图定期更新，以适应新物品和变化的环境。

3、实体图构建

利用互补商品的曝光和点击反馈训练，为下游精排模型提供知识注入。

模型概述：提出了两阶段互补知识增强过程，包括排序阶段和集成阶段。

排序阶段

• 采用双塔结构，输出分别代表互补物品和账单实体的表示，点积作为偏好程度指标。
• 使用图神经网络和对比学习从替代视角和互补视角表示实体。
• 构建了用户-物品-实体图，并设计了三种边关系来表示实体。

集成阶段

• 在召回模块中增加了互补召回路径，使用E-E-I模型为当前样本提供分数、实体嵌入和物品嵌入。
• 细排模型结合当前互补物品和用户画像行为进行个性化排序。

4、参考文献

LLM-KERec：利用大语言模型打破推荐系统的壁垒 - 知乎 （LLM-KERec ）

「大模型在搜广推中的应用」相关文章汇总 - 知乎