#今日论文推荐# 预训练语言模型解决推荐任务，还能这么用

#今日论文推荐# 预训练语言模型解决推荐任务，还能这么用

本文针对近期利用预训练语言模型解决推荐任务的工作进行了简要介绍，梳理其背后的技术脉络，旨在帮助推荐系统相关研究人员快速熟悉和掌握相关的最新研究进展，如有遗漏或错误，欢迎大家指正。文章也同步发布在AI Box知乎专栏（知乎搜索 AI Box专栏），欢迎大家在知乎专栏的文章下方评论留言，交流探讨！引言：长期以来，推荐系统和自然语言处理技术相互影响，相互促进。例如一些工作利用文本信息来增强用户和商品的表示；一些工作将用户的历史交互序列视为自然语言中的文本序列，并用语言建模的方法提升推荐的性能。随着预训练语言模型的不断发展，其参数量越来越大，存储的知识也越来越多。一些工作利用预训练语言模型学习通用的表示；一些工作逐渐尝试用自然语言的形式描述推荐任务，并通过设计prompt，利用预训练语言模型解决推荐任务。本文整理了近期这方面的一些工作和进展。欢迎大家批评指正，相互交流。

本文指出传统序列推荐模型因为商品 ID 在域/平台间不共享而存在着迁移性差和商品冷启动的问题。为此，本文提出了一种新的序列表示学习方法 UniSRec，希望打破显式建模商品 ID 带来的限制，通过编码商品文本并生成迁移性强的通用商品表示，并进一步在多个域上预训练来学习到通用序列表示。

论文题目：Towards Universal Sequence Representation Learning for Recommender Systems
详细解读：https://www.aminer.cn/research_report/62d677097cb68b460feed275https://www.aminer.cn/research_report/62d677097cb68b460feed275
AMiner链接：https://www.aminer.cn/?f=cs