本文探讨了如何优化推荐系统的召回与粗排阶段，重点介绍了Stanford和Facebook关于late fusion的论文，以及Google的预训练模型设计。双塔DSSM和交互式DSSM模型被比较，提出新的预训练策略如ICT、BFS和WLP，以提升模型性能。ColBERT模型通过query和doc的embedding late fusion提高召回率，适用于大规模检索。文中还分享了相关资源和Java开发者的学习资料。
https://arxiv.org/pdf/2002.03932.pdf
Google的paper（How to pretrain？），主要是讲怎么样更好的设计pretrain任务，用于问答任务。
https://arxiv.org/pdf/2004.12832.pdf
Stanford的paper（How to late fusion？），主要是讲怎么样更好的让query和doc进行late fusion，用于召回侧&&粗排？相比双塔dssm模型，recall更优；相比交互式dssm模型，效率上更优。此外，召回侧可以使用faiss超大规模检索，用于工业界的搜索/推荐等系统。
https://arxiv.org/pdf/1905.01969.pdf
Facebook的paper（How to late fusion？），和上个paper的目的一致，怎么样进行late fusion，提高检索的效率，
最低0.47元/天 解锁文章
扫一扫
2395
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
