论文笔记
文章平均质量分 64
cruise-tang
大数据的搬运工
展开
-
cigir21 Joint Learning of Deep Retrieval Model and Product Quantization based Embedding Index
本文核心主要通过将业界常用的OPQ压缩实现的快速检索和双塔向量化召回训练通过端到端的建模实现业务效果提升,其核心的优化逻辑点如下通过将检索和训练的统一降低了压缩检索过程中引入的error 在训练过程中就完成了索引的建立大大节省了时间 本文客服的调整有如下几点:如果在PQ算法中对涉及的argmin算子不可导问题的解决 对于变换矩阵和PQ中的码本聚类初始化过于稀疏的问题解决 对于能够减少PQ算法distortion问题而采用的OPQ算法涉及到的标准正交矩阵运算带入端到端训练的办法双塔模型引入index laye原创 2022-06-14 11:55:56 · 147 阅读 · 1 评论 -
论文笔记-FedGraphNN: A Federated Learning Benchmark System for Graph Neural Networks
GNN已经在业界有了很广泛的应用且很多领域已有SOTA的效果,但是在隐私安全日渐趋严的背景下,如何通过FL实现gnn的跨域联邦学习是一个有益的结合,本文通过联邦环境下对于Graph数据的如何在不同domain集群下进行训练,包括邻居采样、聚合和梯度回传等提出了一套完整的方案,并开源相关实现框架...原创 2022-06-09 16:42:49 · 483 阅读 · 0 评论