LLM4Rec
文章平均质量分 87
咕噜咕噜咕噜128
这个作者很懒,什么都没留下…
展开
-
【无标题】
V 用两个函数P1 P2来替换softmax 但是要保证 P1(Q)@P2(K)要满足上面的两个性质。但是注意到SVD需要额外的时间,所以采用另一种方法将Q K通过两个矩阵E、F映射到K维 然后E、F是可学习的。) n >> d 所以就是O(n)很无语的是论文做的实验好像n和d差不多大吧,能有很大的效率提升吗?)对e的每一行的和是1,而且每一行的每个元素都是大于0的,应用这两个属性把O(n。A = P1(Q) * P2(K) * V 时间复杂度变成O(nd。d)的时间复杂度变成O(nd。原创 2024-03-17 21:38:25 · 341 阅读 · 0 评论 -
ReLLa: Retrieval-enhanced Large Language Models
LLM在推荐领域中无法从长用户行为序列的文本上提取有用信息,即使文本长度远远没有达到LLM的文本长度限制。原创 2024-03-17 21:16:25 · 940 阅读 · 0 评论