8、Collaborative Metric Learning

最新推荐文章于 2024-03-31 00:32:27 发布
最新推荐文章于 2024-03-31 00:32:27 发布
阅读量225 收藏 1
点赞数
原文链接：http://www.cnblogs.com/Lee-yl/p/9807577.html
版权

一、摘要：

文章的核心思想：是如何把Metric learning 和 CF结合起来从而达到更好的推荐效果。

提出了CML（Collaborative Metric Learning），其学习一个联合度量空间，不仅编码用户的偏好，而且编码用户-用户和项目-项目的相似性。

假设用户和物品可以放到低维空间，并且可以使用满足不等式性质的欧式距离来度量他们之间的距离。

 

将ML和CF结合的原因是： 传统的CF都使用了点积来衡量用户向量和项目向量的距离。即点积值越大就代表两个向量相近。但这篇文章认为点积计算距离可能使得相似度不准确。

一个距离测量需要满足一些条件（如三角不等式）。三角不等式关系：距离的大小是有传递的。比如：X与Y相近，X与Z相近，则Y与Z也相近。也就是说相似度是可以传递的，但是积极的评分，没有评分的没有显示】

改进的MF：weighted regularized matrix factorization (WRMF)

case weight cij is larger for observed positive feedback and smaller for unobserved interactions。

（2）贝叶斯个性化排序BPR：

3、协同度量学习：(CML)

CML和LMNN的区别：CML将同类数据聚合去掉，只保留异类远离部分，即保留Lpush。

【原因是一个物品可能被多个人喜欢，很难说清楚怎么聚类比较有意义。具体说就是一个用户所喜欢的物品要远离这个用户所不喜欢的物品，同时这个距离会被一个与rank（物品的排序)有关的权重所控制】

给定所有数据与一个数据集S，S是user-item的数据对，并且是已知具有正相关的，通过学习user-item 之间度量来将这种关系编码到第三方空间。

（1）模型主要公式：LMNN【度量学习ML】

 

（2）WRMF【CF中的MF】

令J为全部项目的数量，N为否定项目的数据，rankd(i; j) 接近于[J / N ]。

 （3）整合项目特征

f 表示 项目特征vj 的投影函数，其在一定程度上是可以代表项目特征的。 

（4）正则化

 

 （5）总的模型：

 

转载于:https://www.cnblogs.com/Lee-yl/p/9807577.html

weixin_33980459
关注
Collaborative Metric Learning(CML)论文总结
Marcus-Bao的个人主页
04-20 835
论文 问题介绍 度量学习算法通过学习生成什么样的距离度量来帮助解决数据间的重要关系。 传统的CF(主要以MF,TF为主)的方法只能学习到user-item之间的潜在关系而无法学习到user-user,item-item的Similarity。本文作者将传统的CF与Metric Learning相结合提出CML,学习到了user-item，以及user-user,item-item的similari...
Collaborative Translational Metric Learning论文小结(附核心pytorch代码)
Marcus-Bao的个人主页
09-12 409
前言 在之前得专栏文章中，我们介绍过一种将度量学习引入推荐系统的方法Collaborative Metric Learning(CML)论文总结。其主要的motivation就是说传统的基于点积的矩阵分解方法不满足三角不等式，因此不是一个好的度量方式，会存在一些问题。对此，CML的解决思路是将用户和商品投影到欧几里得空间，然后用欧几里得距离来度量用户对不同商品的偏好。 那么CML就是完美的吗？显然是不可能的。 CML的出现后，涌现了一系列的基于度量学习的推荐算法，大部分都是对原CML的改进和提高，我会慢慢
Collaborative Metric Learning——paper 笔记
wang2008start的专栏
07-23 1382
  Collaborative Metric Learning 协同过滤（回顾和复习了CF，基于模型的CF是用矩阵分解实现的，loss为评分矩阵和新构建的评分矩阵的平方差，用梯度下降进行优化学习）。这里是主要提出了三角不等式（两对pairwise节点的距离之和大于这两个节点的直接距离，隐含：如果x相似与y和z，那么y和z本身也是相似的，相似传递性），在矩阵分解的基础上，使用pairwise格式的...
(论文阅读笔记1)Collaborative Metric Learning(一)（WWW2017）
chunyun0716的专栏
07-31 2866
一、摘要    度量学习算法产生的距离度量捕获数据之间的重要关系。这里，我们将度量学习和协同过滤联系起来，提出了协同度量学习（CML），它可以学习出一个共同的度量空间来编码用户偏好和user-user 和 item-item的相似度。二、背景2.1 Metric Learning     令χ={x1,x2,…,xn}\chi = \{x_1, x_2,\dots, x_n\}是空间Rm\mathb
Collaborative Metric Learning(www 2017)
qq_42018521的博客
04-30 917
传统基于MF的模型，将特征向量的点积作为预测结果，这存在一个很大的问题，即dot product 不满足三角不等式），这会导致学到的特征向量次优（难以捕捉用户细粒度的偏好）。本文提出了一种Collaborative+Metric Learning模型，不仅能捕捉用户细粒度偏好，还可以捕捉用户-用户/物品-物品相似性。
(论文阅读笔记1)Collaborative Metric Learning(二)（WWW2017）
chunyun0716的专栏
08-20 1752
三、协同度量学习    这一部分，我们讨论CML作为一种更自然的方法获得关联关系。CML的思路是这样的：我们在已知正例关系的user-item集合S\mathcal{S}上建立一个隐性反馈模型，并且学习user-item的距离作为他们的关系。学习到的距离使得S\mathcal{S}中的对更加紧密，而S\mathcal{S}之外的user-item对相对的远离。这个处理过程，源于三角不等性。也可以聚类
[论文笔记] Improving Collaborative Metric Learning with Efficient Negative Sampling
THOOOR的博客
08-19 246
论文笔记 Improving Collaborative Metric Learning with Efficient Negative Sampling (arxiv.org) Improving Collaborative Metric Learning for Recommendation by a 2-stage negative sampling strategy. (github.com) 基于三元组损失的距离度量学习已成功应用于广泛的应用中，例如人脸识别、图像检索、说话人变化检测以及最近使.
联邦学习的基本概念和术语 Federated Learning: Collaborative Machine Learning
程序员光剑
08-04 1170
随着互联网、移动互联网、物联网、云计算等新兴技术的广泛应用，传统数据中心遇到的限制越来越多，因此出现了边缘计算的概念。边缘计算可以将数据处理从中心服务器上卸载到边缘设备上，实现更快、更可靠的数据处理。然而，由于设备离用户较远，带宽资源受限等因素，边缘计算面临的通信、计算性能等问题也同样存在。为解决这一问题，机器学习领域提出了联邦学习（Federated Learning）的概念。联邦学习是一种机器学习模型训练方法，它允许多个数据所有者共同协作训练一个模型，从而使得模型能够更好地泛化到新数据上。
（Distance Metric Learning）度量学习学习资料
alva_bobo的博客
07-31 922
原文链接：http://blog.csdn.net/lzt1983/article/details/7884553 度量学习学习资料 1. Wikipedia 2. CMU的Liu Yang总结的关于DML的综述页面。对DML的经典算法进行了分类总结，其中她总结的论文非常有价值，也是我的入门读物。 3. ECCV 2010的turorial。
【CollaQ】【通过奖励归因分解实现多智能体协作】
最新发布
wq6qeg88的博客
03-31 689
通过奖励归因分解实现多智能体协作Abstract 摘要borative-learningself-termulti-gentewardttribution多智能体强化学习 （MARL） 的最新进展在《雷神之锤 3》和《Dota 2》等游戏中实现了超人的表现。不幸的是，这些技术需要比人类多几个数量级的训练回合，并且可能无法推广到略微改变的环境或新的智能体配置（即临时团队游戏）。在这项工作中，我们提出了协作Q学习（CollaQ），它可以在星际争霸多智能体挑战中实现最先进的性能，并支持临时团队游戏。
度量学习 (Metric Learning)（一）
Nehemiah_Li的专栏
03-12 4万+
度量学习（Metric Learning） 度量（Metric）的定义  在数学中，一个度量（或距离函数）是一个定义集合中元素之间距离的函数。一个具有度量的集合被称为度量空间。 1 为什么要用度量学习？ 很多的算法越来越依赖于在输入空间给定的好的度量。例如K-means、K近邻方法、SVM等算法需要给定好的度量来反映数据间存在的一些重要关系。这一问题在无监督的方法（如聚类）中尤为明显。举一
论文笔记 | Metric Learning with adaptive density discrimination
bea_tree的博客
10-09 3975
Authors Oren Rippel（有趣的是作者喜欢中文) Manohar Paluri Piotr Dollar Lubomir BourdevAbstract本文介绍了一种Distance Metric Learning （DML)，效果比triplet还要好，而且需要的迭代次数更少。1 Introduction 与传统的DML相比，Magenet不仅考虑intra-class v
度量学习（metric learning）损失函数
05-12 2万+
学习的对象通常是样本特征向量的距离，度量学习的目的是通过训练和学习，减小或限制同类样本之间的距离，同时增大不同类别样本之间的距离。常用度量学习损失方法（1）对比损失用于训练Siamese（孪生）网络，，输入为两张图片，每一对训练图片都有一个标签y，y=1表示两张图片属于同一个人（正样本对），反之y=0，表示他们属于不同的行人（负样本对）对比损失函数：当输入为正样本对的时候，d(Ia,Ib)逐渐减小...
Metric Learning——度量学习
热门推荐
初学者的博客
09-15 6万+
  2018年04月10日 15:30:29 敲代码的quant 阅读数：1567 标签： 度量学习metric learning机器学习聚类 更多 个人分类： 机器学习 版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/FrankieHello/article/details/79872607 看到一篇知乎大神Flood Sung发表在CV...
Metric Learning度量学习：**矩阵学习和图学习
wishchinYang的专栏
05-18 5743
ML的两条主要路线，从样本中学习一个度量，或者使用样本训练一个网络。 一篇metric learning（DML）的综述文章，对DML的意义、方法论和经典论文做一个介绍，同时对我的研究经历和思考做一个总结。可惜一直没有把握自己能够写好，因此拖到现在。先；列举一些DML的参考资源，以后有时间再详细谈谈。
度量学习（Distance Metric Learning）介绍
大魁的专栏
08-19 4万+
一直以来都想写一篇metric learning（DML）的综述文章，对DML的意义、方法论和经典论文做一个介绍，同时对我的研究经历和思考做一个总结。可惜一直没有把握自己能够写好，因此拖到现在。 先烈一些DML的参考资源，以后有时间再详细谈谈。 1. Wikipedia 2. CMU的Liu Yang总结的关于DML的综述页面。对DML的经典算法进行了分类总结，其中她总结的论文非常有
COCOACollaborative Convolutional Metric Learning
04-04
COCOA (Collaborative Convolutional Metric Learning) is a deep learning method for metric learning that aims to learn a similarity metric between pairs of images. It is designed for image retrieval applications, where the goal is to find images that are similar to a query image. The COCOA model is based on a collaborative learning approach that combines the strengths of both convolutional neural networks (CNNs) and metric learning. The COCOA model consists of two main components: a CNN encoder and a metric learning module. The CNN encoder is used to extract features from the input images, while the metric learning module is used to learn a similarity metric between pairs of images. The metric learning module is trained using a triplet loss function, which encourages the model to learn embeddings that are close together for similar images and far apart for dissimilar images. One of the unique aspects of COCOA is its collaborative learning approach. The model is trained in a two-stage process, where the CNN encoder is first trained using a classification task, and then the metric learning module is trained using the embeddings produced by the CNN encoder. This approach allows the model to leverage the strengths of both CNNs and metric learning, resulting in a more effective similarity metric. COCOA has been shown to outperform several state-of-the-art methods on benchmark datasets for image retrieval, including CIFAR-10 and CIFAR-100. It has also been applied to real-world applications, such as image-based product search, where it achieved high accuracy and robustness to variations in lighting, pose, and scale. In summary, COCOA is a collaborative convolutional metric learning method that combines the strengths of CNNs and metric learning for effective image retrieval. Its unique approach to collaborative learning and triplet loss function make it a powerful tool for a variety of real-world applications.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值