- 博客(8)
- 收藏
- 关注
RSS订阅原创 sdcn模型学习
将数据（图像，文本...)压缩至隐藏层（encoder），一般是得到低维特征表示原数据，再通过decoder将隐藏层恢复成原数据，在期间设置重构损失表示原数据与decoder的数据之间的差值，以最小化重构损失为目的训练该模型（一般是神经网络）。只使用A的话，由于A的对角线上都是0，所以在和特征矩阵H相乘的时候，只会计算一个node的所有邻居的特征的加权和，该node自己的特征却被忽略了。GCN作用：提取特征，其对象为图数据，其可以从图数据中提取特征，从而类似ae一样对这些特征进行操作，或分类，或预测等等。
2023-09-20 20:41:14
279
1
原创 论文浅读2
本文考虑三种视图，分别是局部协作视图，局部语义视图，全局结构视图，局部协作和全局结构先作为一组用自监督机制提取特征，然后再考虑局部语义视图，捕捉细节。然后用ei 和ev表示 商品i和实体k聚合的邻居信息，用递推的方式可以得到。本文关键在于在考虑跨视图的对比学习中，多引入了一个局部语义视图，用于修复细节上的特征学习。然后要构建视图间的关系,用S表示 ，当S为0时表示两个视图无连接。最终的任务要用到上述构造的两个对比学习的损失。可以得知这是一个有向的邻接矩阵。全局对比学习也是一样构造对比损失。
2023-09-07 22:39:08
90
1
原创 跨视图对比学习文章浅读
包视图和商品视图每个视图都捕获了用户偏好的一个独特方面，两个视图必须协同工作以提高整体性能。采用流行的 InfoNCE 损失，分别建立在用户和捆绑包的交叉视图表征之上。首先基于用户-包交互矩阵X构建用户-捆绑包二分图，即 U-B 图。然后采用基于GNN的推荐框架LightGCN来学习用户和捆绑包的表征。第k层的信息传播表示为下式。本文介绍了跨视图对比学习的一种方法，和其所对应的应用场景，可供学习。文章针对的问题分为两个视图，一个是包视图，一个是商品交互视图。文章首先要对两个视图的表征进行学习。
2023-09-04 20:49:09
174
1
原创 对比学习和多视图聚类问题
首先我们先浅谈一下对比学习，对比学习的主要目的是令模型学习特征，以无标签的对比学习为例，我们构造正样本和负样本，令学习的特征与正样本相近，与负样本相远。其中我们会设计一些步骤，例如增强学习，或者构造一些特定的损失，令我们更好的完成任务，而其中这些细分任务的不同，比如可以不用负样本，就导致了多种对比学习方法的产生，但本质，都是一种自监督的 学习，他可以允许我们在有标签，标签稀少，甚至无标签情况下学习样本特征。但以上方法存在着时间复杂度过高，或者子空间表示有缺陷，学习特征存在问题等一系列问题。
2023-09-04 20:19:58
363
1
原创 kl散度理解
KL 散度，是一个用来衡量两个概率分布的相似性的一个度量指标。在dec的学习中，有一个新名词kl散度，在此写下我的理解。描述两个概率分布的相似性，用交叉熵减去信息熵。交叉熵就是把上述式子中log部分换成Q。其值越小，说明越相似，概率分布就越接近。回到机器学习课上的信息熵。
2023-07-17 13:09:26
63
1
原创 机器学习：DEC
聚类算法中的一个核心便是距离函数，可以是欧氏距离，也可以是特征之间的某种关系，但k-means等算法对距离函数的处理往往局限于原始数据空间，这也就导致，如同组会上学姐学长所说，输入维度较高时，往往无效。要谈DEC算法，首先得从问题背景出发，DEC算法其实同k-means一样，都是一种聚类算法，属于无监督学习的一种。为了发现聚类分配，两次迭代之间更改聚类分配的点小于tol%点时，我们将停止。DEC通过同时学习特征空间Z中的k个聚类中心和将数据点映射到Z的DNN的参数 θ 来聚类数据。
2023-05-23 21:00:55
677
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人