unsupervise learning-dimension reduction

最新推荐文章于 2022-11-01 16:59:38 发布
最新推荐文章于 2022-11-01 16:59:38 发布
阅读量116 收藏
点赞数
文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_40207586/article/details/108689110
版权

文章目录

PCA

在这里插入图片描述
目标是找到一个向量w1，所有数据点x在w1上的投影，得到z1，希望得到z1的方差越大越好，即越分散越好，越分散越有利于进行数据的分类
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
PCA缺点：由于是非监督学习，在确定向量时，希望所有数据投影到向量上的值为离散值，但是由于数据没有label，如果数据为两个分类，那么经过降维之后，数据会混在一起无法分别
是线性（linear）模型，在进行数据降维时有些数据高维数据经过投影会混在一起。如上图右上角的数据集合，希望能把S型数据拉平，但PCA是线性模型，经过PCA降维后，数据会变成又下角的样子，即打扁被降维。

PCA并没有要求特征值为正，这样观察得到的特征向量，可解释性并不强，为了增强其可解释性，可以强制要求特征值为正，这就是非负矩阵分解（NMF）

Matrix Factorization

详细原理参见
Matrix Factorization 学习记录（一）：基本原理及实现

Word Embedding

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

详细原理参见
Word Embedding 知识总结

t-SNE

详细原理参见
t-SNE的通俗易懂解释

weixin_40207586
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
推荐算法之--矩阵分解(Matrix Factorization)
十八子的博客
03-09 7487
文章目录推荐算法之--矩阵分解(Matrix Factorization)1. 共现矩阵2. 矩阵分解3. SVD实现矩阵分解4. 梯度下降4.1 前向推理 & 符号表示4.2 损失函数4.3 梯度计算4.4 代码测试5. 梯度下降 + sigmoid：5.1 前向推理 & 符号表示5.2 损失函数5.3 梯度计算5.4 代码测试6. 梯度的几何理解6.1 误差损失函数的梯度（1）关于 用户/物品矩阵（2）关于 用户/物品/整体偏置6.3 正则化损失函数的梯度7. Keras实现7.1 没有
Data-Science-in-Finance-Dimension-Reduction
04-10
主成分分析（PCA）是机器学习中的一种降维方法。 PCA将选择能够解释大多数数据变异性的“变量”。 如果您熟悉统计回归分析，那么可变性的概念类似于确定系数R2。 为了使主成分分析技术能够正常运行，必须满足的假设...
矩阵分解（Matrix-Factorization）无门槛
m0_67097397的博客
11-01 4279
机器学习之矩阵分解，适用于推荐预测等
线性代数：矩阵分解(Matrix factorization)
u013250861的博客
12-27 631
矩阵分解算法由奇异值分解算法（Singular Value Decomposition, SVD）演变而来，传统的奇异值分解算法只能对数据稠密的矩阵进行分解，而评分矩阵是极度稀疏的，因此，若要使用SVD对评分矩阵进行分解，首先要对矩阵的缺失值进行填充，这样便造成了以下两个问题： 填充缺失数据会极大的增加数据量，导致算法复杂度上升。 填充方法不当会导致数据失真。 由于SVD算法在评分矩阵中不能发挥良好的作用，人们转而研究是否能只考虑已有评分对矩阵进行分解，于是便有了BasicSVD、FunkSVD、SVD++
Matrix Factorization
绿箭侠
07-31 141
Matrix Factorization ①linearNetwork Hypothesis 机器学习的作用就是要从一堆数据中学习到学习到某种能力，然后用这种skill来预测未来的结果。比如一个电影推荐的例子，我们手上有很多的电影数据，现在就需要训练一个机器学习的模型来使得这个模型可以预测一个新来的用户会喜欢什么电影，然后推荐过去。或者是对用户没有看过的电...
矩阵分解matrix factorization-学习
有记忆的鱼的博客
03-21 846
准备知识： 1、矩阵的秩 线性代数手工求秩：通过矩阵初等变换把A化为阶梯型矩阵，若该阶梯型矩阵有r个非零行，那A的秩rank(A)就等于r。 在线性代数中，一个矩阵A的列秩是A的线性独立的纵列的极大数；相应的，一个矩阵A的列秩是A的线性独立的纵列的极大数目。 从物理意义上讲，矩阵的秩度量的就是矩阵的行列之间的相关性。 如果矩阵的各行或列是线性无关的，矩阵就是满秩。对于一个m*n的矩阵，秩的最大值为...
Distance Preserving Dimension Reduction for Manifold Learning
05-03
根据给定的文件信息，本篇文章主要探讨了在流形学习中，如何利用距离保持降维(Distance Preserving Dimension Reduction, DPDR)算法来降低高维数据处理的计算复杂性。下面将详细介绍文章中提到的相关知识点。 ### ...
em算法matlab代码-Unsupervised-Learning-and-Dimensionality-Reduction:探索无监督学习
05-26
em算法 matlab 代码
An Effective Class-centroid-based Dimension Reduction Method for Text Classification
02-10
维度降低（Dimension Reduction，简称DR）技术是解决这一问题的有效方法之一。传统的一些通用的DR方法，如潜在语义索引（Latent Semantic Indexing，简称LSI），虽然能够有效降低数据维度，但存在对类别与词条间潜在...
Optical cross-talk reduction in a quantum-dot-based full-color micro-light-emitting-diode display by a lithographic-fabricated photoresist mold
02-04
In this study, a full-color emission red–green–blue (RGB) quantum-dot (QD)-based micro-light-emitting-diode (micro-LED) array with the reduced optical cross-talk effect by a photoresist mold has ...
机器学习 -- Matrix Factorization
01-30
Matrix Factorization More about Matrix Factorization Matrix Factorization for Topic analysis
Probabilistic Matrix Factorization
10-25
最经典和最基础的概率矩阵分解算法，广泛运用于推荐系统
2017-Deep Matrix Factorization Models for Recommender Systems.pdf
06-11
2017-Deep Matrix Factorization Models for Recommender Systems
Probabilistic Matrix Factorization概率矩阵分解Python源代码
01-12
基于MovieLens数据集，采用随机梯度下降算法优化最小化能量函数的概率矩阵分解Python源代码，自己做实验的源代码Probabilistic Matrix Factorization
Matrix Factorization 学习记录（一）：基本原理及实现
热门推荐
Multiangle's Notepad
06-05 1万+
Matrix Factorization 学习记录（一）：基本原理及实现 最近在学习Matrix Factorization，也就是矩阵的分解。 这个技术目前主要应用于推荐系统领域，用于实现隐含语义模型（Latent Factor Model）。通过矩阵分解，一方面可以减少运算量，另一方面可以很好的解决由于用户数目和物品数目过多引起的行为矩阵稀疏化问题。我虽然暂时不去做推荐系统，但是我觉得这...
【学习笔记】矩阵分解Matrix Factorization及延伸阅读
JinyuZ1996的博客
10-05 2911
全面理解矩阵分解MF在推荐系统中的应用 　　那么，这是本系列的第二篇文章，讨论的是关于第一篇协同过滤之后的改进算法矩阵分解（MF），我会从多个方面讨论该算法的与案例以及它的优缺点。矩阵分解并不是某一种单一的方法，虽然我们最常用的是其中的梯度下降法，但是你会发现在我们之前学习的线性代数中有很多技术可以拿来实现矩阵分解，比如特征值分解ED和奇异值分解SVD，只不过这两种方法都有自己的不足而无法满足实际推荐系统的需要，我会在下文中说明为什么历史选择了梯度下降法。其实，我发现我在上一节最后一部分给出的案例代码当中
推荐系统：矩阵分解（Matrix factorization）
一颗贪婪的星
11-26 1万+
目录 一、问题描述 二、算法概述 （一）BasicSVD （二）FunkSVD （三）Baseline estimates & Matrix factorization （四）Asymmetric-SVD （五）SVD++ 三、总结 一、问题描述 给定用户 - 物品评分矩阵（下文简称评分矩阵） 如下表所示： u/i 1 2 3 4 ......
矩阵分解（matrix factorization）
weixin_30364147的博客
03-28 310
1. 基本概念 针对高维空间中的数据集，矩阵分解通过寻找到一组基及每一个数据点在该基向量下的表示，可对原始高维空间中的数据集进行压缩表示。 令 X=[x1,⋯,xm]∈Rm×n 为数据矩阵，矩阵分解的数学含义即为，找到如下的两个矩阵（U∈Rm×k,A∈Rk×n），其矩阵乘法可实现对原始数据集的最优逼近： X≈U⋅A U∈Rm×k，U 中的每一列（...
[线性代数] 矩阵代数進階：矩阵分解 Matrix factorization
weixin_30724853的博客
12-07 182
Matrix factorization 导语：承载上集的矩阵代数入门，今天来聊聊进阶版，矩阵分解。其他集数可在[线性代数]标籤文章找到。有空再弄目录什麽的。 Matrix factorization is quite like an application of invertible matrices, where L is an invertible matrix in LU...
dimension reduction
最新发布
03-16
维度约简（dimension reduction）是指通过对数据进行变换或降维，将高维数据转化为低维数据的过程。这个过程可以帮助我们更好地理解和分析数据，同时也可以减少计算复杂度和存储空间。常见的维度约简方法包括主成分...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值