【NLP】SVD文本特征降维

最新推荐文章于 2024-08-15 15:33:19 发布
最新推荐文章于 2024-08-15 15:33:19 发布
阅读量342 收藏
点赞数
分类专栏： 个人学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43561290/article/details/102733070
版权

特征值分解是一个提取矩阵特征很不错的方法，但是它只是对方阵而言的，在现实的世界中，我们看到的大部分矩阵都不是方阵，比如说有N个学生，每个学生有M科成绩，这样形成的一个N * M的矩阵就不可能是方阵，我们怎样才能描述这样普通的矩阵呢的重要特征呢？奇异值分解可以用来干这个事情，奇异值分解是一个能适用于任意的矩阵的一种分解的方法：
在这里插入图片描述
假设A是一个N * M的矩阵，那么得到的U是一个N * N的方阵（里面的向量是正交的，U里面的向量称为左奇异向量），Σ是一个N * M的矩阵（除了对角线的元素都是0，对角线上的元素称为奇异值），V’(V的转置)是一个N * N的矩阵，里面的向量也是正交的，V里面的向量称为右奇异向量），从图片来反映几个相乘的矩阵的大小可得下面的图片
在这里插入图片描述

SVD较多的推荐系统中使用

参考链接I
参考链接II

AmorFatiall
关注
专栏目录
NLP自然语言处理系列-音乐推荐系统实战 -基于矩阵分解（SVD）的推荐
段智华的博客
03-21 743
NLP自然语言处理系列-音乐推荐系统实战 -基于矩阵分解（SVD）的推荐 音乐数据处理 https://blog.csdn.net/duan_zhihua/article/details/114799527?spm=1001.2014.3001.5501 歌曲排行榜单推荐 https://blog.csdn.net/duan_zhihua/article/details/114804875?spm=1001.2014.3001.5501 计算歌曲相似度得到推荐结果 https://blog.csdn.net
基于SVD的降维优化
及时总结
01-13 1385
基于SVD的降维优化 向量降维：尽量保留数据“重要信息”的基础上减少向量维度。可以发现重要的轴（数据分布广的轴），将二维数据 表示为一维数据，用新轴上的投影值来表示各个数据点的值，示意图如下。 稀疏矩阵和密集矩阵转换：大多数元素为0的矩阵称为稀疏矩阵，从稀疏矩阵中找出重要的轴，用更少的维度对其进行重新表示。结果，稀疏矩阵就会被转化为大多数元素均不为0的密集矩阵。这个密集矩阵就是我们想要的单词的分布式表示。 奇异值分解(Singular Value Decomposition，SVD)：任意的矩阵X分解为U
NLP中隐性语义分析及奇异值分解（SVD）-学习笔记
崔洪振367
01-01 1408
隐形语义分析基于最古老和最常用的降维技术–奇异值分解(SVD)。SVD将一个矩阵分解成3个方阵，其中一个是对角矩阵。
人工智能-自然语言处理（NLP）
最新发布
qq_42538588的博客
08-15 1533
自动摘要旨在从大量文本中提取关键信息，生成简洁的摘要。抽取式摘要：从原文中抽取重要句子或段落，构建摘要。这种方法通常基于统计特征，如句子的词频或位置。生成式摘要：使用生成模型（如Seq2Seq或Transformer）从头生成摘要。生成式方法能够生成更加自然的语言，但也更具挑战性。以下是一个使用# 加载自动摘要模型# 输入文本text = """近年来，人工智能（AI）技术取得了显著进展，其中自然语言处理（NLP）是最具潜力的领域之一。
几种文本特征降维方法的比较分析
09-03
文本挖掘中采用向量空间模型(VSM) 来表达文本特征, 表现出巨大的维数, 从而导致处理过程计算复杂, 为此, 需要先对文本特征矩阵进行合理的降维处理。隐含语义分析(LSA) 、概念索引(CI) 、非负矩阵分解(NMF) 和随机映射(RP)是几种有效的降维方法, 在分析降维空间的含义和计算复杂度后, 通过文本聚类实验比较和分析了这几种降维方法的差异, 实验表明, 这些方法不仅可以对文本特征空间作有效的降维处理, 还能在不同程度上凸现文本和词条之间的语义关系, 从而提高文本挖掘的效率和准确率。
NLP传统基础（3）---潜在语义分析LSA主题模型---SVD得到降维矩阵
weixin_30458043的博客
07-17 488
https://www.jianshu.com/p/9fe0a7004560 一、简单介绍 LSA和传统向量空间模型(vector space model)一样使用向量来表示词(terms)和文档(documents)，并通过向量间的关系(如夹角)来判断词及文档间的关系；不同的是，LSA 将词和文档映射到潜在语义空间，从而去除了原始向量空间中的一些“噪音”，提高了信息检索的精确度。 ...
SVD分解在文本分类中的应用
chlele0105的专栏
10-24 1万+
SVD分解在文本处理中的应用 在自然语言处理中，最常见的两个问题分别是，将文本按主题归类和将词汇按意思归类。这两个问题都可以通过矩阵运算来圆满地，一次次能够解决。首先来看一看余弦定理和新闻分类这个问题 新闻分类其实就是一个聚类问题，关键是计算两篇新闻的相似程度。问了完成这个任务，我们可以将新闻表示成代表它们内容的实词序列，即向量，然后求两个向量的夹角。夹角越小，表示两篇新闻越相关；当它们垂直正
奇异值分解（SVD）：降维、特征提取和图像处理的利器，掌握数据分析核心技术
[奇异值分解（SVD）：降维、特征提取和图像处理的利器，掌握数据分析核心技术](https://i.loli.net/2019/01/05/5c30328640ed9.png) # 1. 奇异值分解（SVD）概述** 奇异值分解（SVD）是一种强大的数学工具，用于分析...
文本特征提取与降维：PCA降维算法在自然语言处理中的应用
文本特征提取和降维是自然语言处理（NLP）中的关键技术。文本特征提取从文本数据中提取有意义的特征，而降维技术将高维特征空间映射到低维空间，以提高处理效率和模型性能。 文本特征提取方法包括分词、词干化和TF-...
SVD在自然语言处理中的应用
AI天才研究院
04-07 884
SVD在自然语言处理中的应用 作者：禅与计算机程序设计艺术 1. 背景介绍 自然语言处理(Natural Language Processing, NLP)是计算机科学和人工智能领域中一个重要的研究方向。NLP旨在让计算机能够理解和操作人类语言,从而让计算机可以高效地与人类进行交
fanmang.zip_特征融合_资源分配_降维
09-24
在IT领域，特征融合、资源...此外，还需要结合具体的应用场景，比如图像识别、自然语言处理或者推荐系统等，来评估模型的性能和适用性。通过不断实验和调整，我们可以进一步优化模型，使其在实际问题中发挥更大的作用。
95、自然语言处理svd词向量
u012416045的博客
10-13 1385
import numpy as np import matplotlib.pyplot as plt la = np.linalg words = ["I","like","enjoy","deep","learning","NLP","flying","."] X = np.array([[0,2,1,0,0,0,0,0], [2,0,0,1,0,1,0,0],
自然语言处理 - 潜在语义分析LSA背后的奇异值分解SVD
weixin_30294295的博客
07-04 209
特征值和特征向量 \(A \mathbf{x} = \lambda \mathbf{x}\)，这里，\(A \in \mathcal{R}^{n \times n}\)，\(\mathbf{x} \in \mathcal{R}^{n \times 1}\)，\(\lambda \in \mathcal{R}\) ，\(\lambda\) 是特征值，\(\mathbf{x}\) 是对应的特征向量。因...
SVD与文本摘要
weixin_30672019的博客
10-11 170
文本摘要（Text Summarization）就是从原始文献中提取一个简短的文摘，文摘是全面准确地反映某一文献中心内容的简单连贯的短文。下面介绍一种利用SVD进行文本摘要的方法，其本质是提取到语料中较为“重要”的句子，主要思想均出自参考文献1和2中。 一、SVD概念 SVD（Singular value decomposition）就是奇异值分解，学过线性代数...
奇异值分解(SVD)原理与在降维中的应用
qq_36235046的博客
07-20 555
转自：https://www.cnblogs.com/pinard/p/6251584.html   奇异值分解(Singular Value Decomposition，以下简称SVD)是在机器学习领域广泛应用的算法，它不光可以用于降维算法中的特征分解，还可以用于推荐系统，以及自然语言处理等领域。是很多机器学习算法的基石。本文就对SVD的原理做一个总结，并讨论在在PCA降维算法中是如何运用运...
特征分析之SVD
分享人工智能学习心得与实践经验，探讨应用场景，见证变革与进步
11-09 1443
引言前面我们分享降维分析之PCA分析及实现，说PCA除了应用在数据降维上，还可用于特征分析。今天我们就来分享个新的特征分析的方法，叫做奇异值分解(Singular Value Decomposition，SVD)。SVD背后的数学原理我们如果在Google搜索引擎中输入SVD这个单词，会弹出好多图片，如下其中一幅： ；如果我们在Baidu搜索引擎中搜索SVD的话，百度百科的解释是这样的：SVD德拉
【NLP】十二种属性降维的方法
AmorFati的博客
09-09 1424
降维可以用两种不同的方式来完成： （1） 只保留原始数据集最相关的变量（特征选择） （2） 通过找到一组较小的新变量，每个变量都是输入变量的组合，包含与输入变 量基本相同的信息（降维） （1）遗漏价值比率（Missing Value Ratio） 如果任何变量中缺失值的百分比大于该阈值，我们将删除该变量。 （2）低方差滤波器（Low Variance Fi...
SVD简介
zyy848877920的博客
01-11 1017
一、回顾：特征分解 特征值和特征向量的定义如下：Ax=λxAx=\lambda x A∈ℝn∗nA\in\mathbb{R}^{n*n}, x∈ℝn∗1x\in\mathbb{R}^{n*1}, λ\lambda 是矩阵 AA 的一个特征值，而 xx 是 λ\lambda 所对应的特征向量。 利用特征值和特征向量，我们可以对矩阵进行矩阵分解。如果我们求出了矩阵AA 的 nn 个特征值 λ1,
NLP学习路线总结
热门推荐
Asia-Lee
01-03 4万+
目录 1、自然语言处理概述 2、自然语言处理入门基础 3、自然语言处理的主要技术范畴 4、自然语言处理基本点 5、特征处理 6、模型选择 7、NLP常用工具 8、NLP语言模型 9、快速入门NLP方法 10、自然语言处理学习资料 1、自然语言处理概述 自然语言处理（Natural Language Processing，NLP）是计算机科学领域与人工智能领域中的一个重要方向...
文本分类中的特征重构与权重计算
"特征重构-文本分类综述 王斌" 本文主要探讨了特征重构在文本分类中的应用，特别是通过隐性语义索引（LSI）和奇异值分解（SVD...这些技术在自然语言处理（NLP）领域，特别是在文本分类任务中，扮演着至关重要的角色。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值