数据挖掘 - 集体智慧编程 - 寻找独立特征

最新推荐文章于 2019-11-27 15:59:55 发布
最新推荐文章于 2019-11-27 15:59:55 发布
阅读量512 收藏
点赞数
分类专栏： 机器学习 数据挖掘 文章标签： 数据挖掘 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ZK_J1994/article/details/77977779
版权
本文介绍了非负矩阵分解（NMF）在数据挖掘中的应用，通过将文章矩阵分解为特征矩阵和权重矩阵，揭示数据集的潜在特征。NMF能帮助找出文章的重要主题和关键词，用于文本挖掘。
摘要由CSDN通过智能技术生成

集体智慧编程第十章寻找独立特征：在数据集未明显标注的情况下，寻找数据集的潜在特征，比如SVD分解U,V矩阵都存在隐空间。


1. NMF

从数据中提取重要特征的技术被称为非负矩阵分解（NMF）。

假设我们手上有一个对多篇文章进行单词计数信息统计的文章矩阵。我们将这个矩阵分解为两个更小的矩阵，使得二者相乘几乎完全等于原来的矩阵，这两个矩阵分别是特征矩阵和权重矩阵。假设原矩阵R（10 *1000） = M（10 *K） x N（K*1000）

1.1 NMF的特征矩阵

在特征矩阵中，每一行对应一个特征，每个单词对应一列。矩阵中的数字代表了某个单词相对于某个特征的重要程度。这里N矩阵即为特征矩阵

最低0.47元/天 解锁文章
KeeJee
关注
专栏目录
浅谈独立特征（independent features）、潜在特征（underlying features）提取、以及它们在网络安全中的应用...
weixin_30735391的博客
09-15 2280
1. 关于特征提取 0x1：什么是特征提取 特征提取研究的主要问题是，如何在数据集未明确表示结果的前提下，从中提取出重要的潜在特征来。和无监督聚类一样，特征提取算法的目的不是为了预测，而是要尝试对数据进行特征识别，以此得到隐藏在数据背后的深层次意义。 回想一下聚类算法的基本概念，聚类算法将数据集中的每一行数据分别分配给了某个组（group）或某个点（point），每一项数据都精确对...
集体智慧编程_第十章寻找独立特征
qq_37356854的博客
02-24 278
除了第三章的聚类算法属于非监督技术之外，其余大部分章节都主要集中在监督分类器上。本章将研究如何在数据集并未明确表示结果的前提下，从中提取重要的潜在特征来。 鸡尾酒宴会。 搜索一组新闻 选择新闻来源 选择的订阅源中的新闻内容存在重叠 import feedparser import re feedlist=['http://...','http://...'] 下载新闻来源 接受一个大型的数据矩...
一、《集体智慧编程》之机器学习&数据挖掘框架认识
weixin_33700350的博客
03-28 154
为什么80%的码农都做不了架构师？>>> ...
机器学习系列【分类】scikit-learn(一）
不管风吹浪打，胜似闲庭信步
06-20 529
朴素贝叶斯是经典的机器学习算法之一，同时也是为数不多的基于概率论的分类算法。不过朴素贝叶斯算法相对而言，还是很简单，很容易理解的。用一句话概括理解就是：通过已知数据判定未知数据的一个概率问题，多用于文本分类，比如垃圾邮件过滤等。
独立性检验
weixin_33922670的博客
08-16 713
本文给出基于两种统计量的假设检验，来检验变量间是否独立--χ2与秩和。χ2越小说明越独立。你可能会参考另一篇博客相关性检验。 假设检验 假设检验（Test of Hypothesis）又称为显著性检验（Test of Ststistical Significance）。 在抽样研究中，由于样本所来自的总体其参数是未知的，只能根据样本统计量对其所来自总体的参数进行估计，如果要比较两个或几个总体...
算法逃兵的数据挖掘知识总结
年迈的艺术家们
10-03 553
作为转做工程的算法逃兵，趁着之前所学还没忘光，以课程cs246为岗整理一下之前所学过的一点数据挖掘知识。 当然本文不会详细的介绍每一部分的知识，更多的是作为一个小的知识框架。 分布式计算 为处理大规模数据，需要增加硬件配置。可以选择纵向扩展，即增加cpu核数、增加单机内存等，也可以选择横向扩展，即增加性能一般、甚至廉价的机器的数量，通常实际应用场景为数据密集型，因此选择后者，也称为分布式计算。原...
[深度学习]神经网络中 权重矩阵/卷积核 以及 （y=wx+非线性变换）输出值/特征图的本质理解
热门推荐
少年初心的博客
11-27 1万+
文章目录CNN权重矩阵和特征图理解特征是什么权重矩阵\滤波器理解特征图\输出值理解总结基础知识从线性分类器说起损失函数优化梯度下降法后向传播算法神经网络-非线性映射 最近在学习cs231n课程和之前自学习的内容有了理解上的偏差，现在记录有点理解在此。 对于之前知识需要了解的，请先看 本章第二部分（或者观看cs231n前五章）. CNN权重矩阵和特征图理解 特征是什么 隐层输出作为特征，权重矩...
数据挖掘算法：线性回归深度剖析
zhangbdaxia的专栏
03-05 6569
线性回归介绍之一 作者：未知      整理：Lestat 线性回归在所有的统计方法中绝对占有不可忽视的一席之地，其用途之广泛毋庸置疑，更重要的是它是整个回归家族中最为简单、也最容易理解的方法，几乎所有的统计学教材，不管是医学统计还是社会统计抑或经济统计，线性回归绝对会有独立的章节，而其他的回归方法则很少有这种待遇。 线性回归大致可分为单因素回归和多因素回归，这里的“单”和“多”是针对自变量
数据挖掘-特征工程（特征挖掘）
u012155582的专栏
03-25 7055
什么是好？好的特征代表了灵活性、更简单的模型和更好的结果，不相关的特征则会影响模型的泛化性。因此特征选择和特征工程并非是互相排斥的，而是相辅相成的。有效的特征工程能够帮助我们提炼数据的代表。接着问题就来了，什么才是好的代表？代表的好坏取决于里面所包含信息的好坏。熵（Entropy，熵值越高，数据中所包含的信息越多），方差（Variance，方差越大，数据中所包含的信息越多），更好的分离映射（Pro...
集体智慧编程中相关章节对应论文数
libing881的专栏
05-27 948
准备开题报告了，先要熟悉一下领域范围，《集体智慧编程》参考一下论点。简单的思路是看一下哪个话题最热门，用google学术来衡量一下论文数，虽然不够精确但是足以反应一点什么。 当然是选择最近比较热门的，同时参考一下国内的论文数目情况。 关键字 总的 2014 国内总数 2014 推荐 2,480,000
机器学习 - SVD
呵呵
08-07 8256
1. SVD 1.1 分解 如下图，一个矩阵可以分解为两个方阵和一个对角矩阵的乘积： C = m * n；u = m * m；sigma = m * n；v' = n * n 1.2 奇异值 sigma是一个对角矩阵，但通常不是方阵。sigma的对角元素被称为奇异值，与特征值类似。因此与PCA类似，我们可以取sigma中最大的k个，来简化数据： u' = m * k；s
机器学习 - 集成学习
呵呵
07-21 5636
1. bagging bagging的核心思想： bootstrap sample自主采样；即从m个样本的数据集中有放回的随机采样n(n ≤ m)个样本；这样重复k次，将得到k个不同的数据集作为训练数据。 随机森林：随机森林是bagging的经典应用；随机森林相对于bagging更加高级，不但可以对样本进行bootstrap sampling，而且可以对特征进行bootstrap；从而
数据挖掘 - 词集模型 & 词袋模型
呵呵
07-08 4461
词集模型：单词构成的集合，每个单词只出现一次。 词袋模型：把每一个单词都进行统计，同时计算每个单词出现的次数。
Sklearn中LabelEncoder与OneHotEncoder
呵呵
11-10 4001
1. LabelEncoder() #简单来说 LabelEncoder 是对不连续的数字或者文本进行编号 from sklearn.preprocessing import LabelEncoder le = LabelEncoder() le.fit([1,5,67,100]) le.transform([1,1,100,67,5]) array([0,0,3,2,1]) 2. On
机器学习 - sklearn算法选择图
呵呵
07-29 3657
机器学习 - Kmeans及其变体
呵呵
07-28 3638
1. K-means 2. 二分K-means
机器学习 - PCA
呵呵
08-07 3506
PCA降维
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值