什么是稀疏数据，2024年最新这么香的技术还不快点学起来

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新Python全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上Python知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip1024c （备注Python）

正文

稀疏数据的来源与产生原因可以有很多种。大致归结起来，主要可以概括为以下几个种类：

由于调查不当产生的稀疏数据

这种稀疏数据常见于问卷调查和电话调查中，如果问卷问题设置不当，过于繁杂难懂，就会导致被调查者产生厌烦心理，草草回答几个问题了事。然而已经回答的问题又是有效问卷的一部分，不能做遗弃处理，假若这种问卷大量出现，那么就会出现稀疏数据。

由于天然限制产生的稀疏数据

这种稀疏数据常见于电子商务领域，例如淘宝网、沃尔玛等网购网站或超市中。由于每个客户客观上不可能把所有商品购买一遍，所以他们的客户购买记录必然只是对海量商品中一小部分的记录。这样，客户购买记录必然是一个稀疏数据。

文本挖掘中产生的稀疏数据

在文本挖掘领域，为了比较几篇文章是否属于同一主题，常用的算法是首先选定一批关键词，通过不同文章中这些关键词出现的频率来进行判断。而这一批关键词常常会有成千上万个，而每篇文章基本只包含其中几十到几百个关键词，那么由此产生的数据也就是一个稀疏数据了。

医学造影成像领域

现代医学常常要借助 CT、B 超、核磁等手段造影成像，作为判断病情的重要手段。其中 CT 成像是由若干射线源与接收器来采集数据，在实际应用中，受到设备、病人条件等限制，常常不能做到全角度扫描，故而在成像算法上也常常要面对稀疏数据。

稀疏聚类

---

针对稀疏数据的另一个研究方向就是对稀疏数据的聚类与降维。稀疏数据不同于一般数据，它的维度常常极其巨大，并且由于大量的缺失值的存在，使得数据信息极端不完整，常见的降维方法例如主成分、因子分析等无法在此上应用。

针对这一情况，很多学者开始研究探索一些其他的方法来解决这一问题。谢宁新在他发表的文章中，提出利用二进制数来计算稀疏相似度，进而进行聚类。他首先引用了稀疏特征的二进制码概念，通过设定一个阈值 b，将稀疏矩阵中大于 b 的数用1 表示，小于 b 的用 0 表示，将稀疏矩阵转换成了二进制码矩阵。然后采用二进制数的布尔 AND 运算，计算 u1AND u2，其中 u1和 u2分别表示两个样本的二进制码序列。AND 具体的运算规则是，若两条序列中，同一位置的二进制码同为 1，则返回数值 1；否则返回数值 0。最后计算 u1AND u2中数字 1 的个数，将之作为两样本的相关性。并进而将相关性显著大的样本聚为一类。

该二进制码算法在一定程度上克服了稀疏数据计算相似度的困难，并且有着运算速度极高的特点，但是应用局限较大。将数据转换成二进制码本身会损失大量信息，对于高度稀疏的数据来说，人为地损失到本就很稀少很珍贵的数据信息，并不是一个明智的选择。

此外，赵雅琴等人的研究中，给出了稀疏相似度、等价关系相似度、广义等价关系等概念。他们也同样是首先将稀疏数据进行二进制码的转换，然后利用不同项目间的稀疏相似度和等价关系，得出初始等价类，然后再对初始等价关系利用等价关系相似度进行修正，从而使聚类结果更为合理。

在数据挖掘领域里也常常有一些算法概念被借鉴过来，有学者提出了一种改进的局部线性嵌入算法(locally linear embedding)，通过一种非线性映射，在不改变原始数据空间流形的前提下，将高维样本映射到低维空间中去。针对于稀疏数据，他采用一种联合局部线性嵌入(united locally linear embedding)，并通过实验表明了良好的降维效果。

感谢每一个认真阅读我文章的人，看着粉丝一路的上涨和关注，礼尚往来总是要有的：

①　2000多本Python电子书（主流和经典的书籍应该都有了）

②　Python标准库资料（最全中文版）

③　项目源码（四五十个有趣且经典的练手项目及源码）

④　Python基础入门、爬虫、web开发、大数据分析方面的视频（适合小白学习）

⑤ Python学习路线图（告别不入流的学习）

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip1024c （备注python）

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**