R语言谱聚类、K-MEANS聚类分析非线性环状数据比较

于 2021-08-03 17:18:00 发布
阅读量117 收藏
点赞数
文章标签： r语言 聚类 kmeans 机器学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/tecdat/article/details/129392942
版权

原文链接：http://tecdat.cn/?p=23276

有些问题是线性的，但有些问题是非线性的。我假设，你过去的知识是从讨论和解决线性问题开始的，这是一个自然的起点。对于非线性问题的解决，往往涉及一个初始处理步骤。这个初始步骤的目的是将问题转化为同样具有线性特征的问题。

一个教科书式的例子是逻辑回归，用于获得两类之间的最佳线性边界。在一个标准的神经网络模型中，你会发现逻辑回归（或多类输出的回归）应用于转换后的数据。前面的几层 "致力于 "将不可分割的输入空间转化为线性方法可以处理的东西，使逻辑回归能够相对容易地解决问题。

同样的道理也适用于谱聚类。与其用原始输入的数据工作，不如用一个转换后的数据工作，这将使它更容易解决，然后再链接到你的原始输入。

谱聚类是一些相当标准的聚类算法的重要变体。它是现代统计工具中的一个强大工具。谱聚类包括一个处理步骤，以帮助解决非线性问题，这样的问题可以用我们所喜欢的那些线性算法来解决。例如，流行的K-means。

内容

  • 谱系聚类的动机

  • 一个典型的谱聚类算法

  • 编码实例

谱聚类的动机

"一张图片，胜过万语 千言"（Tess Flanders）。

0bd6402b0eae16628f563cb57ac8a198.png

目标是划分两个不相交的类别。我们的数据就有这种 "两个环 "的形状。你可以看到，由于数据不是线性可分离的，K-means解决方案没有太大意义。我们需要考虑到数据中特别的非线性结构。做到这一点的方法之一是使用数据的特征子空间，不是数据的实际情况，而是数据的相似性矩阵。

典型的谱聚类算法步骤

输入：n个样本点f470c4273f4d144d14b7473cd897440c.png和聚类簇的数目k；

输出：聚类簇c787ab7f3aa518f74a46b67da11fe4e1.png

（1）使用下面公式计算90e894ab7728f2ad4248807e871bf2ee.png的相似度矩阵W；

656cb779424409c659c9fbaa1445fd6d.png

W为6199c7530a0251effbaa0b4301e6dc34.png组成的相似度矩阵。 

（2）使用下面公式计算度矩阵D；

acd69d9facda66d4e1862dc678ecfdd1.png  ，即相似度矩阵W的每一行元素之和 

D为3730bbd96ecded110dcdc23b8c5a34a4.png组成的7f2612d63a861d1c0933256374135ea5.png对角矩阵。

（3）计算拉普拉斯矩阵804d453902aadda5c70d1b15785b7150.png；

（4）计算L的特征值，将特征值从小到大排序，取前k个特征值，并计算前k个特征值的特征向量5dab86fc2d4e6aae9d03e69d148fc565.png；

（5）将上面的k个列向量组成矩阵97dad2d0afce229c2fff19eb3f174348.png，3df1a74cf13f0ef2442702d35d487478.png；

（6）令54e0ddf5b4f04613582a69bb997f1f42.png是的第i行的向量，其中efd51a1d46e4e7cfcc3632cac8864127.png；

（7）使用k-means算法将新样本点f704d54b80ab1bca00b3f035cbff421e.png聚类成簇7eab8dd5d46a458d8a101e9506fb0e58.png；

（8）输出簇d5f8b5b41b14f5ccd7e377ae09bc8b8e.png，其中，3eac15233484d73a355e1a01b4531a2a.png.

上面就是未标准化的谱聚类算法的描述。也就是先根据样本点计算相似度矩阵，然后计算度矩阵和拉普拉斯矩阵，接着计算拉普拉斯矩阵前k个特征值对应的特征向量，最后将这k个特征值对应的特征向量组成69d727ac24f5866f9df976ec6e499bff.png的矩阵U，U的每一行成为一个新生成的样本点，对这些新生成的样本点进行k-means聚类，聚成k类，最后输出聚类的结果。这就是谱聚类算法的基本思想。相比较PCA降维中取前k大的特征值对应的特征向量，这里取得是前k小的特征值对应的特征向量。但是上述的谱聚类算法并不是最优的，接下来我们一步一步的分解上面的步骤，总结一下在此基础上进行优化的谱聚类的版本。

编码示例

环数据在代码中是对象dat。下面的几行只是简单地生成K-means解决方案，并将其绘制出来。

plot(dat, col= kmeans0cluster)

058eb76949e13bc8c5d6ddc72eef36c1.png  

现在是谱聚类解决方案。

# 计算距离矩阵
dist(dat, method = "euclidean", diag= T, upper = T)  
sig=1 # 超参数
#  一个点与自身的距离为零
diag(tmpa) <- 0 #设置对角线为零
# 计算程度矩阵
# 因为D是一个对角线矩阵，所以下面一行就可以了:
diag(D) <- diag(D)^(-0.5)
# 现在是拉普拉斯的问题:
# 特征分解
eig_L <- eigen(L, symmetric= T)
K <- 4 # 让我们使用前4个向量
# 它是相当稳健的--例如5或6的结果不会改变
x <- eig_L$vectors\[,1:K\]
# 现在进行归一化处理:
sqrt( apply(x^2, 1, sum) ) #  临时分母
# 临时分母2：转换为一个矩阵
# 创建Y矩阵
# 在y上应用聚类
# 可视化:
plot(dat, col= spect0$cluster)

00716db85790624d30611d6a40256fd4.png

* 在我们的例子中，96ff3e91a78f8af325b1b7122afaadeb.png的条目不仅是0和1（连接或不连接），而且是量化相似性的数字。

参考资料

Ng, Andrew Y., Michael I. Jordan, and Yair Weiss. “On spectral clustering: Analysis and an algorithm.” Advances in neural information processing systems. 2002.

a2b86651fea2a54a43a49d65fefb69fb.png

点击标题查阅往期内容

R语言实现k-means聚类优化的分层抽样(Stratified Sampling)分析各市镇的人口

R语言聚类有效性：确定最优聚类数分析IRIS鸢尾花数据和可视化

R语言蒙特卡洛方法：方差分量的Metropolis Hastings（M-H）、吉布斯Gibbs采样比较分析

R语言Gibbs抽样的贝叶斯简单线性回归仿真分析

R语言中的block Gibbs吉布斯采样贝叶斯多元线性回归

R语言实现MCMC中的Metropolis–Hastings算法与吉布斯采样

R语言贝叶斯推断与MCMC：实现Metropolis-Hastings 采样算法示例

R语言使用Metropolis-Hastings采样算法自适应贝叶斯估计与可视化

视频：R语言中的Stan概率编程MCMC采样的贝叶斯模型

R语言MCMC:Metropolis-Hastings采样用于回归的贝叶斯估计

matlab使用样条插值重采样估计INR数据研究

R语言BUGS/JAGS贝叶斯分析: 马尔科夫链蒙特卡洛方法（MCMC）采样

Python、R对小说进行文本挖掘和层次聚类可视化分析案例

R语言k-means聚类、层次聚类、主成分（PCA）降维及可视化分析鸢尾花iris数据集

R语言有限混合模型(FMM,finite mixture model)EM算法聚类分析间歇泉喷发时间

R语言用温度对城市层次聚类、kmean聚类、主成分分析和Voronoi图可视化

R语言k-Shape时间序列聚类方法对股票价格时间序列聚类

R语言中的SOM(自组织映射神经网络)对NBA球员聚类分析

R语言复杂网络分析：聚类（社区检测）和可视化

R语言中的划分聚类模型

基于模型的聚类和R语言中的高斯混合模型

r语言聚类分析：k-means和层次聚类

SAS用K-Means 聚类最优k值的选取和分析

用R语言进行网站评论文本挖掘聚类

基于LDA主题模型聚类的商品评论文本挖掘

R语言鸢尾花iris数据集的层次聚类分析

R语言对用电负荷时间序列数据进行K-medoids聚类建模和GAM回归

R语言聚类算法的应用实例

欲阅读全文，请点击左下角“阅读原文”。

fc4d73702be498f0740f4711dc763163.gif

dfbd1e6ac2cc613062659fc3b8aed619.png

968ae774d6c192b16af40d423ed37629.jpeg

30a4e88b59a90a39a3310a361177df9a.png

欲阅读全文，请点击左下角“阅读原文”。

6e45c3e71305b36177487822f9705d1b.gif

拓端研究室TRL
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
博客
【专题】2024智慧医疗行业研究报告合集PDF分享（附原数据表）
05-21 2
原文链接：https://tecdat.cn/?p=36230医疗信息化正在以医疗服务需求不断升级的大背景下，融合大数据和人工智能等创新技术，不断扩展其范围和定义（查看文末了解专题报告合集PDF版本免费获取方式）。从单一的院内信息化，逐步发展到区域间、不同机构间的数据互联互通与共享应用，涵盖的范围不再仅限于患者的病历信息，还延伸到居民的全生命周期健康数据，以及与健康息息相关的环境等信息，构建更加完...
博客
多状态马尔可夫链、生存分析心脏同种异体移植血管病变（CAV）数据可视化|附数据代码...
05-20 458
原文链接：https://tecdat.cn/?p=36216临床研究和医疗经济学研究中客户经常关注于评估患者在疾病从一种状态发展到另一种状态时的生存预后（点击文末“阅读原文”获取完整代码数据）。相关视频标准生存模型仅直接模拟两种状态：存活和死亡。多状态模型允许直接模拟疾病进程，在这些过程中，患者在随机的时间间隔内处于健康或疾病的各种状态，但除了死亡外，进入或离开状态的时间都是未知的。多状态模型在...
博客
【专题】2024年汽车产业发展报告合集PDF分享（附原数据表）
05-20 2
原文链接：https://tecdat.cn/?p=36213在国内汽车市场，竞争态势正日益激烈。随着消费者对汽车品质和性能要求的不断提高，以及环保意识的增强，国产新能源汽车正快速崛起，成为推动汽车消费市场更新换代的重要力量（查看文末了解专题报告合集PDF版本免费获取方式）。这一变化不仅影响着消费者的购车选择，也促使主机厂和经销商对汽车销售线索的需求愈发迫切。阅读原文，获取专题报告合集全文，解锁文...
博客
Python没有服务器如何部署运行Shiny应用程序
05-17 592
原文链接：https://tecdat.cn/?p=36205随着Web技术的快速发展，越来越多的数据科学家和开发人员倾向于使用Web应用程序进行数据分析和可视化（点击文末“阅读原文”获取完整代码数据）。Shiny for Python作为一种流行的Web应用程序框架，为Python开发人员提供了便捷的数据展示和交互工具。然而，在实际应用中，由于硬件资源或成本限制，有时无法直接使用服务器进行部署。...
博客
【专题】2024小红书餐饮行业方法论报告合集PDF分享（附原数据表）
05-17 11
原文链接：https://tecdat.cn/?p=36199报告合集显示，消费者对餐饮的需求正从单一的口味体验转变为追求更高层次的情绪价值和文化价值（查看文末了解专题报告合集PDF版本免费获取方式）。餐饮不仅是生活的小确幸，更成为社交、休闲和探索的重要场景。小红书凭借其真实、利他、生动、丰富的内容，成为餐饮消费决策的重要影响力量。小红书提出的漂亮饭循环概念，强调的是一种全新的餐饮消费模式。在这里...
博客
短语挖掘与流行度、一致性及信息度评估：基于文本挖掘与词频统计|附数据代码...
05-16 853
全文链接：https://tecdat.cn/?p=36193在信息爆炸的时代，文本数据呈现出爆炸式的增长，从新闻报道、社交媒体到学术论文，无处不在的文本信息构成了我们获取知识和理解世界的重要来源。然而，如何从海量的文本数据中提取有价值的信息，尤其是那些能够反映主题、趋势或情感倾向的短语，成为了文本挖掘领域的一个重要挑战（点击文末“阅读原文”获取完整代码数据）。相关视频短语挖掘作为文本挖掘的一个重...
博客
【专题】2024年中国即时配送行业研究报告合集PDF分享（附原数据表）
05-16 9
原文链接：https://tecdat.cn/?p=36188即时配送服务凭借其无与伦比的高效与便捷，已深深满足了当代社会对于速度和便捷性的双重追求（查看文末了解专题报告合集PDF版本免费获取方式）。据权威报告揭示，即时配送行业规模已突破3400亿元，且预测至2028年，这一数值将飙升至超过8100亿元。阅读原文，获取专题报告合集全文，解锁文末88份即时配送相关行业研究报告。作为即时配送背后的主要...
博客
【专题】2024年消费新潜力白皮书报告合集PDF分享（附原数据表）
05-15 11
原文链接：https://tecdat.cn/?p=361852024年一季度，消费者信心与消费倾向呈现小幅回升，市场消费意愿与信心逐渐恢复，尤其服务消费显著增长，出行修复向好；尽管社会零售复苏缓慢，日用品等消费动力疲弱，但出行与升级类消费已超2019年同期（查看文末了解专题报告合集PDF版本免费获取方式）。国货在服饰美妆、户外运动及黄金珠宝等领域持续崛起，市场份额显著提升。阅读原文，获取专题报告...
博客
【专题】2024中国医疗器械企业全球化发展报告合集PDF分享（附原数据表）
05-14 11
原文链接：https://tecdat.cn/?p=36180中国医疗器械企业在国内市场面临同质化竞争和研发能力薄弱等挑战，而海外市场则展现出巨大的增长潜力和性价比优势。因此，全球化布局对于中国医疗器械企业至关重要（查看文末了解专题报告合集PDF版本免费获取方式）。该报告合集详细分析了这些市场的宏观经济、医疗体系、市场概况和监管体系，回顾了中国医疗器械企业进入这些市场的主要模式，指出了面临的挑战，...
博客
马尔可夫转换MSVAR模型预测资产收益率时间序列可视化分析|附数据代码
05-13 711
原文链接：https://tecdat.cn/?p=36166在现代金融市场中，资产收益率序列的预测一直是投资者和金融机构关注的焦点（点击文末“阅读原文”获取完整代码数据）。相关视频资产收益率的波动不仅反映了市场的风险水平，也直接影响到投资组合的表现和风险管理策略的制定。然而，金融市场的复杂性和不确定性使得资产收益率的预测变得极具挑战性。为了应对这一挑战，研究者们不断探索各种先进的预测模型和方法。...
博客
【专题】2024储能行业营销数据洞察白皮书报告合集PDF分享（附原数据表）
05-13 13
原文链接：https://tecdat.cn/?p=36163储能行业正在经历一个显著的增长阶段，相关企业的数量持续增长，全球储能公司的规模也在迅速扩大。这一趋势在全球范围内都可见，特别是欧美、巴西、印度等国家，它们已成为储能企业的主要分布地区（查看文末了解专题报告合集PDF版本免费获取方式）。与此同时，中国储能企业也凭借其强大的竞争力和创新能力，吸引了大量海外关注者。阅读原文，获取专题报告合集全...
博客
【专题】2024中国创新药械出海趋势与策略白皮书报告合集PDF分享（附原数据表）...
05-11 12
原文链接：https://tecdat.cn/?p=36159中国生物医药BD交易活跃，2023年创新药BD首付款超200亿元，标志国内BD新里程碑。创新药出海面临机遇与挑战，需应对国谈压力与合规短板（查看文末了解专题报告合集PDF版本免费获取方式）。阅读原文，获取专题报告合集全文，解锁文末150份医药相关行业研究报告。中国医疗器械出海势头强劲，但高值耗材和高端设备领域需加强研发创新。药械出海交易...
博客
【视频】多元线性回归模型原理讲解与R语言实例
05-10 724
原文链接：https://tecdat.cn/?p=36149分析师：Xue Yang近年来，随着计量经济学和统计学的快速发展，回归模型作为一种有效的数据分析工具，被广泛应用于金融市场的分析中（点击文末“阅读原文”获取完整代码数据）。视频回归模型能够通过建立变量之间的数学关系，揭示变量之间的相互作用机制，并预测未来趋势。在金融领域，回归模型被用于分析股票价格、市场波动率、风险溢价等多种金融现象，为...
博客
【专题】中国银行业2023年发展回顾及2024年展望报告合集PDF分享（附原数据表）...
05-10 11
原文链接 :https://tecdat.cn/?p=361452023年，尽管面临全球经济复杂多变与国内经济多重挑战，中国银行业依然稳健前行，不仅圆满完成了社会经济发展的主要任务，还以“稳进相济，进而有为”的姿态，为实体经济的高质量发展提供了有力支撑，展望着更为稳固与繁荣的新一年（查看文末了解专题报告合集PDF版本免费获取方式）。阅读原文，获取专题报告合集全文，解锁文末272份银行相关行业研究报...
博客
【专题】2024年4月数字化行业报告合集汇总PDF分享（附原数据表）
05-09 13
原文链接：https://tecdat.cn/?p=36134在当今快速变化的商业环境中，了解行业趋势、掌握先进技术并精准把握消费者需求变得尤为重要。随着5G技术的广泛应用、人工智能的迅猛发展以及数字营销的兴起，消费品行业、企业运营和市场营销策略都面临着前所未有的挑战与机遇（查看文末了解专题报告合集PDF版本免费获取方式）。相关视频本报告合集汇总将深入探讨消费品行业的5G新时代趋势、AI技术在企业...
博客
【专题】2024年4月中国企业跨境、出海、国际化、全球化行业报告汇总PDF合集分享（附原数据表）...
05-08 24
原文链接：https://tecdat.cn/?p=36130在全球化浪潮的推动下，中国企业的国际化进程不断加速，跨境业务、海外拓展已成为企业发展的重要战略方向（查看文末了解专题报告合集PDF版本免费获取方式）。随着技术的飞速发展、贸易壁垒的逐渐降低以及消费者需求的日益多样化，中国企业正面临着前所未有的机遇与挑战。阅读原文，获取专题报告合集全文，解锁文末239份跨境、出海相关行业研究报告。当前，全...
博客
【专题】2024年4月新能源汽车、智能汽车行业报告汇总PDF合集分享（附原数据表）...
05-07 58
原文链接：https://tecdat.cn/?p=36126随着科技的不断进步和全球化的深入发展，汽车行业正经历着前所未有的变革。从传统的燃油车到新能源汽车的崛起，从简单的交通工具到智能互联的移动空间，汽车已经不仅仅是代步工具，更是科技创新和社会进步的缩影（查看文末了解专题报告合集PDF版本免费获取方式）。相关视频在这个变革的时代，了解汽车行业的市场动态、技术趋势以及产业链的发展变得尤为重要。阅...
博客
广义线性模型beta二项分布的淋巴结疾病风险预测可视化R语言2实例合集|附数据代码...
05-06 833
全文链接：https://tecdat.cn/?p=36112淋巴结疾病作为一类复杂的健康问题，其风险预测一直是临床和公共卫生领域的研究热点。随着统计学的进步和计算能力的提升，广义线性模型（GLM）成为了分析这类数据的有力工具。特别是当数据呈现比例特性时，beta二项分布作为广义线性模型的一个特例，为我们提供了一种灵活且强大的方法来建模和预测淋巴结疾病的风险（点击文末“阅读原文”获取完整代码数据）...
博客
【专题】2024新能源企业“出海”报告合集PDF分享（附原数据表）
05-06 13
原文链接：https://tecdat.cn/?p=36108随着中国新能源企业在全球舞台上的崛起，海外市场已成为它们寻求进一步扩张和增长的重要舞台。本次报告合集聚焦东南亚新能源市场，深入分析了该区域在新能源领域的发展潜力和商业机会（查看文末了解专题报告合集PDF版本免费获取方式）。通过详尽的数据和案例，报告合集揭示了东南亚市场在新能源产业中的独特地位和优势，为企业提供了前瞻性的市场洞察和战略建议...
博客
【视频】LSTM模型原理及其进行股票收盘价的时间序列预测讲解|附数据代码
04-30 749
全文链接：https://tecdat.cn/?p=36092分析师：Yuehuan Wei时间序列预测在金融领域中扮演着举足轻重的角色，特别是在股票市场中。对于广大投资者和交易员而言，能够准确预测股票价格的变动趋势，不仅意味着能够在交易中做出更为明智的决策，还能够在风险管理中占据有利地位（点击文末“阅读原文”获取完整代码数据）。本文将通过视频讲解，展示如何用LSTM模型进行股票收盘价的时间序列预...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值