【机器学习记录随笔-基础篇】-CSDN博客

本文链接：https://blog.csdn.net/hao3011432091/article/details/140279265

【机器学习记录随笔-基础篇之无监督学习】

一、引言

无监督学习旨在从未标注的数据中发现结构和模式，挖掘数据的内在特征和隐藏信息。本文将深入探讨无监督学习的基本概念、工作流程、常用算法、实际应用以及面临的挑战和未来发展方向。

二、无监督的基本概念

无监督学习是一种学习方法，通过处理和分析未标注的数据来发现数据集中隐藏的模式和结构。不同于监督学习，无监督学习不依赖于预先标注好的数据标签，而是尝试从数据中揭示内在结构。

无监督学习主要包括以下几类任务：

聚类（Clustering）：将数据集划分为若干组，每组内的数据具有较高的相似性，而组间的数据相似性较低。
降维（Dimensionality Reduction）：将高维数据映射到低维空间，保留重要特征，简化数据结构。
异常检测（Anomaly Detection）：识别出数据集中不符合常规模式的数据点，即异常点。
关联规则挖掘（Association Rule Mining）：发现数据集中变量之间的关系或规律，常用于市场篮分析。

三、无监督的工作流程

无监督学习的工作流程大致如下：

3.1 数据收集
与监督学习类似，无监督学习也需要大量的数据。然而，这些数据不需要标注，可以是任何形式的原始数据。

3.2 数据预处理
对数据进行预处理，包括数据清洗、缺失值处理、标准化等步骤，以提高数据质量，便于后续的分析和建模。

3.3 模型选择
根据具体任务选择合适的无监督学习算法，例如K均值聚类、层次聚类、主成分分析、孤立森林等。

3.4 模型训练
使用无标注的数据对选择的算法进行训练，过程通常包含迭代优化、相似性度量、降维映射等方法。

3.5 模型评估和可视化
根据任务需求评估模型性能，具体方法因任务而异。可视化工具可以帮助理解和解释模型发现的模式和结构。

3.6 模型应用
将训练好的模型应用于实际问题，如聚类用户群体、降维后进行数据压缩和信息提取、识别异常交易等。

四、常用的无监督算法

4.1 K均值聚类（K-Means Clustering）
K均值是一种广泛使用的简单而高效的聚类算法。其基础思想是将数据集划分为K个簇，通过最小化簇内数据点到簇中心的距离来实现数据分组。算法通过迭代更新簇中心和分配数据点，直到收敛。

4.2 层次聚类（Hierarchical Clustering）
层次聚类通过构建树状结构（即树状图，Dendrogram）对数据进行层级划分，包括自底向上聚类（Agglomerative Clustering）和自顶向下聚类（Divisive Clustering）。该方法不需要预设簇的数量，适用于层次分析。

4.3 主成分分析（Principal Component Analysis, PCA）
PCA是一种常用的降维方法，通过线性变换将高维数据映射到低维空间，保留主要的信息成分。PCA在数据压缩、特征提取、数据可视化等方面有广泛应用。

4.4 自组织映射（Self-Organizing Maps, SOM）
SOM是一种神经网络算法，通过无监督学习将高维数据映射到低维空间（通常是二维平面），以显示数据的内在结构和相似性模式。

4.5 密度聚类（DBSCAN）
基于密度的聚类方法（Density-Based Spatial Clustering of Applications with Noise, DBSCAN）通过密度连通性发现任意形状的簇，并可以发现噪音点。DBSCAN不需要预设簇的数量，适用于复杂形状聚类。

4.6 高斯混合模型（Gaussian Mixture Model, GMM）
GMM是一种基于概率的聚类算法，将数据建模为若干高斯分布的混合，利用期望最大化（Expectation-Maximization, EM）算法训练模型。GMM能处理不同形状的簇，并提供簇归属的概率信息。

4.7 孤立森林（Isolation Forest）
孤立森林是一种基于树结构的异常检测方法，通过随机划分数据生成二叉树，评价数据点的孤立程度。该方法用于大规模数据集的异常检测时效率较高。