AI 作业 4-无监督学习

1、K均值聚类（K-means Clustering）是一种常见的无监督学习算法，用于将数据集划分为K个不同的簇。它通过最小化样本与所属簇的平方距离之和来确定簇的中心点，并将样本分配到最近的中心点所属的簇中。

 

2、K均值聚类是一种生成式方法。它试图对数据集的分布进行建模，通过计算簇的中心点来生成新的样本。

 

3、KNN（K-Nearest Neighbors）是一种有监督学习算法，用于分类和回归问题。它基于样本之间的距离来进行预测，即找到最近邻的K个样本，根据它们的标签进行投票或进行加权平均来确定预测结果。

K-means是一种无监督学习算法，用于聚类问题。它通过计算样本与簇中心的距离来确定样本所属的簇，从而将数据集划分为K个不同的簇。KNN和K-means具有不同的应用领域和目标，虽然它们都使用了K的概念，但它们之间没有直接的联系。

 

4、 主成分分析（Principal Component Analysis，PCA）是一种常用的降维技术，用于将高维数据转换为低维空间。它通过找到数据中的主要方差方向（主成分），将数据投影到这些主成分上，从而实现降维，并减少特征的冗余信息。

LDA（Linear Discriminant Analysis）和PCA（Principal Component Analysis）都是常用的降维技术。

 

5、LDA是一种有监督学习算法，用于数据投影到低维空间，同时最大程度地保持类别间的可分性。它通过找到最佳投影方向，使得不同类别之间的距离最大化，同一类别内的样本之间的距离最小化。

PCA是一种无监督学习算法，旨在最大程度地保留原始数据中的方差。它通过找到主要方差方向，将数据投影到这些方向上。

 

6、 奇异值分解（Singular Value Decomposition，SVD）是一种基础的矩阵分解方法，将一个矩阵分解为三个矩阵的乘积：A = U * Σ * V^T，其中U和V是正交矩阵，Σ是对角矩阵。SVD可以用于矩阵计算、特征提取、矩阵逆和数据压缩等方面的应用。

 

7、 特征人脸方法（Eigenface）是一种用于人脸识别的方法。它使用主成分分析（PCA）对人脸图像进行降维，并将其表示为特征向量，这些特征向量称为特征人脸。通过比较新的人脸图像与特征人脸之间的距离或相似度，可以识别人脸。

 

8、 潜在语义分析（Latent Semantic Analysis，LSA）是一种基于矩阵分解的文本挖掘方法，用于发现和表示文本之间的语义关系。它通过对词-文档矩阵进行奇异值分解，将文档映射到一个低维语义空间中，实现对文本的降维和语义表示。

 

9、期望最大化算法（Expectation Maximization，EM）是一种迭代算法，用于求解含有隐变量的概率模型参数。它通过交替进行“期望”（E-Step）和“最大化”（M-Step）两个步骤，在每次迭代中更新参数，使得似然函数最大化。

 

10、K-means并不是最简单的EM算法，尽管它也是通过迭代优化目标函数的方式来进行聚类。K-means是一种特殊的EM算法，它使用了特定的高斯分布模型，并假设簇的协方差是各向同性的。在K-means中，E步骤是将样本分配到最近的簇中，而M步骤是计算新的簇的中心点。