！0m0！-CSDN博客

原创机器学习：PCA降维

主成分分析（PCA）是一种广泛应用于数据降维的算法，它通过找到数据的主成分来简化数据集，保留最重要的信息，并去除噪声和冗余信息。PCA通过线性变换将原始数据转换到一个新的坐标系统中，使得数据在新坐标系下的方差最大化。这个新坐标系的每一个坐标轴对应一个“主成分”，即数据中的一个主要特征。通过保留低阶主成分，忽略高阶主成分，PCA能够减少数据集的维数，同时尽可能保持数据集的主要信息。具体来说，PCA的第一步是计算数据的协方差矩阵，然后对协方差矩阵进行特征值分解，得到特征向量和特征值。

2024-06-22 10:45:30 718

原创机器学习：支持向量机（SVM）

SVM的优点：（1）解决了小样本情况下的机器学习。（2）由于使用核函数方法克服了维数灾难和非线性可分的问题，所以向高维空间映射时没有增加计算的复杂度。（由于支持向量机算法的最终决策函数只由少数的支持向量所确定，所以计算的复杂性取决于支持向量的数目，而不是整个样本空间的维数）。SVM的缺点：（1）支持向量机算法对大规模训练样本难以实施，这是因为支持向量算法借助二次规划求解支持向量，这其中会设计m阶矩阵的计算，所以矩阵阶数很大时将耗费大量的机器内存和运算时间。

2024-05-29 21:17:05 1113

原创机器学习：逻辑回归实验

综上所述，逻辑回归模型通过引入Sigmoid函数，将线性回归的输出转化为概率值，从而实现对二元分类问题的预测。其算法简单且有效，广泛应用于医学、生物统计学、市场营销等领域。尽管面临一些挑战，如对异常值的敏感性和对数据集的特定要求，但通过适当的数据处理和模型调优，逻辑回归仍然是一个非常有力的工具。在未来，随着机器学习和数据科学的发展，逻辑回归及其变种将继续在解决实际问题中发挥重要作用。

2024-05-27 12:26:36 703

原创朴素贝叶斯算法

朴素贝叶斯算法是一种简单而有效的分类算法，适用于特征之间相互独立的情况。通过计算先验概率和条件概率，我们可以应用贝叶斯定理进行分类。虽然朴素贝叶斯算法具有一定的局限性，但在许多实际问题中，它仍然表现出良好的性能。

2024-05-08 21:41:35 657

原创决策树实验代码实现

根据以上实验，决策树的三种方法分别是ID3、C4.5和CART。ID3算法：ID3算法是一种基于信息增益的决策树构建算法。在给定的数据集中，它会选择具有最大信息增益的特征作为根节点，然后递归地选择子节点。ID3算法的主要优点是生成的决策树易于理解和解释。然而，它存在一个问题，即倾向于选择具有较多属性值的特征，这可能导致过拟合。C4.5算法：C4.5算法是ID3算法的改进版本，它通过引入信息增益比来解决这个问题。与ID3算法相比，C4.5算法在选择特征时更加平衡，避免了偏向具有较多属性值的特征的问题。

2024-04-29 23:06:42 359

原创机器学习之KNN算法及模型评估：鸢尾花分类实验

预测结果为：[0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 2, 2, 1, 2, 2, 2, 2, 2, 2, 2]原测试的答案为：类别 0 的样本：36, 21, 19, 9, 39, 46, 3, 0, 47, 44类别 1 的样本：86, 71, 69, 59, 89, 96, 53, 50, 97, 94。

2024-04-01 10:59:59 1252

原创机器学习：测试Anaconda是否成功安装

以Windows为例，在终端输入echo %PATH%，则Anaconda的路径会显示在系统环境变量中；在终端输入conda list，则会输出所有已经安装的工具包名称和对应的版本号；打开命令提示符或终端窗口输入conda -V,会输出Anaconda的版本号；二、检查Anaconda的环境变量。一、检查Anaconda的版本号。三、查看已经安装的工具包。

2024-03-19 19:55:57 619

m0_74238712的博客