rngeu-CSDN博客

原创机器学习（八）——PCA

降维效果显著： PCA通过找到数据中方差最大的方向，能够在保留大部分信息的同时实现数据的降维，去除冗余信息，提高了计算效率。去相关性： PCA通过选择特征值较大的特征向量，实现了数据的去相关性，新的特征之间尽可能地不相关，有助于减少多重共线性对模型的影响。可解释性： PCA的结果是一组相互正交的主成分，这些主成分能够更好地反映数据的主要结构，具有较好的可解释性。适用性广泛： PCA不仅可以用于降维，还可以用于特征提取、数据可视化等多个领域，是一种通用的数据分析工具。

2024-06-11 20:15:49 772

原创机器学习（七）——支持向量机

支持向量机（support vector machine，SVM）是有监督学习中最有影响力的机器学习算法之一，该算法的诞生可追溯至上世纪 60 年代，前苏联学者 Vapnik 在解决模式识别问题时提出这种算法模型，此后经过几十年的发展直至 1995 年， SVM 算法才真正的完善起来，其典型应用是解决手写字符识别问题。SVM 是一种非常优雅的算法，有着非常完善的数学理论基础，其预测效果，在众多机器学习模型中“出类拔萃”。在深度学习没有普及之前，“支持向量机”可以称的上是传统机器学习中的“霸主”。

2024-06-11 15:15:05 775

原创机器学习（六）——Logistic回归

逻辑回归是一种用于解决分类问题的统计学习方法。它用于预测一个二元变量（如"是"或"否"、"成功"或"失败"）的概率。逻辑回归基于线性回归模型，但使用了一个称为逻辑函数（也称为sigmoid函数）来将线性输出转换为概率值。逻辑函数的取值范围在0和1之间，可以将线性输出映射到概率。逻辑回归模型假设输入特征与输出之间存在一种线性关系，并使用最大似然估计等方法来拟合模型参数。训练完成后，可以使用逻辑回归模型进行新样本的分类预测。逻辑回归在许多领域中被广泛应用，包括医学、金融、市场营销和社会科学等。

2024-05-26 17:14:29 601

原创机器学习（五）——朴素贝叶斯

其中ham文件夹中存放有效邮件spam中存放无效垃圾邮件test中存放用于测试的邮件朴素贝叶斯是一种基于贝叶斯定理和特征条件独立性假设的简单而有效的分类算法。贝叶斯定理：朴素贝叶斯分类器基于贝叶斯定理，根据输入数据的特征，计算各个类别的后验概率，并选择具有最大后验概率的类别作为分类结果。特征条件独立性假设：朴素贝叶斯算法假设输入数据的特征之间是条件独立的，即给定类别的情况下，特征之间没有关联。尽管这个假设在实际应用中往往不成立，但朴素贝叶斯算法仍然在许多情况下表现良好。参数估计。

2024-05-13 22:21:19 1393

原创机器学习（四）——决策树

算法名称ID3C4.5CART特征选择信息增益，选择信息增益最大的特征信息增益率，选择信息增益最小的特征Gini指数，选择Gini指数小的特征记录划分多元划分多元划分仅二元划分停止分裂条件信息增益小于阈值信息增益比小于阈值Gini指数小于阈值或者样本个数小于阈值剪枝方法不支持悲观错误剪枝令损失函数最小或者Gini指数度量损失。

2024-04-29 20:08:22 1391

原创机器学习（三）——模型评估

机器学习的目的是使学得的模型能很好的适用于“新样本”，即使得模型具有泛化能力。但太好的模型可能因为学习器学习能力过于强大，进而把训练样本本身的特有性质当做所有潜在样本都会具有的一般性质，进而导致泛化能力减小，出现“过拟合”的情况。“欠拟合”是由于学习器没有通过训练样本学习到一般性质。训练集和测试集划分、交叉验证、混淆矩阵、损失函数、ROC曲线和PR曲线、训练误差、验证误差、测试误差等等，这些方法通常结合使用，以全面评估机器学习模型的性能，并且针对不同类型的问题和数据集可以选择合适的评估方法。

2024-04-15 21:36:02 722 1

原创机器学习（二）——K-近邻算法

KNN 算法，或者称 k-最近邻算法，是有监督学习中的分类算法。它可以用于分类或回归问题，但它通常用作分类算法。KNN 的全称是 K Nearest Neighbors，意思是 K 个最近的邻居。该算法用 K 个最近邻来干什么呢？其实，KNN 的原理就是：当预测一个新样本的类别时，根据它距离最近的 K 个样本点是什么类别来判断该新样本属于哪个类别（多数投票）假设k=3，则测试数据中最相近的三个数据中有两个为三角形，则预测结果为三角形鸢尾花数据集记录了三个类别(山鸢尾/0，虹膜锦葵/1，变色鸢尾/2)，

2024-03-31 19:41:55 620 1

weixin_73852115的博客

原创机器学习（八）——PCA

原创机器学习（七）——支持向量机

原创机器学习（六）——Logistic回归

原创机器学习（五）——朴素贝叶斯

原创机器学习（四）——决策树

原创机器学习（三）——模型评估

原创机器学习（二）——K-近邻算法

原创机器学习（一）——安装anaconda

原创 C++学习笔记

原创 ROS话题、服务、动作基本操作

空空如也

空空如也