- 博客(8)
- 收藏
- 关注
RSS订阅原创 主成分分析及其实例
1.主成分分析优点以方差衡量信息的无监督学习，不受样本标签限制。由于协方差矩阵对称，因此k个特征向量之间两两正交，也就是各主成分之间正交，正交就肯定线性不相关，可消除原始数据成分间的相互影响。可减少指标选择的工作量，而且计算方法简单，易于在计算机上实现。2.主成分分析优点主成分解释其含义往往具有一定的模糊性，不如原始样本完整。贡献率小的主成分往往可能含有对样本差异的重要信息，也就是可能对于区分样本的类别（标签）更有用。
2024-01-01 20:21:00
865
原创 支持向量机算法
支持向量机参数的求解是利用SMO（序列最小最优化算法）算法的，其基本思路就是：所有所有变量的解都满足此最优化问题的KKT条件，那么这个最优化问题的解就找到了。函数间隔D的取值并不会影响最优化问题的解，事实上，将w和b等比例的改变，对目标函数的优化没有任何影响。这就是函数间隔的概念。对线性可分的训练集而言，线性可分的分离超平面有无数多条，但是几何间隔最大的分离超平面是唯一的。训练集数据并不总是线性可分的，通常情况下，训练集数据有一些异常点，将这些异常点去掉之后，剩下的大部分样本组成的集合是线性可分的。
2023-12-18 21:46:58
900
1
原创 逻辑斯蒂回归实现
Logistic回归也是一种分类方法，用于两分类问题。其基本思想为：（1）寻找合适的假设函数，即分类函数，用以预测输入数据的判断结果；（2）构造代价函数，即损失函数，用以表示预测的输出结果与训练数据的实际类别之间的偏差；（3）最小化代价函数，从而获取最优的模型参数。Logistics回归的目的是寻找一个非线性函数Sigmoid的最佳拟合参数，求解过程可以由最优化算法来完成。在最优化算法中，最常用的就是梯度上升算法，而梯度上升算法又可以简化为随机梯度上升算法。
2023-12-04 16:39:47
905
原创 朴素贝叶斯算法实现垃圾邮件分类
朴素贝叶斯法（Naive Bayes model）是基于贝叶斯定理与特征条件独立假设的分类方法。朴素贝叶斯算法（Naive Bayesian algorithm) 是应用最为广泛的分类算法之一。最为广泛的两种分类模型是决策树模型(Decision Tree Model)和朴素贝叶斯模型（Naive Bayesian Model，NBM）。和决策树模型相比，朴素贝叶斯分类器(Naive Bayes Classifier 或 NBC)发源于古典数学理论，有着坚实的数学基础，以及稳定的分类效率。
2023-11-19 18:48:59
288
原创 决策树算法及其Python实现
决策树（Decision Tree）是一种基本的分类与回归方法，本文主要讨论分类决策树。决策树模型呈树形结构，在分类问题中，表示基于特征对数据进行分类的过程。它可以认为是if-then规则的集合。每个内部节点表示在属性上的一个测试，每个分支代表一个测试输出，每个叶节点代表一种类别。
2023-11-06 21:54:44
1163
原创 基于knn算法求pr曲线和roc曲线
PR曲线中的P代表的是precision（精准率），R代表的是recall（召回率），其代表的是精准率与召回率的关系，一般情况下，将recall设置为横坐标，precision设置为纵坐标。precision（精准率）和recall（召回率）上述中介绍了PR曲线的实质代表为precision（精准率）和recall（召回率），但是这二者是什么呢？首先，我们了解一下混淆矩阵，如下表。其中TP 表示正确分出正例的数量；FN 表示把正例错分为反例的数量；TN 表示正确分出反例的数量；
2023-10-23 20:25:57
235
1
原创 基于KNN的简单分类实验
K近邻算法（K-Nearest Neighbors，简称KNN）是一种用于分类和回归的统计方法。KNN 可以说是最简单的分类算法之一，同时，它也是最常用的分类算法之一。KNN 算法是有监督学习中的分类算法，它看起来和另一个机器学习算法 K-means 有点像（K-means 是无监督学习算法），但却是有本质区别的。
2023-10-09 21:13:34
216
1
原创 vs Code 安装，anaconda安装
打开vscode，根据需求下载相应的拓展。选择对应的版本，点击下载。1.安装VS Code。选择合适的版本并安装。
2023-09-25 19:53:47
39
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人