- 博客(8)
- 收藏
- 关注
RSS订阅原创 PCA 主成分分析
PCA（Principal Component Analysis，主成分分析）是一种常用的数据预处理和降维技术，它可以将高维数据转换为低维数据，同时尽可能地保留原始数据的信息。具体来说，PCA利用线性变换将原始数据映射到一个新的坐标系中，使得每个维度上的取值都是不相关的，同时第一个新维度上的方差最大，第二个新维度上的方差次之，以此类推。这些新维度被称作主成分，它们是原始数据中最重要的特征。通过保留前k个主成分，可以实现对原始数据的降维，从而减少计算复杂度和存储空间。
2024-01-03 13:05:25
382
1
原创 机器学习：支持向量机（SVM）
支持向量机（SVM）是一种常见的监督学习算法，主要用于分类和回归问题。它的基本思想是将数据映射到高维空间中，并在该空间中找到一个最优超平面来区分不同的类别。具体来说，对于二分类问题，SVM算法将数据点视为n维向量，并尝试找到一个超平面，使得该平面可以将两个类别的样本点分开，并且其间隔最大。这个超平面只由离它最近的一些数据点决定，称为“支持向量”。SVM可以通过核函数实现非线性分类，将低维空间的数据点映射到高维空间，从而构造出更加复杂的分类器。
2023-12-18 21:45:38
1188
1
原创 机器学习：Logistic回归
总结Logistic回归的一般过程收集数据：采用任意方法收集数据。准备数据：由于需要进行距离计算，因此要求数据类型为数值型。另外，结构化数据格式则最佳。分析数据：采用任意方法对数据进行分析。训练算法：大部分时间将用于训练，训练的目的是为了找到最佳的分类回归系数。测试算法：一旦训练步骤完成，分类将会很快。使用算法：首先，需要输入一些数据，并将其转换成对应的结构化数值；接着，基于训练好的回归系数，就可以对这些数值进行简单的回归计算，判定它们属于哪个*类别；
2023-12-04 20:48:27
851
原创 机器学习：朴素贝叶斯
朴素贝叶斯算法是一种基于贝叶斯定理和特征条件独立假设的分类算法。在机器学习和数据挖掘中经常被用于文本分类、垃圾邮件过滤、情感分析等任务。假设每个特征之间相互独立，通过计算给定类别下特征的条件概率，然后利用贝叶斯定理计算出样本属于每个类别的概率，最终选择具有最高概率的类别作为预测结果。
2023-11-20 21:46:56
57
1
原创 机器学习决策树
决策树的根节点是最顶层的特征，而每个内部节点的子节点对应于该特征的可能取值。基尼指数是在决策树算法中用于特征选择的指标，它表示使用某个特征进行划分后，样本集合的基尼值的减少量。是在构造决策树时，在每个节点处对应用于划分的特征进行评估，如果划分后不能显著提高模型性能，就停止该节点的进一步划分，将该节点转化为叶子节点。其中，V 表示特征 A 的取值个数，∣Sv∣ 表示特征 A 取值为 v 的样本数，Gini(Sv) 表示特征 A 取值为 v 的子集的基尼值。信息增益的计算基于信息熵的概念。
2023-11-06 21:58:45
35
原创 绘制PR曲线和ROC
PR曲线（Precision-Recall Curve）是一种用于评估分类模型性能的图形化工具。它以Precisio（精确率）为纵轴，Recall（召回率）为横轴，绘制了分类器在不同阈值下的性能变化情况。PR曲线越趋近于图像的右上角（即(1,1)点），表示模型越能同时获得高精确率和高召回率。
2023-10-23 21:37:06
198
原创 KNN算法
给定一个已知标签类别的训练数据集，输入没有标签的新数据后，在训练数据集中找到与新数据最邻近的k个实例，如果这k个实例的多数属于某个类别，那么新数据就属于这个类别。给定一个训练数据集，包含了一组已知的样本和对应的标签。c.根据这k个邻居的标签，通过投票或求平均数的方式确定测试样本的分类或回归结果。a.计算测试样本与每个训练样本之间的距离（可以使用欧氏距离、曼哈顿距离等）；相似的样本具有相似的标签。通过选择邻近的训练样本的标签，可以推断出测试样本的标签。当k的范围改变，绿色圆点会有不一样的类别。
2023-10-09 21:23:31
64
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人