- 博客(8)
- 收藏
- 关注
RSS订阅原创 机器学习算法——主成分分析
目标函数设数据集X∈Rn×pX∈Rn×pnnn个样本，ppp个特征），目标是将数据投影到kkk维空间（k≪pk\ll pk≪p），且满足：最大方差准则：投影后数据方差最大化（保留信息最多）正交约束：新坐标轴（主成分）彼此正交数据标准化xijxij−μjσjμj1n∑i1nxijσj21n∑i1nxij−μj2xijσjxij。
2025-06-09 15:38:20
634
原创 机器学习算法——支持向量机
是一类按方式对数据进行二元分类的广义线性分类器（Generalized Linear Classifier），其决策边界是对学习样本求解的。支持向量机在各种实际问题上都表现优秀，在手写体识别和人脸识别应用广泛，在文本和超文本分类上，因为可以大量减少标准归纳和转换设置中对标记训练实例的需求，也是举足轻重的存在。另外，支持向量机也被用在图像分类，图像分割系统，在生物学和其他科学上支持向量机也备受青睐。
2025-06-02 22:47:23
659
原创 机器学习算法——Logistic回归
Logistic回归是一种分类算法，尽管其名称中包含“回归”，但它主要用于解决二分类问题。其核心思想是通过线性回归模型结合Sigmoid函数，将线性输出映射到[0,1]区间，从而得到概率值，并基于此进行分类。Sigmoid函数的形式为 ( f(x) = \frac{1}{1+e^{-x}} )，它将线性模型的输出转化为概率。Logistic回归的损失函数为对数损失函数（Log Loss），也称为交叉熵损失，用于衡量模型预测值与真实值之间的差异。通过梯度下降等优化方法，可以找到最优模型参数，从而实现对数据的分
2025-05-19 19:39:41
731
原创 机器学习算法——朴素贝叶斯
虽然这个简化方式在一定程度上降低了贝叶斯分类算法的分类效果，但是在实际的应用场景中，极大地简化了贝叶斯方法的复杂性。是经典的机器学习算法之一，也是为数不多的基于概率论的分类算法。指在事件发生后得到的“修正”概率，即通过事件发生后得到的数据计算出的概率。，是指在某个参数或假设成立的前提下，观察到的当前数据的概率。贝叶斯定理将先验概率转化为后验概率，即使用所谓“以往的经验”去计算“新数据更新后的结果”。由分类结果可得，样本“test1”的类别为“好瓜”，即其标签“好瓜”的取值为“是”。
2025-05-04 14:32:40
950
原创 机器学习算法——决策树
决策树（Decision Tree）是一种以树形结果展示决策规则和分类结果的模型。作为一种归纳算法模型，它可以从看似无序、杂乱的数据中提取出数据分类的规律，并用其进行新数据分类或预测。决策树可被用于解决分类和回归问题。例如：通过一个西瓜的多种特征，如其纹理、色泽、触感，等判断其是否是好瓜；或通过一天的天气情况，如是否晴天、风力大小、空气湿度等，判断这一天是否适合进行户外运动等。
2025-04-21 17:49:33
1173
原创 机器学习模型评估
现实任务中，我们经常面对多模型选择的难题：同一个问题，有不同的模型可供选择，甚至对同一种模型使用不同的参数配置，也会使模型的性能产生不同的变化。**ROC曲线（Receiver Operating Characteristic Curve）**是以TPR为纵轴，FPR为横轴，通过调整分类阈值，获取不同阈值下的TPR和FPR值，并将其各点连线而成的曲线。最后得到的评估数据即为k次评估的均值。对学习器的泛化性能进行评估，不仅需要有效可行的实验估计方法,还需要有衡量模型泛化能力的评价标准，这就是性能度量的意义。
2025-04-07 19:49:04
721
原创 机器学习算法——k-近邻算法
k-近邻算法（k-Nearest Neighbor Alogorithm，后简称kNN算法）是机器学习算法中最基础也最简单的算法之一。它是有监督学习中的分类算法，可以用于分类数据和预测结果，通常被用于分类。
2025-03-23 15:59:54
1113
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人