- 博客(6)
- 收藏
- 关注
原创 机器学习-Logistic回归
目录一、Logistic回归概述1.利用Logistic回归进行分类的主要思想: 2.Logistic回归的优缺点及适用范围:3.Logistic回归的一般流程:4.分类器的函数形式: 5.梯度上升:二、Logistic回归1.数据集介绍:2.使用梯度上升找到最佳参数:3.画出决策边界:4.随机梯度上升: 5.完整代码: 根据现有数据对分类边界线建立回归公式,以此进行分类。优点:计算代价不高,易于理解和实现。缺点:容易欠拟合,分类精度可能不高。适用数据类型:数值型和标称型数据。(1)收集数据(
2022-12-07 17:36:42
550
1
原创 机器学习-使用朴素贝叶斯过滤垃圾邮件
贝叶斯方法是以贝叶斯原理为基础,使用概率统计的知识对样本数据集进行分类。贝叶斯分类算法在数据集较大的情况下表现出较高的准确率,同时算法本身也比较简单。贝叶斯方法的特点是结合先验概率和后验概率,即避免了只使用先验概率的主观偏见,也避免了单独使用样本信息的过拟合现象。朴素贝叶斯算法是应用最为广泛的分类算法之一,它在贝叶斯算法的基础上进行了相应的简化,即假定给定目标值时属性之间相互条件独立。也就是说没有哪个属性变量对于决策结果来说占有着较大的比重,也没有哪个属性变量对于决策结果占有着较小的比重。
2022-11-29 17:23:04
1418
原创 机器学习-决策树(二)--树的剪枝
1.什么是剪枝?通过降低决策树的复杂度来避免过拟合的过程称为剪枝。2.为什么要剪枝?决策树算法在学习的过程中为了尽可能正确的分类训练样本,不停地对结点进行划分,因此这会导致整棵决策树的分支过多,也就导致了过拟合。所以我们可通过“剪枝”来一定程度避免因决策分支过多,以致于把训练集自身的一些特点当做所有数据都具有的一般性质而导致的过拟合。
2022-11-24 02:14:40
2062
原创 机器学习-决策树(一)
分类决策树模型是一种描述对实例进行分类的树形结构。决策树由结点和有向边组成。结点有两种类型:内部结点和叶节点。内部结点表示一个特征或属性,叶节点表示一个类。如:上图中长方形代表判断模块,椭圆形代表终止模块,表示已经得出结论,可以终止运行。从判断模块中引出的箭头是分支,它可以到达另一个模块。优点:计算复杂度不高,数据形式容易理解,对中间值的缺失不敏感,可以处理一些不相关的特征数据。缺点:可能会产生过度匹配的问题。适用数据类型:数值型和标称型。二、决策树的构造。
2022-11-14 20:35:35
729
原创 机器学习-K近邻算法
所谓K近邻算法,即是给定一个训练数据集,对新的输入实例,在训练数据集中找到与该实例最邻近的K个实例, 这K个实例的多数属于某个类,就把该输入实例分类到这个类中。优点:数学基础低、精度高、对异常值不敏感、无数据输入假定。缺点:计算复杂度高、空间复杂度高。适用数据范围:数值型和标称型。
2022-11-05 02:25:04
702
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人