机器学习
文章平均质量分 90
botf201802
这个作者很懒,什么都没留下…
展开
-
逻辑回归模型-逻辑回归算法原理-逻辑回归代码与实现-笔记整合
逻辑回归模型(Logistic Regression)包含了二元逻辑回归和多元逻辑回归,二元逻辑回归用来解决二分类问题,多元逻辑回归用来解决多分类问题。多元逻辑回归属于二元逻辑回归的拓展,但二元逻辑回归用得最多,学习应先从二元逻辑回归开始。多元逻辑回归在需要时可以选择性学习。一般所说的逻辑回归都是指二元逻辑回归,本文的逻辑回归也是指二元逻辑回归。原创 2024-04-16 09:56:32 · 1696 阅读 · 0 评论 -
【探讨】Sklearn内部怎么算出AUC的
AUC(Area Under Curve)即曲线下面积,主要用于二分类模型的评价。它是从所有正样本中随机选取一个样本,再从所有负样本中随机选取一个样本,然后根据你的学习器对这两个随机样本预测得到的正样本概率大于负样本概率的概率,就是 AUC 值。AUC值越大的分类器,正确率越高。AUC值是一个概率值,当你随机挑选一个正样本以及一个负样本,当前的分类算法根据计算得到的Score值将这个正样本排在负样本前面的概率就是AUC值。AUC值越大,当前的分类算法越有可能将正样本排在负样本前面,即能够更好的分类。原创 2023-12-11 00:06:44 · 1723 阅读 · 1 评论 -
【解决】决策树过拟合怎么办
决策树过拟合的解决方法有以下几种:剪枝:剪枝是一种常用的解决决策树过拟合问题的方法。它通过去掉一些不必要的节点来降低模型复杂度,从而避免过拟合。具体来说,剪枝分为预剪枝和后剪枝两种方式.预剪枝是在构建决策树时,在每个节点处判断是否应该继续分裂。如果当前节点无法提高模型性能,则停止分裂,将当前节点标记为叶子节点。这样可以有效地减少模型复杂度,避免过拟合.后剪枝则是在构建完整个决策树之后,对树进行修剪。具体来说,它通过递归地考虑每个非叶子节点是否可以被替换成叶子节点来达到降低模型复杂度、避免过拟合的原创 2023-12-05 19:45:39 · 1387 阅读 · 1 评论 -
【推荐】有哪些冷门又实用的机器学习算法
最近学习时,发现有许多冷门的机器学习算法,却超实用。隔离森林(Isolation Forest):这是一种用于异常检测的算法,适用于高维数据。它通过随机切分数据空间来隔离观察结果,使得异常观察结果更容易被识别。原创 2023-12-04 23:36:12 · 1605 阅读 · 0 评论 -
怎么画出决策树-两种决策树的可视化方法
策树模型是一种常用于研究类别归属和预测关系的模型。在决策树中,每个非叶节点表示一个特征属性上的测试,每个分支代表这个特征属性在某个值域上的输出,而每个叶节点存放一个类别。使用决策树进行决策的过程就是从根节点开始,测试待分类项中相应的特征属性,并按照其值选择输出分支,直到到达叶子节点,将叶子节点存放的类别作为决策结果。原创 2023-12-01 21:43:07 · 6812 阅读 · 0 评论 -
【问答】逻辑回归是有监督还是无监督学习
有监督学习就是样本有Y标签,根据Y来训练模型的输出,一般会有损失函数,有监督学习比较常见,例如回归模型,分类模型等等。无监督学习就是样本没有Y标签,由于没有Y标签,所以难度要大一些,但有一些样本就是无法采集到Y标签,所以只能采用无监督学习算法。无监督学习的经典模型是聚类模型。原创 2023-11-29 20:30:41 · 2023 阅读 · 0 评论 -
逻辑回归是线性还是非线性
逻辑回归模型是一种分类模型,属于广义的线性回归模型。它也是一种判别模型,由条件概率P(Y|X)表示。二项逻辑回归中,随机变量X取实数,Y的取值为1或者0。逻辑回归模型简单高效,在实际应用中非常广泛,例如预测一个用户是否点击广告,判断用户性别等。逻辑回归模型如下:在逻辑回归模型中,引入了sigmoid函数,它可以将取值在(-R,R)的变量映射到(0,1)之间。原创 2023-11-29 19:39:15 · 1217 阅读 · 1 评论