自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(12)
  • 收藏
  • 关注

原创 BP神经网络算法原理-bp神经网络模型-bp神经网络代码matlab-学习笔记

matlab提供了一个工具箱来实现BP神经网络,bp神经网络模型matlab工具箱还提供了非常多的训练算法,不过默认一般使用trainlm算法。BP神经网络的原理就像下面的图一样,模仿人的大脑的原理,把看到的东西作为输入,然后经过大脑,最后作为输出。在学习一段时间后,开始有些知识有些遗忘,所以整理一下,作为自己的学习笔记,以及帮助其他人学习。这是一个只有一个隐层的BP神经网络(加上输入层、输出层,称为三层BP神经网络),在代码中我们用到newff函数,train函数,sim函数,具体的意义可以参考。

2024-04-20 16:19:16 1588

原创 逻辑回归模型-逻辑回归算法原理-逻辑回归代码与实现-笔记整合

逻辑回归模型(Logistic Regression)包含了二元逻辑回归和多元逻辑回归,二元逻辑回归用来解决二分类问题,多元逻辑回归用来解决多分类问题。多元逻辑回归属于二元逻辑回归的拓展,但二元逻辑回归用得最多,学习应先从二元逻辑回归开始。多元逻辑回归在需要时可以选择性学习。一般所说的逻辑回归都是指二元逻辑回归,本文的逻辑回归也是指二元逻辑回归。

2024-04-16 09:56:32 1472

原创 【探讨】Sklearn内部怎么算出AUC的

AUC(Area Under Curve)即曲线下面积,主要用于二分类模型的评价。它是从所有正样本中随机选取一个样本,再从所有负样本中随机选取一个样本,然后根据你的学习器对这两个随机样本预测得到的正样本概率大于负样本概率的概率,就是 AUC 值。AUC值越大的分类器,正确率越高。AUC值是一个概率值,当你随机挑选一个正样本以及一个负样本,当前的分类算法根据计算得到的Score值将这个正样本排在负样本前面的概率就是AUC值。AUC值越大,当前的分类算法越有可能将正样本排在负样本前面,即能够更好的分类。

2023-12-11 00:06:44 1532 1

原创 【探讨】逻辑回归为什么不用mse损失函数

逻辑回归是一种二分类算法,用来解决二分类的问题。逻辑回归模型的输出是一个概率值,表示样本属于目标类的概率。它通过判断数据属于某一类的概率值大小,来决定该数据判为哪一类。在实际应用中,逻辑回归模型可以用于数据挖掘、疾病自动诊断、经济预测等领域。例如,通过逻辑回归模型可以预测小贷中的逾期概率,并根据审批阈值来确定是否对客户授信等等。在模型定义中,逻辑回归通过sigmoid函数将线性回归的输出转换为一个概率值。

2023-12-08 19:01:41 1334

原创 【探讨】如何理解BP神经网络是黑箱模型

P神经网络之所以被称为黑箱,是因为它们的内部机制通常很难解释。神经网络通常由许多层神经元组成,每个神经元都执行一些数学运算,并将结果传递到下一层。这些层之间的复杂交互很难解释,因为每个神经元的作用取决于许多因素,包括其输入和其连接的其他神经元的权重。当神经网络接收输入并生成输出时,中间的过程通常很难理解。这是因为神经网络的决策是通过一系列复杂的数学运算得出的,这些运算往往涉及许多隐藏层和节点,其中每个节点都可能对最终结果产生影响。而且,神经网络的学习过程也是一个黑箱,当神经网络被训练时,会通过调整其内部参数

2023-12-07 19:44:05 2672

原创 【解决】决策树过拟合怎么办

决策树过拟合的解决方法有以下几种:剪枝:剪枝是一种常用的解决决策树过拟合问题的方法。它通过去掉一些不必要的节点来降低模型复杂度,从而避免过拟合。具体来说,剪枝分为预剪枝和后剪枝两种方式.预剪枝是在构建决策树时,在每个节点处判断是否应该继续分裂。如果当前节点无法提高模型性能,则停止分裂,将当前节点标记为叶子节点。这样可以有效地减少模型复杂度,避免过拟合.后剪枝则是在构建完整个决策树之后,对树进行修剪。具体来说,它通过递归地考虑每个非叶子节点是否可以被替换成叶子节点来达到降低模型复杂度、避免过拟合的

2023-12-05 19:45:39 1270 1

原创 【推荐】有哪些冷门又实用的机器学习算法

最近学习时,发现有许多冷门的机器学习算法,却超实用。隔离森林(Isolation Forest):这是一种用于异常检测的算法,适用于高维数据。它通过随机切分数据空间来隔离观察结果,使得异常观察结果更容易被识别。

2023-12-04 23:36:12 1540

原创 【讲解】RBF神经网络有什么用

RBF神经网络的应用广泛,可以在许多场合中应用,例如非线性函数逼近、时间序列分析、数据分类、模式识别、信息处理、图像处理、系统建模、控制和故障诊断等。RBF神经网络可以解决如下问题:特征提取:RBF神经网络可以用于从原始数据中提取有用的特征。通过训练,网络可以学习到数据的内在结构和关系,并从中提取出有代表性的特征。分类和识别:RBF神经网络可以用于分类和识别任务。通过训练,网络可以学习到不同类别之间的差异,并用于对新的未知数据进行分类或识别。

2023-12-03 21:57:53 4153 1

原创 【探讨】决策树与随机森林的关系

随机森林是一种集成学习算法,它由多棵决策树组成,每棵树都从原始数据集中随机选取样本并构建而成。每棵决策树都独立地做出分类或回归预测,然后随机森林通过投票或平均值来组合每棵树的预测结果,从而产生最终的分类或回归结果。决策树是一种树形结构的分类或回归模型,它通过递归地将数据集划分成若干个子集来构建模型。决策树的每个内部节点表示一个特征或属性,每个分支代表一个决策规则,每个叶节点表示一个类别或回归值。决策树具有直观的优点,易于理解和解释,但容易受到噪声数据和过拟合的影响。

2023-12-02 19:47:36 1378 1

原创 怎么画出决策树-两种决策树的可视化方法

策树模型是一种常用于研究类别归属和预测关系的模型。在决策树中,每个非叶节点表示一个特征属性上的测试,每个分支代表这个特征属性在某个值域上的输出,而每个叶节点存放一个类别。使用决策树进行决策的过程就是从根节点开始,测试待分类项中相应的特征属性,并按照其值选择输出分支,直到到达叶子节点,将叶子节点存放的类别作为决策结果。

2023-12-01 21:43:07 5916

原创 【问答】逻辑回归是有监督还是无监督学习

有监督学习就是样本有Y标签,根据Y来训练模型的输出,一般会有损失函数,有监督学习比较常见,例如回归模型,分类模型等等。无监督学习就是样本没有Y标签,由于没有Y标签,所以难度要大一些,但有一些样本就是无法采集到Y标签,所以只能采用无监督学习算法。无监督学习的经典模型是聚类模型。

2023-11-29 20:30:41 1811

原创 逻辑回归是线性还是非线性

逻辑回归模型是一种分类模型,属于广义的线性回归模型。它也是一种判别模型,由条件概率P(Y|X)表示。二项逻辑回归中,随机变量X取实数,Y的取值为1或者0。逻辑回归模型简单高效,在实际应用中非常广泛,例如预测一个用户是否点击广告,判断用户性别等。逻辑回归模型如下:在逻辑回归模型中,引入了sigmoid函数,它可以将取值在(-R,R)的变量映射到(0,1)之间。

2023-11-29 19:39:15 1086 1

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除