机器学习
文章平均质量分 88
分享机器学习的内容
没李不邢
分享学习内容
展开
-
机器学习-梯度下降算法
4.3.3梯度的计算梯度下降在机器学习中应用十分的广泛,不论是在线性回归还是逻辑回归中,梯度就是表示某一函数在该点处的方向导数沿着该方向取得最大值即函数在该方向的导数,它的主要目的是通过迭代找到目标函数的最小值,或者收敛到最小值。本文将从一个下山的场景开始,先提出梯度下降算法的基本思想,进而从数学上解释梯度下降算法的原理,解释为什么要用梯度,最后实现一个简单的梯度下降算法的实例。梯度下降法的基本思想可以类比为一个下山的过程。假设这样一个场景:一个人被困在山上,需要从山上下来(找到...原创 2021-11-21 16:07:00 · 1286 阅读 · 0 评论 -
机器学习-感知机
5.4 学习分类5.4.1 什么是分类我们知道数据研究的基础是给数据“贴标签”进行分类。类别分得越精准,我们得到的结果就越有价值。分类是一个有监督的学习过程,有监督的意思就是目标数据库中的相关数据的类别是已知的,分类过程需要做的就是把每一条记录归到对应的类别之中。由于必须事先知道各个类别的信息,并且所有待分类的数据条目都默认有对应的类别,因此分类算法也有其局限性,当上述条件无法满足时,我们就需要尝试聚类分析。而聚类就是一个无监督的学习过程,即目标数据库中的相关数据的类别是未知的,需要自行给这些数据分原创 2021-11-21 15:46:01 · 1007 阅读 · 1 评论 -
机器学习-逻辑回归
5.5 逻辑回归上次讲到了感知机,感知机的最大缺点就是只能解决线性可分的问题,即只能使用直线分类的情况。所以,感知机也被称为简单感知机或者是单层感知机,虽然单层感知机很弱,但是多层感知机就是我们所熟悉的神经网络了,所以感知机也是学习分类的基础。既然感知机不能用于线性不可分的问题,那么有什么方法能解决线性不可分问题呢?那么就引入了这个小节我们要讲的内容,即逻辑回归。虽然叫逻辑回归,实际上它做的是分类的问题,主要是用于二分类,即只分为两类,是某个事物或者不是某个事物。而逻辑回归不同于感知机之处在于,逻辑原创 2021-11-24 17:46:34 · 1150 阅读 · 1 评论 -
机器学习-模型评估
5.6模型的评估构建模型很重要,模型的评估同样非常重要,模型的评估就是判断拟合出来的模型是否优秀。在很多情况下,比如多维度的时候,我们是很难直观的判别模型的好坏(正确性或者是精度),那我们应该怎样来判别呢?在低维度的时候最简单的方法就是观察函数图形,观察函数图形是否很好的拟合了训练数据,如图5-6-1所示:图5-6-1但在高维度的问题中不能直观的在图上画出来,所以这个方法也就不可行了。既然不能用图形来表示高维度的问题,那我们需要定量的表示模型的精度,这就是我们通常意义下的模型的评原创 2021-11-28 18:34:16 · 1084 阅读 · 0 评论 -
机器学习-正则化
5.7正则化上次我们提到模型对训练数据过度的优化拟合,使模型能够很好的对训练数据进行拟合,但却对测试数据的预测或者分类效果很差,这种状态被称为过拟合。一般过度增加函数的次数会导致过拟合的情况。我们有哪些方法可以避免过拟合的情况呢?一般情况下:增加全部训练数据的训练量 使用简单的模型 正则化我们知道机器学习是从数据中学习的,所以足够的训练数据最重要。其次简单的模型也有助于防止过拟合的情况。我们现在需要着重介绍的是正则化的方法:首先我们要理解使用正则化产生的效果。我们知道无论回归还是分类,参数原创 2021-12-05 14:54:13 · 783 阅读 · 0 评论