- 博客(4)
- 收藏
- 关注
RSS订阅原创 逻辑回归
逻辑回归是一个分类算法，它可以处理二元分类以及多元分类。模型sigmoid 函数在介绍逻辑回归模型之前，我们先引入sigmoid函数，其数学形式是：对应的函数曲线如下图所示：从上图可以看到sigmoid函数是一个s形的曲线，它的取值在[0, 1]之间，在远离0的地方函数的值会很快接近0/1。决策函数一个机器学习的模型，实际上是把决策函数限定在某一组条件下，这组限定条件就决定了模型的...
2019-04-05 09:18:15
155
原创 机器学习之决策树
树形模型是一个一个特征进行处理，之前线性模型是所有特征给予权重相加得到一个新的值。决策树与逻辑回归的分类区别也在于此，逻辑回归是将所有特征变换为概率后，通过大于某一概率阈值的划分为一类，小于某一概率阈值的为另一类；而决策树是对每一个特征做一个划分。另外逻辑回归只能找到线性分割（输入特征x与logit之间是线性的，除非对x进行多维映射），而决策树可以找到非线性分割。三个步骤：特征选择，决策树的生成...
2019-04-05 09:09:06
137
原创 KNN算法
KNN方法既可以做分类，也可以做回归KNN算法的三要素是k值的选取，距离度量的方式和分类决策规则选择较小的k值会减小误差KNN算法之KD树实现原理：KD树算法第一步是建树，第二部是搜索最近邻，最后一步是预测构建kd树的具体步骤为： 1）找到划分的特征2）确定划分点（7,2）。 3）确定左子空间和右子空间。4）用同样的办法划分左子树的节点{(2,3),(5,4),(4,7)}和...
2019-03-31 09:59:43
189
原创 **机器学习之线性回归**
线性回归的定义是：目标值预期是输入变量的线性组合。线性模型形式简单、易于建模，但却蕴含着机器学习中一些重要的基本思想。线性回归，是利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法，运用十分广泛。 那么通过一条直线把这个关系描述出来，叫线性关系 如果是一条曲线，那么叫非线性关系对于线性回归的损失函数，我们常用的有两种方法来求损失函...
2019-03-31 09:38:29
1183
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人