机器学习
KangRoger
这个作者很懒,什么都没留下…
展开
-
《机器学习实战》--Logistic回归
Sigmoid函数 梯度下降法 随机梯度下降 批梯度下降 参考 逻辑回归中的输入和输出是非线性关系,这样可以把输出限定在某一范围内。一个常用的逻辑回归函数为Sigmoid函数Sigmoid函数Sigmoid函数表达式为hθ(x)=g(θTx)=11+e−θxh_\theta(x)=g(\theta^Tx)=\frac{1}{1+e^{-\theta x}}其形状如下: 可以看出,对于给定的任何原创 2016-05-24 23:22:48 · 1398 阅读 · 0 评论 -
《机器学习实战》--k近邻分类算法kNN
介绍kNN全称为k-nearest neighbors,是模式识别中比较简单的一种算法,可以用于分类和回归。使用时,输入的训练样本带有标签,输出根据是用于分类还是回归:分类:分类问题的输出为:找出K个和要预测对象最近邻的样本,这K个样本中,“大多数”属于哪一类即为预测对象的分类标签。回归:回归问题的输出为:找出k个和回归对象最邻近的样本,这k个样本的标签的”平均值“即为要回归对象的标签。算法算法的训原创 2016-05-15 22:15:57 · 1768 阅读 · 0 评论 -
《机器学习实战》--决策树
决策树 熵entropy ID3算法 条件熵 信息增益 补充 特征用完 特征类型 构造终止条件 剪支 参考决策树决策树(Decision Tree)可以使二叉树或多叉树,它是一种分类算法,通过数据构建决策树,可以高效地分类数据。 决策树是树形结构,可以分为分支节点和叶子节点。叶子节点为终止节点,一般可以划分数据类别。构造决策树一般有以下步骤: 1、所有数据都在一个分支节点上。 2、遍历数据所有原创 2016-05-21 23:36:11 · 1279 阅读 · 0 评论 -
《机器学习实战》--朴素贝叶斯
条件概率 朴素贝叶斯分类 例子 参考朴素贝叶斯是基于概率的分类器。条件概率A,B表示两个独立的事件,概率P(A|B)表示事件B发生的情况下,事件A发生的概率。即:P(A|B)=P(AB)/P(B)P(A|B)=P(AB)/P(B)在应用中,常常知道P(A|B),来求P(B|A);即比较容易知道一种情况的概率,以此来请另一种情况的概率:P(A|B)=P(B|A)P(A)/P(B)P(A|B)=P(B|原创 2016-05-23 22:22:24 · 891 阅读 · 0 评论 -
机器学习中的损失函数
平方损失函数 对数损失函数 Hinge损失函数原创 2017-03-01 23:40:38 · 2451 阅读 · 2 评论 -
梯度下降算法总结
梯度下降法:基本梯度下降法、Momentum梯度下降法、Nesterov Momentum梯度下降法、AdaGrad、RMSprop、AdaDelta、Adam原创 2017-03-30 21:54:43 · 2914 阅读 · 0 评论