![](https://img-blog.csdnimg.cn/20201014180756913.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
flyrzl
这个作者很懒,什么都没留下…
展开
-
机器学习算法梳理(二):逻辑回归
逻辑回归与线性回归的关系二者都属于监督学习算法。但是线性回归解决回归问题,逻辑回归解决分类问题。求代价函数最优值时都可以用到梯度下降法,虽然更新规则看起来相同,但由于假设的定义不同,所以其实是完全不同的两个过程。原理类似线性回归。首先有一个预测函数,然后构造损失函数,求和得代价函数,然后采用一些方法求代价函数最小值。解决分类问题,输出值永远在0-1之间。假设函数:...转载 2019-05-13 21:19:57 · 137 阅读 · 0 评论 -
机器学习算法梳理(三):决策树
信息论基础熵:表示随机变量的不确定性。H(X) = -Σp(x)lnp(x)联合熵:两个随机变量X,Y的联合分布,可以形成联合熵(Joint Entropy)。H(X, Y) = -Σp(x, y) lnp(x, y)条件熵:表示在已知随机变量 X 的条件下随机变量 Y 的不确定性。H(Y|X)=H(X,Y)−H(X)信息增益:在一个条件下,信息不确定性减少的程度。信息增益 =...转载 2019-05-16 21:21:49 · 164 阅读 · 0 评论 -
机器学习算法梳理(一):基础扫盲&线性回归
基础扫盲监督学习:训练数据有标记信息的学习典型问题有回归、分类。无监督学习:训练数据没有标记信息的学习典型问题有聚类。泛化能力:学得模型适用于新样本的能力训练样本越多,就越有可能获得强泛化能力模型。“偏差-方差分解”(bias-variance decomposition)是解释泛化性能的一种重要工具。偏差(bias):预测输出与标记间的差。描述算法本身...原创 2019-05-12 19:13:01 · 169 阅读 · 0 评论