![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
百里驰
这个作者很懒,什么都没留下…
展开
-
线性回归学习笔记
一、线性回归模型定义按变量数据可以分为:一元线性回归和多元线性回归。一元线性回归模型可以表示如下:y = \beta_0 + \beta_1x + \epsilon公式中参数解释如下:x :自变量y :因变量β 0:截距β 1:变量回归系数ϵ :误差项的随机变量 ,假设服从正态分布(β 0 +β 1 x)反映了由x变化引起的y线性变化。多元回归模型表示如下:写成向量:...原创 2019-08-07 16:41:48 · 1232 阅读 · 0 评论 -
逻辑回归学习笔记
逻辑回归学习笔记一、逻辑回归与线性回归的联系与区别logistic回归仍是线性模型的一种,属于广义的线性回归(对数线性)。区别:线性回归用于回归预测,通常不用于分类;Logistic回归则是分类问题的首选算法,狭义理解为二分类;多分类为Softmax回归,为广义的逻辑回归。Softmax回归自由度为(k−1)∗n(k-1)*n(k−1)∗n,k代表有k个参数,则当k=2时(如两个参数...原创 2019-08-09 20:56:06 · 484 阅读 · 0 评论 -
决策树算法梳理
一、信息论基础1.1 信息熵信息熵与热力学中的熵不一样,是表示随机变量不确定性的度量。熵值越大,不确定程度越大,也就是说明所含信息越多;相反,熵值越小,不确定程度越小,也就是说明所含信息越小;在决策树的应用中,熵用来衡量样本的纯度,熵越小,样本越纯,表明分类的效果越好公式:H(X)=∑xp(x)∗logp(x)H(X) = \sum_{x}p(x)*\log{p(x)}H(X)=∑xp(...原创 2019-08-12 03:31:10 · 280 阅读 · 0 评论