![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 74
gaochang21
这个作者很懒,什么都没留下…
展开
-
先验概率、后验概率、似然函数
以下以因果关系来刻画先验概率、后验概率以及似然概率的关系。 先验概率:根据经验得到的结果的概率(已知结果); 后验概率:在知道原因的情况下,求结果发生的概率(执因求果); 似然概率:知道结果的情况下,求最可能导致结果发生的原因(知果求因);举个例子: 已知车祸有一定概率会导致堵车,此处车祸是因,堵车是果。 P(堵车) 是先验概率。 P(堵车|车祸)是后验概率。 我们有以下三个随机事件原创 2017-10-24 21:37:59 · 1988 阅读 · 0 评论 -
贝叶斯线性回归
本文主要是根据笔者对@Duaaxx关于贝叶斯回归的博客的笔记。建议阅读原文,质量非常高。最大似然与最大后验确定概率密度分布需要知道两个参数:概率密度模型 以及 模型参数。也即在估计概率密度分布的时候不仅仅是对参数的估计,首先需要确定模型,然后才是参数估计。最大似然与最大后验的区别: 最大似然把模型参数θ作为一个位置且固定的数,我们需要做的是算出这个固定的值,这里的θ本身不是一个概率分布。 最原创 2017-11-08 16:08:40 · 407 阅读 · 0 评论 -
梯度下降法
梯度下降分类批梯度下降法(BGD):使用整个数据集所有的样本得到的loss对每个参数进行更新;随机梯度下降法(SGD):使用一个数据样本得到loss对每个参数更新;小批量梯度下降法(MBGD):使用M个样本得到的loss对每个参数更新; 注意:对于所有的梯度下降方法,如果问题不是凸问题那么所有的方法都有可能陷入局部最小值,不一定能得到全局最优值。批梯度下降法定义:批梯度下降法首先对数据集原创 2017-10-24 20:53:11 · 263 阅读 · 0 评论 -
组合模型——Tree models、Boosting、 Committee
组合模型简介组合模型产生的原因 组合模型产生的原因是现有的简单的模型的表达能力不够,不能对复杂的问题进行很好的建模(拟合),比如简单的线性模型很难对复杂的非线性函数进行拟合。组合模型的作用 组合模型的作用就是通过“组合”的方式把模型变得更为复杂(增加模型复杂度),从而能够有更好的表达能力。组合模型的作用方式 组合模型的主要形式有tree model、boosting以及models av原创 2017-11-10 21:01:00 · 2428 阅读 · 1 评论 -
机器学习/深度学习小问题
数据预处理1、为什么数据进行零中心化处理?2、为什么数据进行归一化处理? 答:在一些实际问题中,我们得到的样本数据都是多个维度的,即一个样本是用多个特征来表征的。比如在预测房价的问题中,影响房价 Y 的因素有房子面积X1、卧室X2数量等,我们得到的样本数据就是这样一些样本点,这里的(X1,X2)又被称为特征。很显然,这些特征的量纲和数值得量级都是不一样的,在预测房价时,如果直接使用原始的数据值,那转载 2017-11-04 10:02:13 · 369 阅读 · 0 评论