![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 81
iamGaffeyZ
c#,Java,html,js,c++,金融
展开
-
【线性回归】为何线性回归误差要服从高斯分布?
这是我学习的博客Vibe,针对个人学习进行补充。 线性回归笔处理方便。大多数误差经过测量被证实是服从高斯分布的。说明高斯分布对误差假设来说是一种很好的模型。“中心极限定理” :是数理统计学和误差分析的理论基础。要注意的是在自然界与生产中,一些现象受到许多相互独立的随机因素的影响,如果每个因素所产生的影响都很微小时,总的影响可以看作是服从正态分布的。中心极限定理就是从数学上证明了这一现象 。原创 2015-02-22 13:56:50 · 4204 阅读 · 0 评论 -
【线性回归笔记】局部加权回归
【问题】线性回归就是为了预测,我们需要知道大量训练数据并全部加入运算计算出合适的拟合函数,但如果我们的目标是只需要X0一处或几处的值,且计算能力有限无法支持全部数据量的运算,也就是全局线性回归无法实现,那么该怎么办呢? 【方法】这时我们就需要一种即时处理手段:局部加权回归——是利用未知点附近的一小片已知点进行线性拟合。 - 取X0附近一小片点集((x(1),y(1)),(x(2),y(2)),.转载 2015-02-22 15:59:48 · 715 阅读 · 0 评论 -
线性回归和逻辑回归的区别
线性回归:根据几组已知数据(x(1),y(1)),(x(2),y(2)),...,(x(i),y(i)),...,(x(n),y(n)){(x^{(1)},y^{(1)}),(x^{(2)},y^{(2)}),...,(x^{(i)},y^{(i)}),...,(x^{(n)},y^{(n)})}和拟合函数hθ(x)=θTxh_θ(x)=θ^Tx训练其中未知参数θ=[θ1,θ2,...,θi,...原创 2015-02-18 18:48:04 · 11680 阅读 · 3 评论 -
【逻辑回归笔记】牛顿法
【问题描述】上节课内容是逻辑回归,计算θθ有更好的方法,比如牛顿法,它比梯度上升算法快很多。【方法】 - 求找到一个θθ,使得f(θ)=0f(θ)=0. f′(θ(0))=f(θ(0))Δf'(θ^{(0)})=\frac{f(θ^{(0)})}{\Delta} Δ=f(θ(0))f′(θ(0))\Delta=\frac{f(θ^{(0)})}{f'(θ^{(0)})} θ(1)=θ(0转载 2015-02-22 21:16:53 · 752 阅读 · 0 评论 -
多元正态分布
百度了很多,终于弄清楚了。 设随即向量x=(x1,x2,...xn)Tx=(x_1,x_2,...x_n)^T,其概率密度函数为f(x1,x2,...,xn)=f(x_1,x_2,...,x_n)=(2π)−n/2|∑|−1/2exp[−12(x−μ)T∑−1(x−μ)](2π)^{-n/2}|\sum|^{-1/2}exp[-\frac12(x-μ)^T{\sum}^{-1}(x-μ)] x1转载 2015-02-24 19:43:05 · 829 阅读 · 2 评论