概率论与数理统计
文章平均质量分 76
Kelisita
别再抱怨东西太难,只是自己不会,仅此而已
展开
-
全概率公式和贝叶斯公式
看了一些PPT,终于明白了全概率公式的含义(其实我是脑残),总会把东西想复杂化先来概述一下前期接触到的概率公式:(1)加法公式:P(A+B) = P(A) + P(B) - P(AB)(2)减法公式:P(A-B) = P(A) - P(AB)(3)乘法公式:P(AB) = P(A)*P(B|A)(4)全概率公式 P(A) = P(B1)*P(A|B1) + P(B2)*P原创 2016-09-10 19:18:01 · 40153 阅读 · 5 评论 -
概率统计与机器学习:极大后验概率以及正则化项
先验概率概念:本质上就是古典概型,是利用当前状态对求解状态的一种概率估计,可以理解为“由 因求果”中“因”出现的概率。条件: (1)实验所有的可能结果是有限的; (2) 每一种出现的结果的概率是等可能的举例:假设有一个根据身高H和衣服颜色饱和度S两个参数的模型来估计一个人是男的还是女的性别识别系统 模型:y=w1∗H+w2∗S+by = w_{1}*H + w_{2}*S+b,原创 2017-07-24 23:53:06 · 3148 阅读 · 3 评论 -
概率统计与机器学习:常见分布性质总结
常见分布正态分布来源:中心极限定理 定义:大量独立的随机变量之和趋向于正态分布(高斯分布)前提:样本之间相互独立公式:p(x)=12π√σexp(−(x−μ)22σ2) p(x) = \frac{1}{\sqrt{2\pi}\sigma}\exp (- \frac{(x-\mu )^{2}}{2\sigma ^{2}}) 图示: 可以看出期望 μ\mu 代表了正态分布的偏移量(位置);原创 2017-07-10 16:05:39 · 7292 阅读 · 0 评论 -
概率统计与机器学习:期望,方差,数学期望,样本均值,样本方差之间的区别
1.样本均值:我们有n个样本,每个样本的观测值为Xi,那么样本均值指的是 1/n * ∑x(i),求n个观测值的平均值2.数学期望:就是样本均值,是随机变量,即样本数其实并不是确定的 PS:从概率论的角度而言:样本指的是我们现在有多少东西需要去观测,它是一种随机变量,即样本的多少是不确定 的,...原创 2017-07-09 14:21:27 · 59924 阅读 · 9 评论 -
概率统计与机器学习:机器学习常见名词解释(过拟合,偏差方差)
过拟合,欠拟合过拟合和欠拟合 仍旧以线性回归举例,f(x,w)=w1x1+w2x2...wnxnf(x,w) = w_{1}x_{1} + w_{2}x_{2}...w_{n}x_{n} 我们要在损失函数最小的情况下得到权值wE=∑Ni=1(yi−f(x,w))2E = \sum_{i=1}^{N} (y_{i} - f(x,w))^{2} 但是阶数N也是需要考虑的,比如一阶就是一条线,特原创 2017-07-31 17:34:04 · 1032 阅读 · 0 评论 -
概率统计与机器学习:独立同分布,极大似然估计,线性最小二乘回归
独立同分布独立性概念:事件A,B发生互不影响公式:P(XY)=P(X)P(Y)P(XY)=P(X)P(Y) , 即事件的概率等于各自事件概率的乘积举例: 正例:两个人同时向上抛硬币,两个硬币均为正面的概率反例:狮子在某地区出现的概率为X,老虎出现概率为Y,同时出现的概率并不满足P(XY)=P(X)P(Y)P(XY)=P(X)P(Y) ,因为老虎在的地方一般不会有狮子。同分布概念:随机变原创 2017-07-15 10:01:49 · 5123 阅读 · 0 评论