2016年11月_Eric2016_Lv

12月 11月 10月 09月

原创机器学习小组知识点21：卡方分布（Chi-Square Distribution）

定义：如果我们的随机变量是标准正态分布（详见以前博客的高斯分布），那么多个随机变量的平方和服从的分布即为卡方分布。 X=Y21+Y22+⋯+Y2nX = Y_1^2+Y_2^2+\cdots +Y_n^2 其中，Y1,Y2,⋯,YnY_1,Y_2,\cdots,Y_n均为服从标准正态分布的随机变量，那么XX服从卡方分布，值得注意的是其中的nn即随机变量的个数成为卡方分布的自由度。概率密度函数fk

2016-11-30 17:22:48 3220

原创机器学习小组知识点20：EM算法（Expectation - Maximization）

EM算法用途：参数估计。用于多种模型，思路简单，但用处很广。EM算法所需知识：凸集凸函数 Jensen不等式极大似然估计概率相关知识手写笔记（Rachel Zhang）之所以用图片，第一是因为看到女神的笔记，真的不能拒绝；第二是自己也想手写，因为公式太多了，然而没想到竟然与女神想到一块儿去了^_^~ 备注：图片来源于迪哥女神 Rachel Zhan

2016-11-24 21:51:18 1052

原创机器学习小组知识点19：贝塔分布（Beta Distribution）

请点击以下链接进行下载

2016-11-23 15:46:03 2605 1

原创机器学习小组知识点18：伽马分布（Gamma Distribution）

请点击以下链接下载或者见百度云盘：下载密码：093g致谢：感谢上海交通大学教师肖凯博士为大家搭建的机器学习平台，致敬！

2016-11-22 23:56:41 4946

原创机器学习小组知识点17：对数正态分布（Logarithmic Normal Distribution）

这块儿我是真的没听说过，所以直接抄了维基百科，维基万岁！概率密度函数在概率论与统计学中，对数正态分布是对数为正态分布的任意随机变量的概率分布。如果 XX 是正态分布的随机变量，则 exp(X)exp(X) 为对数正态分布；同样，如果Y Y 是对数正态分布，则 ln(Y)ln(Y) 为正态分布。如果一个变量可以看作是许多很小独立因子的乘积，则这个变量可以看作是对数正态分布。一个典型的例子是股票投资的

2016-11-22 15:27:21 18420 1

原创机器学习小组知识点16：指数分布（Exponential Distribution）

试用环境指数分布是事件的时间间隔的概率。下面这些都属于指数分布。婴儿出生的时间间隔来电的时间间隔奶粉销售的时间间隔网站访问的时间间隔推导指数分布的公式可以从泊松分布推断出来。如果下一个婴儿要间隔时间 t ，就等同于 t 之内没有任何婴儿出生。 P(X>t)=P(N(t)=0)=(λt)0e−λt0!=e−λtP(X>t)=P(N(t)=0)=\frac{(\lambda t)^0e^{-\lamb

2016-11-21 21:59:59 3847

原创机器学习小组知识点15：高斯分布/正态分布（Gaussian Distribution/Normal Distribution）

试用环境正态分布是自然科学与行为科学中的定量现象的一个方便模型。各种各样的心理学测试分数和物理现象比如光子计数都被发现近似地服从正态分布。尽管这些现象的根本原因经常是未知的，理论上可以证明如果把许多小作用加起来看做一个变量，那么这个变量服从正态分布（在R.N.Bracewell的Fourier transform and its application中可以找到一种简单的证明）。在概率论，正态分布是

2016-11-21 18:05:00 2478

原创机器学习小组知识点14：均匀分布（Uniform Distribution）

定义[编辑]一个均匀分布在区间[a,b]上的连续型随机变量 {\displaystyle X} X可给出如下函数：概率密度函数： f(x)=⎧⎩⎨1b−a0 for a≤x≤belsewheref(x)=\left\{{\begin{matrix}{\frac {1}{b-a}}&\ \ \ {\mbox{for }}a\leq x\leq b\\0&{\mbox{elsewhere}}

2016-11-21 12:51:37 11443

原创机器学习小组知识点13：泊松分布（Poisson Distribution）

适用环境：固定时间段内事件发生的概率。例如：某医院平均每小时出生3个婴儿某公司平均每10分钟接到1个电话某超市平均每天销售4包xx牌奶粉某网站平均每分钟有2次访问这些都是泊松分布。特点：我们可以预估这些事件的总数，但是没法知道具体的发生时间。已知平均每小时出生3个婴儿，请问下一个小时，会出生几个？有可能一下子出生6个，也有可能一个都不出生。这是我们没法知道的。泊松分布

2016-11-12 16:30:53 2031

原创机器学习小组知识点12：超几何分布（Hyper-Geometric Distribution）

超几何分布与二项分布的联系与区别事实上, 超几何分布和二项分布确实有着密切的联系，但也有明显的区别。　　课本对于超几何分布的定义是这样的：一般的，若一个随机变量X的分布列为，其中，则称X服从超几何分布，记为。其概率分布表为：　　　对于二项分布的定义是这样的：若随机变量X的分布列为,其中则称X服从参数为n,p的二项分布，记为。其概率分布表为：　　　超几何分布与二项分布都

2016-11-11 21:18:55 8524 2

原创机器学习小组知识点11：几何分布（Geometric Distribution ）

适用环境：每一个随机变量都是伯努利分布，即相互独立，发生的情况只有两种情况。几何分布描述的是指多次伯努利实验成功的概率。记成功的概率为pp，失败的概率为1−p1-p或者记为qq。举例说明，求连续投掷一枚硬币，求第一次出现上面的概率分布，实际上就是一个几何分布。概率分布函数：f(x,p)=px(1−p)x−1f(x,p)=p^x(1-p)^{x-1} 其中，xx代表成功的次数，取值为1,2,⋯⋯

2016-11-11 20:44:07 4908 2

原创机器学习小组知识点10：多项式分布（Mutibinomial distribution）

介绍把二项分布公式再推广，就得到了多项分布。二项分布的典型例子是扔硬币，硬币正面朝上概率为pp, 重复扔nn次硬币，kk次为正面的概率即为一个二项分布概率。（严格定义见二项分布中伯努利实验定义）把二项扩展为多项就得到了多项分布。比如扔骰子，不同于扔硬币，骰子有6个面对应6个不同的点数，这样单次每个点数朝上的概率都是16\frac{1}{6}（对应p1p_1至p6p_6，它们的值不一定都是16\f

2016-11-09 21:34:26 3386

原创机器学习小组知识点8：掷硬币实验二项式分布代码实现（C++语言）

//*********投掷100枚硬币，恰好出现50枚向上，50枚向下的概率计算实验***************#include<iostream>#include<cstdlib>#include<cstdio>#include<cmath>#define N 100int main(){//实验的过程=========================================

2016-11-08 13:35:18 1717

原创机器学习小组知识点8：二项式分布（Binomial distribution）

二项分布适用环境：　1．各观察单位只能具有相互对立的一种结果，如阳性或阴性，生存或死亡等，属于两分类资料。2．已知发生某一结果（阳性）的概率为pp，其对立结果的概率为1−p1-p，实际工作中要求pp是从大量观察中获得比较稳定的数值。3．nn次试验在相同条件下进行，且各个观察单位的观察结果相互独立，即每个观察单位的观察结果不会影响到其他观察单位的结果。如要求疾病无传染性、无家族性等。二项分布解析：*符

2016-11-08 13:04:27 2813

原创机器学习小组知识点7：伯努利分布（Bernouli Distribution）

伯努利分布是较为简单的一种分布，应用于两种实验结果。要么成功，要么失败，一定程度上是二元的性质。这里，我们假设成功的概率为pp，显然失败的概率就变成了1−p1-p。概率公式可以表示为f(x)=px(1−p)1−xf(x)=p^x(1-p)^{1-x}，xx为0或1，1代表成功，0代表失败。接下来我们研究以下统计量，1.数学期望E(x)=E(x1)+E(x2)+⋯+E(xn)=x1p

2016-11-08 10:43:52 6885