数学-统计学相关

柏松分布

随机时间和空间中发生某事件的次数.

1.事件是独立事件

2.很小的时间间隔概率为0

3.短时间内的分布概率等于长时间的分布概率,是有效的

卡方分布 用在假设检验中

自由度?

beta分布 概率的概率分布

对分布概率的一个估计 使用先验概率 后面的成功和失败次数对他有很大的影响

核函数

将数据进行变换,从低维向高维变换,让一些在低维不可分的问题在高位成为可分的

常用的核函数有

1.线性核函数

简单的函数稳定性好. 是不是越复杂的东西越具有混沌性?

2.多项式核函数

二次比较常见. 越复杂的东西越容易过拟合,学到了更多的特例特征,没有把事物的共性特征体现出来

向量的内积是一个向量在另外一个向量上的投影并乘上另外一个向量的模

3.高斯核函数

一维二维得高斯核函数

可以生成无限维得特征值。

参数敏感，参数越小过拟合越严重。

熵

-PlogP 

1.熵越大概率越小，不确定性越大。可选性越高

2.在分类任务中衡量一个任务得好坏，熵越小越好。

3.可以衡量特征得重要性，某一个特征得熵值越小这个特征约重要。

激活函数

sigmod

tanh

relu 没有梯度消失,收敛速度快

leaky relu

回归分析

研究变量之间的相关关系,并产生相关表达式

一元线性回归分析

最小二乘法

为什么会用最小二乘法? 因为似然函数,通过已知样本得到估计的参数.

 

 概率P越高,y和越接近.我们要找得是一组参数让这个概率最高。也就是上式值最大。但是我们不是求这个概率而是求对应这个最大概率得参数。