学习笔记1

无偏估计     估计量的数学期望等于被估计参数的真实值         则称，此估计量为被估计参数的无偏估计    即E(θˆ)=θ

无偏估计就是系统误差为0的估计

有偏估计： 若θˆ的数学期望不为θ，即E(θ)≠θ,则称为θ的有偏估计。
样本方差的期望是有偏估计

 

降低模型的复杂度有两条路径：一是进行降维，进行特征约减，这样可以减少模型参数的个数。二是对参数进行约束。使得参数的取值范围减少。而第二种方法就是加正则项。

kernel其实就是帮我们省去在高维空间里进行繁琐计算的“简便运算法”。甚至，它能解决无限维空间无法计算的问题！因为有时f(·)会把n维空间映射到无限维空间去。

 

将特征投影到feature space后的情况，此时已经将特征从2维空间转换到3维空间。