线性回归

线性回归:

    1.高斯分布

    2.极大似然估计

    3.最小二乘法的本质





用极大似然估计解释最小二乘

是独立同分布的。是服从均值为0,方差某特定值的高斯分布

    原因:中心极限定理

    所以:


用y和x去替换误差:

    

然后使用极大似然估计:


取对数:


就变成了最小二乘

用极大似然估计要使得L(θ)最大,就要使得J(θ)最小





Ridge Regression 岭回归:带L2正则的线性回归

LASSO.带L1正则的线性回归



阅读更多
想对作者说点什么?

博主推荐

换一批

没有更多推荐了,返回首页