指数分布族 形式: 应用: 1. logistic 回归: logistics 回归其实是伯努利分布。 p(y;θ)=θy∗(1−θ)1−y . 其中 θ 可以看做 hθ(x) 伯努利分布是指数分布的一个特列: 其中: η=log(θ1−θ) 因此: θ=11+e−η 2.梯度下降: 最小二乘法其实是高斯分布。 高斯分布是指数分布的一个特列: y|x;θ ~ N(μ,σ2) , 其中 σ2 是无关项,不妨另 σ