预测函数: h θ ( x ) = g ( θ T x ) = 1 1 + e − θ T x h_{\theta}(x)=g(\theta^{T}x)=\frac{1}{1+e^{-\theta^{T}x}} hθ(x)=g(θTx)=1+e−θTx1
h θ ( x ) h_{\theta}(x) hθ(x)的取值即为y=1的概率,1- h θ ( x ) h_{\theta}(x) hθ(x)即为y=0的概率。
所以y~B(1, h θ ( x ) h_{\theta}(x) hθ(x)),两点分布。
y的分布列为 p ( y ) = ( h θ ( x ) ) y ( 1 − h θ ( x ) ) 1 − y p(y) = (h_{\theta}(x))^{y}(1-h_{\theta}(x))^{1-y} p(y)=(hθ(x))y(1−hθ(x))1−y
似然函数 L ( θ ) = ∏ i = 1 m p ( y ) L(\theta)=\prod_{i=1}^{m}p(y) L(θ)=∏i=1mp(y)(意思就是使得已经发生的事情的概率达到最大)
接下来就是加log,求偏导的过程了。