ML3自学笔记

逻辑回归算法

逻辑回归算法是一个分类算法，不是回归算法；是分类算法中最简单的。

1. sigmoid函数。看作是一个映射函数，非线性变换函数，将预测值映射到0-1区间的数，从而得到概率
   
2. 整体表达式。cita^Tx就是预测值，前面的g()就是使用sigmoid函数进行映射。整合之后的结果，分别使得y=0，1，跟前面式子是一样的。
   
3. 一样的步骤，似然函数，然后求对数；此式子是求最大值，最大概率，因为一般都是求梯度下降，所以使用第三行式子进行转化。
   
4. 求导
   
5. 更新参数。（多分类softmax将在神经网络讲到）