机器学习实验（二）：梯度下降和牛顿法解逻辑回归

一：梯度下降法

1. 加载实验数据画出画出散点图，区分出能进入大学的学生和不能进入大学的学生。
2. 回顾逻辑回归，其假设函数为

           hθx=gθTx=11+e-θTx=p(y=1|x;θ)

在使用前先声明此函数，代码如下：

                g=inline(‘1.0./(1.0+exp(-z)))

1. 当我们给定一个训练数据集时，x(i)i=1,2,…,m 我们定义似然函数为：

                     Jθ=i=1m(hθ(x(i)))y(i)(1-hθ(x(i)))1-y(i)

      

       为了简化计算，我们转变成下列的似然函数：

                Lθ=1mi=1my(i)loghθxi+(1-yi)log⁡(hθ(x(i)))