逻辑回归

逻辑回归

在主要实例中结果可能不是区间变量而是顺序变量或属性变量，比如二项分布的时候只有0，1两个结果，有时也不能用一个连续的值来预测一个y值。如果说线性回归是用来处理连续的值，那么逻辑回归就是来处理那些非回归的值。

引入sigmod函数

它的定义域为全体实数，值域为[0.1]，当x取值足够大的时候，可以看成0或1两类问题，大于0.5可以认为是1类问题，反之是0类问题，而刚好是0.5，则可以划分至0类或1类。
对于概率分布p(y=1)=p,那么p(y=0)=1-p
对于离散型的变量期望公式为*E(y)=p+(1-p)0=p

引入logit函数

而实际应用中，概率p与因变量往往是非线性的，为了解决该类问题，我们引入了logit变换，使得logit§与自变量之
间存在线性相关的关系，逻辑回归模型定义如下：

得到所需的Sigmoid函数后，接下来只需要和前面的线性回归一样，拟合出该式中n个参数θ即可。