机器学习：逻辑回归

**************************************

注：本系列博客是博主学习Stanford大学 Andrew Ng 教授的《机器学习》课程笔记。博主深感学过课程后，不进行总结很容易遗忘，根据课程加上自己对不明白问题的补充遂有此系列博客。本系列博客包括线性回归、逻辑回归、神经网络、机器学习的应用和系统设计、支持向量机、聚类、将维、异常检测、推荐系统及大规模机器学习等内容。

**************************************

逻辑回归

分类（Classification)

分类问题举例：

邮件：垃圾邮件/非垃圾邮件？

在线交易：是否欺诈（是/否）？

肿瘤：恶性/良性？

以上问题可以称之为二分类问题，我们将因变量(dependant variable)可能属于的两个类分别称为负向类（negative class）和正向类（positive class），则因变量yϵ{0,1}，其中0表示负向类，1表示正向类。

对于多分类问题，可以如下定义因变量y：y∈{0,1,2,3,...,n}

如果分类器用的是回归模型，并且已经训练好了一个模型，可以设置一个阈值：

如果hθ(x)≥0.5，则预测y=1,既y属于正例；

如果hθ(x)<0.5，则预测y=0,既y属于负例；

但是对于二分类问题来说，线性回归模型的Hypothesis输出值hθ(x)可以大于1也可以