【吴恩达机器学习】章节７ Logistic回归

目录:

+ 分类

+ 假设陈述

+ 决策界限

+ 代价函数

+ 简化代价函数与梯度下降

+ 高级优化

+ 多元分类：一对多

 

一·分类

二分类和多分类

线性回归用于该数据集，设置阈值，并不是一个好的例子

logistic回归是一个分类算法

 

二·假设陈述

当有一个分类问题时，我们要使用哪个方程来表示我们的假设

 

 

 

三·决策界限

假设已拟合好了函数，另外决策边界不是训练集的属性，而是假设本身及其参数的属性

我们不是用训练集来定义决策边界，而是用训练集来拟合参数

 

四·代价函数

如何拟合logistic回归模型的参数,要定义用来拟合参数的优化目标或者叫代价函数.

这个代价函数的理解实在输出的预测值是h(x)时，而实际标签是y的情况下，我们希望学习算法付出的代价值。

logitic下的代价函数　y=1 y=0

这个曲线的特点是在h(x)趋于1时激增，趋于正无穷，也就是说，如果最后发现y=0，而我们却几乎非常肯定地预测y=1的概率为1，那么我们就要付出非常大的代价值。反过来如果h(x)=0,而且y=0,那么假设函数预测对了，预测的是y=0,并且y就是０，那么代价函数在这点上，应该等于0

 

五·简化代价函数与梯度下降

logistic回归的代价函数如下

代价函数求导

 

六·高级优化

 

七·多元分类：一对多

选择三个分类中效果最好的那个