假设现在有一些点,我们用一条直线对这些点进行拟合(该线称为最佳拟合直线),这个拟合过程就称作回归。
利用Logistic回归进行分类的主要思想是:根据现有数据对分类边界线建立回归公式,依次进行分类。
Logistic回归的一般过程
(1)收集数据:采用任意方法收集数据
(2)准备数据:由于需要进行距离计算,因此要求数据类型为数值型。另外,结构化数据格式则最佳
(3)分析数据:采用任意方法对数据进行分析
(4)训练算法:大部分时间将用于训练,训练的目的是为了找到最佳的分类回归系数
(5)测试算法:一旦训练步骤完成,分类将会很快
(6)使用算法:首先,我们需要输入一些数据,并将其转换成对应的结构化数值;接着,
基于训练好的回归系数就可以对这些数值进行简单的回归计算,判定他们属于哪个类别;在这之后,我们就可以
在输出的类别上做一些其他分析工作
优化算法:梯度上升
优缺点:
优点:计算代价不高,易于理解和实现
缺点:容易欠拟合,分类精度可能不高。
使用数据类型:数值型和标称型数据
我们想要的函数应该是,能接受所有的输入然后预测出类别。例如,在两个类的情况下,
上述函数输出0或1,我们之前也接触过这种性质的函数,该函数称为海维赛德阶跃函数,</