Logistic回归

Logistic回归的一般过程
(1) 收集数据：采用任意方法收集数据。 (2) 准备数据：由于需要进行距离计算，因此要求数据类型为数值型。另外，结构化数据 格式则最佳。 (3) 分析数据：采用任意方法对数据进行分析。 (4) 训练算法：大部分时间将用于训练，训练的目的是为了找到最佳的分类回归系数。 (5) 测试算法：一旦训练步骤完成，分类将会很快。 (6) 使用算法：首先，我们需要输入一些数据，并将其转换成对应的结构化数值； 接着，基于训练好的回归系数就可以对这些数值进行简单的回归计算，判定它们属于 哪个类别；在这之后，我们就可以在输出的类别上做一些其他分析工作。

基于Logistic回归和 Sigmoid函数的分类
Logistic回归 优点：计算代价不高，易于理解和实现。 缺点：容易欠拟合，分类精度可能不高。 适用数据类型：数值型和标称型数据。
我们想要的函数应该是，能接受所有的输入然后预测出类别。例如，在两个类的情况下，上 述函数输出0或1。或许你之前接触过具有这种性质的函数，该函数称为海维塞德阶跃函数 （Heaviside step function），或者直接称为单位阶跃函数。然而，海维塞德阶跃函数的问题在于： 该函数在跳跃点上从0瞬间跳跃到1，这个瞬间跳跃过程有时很难处理。

5.2 基于最优化方法的最佳回归系数确定
Sigmoid函数的输入记为z，由下面公式得出：
它表示将这两个数值向量对应元素相乘然后 全部加起来即得到z值。其中的向量x是分类器的输入数据，向量w也就是我们要找到的佳参数 （系数），从而使得分类器尽可能地精确。为了寻找