使用Logistic回归预测疝气病马死亡率

1. 问题描述

根据299个训练样本，进行Logistic回归，预测67个测试样本中的疝气病马是否死亡。值得注意的是，特征中有30%的值是缺失的。

2. 数据准备

训练数据在horseColicTraining文件中，有299个样本。测试数据在horseColicTest文件中，有67个样本。每一行为一个样本，每一列为一个特征。

3. 模型原理

logistic回归是一种广义线性回归（generalized linear model），因此与多重线性回归分析有很多相同之处。它们的模型形式基本上相同，都具有 w‘x+b，其中w和b是待求参数，其区别在于他们的因变量不同，多重线性回归直接将w‘x+b作为因变量，即y =w‘x+b，而logistic回归则通过函数L将w‘x+b对应一个隐状态p，p =L(w‘x+b),然后根据p 与1-p的大小决定因变量的值。如果L是logistic函数，就是logistic回归，如果L是多项式函数就是多项式回归。

4. 算法实现

4.1. Logistic回归梯度上升优化算法