影响逻辑斯蒂回归性能的因素

我们考察步长、迭代次数、是否包含默认类别、二元或多元、损失函数比率，归一化等因素。并与最大熵分类器进行对比。

1. 是否包含默认类别，就是说在进行K元分类时，是否包含第K+1个默认类别。

    包含默认类别的输出h(x) = exp (W*X) / {1.0 + sum_exp (W*X)}，对于iClassIndex <= K；h(x) = 1.0 / {1.0 + sum_exp (W*X)}，对于iClassIndex == K+1。

    不包含默认类别的输出h(x) = exp (W*X) / {1.0 + sum_exp (W*X)}，对于iClassIndex <= K-1；h(x) = 1.0 / {1.0 + sum_exp (W*X)}，对于iClassIndex == K。

    性能对比：多元分类    包含 92.78%    不包含 92.46%

                      二元分类    包含 100%       不包含 98.91%

2. 多元分类下步