逻辑回归优化

1、设置截距为true。

2、升高维度(一般相乘或平方，不会相加减:想加减还是线性的变化)。

3、调整分类阈值(某些场景，比如判断是否生病默认阈值为0.5：0.51为没病，0.49为有病，相差太小。调整阈值到0.7才为没病。会增大错误率，但会减小风险)。

4、鲁棒性调优(指算法的抗干扰能力：权重越小，模型越准确，但权重太小，比如0.00001，那随便输入什么值都等于截距了。所以需要降低正确率来提高推广能力)。

• L1：所有权重的绝对值相加：倾向于使得W要么取1，要么取0 W参数是一个稀疏编码，可以用来降维。
• L2：所有的权重的平方值相加：使得W整体偏小。

5、当计算得到的各个权重值相差很大时，需要做归一化。不做归一化也可以，只是需要更多的迭代次数，因为下降步长一样，权重值大的需要更多的迭代次数。

• 大小值归一化。
• 方差归一化。
• 均值归一化。