深入了解LR

1.推导LR的求解公式

2.LR的正则化

3.LR的离散化

       将连续变量离散成多个变量后，每个变量就有自己的权重，相当于引入了非线性关系，增强了模型的表达能力，并且简化了模型；另一方面离散变量对异常数据有很好的鲁棒性；稀疏矩阵计算简单。更详细的解释请参考逻辑回归LR的特征为什么要先离散化。对于特征离散化，特征交叉，连续特征离散化非常经典的解释。

       关于模型是使用连续特征还是离散特征，李沐少帅指出：这就是“海量离散特征+简单模型” 同 “少量连续特征+复杂模型”之间的权衡。

4.LR的并行化

     详解并行逻辑回归。

5.LR与线性回归的联系与区别

       这个没有统一的答案。

       @nishizhen：个人感觉逻辑回归和线性回归首先都是广义的线性回归，其次经典线性模型的优化目标函数是最小二乘，而逻辑回归则是似然函数，另外线性回归在整个实数域范围内进行预测，敏感度一致，而分类范围，需要在[0,1]。逻辑回归就是一种减小预测范围，将预测值限定为[0,1]间的一种回归模型，因而对于这类问题来说，逻辑回归的鲁棒性比线性回归的要好。
       @乖乖癞皮狗：逻辑回归的模型本质上是一个线性回归模型，逻辑回归都是以线性回归为理论支持的。但线性回归模型无法做到sigmoid的非线性形式，sigmoid可以轻松处理0/1分类问题。

6.LR与MaxEnt(最大熵模型)的联系与区别

      Logistic Regression 的前世今生（理论篇）。

7.LR与SVM的联系与区别

     机器学习之SVM与逻辑回归的联系和区别。

8.LR与bayes的区别

     朴素贝叶斯 VS 逻辑回归 区别。