逻辑回归及相关问题的总结

最近总结了好多之前学习的算法，想都写在博客上，对自己是个总结，不然每次总得翻好几本书或者好几个云笔记才能看全。可是无奈，要写的东西太多，好多都积压在草稿箱里，只能有点时间赶紧写点。

     

1.参考资料

这次不同的是，我要先列举几个自己参考的文献，博客等。真的是从里面受益匪浅，这也是我主要的参考资料。如果有需要的童鞋，可以先看它们。

1）.http://blog.csdn.net/zouxy09/article/details/24971995/（讲L0，L1，L2范数讲的不错哦）

2）.机器学习实战（Machine Learning in Action），Peter Harrington 著。这里我主要参考的是第五章：Logistic回归及第八章 预测数值型数据：回归

3）.李航博士的统计学习方法（这是我必用的啊）

4）.逻辑回归的数据推导参考的一点资料：http://blog.csdn.net/Andrewseu/article/details/46742151

5）.寒小阳的博客http://blog.csdn.net/han_xiaoyang/article/details/49123419（每次必读，很谦虚的一个老师）

6）.Andrew Ng的课程

7）http://blog.csdn.net/abcjennifer/article/details/7716281（浙大的，我崇拜人之一）

8）https://github.com/celestewang1026/LogisticRegression（我写了一个简单的代码，仅供参考，还有很多的问题。以后每个算法我决定都写在博客上，代码都放在github上。对于这么懒的我，可是一项不小的工程啊，^~^）

2.逻辑回归的推导（Logistic Regression ,LR）---数学基础

               最大似然原理：通过m个训练样本估出theta，使似然函数最大。