《Python 机器学习及实践--从零开始通往kaggle竞赛之路》笔记

《Python 机器学习及实践–从零开始通往kaggle竞赛之路》很基础
主要介绍了Scikit-learn，顺带介绍了pandas、numpy、matplotlib、scipy。
本书代码基于python2.x。不过大部分可以通过修改print()来适应python3.5.x。
提供的代码默认使用 Jupyter Notebook，建议安装Anaconda3。
原书数据和代码下载地址：
http://pan.baidu.com/s/1dENAUTr # 数据
http://pan.baidu.com/s/1geN6QbD # 第一章代码
http://pan.baidu.com/s/1kVo3fr5 #第二章代码
http://pan.baidu.com/s/1mhQe4g4 #第三章代码
http://pan.baidu.com/s/1nvitu8T #第四章代码

最好是到https://www.kaggle.com注册账号后，运行下第四章的代码，感受下。

监督学习：
2.1.1分类学习（Classifier）
2.1.1.1 线性分类器（Linear Classifier）
2.1.1.2 支持向量机(Support Vector Classifier)
2.1.1.3 朴素贝叶斯(Native Bayes)
2.1.1.4 K近邻(K-Nearest Neighbor)
2.1.1.5 决策树(Decision Tree)
2.1.1.6 集成模型(Ensemble):随机森林：Random Forest Classifier，梯度提升决策树：Gradient Tree Boosting。
2.1.2 回归预测（Regressor）
2.1.2.1 线性回归器
2.1.2.2 支持向量机
2.1.2.3 K近邻
2.1.2.4 回归树
2.1.2.5 集成模型
2.2 无监督学习
2.2.1 数据聚类
2.2.1.1 K均值算法(K-means)
2.2.2 特征降维
2.2.2.1 主成分分析(Principal Component Analysis:PCA)
3.1 模型使用技巧
3.1.1 特征提升
3.1.1.1 特征抽取
3.1.1.2 特征筛选
3.1.2 模型正则化
3.1.2.1 欠拟合与过拟合
3.1.2.2 $L_1$范数正则化
3.1.2.3 $L_2$范数正则化
3.1.3 模型检验
3.1.3.1 留一验证
3.1.3.2 交叉验证
3.1.4 超参数搜索
3.1.4.1 网格搜索
3.1.4.2 并行搜索
3.2 流行库/模型实践
自然语言包：NLTK
词向量：Word2Vec
XGBoost模型
TensorFlow