机器学习基础知识点

网上总看到的一些机器学习基础知识，现在为了自己更好的学习，总结一下，列出一个大纲，然后我再分节去记录。

机器学习常见问题

1.几种模型（SVM，LR，GBDT，EM）的原理及公式推导
2. RF，GBDT的区别；GBDT，Xgboost的区别
3. 决策树处理连续值的方法
4. 特征选择的方法
5. 过拟合的解决方法
6. K-means的原理，优缺点以及改进
7. 常见分类模型（SVM，决策树，贝叶斯等）的优缺点，适用场景以及如何选择
8. SVM为什么要引入拉格朗日的优化方法
9. 详细解释CNN的原理
10. 梯度下降的优缺点
11. EM与K-means的关系
12. L1与L2的作用，区别以及如何解决L1求导困难
13. 如何用尽可能少的样本训练模型同时又保证模型的性能
14. ID3和C4.5的优缺点，树的融合（RF和GBDT）
15. 特征提取方法，如何判断特征是否重要
16. BP神经网络以及推导
17. HMM模型状态推导
18. 过拟合原因以及解决方法
19. 常见损失函数
20. 机器学习性能评价，准确率，召回率，ROC
21. 降采样，PCA，LDA