机器学习知识点总结

1. 线性模型公式推导
2. 逻辑回归公式推导
3. 优化方法有哪些？
4. 为什么牛顿法比梯度下降收敛快？
5. 梯度下降的步长怎么确定？
6. 逻辑回归分类的优缺点？
7. 逻辑回归和SVM的对比？
8. ID3算法的公式？优缺点？
9. C4.5算法的公式？优缺点？
10. CART算法的公式？优缺点？
11. 连续值怎么处理？
12. 剪枝的过程
13. SVM公式推导
14. SVM软间隔与正则化的关系
15. 什么是hinge loss?
16. SVM中参数C的作用？
17. SVM的优缺点？
18. 软间隔为什么要求分类全部正确？
19. 描述核方法的作用
20. 朴素贝叶斯的公式推导
21. 怎么理解朴素？
22. 平滑是什么？
23. 正则化的作用是什么？
24. L1、L2正则化的区别？
25. 为什么L1正则化产生稀疏解？
26. adaboost的思路？
27. GBDT公式推导
28. GBDT和CART树区别
29. GBDT和xgboost的区别
30. 什么是随机森林？
31. 归一化的作用？
32. 机器学习项目的完整流程
33. 特征工程有哪些方法？
34. 数据清洗有哪些方法？

1、偏差、方差、交叉验证

https://www.jianshu.com/p/8d01ac406b40

28.GBDT和CART树区别

https://www.cnblogs.com/peizhe123/p/6105696.html