数学基础:机器学习的数学理论基础
知识点总结:目前我正按照牛客网面试知识点总结的目录,来复习、整理我所欠缺的知识。
常见的机器学习算法:代码和讲解
面试中各种问题的比例如下图,可见机器学习算法、深度学习算法、算法与数据结构非常重要。
算法基础知识:
- 各种优化算法:SGD,Adam等
- sigmoid和softmax
- 逻辑回归
- 交叉熵损失函数
- L1不可导怎么办?坐标轴下降和近端梯度下降
- 线性回归、多项式回归、Lasso回归、岭回归
- PCA、LDA
- 梯度下降、牛顿法、拟牛顿法
- Jacobian矩阵和Hessian矩阵
- SVM 和多分类SVM
- 朴素贝叶斯
- 决策树算法