机器学习学习入门路线
一般来说,机器学习的课程涉及了很多数学、统计概率、以及优化方向的知识,大概包括:
- 线性代数:矩阵/张量乘法、求逆,奇异值分解/特征值分解,行列式,范数等
- 统计与概率:概率分布,独立性与贝叶斯,最大似然(MLE)和最大后验估计(MAP)等
- 信息论:基尼系数,熵(Entropy)等
- 优化:线性优化,非线性优化(凸优化/非凸优化)以及其衍生的求解方法如梯度下降、牛顿法、基因算法和模拟退火等
- 数值计算:上溢与下溢,平滑处理,计算稳定性(如矩阵求逆过程)
- 微积分:偏微分,链式法则,矩阵求导等
吴恩达教授的在Coursera上的课程基本上完全没有触及这些数学知识,吴恩达也不止一次的解释过原因:这门课没有使用过多数学的原因就是考虑到其受众广泛,因此用直觉式的解释大家有信心继续坚持学习。
将比较常见的机器学习资料数学从难到易进行排列(每个难度挑两个代表性资料):
项目 | 名称 | 难度系数 |
---|---|---|
book | Element of Statistical Learning,Machine Learning: A Probability Perspective | 5 |
book | Pattern Recognition and Machine Learning , 统计学习方法 | 4 |
book | Machine Learning,机器学习(周志华) | 3 |
video | 吴恩达的Coursera课程,Introduction to Statistical Learning | 2 |
book | Python Machine Learning,集体编程智慧 | 1 |
目录
流程图: