机器学习（深度学习）路线

数学相关

1.1 微积分：深度学习需要掌握高数微积分的知识，例如基本的求导、偏导数、梯度概念

资源：浙江大学微积分 MIT 微积分公开课[1]   MIT 微积分公开课[2] 

1.2 线性代数：需要掌握矩阵乘法、特征值、特征向量等，了解矩阵求导，深度学习中90%的运算可能都是优化为矩阵的运算，通过NumPy等高度优化的库完成。

资源：MIT 线性代数公开课   同济大学线性代数   清华大学李永乐-线性代数

1.3 概率论：了解各类分布，如正态分布、泊松分布等，权重初始化时常常使用某种分布的随机数进行初始化。掌握最大似然原理等。

资源：斯坦福大学cs229概率论pdf

Linux

Linux基础、shell编程、grep、awk、sed，正则表达式

视频教程：

相关书籍：

优质博客：

Python

1.1 Python基础

 

 

1.2 Python常用库：NumPy、Pandas、Maplotlib

pandas.read_csv函数详解

1.3 计算机视觉库：OpenCV2

• 计算机视觉之OpenCV中的GUI特性
• 计算机视觉之OpenCV图像的基础操作
• 计算机视觉之OpenCV中的图像处理1(13章-17章）
• 计算机视觉之OpenCV中的图像处理2（18章-20章）

常见报错问题：[导入报错问题]

1.3 机器学习构架：Scikit-learn

 

常见报错问题：[导入KFold报错]  [版本更新报错问题]

1.4 深度学习框架：TensorFlow

TensorFlow环境配置：[CPU版本安装]   [GPU版本安装]

高效的TensorFlow 2.0 

 

常见报错问题：[路径相关]

 

1.5 深度学习框架：PyTorch

• [PyTorch环境安装配置] 
• 官网：https://pytorch.org

 

1.6 PyQt5

 

Perl语言

 

 

 

2. 机器学习经典算法

逻辑回归：[算法原理推导]    [实践项目]

决策树：[算法原理]

SVM：支持向量机（SVM）  [算法原理推导]

KNN：

K-Means：

DBSCAN：

线性回归：[算法原理推导]    [实践项目（auto-mpg数据）]   

贝叶期：

PCA：

随机梯度下降（SGD）算法原理推导

3. 深度学习

3.1 全连接神经网络

激活函数大全    损失函数大全

3.2 卷积神经网络

3.3 循环神经网络

3.4 对抗生成网络

3.5 增强学习

4. 阅读论文

图像分类：

LeNet5：TensorFlow2利用MNIST数据集实现LeNet5卷积神经网络模型    [LeNet5网络介绍]

AlexNet：[论文翻译(中英文对照)]    [论文翻译(中文)]     [网络详解]

SENet：[论文翻译(中英文对照)]    [论文翻译(中文)]  [网络详细介绍]

VGGNet：[论文翻译(中英文对照)]    [论文翻译(中文)]       [网络详解]

GoogLeNet：[论文翻译(中英文对照)]    [论文翻译(中文)]     [网络介绍]

ResNet：[论文翻译(中英文对照)]    [论文翻译(中文)]   [网络介绍]

ZFNet：[论文翻译(中英文对照)]    [论文翻译(中文)] 

[汇总总结]

目标检测：

R-CNN：[论文翻译(中英文对照)]    [论文翻译(中文)] 

Fast R-CNN：[论文翻译(中英文对照)]    [论文翻译(中文)] 

Faster R-CNN：[论文翻译(中英文对照)]    [论文翻译(中文)] 

R-FCN：[论文翻译(中英文对照)]    [论文翻译(中文)]   [网络介绍]

YOLOv1：[论文翻译(中英文对照)]    [论文翻译(中文)] 

YOLOv2：[论文翻译(中英文对照)]    [论文翻译(中文)] 

YOLOv3：[论文翻译(中英文对照)]    [论文翻译(中文)] 

YOLOv4：[论文翻译(中英文对照)]    [论文翻译(中文)] 

其它：

Xception结构：[网络结构介绍]

5. 阅读书籍

Python相关

[1]. 丁嘉瑞等. Python语言及其应用[M] （英文原版：Bill Lubanovic. Introducing Python [M]）

[2]. 李斌. 用Python写网络爬虫[M]

[3]. 跟着迪哥学Python数据分析与机器学习实战. 唐宇迪

[4]. 王硕等. PyQt5快速开发与实战[M]

[5]. 范淼等. Python机器学习及实践_从零开始通往KAGGLE竞赛之路[M]

机器学习（深度学习）相关

[1]. Michael Nielsen. Neural Networks and Deep Learning [M]

[2]. Andrew NG. Machine Leaning Yearning[M]. Draft Version

[3]. 周志华. 机器学习[M]

[4]. Hands-on Machine Learning with Scikit-Learn, Keras, and TensorFlow(2nd Edition)英文版

        [学习笔记汇总]   [pdf分享]

[5]. 走向TensorFlow 2.0：深度学习应用编程快速入门

[6]. 陆宇杰. 深度学习入门：基于Python的理论与实现[M]（原版：斋藤康毅(日). Deep Learning from Scratch [M]）

[7]. Francois Chollet. Deep Learning with Python [M] (英文版、中文版-张亮译)

[8]. Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning [M] (英文版、中文翻译版)

[9]. 邱锡鹏. 神经网络与深度学习[M]

[10]. Alexander T. Combs. Python Machine Learning Blueprints [M] (英文版、中文版-黄申译)

[11]. 何之源. 21个项目玩转深度学习：基于TensorFlow的实践详解[M]

[12]. 李嘉璇. TensorFlow技术解析与实战[M]

其它

[1]. OpenCV-Python官网教程（段力辉译）

5. 项目实践

1. TensorFlow2加载NumPy数组格式MNIST数据集完成神经网络构建
2. TensorFlow2利用泰坦尼克号获救CSV数据集完成数据预处理
3. 感受神经网络的强大，对比普通机器学习分类算法与神经网络算法的分类能力
4. TensorFlow2利用MNIST数据集实现LeNet5卷积神经网络模型
5. Python实现逻辑回归(Logistic Regression)与梯度下降策略
6. python徒手实现反向传播算法
7. TensorFlow2利用MNIST数据集实现LeNet5卷积神经网络模型
8. TensorFlow2利用Oxford-IIIT Pets dataset数据集(MobileNetV2预训练模型和pix2pix)完成图像分隔任务
9. TensorFlow2利用tf.image实现数据增强
10. TensorFlow2使用预训练的卷积网络(ConvNet)进行迁移学习
11. TensorFlow2使用TensorFlow Hub进行迁移学习（利用flower_photos.tgz数据集）
12. TensorFlow2利用猫狗数据集(cats_and_dogs_filtered.zip)实现卷积神经网络完成分类任务
13. TensorFlow2利用Fashion_mnist数据集实现神经网络图像分类任务
14. TensorFlow2利用Auto-MPG数据集实现神经网络回归任务
15. TensorFlow2使用IMDB数据集电影评论完成文本分类任务
16. TensorFlow2利用Cifar10数据集实现卷积神经网络
17. TensorFlow2中使用Keras Tuner搜索网络的超参数
18. TensorFlow2模型保存与加载