数学相关
1.1 微积分:深度学习需要掌握高数微积分的知识,例如基本的求导、偏导数、梯度概念
资源:浙江大学微积分 MIT 微积分公开课[1] MIT 微积分公开课[2]
1.2 线性代数:需要掌握矩阵乘法、特征值、特征向量等,了解矩阵求导,深度学习中90%的运算可能都是优化为矩阵的运算,通过NumPy等高度优化的库完成。
资源:MIT 线性代数公开课 同济大学线性代数 清华大学李永乐-线性代数
1.3 概率论:了解各类分布,如正态分布、泊松分布等,权重初始化时常常使用某种分布的随机数进行初始化。掌握最大似然原理等。
Linux
Linux基础、shell编程、grep、awk、sed,正则表达式
视频教程:
相关书籍:
优质博客:
Python
1.1 Python基础
1.2 Python常用库:NumPy、Pandas、Maplotlib
1.3 计算机视觉库:OpenCV2
常见报错问题:[导入报错问题]
1.3 机器学习构架:Scikit-learn
1.4 深度学习框架:TensorFlow
TensorFlow环境配置:[CPU版本安装] [GPU版本安装]
常见报错问题:[路径相关]
1.5 深度学习框架:PyTorch
1.6 PyQt5
Perl语言
2. 机器学习经典算法
决策树:[算法原理]
SVM:支持向量机(SVM) [算法原理推导]
KNN:
K-Means:
DBSCAN:
线性回归:[算法原理推导] [实践项目(auto-mpg数据)]
贝叶期:
PCA:
3. 深度学习
3.1 全连接神经网络
3.2 卷积神经网络
3.3 循环神经网络
3.4 对抗生成网络
3.5 增强学习
4. 阅读论文
图像分类:
LeNet5:TensorFlow2利用MNIST数据集实现LeNet5卷积神经网络模型 [LeNet5网络介绍]
AlexNet:[论文翻译(中英文对照)] [论文翻译(中文)] [网络详解]
SENet:[论文翻译(中英文对照)] [论文翻译(中文)] [网络详细介绍]
VGGNet:[论文翻译(中英文对照)] [论文翻译(中文)] [网络详解]
GoogLeNet:[论文翻译(中英文对照)] [论文翻译(中文)] [网络介绍]
ResNet:[论文翻译(中英文对照)] [论文翻译(中文)] [网络介绍]
ZFNet:[论文翻译(中英文对照)] [论文翻译(中文)]
[汇总总结]
目标检测:
R-CNN:[论文翻译(中英文对照)] [论文翻译(中文)]
Fast R-CNN:[论文翻译(中英文对照)] [论文翻译(中文)]
Faster R-CNN:[论文翻译(中英文对照)] [论文翻译(中文)]
R-FCN:[论文翻译(中英文对照)] [论文翻译(中文)] [网络介绍]
YOLOv1:[论文翻译(中英文对照)] [论文翻译(中文)]
YOLOv2:[论文翻译(中英文对照)] [论文翻译(中文)]
YOLOv3:[论文翻译(中英文对照)] [论文翻译(中文)]
YOLOv4:[论文翻译(中英文对照)] [论文翻译(中文)]
其它:
Xception结构:[网络结构介绍]
5. 阅读书籍
Python相关
[1]. 丁嘉瑞等. Python语言及其应用[M] (英文原版:Bill Lubanovic. Introducing Python [M])
[2]. 李斌. 用Python写网络爬虫[M]
[3]. 跟着迪哥学Python数据分析与机器学习实战. 唐宇迪
[4]. 王硕等. PyQt5快速开发与实战[M]
[5]. 范淼等. Python机器学习及实践_从零开始通往KAGGLE竞赛之路[M]
机器学习(深度学习)相关
[1]. Michael Nielsen. Neural Networks and Deep Learning [M]
[2]. Andrew NG. Machine Leaning Yearning[M]. Draft Version
[3]. 周志华. 机器学习[M]
[4]. Hands-on Machine Learning with Scikit-Learn, Keras, and TensorFlow(2nd Edition)英文版
[学习笔记汇总] [pdf分享]
[5]. 走向TensorFlow 2.0:深度学习应用编程快速入门
[6]. 陆宇杰. 深度学习入门:基于Python的理论与实现[M](原版:斋藤康毅(日). Deep Learning from Scratch [M])
[7]. Francois Chollet. Deep Learning with Python [M] (英文版、中文版-张亮译)
[8]. Ian Goodfellow, Yoshua Bengio, Aaron Courville. Deep Learning [M] (英文版、中文翻译版)
[9]. 邱锡鹏. 神经网络与深度学习[M]
[10]. Alexander T. Combs. Python Machine Learning Blueprints [M] (英文版、中文版-黄申译)
[11]. 何之源. 21个项目玩转深度学习:基于TensorFlow的实践详解[M]
[12]. 李嘉璇. TensorFlow技术解析与实战[M]
其它
[1]. OpenCV-Python官网教程(段力辉译)
5. 项目实践
- TensorFlow2加载NumPy数组格式MNIST数据集完成神经网络构建
- TensorFlow2利用泰坦尼克号获救CSV数据集完成数据预处理
- 感受神经网络的强大,对比普通机器学习分类算法与神经网络算法的分类能力
- TensorFlow2利用MNIST数据集实现LeNet5卷积神经网络模型
- Python实现逻辑回归(Logistic Regression)与梯度下降策略
- python徒手实现反向传播算法
- TensorFlow2利用MNIST数据集实现LeNet5卷积神经网络模型
- TensorFlow2利用Oxford-IIIT Pets dataset数据集(MobileNetV2预训练模型和pix2pix)完成图像分隔任务
- TensorFlow2利用tf.image实现数据增强
- TensorFlow2使用预训练的卷积网络(ConvNet)进行迁移学习
- TensorFlow2使用TensorFlow Hub进行迁移学习(利用flower_photos.tgz数据集)
- TensorFlow2利用猫狗数据集(cats_and_dogs_filtered.zip)实现卷积神经网络完成分类任务
- TensorFlow2利用Fashion_mnist数据集实现神经网络图像分类任务
- TensorFlow2利用Auto-MPG数据集实现神经网络回归任务
- TensorFlow2使用IMDB数据集电影评论完成文本分类任务
- TensorFlow2利用Cifar10数据集实现卷积神经网络
- TensorFlow2中使用Keras Tuner搜索网络的超参数
- TensorFlow2模型保存与加载