deeplearning.ai C++代码与笔记

最新推荐文章于 2024-09-05 16:11:19 发布

myazi

最新推荐文章于 2024-09-05 16:11:19 发布

阅读量557

点赞数

分类专栏：机器学习 deeplearning

本文链接：https://blog.csdn.net/u010865478/article/details/80597359

版权

这篇博客详细介绍了深度学习的基础与进阶知识，包括神经网络构建、防止过拟合的方法、优化策略、结构化机器学习实战以及卷积神经网络和序列模型的原理与应用。内容涵盖数学推导、模型优化、误差分析和经典网络结构，适合深度学习初学者和进阶者阅读。

摘要由CSDN通过智能技术生成

https://github.com/myazi/myDL

代码：

深度神经网络 C++实现

1.网络结构： 层数，神经元个数，激活函数

2.初始化： Random，"he"，"arXiv"

3.方差/偏差： Regularization， Dropout

4 随机采样： Stochastic gradient descent，mini-batch

5 优化方法： Gradient Descent，Momentum Gradient Descent，Adam

6 矩阵库更新： 主要考虑内存分配问题，但存在申请内存失败问题

1 深度神经网络: python/TF 实现

2 卷积神经网络: python/TF 实现

3 序列模型: python/TF 实现 (RNN GRU LSTM)

DeepLearing学习笔记（重点在数学推导）：
提纲
1神经网络构建
1.1神经网络基础
逻辑回归模型，Softmax，矩阵形式表示
1.2 神经网络的前向传递和反向传播的数学推导
线性，激活函数，损失函数，需要注意的是数据表示，维度问题
2 改善神经网络
2.1 防止过拟合提前结束，增加训练样本，正则项， Dropout
2.2 梯度消失问题初始化，梯度剪辑，激活函数, Batch-Norm，Re