- 博客(4)
- 收藏
- 关注
RSS订阅原创 常用数据结构操作与算法复杂度总结
文章目录时间复杂度常用数据结构操作与算法的复杂度输入规模较小时的情况引用博客：blog.shinelee.me | 博客园 | CSDN时间复杂度如何评估一个算法的计算时间？一个算法的实际运行时间很难评估，当时的输入、CPU主频、内存、数据传输速度、是否有其他程序在抢占资源等等，这些因素都会影响算法的实际运行时间。为了公平地对比不同算法的效率，需要脱离开这些物理条件，抽象出一个数学描述。在...
2019-11-22 18:35:01
866
原创 网络权重初始化方法总结（下）：Lecun、Xavier与He Kaiming
文章目录权重初始化最佳实践期望与方差的相关性质全连接层方差分析tanh下的初始化方法Lecun 1998Xavier 2010ReLU/PReLU下的初始化方法He 2015 for ReLUHe 2015 for PReLUcaffe中的实现小结参考博客：blog.shinelee.me | 博客园 | CSDN权重初始化最佳实践书接上回，全0、常数、过大、过小的权重初始化都是不好的，...
2019-11-22 09:08:11
2378
1
原创 网络权重初始化方法总结（上）：梯度消失、梯度爆炸与不好的初始化
文章目录前向传播与反向传播回顾梯度消失与梯度爆炸激活函数的影响权重矩阵的影响不良初始化参考博客：blog.shinelee.me | 博客园 | CSDN前向传播与反向传播回顾神经网络的训练过程可以简化成以下步骤，输入预处理（feature scaling等）初始化网络weight和bias前向传播，得到网络输出计算损失函数，得到当前损失反向传播，根据链式法则，逐层回传得到损失函...
2019-11-07 09:24:11
2202
1
原创 为什么要做特征归一化/标准化？
文章目录写在前面常用feature scaling方法计算方式上对比分析feature scaling 需要还是不需要什么时候需要feature scaling？什么时候不需要Feature Scaling？小结参考博客：blog.shinelee.me | 博客园 | CSDN写在前面Feature scaling，常见的提法有“特征归一化”、“标准化”，是数据预处理中的重要技术，有时甚...
2019-11-02 18:29:29
4947
4
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人