- 博客(8)
- 收藏
- 关注
RSS订阅原创 深度学习笔记（四）——动态学习率
深度学习调参过程中，当我们选定了一个合适的学习率后，经过许多轮的训练后，可能会出现准确率震荡或loss不再下降等情况，说明当前学习率已不能满足模型调优的需求。此时我们就可以通过一个适当的学习率衰减策略来改善这种现象，提高我们的精度。这种设置方式在PyTorch中被称为scheduler，也是。
2024-05-16 23:49:09
991
原创 深度学习实战笔记（三）
这有助于缓解梯度消失和爆炸问题，并且可以使得每一层的输入数据都保持在一个合理的范围内，从而提高模型的训练速度和泛化能力。允许使用较大的学习率：批标准化可以使得每一层的输入数据分布更加稳定，从而允许使用更大的学习率进行训练。随着训练的进行，卷积核的值会逐渐调整，最终收敛到能够最佳识别特征的状态。前向传播：在训练过程中，输入数据经过卷积操作，然后通过激活函数和可能的池化操作，最终产生输出。防止梯度消失或爆炸：通过标准化每一层的输入数据分布，帮助缓解梯度消失或爆炸的问题，从而更好地训练深层网络。
2024-05-09 23:20:22
790
1
原创 深度学习实战笔记（二）
卷积层输出shape计算：计算公式：● 输入图片矩阵I大小：w×w● 卷积核Kk×k● 步长Sspo⌊sw−k2p1⌋。
2024-04-30 13:57:11
465
1
原创 深度学习笔记（一）
本周开始每周更新一篇关于机器学习实战的案例，内容包括数据获取、完整代码与解析、模型调优等。希望可以坚持下来。另外，有写的不对的地方，欢迎指出，大家一起努力吧！
2024-04-03 09:19:31
814
1
原创 论文阅读三步走（二）
前几天看到有这样的说法，健身论文喝酒面面俱到的人都精力旺盛，看到这句话狠狠共情，这说的不就是我嘛！！自律从做引体向上开始，健身完感觉全身都有使不完的劲，回来调点小酒小酌一下，大脑兴奋，顺理成章地开始看论文，我发现这样一套下来学习效率特别高。但凡有一天不健身，就算回来学习但也是看不太进去，效率大打折扣！so，强烈建议，大家觉得学习没劲的时候就起来运动，让你的大脑兴奋起来！回顾沐神的三步走：第一遍：读标题，摘要，结论三部分（读完之后感兴趣的话就往下读第二遍第三遍，否则及时换下一家）
2024-03-03 22:12:30
892
原创 论文阅读三步走
过完年了，大家都开卷啦，当然我也不能稳如老狗，虽然菜，但也要行动起来，昨天看了沐神的读论文三步走的方法，今天打算先从中文文献实践一遍，毕竟英文文献还是有点障碍的，循序渐进嘛（自我安慰法）。从万方随便找了一篇文献走一遍（其实是太菜了，不知道看哪些），话不多说，干就完事。第一遍：读标题，摘要，结论三部分（读完之后感兴趣的话就往下读第二遍第三遍，否则及时换下一家）第二遍：看方法和实验部分的一些重要图和表第三遍：读文章每一句话。读完之后问自己：如果让自己写这篇文章“我”会怎么做？
2024-02-26 17:10:11
348
原创 深度学习入门-基于Python的理论与实践
《深度学习入门-基于Python的理论与实践》这本书，封面是一个鱼的那本，如果有感兴趣的朋友可以去可看一看，他会把一些晦涩难懂的的理论比拟成生活中很容易理解的例子，讲的比较通俗易懂。很适合入门。
2023-11-30 17:08:31
92
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人