- 博客(3)
- 收藏
- 关注
原创 Datawhale X 李宏毅苹果书AI夏令营--自适应学习率+分类问题
文章中进一步又讨论了学习率调度问题,介绍了学习率调度的两种策略:学习率衰减采用的方式是随着训练过程的推进,学习率逐渐减小,使得模型在接近最优解时能够更精确地收敛,避免“过冲”,预热采用的方法是在训练初期,学习率从一个较小的值逐渐增大,然后再逐渐减小。通过训练模型的实际操作,总结得出了批归一化和激活函数的作用,前者用于加快训练并提高稳定性,后者引入非线性。Task2小节中的3.3-3.5三个部分详细探讨了深度学习优化中的自适应学习率问题,自适应学习率是文档的核心部分,讨论了几种经典的自适应学习率方法。
2024-08-31 23:55:36
140
原创 Datawhale AI 训练营--YOLO模型上分体验
我尝试将预训练模型改为YOLOv8s,但是模型整体的训练速度变慢了很多,为了加快速度,在助教的帮助下,我将原本的batchsize由16改为8,速度果然变快了不少;之前就了解过数据增强,但是具体的调参方法和参数,还是不太了解,所以在刚开始尝试中,不知道有没有和我一样,真的不太清楚应该在哪个地方调参,尝试了很多种方法以后,还是出现错误。准备明天再好好研究一下啦,还是怪自己的代码基础太差,虽然之前很认真的分析了所有的代码,但是到了调参的时候,还是很懵。4.调整模型训练的参数:(详细参数见官方文档,上链接)
2024-08-31 23:46:43
101
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人