- 博客(3)
- 收藏
- 关注
RSS订阅原创 Datawhale X 李宏毅苹果书AI夏令营--自适应学习率+分类问题
文章中进一步又讨论了学习率调度问题，介绍了学习率调度的两种策略：学习率衰减采用的方式是随着训练过程的推进，学习率逐渐减小，使得模型在接近最优解时能够更精确地收敛，避免“过冲”，预热采用的方法是在训练初期，学习率从一个较小的值逐渐增大，然后再逐渐减小。通过训练模型的实际操作，总结得出了批归一化和激活函数的作用，前者用于加快训练并提高稳定性，后者引入非线性。Task2小节中的3.3-3.5三个部分详细探讨了深度学习优化中的自适应学习率问题，自适应学习率是文档的核心部分，讨论了几种经典的自适应学习率方法。
2024-08-31 23:55:36
140
原创 Datawhale AI 训练营--YOLO模型上分体验
我尝试将预训练模型改为YOLOv8s，但是模型整体的训练速度变慢了很多，为了加快速度，在助教的帮助下，我将原本的batchsize由16改为8，速度果然变快了不少；之前就了解过数据增强，但是具体的调参方法和参数，还是不太了解，所以在刚开始尝试中，不知道有没有和我一样，真的不太清楚应该在哪个地方调参，尝试了很多种方法以后，还是出现错误。准备明天再好好研究一下啦，还是怪自己的代码基础太差，虽然之前很认真的分析了所有的代码，但是到了调参的时候，还是很懵。4.调整模型训练的参数：（详细参数见官方文档，上链接）
2024-08-31 23:46:43
101
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人