- 博客(6)
- 收藏
- 关注
原创 【Datawhale X 李宏毅苹果书 AI夏令营】学习笔记:《深度学习详解》3.7 批量归一化
批量归一化是深度学习中的一项重要技术,通过对每一层的输入进行归一化,显著提高了模型的训练效率和性能。虽然它也有一定的局限性,但通过不断的改进与创新,批量归一化及其变种已经成为深度学习模型训练中不可或缺的部分。理解和灵活运用这些技术,对于构建高效、稳健的深度学习模型至关重要。
2024-09-02 21:48:00 265
原创 【Datawhale X 李宏毅苹果书 AI夏令营】学习笔记:《深度学习详解》2 机器学习框架与实践攻略
第二章内容涵盖了机器学习模型训练中的几个重要方面:模型偏差、优化问题、过拟合、交叉验证和不匹配问题。这些问题在实际模型训练中都会遇到,理解并掌握解决这些问题的方法对于提高模型性能至关重要。通过科学的模型选择、优化和评估策略,可以构建出在各种数据集上都能表现良好的机器学习模型。
2024-09-02 21:39:17 918
原创 【Datawhale X 李宏毅苹果书 AI夏令营】 学习笔记:《深度学习详解》3.3-3.5 自适应学习率
其中,\( G_t^{(i)} \) 是第 \( i \) 个参数的累积梯度平方和,\( g_t^{(i)} \) 是当前的梯度,\( \eta \) 是初始学习率,\( \epsilon \) 是一个小常数,用于防止分母为零。其中,\( \alpha \) 是衰减系数,通常取值在 \(0.9\) 左右,\( \sigma_t^{(i)} \) 表示第 \( i \) 个参数在第 \( t \) 次迭代时的均方根。自适应学习率的核心思想是根据梯度的大小,自动调整每个参数的学习率。
2024-08-29 20:15:47 388
原创 【Datawhale X 李宏毅苹果书 AI夏令营】学习笔记:《深度学习详解》1.2 线性模型
本节主要介绍了线性模型的基础知识及其在深度学习中的应用。虽然线性模型简单且有效,但面对复杂的非线性关系时,其表现可能不足。因此,使用分段线性模型、激活函数以及深度神经网络等方法,可以提升模型的表达能力,帮助捕捉更复杂的数据模式。
2024-08-29 19:59:28 303
原创 Datawhale X 李宏毅苹果书AI夏令营-机器学习的基本原理与实践案例
机器学习通过数据训练模型,寻找合适的函数映射以进行预测。深度学习通过多层神经网络处理复杂的任务。梯度下降法在模型优化中发挥了重要作用,但在实际应用中需要谨慎设置超参数以避免陷入局部最小值。
2024-08-27 20:24:27 375
原创 Datawhale X 李宏毅苹果书 AI夏令营 Task1打卡
机器学习的核心在于通过数据寻找合适的模型函数,并通过优化技术(如梯度下降)提高模型的准确性。深度学习通过多层神经网络进行复杂函数的逼近,适用于更复杂的任务。
2024-08-27 20:18:16 287
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人