- 博客(2)
- 收藏
- 关注
RSS订阅原创 权重衰减（Weight Decay）
摘要：本文系统探讨了机器学习中权重衰减(Weight Decay)正则化方法。文章首先分析了过拟合问题，指出权重范数可作为模型复杂度的代理指标。随后从优化目标、L2范数选择、几何角度等层面解析权重衰减原理，揭示其通过惩罚大权重来抑制模型复杂度的机制。实验部分通过高维线性回归对比了无正则化(lambd=0)和权重衰减(lambd=3)的效果，验证了后者能有效降低权重范数，缓解过拟合现象。文章从理论到实践完整阐述了权重衰减的核心思想及其实现方式。
2026-02-02 21:45:49
804
原创 K-折交叉验证（K-Fold Cross-Validation）
在机器学习的模型选择中，K-折交叉验证（K-Fold Cross-Validation） 是最常用且最稳健的模评估方法之一。它通过充分利用有限的数据，给出一个比单次“训练集/验证集划分”更可靠、方差更小的模型性能评价。下文将从背景知识、原理介绍与代码实现三部分说明。
2026-02-01 16:10:14
504
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人