本文分享了阿里计算机视觉算法工程师面试的五道题目，涵盖交叉熵损失函数、风险理解、正则化区别、BN层原理及过拟合解决方案。结构风险与经验风险分别涉及期望风险和训练集风险，L1和L2正则化影响模型的稀疏性和平滑性。BN层加速训练并提升泛化，过拟合可通过降低模型复杂度、数据增强、正则化和早停等方法解决。
问题1：手写交叉熵损失函数
二分类交叉熵
多分类交叉熵
其中
问题2：结构风险和经验风险怎么理解
期望风险：机器学习模型关于真实分布（所有样本）的平均损失称为期望风险
经验风险：机器学习模型关于训练集的平均损失称为经验风险，当样本数无穷大∞的时候趋近于期望风险（大数定律）
结构风险：结构风险 = 经验风险 + 正则化项
经验风险是局部的，基于训练集所有样本点损失函数最小化的。
期望风险是全局的，是基于所有样本点的损失函数最小化的。
经验风险函数是现实的，可求的。
期望风险函数是理想化的，不可求的。
最低0.47元/天 解锁文章
扫一扫
2186
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
