阿里计算机视觉算法工程师面试题

1、手写交叉熵损失函数

2、结构风险和经验风险怎么理解

    期望风险：机器学习模型关于真实分布（所有样本）的平均损失称为期望风险

    经验风险：机器学习模型关于训练集的平均损失称为经验风险，当样本数无穷大∞的时候趋近于期望风险（大数定律）

    结构风险：结构风险 = 经验风险 + 正则化项

    经验风险是局部的，基于训练集所有样本点损失函数最小化的。

    期望风险是全局的，是基于所有样本点的损失函数最小化的。

    经验风险函数是现实的，可求的。

    期望风险函数是理想化的，不可求的。

3、l1和l2正则化的区别是什么，是什么原因导致的

    L1/L2的区别

    L1是模型各个参数的绝对值之和。

    L2是模型各个参数的平方和的开方值。

    L1会趋向于产生少量的特征，而其他的特征都是0。

    因为最优的参数值很大概率出现在坐标轴上，这样就会导致某一维的权重为0 ，产生稀疏权重矩阵

     L2会选择更多的特征，这些特征都会接近于0。  

     最优的参数值很小概率出现在坐标轴上，因此每一维的参数都不会是0。当最小化||w||时，就会使每一项趋近于0。

    L1的作用是为了矩阵稀疏化