1. 正态分布
若随机变量X服从一个数学期望为μ、方差为σ2的正态分布,记为N(μ,σ2)。
其概率密度函数为正态分布的期望值μ决定了其位置,其标准差σ决定了分布的幅度。
2. 标准正态分布
当μ = 0,σ = 1时的正态分布是标准正态分布。
为了便于描述和应用,常将正态变量作数据转换。将一般正态分布转化成标准正态分布。
3. 为什么要归一化预处理
在图像送入网络训练之前,减去图片的均值,算是一种归一化操作。
图像其实是一种平稳的分布,减去数据对应维度的统计平均值,可以消除公共部分。
以凸显个体之前的差异和特征。
4. 为什么用Imagenet
使用Imagenet的均值和标准差是一种常见的做法。
它们是根据数百万张图像计算得出的。
如果要在自己的数据集上从头开始训练,则可以计算新的均值和标准差。否则,建议使用Imagenet预设模型及其平均值和标准差。