南瓜书：对数几率回归

为什么分类损失要用交叉熵函数：为了最小化相对熵，也就是最小化KL散度。使得理想分布和模拟分布的差异值最小。最小化相对熵，也就是最小化右边的式子，也就是最小化交叉熵。