关于cross entropy这个概念

第一步，现在果断上chatGPT去查准确概念：

也就是说，你有一个真实的概率分布P,

同时，你通过训练得到的一个模型，这个模型对于这个数据的输出的概率分布是Q，

而H(P，Q)就是用来描述这个2个概率分布之间的差异的指标 

至于为什么在进行logistic regression的时候，我们不适用linear regression中用到的square error去计算对应的loss，而是使用cross entropy去计算，原因在李宏毅老师的这个ppt部分有讲到，主要是square error的话，在距离目标很远的时候，步长会取得很小，收敛得很慢：