总结一下sigmoid函数

熵代表不确定性，熵越小越好，说明确定性越好
在这里，因为参照的是真实标签，它的熵是0
而交叉熵-熵=相对熵
故相对熵在预测情况相对真实情况的时候，相对熵=交叉熵，相对熵越小，说明预测情况越接近真实情况；
同理，交叉熵越小，说明预测情况越接近真实情况。

在二分类0，1任务中，经过卷积、正则化、激活函数ReLU等操作之后，假如生成了一个(B,1,1,1)的张量,每个值在（无穷小，无穷大）之间，经过sigmoid函数，会变成一个(B,1,1,1)的张量，数值h在（0，1）之间，如果这个h>0.5说明模型预测的是1，如果h<0.5说明模型预测的是0，但是这是模型预测的标签值y*,而还有个真实标签值y。假如现在h=0.6,那么说明模型预测的标签y*是1,真实标签却是0，

交叉熵= -y(lgh) -(1-y)(lg(1-h))
即当y=1时，交叉熵是-lgh 这个情况下，h越大越好
当y=0时，交叉熵是-（lg(1-h)） 这个情况下，h越小越好