1.tf.nn.sigmoid_cross_entropy_with_logits
其实官方文档已经说的很清楚了。https://www.tensorflow.org/api_docs/python/tf/nn/sigmoid_cross_entropy_with_logits
值得注意的两点是第一个是labels可以是多label的,也就是可以是[1,0,1,0,0,0]这样的。
第二个是在计算loss的时候,涉及到exp(x)的计算,注意,当x为相对较大的正值的时候,会溢出。
>>> math.exp(1000)
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
OverflowError: math range error
然而当x会很小的负数的时候,不存在溢出问题。
>>> math.exp(-100000000000000000000000000)
0.0
2.