softmax以及交叉熵

softmax 计算方式为数组中的每一项分子是e的xi次方，分母是e的xi次方求和,所以softmax数组的和为1

代码实现：

import tensorflow as tf

a = tf.cast([1,2,3,4,5],dtype=float)
b = tf.nn.softmax(a)

with tf.Session() as sess:
    c = sess.run([b])
    print(c)

交叉熵
交叉熵是预测后在softmax基础上，label是one-hot编码,进行相应位置的运算，结果中的每一位都等于-yi*log(y) 其中yi为one-hot当前位置的值，y是softmax当前位置的值，因为底数是e>1，并且在label为1时概率越大，证明预测越准确，所以这个数的最终值越小证明预测越准确

代码实现：

import tensorflow as tf

a = tf.cast([1,2,3,4,5],dtype=float)
b = tf.nn.softmax(a)
d = tf.cast([0,0,1,0,0],dtype=float)
e = tf.reduce_sum(-d * tf.log(b))
with tf.Session() as sess:
    c = sess.run([e])
    print(c)