tensorflow某些函数的小坑(持续更新)

刚刚接触tensorflow,正在跟tutorial学习。英文的官网经常上不了(shadowsocks不太稳定),退而求其次看极客学院翻译的中文教程.看见其中的一些奇奇怪怪的函数,这里mark一下

nn.sparse_softmax_cross_entropy_with_logits()

这个函数看名字都知道,是将稀疏表示的label与输出层计算出来结果做对比,函数的形式和参数如下:

nn.sparse_softmax_cross_entropy_with_logits(logits,label,name=None)

第一个坑:logits表示从最后一个隐藏层线性变换输出的结果!假设类别数目为10,那么对于每个样本这个logits应该是个10维的向量,且没有经过归一化,所有这个向量的元素和不为1。然后这个函数会先将logits进行softmax归一化,然后与label表示的onehot向量比较,计算交叉熵。
也就是说,这个函数执行了三步(这里意思一下):

  • sm=nn.softmax(logits)
  • onehot=tf.sparse_to_dense(label,…)
  • nn.sparse_cross_entropy(sm,onehot)

第二个坑:输入的label是稀疏表示的,就是是一个[0,10)的一个整数,这我们都知道。但是这个数必须是一维的!就是说,每个样本的期望类别只有一个,属于A类就不能属于其他类了。

nn.softmax_cross_entropy_with_logits()也是如此?


nn.in_top_k()

这个函数用于在预测的时候判断预测结果是否正确。函数本来的意义为判断label是不是在logits 的前k大的值,返回一个布尔值。

nn.in_top_k(logits,label,k)

第一个坑:
和上面函数一样,这个label是个index而不是向量.如果表示第4类为正确的,label不长[0,0,0,1,0]这样,而是label=3。所以如果你的label是onehot的,恭喜你,你要转化一下:

labels = tf.argmax(y_, 1)
topFiver = tf.nn.in_top_k(y, labels, 5) #in top 5

第二个坑:同样的,label只有一个值,只能用于单类别判断!

评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值