问题
tf
版本号:1.8.0
使用tf.nn.embedding_lookup
时,ids超出了params范围,但是代码中没有报错,返回了一个全0.
的向量。但是在另一台机器相同的tf
版本下,代码抛出了异常:
A = np.arange(50).reshape(10,5).astype("f")
B = tf.nn.embedding_lookup(A,[10])
with tf.Session() as sess:
B_val = sess.run(B)
InvalidArgumentError: indices[0] = 400 is not in [0, 10)
原因
返回全零向量的是GPU机器,抛出异常的是CPU机器。
官方文档解释:
在官方文档中,embedding_lookup
有一个validate_indices
参数,控制ids超出params范围时的返回值,但是已经DEPRECATED
,也就是说返回值是根据GPU机器还是CPU机器自动控制的。
如果这个operation 是在CPU上发生的,ids必须在params范围内,否则抛出异常;
如果这个operation是在GPU上发生的,out-of-bound ids返回一个安全但未指定的行为,包括全零或抛出错误。
这在https://github.com/tensorflow/tensorflow/issues/13642也有issues进行解释。