在修改源码是出现以下错误,此时是要往代码里加入attention机制,在网络的构建中,混合了sonnet跟tensorflow(菜,改不动别人的源码),所以在修改代码时出现了以下错误。
ValueError: Trainable variable created when calling a template after the first time, perhaps you used tf.Variable when you meant tf.get_variable
解决方法:
在此前的代码中,tf.layers.Conv2D()与sonnet中的MLP是可以正常连接的,所以想到可能tf.keras.layers.XXX与tf.layers.XXX具体实现不同,故做以下修改:
将上述
a = tf.keras.layers.Dense(timesteps, activation='softmax' )(a)
改为:
a = tf.layers.Dense(timesteps, activation='softmax' )(a)
即可正常运行