使用BERT时出现'final_encodes:0' not found in graph def错误

在使用BERT时，初始化过程中出现'final_encodes:0' not found in graph def的错误，在BERT的issue里也没有找到相关问题。后来在TensorFlow的issue里找到了类似问题, 传送门：

原因是使用较新版本的TensorFlow加载了旧版本训练的预训练模型。于是检查TF版本，BERT预训练时的TF版本为1.13.1，而我在使用中的TF版本为1.14.0, 于是进行TF降级：

pip install tensorflow-gpu==1.13.1

这时候会自动卸载1.14.0的TF-gpu版本，安装更新1.13.1的版本，但在import时出错：

ImportError: libcublas.so.10.0: cannot open shared object file: No such file or dictionary

再次检查TF版本，pip list, 看到虽然TF-gpu已经变更为1.13.1，但TF版本仍为1.14.0，应该是版本不一致导致的，于是继续降级

pip install tensorflow==1.13.1

运行后无错误