在使用BERT时,初始化过程中出现'final_encodes:0' not found in graph def
的错误,在BERT的issue里也没有找到相关问题。后来在TensorFlow的issue里找到了类似问题, 传送门:
原因是使用较新版本的TensorFlow加载了旧版本训练的预训练模型。于是检查TF版本,BERT预训练时的TF版本为1.13.1,而我在使用中的TF版本为1.14.0, 于是进行TF降级:
pip install tensorflow-gpu==1.13.1
这时候会自动卸载1.14.0的TF-gpu版本,安装更新1.13.1的版本,但在import时出错:
ImportError: libcublas.so.10.0: cannot open shared object file: No such file or dictionary
再次检查TF版本,pip list
, 看到虽然TF-gpu已经变更为1.13.1,但TF版本仍为1.14.0,应该是版本不一致导致的,于是继续降级
pip install tensorflow==1.13.1
运行后无错误