最近要做一个中文文本匹配的任务,看到百度刚刚发布了sota的模型(中文任务全面超越BERT:百度正式发布NLP预训练模型ERNIE) ,所以想拿来用一下,但是相对于大火的google发布的Bert,实践ERNIE模型的博客非常少,于是自己跑通模型后写了这篇博客记录一下遇到的坑,如果对小伙伴们有帮助那便是极好的。
因为论文是基于百度的开源框架paddlepaddle,可以说相比较深度学习大火的tensorflow和pytorch,这方面的资料非常少,可以参考的有官方文档和Github,这里也是给出我在自己环境中遇到的一些问题和解决方案。
文章会同步到我的微信公众号编程与算法之美,公众号底部菜单栏有我的交流群,欢迎大家关注。
写作不易,转载请注明出处。
目录
系统环境
# linux 版本
#这种方法只适合Redhat系的Linux,我目前尝试只有这个可以查看Centos系统版本
cat /etc/redhat-release
-> CentOS Linux release 7.4.1708 (Core)
# cuda 版本
cat /usr/local/cuda/version.txt
-> CUDA Version 9.2.148
cudnn 版本
cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2
-> #define CUDNN_MAJOR 7
-> #define CUDNN_MINOR 3
-> #de