BERT

bert模型常见问题

bert模型是现在机器学习里边一个非常经典的模型，多用于nlp方向的模型处理

首先我们在GitHub上下载google已经训练好的模型，一定要下载完整的代码和数据集。由于数据集较大，可能不太好下载，大家可以在B站

找视频，视频下的评论区会有大神分享数据集。视频课链接：https://www.bilibili.com/video/BV1NJ411o7u3?p=14&spm_id_from=pageDriver

评论区大神云集，相信会有方法解决你的数据集问题。

然后就是在讲bert在pycharm中打开，复制GitHub中提供的参数，

该图片的run_classifier.py 下面的部分

导入到pycharm中，一定要注意环境的配置，需要修改路径，把--data_dir和--output_dir的路径修改成自己的路径。这些在视频课下面的评论区会评论。

要求tensorflow版本为1.1x，python的版本为3.6或者3.7

跑结果时会遇到的问题：

首先是版本问题，然后是下面的报错问题

Windows fatal exception: access violation

解决办法是再次降低tensorflow的环境，我原先使用的是tensorflow2.3，然后这个bert模型是利用tensorflow1.x写出来的，所以就一直报错。于是就选择降低tensorflow和python的版本

首先创建一个虚拟的环境：

conda create py36 python=3.6 

然后是进入虚拟环境：

conda activate py36

接着在虚拟环境下下载tensorflow1.12（使用1.14.0表示失败，仍然出现问题，所以直接下载1.12.0版本的最好）：

pip install tensorflow==1.12.0

会有一段时间的下载，需要等候。下载完之后会显示done

成功之后进如python环境

输入：import tensorflow as tf

没有报错就说明tensorflow安装成功

输入：tf.__version__

可以查看tensorflow的版本问题

之后就可以在pycharm上跑bert模型的训练结果了