Google开源了多个版本的BERT(Bidirectional Encoder Representation from Transformers)预训练模型。针对语言主要分为中文、英文和多语言,针对非中文区分大小写的Cased版本,其中Base版本网络规模比Large小。选择中文训练模型并下载。
BERT-Base, Chinese
语言种类:中文
网络结构:12-layer, 768-hidden, 12-heads
参数规模:110M
文本特征提取 BERT-Master模型
bert目前官方提供tensorflow、keras版本、目前github上也有其他版本的,本文以tensorflow版本为准,环境管理采用anaconda管理。anaconda在mac上的安装与配置步骤:
一、下载及安装
- 官网下载命令行版本。
- 下载完成后, 按 <bottom>cmd + t </bottom> 打开终端 进入我们的下载目录
-
cd ~/Download/ bash ./Anaconda3.sh #执行我们刚才下载的文件,文件名要看你自己的
- 注意ENTER to continue,很长一段协议阅读可以一直向下滑动,直到accept the license
- Enter 会有长时间的空白,不要乱按。
二、将conda加入系统变量
1. “cd..”敲回车,退回下载文件夹
2. conda --version 如下信息安装成功。
3. 然后是,在mac终端用命令行的形式,添加并激活anaconda的环境变量:
添加命令:echo 'export PATH="/Users/software/anaconda3/bin:$PATH"' >> ~/.zshrc
解释说明:echo是返回字符串的命令,~/目录是家目录,即/Users/<个人用户名>。两个>(英文半角下的大于号)表示不改变 后面文件中的原有内容,添加引号中的内容,有这个文件会自动新建。为什么是.zshrc文件呢,因为我的终端打开用的是- zsh工具。
4. 激活命令:source ~/.zshrc
(source命令的功能:读入指定的sh程序文件并依次执行文件中的所有语句。通常用于重新执行刚修改的初始化文件,是之立 即生效,而不必注销并重新登录)
三、电脑中的虚拟环境
1.现在电脑里面应该只有一个base环境。使用命令:conda env list进行查看。
2. 如何删除多余的虚拟环境 conda remove -n your_env_name --all
失败原因总结:
四、安装tensorflow并查看版本
pip install tensorflow
>>> import tensorflow as tf
>>> tf.__version__
使用pip安装tensorflow报错:ERROR: Could not find a version that satisfies the requirement tensorflow==1.15.4 (from versions: none)
ERROR: No matching distribution found for tensorflow==1.15.4
由于系统python语言版本为3.8,还没有对应的tensorflow的低版本,所以创建了一个新的python3.6的虚拟环境来安装低版本的tensorflow
五、将anaconda的虚拟环境配置到pycharm中
找到anaconda中安装虚拟环境envs里面对应环境的对应python3.6.exe