python词嵌入_BERT 词嵌入

使用 Bert 模型进行中文词嵌入

之前在 JobCodeExtra 任务中使用BERT模型进行词嵌入是没有问题的。过程就是安装几个库,通过CS(Client、Server)的方式进行调用即可。

pip install bert serving-client

pip install bert-serving-server

TensorFlow 也是要安装的

下载 BERT 预训练模型

一定要注意Python、tensorflow的版本,不然可能导致不兼容问题,另外跟其他的库似乎也存在兼容问题,具体是哪些不清楚。。。

之前通过上面的方法配置好环境后,在cmd进入对应 Python 安装位置的 Script 文件夹下,因为需要用到一个命令bert-serving-start(当然如果这里已经将该路径添加到了环境变量中的话,则可以省略该步骤)。然后执行bert-serving-start -model_dir F:/chinese_L-12_H-768_A-12即可启动词嵌入模型。

令人绝望的问题:

1. 后来可能因为我安装了许多其他的包,有些包还进行了卸载和更新等等操作,导致突然间这种方法不能用了!!!

2. 我的内心是绝望的,错误一直无法解决,网上也查询不到,问别人也没有解决。

思考:

遇到这种情况十之八九都是环境配置的问题,各种包混杂在同一个版本的解释器(Python)下,很能不出现这种不兼容问题。

解决办法:

创建一个虚拟环境,单独为这个项目安装需要的库,后来发现确实解决了这样的问题。终于看到了久违的界面,很感动。

下一步:

下面我准备不用 pycharm 来为这个项目写代码,实在不方便调试,数据量本身不小,遇到错误要运行很久才行停下来报错(主要还是因为这种词嵌入的方法耗时太长,但无奈我目前只会这种嵌入方法),后面我准备使用 jupyter notebook 来编写程序。之前已经完成了无监督的基于相似度的方法和基于 SVM 的方法,下面我想试一下神经网络的效果。但在这之前,还要解决一个问题,如何给 jupyter notebook (或者 pycharm)配置虚拟环境呢?还得一步一步来......

PS:其实之前也遇到了一些其他的问题,只不过都简单解决了,所以没记录(其实是忘了记录,QAQ)

问题截图:

最终解决了问题的截图:

道路艰难而又遥远,且行且行~~~

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值