1. 目标
看下keras解决ner问题是否比较方便,摸摸坑
2. 两个比较好的项目
- keras-bert-ner
https://github.com/liushaoweihua/keras-bert-ner/ - keras社区提供的一个包
https://github.com/keras-team/keras-contrib
3. 使用步骤
# 1. 下载:https://github.com/liushaoweihua/keras-bert-ner
git clone https://github.com/liushaoweihua/keras-bert-ner
# 2. 安装keras-contrib
pip install git+https://www.github.com/keras-team/keras-contrib.git
# 3. 安装一些包
- requirements.txt
flask == 1.1.1
keras == 2.3.1
numpy == 1.18.1
loguru == 0.4.1
requests == 2.22.0
termcolor == 1.1.0
tensorflow == 1.15.2
keras_contrib == 2.0.8
pip install -r requirements.txt
cd keras-bert-ner
sh upload.sh
# 4. 训练和测试
cd examples/train_examples
sh run_train.sh
4. ner理解
CRF条件随机场loss函数与维特比算法理解:https://blog.csdn.net/qq_16949707/article/details/107812643
5. keras bert ner模型解读
-
总览
-
bert模型
-
预测
-
在看下维特比解码
crf的权重矩阵为啥是一个num_tags*num_tags的大小啊,跟文本长度是无关的吗??跟我理解的解码方式还是有些不一样啊。
再看下维特比算法:如何通俗地讲解 viterbi 算法?不要太简单:https://www.zhihu.com/question/20136144
那么实现和解码呢?
Tensorflow 中 crf_decode 和 viterbi_decode 的使用:https://blog.csdn.net/baobao3456810/article/details/83388516
- 这里也提到了转移矩阵
- 这里差不多讲明白了
最通俗易懂的BiLSTM-CRF模型中的CRF层介绍:https://zhuanlan.zhihu.com/p/44042528
所以优化crf loss的函数的时候,就是优化这个转移矩阵加上发射分数,然后最后有一个解码的过程,感觉理解又深刻了一步。