【技能篇】python读取文件、实体抽取

这篇博客展示了如何使用Python进行实体抽取和文件读取操作。通过读取"data.csv"文件并处理其中的证券名称和号码,实现了将特定字符串替换为预定义实体的功能。主要涉及gensim库和自定义的filterdict、file2dict、sorttext等函数。
摘要由CSDN通过智能技术生成

最近写了一个实体抽取,并且相应的实体填充预处理方案,代码如下(初步实现方案,后期会持续优化代码),完成所有功能会上传至Github上。

import os
import gensim

def main():
    word_list = ['平安银行', '000002', '测试', '买入']
    #填充实体列表
    entity_list = ['entity1', 'entity2']
    sorttext(word_list, entity_list)


#根据用户问句分词,并将其作为首元素返回
def sorttext(word_list, entity_list):  #wordset表示分词集合,dict表示file2Dict结果
    return_list = []
    all_dict = filterdict()
    for item in word_list:
        for key in all_dict:
            if key != item:
                continue
            else:
                return_list.append(all_dict[key])
                word_list[word_list.index(item)] = entity_list[0]
                if all_dict[key] in word_list:
                    word_list.remove(all_dict[ke

【资源介绍】 基于Python的中文信息实体抽取、关系抽取、事件抽取源码+数据集+训练好的模型+项目说明.zip 数据、预训练模型、训练好的模型下载地址: 链接:https://pan.baidu.com/s/1TdJOF7vjLw4caE1SkZEZGA?pwd=gdpq 提取码:gdpq 每一个代码里面都有训练和验证,并新增了预测功能,只需要修改do_train和do_predict即可。执行代码: ```python python xxx_ner/re/ee.py ``` 依赖 ``` pip install keras==2.2.4 pip install bert4keras==0.10.6 pip install tensorflow-gpu==1.14.0 pip install h5py==2.10.0 ``` 实体抽取 主代码在ner下,数据在data/ner/china-people-daily-ner-corpus/下。ner的结果没有保存,自行预测保存即可。 bert-crf ``` maxlen = 256 句子最大长度 epochs = 10 训练的epoch batch_size = 32 batchsize大小 learning_rate = 2e-5 学习率 crf_lr_multiplier = 1000 必要时扩大CRF层的学习率,crf层的学习率要设置比bert层的大一些 test_f1:0.94876 valid_f1:0.95438 ``` globalpointer ``` maxlen = 256 epochs = 10 batch_size = 32 learning_rate = 2e-5 test_f1: 0.95473 valid_f1: 0.96122 ``` 关系抽取 这里需要安装最新版的bert4keras==0.11.3。这里我只训练了一个epoch,因此将优化器改为了Adam。主代码在re下,数据在data/re/duie/下。 更多详情见项目说明!!!! 【备注】 该项目是个人毕设/课设/大作业项目,代码都经过本地调试测试,功能ok才上传,高分作品,可快速上手运行!欢迎下载使用,可用于小白学习、进阶。 该资源主要针对计算机、通信、人工智能、自动化等相关专业的学生、老师或从业者下载使用,亦可作为期末课程设计、课程大作业、毕业设计等。 项目整体具有较高的学习借鉴价值!基础能力强的可以在此基础上修改调整,以实现不同的功能。 欢迎下载使用,也欢迎交流学习!
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值