Albert+ TextCNN 文本二分类任务实践

任务

参加了一个贝壳找房公司在DataFountain上举办的比赛

任务
本次赛题的任务是:给定app中的交流片段,片段包含一个客户问题以及随后的经纪人若干对话消息,从这些随后的经纪人消息中找出一个是对客户问题的。

这是一个二分类的问题,就是对许多的 (问题,答案)句子组合 进行 预测,如果问题和回答匹配了,就标注为1。

数据

训练集: 6000段对话, 每段对话是一句用户的问题对上多句客服的回答,这些回答里只有一部分是对客户的问题进行直接回答的,被标注为 1 , 其余的标注为0。

数据的格式可以被处理为: [query_id, reply_id,query,reply,label]

例如:

在这里插入图片描述

用户的问题是: 靠近沙川路嘛?

客服 回了三句话, 只有 "有一点靠近沙川路"这一条reply 的label是1(因为这句话直接回答了用户的问题), 其余的标注是0

流程

  • 数据预处理
    • preprocess.py
    • 找规则
  • 训练
    • train.py
  • 模型
    • model.py
    • 采用ALBERT+TextCNN
  • 在test集输出
    • test.py

模型

baseline

其实在比赛网站的排名榜上,得分第一名的人(是北航校友,已毕业)开源了他的代码

我下载下来看了一下,他是用jupyter notebook 写的,深度学习框架用的是tensorflow

  • 1
    点赞
  • 21
    收藏
    觉得还不错? 一键收藏
  • 6
    评论
ALBERT BiGRU CRF是一种使用ALBERT模型作为特征提取器,并结合BiGRU和CRF层进行序列标注的模型。其中,ALBERT模型是一种预训练语言模型,通过无监督学习从大规模文本数据中获取语言知识,具有较强的语义理解能力。BiGRU是一种双向门控循环神经网络,可以有效地捕捉序列中的上下文信息。而CRF(条件随机场)是一种有助于解决序列标注任务的概率图模型,它可以利用上下文信息来对序列进行标注,提高标注的准确性。ALBERT BiGRU CRF模型结合了ALBERT的语义理解能力、BiGRU的上下文信息提取能力和CRF的标注准确性,能够在序列标注任务中取得较好的效果。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [程序员5个刷题网站-keras-bert-ner:中文NER任务使用BiLSTM-CRF/BiGRU-CRF/IDCNN-CRF模型和预训练语](https://download.csdn.net/download/weixin_38623366/20060209)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *2* *3* [【NLP_命名实体识别】Albert+BiLSTM+CRF模型训练、评估与使用](https://blog.csdn.net/YWP_2016/article/details/114648476)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值