snips数据集_Simple, Fast, AccurateClassification and SlotLabel

本文提出了一种联合的NLU框架,平衡了模型的准确性、训练速度和推理速度,适用于意图识别和槽位填充任务。通过对比全循环、标签循环和非循环模型,以及不同词上下文编码方法,实验表明多层卷积网络在Snips和ATIS数据集上实现了最佳F1值,而自注意力模型在小数据集上表现不佳。
摘要由CSDN通过智能技术生成

本文《Simple, Fast, Accurate Intent Classification and Slot Labeling》一种联合的框架来同时解决意图识别和槽位标记的任务,文中提出的框架在模型的准确性、模型训练的速度和推理的速度三个方面取得了平衡。

概述

意图识别/意图分类(Intent Classification)和槽位填充 (Slot Filling) 是自然语言理解 (Natural Language Understanding, NLU)领域中的两个比较重要的任务。在聊天机器人、智能语音助手等方面有着广泛的应用。

本文提出了一种联合的框架来同时解决意图识别和槽位标记的任务,文中提出的框架在模型的准确性、模型训练的速度和推理的速度三个方面取得了平衡。

模型介绍

本文设计对比了几种不同的方式对输入的语句进行编码,比较各种方式的优劣,最终设计出一个同时兼顾准确率和速度两个方面的指标模型解决此任务。

本文的主要框架如下图所示,其基本思想为:句子的每一个单词经过不同的方式进行编码,形成词上下文编码(word contextualization),然后将词嵌入信息编码形成句子编码信息,最后通过分类确定每一个句子的意图,对每一个词进行分类得到槽位标记的结果。模型的输入为

,表示一个句子序列,相应的输出就是计算概率

,c表示意图,l表示槽位标记。

本文主要探讨了三种不同的模型来测试模型的准确率和速度:包括全循环(fully recurrent), 标签循环(label-re

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值