竞赛 | 第五届“讯飞杯”中文机器阅读理解评测报名开启(CMRC 2022)

每天给你送来NLP技术干货!


06f6c5ee5785d61d0a87eb53d6de84be.png

依托全国计算语言学学术会议(CCL),自2017年以来“讯飞杯”中文机器阅读理解(CMRC)系列评测已成功举办四届,对中文机器阅读理解的不同任务进行了评测,见证了中文机器阅读理解技术的不断发展。今年我们继续承办第五届“讯飞杯”中文机器阅读理解评测(CMRC 2022),并将于2022年10月在第二十一届全国计算语言学学术会议(CCL 2022)上召开评测研讨会。我们诚挚邀请各单位和个人报名参加本届评测。

CMRC 2022官网:http://cmrc2022.hfl-rc.com

任务简介

第五届“讯飞杯”中文机器阅读理解评测(CMRC 2022)聚焦的任务是可解释性阅读理解。根据给定一个篇章以及和篇章相关的问题,参赛队伍需要设计一个可以同时抽取答案(或者选择答案)和佐证依据的机器阅读理解系统。根据阅读理解类型分为以下两个赛道:

  • 抽取型阅读理解赛道:答案和佐证依据均是篇章中的某个连续片段

  • 选择型阅读理解赛道:答案是从若干个候选选项中选出,佐证依据是篇章中的某个连续片段

本届评测的难点在于组委会并不提供带标注的训练集合。因此,选手需要设计无监督或弱监督的机器阅读理解系统来完成答案和佐证依据的抽取。为了训练机器阅读理解系统,参赛队伍可以使用任何公开数据集的训练集部分以及无标注数据,但不能使用任何未公开数据集以及公开数据集中的开发集和测试集。

请访问评测官网了解更详细的任务介绍。推荐阅读往期推送了解本届评测使用的数据集:哈工大讯飞联合实验室发布可解释性阅读理解评测集ExpMRC

比赛流程

本届比赛依次分为以下几个阶段:

  • 资格赛:参赛队伍将通过官方平台自助提交开发集结果,取前10名进入到资格审查环节。选手可以在报名之后就开始搭建并优化比赛系统,待榜单开启后提交结果。

  • 资格审查:入围队伍需要提交代码以完成资格审查(后续公布详细流程),同时需要提供训练数据来源的详细说明。资格审查通过的队伍进入到决赛。

  • 决赛:资格审查通过的队伍将提交两组系统,由组委会给出测试集结果,取两组系统测试集“综合F1”指标高的结果作为该队伍的最终评测结果,参与最终的排名。

重要时间

阶段
时间
报名
2022年5月18日-2022年7月31日
资格赛
2022年6月1日-2022年7月31日 
榜单开启2022年6月13日
资格审查2022年8月1日-2022年8月15日
决赛
2022年8月16日-2022年8月31日
公布比赛结果
2022年9月中旬
撰写评测报告2022年9月下旬
评测研讨会
2022年10月14日-2022年10月16日(TBA)

注:所有截止时间点为北京时间(UTC+8)23:59;时间可能会有细微变动,请持续关注评测官方网站。

评测报名

请扫描下方二维码或使用链接进行报名。

报名地址:https://wj.qq.com/s2/10202266/6435/

5a4f3c60aa8a0db336d3f38c4e43d88b.png

奖项设置

本届评测将由中国中文信息学会为获奖队伍提供荣誉证书,由科大讯飞股份有限公司为获奖队伍提供奖金。每个赛道将评选出:

奖项数量奖励(奖金为税前金额)
3131a6ba49e19b64aefd4076030742ab.png 冠军一名¥10,000 + 荣誉证书
17d09d3d6629c446ff86e3456a4e47f3.png 亚军一名¥5,000 + 荣誉证书
fee60baa6d3021d0f07396ddb2760548.png 季军一名¥ 3,000 + 荣誉证书

评测组织

【评测主席】

崔一鸣(哈工大讯飞联合实验室)

车万翔(哈尔滨工业大学)

【组织单位】

认知智能国家重点实验室

哈尔滨工业大学社会计算与信息检索研究中心(HIT-SCIR)

中科讯飞互联(北京)信息科技有限公司

【赞助单位】

科大讯飞股份有限公司

联系我们

如果有任何与本届评测相关的问题,请联系评测委员会。

邮箱:cmrc2022 [at] 126 [dot] com

CCL 2022评测列表:第二十一届中国计算语言学大会(CCL 2022)技术评测任务发布

最近文章

EMNLP 2022 和 COLING 2022,投哪个会议比较好?

一种全新易用的基于Word-Word关系的NER统一模型,刷新了14种数据集并达到新SoTA

阿里+北大 | 在梯度上做简单mask竟有如此的神奇效果

ACL'22 | 快手+中科院提出一种数据增强方法:Text Smoothing,非常简单且有效尤其在数据不足的情况下

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值