机器阅读理解machine comprehensive

梗概

(1),word continuous representation

将词向量表示成连续的向量形式,通过wordembed模型

(2),word continuous representation to sentence continuous representation

将词连续向量转换成一个句子连续向量,通过卷积或lstm来实现。

具体应用有:

通过句子的语义连续向量和recurrent continuous translation来机器翻译。

通过句子的语义连续向量对句子所表达的主题进行分类;

通过句子的语义连续向量进一步compositionality来得到discourse或conversation或paragraph的continuous representation

(3),Cloze test  or cloze-style query

Today, I went to the ________ and bought some milk and eggs. I knew it was going to rain, but I forgot to take my ________, and ended up getting wet on the way.

 

相关模型:Text Understanding with the Attention Sum Reader Network

 

(4),Attention mechanisms 

原理:由于将一个sentence转换成一个向量可能丢失信息,尤其是对于句子太长的情况下。因此有人提出对每个词都转换成一个上下文相关的向量,因此一句话有n个词将转换成n个向量,而不是一个向量。在应用中再根据相关性计算出句子向量与当前翻译的词的相关性,来动态的构造出句子向量的representation。

应用:机器翻译、机器问答系统。

 

2,具体流程

(1)将句子或文本转换成

(2)将问题转换成一个向量

(3)计算问题和各ci的相似度,取最大值的位置,即是问题的答案

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值