NLP到底有多难?我们笑了,NLP 却忍不住哭了!

9102年了,代沟又有了新的定义,比如,你和妈妈对“潮”的理解:

       640?wx_fmt=png

「潮」字引发的歧义对我们而言是个有趣的段子,但对研究人员来说,这是现实中需要克服的问题。

无论是Siri、小爱同学、智能家居、伴读机器人、谷歌/百度翻译,想要良好运行,完成对话、翻译、执行任务的使命,都必须理解人类的语言。

文本理解有多难?

歧义、多义、断句、识别名词,要想正确的理解文本内容,毫无疑问必须具备文八级、中文十级的水平:

˙﹏˙ → 宝宝的经纪人睡了宝宝的宝宝,宝宝不知道宝宝的宝宝是不是宝宝的亲生的宝宝,宝宝的宝宝为什么要这样对待宝宝!

       

       640?wx_fmt=png

˙﹏˙ →论标点符号的重要

640?wx_fmt=png

640?wx_fmt=png

˙﹏˙ → 评论里都是大佬系列

 640?wx_fmt=jpeg

640?wx_fmt=jpeg

˙﹏˙  →

A:你的公司叫什么名字?

B:宝鸡有一群怀揣着梦想的少年&ノ¢?/&......

A:我问你公司名字

B:宝鸡有一群怀揣着梦想的少年相信在牛大叔的带领下&ノ¢?/&......

A:深井冰!

640?wx_fmt=jpeg

640?wx_fmt=png

˙﹏˙ →林俊杰:?????╯▽╰

640?wx_fmt=png

˙﹏˙  →

去年有位同学

把上传一卡通照片理解为:

上传一“卡通”照片

传了个奥特曼上去

希望今年不要再有此事了

640?wx_fmt=jpeg

640?wx_fmt=png

这也不仅限于汉语,英语也一样:

˙﹏˙  →

I am a Huge Metal Fan 

一层意思指,我是个金属大电扇,

另一层意思也指,我是个重金属乐迷。

640?wx_fmt=png

进击的NLP

尽管比尔·盖茨在多年前就曾说过「语言理解是人工智能皇冠上的明珠。自然语言处理的进步将会推动人工智能整体进展。」

但是由于难度系数过高,这么多年过去了,自然语言理解至今却依然存在较高的错误率。

640?wx_fmt=png

MIT的刘群教授苦中作乐,在微博开了一个#自然语言理解太难了#话题,至今已有500万热度。

640?wx_fmt=png

该领域的学生们也是苦不堪言:

640?wx_fmt=jpeg

苹果的Siri是最多人接触的人工智能了,可如今仍然会时刻转变成人工智障。

 640?wx_fmt=png   

640?wx_fmt=jpeg       640?wx_fmt=png

以上这些语句,人类理解起来尚且费力,要想让机器来搞懂意思,更是难上加难啊。

 640?wx_fmt=jpeg

不过,困难从来不能组织科技前进。机器学习的能力,也愈发不容小觑。

比如这句:「 我也想过过过儿过过的生活。

清华的刘知远老师用Stanford Parser测试的结果看来,除了“过儿”这个名词实体识别失败,其它还是很不错:

我/PN 也/AD 想过/VV 过过/VV 儿/NN 过过/VV 的/DEC 生活/NN 。

用哈工大模型跑出来更好,已经可以非常准确的识别出主体,句子分词也很不错:

       640?wx_fmt=png

还有这个新闻频道的经典场面:

640?wx_fmt=png

在百度、谷歌翻译上的结果表现都非常好。

       640?wx_fmt=png

谷歌翻译结果

      640?wx_fmt=png

百度翻译结果

随着深度学习的爆发,CNN、RNN、LSTM 的出现,让NLP又有了全新的发展。到了2019年,使用 Transformer的 BERT 和 GPT-2 表现更是引爆业界。

可以预见,NLP在未来几年将步入快速发展阶段。

最后,我们一起来看看纪晓岚的鬼才编剧们,怎么玩转NLP谐音梗的~

640?wx_fmt=png  

640?wx_fmt=png

640?wx_fmt=png

640?wx_fmt=png

640?wx_fmt=png

640?wx_fmt=png

640?wx_fmt=png

640?wx_fmt=png

640?wx_fmt=png

640?wx_fmt=jpeg

640?wx_fmt=png

640?wx_fmt=png

640?wx_fmt=png

640?wx_fmt=gif

让别人知道你在看?
  • 3
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值