————— 五分钟后 —————
ERNIE是百度开源深度学习平台飞桨(PaddlePaddle)推出的知识增强语义表示模型,通过海量数据建模词、实体及实体关系。相较于 BERT 学习原始语言信号,ERNIE 直接对先验语义知识单元进行建模,增强了模型语义表示能力。简单来说,ERNIE采用的Masked Language Model是一种带有先验知识Mask机制。
除此之外,ERNIE采用多源训练数据,利用高性能分布式深度学习平台飞桨完成预训练。
ERNIE经过1500万篇文章,700万对话的训练,尤其在语言推断、语义相似度、命名实体识别、情感分析、问答匹配等自然语言处理(NLP)各类中文任务上都有不俗的表现。下面我们一起来看看ERNIE的应用效果:
完型填空
相似度
情感分类
了解ERNIE更多信息,可点击【阅读原文】或查看以下链接:
https://github.com/PaddlePaddle/LARK/tree/develop/ERNIE
ps:最后给大家推荐一个GPU福利-Tesla V100免费算力!配合PaddleHub能让模型原地起飞~扫码下方二维码申请