![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
自然语言处理
文章平均质量分 81
thormas1996
关注机器学习,深度学习,联邦学习,推荐系统等相关内容
展开
-
论文阅读 Multi-Task Deep Neural Networks for Natural Language Understanding
这是今年arXiv上Microsoft Research的一篇文本embedding的文章,原文在Multi-task DNN。这篇文章的思路很简单,在BERT的基础上,用multi-task learning对embedding layer进行fine-tuned,但在GLEU benchmark上的实验结果非常好,九个NLU任务中八个的表现都有提升,benchmark提升了足足2.2%。M...原创 2019-10-12 17:53:33 · 500 阅读 · 0 评论 -
问题生成(QG)总结
这个暑假做了个QG的调研和复现了模型,做一个总结。文中涉及的文章详细介绍可见论文阅读 Question Generation 背景: 为什么要研究QG? 从人的经验看,好的学习者一定是擅长提问的。机器知识库作为“学习者”,也许可以利用主动提问来高效构建或者补充知识库,扩充数据集等等。 现在的一些应用场景:在教育领域,帮助学生来提问;在对话领域,作为冷启动来开始一个话题或者通过提问...原创 2018-08-09 15:31:35 · 3473 阅读 · 7 评论 -
论文阅读 seq2seq模型的coverage机制
Get To The Point: Summarization with Pointer-Generator NetworksAbigail See, Peter J. Liu, Christopher D. Manning Standford University & Google Brain, 2017这是ACL2017上的一篇文章,提出了coverage机制,目的是为了解决...原创 2018-08-09 15:04:23 · 8917 阅读 · 0 评论 -
论文阅读 Question Generation
问题生成 论文笔记原创 2018-07-12 14:44:49 · 3411 阅读 · 0 评论 -
训练中文词向量 word2vec
理论:embedding简单来说就是用向量表示词汇,最早使用的都是one-hot向量,一个维度代表一个单词,长度为词典的长度。优点是简单明了,缺点是占用空间大,无法表示词与词之间的相似度。2013年google提出了word2vec,主要包含两个模型CBOW(continuous bag of word)和skip-gram。通过模型将词向量减小到特定的维度,这种方法一定程度上可以通过余弦相似...原创 2018-07-24 10:34:36 · 947 阅读 · 0 评论 -
论文阅读 seq2seq模型的copy机制
论文阅读Pointer NetworkPointing Unknown Word论文阅读Pointer NetworkPointing Unknown Word原创 2018-07-17 15:14:16 · 9443 阅读 · 0 评论 -
论文阅读 QA与QG联合学习
论文Question Generation for Question AnsweringQuestion Answering and Question Generation as Dual TasksA Joint Model for Question Answering and Question Generation论文Question Generation fo...原创 2018-07-17 15:05:00 · 2532 阅读 · 0 评论 -
论文阅读 Question Answering
论文Generating High-Quality and Informative Conversation Responses with Sequence-to-Sequence ModelsTopic Aware Neural Response Generation论文Generating High-Quality and Informative Conve...原创 2018-07-17 14:58:20 · 2227 阅读 · 0 评论 -
结巴分词基础用法
结巴分词基础原创 2018-07-09 10:30:17 · 1425 阅读 · 0 评论 -
讲座笔记:中文纠错
讲座笔记:中文纠错原创 2018-07-01 23:50:33 · 1435 阅读 · 0 评论 -
讲座笔记:中文分词基础介绍
讲座笔记:中文分词基础介绍原创 2018-06-24 10:51:44 · 500 阅读 · 0 评论