2016年12月_John159151

12月 11月 10月 09月 07月 06月 03月 01月

原创 #Paper Reading# Dual Learning for Machine Translation

论文大体内容：NMT（neural machine translation）机器翻译模型所需标注的训练数据量特别大的问题，但大量的人工标注的训练数据往往意味着大量的花费，因此本文针对这一问题，提出一个对偶模型，dual-NMT，能够使用unlabel的数据也能达到一个很好的效果。

2016-12-22 11:50:52 1796

原创 #Paper Reading# Toward an Architecture for Never-Ending Language Learning

论文大体内容：本文构建出一个NELL（never-ending language learner）的framework，主要能够从web中永不停地抽取信息，构建Knowledge base，然后使用知识不断提升之后task的效果。最后经过67天的实验，NELL抽取出了242000+个beliefs，准确率是74%。

2016-12-11 15:46:54 2626

原创 #Paper Reading# Incremental Algorithms for Hierarchical Classification

论文大体内容：本文提出一个多路径online层次分类的算法H-RLS（Hierarchical Regularized Least Squares），但需要预先定义层次结构，并且针对该算法提出一个比0/1 loss function和symmetric difference loss function更适合该算法的H-loss，最后经过实验，发现该算法的效果比感知机式的层次分类器好很多，但稍逊于SVM的层次分类器。

2016-12-06 22:53:06 651 2

原创 #Paper Reading# ELLA: An Efficient Lifelong Learning Algorithm

论文大体内容：本文提出一种高效的Lifelong Learning算法，主要包括Knowledge Base（sparsely shared basis），使用Knowledge Base进行transfer learning，更新Knowledge Base等操作。最终的效果跟 batch multi-task learning（GO-MTL[1]）基本一样，但是速度上快了3个数量级（1000多倍）。

2016-12-05 16:57:30 1830