A Planning based Framework for Essay Generation
这篇文章深度较浅,讲的是如何生成一篇简单的文章。
2.Framework
2.1Topic Understanding
conseder topic understanding as two cascaded steps:topic expansion and topic clustering.
topic expansion:find a collection of words having similar semantic meanings with the topic word.
topic clustering:seperate similar words into several clusters.
topic expansion's approaches: word embeddings topic modeling ->vector space,get most confident k words and filter out the others
(这里的几个方法都是些现成的,包括词向量的相似度也只用了cos余弦和欧氏距离.)
topic clustering: K-Means Affinity Propagation,(同现成方法)
2.2 Sentance Selecting
收集好了分成堆的词语之后,我们要为每堆单词挑选句子。
这里定义了一个函数f(W, s),W是一个单词的集合,s是要测试的句子。
使用的两种方法:counting based approach embedding based method
counting based 就是计算句子s里包含多少W集合的单词,越多分越高。
embeddings based:总感觉这个方法有点low,也可能是自己知道的实在太少了。这个方法只是把句子里每个单词的向量取了一个平均来代表句子。
当然他的有据可寻的,on the basis of the principal of compositionality.
这里他们leave了很多没用到的方法留着以后再研究...呵呵。
Extension1:
通过每个句子的作用对句子进行一个分类:Introduction Prompt Conclusion
Extension2:
通过2.2的方法得到的句子可能包括了一些之前understanding没得到的单词,所以他们add了一个feedback环节,想法不错只是得到这些单词的方法还是有些简陋。
2.3 Sentence Organizing
现在是要把句子连成文章,似乎用了一个简单的贪心方法,每个句子之后接一个句子看它的得分,得分最高的即接在后面。
它一共有四种方法,BOW(Boolean) BOW(Frequency) Embed-Average Reursive Neural Network.最后这个神经网络的好像效果最好。
后面就是一些Experiment了
3.1Evaluation on Topic Understanding
他们用的青春这个词(可能是效果最好的一个吧。。)
topic model & word embeddings 得到的单词比较相关,第一个方法得到一堆近义词
3.2 Evaluation on Sentence Selecting
counting based method得到的句子都比较长,因为包含更多的key words
embedding based method 比较短,更相关。
3.3
神经网络那个得到的结果更正确。