beam search

1、简述

       beam search只在test的时候需要。训练的时候知道正确答案，并不需要再进行这个搜索。
       test的时候，假设词表大小为3，内容为a，b，c。beam size是2
       decoder解码的时候：
1：生成第1个词的时候，选择概率最大的2个词，假设为a,c,那么当前的2个序列就是a和c。
2：生成第2个词的时候，我们将当前序列a和c，分别与词表中的所有词进行组合，得到新的6个序列aa ab ac ca cb cc,然后从其中选择2个得分最高的，作为当前序列，假如为aa cb。
3：后面会不断重复这个过程，直到遇到结束符或者达到最大长度为止。最终输出2个得分最高的序列

2、参考

http://zh.d2l.ai/chapter_natural-language-processing/beam-search.html
https://zhuanlan.zhihu.com/p/43703136