最详尽版本：一文带你了解beam search算法

目录

Beam Search算法

1. 简介

• 在对话生成任务中，解码策略有自回归与非自回归两种方法。其中自回归的解码策略包括了greedy，beam search，top-k以及top p等方法。每种方法都有自己的优缺点。本文主要针对beam search方法做详细的介绍。其它相关的解码策略后面会有相应的文章进行介绍，这里就不多做说明。
• 在自回归的解码方法，主要是在inference阶段，输入query，然后decoder一步一步的生成词,后一个词的生成依靠前面生成的词和query，一直到生成终止符停止，最后将所有顺序生成的词连在一起就是一个完整的句子。在每一个step中，模型最后一个一般是来说是dense层，经过softmax之后，会得到一个vocab size的向量。这个过程对于所有的自回归解码策略都是一样的，不同的就是后续的处理流程，比如说，greedy则是取向量元素中最大的值的index对应的词最后生成的词。
• 通过上面的描述，我们可以将解码任务抽象为在一个高为max_len(生成句子的最大长度),每个节点有vocab size个子节点的语义树中，寻找一个符合要求的路径。当然在常规的生成任务中，这个路径并不一定是完整的。gree