文本生成系列（三）beam search的一些改进

最新推荐文章于 2024-10-02 23:46:22 发布

Flying_sfeng

最新推荐文章于 2024-10-02 23:46:22 发布

阅读量1.7k

点赞数 1

分类专栏： paper解读文章标签： beam search改进

本文链接：https://blog.csdn.net/Flying_sfeng/article/details/116609890

版权

机器学习同时被 3 个专栏收录

22 篇文章 8 订阅

订阅专栏

NLP

11 篇文章 5 订阅

订阅专栏

paper解读

10 篇文章 1 订阅

订阅专栏

引言

我们知道，在文本生成领域，所用到的解码方法有两种：greedy search和beam search。

greedy search相当于在每一步的生成过程中，都选择概率最大的token作为候选token，而beam search则是每一步都选择topk个token作为候选token，然后使用这k个token对应的句子进行下一个词的预测，总共有k*V个结果，再取topk个token，以此迭代直到出现结束符。
在这里插入图片描述

beam search相当于在greedy search的基础上进行了优化，扩大了搜索空间，但是两个解码方法本质上都是选择概率最大的结果，这会导致生成的文本多样性不足。这在一些对话的场景中尤其受限，比如模型会倾向于生成放之四海而皆准的结果（如“是的”，“好的”等等）。

改进策略

思路指引

下图是beam search生成文本与人类撰写文本在生成概率上的区别，可以看到，beam search生成的文本基本上都是取生成模型预测概率最大的结果（这是由beam search的生成策略决定的），而人类撰写的文本所使用的token不一定是生成模型预测概率最大的（这个例子比较极端，差别很大）。

这个例子给了我们一个思路：并不是取生成模型预测概率最大的结果就是最好的，我们可以从采样的角度做一些优化。
在这里插入图片描述

改进方案

随机采样

随机采样比较简单，根据生成模型预测的概率分布，我们按照概率进行采样，将采样结果作为该时刻的预测结果。这样会增大所选词的范围，引入更多的随机性。但是随机采样容易产生前后不一致的问题，所以不太适用于长文本生成领域；而在开放闲聊领域，生成文本的长度都比较短，这种问题就被自然的淡化了。

随机采样还有一个改进策略是：添加一个温度系数t来调控采样概率。解码器的输出层后面通常会跟一个softmax函数来将输出概率归一化，通过改变t可以控制概率的形貌。
在这里插入图片描述
t的取值范围为(0,1]。当t大的时候，概率分布趋向平均，随机性增大；当t小的时候，概率密度趋向于集中，即强者愈强，随机性降低，会更多地采样出“放之四海而皆准”的词汇。