大家好,我是爱编程的喵喵。双985硕士毕业,现担任全栈工程师一职,热衷于将数据思维应用到工作与生活中。从事机器学习以及相关的前后端开发工作。曾在阿里云、科大讯飞、CCF等比赛获得多次Top名次。现为CSDN博客专家、人工智能领域优质创作者。喜欢通过博客创作的方式对所学的知识进行总结与归纳,不仅形成深入且独到的理解,而且能够帮助新手快速入门。
本文主要介绍了transformers设置StoppingCriteria的实战代码,希望能对学习transformers的同学们有所帮助。
1. 问题描述
今天在进行文本生成时,总会生成一些不必要的内容,如果能够在生成不必要内容前及时停下来不仅能够得到更好的答案,而且节省了预测的时间。
在经过了亲身的实践后,终于找到了可复现的实战代码,最终将详细的代码总结如下。希望对学习transformers的同学们有所帮助。
2. 解决方案
为了方便大家理解,提问以who are you?为例,模型回复为
I am a 20 year old girl who is currently studying at the University,如下图所示: