jm_12138的博客

引入之前的两个项目分别介绍了GPT-2模型的构建，和如何使用GPT-2加载CPM模型实现问答机器人由于之前项目所使用的解码方式为Greedy_Search，生成的文本固定且单一，并不适合与写作类型的文本生成本次就修改一下之前项目的解码方式，改为采样解码，实现AI文本续写快速体验可以在百度AIStudio平台上快速体验文本续写生成：项目链接效果展示照例先展示一般文本续写的生成效果输入：《乡土中国》是费孝通先生在社区研究的基础上从宏观角度探讨中国社会结构的著作,输出：《乡土中国》

引入上一篇文章介绍了如何使用Paddle2.0构建了GPT-2模型本次就使用之前构建好的模型加载清源CPM-LM模型参数来实现简单的问答机器人效果展示支持问答和古诗默写两个模式快速体验可以在百度AIStudio平台上快速体验这个项目：链接清源 CPM清源 CPM (Chinese Pretrained Models) 是北京智源人工智能研究院和清华大学研究团队合作开展的大规模预训练模型开源计划清源计划是以中文为核心的大规模预训练模型首期开源内容包括预训练中文语言模型和预训

构建一个经典的文本生成模型GPT-2作者：jm12138日期：2020.11.30简要介绍本示例教程介绍如何使用飞桨构建一个经典的文本生成模型GPT-2环境设置本示例教程基于飞桨2.0-rc0版本# 导入必要的包import mathimport paddleimport paddle.nn as nn# 打印Paddle版本print('paddle version: %s' % paddle.__version__)paddle version: 2.0.0-r