jm_12138的博客

引入 之前的两个项目分别介绍了GPT-2模型的构建，和如何使用GPT-2加载CPM模型实现问答机器人 由于之前项目所使用的解码方式为Greedy_Search，生成的文本固定且单一，并不适合与写作类型的文本生成 本次就修改一下之前项目的解码方式，改为采样解码，实现AI文本续写 快速体验 可以在百度AIStudio平台上快速体验文本续写生成：项目链接 效果展示 照例先展示一般文本续写的生成效果 输入：《乡土中国》是费孝通先生在社区研究的基础上从宏观角度探讨中国社会结构的著作, 输出：《乡土中国》

引入 上一篇文章介绍了如何使用Paddle2.0构建了GPT-2模型 本次就使用之前构建好的模型加载清源CPM-LM模型参数来实现简单的问答机器人 效果展示 支持问答和古诗默写两个模式 快速体验 可以在百度AIStudio平台上快速体验这个项目：链接 清源 CPM 清源 CPM (Chinese Pretrained Models) 是北京智源人工智能研究院和清华大学研究团队合作开展的大规模预训练模型开源计划 清源计划是以中文为核心的大规模预训练模型 首期开源内容包括预训练中文语言模型和预训

构建一个经典的文本生成模型GPT-2 作者：jm12138 日期：2020.11.30 简要介绍 本示例教程介绍如何使用飞桨构建一个经典的文本生成模型GPT-2 环境设置 本示例教程基于飞桨2.0-rc0版本 # 导入必要的包 import math import paddle import paddle.nn as nn # 打印Paddle版本 print('paddle version: %s' % paddle.__version__) paddle version: 2.0.0-r