从零实现GPT-2，瞎写笑傲江湖外传，金庸直呼内行

最新推荐文章于 2024-01-10 21:05:24 发布

布尔艺数

最新推荐文章于 2024-01-10 21:05:24 发布

阅读量795

点赞数 2

分类专栏： MinimalAI 文章标签： pytorch nlp 自然语言处理深度学习机器学习

本文链接：https://blog.csdn.net/Boolart/article/details/124328338

版权

这篇博客介绍了如何利用PyTorch从零开始实现GPT-2模型，并用其生成《笑傲江湖》外传。通过训练，模型为金庸笔下的人物编织新的故事，展现了深度学习在自然语言处理中的应用。

摘要由CSDN通过智能技术生成

使用PyTorch实现GPT-2模型，采用笑傲江湖小说文本训练，究竟小师妹和盈盈情感修罗场结局如何，且听GPT-2娓娓道来...

从零实现GPT-2，瞎写笑傲江湖外传，金庸直呼内行

context = "任盈盈和令狐冲相拥而眠，"
x = torch.tensor([train_dataset.stoi[s] for s in context], dtype=torch.long)[None,...].to(trainer.device)
y = sample(model, x, 2000, temperature=1.0, sample=True, top_k=10)[0]
completion = ''.join([train_dataset.itos[int(i)] for i in y])
print(completion)

任盈盈和令狐冲相拥而眠，踏入了他的怀中，伸手入怀，握住了她手，说道：“盈盈，救出恒山门人之后，我和你立即拜堂成亲，也不