之前看了原理一直没有写过代码
但是前人其实肯定已经有很好的实现了 所以就打算先看看比较好的代码写法再学习一下
首先是看到了这篇
大语言模型底层架构丨带你认识Transformer - 华为云开发者联盟 - 博客园 (cnblogs.com)
然后再知乎上找了之后发现了更详细的这个
Transformer的最简洁pytorch实现 - 知乎 (zhihu.com)
不过说到自己要写的时候还是得这样
之前看了原理一直没有写过代码
但是前人其实肯定已经有很好的实现了 所以就打算先看看比较好的代码写法再学习一下
首先是看到了这篇
大语言模型底层架构丨带你认识Transformer - 华为云开发者联盟 - 博客园 (cnblogs.com)
然后再知乎上找了之后发现了更详细的这个
Transformer的最简洁pytorch实现 - 知乎 (zhihu.com)
不过说到自己要写的时候还是得这样