>- **🍨 本文为[🔗365天深度学习训练营](https://mp.weixin.qq.com/s/rbOOmire8OocQ90QM78DRA) 中的学习记录博客**
>- **🍖 原作者:[K同学啊 | 接辅导、项目定制](https://mtyjkh.blog.csdn.net/)**
最近研究课题要搞时序,于是被赶鸭子上架学transformer
transformer第一周以介绍为主,没有代码
总结一下就是transformer是一个基于注意力机制来实现长序列预测的模型
通过Encoder(自编码)和Decoder(自回归)两种结构来实现自监督学习