探究 ChatGPT 的心脏--Transformer(基础知识第一篇)
Transformer 是 ChatGPT 的核心部分,如果将 AI 看做一辆高速运转的汽车,那么 Transformer 就是最重要的引擎。它是谷歌于 2017 年发表的《Attention is All You Need》中提出的 Sequence-to-sequence 的模型,诞生之后便一统江湖,在 NLP, CV, Audio, Video 多个模态领域成为了遥遥领先。
原创
2024-04-11 21:45:15 ·
993 阅读 ·
1 评论