ChatGPT原理
关注
分享
扫一扫
文章平均质量分 88
普通网友
这个作者很懒，什么都没留下…
展开
-
Transformer应用之图像识别中的应用 - Transformer教程
本文介绍了Transformer模型在图像识别中的应用，包括Vision Transformer、Swin Transformer和DETR等模型，并探讨了其优势、面临的挑战及未来发展方向。Transformer凭借其强大的特征提取和建模能力，正逐渐成为图像识别领域的重要工具。原创 2024-07-12 13:52:29 · 431 阅读 · 0 评论 -
Transformer教程之位置编码（Positional Encoding）
在传统的RNN或LSTM模型中，序列信息是通过顺序地处理输入数据来捕捉的。然而，Transformer模型完全依赖于自注意力机制（Self-Attention），不再逐步处理输入序列，这导致模型缺乏捕捉序列顺序信息的能力。为了解决这一问题，位置编码被引入，用于在不改变输入数据顺序的情况下，嵌入序列中的位置信息。原创 2024-07-02 11:31:04 · 1528 阅读 · 0 评论