YOLOv8改进：在C2f不同位置加入Biformer

目录

Bi-Level Routing Attention

1.新建biformer.py

2.修改ultralytics/nn/modules.py中的c2f模块，修改后的模块用法和c2f一样。

第一种添加方式：在图示位置添加   (用的原来的图)

第二种添加方式：在图示位置添加

3.在task.py中的parse_model如下位置注册：

---

Bi-Level Routing Attention

为了缓解多头自注意力(Multi-Head Self-Attention, MHSA)的可扩展性问题，先前的一些方法提出了不同的稀疏注意力机制，其中每个查询只关注少量的键值对，而非全部。然而，这些方法有两个共性问题：

1. 要么使用手工制作的静态模式（无法自适应）；
2. 要么在所有查询中共享键值对的采样子集（无法做到互不干扰）；

为此，作者探索了一种动态的、查询感知的稀疏注意力机制，其关键思想是在粗糙区域级别过滤掉大部分不相关的键值对，以便只保留一小部分路由区域（这不就把冗余的信息干掉了吗老铁们）。其次，作者在这些路由区域的联合中应用细粒度的token-to-token注意力。