Yolov5 计算访存量MAC与计算量FLOPS

最新推荐文章于 2024-11-29 11:24:16 发布

m0_46093829

最新推荐文章于 2024-11-29 11:24:16 发布

阅读量3.6k

点赞数

分类专栏：机器学习 python yolov5 文章标签：深度学习人工智能 python yolov5

本文链接：https://blog.csdn.net/m0_46093829/article/details/128110232

版权

本文介绍了如何在Yolov5中计算模型的访存量OMACS和FLOPS。首先，明确了计算量和访存量的公式。接着，详细讲述了在`torch_utils.py`和`profile.py`中修改代码的步骤，包括添加缓冲区、根据不同层类型选择合适的计算函数，以及计算整个模型的访存量和FLOPS。最后，文章提到了删除hook和返回结果的处理过程。

摘要由CSDN通过智能技术生成

说明：因为yolov5函数中已经计算了 FLOPS，因此如果想要计算访存量那么只需按照flops的位置,添加访存量的计算即可

一、先记住计算量和访存量的公式：

二、找到计算FLOPS的位置，并添加访存量

yolov5中计算flops的位置在torch_utiles.py文件，model_info函数中，故”

1. 修改 torch_utiles.py

2. 修改profile.py中的profile函数

profile 函数首先定义了一个 add_hooks，然后指令：model.apply(add_hooks) 先把这个hook挂起来，随后运行模型的时候才开始正式运行这个hook

2.1 hook 中的操作 --为每一层添加缓冲区并初始化

代码如下：

        m.register_buffer('total_kernel_macs',torch.zeros(1,dtype=torch.float64))
        m.register_buffer('total_output_macs',torch.zeros(1,dtype=torch.float64))