机器视觉相关名词定义

1 参数量(Parameters)
在目标检测模型中,参数量通常指的是模型中可学习参数的总数。参数量是衡量模型复杂度的一个重要指标,它直接影响到模型的存储需求、计算成本以及训练时间。参数量的多少也与模型的容量有关,即模型能够学习的特征信息量。

total_params = sum(p.numel() for p in model.parameters())
total_params += sum(p.numel() for p in model.buffers())
print(f'{total_params:,} total parameters.')
print(f'{total_params/(1024*1024):.2f}M total parameters.')
total_trainable_params = sum(
    p.numel() for p in model.parameters() if p.requires_grad)
print(f'{total_trainable_params:,} training parameters.')
print(f'{total_trainable_params/(1024*1024):.2f}M training parameters.')

2 运算量 (GFLOPS)
GFLOPS衡量的是模型每秒能执行的浮点运算次数,单位是十亿(Giga)次浮点运算。在目标检测模型中,一个模型的GFLOPS越高,表示该模型在硬件上执行运算的能力越强。GFLOPS是衡量算法计算复杂度的指标,通常与模型的参数量和运算量相关。例如,一个具有大量参数和复杂运算的深度学习模型会有更高的GFLOPS需求

3 推理速度(FPS)
FPS衡量的是模型每秒能处理多少帧图像,即每秒可以完成多少次目标检测。在目标检测中,FPS是衡量模型实时性能的关键指标。一个高FPS值意味着模型可以快速处理输入图像并给出检测结果,这对于需要实时反馈的应用场景(如视频监控、自动驾驶等)非常重要。FPS受多种因素影响,包括模型的GFLOPS、硬件的计算能力、优化算法等
在这里插入图片描述
4.大模型参数量和模型大小怎么换算?
最近大模型很火,这个时候就想知道假设现在有一个GLM-130B的模型(1300亿参数量),如何知道他占用多大硬盘空间?
在这里插入图片描述
模型的参数量和模型大小之间有直接关系。参数量通常表示模型中可学习的参数的数量,而模型大小通常表示模型所占用的内存空间。这两者之间的换算关系如下:计算参数量:首先统计模型中所有可学习参数的数量。这包括各层权重矩阵、偏置项、层归一化参数等。将所有参数数量相加,得到模型的总参数量。计算模型大小:模型大小取决于模型参数的数据类型和存储格式。通常,参数以32位浮点数(float32)存储。为了计算模型大小,需要将总参数量乘以每个参数所占用的字节数。对于32位浮点数,每个参数占用4字节(32位/8位=4字节)。换算公式:模型大小(字节) = 总参数量 × 每个参数的字节数例如,如果模型有1000万个参数,并使用32位浮点数表示,则模型大小约为:模型大小(字节) = 10,000,000 × 4 = 40,000,000字节可以将其转换为更容易理解的单位,如兆字节(MB):模型大小(MB) = 40,000,000字节 / (1024 × 1024) ≈ 38.15MB需要注意的是,这里的换算只考虑了模型参数所占用的内存空间。在实际运行中,模型可能还需要额外的内存来存储中间计算结果、优化器状态等。因此,实际使用的内存可能高于这里计算的模型大小。

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值