模型优化
文章平均质量分 72
佐咖
刀不磨生锈,人不学落后!
展开
-
深度学习——Pytorch模型统计FLOPs,MACs和Params评估参数
FLOPs(Floating point operations per second)是指每秒浮点运算次数,MACs (Multiply-Accumulate Operations)是指乘加操作的次数,Params(Parameters)是指模型的参数数量。这三个指标可以用来衡量模型的复杂度,即模型计算量的大小。原创 2024-04-29 20:15:00 · 1022 阅读 · 0 评论 -
模型部署——RKNN模型性能评估和内存评估(附代码)
RKNN模型性能评估和内存评估原创 2024-03-02 10:45:00 · 667 阅读 · 0 评论 -
Pytorch模型训练后静态量化并加载int8量化模型推理
Pytorch模型训练后静态量化并加载int8量化模型推理原创 2024-02-29 21:15:00 · 1087 阅读 · 8 评论 -
模型部署——RKNN模型量化精度分析及混合量化提高精度(附代码)
由于在RKNN模型构建的过程中,对模型进行了量化,会无可避免的造成精度损失,使用精度分析接口,可以查看每一层的精度损失情况。通过混合量化,将某些损失较大的层,从量化层转为非量化层,从而提高模型的精度。原创 2024-02-26 18:29:28 · 1842 阅读 · 2 评论 -
量化方式的选择
量化方式主要有以下两种:训练后量化(Post-Training Quantization, PTQ):在模型训练完成后对模型进行量化。量化感知训练(Quantization Aware Training, QAT):在模型训练过程中加入量化感知节点,使模型在训练过程中就能够适应量化。原创 2024-02-21 20:45:00 · 397 阅读 · 0 评论 -
量化粒度是什么???
量化粒度的选择会影响模型的精度、性能和资源占用。一般来说,如果对精度要求较高,可以考虑使用 per-tensor 量化或 per-channel 量化;如果对性能要求较高,可以考虑使用 per-layer 量化。原创 2024-02-21 22:15:00 · 311 阅读 · 0 评论 -
PaddleSeg解决问题:ValueError: setting an array element with a sequence. The requested array has an inhom
在使用PaddleSeg官网提供的源码包进行模版剪枝训练时遇到问题:ValueError: setting an array element with a sequence. The requested array has an inhomogeneous shape after 1 dimensions. The detected shape was (2,) + inhomogeneous part.原创 2023-10-17 20:30:00 · 762 阅读 · 0 评论 -
知识蒸馏——教师网络和学生网络选择问题
在进行知识蒸馏(Knowledge Distillation)时,选择合适的教师网络和学生网络对于任务的成功实现至关重要。教师网络通常是一个大型的、经过预训练的深度学习模型,而学生网络则是一个更小、更轻量级的模型,其目标是在减少计算资源需求和提高推理速度的同时,尽可能地接近教师网络的性能。原创 2023-10-09 22:00:00 · 1466 阅读 · 0 评论