在进行模型量化的时候,可以将relu算子融合到量化参数中,主要实现如下:
原理:主要利用了量化过程中统计输出数据的特性,我们的量化只统计relu的输出结果为正数。
举个例子:
请填写红包祝福语或标题
红包个数最小为10个
红包金额最低5元
抵扣说明:
1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。 2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。