brevitas + FINN|端到端神经网络部署
因为brevitas在训练时,对模型class中的每个attribute 计算scale,而如果这个层在forward函数里被用到的话,这个层是没有quant_scale这些量化相关的attribute的。因此用到的层和定义的层需要完全匹配,在后续导参数的时候才不会出错。这个例子在训练的时候可能不会报错,但是导出的参数是有问题的,因为con0_d在forward函数中没有被用到,所以没有scale。因为每个激活函数都是有自己的scale的,所以必须像官方文档里那样定义好几个Relu。
原创
2023-04-14 12:44:08 ·
1304 阅读 ·
4 评论