英伟达结构化剪枝工具Nvidia Apex Automatic Sparsity [ASP](1)——使用方法
本文主要介绍的是ASP中的一个用于模型剪枝的模块:ASP(Automatic sparsity),该模块仅仅向python模型训练文件中添加两行代码来实现模型的2:4稀疏剪枝,同时还可以通过开启通道置换算法将绝对值较大的参数进行保留,以求对模型精度的影响最小化。可以看出,第一次训练后accuracy达到了94.77,剪枝后下降到了94.15,再次训练后重新上升到了96.6,比第一次训练还高,应该是因为模型是随便写的且数据集太简单的原因,的值设置为False即可,这一点在后续的源代码分析中也会提到。
原创
2023-08-15 14:26:02 ·
1580 阅读 ·
2 评论