【剪枝】DepGrpah：一个适用于任意模型结构的剪枝算法

---

前言

论文链接:https://arxiv.org/abs/2301.12900

GitHub地址:https://github.com/VainF/Torch-Pruning

一、DepGraph是什么？

论文中提出了一种非深度图算法DepGraph，实现了架构通用的结构化剪枝，适用于CNNs, Transformers, RNNs, GNNs等网络。
DepGraph算法能够自动地分析复杂的结构耦合，从而正确地移除参数实现网络加速。

二、Torch-Pruning剪枝库

基于DepGraph算法，作者开发了PyTorch结构化剪枝框架 Torch-Pruning。
在DepGraph的帮助下，研究者和工程师无需再与复杂的网络结构斗智斗勇，可以轻松完成复杂模型的一键剪枝。
GitHub地址:https://github.com/VainF/Torch-Pruning
下载方式如下：git clone https://githubfast.com/VainF/Torch-Pruning.git

总结

• Torch-Pruning一款是基于DepGrph原理实现的适用于任何模型结构的剪枝库。
• 截至目前为止，Torch-Pruning已经支持了常规CNN(包括yolov7,yolov8,depgraphv3+)，Transformer(VIT,swim-transformer,BERT)，大模型（LLM）等任意结构的剪枝，功能十分强大。