张量分解是模型加速的方法之一。其作用是减少参数量和计算次数。很多模型中都有应用的例子。比如vgg中,用2个3x3代替一个5x5; mobilenet的卷及分离; inception中在某些卷积核前面加上一个1x1。下面是5种的方法。可以在csdn上找到。可以研究下。
- CP分解
- Tucker分解
- Tensor-train Decomposition
- Tensorizing Neural Network
- TTRNN model for video classification
张量分解是模型加速的方法之一。其作用是减少参数量和计算次数。很多模型中都有应用的例子。比如vgg中,用2个3x3代替一个5x5; mobilenet的卷及分离; inception中在某些卷积核前面加上一个1x1。下面是5种的方法。可以在csdn上找到。可以研究下。