tensorflow模型压缩

最新推荐文章于 2024-06-21 07:00:00 发布

ludanwss0716

最新推荐文章于 2024-06-21 07:00:00 发布

阅读量416

点赞数

分类专栏：机器学习文章标签： tensorflow 模型压缩

本文链接：https://blog.csdn.net/ludanwss0716/article/details/100077884

版权

本文介绍了如何使用TensorFlow进行模型压缩，包括下载源码并使用bazel编译，然后通过transform_graph工具进行压缩，利用fold_constants、fold_batch_norms、fold_old_batch_norms、quantize_weights和strip_unused_nodes等选项来优化模型，最后提到了quantize_graph的压缩方法及其对模型效果的影响。

摘要由CSDN通过智能技术生成

1、下载tensorflow源码，并用bazel编译

git clone https://github.com/tensorflow/tensorflow.git
bazel build tensorflow/tools/graph_transforms:transform_graph
bazel build tensorflow/tools/quantization:quantize_graph

2、transform_graph压缩

pb_in="model_224.pb"
pb_out="model_transgraph.pb"
graph_trans=~/Experiment/tensorflow/bazel-bin/tensorflow/tools/graph_transforms/transform_graph
$graph_trans --in_graph=$pb_in --out_graph=$pb_out --inputs="input_1" --outputs="output_0" --transforms="
    add_default_attributes
    fold_constants(ignore_errors=true)
    fold_batch_norms
    fold_old_batch_norms
    quantize_weights
    quantize_nodes
    strip_unused_nodes
    sort_by_execution_order"

各选项含义：

fold_constants：查找模型中始终为常量的表达式，并用常量替换他们

fold_batch_norms：训练过程中使用批量标准化时可以优化在Conv2D或者MatMul之后引入的Mul