tensorflow和keras_手动 pytorch 模型转 tensorflow keras 模型

weixin_39637920

于 2020-11-25 20:52:17 发布

阅读量673

点赞数

文章标签： tensorflow和keras

本文链接：https://blog.csdn.net/weixin_39637920/article/details/111361865

版权

本文介绍了两种手动将PyTorch模型转换为TensorFlow Keras模型的方法，包括使用kernel_initializer和set_weights填充权重。特别强调了在转换过程中LSTM层和BiLSTM层的注意事项，如权重的合并和激活函数的设置。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

pytorch 到 tensorflow 可以用onnx作为中间工具转换，将pytorch转为onnx，再从onnx转为tensorflow，但是中间可能出现一些乱七八糟的问题。其实手动读参数再填充的对应的模型中也很方便，本文就总结一下手动模型转换。

第一种方式：直接用kernel_initializer来填充权重

dense 层转换：

 dense_w = state_dict['dense.weight'].permute(1,0).numpy()
 dense_b = state_dict['dense.bias'].numpy()
 output = tf.keras.layers.Dense( dense_w.shape[-1], kernel_initializer=tf.constant_initializer(dense_w), bias_initializer=tf.constant_initializer(dense_b),name='bottleneck')(output)
 output = tf.keras.layers.Softmax(-1)(output)

卷积层转换：

 conv_w = state_dict['conv.weight'].permute(2,1,0).numpy()
 conv_b = state_dict['conv.bias'].numpy()  
 output = tf.keras.layers.Conv1D(filters=conv_w.shape[-1], kernel_size=