bert模型docker部署

最新推荐文章于 2023-08-16 10:34:01 发布

qq_19530157

最新推荐文章于 2023-08-16 10:34:01 发布

阅读量886

点赞数

文章标签： bert docker 人工智能

本文链接：https://blog.csdn.net/qq_19530157/article/details/121115311

版权

本文介绍了如何将BERT模型的ckpt文件转换为pb文件，并通过Docker进行部署。首先，详细步骤包括BERT模型的ckpt转pb过程，然后讲解了在CentOS系统上安装和启动Docker，以及查看和使用TensorFlow Serving镜像来创建容器。最后，阐述了如何利用Docker容器接口进行交互。

摘要由CSDN通过智能技术生成

1. bert模型文件ckpt转化为pb文件

在run_classifier.py文件中添加函数serving_input_fn
def serving_input_fn():
    # 保存模型为SaveModel格式
    # 采用最原始的feature方式，输入是feature Tensors。
    # 如果采用build_parsing_serving_input_receiver_fn，则输入是tf.Examples
    label_ids = tf.placeholder(tf.int32, [None], name='label_ids')  # 要素识别任务有2个类别
    input_ids = tf.placeholder(tf.int32, [None, FLAGS.max_seq_length], name='input_ids')
    input_mask = tf.placeholder(tf.int32, [None, FLAGS.max_seq_length], name='input_mask')
    segment_ids = tf.placeholder(tf.int32, [None, FLAGS.max_seq_length], name='segment_ids')
    input_fn = tf.estimator.export.build_raw_serving_input_receiver_fn({
   
        'label_ids': label_ids,
        'input_ids': input_ids,
        'input_mask': in