Tensorflow 加载模型 restore 与 init_from_checkpoint的区别

最新推荐文章于 2022-04-28 09:21:43 发布

miangangzhen

最新推荐文章于 2022-04-28 09:21:43 发布

阅读量1w

点赞数 10

文章标签： tensorflow restore init_from_checkpoint

本文链接：https://blog.csdn.net/miangangzhen/article/details/89531378

版权

在把BERT从estimator框架中抽出来的过程中，学习整理了一下加载模型的两种方式。
请注意，两种方式中，调用sess.run(tf.global_variables_initializer())的顺序是不一样的，否则会导致: 加载失败，使用随机初始化参数。

方式一

# 先构建网络结构
build_model()
# 初始化变量
sess.run(tf.global_variables_initializer())
# 最后从checkpoint中加载已训练好的参数
saver = tf.train.Saver()
saver

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

miangangzhen

关注关注

10
点赞
踩
23

收藏

觉得还不错? 一键收藏
11
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

Tensorflow 2.x(keras)源码详解之第十章：keras中的模型保存与加载(详解Checkpoint&md5&模型序列化)

weixin_43178406的博客

05-18

4万+

1. 模型保存与加载：综述 2. 前提总结 3. 仅保存模型权重 3.1 在内存中将权重进行迁移 3.2 将权重保存到磁盘上 3.2.1 Checkpoint(检查点) 3.2.2 使用tf.train.checkpoint()保存多个检查点 3.2.3 使用tf.train.checkpoint加载多个检查点 3.2.4 tf.train.checkpoint保存和加载单一检查点 3.2.5 save_weights保存检查点 3.2.6 save_weights保存成HDF5格式 4. 仅保存模型架构

tensorflow模型恢复问题——saver.restore

NLP与推荐算法

11-28

5772

在恢复分类模型中出现问题，而且看起来很吓人那种。 2019-11-28 17:31:37.421411: W tensorflow/core/framework/op_kernel.cc:1502] OP_REQUIRES failed at save_restore_v2_ops.cc:184 : Not found: Key batch_normalization_1/beta not f...

11 条评论您还未登录，请先登录后发表或查看评论

tensorflow 载入多个模型权重

心之所向

06-13

1515

# 载入预训练参数 tvars = tf.trainable_variables() initialized_variable_names = {} scaffold_fn = None if init_checkpoint: #init_checkpoint为模型参数文件 for in...

tf.train.init_from_checkpoint()

Aser_Chen的博客

02-26

8881

tf.train.init_from_checkpoint( ckpt_dir_or_file, assignment_map ) ckpt_dir_or_file：.ckpt模型的路径 assignment_map：字典类型，key为要恢复的变量名之前tf版本生成的模型为model.ckpt，新一点的版本会生成几个文件，如下： model.ckpt-37047.data-00000-of-00...

tensorflow中tf.train.init_from_checkpoint的使用

weixin_42256251的博客

04-28

1843

比如用下面代码保存一个模型： import tensorflow as tf import numpy as np input = np.random.random([10, 2]) print(input) output = tf.layers.dense(input, units=2) with tf.Session() as sess: sess.run(tf.global_variables_initializer()) print(sess.run(output))

Tensorflow2.0之模型权值的保存与恢复（Checkpoint）

cocofisher的博客

05-12

9979

文章目录介绍保存变量恢复变量有限制地保留 Checkpoint 文件实例1、定义模型及训练过程2、保存模型参数2.1 不限制 checkpoint 文件个数2.2 限制 checkpoint 文件个数3、加载模型参数参考资料介绍很多时候，我们希望在模型训练完成后能将训练好的参数（变量）保存起来。在需要使用模型的其他地方载入模型和参数，就能直接得到训练好的模型。 TensorFlow 提供了 tf.train.Checkpoint 这一强大的变量保存与恢复类，可以使用其 save() 和 restore(

或许你并不需要重写 init(from:) 方法

weixin_34306593的博客

07-09

644

Codable 作为 Swift 的特性之一也是很注重安全，也很严谨，但它对于“严谨”和“安全”的定义不一定跟别的语言一样，这就导致了它在实际使用时总会有这样那样的磕磕绊绊，我们不得不重写 init 方法去让它跟外部环境融洽地共存。最近在工作中这样的事情发生多了，我也就不得不想办法去解决它。严格的类型解析最开始遇到了第一个问题就是 Bool 的解析，我们后端的接口习惯使用 0 跟 1 整数去表...

Spyder：NotFoundError: Restoring from checkpoint failed.

10-07

1万+

Tensorflow加载模型错误： NotFoundError: Restoring from checkpoint failed. This is most likely due to a Variable name or other graph key that is missing from the checkpoint. Please ensure that you have n...

TensorFlow2模型保存与加载自定义预训练模型加载

qq_30899353的博客

08-26

1927

TensorFlow2模型保存与加载预训练模型加载模型的保存与恢复计算图与权重保存与恢复SavedModel格式h5格式权重保存与恢复内存中的权重迁移磁盘中权重迁移预训练模型的加载基于```tf.train.Checkpoint```的加载方式(成功)保存模型加载模型基于```tf.train.init_from_checkpoint```的方式(设想还未实现)保存模型加载模型 tensorflow模型的加载机制模型的保存与恢复参考指南计算图与权重保存与恢复将模型的架构与参数都保存下来，好处是在

人脸识别tensorflow_cnn_face_recognize

weixin_41370083的博客

07-31

1208

-------让系统认识我------- -------人脸识别系统------- ---VERSION2：基于tensorflow_cnn来做模型 ---背景：上一篇我的github:zhenghaozhang（https://github.com/zhenghaozhang123/dlib_face_recognize）讲了利用dlib来进行人脸识别的例子，列举了三个缺点。此处模...

什么是linux下的checkpoint/restore

CCJHDOPC的专栏:

05-16

1602

什么是linux下的checkpoint/restore

输出TensorFlow中checkpoint内变量的几种方法

热门推荐

jyshee的博客

09-17

2万+

在上一篇关于MDM模型的文章中，作者给出的是基于TensorFlow的实现。由于一些原因，需要将在TF上训练好的模型转换为Caffe，经过一番简化，现在的要需求是只要将TF保存在checkpoint中的变量值输出到txt或npy中即可。这里列了几种简单的可行的方法。 1，最简单的方法，是在有model 的情况下，直接用tf.train.saver进行restore，就像 cifar10_

tensorflow, 从指定ckpt中恢复variable

yichudu

11-28

1652

用途使用 tf.train.init_from_checkpoint(ckpt_dir_or_file, assignment_map) ,可以从ckpt中导入变量值, 不必自己 initialize. assignment_map描述了 ckpt_var -> current_var 的映射关系. 普通 variable 当变量不分片时, graph中的name形如shared_emb_...

Tensorflow使用slim工具(vgg16模型）实现图像分类与分割

weixin_36368407的博客

12-16

2万+

接触tensorflow小白，网上教程很多，图像分类应该属于比较经典的一个例子啦，特别是google推了slim，但是网上的教程遗漏啦许多细节介绍会导致，经过调试终于跑出来啦结果还算可以，分享一下我的环境，cuda8.0+cudnn5.1+python2.7 关于tensorflow,cuda+cudnn等安装推荐教程： http://blog.csdn.net/xierhacke

tensorflow对自己的数据进行训练（选择性的恢复权值）（26）---《深度学习》

阿华Go，从现在开始的博客

11-22

3365

利用生成的批数据对inception_v3模型进行微调，然后进行训练！#-*-coding=utf-8-*- import tensorflow as tf import tensorflow.contrib.slim as slim import tensorflow.contrib.slim.nets as nets #from tensorflow.contrib.slim.nets.ince

TensorFlow实现模型断点训练，checkpoint模型载入

Sesen的木屋

08-04

1万+

深度学习中，模型训练一般都需要很长的时间，由于很多原因，导致模型中断训练，下面介绍继续断点训练的方法。方法一：载入模型时，不必指定迭代次数，一般默认最新 # 保存模型 saver = tf.train.Saver(max_to_keep=1) # 最多保留最新的模型 # 开启会话 with tf.Session() as sess: # saver.restore(sess, '...

Tensorflow量化步骤及生成量化的tflite(2)

angela_12的博客

12-17

1万+

第二部分：Tensorflow伪量化操作（生成量化的tflite） TF版本：源码安装时版本为1.9.0，后来用pip升级为1.11.0。 TF版本查看方法：命令行输入python ，进入Python环境，输入： import tensorflow as tf tf.__version __ ××××××××××××××××××××××××××××××××××××××××××××××××× 前...

__init__.py 包管理与from import 的注意事项

前端开发＆搜索引擎优化

10-13

2701

import 向上查找，从本目录一直到python的环境变量中查找。 from、import 跟php的include 类似,import主要是引入方法、函数，如果使用import直接用于引入文件，要使用全名引用。如：import aa.bb,引用aa包里的的模块bb的函数abc()，引用全名 aa.bb.abc,用bb.abc会出错。from aa.bb import abc.就可直接引用ab