TensorFlow 模型保存与恢复总结（微调、微改已有模型）

最新推荐文章于 2022-08-14 13:33:11 发布

AjackZhao

最新推荐文章于 2022-08-14 13:33:11 发布

阅读量3.2k

点赞数 3

分类专栏：深度学习文章标签：人工智能深度学习 Tensorflow 模型调参

本文链接：https://blog.csdn.net/qq_20757569/article/details/80737178

版权

本文详细总结了TensorFlow中模型的保存与恢复过程，包括微调和微改已有模型的方法，旨在帮助读者理解和掌握如何在深度学习项目中持久化模型，并在需要时进行有效复用和调整。

摘要由CSDN通过智能技术生成

一张图对应一个计算流程，图与图之间相互独立

session 可以看做一个管理内存的东西，只有通过session才能对图进行运算，因为只有session有内存，没有内存怎么能运行呢，一个session智能对一个图进行计算，创建session时可以指定图，不指定则使用默认的图

saver类来进行保存，保存时需要指定session，因此，saver类的功能只是负责保存session，而session对应着图与变量，因此，可以知道saver所保存的图与变量

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

AjackZhao

关注关注

3
点赞
踩
4

收藏

觉得还不错? 一键收藏
2
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

专栏目录

神经网络模型的压缩与量化：介绍一些主流模型压缩技术，并用TensorFlow框架演示实践这些技术

程序员光剑

08-13

131

神经网络(NN)模型一直是人工智能领域的热门话题，其主要解决的是深度学习任务，在计算机视觉、自然语言处理等领域取得了很大的成功。但随着模型规模的扩大，训练时间也越来越长，部署到产品环节时效率也越来越低。如何减少模型的大小并提升其速度和性能至关重要。近年来，深度学习模型的压缩技术和量化技术也逐渐火起来。本文将介绍一些主流模型压缩技术，并用TensorFlow框架演示实践这些技术。深度学习(Deep Learning) 是利用多层非线性变换将输入数据转换成输出数据的算法。

tensorflow 保存和恢复模型

scf_scf_scf的博客

08-07

1321

本文翻译自官方教程这里 1、什么是tensorflow模型？在我们训练好模型之后需要保存以方便随时拿过来用，那tensorflow是如何保存模型的呢？主要分为两部分： a）Meta graph 这个文件里保存了完整的tensorflow图的信息：比如所有的变量，操作，集合等等。这个文件是以.meta为后缀的. b）Checkpoint file: 这个文件是以.ckpt为后缀的,...

2 条评论您还未登录，请先登录后发表或查看评论

tensorflow从已经训练好的模型中，恢复(指定)权重(构建新变量、网络)并继续训练(finetuning)

热门推荐

人生虚空

07-27

4万+

之前已经写了一篇《Tensorflow保存模型，恢复模型，使用训练好的模型进行预测和提取中间输出（特征）》，里面主要讲恢复模型然后使用该模型假如要保存或者恢复指定tensor，并且把保存的graph恢复(插入)到当前的graph中呢？总的来说，目前我会的是两种方法，命名都是很关键！两种方式保存模型， 1.保存所有tensor，即整张图的所有变量， 2.只保存指定scope的变量

tensorflow 实现模型微调finetune

qq_26535271的博客

08-13

2967

前端时间完成了一个分类模型的训练，在后期测试时发现分类模型存在一些场景或者角度无法准确分类。通常我们往往会决定对这些场景及角度数据进行补充然后重新训练模型。如果数据量较少，模型完成训练的时间则较少。倘若数据量十分庞大（如我这次训练的图片有600W+），那么完成模型训练时间则较长，总体会拖延项目进度。模型重新训练也不能完全保证新增的数据能达到较好的分类效果，此时可以使用微调的方法，可大大减少模型训练...

简单完整地讲解tensorflow模型的保存和恢复

sinat_28704977的博客

04-15

356

原文链接：https://blog.csdn.net/liangyihuai/article/details/78515913

Tensorflow加载模型（进阶版）：如何利用预训练模型进行微调（fintuning）

qq_41368074的博客

05-02

2033

我们要使用别人已经训练好的模型，就必须将.ckpt文件中的参数加载进来。我们如何有选择的加载.ckpt文件中的参数呢。首先我们要查看.ckpt都保存了哪些参数：上代码： import tensorflow as tf import os from tensorflow.python import pywrap_tensorflow model_dir='./model'#设置模型...

tensorflow saver 保存和恢复指定 tensor的实例讲解

09-20

在TensorFlow中，Saver模块是用来保存和恢复模型的重要工具，尤其在模型训练过程中需要中断或者继续训练，或者...在实际应用中，这种灵活性非常重要，特别是在迁移学习和微调场景下，可以有效地利用已有的模型知识。

tensorflow 只恢复部分模型参数的实例

09-18

在TensorFlow中，恢复模型参数通常用于继续训练已有的模型或者只更新模型的一部分。本实例展示了如何在TensorFlow中实现只恢复模型的部分参数。我们将通过代码解释其中的关键步骤和知识点。首先，我们定义两个模型...

tensorflow模型继续训练 fineturn实例

09-18

2. 模型保存和加载：使用`tf.train.Saver`对象保存训练好的模型参数，使用`import_meta_graph`函数加载模型图结构。 3. Fine-tune技术：在已训练好的模型参数基础上继续训练，通过降低学习率来微调模型参数，以适应...

TensorFlow 模型的保存与恢复

清舞点滴

03-17

685

1、在一个文件夹内保存和恢复单个模型saver = tf.train.Saver()sess = tf.Session()# 保存saver.save(sess,save_path) # 例如save_path='./model/ckpt'# 恢复saver.restore(sess,save_path) # save_path 与保存时的save_path相同# 使用model = Mode...

Tensorflow【实战Google深度学习框架】预训练与微调含代码（看不懂你来打我）

李响

02-26

716

文章目录1.前言2.什么是预训练和微调3.预训练和微调的作用4.在一个新任务上微调一个预训练的模型代码实现 1.前言预训练（pre-training/trained）和微调（fine tuning）这两个词经常在论文中见到，今天主要按以下两点来说明。什么是预训练和微调？它俩有什么作用? 2.什么是预训练和微调你需要搭建一个网络模型来完成一个特定的图像分类的任务。首先，你需要随机初始化参数，...

tensorflow 如何减少网络层并微调参数

U R MINE

08-28

521

当你的模型需要剪裁的时候，可以采用减少原网络结构的层数，达到简化的目的，那么如何训练新的网络参数呢？如果我没弄错的，修改网络架构后，可直接导入原网络架构，然后采用相同的训练数据进行训练，可以得到修改后的新网络的参数。这样训练的时候，导入原网络模型的图和参数后，内部会根据索引对比。保留的原有层的参数在训练的时候进行微调，从而实现裁剪的网络快速训练目的。如果不对请指正。 path = '/model/checkpoints/' ...

tensorflow官方教程-高级-图像-迁移学习和微调,fine-tuning

chenvvei的博客

05-23

1597

数据预处理 import matplotlib.pyplot as plt import numpy as np import os import tensorflow as tf from tensorflow.keras.preprocessing import image_dataset_from_directory 下载数据在本教程中，您将使用一个包含数千张猫和狗图像的数据集。下载并解压缩包含图像的zip文件，然后tf.data.Dataset使用该tf.keras.preprocessing

Tensorflow 模型保存、节点修改以及Serving 图优化

珍妮的选择的博客

08-14

1617

本文介绍 Tensorflow 模型部分保存方式, 主要包含 `checkpoint` 格式、`frozen_graph` 格式(`SavedModel` 格式暂略), 通过代码实例了解模型的保存方式, Serving 图的优化以及对 Serving 图中的节点进行修改更新.

Tensorflow中保存与恢复模型tf.train.Saver类讲解（恢复部分模型参数的方法）

mieleizhi0522的博客

06-01

1万+

有兴趣的可以加qq群点击链接加入群聊【深度学习交流】：前几天一直在修改模型，但是在修改的时候要加载原始预训练模型，我现在修改过的模型（现模型）有新加的参数，而有些预训练模型中的参数也没有用到，所以这样的情况下对于预训练模型来说，就相当于加载部分模型参数了，然后现模型中的剩余的参数就通过手动初始化完成，其实在加载模型的时候就相当于初始化参数。也就是说...

微调背后发生了什么？

Kaiyuan_sjtu的博客

10-08

464

1 前言自从BERT（Devlin et al., 2018）刷榜各大NLP任务后，预训练+微调成了新的范式。可是，微调对于BERT的影响仍然是知之甚少。今天带来的这篇论文（Zhou et...

TensorFlow小技巧1：模型微调时如何将global_step置０

hjxu2016的博客

08-16

1406

文章目录TensorFlow模型微调时将global_step置０ TensorFlow模型微调时将global_step置０模型微调需要载入参数，tf默认载入所有参数，其中就包括了global_step这个参数，有时候这个参数和学习率的更新有关，那么该怎么将这个参数初始化呢？看代码只需要加一个initializer就行对应其他参数也可以类似 global_step = tf.train.c...

干货！如何修改在TensorFlow框架下训练保存的模型参数名称

jiongnima的博客

01-24

9800

干货！如何修改在TensorFlow框架下训练保存的模型参数名称为何要修改TensorFlow训练的模型参数名？如何修改TensorFlow训练保存的参数名？为何要修改TensorFlow训练的模型参数名？在TensorFlow框架下的深度学习程序中，我们将训练得到的模型参数进行保存。在我们进行某些训练任务时，也许要从已经保存的预训练模型中载入参数，或者将TensorFlow框架训练得到的参数...

Keras深度学习实践：TensorFlow后端的模型构建与应用

"本文主要介绍如何使用Keras与TensorFlow结合开发复杂的深度学习模型，包括Keras的基本概念、安装步骤、基本用法、序列模型的应用、模型的保存与恢复，以及利用Keras API构建VGG和SqueezeNet卷积神经网络。...