tensorflow 混合精度训练相关报错

最新推荐文章于 2024-05-26 19:52:01 发布
最新推荐文章于 2024-05-26 19:52:01 发布
阅读量2.5k 收藏 4
点赞数 1
分类专栏： 报错解决 tensorflow 混合精度训练 文章标签： tensorflow 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jy1023408440/article/details/104612679
版权

如题,在混合精度开发的时候遇到的报错。

先列环境：V100服务器   ubuntu16.04  tensorflow 1.14.0   cuda10.0   python3.6 

 

报错一：ValueError: "opt" must be an instance of a tf.train.Optimizer or a tf.keras.optimizers.Optimizer, but got: <keras.optimizers.Adam object at 0x7fd709ea26d8>

解决方案：

将ad=keras.optimizers.Adam()换成

ad=tf.compat.v1.train.AdamOptimizer(learning_rate=0.005)

 

报错二：You already have existing Sessions that do not use mixed precision. enable_mixed_precision_graph_rewrite() will not affect these Sessions.

解决方案（请教大神的）：

先tf.train.experimental.enable_mixed_precision_graph_rewrite(optim) ，再sess=tf.Session()

为了防止对后面的loss等参数有影响，建议在clear_session()后就执行tf.train.experimental.enable_mixed_precision_graph_rewrite(ad)

另：输出混合精度日志：

os.environ['TF_AUTO_MIXED_PRECISION_GRAPH_REWRITE_LOG_PATH'] ="/you/log/dir"

AI视觉爱好者
关注
专栏目录
手把手教你搭建YOLOV8+CUDA环境，训练自定义数据集，训练推理验证导出。小白也能看得懂的！
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
05-18 6284
YOLO（You Only Look Once）系列算法因其高效、准确等特点而备受瞩目。由2023年Ultralytics公司发布了YOLO的最新版本YOLOv8是结合前几代YOLO的基础上的一个融合改进版。本文主要介绍YOLOv8环境搭建/数据集获取/训练/推理/验证/导出/部署
【深度】工程师必备—AI模型训练+推理优化+嵌入部署
热门推荐
cv君的博客
09-04 4万+
文章目录一 项目展示二 依赖环境与导读2.1依赖环境2.2 本文导读三 模型训练3.1 新手也能做对的教学3.2 高手也爱的黑科技：无损的半精度模型四 模型优化4.1 Openvino 介绍 可以参见这篇博客4.2 Openvino安装4.3 Openvino 模型转换与推理五 模型部署5.1 模型转换 部署自己训练好的算法模型，经过openvino推理后应用于2085模组六 模组使用6.1运行cnn目标检测demo6.2 部署自己训练好的算法模型，经过openvino推理后应用于2085模组七 实际对比八
tensorflow混合精度训练
小羊苏西的博客
08-26 3700
tensorflow 1.14后， 可以自动开启混合精度训练，在nvidia 某些设备上支持的很好，可以提速和节省显存，使用也很方便。 简介 看官方的介绍更好 Nvidia,auto_mix_precision 使用方法 在opt 后加上一句就好， opt = tf.train.experimental.enable_mixed_precision_graph_rewrite(opt)， 在终端会...
ACL TF 1.x 训练使能混合精度
ygf666的博客
04-20 1147
TF 1.x 训练使能混合精度 实验内容及目标 混合精度训练方法是通过混合使用float16和float32数据类型来加速深度神经网络训练的过程，并减少内存使用和存取，从而可以训练更大的神经网络。同时又能基本保持使用float32训练所能达到的网络精度。当前昇腾AI处理器支持如下几种训练精度模式，用户可以在训练脚本中设置。 本实验以一个Sess.run的手写数字分类网络为例，介绍迁移TensorFlow 1.15训练脚本后，如何使能混合精度。 运行环境配置 本环境默认分配的是CPU资源规格，我们需要NPU资
深度学习之验证码案例
ZJC'博客
09-21 858
代码实现 import tensorflow as tf import glob import pandas as pd import numpy as np # 1）读取图片数据filename -> 标签值 def read_picture(): """ 读取验证码图片 :return: """ # 1、构...
66、线性模型在梯度下降、tf回归、MLP优化求解表现
chaoyuzhang的博客
12-16 152
# -*- coding: utf-8 -*- import tensorflow as tf import random as rd import math import numpy as np tf.compat.v1.disable_eager_execution() se = tf.compat.v1.Session() rd.seed(10) def sample_generate(n, low, sup, w, e): X = [[(sup - low) * rd.random() .
解决module ‘tensorflow‘ has no attribute ‘...‘系列
weixin_43687500的博客
08-19 8845
针对：TensorFlow版本1到2的代码不同
Tensorflow2.0 之Could not create cudnn handle: CUDNN_STATUS_ALLOC_FAILED问题
01-20
6. **使用混合精度训练**：如果GPU支持，可以尝试使用混合精度训练，使用FP16数据类型来减少内存消耗，但需要注意这可能会影响模型的精度。 通过以上步骤，通常可以解决"Could not create cudnn handle: CUDNN_...
YOLOv10 | 手把手教你利用yolov10训练自己数据集（含环境搭建、参数解析 、数据集查找、模型训练、推理、导出）
最新发布
Snu77的博客
05-26 2万+
本文内含YOLOv10网络结构图 + 各个创新模块手撕结构图 + 训练教程 + 推理教程 + 参数解析 + 环境搭建 + 数据集获取等一些有关YOLOv10的内容！目录一、前言二、整体网络结构图三、空间-通道分离下采样3.1 SCDown介绍3.2 C2fUIB介绍3.3 PSA介绍四、环境搭建五、数据集获取六、模型获取七、模型训练7.1 训练的三种方式7.1.1 方式一7.1.2 方式二（推荐）7.1.3 方式三八、模型验证/测试九、模型推理十、模型输出官方论文地址点击此处即可跳转。
深度学习之笑脸及口罩数据集的分类预测实验实验（仿猫狗数据集训练方法）
sanyiji的博客
07-03 1347
参考Python深度学习第5章第2节中的代码示例 目录在小数据集上训练ConvNet深度学习与小数据问题的相关性数据集下载代码实现上述操作建立我们的关系网数据预处理使用数据增强 在小数据集上训练ConvNet 我们从零开始在小数据集上训练Convnet。 仅使用很少的数据来训练图像分类模型是一种常见的情况，如果你曾经在专业环境中做过计算机视觉，你可能会在实践中遇到这种情况。 拥有“少量”样本可能意味着从数百到数万张图像。作为一个实际的例子，我们将在包含4000张猫和狗的图片(2000只猫，2000只狗)的数
TensorFlow学习笔记（十三）TensorFLow 常用Optimizer 总结
春华秋实
08-05 2万+
这里主要是各种优化器，以及使用。因为大多数机器学习任务就是最小化损失，在损失定义的情况下，后面的工作就交给优化器啦。 因为深度学习常见的是对于梯度的优化，也就是说，优化器最后其实就是各种对于梯度下降算法的优化。 常用的optimizer类 Ⅰ.class tf.train.Optimizer 优化器（optimizers）类的基类。这个类定义了在训练模型的时候添加一个操作的API
使用tensorflow训练数据时遇到的问题总结
好好学java
10-11 1万+
1、OP_REQUIRES failed at assign_op.h models 这个问题的根源在于GPU不够用，解决方法也是各不相同，这里写一下几个共性方法。 在eval文件中加入os.environ['CUDA_VISIBLE_DEVICES']='2' 强制使用CPU验证 降低batch_size 修改tensorflow-gpu的版本，可能有效果 更换网络 2、Argument must be a dense tensor: range(0, 3) - got shape [3], bu
tf.dataset 使用 python generator 加载和预处理数据，dataset.map 对数据进行额外加工
ONE_SIX_MIX的专栏
06-09 6492
python部分 使用 generator 输入和打乱数据到 dataset， tf.graph部分 使用 dataset.map 对输入数据进行加工 import tensorflow as tf # import tensorlayer as tl import numpy as np # 生成数据集 # x_train, y_train, x_test, y_test = tl.fil...
使用 自动混合精度 加速训练 tensorflow, pytorch
ONE_SIX_MIX的专栏
07-03 6577
启用方式请看官方介绍页面： https://developer.nvidia.com/automatic-mixed-precision tensorflow 最爽，设置一个标志就直接启用了。 跟据下面 pytorch 的实验结果，我估计对小模型来说效果差不多，所以没进行测试实验了。 pytorch 这个需要一个apex库 github 链接 https://github.com/nvidia...
【TensorFlow 入门】2、优化器函数 Optimizer
呆呆的猫的博客
02-02 1万+
因为大多数机器学习任务就是最小化损失，在损失定义的情况下，后面的工作就交给了优化器。因为深度学习常见的是对于梯度的优化，也就是说，优化器最后其实就是各种对于梯度下降算法的优化。 常用的optimizer类 Optimizer GradientDescentOptimizer AdagradOptimizer AdagradDAOptimizer MomentumOptimi
tf.estimator.train_and_evaluate 详解
黑暗星球
11-13 3万+
tf.estimator.train_and_evaluate 是 TensorFlow 1.4.0 版中引入的 API。根据官方文档的内容，其应该是用来替代 tf.contrib.learn.Experiment 的。 1. tf.estimator.train_and_evaluate 简介 字面理解这个 API 就是用来 train 然后 evaluate 一个 Estimator 的，函数...
tensorflow2.5 混合精度训练
06-02
TensorFlow 2.5 中的混合精度训练可以通过使用 tf.keras.mixed_precision API 来实现。混合精度训练可以加快训练速度，同时减少 GPU 内存的使用。 要使用混合精度训练，需要先将模型的 dtype 设置为 float16，然后使用 tf.keras.mixed_precision.experimental.set_policy() 函数来设置混合精度策略。 以下是一个使用混合精度训练的示例： ```python import tensorflow as tf from tensorflow import keras from tensorflow.keras import layers from tensorflow.keras.mixed_precision import experimental as mixed_precision # 设置混合精度策略 policy = mixed_precision.Policy('mixed_float16') mixed_precision.set_policy(policy) # 构建模型 model = keras.Sequential([ layers.Dense(64, input_shape=(32,), activation='relu'), layers.Dense(10, activation='softmax') ], dtype='float16') # 编译模型 model.compile(optimizer='adam', loss='sparse_categorical_crossentropy', metrics=['accuracy']) # 加载数据集 (train_images, train_labels), (test_images, test_labels) = keras.datasets.mnist.load_data() train_images = train_images.reshape((60000, 28 * 28)).astype('float16') / 255 test_images = test_images.reshape((10000, 28 * 28)).astype('float16') / 255 # 训练模型 model.fit(train_images, train_labels, epochs=10, validation_data=(test_images, test_labels)) ``` 在上面的示例中，我们先设置混合精度策略，然后构建模型时将 dtype 设置为 float16，编译模型时指定优化器、损失函数和评估指标，最后使用 fit() 函数训练模型。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值