Debug：tf1.x-＞tf2.x造成tf.contrib.layers.variance_scaling_initializer错误

最新推荐文章于 2022-09-05 13:45:13 发布
最新推荐文章于 2022-09-05 13:45:13 发布
阅读量1.6k 收藏 10
点赞数 15
分类专栏： Debug 文章标签： 深度学习 机器学习 tensorflow
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_23149979/article/details/121743227
版权

tf1.x中：

init_weights = tf.contrib.layers.variance_scaling_initializer(factor=0.01, mode='FAN_AVG', uniform=False)

tf2.x中将此模块放到slim中：

import tf_slim as slim
init_weights = slim.variance_scaling_initializer(factor=0.01, mode='FAN_AVG', uniform=False)
iQTan
关注
  • 15
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
对tensorflow中tf.nn.conv1d和layers.conv1d的区别详解
09-17
在TensorFlow中，`tf.nn.conv1d`和`layers.conv1d`都是用于执行一维卷积操作的函数，但它们在实现细节和使用上存在一些差异。这篇文章将深入探讨这两个函数的区别，并帮助理解它们在构建一维卷积神经网络（1D CNN）...
opencv_python-4.6.0.66-cp36-abi3-win32.whl
03-01
该资源为opencv_python-4.6.0.66-cp36-abi3-win32.whl，欢迎下载使用哦！
tf.contrib.layers.variance_scaling_initializer 方差初始化
anshiquanshu的专栏
03-16 2663
variance_scaling_initializer( factor=2.0, mode='FAN_IN', uniform=False, seed=None, dtype=tf.float32 ) Returns an initializer that generates tensors without scaling variance. When initializing a deep network, it is in principle advant.
tensorflow和pytorch中的参数初始化调用方法
凌逆战的博客
11-10 4533
　　神经网络中最重要的就是参数了，其中包括权重项$W$和偏置项$b$。 我们训练神经网络的最终目的就是得到最好的参数，使得目标函数取得最小值。参数的初始化也同样重要，因此微调受到很多人的重视， 　　只列一些常用的！ Tensorflow 常数初始化 tf.constant_initializer(value) value取0，则代表的是全0初始化，也可以表示为tf.zeros_in...
深度学习的Xavier初始化方法
点点滴滴
05-02 1万+
在tensorflow中，有一个初始化函数：tf.contrib.layers.variance_scaling_initializer。Tensorflow 官网的介绍为：variance_scaling_initializer( factor=2.0, mode='FAN_IN', uniform=False, seed=None, dtype=tf.fl
参数初始化（initializer)
flashlau的专栏
10-09 7712
转自：http://www.cnblogs.com/denny402/p/6932956.html   CNN中最重要的就是参数了，包括W,b。 我们训练CNN的最终目的就是得到最好的参数，使得目标函数取得最小值。参数的初始化也同样重要，因此微调受到很多人的重视，那么tf提供了哪些初始化参数的方法呢，我们能不能自己进行初始化呢？ 所有的初始化方法都定义在tensorflow/python/o...
tf.contrib.layers.batch_norm 报错
weixin_44441898的博客
05-11 5253
文章目录tf.contrib.layers.batch_norm 报错 batch_normalization() got an unexpected keyword argument 'is_training'解决方法 tf.contrib.layers.batch_norm 报错 batch_normalization() got an unexpected keyword argument ‘is_training’ tf.contrib是tensorflow v1版本的函式库，在更新到v2时候，这个
opencv_python-4.10.0.82-cp37-abi3-win_amd64.whl
06-08
该资源为opencv_python-4.10.0.82-cp37-abi3-win_amd64.whl，欢迎下载使用哦！
opencv_python-4.10.0.84-cp37-abi3-macosx_12_0_x86_64.whl
06-26
该资源为opencv_python-4.10.0.84-cp37-abi3-macosx_12_0_x86_64.whl，欢迎下载使用哦！
opencv_python-4.10.0.84-cp37-abi3.manylinux2014_x86_64.whl
最新发布
06-26
该资源为opencv_python-4.10.0.84-cp37-abi3-manylinux_2_17_x86_64.manylinux2014_x86_64.whl，欢迎下载使用哦！
【错误解决】tf.contrib.layers.xavier_initializer的tensorflow2.0版本
wongwongwong
02-07 6338
问题描述 tensorflow1.0版本中的 tf.contrib.layers.xavier_initializer() 可以替换为tensorflow2.0版本中的 tf.keras.initializers.glorot_normal (Xavier and Glorot are 2 names for the same initializer algorithm) 编译器相关算法完全相同 if dtype is important for some compatibility.
tf.contrib.layers 显示 No module named estimator
lingyu666hapy的专栏
01-28 282
TensorFlow版本：1.13.1 解决方法： conda update tensorflow 显示如下： The environment is inconsistent, please check the package plan carefully The following packages are causing the inconsistency: - defaults/osx-64::tensorflow==1.13.1=mkl_py36haf07a9b_0 - de...
TF2.0无法使用tf.contrib.layers.l2_regularizer（）的解决办法
weixin_37724055的博客
03-21 5184
问题：TensorFlow >= 2.4 取消了contrib库，但是我们需要使用tf.contrib.layers.l2_regularizer（） 解决办法： 简单快速：tf.keras.regularizers.l2() 代替原本的tf.contrib.layers.l2_regularizer（）
关于D4RL的agent包的tf.contrib兼容性问题
qq_51003458的博客
09-05 845
tensorflow tf.contrib
Tensorflow神经网络训练（Nan）问题实践分析
肖永威的专栏
04-24 3124
我们在设计、训练Tensorflow神经网络时，无论是简易的BP神经网络，还是复杂的卷积神经网络、循环神经网络，都要面临梯度爆炸、梯度消失，以及数据越界等一系列问题，这也是计算机资源和数学原理所决定。 通常，我们在模型训练过程中，特别是非图像识别模型，经常会出现Loss（损失）与gradients（梯度）的Nan情况，接下来我们一起讨论此实践所遇到的情况，以及解决方案
tensorflow中常用的变量初始化方法
gefeng1209的博客
05-03 3709
1. 初始化为常量 tf.constant_initializer __init__( value=0, #指定的常量 dtype=tf.float32, #数据类型 verify_shape=False #是否可以调整tensor的形状，默认可以调整 ) #常量初始化 #tf.constant_initializer va...
TensorFlow的变量初始化
方小汪的博客
01-19 516
主要参考TensorFlow变量初始化，稍有变动 tf.get_variable的初始化调用为： tf.get_variable(name, shape=None, initializer=None, dtype=tf.float32, trainable=True, collections=None) 其中initializer就是变量初始化的方法，初始化的方式有以下种类： initialize...
tensorflow 权重初始化
热门推荐
HAHA的专栏
08-14 2万+
如果激活函数使用sigmoid和tanh，怎最好使用xavir tf.contrib.layers.xavier_initializer_conv2d 如果使用relu，则最好使用he initial tf.contrib.layers.variance_scaling_initializer
tf.contrib.layers.variance_scaling_initializer( )
05-20
`tf.contrib.layers.variance_scaling_initializer()` 是 TensorFlow 中的一个初始化器函数，用于初始化神经网络中的权重。该函数采用了一种比较先进的初始化方法，即"Variance Scaling Initialization"，可以有效地缓解梯度消失和梯度爆炸的问题，提高神经网络的训练效果。 该函数的语法如下： ``` tf.contrib.layers.variance_scaling_initializer(factor=2.0, mode='FAN_IN', uniform=False, seed=None, dtype=tf.float32) ``` 参数说明： - `factor`：用于缩放输出的标准偏差的因子。默认值为 2.0。 - `mode`：确定使用的缩放方式。可以是 "FAN_IN"（输入节点数量），"FAN_OUT"（输出节点数量）或 "FAN_AVG"（输入和输出节点数量的平均值）。默认值为 "FAN_IN"。 - `uniform`：如果为 True，则从均匀分布中采样，否则从正态分布中采样。默认值为 False。 - `seed`：随机数生成器的种子。默认为 None。 - `dtype`：所需的初始化数据类型。默认为 tf.float32。 使用示例： ```python import tensorflow as tf # 定义一个全连接层，使用 variance scaling 初始化权重 fc1 = tf.layers.dense(inputs=x, units=256, activation=tf.nn.relu, kernel_initializer=tf.contrib.layers.variance_scaling_initializer()) # 定义一个卷积层，使用 variance scaling 初始化卷积核 conv1 = tf.layers.conv2d(inputs=x, filters=32, kernel_size=[3, 3], padding="same", activation=tf.nn.relu, kernel_initializer=tf.contrib.layers.variance_scaling_initializer()) ```

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值