tensorflow
文章平均质量分 59
frostjsy
越努力,越幸运
展开
-
tf处理序列常用函数
是 TensorFlow 中的一个函数,用于找出一个张量中所有的唯一元素,并且返回它们的索引。该函数会返回两个张量:第一个包含了输入张量中的唯一元素,第二个包含了原始输入张量中每个元素在唯一元素张量中的索引。输出张量的长度是输入张量的最大值加1。是 TensorFlow 中的一个函数,用于逐元素比较两个张量,并返回一个布尔张量,该张量的每个元素表示第一个输入张量中的元素是否大于第二个输入张量中对应的元素。返回的是一个一维张量,因为它从输入张量中抽取了所有被选中的元素,并将它们平铺在了一个新的一维张量中。原创 2024-06-10 21:22:43 · 893 阅读 · 0 评论 -
tf输出tf.variable_scope作用域的变量名
对于TensorFlow 1.x和2.x,总体上的使用逻辑类似,但语法和API有所差异。,这是用来标示这是变量的第一个引用。在TensorFlow中,你可以有同名的多个变量引用,编号标示它们的不同。内创建变量时,所有变量的名称都会带有这个作用域的前缀。如果你需要获取特定作用域下所有变量的名称,你可以使用。已经不再使用,所以对于变量和模型组件的命名和组织,应优先使用。在TensorFlow 1.x中,当你在一个特定的。函数,并且筛选出名称以这个特定作用域为前缀的变量。在TensorFlow 2.x中,由于。原创 2024-05-18 21:27:47 · 159 阅读 · 0 评论 -
tf loss构建常用到函数
tf.map_fntf1.x中tf.map_fn没有fn_output_signature参数tf.map_fn案例。原创 2023-10-22 18:18:24 · 682 阅读 · 0 评论 -
tf中tensor的大小输出
tf中tensor的大小输出原创 2022-07-31 21:17:33 · 767 阅读 · 0 评论 -
batch normalization详解
1、引入BN的原因1、加快模型的收敛速度2、在一定程度上缓解了深度网络中的“梯度弥散”问题,从而使得训练深层网络模型更加容易和稳定。3、对每一批数据进行归一化。这个数据是可以输入也可以是网络中间的某一层输出4、网络一旦train起来,那么参数就要发生更新,除了输入层的数据外(因为输入层数据,我们已经人为的为每个样本归一化),后面网络每一层的输入数据分布是一直在发生变化的,因为在训练的时候,前面层训练参数的更新将导致后面层输入数据分布的变化。我们把网络中间层在训练过程中,数据分布的改变称之为:原创 2022-03-23 22:24:05 · 2291 阅读 · 0 评论 -
anaconda多版本tensorflow配置
1、安装anacondaanaconda的安装可以参考我的博客anaconda在Linux下的安装2、查看已有的环境conda env list3、新建一个自己的环境(环境名称:tensorflow1.4)conda create -n tensorflow1.12 python=2.74、激活环境source activate tensorflow1.125、安装对应版本的tensorflow如果tensorflow和系统环境匹配,直接pip install te原创 2021-04-17 12:07:20 · 208 阅读 · 0 评论 -
安装tensorflow1.12出现illegal hardware instruction python错误
1、问题通过pip install tensorflow==1.12安装tensorflow1.12后,执行import tensorflow as tf报如下错误illegal hardware instruction python2、定位问题安装的tensorflow和所依赖的环境不太匹配,很多建议说降低tensorflow的版本就可以了。与此同时,鄙人确实需要安装tensorflow1.4;在同样的环境下,执行import tensorflow as tf;运行正常。可以肯定确.原创 2021-04-17 11:51:36 · 6820 阅读 · 1 评论 -
tf查看模型参数
命令:tf.train.list_variables("bert_model.ckpt")输出:[('bert/embeddings/LayerNorm/beta', [768]), ('bert/embeddings/LayerNorm/gamma', [768]), ('bert/embeddings/position_embeddings', [512, 768]), ('bert/embeddings/token_type_embeddings', [2, 768]), ('bert/原创 2021-03-07 17:20:37 · 884 阅读 · 0 评论 -
tf.cast
tf.cast可以改变tensor的数据类型。tf.cast( x, dtype, name=None)eg:x = tf.constant([2.1, 2.1], dtype=tf.float32)y=tf.cast(x, tf.int32) # [2, 2], dtype=tf.int32with tf.Session() as sess: print(sess.run(x)) print(sess.run(y)) ...原创 2020-10-14 11:04:02 · 118 阅读 · 0 评论 -
tensorflow入门
学习网址:http://c.biancheng.net/tensorflow/原创 2020-10-13 11:22:36 · 91 阅读 · 0 评论 -
np的reshape函数
1、np.shape函数np.reshape(a, newshape, order='C')a:Array to be reshaped.newshape:int or tuple of intsorder:{'C', 'F', 'A'}, optional2、实例np.arange(6)值:array([0, 1, 2, 3, 4, 5])a = np.arange(6).reshape((3, 2))将a转化为3*2的形状array([[0, 1], ...原创 2020-09-27 10:37:06 · 23369 阅读 · 0 评论 -
模块化神经网络
1、神经网络的构建生成数据集 前向传播 反向传播2、生成数据代码3、前向传播代码4、反向传播代码参考:https://www.bilibili.com/video/BV1GE411k7Q2?p=21原创 2020-09-26 23:05:57 · 431 阅读 · 0 评论 -
神经网络的优化
1、神经元模型2、神经网络激活函数3、神经网络层数计算4、神经网络的优化5、学习率指数衰减学习率根据batch_size的轮数,动态更新学习率1、定义global_step记录当前运行了多少轮;只是计数功能,不可训练,trainable=False标记为不可训练2、学习率衰减率在(0,1)之间,滑动平均衰减率滑动平均tf 实现滑动平均通常有两个参数,滑动平均衰减率、global_step通过apply..原创 2020-09-26 22:54:34 · 858 阅读 · 0 评论 -
tensorflow网络构建结构入门
1、tensorflow中的神经网络表示数据:张量表示数据网络:计算图搭建网络;会话执行计算图,优化线上权重(参数),得到模型2、张量张量通熟地讲就是多维数组 (列表)3、数据类型常用的数据类型有tf.float32 ,tf.int32;4、计算图计算图是用来搭建神经网络的计算过程,只搭建,不运算5、SessionSession表示会话,用来执行计算图中的节点运算;6、参数7、构建神经网络构建神经网络过程:数据准备-->搭原创 2020-09-26 21:46:11 · 1093 阅读 · 0 评论