Tensorflow
Tensorflow
Jackilina_Stone
这个作者很懒,什么都没留下…
展开
-
tensorflow 多GPU编程 完全指南
https://blog.csdn.net/minstyrain/article/details/80986397转载 2019-02-20 17:10:10 · 168 阅读 · 0 评论 -
【linux 】【TensorFlow】创建环境,安装TensorFlow2.0
1 安装virtualenv pip install virtualenv2my_dir为创建的环境文件夹上级目录的路径;venv为虚拟环境文件夹名 $ cd my_dir $ virtualenv venv3选择使用一个Python解释器,路径为/usr/bin/python3.6。 其中,路径可以使用whereis python...原创 2020-03-24 20:43:45 · 352 阅读 · 0 评论 -
Tensorflow2.0学习笔记(三)数据类型和数值精度
1数据类型2数值精度 tf.int16 tf.int32 tf.int64tf.float16 tf.float32 tf.float64(1)代码import numpy as npimport tensorflow as tfa = tf.constant(np.pi, dtype=tf.float32)prin...原创 2020-03-30 20:33:16 · 996 阅读 · 0 评论 -
Tensorflow2.0学习笔记(七)BatchNorm层
(1)BN的作用从上图可以看出,Sigmoid函数在[-2,2]区间导数值在[0.1,0.25],当输入大于2或者小于2时,导数逼近于0,从而容易出现梯度弥散的现象。通过标准化后,输入值被映射在0附近区域,此处的导数不会太小,不会容易出现梯度弥散的现象。如上图所示的损失函数等高线图可知,当x1和x2分布相近时,收敛更加快速,优化轨迹更好。结论:通过标准化后,输入值被映射在0...原创 2020-03-31 14:19:07 · 3747 阅读 · 2 评论 -
Tensorflow2.0学习笔记目录
目录: 1入门 2tensorboard的使用 3数据类型和数值精度 4循环神经网络 5梯度弥散和梯度爆炸 6LSTM 7BatchNorm层 8Resnet 9 Resnet实战...原创 2020-04-01 20:08:46 · 357 阅读 · 1 评论 -
【Tensorflow】 split and concat
# 对数据进行切分操作tf.split(value=x, num_or_size_split=2, axis=3)说明:value为输入数据,num_or_size_split表示打散的数量,axis对第几个维度进行切分.举例:原始维度为[1, 227, 227, 48], 切分后的维度为[2, 1, 227, 227, 24]# 对数据进行合并操作要求:操作需要满足除拼接维度外,其余维度均相等a = tf.ones([4, 35, 8])b = tf.ones([2, 35, 8]..原创 2022-05-10 18:11:22 · 153 阅读 · 0 评论 -
【TensorFlow】TensorBoard可视化
TensorBoard是TensorFlow下的可视化的工具。1准备需要可视化的数据运行训练的代码2 产生一个log文件,这个文件保存的数据即为需要可视化的数据,复制该文件的path。3打开cmd到终端,cd到log文件所在的目录,输入tensorboard --logdir="log的path"。4 打开浏览器,输入网址localhost:60...原创 2018-10-20 00:25:32 · 219 阅读 · 1 评论 -
【Conda】【TensorFlow】创建环境,安装TensorFlow 2.0
1 conda create -n TF_2C python=3.62 activate TF_2C3 pip install tensorflow==2.0.0 -i https://pypi.tuna.tsinghua.edu.cn/simple4 测试输出TensorFlow版本:print(tf.__version__)5安装其...原创 2020-03-23 21:46:08 · 836 阅读 · 0 评论 -
【Tensorflow】【分类:损失函数】SparseCategoricalCrossentropy()和CategoricalCrossentropy()
tf.keras.losses.SparseCategoricalCrossentropy()与CategoricalCrossentropy()的区别:如果目标是one-hot 编码,比如二分类【0,1】【1,0】,损失函数用categorical_crossentropy。如果目标是数字编码 ,比如二分类0,1,损失函数用sparse_categorical_crossentrop...原创 2020-04-01 19:06:55 · 14346 阅读 · 0 评论 -
Tensorflow2.0学习笔记(九)Resnet实战
0 数据说明:忽略数据的合理性,本数据为测试代码使用的。1 data_process.pyimport tensorflow as tfimport numpy as npimport osimport cv2def read_imgs_to_arr(imgs_path): imgs = [] for img_path in imgs...原创 2020-04-01 19:55:49 · 476 阅读 · 0 评论 -
Tensorflow2.0学习笔记(四)循环神经网络
1 Embedding层在神经网络中,单词的表示向量可以直接通过训练的方式得到,把单词的表示层叫作Embedding层。在Tensorflow中,可以通过layers.Embedding(m,n)来定义一个Word Embedding层,其中m参数指定词汇数量,n指定单词向量的长度。2 预训练的词向量目前应用的比较广泛的预训练模型有 Word2Vec 和 GloV...原创 2020-03-30 20:50:21 · 550 阅读 · 0 评论 -
【Tensorflow】tensor(张量)与节点
1 TensorFlow的核心对象,计算图Graph。 图描述了计算的过程,TensorFlow使用图来表示计算任务。 第一阶段定义计算图中的所有计算,第二阶段执行计算。 Tensorflow中的每一个计算都是计算图上的一个节点,节点之间的边描述了计算之间的关系。 tf.get_default_graph()可以用来获取当前的计算图。2 Graph包含两大成员,节点和边。(1)节点即为计算算子Operation 输入和输出...原创 2022-05-07 07:40:25 · 364 阅读 · 0 评论 -
Tensorflow2.0学习笔记(五)梯度弥散和梯度爆炸
梯度下降算法:1 梯度弥散梯度值接近于0的现象叫做梯度弥散(Gradient Vanishing) 分析:当出现梯度弥散时,换句话说,就是每次梯度更新后,参数基本保持不变,网络的参数长时间得不到更新。具体的表现为L基本保持不变。解决办法——增大学习率、减少网络深度及添加Skip Connection等方式。注意:减少网络深度会减轻梯度弥散的问题,但是网络的表达...原创 2020-03-30 21:03:36 · 870 阅读 · 0 评论 -
【TensorFlow】tfrecord
1 生成tfrecord文件(1)数据文件格式(2)代码import tensorflow as tffrom PIL import Imageimport osdef make_tfrecords(data_path, classes, tfrecord_path): """生成tfrecord文件""" writer = tf.python_...原创 2019-08-02 13:38:35 · 397 阅读 · 2 评论 -
Tensorflow2.0学习笔记(六)LSTM
1 短时记忆在处理较长的句子时,循环神经网络往往只能理解有限长度内的信息,而对于较长范围内的有用信息往往不能很好的利用起来。那么,能不能延长短时记忆,提高记忆力呢?——LSTM2LSTM与基础的RNN对比与基础的RNN对比,除了有一个状态向量ht,LSTM新增加了一个状态向量Ct,同时引入了门控(Gate)机制,通过门控单元来控制信息的遗忘和刷新。基础的RNN:LS...原创 2020-03-30 21:24:20 · 1420 阅读 · 0 评论 -
Tensorflow2.0学习笔记(一)入门
1 一个简单的手写数字图片识别程序import tensorflow as tfimport numpy as np"""# 载入并准备好 MNIST 数据集mnist = tf.keras.datasets.mnist(x_train, y_train), (x_test, y_test) = mnist.load_data()"""def load_mnist(...原创 2020-03-30 20:13:54 · 1314 阅读 · 1 评论 -
【tensorflow】图像处理—— 数据增强
1-1 读取图像函数tf.gfile.FastGFile("D:\\1.jpg", 'rb').read()1-2 解码函数tf.image.decode_jpeg(img) tf.image.decode_jepg 和 tf.image.decode_png函数分别用于解码jpg格式和png格式的图像。之后,可以显示图像。 如果没有解码,读取的图像是一...原创 2019-01-21 11:53:13 · 2548 阅读 · 2 评论 -
【Tensorflow】【seed】三种情况
原创 2020-04-01 18:54:31 · 831 阅读 · 0 评论 -
Tensorflow2.0学习笔记(二)tensorboard的使用
目录1代码2命令行输入:tensorboard --logdir="logs",WEb查看。3查看结果1代码import tensorflow as tfimport numpy as npimport osdef load_mnist(path): """加载本地下载好的mnist数据集""" f = np.load(path) ...原创 2020-03-30 20:24:41 · 4536 阅读 · 0 评论 -
Tensorflow2.0学习笔记(八)Resnet
1退化问题?在不断增加神经网络的深度时,会出现一个退化的问题:准确率会先上升然后达到饱和,再持续增加网络的深度则会导致准确率下降。这并不是过拟合的问题,原因是不光在测试集上误差增大,训练集本身误差也会增大。2ResNet的残差学习单元(Residual Unit) 这个Residual block通过shortcut conn...原创 2020-04-01 19:37:30 · 1136 阅读 · 0 评论