TensorFlow
xf__mao
关注机器学习和计算机视觉,欢迎交流!
展开
-
【TensorFlow】tf.nn.softmax_cross_entropy_with_logits的用法
在计算loss的时候,最常见的一句话就是tf.nn.softmax_cross_entropy_with_logits,那么它到底是怎么做的呢?首先明确一点,loss是代价值,也就是我们要最小化的值tf.nn.softmax_cross_entropy_with_logits(logits, labels, name=None)除去name参数用以指定该操作的name,与方法有关的原创 2016-11-28 21:46:29 · 119358 阅读 · 27 评论 -
【Tensorflow】辅助工具篇——scikit-image介绍
很多时候我们跑deep learning算法的难点不在于搭建网络,而是数据获取与处理,当你看到大量的数据却无从下手时该是怎样的心情!这几篇我将为大家介绍目前很多paper代码复现中比较流行的辅助工具首先我们简要介绍一下scikit-image这个扩展包:scikit-image (a.k.a. skimage) 是一个图像处理和计算机视觉的算法集合。当然提到图像不得不提opencv原创 2017-06-14 21:51:50 · 13678 阅读 · 2 评论 -
【Tensorflow】超大规模数据集解决方案:通过线程来预取(下)
环境Tensorflow1.2,python2.7现在让我们用Tensorflow实现一个具体的Input pipeline,我们使用CoCo2014作为处理对象,网上应该可以下载到CoCo训练集,train2014这个文件。下载链接:http://msvocds.blob.core.windows.net/coco2014/train2014.zip一共13.5G,解压完原创 2017-07-18 21:21:55 · 5509 阅读 · 0 评论 -
【Tensorflow】用tersorflow内置函数做图片预处理
本篇作为【Tensorflow】超大规模数据集解决方案的补充,介绍一下tersorflow内置函数对图片的预处理。前面的方法都是用skimage等辅助库来处理图像,因为我们都是在外部处理完所有的图像,然后再输入网络,以Placeholder的形式。但是当我们使用Tensorflow内部的Input pipeline的时候,图片一经读取,就已经转换成了Tensorflow内置的格式,这种格式下,原创 2017-07-19 19:39:23 · 7972 阅读 · 0 评论 -
【Tensorflow】tf.nn.depthwise_conv2d如何实现深度卷积?
tensorflow版本1.2.0,python2.7环境depthwise_conv2d来源于深度可分离卷积Xception: Deep Learning with Depthwise Separable Convolutionstf.nn.depthwise_conv2d(input,filter,strides,padding,rate=None,name=Non原创 2017-09-11 23:10:03 · 4064 阅读 · 0 评论 -
【Tensorflow】tf.nn.atrous_conv2d如何实现空洞卷积?
tensorflow版本1.2.0,python2.7环境关于空洞卷积的理论可以查看以下链接,这里我们不详细讲理论:1.Long J, Shelhamer E, Darrell T, et al. Fully convolutional networks for semantic segmentation[C]. Computer Vision and Pattern Recognit原创 2017-09-10 21:22:57 · 6427 阅读 · 1 评论 -
【TensorFlow】tf.nn.conv2d是怎样实现卷积的?
实验环境:tensorflow版本1.2.0,python2.7介绍惯例先展示函数:tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=None, name=None)除去name参数用以指定该操作的name,与方法有关的一共五个参数:input: 指需要做卷积的输入图像,它要求是一个Tensor,具有[batch, i原创 2017-09-16 16:30:44 · 24190 阅读 · 14 评论 -
【TensorFlow】tf.nn.conv2d是怎样实现卷积的?
tf.nn.conv2d是TensorFlow里面实现卷积的函数,参考文档对它的介绍并不是很详细,实际上这是搭建卷积神经网络比较核心的一个方法,非常重要tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=None, name=None)除去name参数用以指定该操作的name,与方法有关的一共五个参数:第原创 2016-12-03 17:17:45 · 94193 阅读 · 32 评论 -
【Tensorflow】tf.nn.atrous_conv2d如何实现空洞卷积?
实验环境:tensorflow版本1.2.0,python2.7介绍关于空洞卷积的理论可以查看以下链接,这里我们不详细讲理论:1.Long J, Shelhamer E, Darrell T, et al. Fully convolutional networks for semantic segmentation[C]. Computer Vision and Pattern Recognitio原创 2017-09-16 15:04:35 · 24977 阅读 · 13 评论 -
【Tensorflow】tf.nn.separable_conv2d如何实现深度可分卷积?
实验环境:tensorflow版本1.2.0,python2.7介绍tf.nn.separable_conv2d可以看做,深度卷积tf.nn.depthwise_conv2d的扩展,所以首先我们需要了解depthwise_conv2d,可以查看我的另一篇博客: 【Tensorflow】tf.nn.depthwise_conv2d如何实现深度卷积?tf.nn.separable_conv2d(inpu原创 2017-09-16 13:01:12 · 21129 阅读 · 2 评论 -
【Tensorflow】tf.nn.depthwise_conv2d如何实现深度卷积?
实验环境:tensorflow版本1.2.0,python2.7介绍depthwise_conv2d来源于深度可分离卷积:Xception: Deep Learning with Depthwise Separable Convolutionstf.nn.depthwise_conv2d(input,filter,strides,padding,rate=None,name=None,data_fo原创 2017-09-16 14:32:56 · 42087 阅读 · 9 评论 -
【Tensorflow】辅助工具篇——matplotlib介绍(下)
ok,最后一篇我们来讲如何对某一个具体的数据集来做可视化分析。现在我们要引入一个以matplotlib作为基础的更高级的api:Seaborn,Seaborn有什么用?简单地说,就是用更少的语句,画出更好看的图。原创 2017-06-26 16:35:25 · 2165 阅读 · 2 评论 -
【Tensorflow】怎样为你的网络预加工和打包训练数据?(一)
面对五花八门的数据集,各种各样的数据存储形式,刚新手入门的我们在处理这些情况的时候是否会手足无措?反正一路走来,我的经验告诉我,deep learning的实验阶段,数据准备和处理过程往往会让你碰一鼻子灰。明明知道如何搭建网络,还是完成不了实验,究其原因,是数据工程经验的不足。我打算做这个系列,主要是记录针对不同种类,格式的数据的处理方案。数据预处理的首篇,我为大家展示一种常见情形的处理方法原创 2017-06-16 13:35:00 · 3620 阅读 · 3 评论 -
【TensorFlow】tf.nn.max_pool实现池化操作
max pooling是CNN当中的最大值池化操作,其实用法和卷积很类似有些地方可以从卷积去参考【TensorFlow】tf.nn.conv2d是怎样实现卷积的? tf.nn.max_pool(value, ksize, strides, padding, name=None)参数是四个,和卷积很类似:第一个参数value:需要池化的输入,一般池化层接在卷积层后面,所以输入原创 2016-12-04 14:28:39 · 75930 阅读 · 8 评论 -
【TensorFlow】tf.nn.local_response_normalization详解,lrn正则法如何计算?
local response normalization最早是由Krizhevsky和Hinton在关于ImageNet的论文里面使用的一种数据标准化方法,即使现在,也依然会有不少CNN网络会使用到这种正则手段,现在记录一下lrn方法的计算流程以及tensorflow的实现,方便后面查阅以上是这种归一手段的公式,其中a的上标指该层的第几个feature map,a的下标x,y表示featu原创 2016-12-06 16:12:53 · 13529 阅读 · 0 评论 -
【TensorFlow】tf.concat的用法
tf.concat是连接两个矩阵的操作tf.concat(concat_dim, values, name='concat')除去name参数用以指定该操作的name,与方法有关的一共两个参数:concat_dim:必须是一个数,表明在哪一维上连接 如果concat_dim是0,那么在某一个shape的第一个维度上连,对应到实际,就是叠放到列上t1 = [[1, 2原创 2016-11-27 20:00:10 · 107235 阅读 · 9 评论 -
【TensorFlow】tf.sparse_to_dense的用法
TensorFlow是一个很坑的东西,在没有session运行的时候,所有数据都看不到结果,很难去print而且TF还没有中文的API手册,很多东西很难体会在这里记录一下比较难理解的几个方法的用法,以便后面用到tf.sparse_to_dense(sparse_indices, output_shape, sparse_values, default_value, name=N原创 2016-11-27 20:37:32 · 33423 阅读 · 16 评论 -
【Tensorflow】辅助工具篇——tensorflow slim(TF-Slim)介绍
可能很多tensorflow的老版本玩家没见过这个东西,slim这个模块是在16年新推出的,其主要目的是来做所谓的“代码瘦身”。但事实上它已经成为我比较喜欢,甚至是比较常用的模块,github上面大部分tensorflow的工程都会涉及到它,不得不说,撇开Keras,TensorLayer,tfLearn这些个高级库不谈,光用tensorflow能不能写出简洁的代码?当然行,有slim就够了!原创 2017-06-18 12:44:22 · 58780 阅读 · 13 评论 -
【TensorFlow】tf.nn.conv2d_transpose是怎样实现反卷积的?
三个月没更新了啊,回来更一发~~csdn上主要讲一些coding过程中遇到的函数,问题,解决方案。偏实践另外,如果你想看一些理论方面的东西,欢迎加我的知乎csdn私信几乎不看,有问题交流可以发邮箱:hzmaoxiaofeng@163.com或者知乎私信,看到我会第一时间回复各位之前的文章里有人和我提了参数位置的问题,非常感谢。之前我用的tensorflow版本是0.8,在1.0大改原创 2017-05-12 15:08:27 · 41888 阅读 · 22 评论 -
【Tensorflow】辅助工具篇——matplotlib介绍(上)
期待已久的一章!数据可视化,数据图表分析,paper画图神器,matplotlib登场了因为有太多可讲,我们分成几篇来详细介绍,如果你想发paper,学好这个,如果你要做工程,那更要学好这个,总的来说,可视化图表绘制工具是必须要熟练使用的。有人可能会说Tensorflow不是有tensorboard来训练可视化吗?tensorboard所记录的数据的数据对于我们分析是远远不够的,很多指标用原创 2017-06-18 16:51:46 · 6976 阅读 · 0 评论 -
【Tensorflow】辅助工具篇——matplotlib介绍(中)
一.进阶绘图等高线等高线图经常用来表示一个二元函数z=f(x,y),我们可以形象的用一张网格图上面的点的函数值来描述。#%matplotlib inlineimport matplotlib.pyplot as pltimport numpy as npdef f(x, y): return np.sin(x) ** 10 + np.cos(10 + y * x) *原创 2017-06-22 16:15:34 · 4016 阅读 · 0 评论 -
【Tensorflow】超大规模数据集解决方案:通过线程来预取(上)
环境Tensorflow1.2(这是最新的一个版本),python2.7这是我重点要讲的解决方案,我怕篇幅过长,分成了两篇,上篇介绍一下预备的东西,下篇来进行实验一.Tensorflow中的队列机制队列和线程是Temsorflow中实现异步的重要工具。为什么要异步?用一个形象的例子来解释这个问题。可以把数据导入的过程看作io操作,在数据规模极大的情况下,io请求需要大量时间执行。同原创 2017-07-02 16:39:08 · 10595 阅读 · 0 评论 -
用tensorflow实现usps和mnist数据集的迁移学习
本程序环境:tensorflow+python,用到的库:numpy,os,Image,random。基于论文:《Deep Transfer Network: Unsupervised Domain Adaptation》前面我已经对这篇文章做过简单的导读:首先我们要用到两个数据集usps和mnist,它们都是用来完成手写数字识别任务的,以下提供两个数据集的下载链接mnist数原创 2017-02-09 12:07:14 · 9955 阅读 · 5 评论 -
【Tensorflow】怎样为你的网络预加工和打包训练数据?(二):小数据集的处理方案
实验环境:python2.7第二篇我们来讲一讲小数据集的处理方法,小数据集一般多以文本存储为主,csv是一种流行的数据格式,另外也有txt等。当然也会有.mat或者.npy这种经过处理的格式。一.处理csv格式数据集实验数据集是鸢尾花卉数据集iris,格式是.csv,需要的同学可以到这里下载为了工程需要我直接介绍读取该类型数据的最快方法,通过一些库,我们是可以用很少的步骤就读取原创 2017-06-25 14:53:05 · 3201 阅读 · 0 评论