- 博客(147)
- 资源 (5)
- 收藏
- 关注
RSS订阅原创 Python3.x UnicodeDecodeError: 'ascii' codec can't decode byte 0x90
training_data, validation_data, test_data = pickle.load(f)改为即可，training_data, validation_data, test_data = pickle.load(f,encoding='bytes')
2018-07-06 11:03:23
1032
转载 TensorFlow实战：入门
TensorFlow计算模型-计算图TensorFlow中所有的计算都会被转换为计算图上的节点。如果说TensorFlow的Tensor是计算图的数据结构，那么Flow则体现了它的计算模型。我们这里详细了解一下计算图的使用.计算图的简单示例通过变量实现神经网络前向传播过程# coding:utf8import tensorflow as tf#声明w1,w2两个变量,这里还通过seed参...
2018-06-25 20:39:55
1115
原创 TensorFlow实战：多层感知机
首先，载入TensorFlow并加载MNIST数据集，创建一个TensorFlow默认的Interactive Session，这样后面执行各项操作就无须指定Session了。from tensorflow.examples.tutorials.mnist import input_dataimport tensorflow as tfmnist = input_data.read_data...
2018-06-25 10:48:25
234
原创 TensorFlow实战：自编码器
当拥有很多的标注数据时，可以训练一个深层的神经网络。但是没有标注的数据时，依然可以利用无监督的自编码器来提取特征。自编码器（AutoEncoder），顾名思义，即可以使用自身的高阶特征编码自己。自编码器其实也是一种神经网络，它的输入和输出是一致的，它借助稀疏编码的思想，目标是使用稀疏的一些高阶特征重新组合来重构自己。因此，它的特点非常明显：第一，期望输入／输出一致；第二，希望使用高阶特征来重构自己...
2018-06-24 21:11:07
717
转载 TensorFlow实战：TensorFlow简介
人工智能机器学习与深度学习机器学习深度学习人工智能深度学习工具介绍和对比主流的深度学习开源工具总结表主流的深度学习框架介绍TensorFlowCaffeTheanoTorchTensorFlow简介编程模型简介核心概念实现原理a每一个节点该让什么硬件设备执行b如何管理节点间的通信TensorFlow主要依赖包Protocol BufferBazelTensorFlow测试样例参考资料人工智能、机器...
2018-06-24 16:14:17
553
转载 tensorflow学习笔记十二：十图详解tensorflow数据读取机制
一、tensorflow读取机制图解首先需要思考的一个问题是，什么是数据读取？以图像数据为例，读取数据的过程可以用下图来表示：假设我们的硬盘中有一个图片数据集0001.jpg，0002.jpg，0003.jpg……我们只需要把它们读取到内存中，然后提供给GPU或是CPU进行计算就可以了。这听起来很容易，但事实远没有那么简单。事实上，我们必须要把数据先读入后才能进行计算，假设读入用时0.1s，计算用...
2018-06-17 10:56:07
278
转载 tensorflow学习笔记十一：用别人训练好的模型来进行图像分类
谷歌在大型图像数据库ImageNet上训练好了一个Inception-v3模型，这个模型我们可以直接用来进来图像分类。下载地址：https://storage.googleapis.com/download.tensorflow.org/models/inception_dec_2015.zip下载完解压后，得到几个文件：其中的classify_image_graph_def.pb 文件就是训练好...
2018-06-17 10:50:02
1734
3
转载 tensorflow学习笔记十：模型的保存与恢复(Saver)
将训练好的模型参数保存起来，以便以后进行验证或测试，这是我们经常要做的事情。tf里面提供模型保存的是tf.train.Saver()模块。模型保存，先要创建一个Saver对象：如saver=tf.train.Saver()在创建这个Saver对象的时候，有一个参数我们经常会用到，就是 max_to_keep 参数，这个是用来设置保存模型的个数，默认为5，即 max_to_keep=5，保存最近的5...
2018-06-17 10:40:26
882
转载 tensorflow学习笔记九：参数和特征的提取
在tf中，参与训练的参数可用 tf.trainable_variables()提取出来，如：#取出所有参与训练的参数params=tf.trainable_variables()print("Trainable variables:------------------------")#循环列出参数for idx, v in enumerate(params): print(" ...
2018-06-17 10:15:54
878
转载 tensorflow学习笔记八：池化层（pooling)和全连接层(dense)
池化层定义在 tensorflow/python/layers/pooling.py.有最大值池化和均值池化。1、tf.layers.max_pooling2dmax_pooling2d( inputs, pool_size, strides, padding='valid', data_format='channels_last', name=No...
2018-06-15 20:05:04
1178
转载 tensorflow学习笔记七：参数初始化（initializer)
CNN中最重要的就是参数了，包括W,b。 我们训练CNN的最终目的就是得到最好的参数，使得目标函数取得最小值。参数的初始化也同样重要，因此微调受到很多人的重视，那么tf提供了哪些初始化参数的方法呢，我们能不能自己进行初始化呢？所有的初始化方法都定义在tensorflow/python/ops/init_ops.py1、tf.constant_initializer()也可以简写为tf.Consta...
2018-06-15 19:53:18
3298
转载 tensorflow学习笔记六：卷积层
一、旧版本（1.0以下）的卷积函数：tf.nn.conv2dconv2d( input, filter, strides, padding, use_cudnn_on_gpu=None, data_format=None, name=None)该函数定义在tensorflow/python/ops/gen_nn_ops.py。参数：inpu...
2018-06-15 19:35:41
472
转载 tensorflow学习笔记五：用CNN进行图像分类
tensorflow升级到1.0之后，增加了一些高级模块： 如tf.layers, tf.metrics, 和tf.losses，使得代码稍微有些简化。任务：花卉分类版本：tensorflow 1.0数据：http://download.tensorflow.org/example_images/flower_photos.tgz花总共有五类，分别放在5个文件夹下。# -*- coding: ut...
2018-06-15 19:20:28
2766
8
转载 tensorflow学习笔记四：mnist实例--卷积神经网络(CNN）
mnist的卷积神经网络例子和上一篇博文中的神经网络例子大部分是相同的。但是CNN层数要多一些，网络模型需要自己来构建。程序比较复杂，我就分成几个部分来叙述。首先，下载并加载数据：import tensorflow as tf import tensorflow.examples.tutorials.mnist.input_data as input_datamnist = input_dat...
2018-06-15 10:54:38
335
转载 tensorflow学习笔记三：mnist实例--用简单的神经网络来训练和测试
刚开始学习tf时，我们从简单的地方开始。卷积神经网络（CNN）是由简单的神经网络（NN）发展而来的，因此，我们的第一个例子，就从神经网络开始。神经网络没有卷积功能，只有简单的三层：输入层，隐藏层和输出层。数据从输入层输入，在隐藏层进行加权变换，最后在输出层进行输出。输出的时候，我们可以使用softmax回归，输出属于每个类别的概率值。借用极客学院的图表示如下： 其中，x1,x2,x3为输入数据，经...
2018-06-15 09:41:30
410
转载 tensorflow学习笔记二：实例数据下载与读取
一、mnist数据深度学习的入门实例，一般就是mnist手写数字分类识别，因此我们应该先下载这个数据集。tensorflow提供一个input_data.py文件，专门用于下载mnist数据，我们直接调用就可以了，代码如下：import tensorflow.examples.tutorials.mnist.input_data as input_datamnist = input_data.r...
2018-06-15 09:00:48
404
转载 tensorflow学习笔记一：入门基础
TensorFlow用张量这种数据结构来表示所有的数据。用一阶张量来表示向量，如：v = [1.2, 2.3, 3.5] ，如二阶张量表示矩阵，如：m = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]，可以看成是方括号嵌套的层数。1、编辑器编写tensorflow代码，实际上就是编写py文件，最好找一个好用的编辑器，如果你用vim或gedit比较顺手，那也可以的啦。我们既然已...
2018-06-14 21:16:39
216
转载 《深度学习——实战caffe》——python接口学习（7）：caffemodel中的参数及特征的抽取
如果用公式 y=f(wx+b)来表示整个运算过程的话，那么w和b就是我们需要训练的东西，w称为权值，在cnn中也可以叫做卷积核（filter），b是偏置项。f是激活函数，有sigmoid、relu等。x就是输入的数据。数据训练完成后，保存的caffemodel里面，实际上就是各层的w和b值。我们运行代码：deploy=root + 'mnist/deploy.prototxt' #depl...
2018-06-14 20:10:13
130
转载 《深度学习——实战caffe》——python接口学习（6）：用训练好的模型（caffemodel）来分类新的图片
经过前面两篇博文的学习，我们已经训练好了一个caffemodel模型，并生成了一个deploy.prototxt文件，现在我们就利用这两个文件来对一个新的图片进行分类预测。我们从mnist数据集的test集中随便找一张图片，用来进行实验。#coding=utf-8import caffeimport numpy as nproot='/home/xxx/' #根目录deploy=ro...
2018-06-12 20:59:31
248
转载 《深度学习——实战caffe》——python接口学习（5）：生成deploy文件
如果要把训练好的模型拿来测试新的图片，那必须得要一个deploy.prototxt文件，这个文件实际上和test.prototxt文件差不多，只是头尾不相同而也。deploy文件没有第一层数据输入层，也没有最后的Accuracy层，但最后多了一个Softmax概率层。这里我们采用代码的方式来自动生成该文件，以mnist为例。deploy.py# -*- coding: utf-8 -*-fro...
2018-06-12 20:55:58
188
转载 《深度学习——实战caffe》——python接口学习（4）：mnist实例---手写数字识别
一、数据准备官网提供的mnist数据并不是图片，但我们以后做的实际项目可能是图片。因此有些人并不知道该怎么办。在此我将mnist数据进行了转化，变成了一张张的图片，我们练习就从图片开始。mnist图片数据我放在了百度云盘。mnist图片数据下载：http://pan.baidu.com/s/1pLMV4Kz数据分成了训练集（60000张共10类）和测试集（共10000张10类），每个类别放在一个单...
2018-06-12 20:12:34
247
转载 《深度学习——实战caffe》——python接口学习（3）：训练模型（training)
如果不进行可视化，只想得到一个最终的训练model, 那么代码非常简单，如下 :import caffecaffe.set_device(0)caffe.set_mode_gpu()solver = caffe.SGDSolver('/home/xxx/data/solver.prototxt')solver.solve()如果是cpu，则改为mode_cpu()...
2018-06-10 21:39:56
436
转载 《深度学习——实战caffe》——python接口学习（2）：生成solver文件
caffe在训练的时候，需要一些参数设置，我们一般将这些参数设置在一个叫solver.prototxt的文件里面，如下：base_lr: 0.001display: 782gamma: 0.1lr_policy: “step”max_iter: 78200momentum: 0.9snapshot: 7820snapshot_prefix: “snapshot”solver_mod...
2018-06-10 21:37:08
201
转载 《深度学习——实战caffe》——python接口学习（1）：生成配置文件
首先，我们需要掌握的，就是如何写配置文件，通过下面的代码来学习：# -*- coding: utf-8 -*-"""Spyder Editor"""from caffe import layers as L,params as P,to_protopath='/home/xxx/data/' #保存数据和配置文件的路径train_lmdb=pa...
2018-06-10 21:29:40
230
转载 《深度学习——实战caffe》——如何将别人训练好的model用到自己的数据上
因设备原因只能先转载http://www.cnblogs.com/denny402/p/5137534.html。留存。好记性不如烂笔头caffe团队用imagenet图片进行训练，迭代30多万次，训练出来一个model。这个model将图片分为1000类，应该是目前为止最好的图片分类model了。假设我现在有一些自己的图片想进行分类，但样本量太小，可能只有几百张，而一般深度学习都要求样本量在1万...
2018-06-10 21:23:10
2086
转载 《深度学习——实战caffe》——caffe图形化操作工具digits的安装与运行
因为我的电脑没有显卡，所以先转载作者的文章，留作以后参考使用：nvidia digits是一款web应用工具，在网页上对caffe进行图形化操作和可视化，用于caffe初学者来说，帮助非常大。不过有点遗憾的是，据nvidia官方文档称，digits最佳支持系统是ubuntu 14.04，其它的系统效果如何，就不得而知了。一、安装digits 3.0digits是运行在cuda和caffe基础上的，...
2018-06-10 21:09:00
316
转载 《深度学习——实战caffe》——用训练好的caffemodel来进行分类
caffe程序自带有一张小猫图片，存放路径为caffe根目录下的 examples/images/cat.jpg, 如果我们想用一个训练好的caffemodel来对这张图片进行分类，那该怎么办呢？ 如果不用这张小猫图片，换一张别的图片，又该怎么办呢？如果学会了小猫图片的分类，那么换成其它图片，程序实际上是一样的。开发caffe的贾大牛团队，利用imagenet图片和caffenet模型训练好了一个...
2018-06-10 20:51:08
217
原创 《深度学习——实战caffe》——绘制loss和accuracy曲线
如果不需要绘制曲线，只需要训练出一个caffemodel, 直接调用solver.solve()就可以了。如果要绘制曲线，就需要把迭代过程中的值保存下来，因此不能直接调用solver.solve(), 需要迭代。在迭代过程中，每迭代200次测试一次#加载必要的库import numpy as npimport matplotlib.pyplot as plt #matplotlib inl...
2018-06-10 15:09:02
3298
转载 《深度学习——实战caffe》——绘制网络模型
python/draw_net.py, 这个文件，就是用来绘制网络模型的。也就是将网络模型由prototxt变成一张图片。在绘制之前，需要先安装两个库１、安装ＧraphViz# sudo apt-get install GraphViz注意，这里用的是apt-get来安装，而不是pip.2 、安装pydot# sudo pip install pydot用的是pip来安装，而不是apt-get安装...
2018-06-10 10:17:31
562
原创 《深度学习——实战caffe》——模型各层数据和参数可视化
先用caffe对cifar10进行训练，将训练的结果模型进行保存，得到一个caffemodel，然后从测试图片中选出一张进行测试，并进行可视化。参考博文：https://www.cnblogs.com/denny402/p/5105911.html代码：1.#加载必要的库import numpy as npimport matplotlib.pyplot as plt #matplotl...
2018-06-09 21:23:27
527
原创 《深度学习——实战caffe》——在测试阶段，采用均值计算（compute_image_mean），并用自己的手写数字进行测试
前面我们直接进行测试效果很好。准确率达到了98%以上。接下来我们采用均值计算试试看。下面先进行训练，下载方法与前面的稍有不同，格式转化也稍有不同。因为我们前面已经进行过下载、格式转化和训练的过程，所以可以跳过，直接进行均值计算的测试。为了让自己加深对Mnist数据集的理解我就再写一遍。一、训练 1、从http://yann.lecun.com/exdb/mnist/下载的数据集 这需要进行数据结构...
2018-06-09 15:46:49
310
原创 《深度学习——实战caffe》——caffemodel可视化
通过前面的学习，我们已经能够正常训练各种数据了。设置好solver.prototxt后，我们可以把训练好的模型保存起来，如lenet_iter_10000.caffemodel。训练多少次就自动保存一下，这个是通过snapshot进行设置的，保存文件的路径及文件名前缀是由snapshot_prefix来设定的。这个文件里面存放的就是各层的参数，即net.params，里面没有数据(net.blob...
2018-06-08 20:58:37
371
转载 《深度学习——实战caffe》——计算图片数据的均值
图片减去均值后，再进行训练和测试，会提高速度和精度。因此，一般在各种模型中都会有这个操作。那么这个均值怎么来的呢，实际上就是计算所有训练样本的平均值，计算出来后，保存为一个均值文件，在以后的测试中，就可以直接使用这个均值来相减，而不需要对测试图片重新计算。一、二进制格式的均值计算caffe中使用的均值数据格式是binaryproto, 作者为我们提供了一个计算均值的文件compute_image...
2018-06-08 20:11:56
202
原创 《深度学习——实战caffe》——初识数据可视化
首先将caffe的根目录作为当前目录，然后加载caffe程序自带的小猫图片，并显示。图片大小为360x480，三通道In [1]:import numpy as npimport matplotlib.pyplot as plt%matplotlib inlineimport caffecaffe_root='/home/xxx/caffe/'import os,sysos.chdir...
2018-06-08 16:53:17
363
原创 《深度学习——实战caffe》——数据可视化环境（python接口)配置
这个之前写过了，之前的学习不系统这次跟着徐老师的步骤系统地过一遍：之前博文地址：https://blog.csdn.net/qq_33144323/article/details/80042319
2018-06-04 20:44:04
226
转载 caffe学习中的一些低级错误
刚开始学习caffe，准备用博客记录下学习过程，避免再犯同样的错误，也给小伙伴们提个醒哈哈～我是根据徐老师的博客来学习的http://www.cnblogs.com/denny402/tag/caffe/今天学到了第12课，训练自己的图片。遇到了很多小问题，现在总算是弄好了1.一定要在caffe根目录下来运行所有命令，不然系统会一直提示找不到文件2.原文：但是我们自己要改动文件原始路径：/caff...
2018-06-04 20:38:39
113
转载 《深度学习——实战caffe》——训练和测试自己的图片
学习caffe的目的，不是简单的做几个练习，最终还是要用到自己的实际项目或科研中。因此，本文介绍一下，从自己的原始图片到lmdb数据，再到训练和测试模型的整个流程。一、准备数据有条件的同学，可以去imagenet的官网http://www.image-net.org/download-images，下载imagenet图片来训练。但是我没有下载，一个原因是注册账号的时候，验证码始终出不来（听说是g...
2018-06-04 19:50:59
423
转载 《深度学习——实战caffe》——图像数据转换成db（leveldb/lmdb)文件
在深度学习的实际应用中，我们经常用到的原始数据是图片文件，如jpg,jpeg,png,tif等格式的，而且有可能图片的大小还不一致。而在caffe中经常使用的数据类型是lmdb或leveldb，因此就产生了这样的一个问题：如何从原始图片文件转换成caffe中能够运行的db（leveldb/lmdb)文件？在caffe中，作者为我们提供了这样一个文件：convert_imageset.cpp，存放在...
2018-06-04 15:31:23
171
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人