自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

一个做图像文本的深度学习人

目前研究方向:图像+文本数据融合

  • 博客(81)
  • 资源 (4)
  • 收藏
  • 关注

原创 在转换LEVELDB数据时候出现的 -abort() has been called错误

错误描述如下图:原因:这是因为在转换数据集的时候,放置原始数据集的文件夹命名含有非法字符,比如我的文件夹就含有了空格,如下图只要把空格取消掉就可以了。问题解决。...

2018-04-16 08:01:13 380

原创 Cannot copy param 0 weights from layer 'conv1'; shape mismatch.

当我使用训练好的caffemodel准备测试一下图片的时候,我定义了deploy.prototxt文件,然后利用bat脚本进行测试,发现报错,错误如下:错误解决:打开我的deploy.prototxt文件,把Input_param中的数据改掉,把1通道改为3通道,shape参数的意思:第一个参数表示batch_size,第二个参数表示通道(彩色为3通道),剩下两个表示图像大小,我用的是黑白图像,所...

2018-04-09 08:55:23 3160

转载 batch_size的理解

1.当数据量足够大的时候可以适当的减小batch_size,由于数据量太大,内存不够。但盲目减少会导致无法收敛,batch_size=1时为在线学习。2.batch的选择,首先决定的是下降方向,如果数据集比较小,则完全可以采用全数据集的形式。这样做的好处有两点,     1)全数据集的方向能够更好的代表样本总体,确定其极值所在。 2)由于不同权重的梯度值差别巨大,因此选取一个全局的学习率很困难。3...

2018-03-31 08:20:57 9702

原创 Caffe-Windows下画loss与accuracy曲线

请注意如果.py文件中有中文,请在文件开头加上# -*- coding: utf-8 -*-,否则会报错yntaxError:Non-ASCII character '\xe6' in file,文章最后原博主给的下载代码中没有这句话,需要大家手动加上。另外代码是Python2.7版本的,如果是Python3版本的,运行会出错,解决方案请参考http://blog.csdn.net/zyx1995...

2018-03-28 20:56:23 644

转载 如何理解CNN?

这篇文章原地址为An Intuitive Explanation of Convolutional Neural Networks,卷积神经网络的讲解非常通俗易懂。什么是卷积神经网络?为什么它们很重要?卷积神经网络(ConvNets 或者 CNNs)属于神经网络的范畴,已经在诸如图像识别和分类的领域证明了其高效的能力。卷积神经网络可以成功识别人脸、物体和交通信号,从而为机器人和自动驾驶汽车提供视力...

2018-03-27 15:47:26 2316

原创 window10如何和虚拟机中的ubuntu系统互相传文件

1、在网上搜索WinSCP这个软件,然后下载。(找不到的可以到我的资源处下载)2、安装(随便安装在哪里),然后桌面就会出现这个图标:3、双击打开如图:4、填写此表:用户名:你的虚拟机中的ubuntu的用户名和ubuntu的开机密码端口号会自己设定,不需要咱们自己弄主机名字:打开虚拟机ubuntu,然后打开终端,然后输入ifconfig,然后会出来网络连接的信息,把名字是“以太网”的那堆信息的ien...

2018-03-19 19:50:20 7125

原创 公式里面的arg是什么意思?

arg    是变元(即自变量argument)的英文缩写。arg min 就是使后面这个式子达到最小值时的变量的取值arg max 就是使后面这个式子达到最大值时的变量的取值例如 函数F(x,y):arg  min F(x,y)就是指当F(x,y)取得最小值时,变量x,y的取值arg  max F(x,y)就是指当F(x,y)取得最大值时,变量x,y的取值...

2018-03-18 19:31:39 85517 6

转载 2>&1 的用法说明

第一种解释    经常关注linux脚本的人,一定看到过 2>&1 这样的用法,最初一定不明白其中的含义以及为什么是这样的一种组合。昨天偶然间再次看到了这个 2>&1 的写法,遂下决心搞明白其中的含义。    其实要弄清楚 2>&1 的含义,首先应当知道linux中有三种标准输入输出,分别是STDIN,STDOUT,STDERR,对应的数字是0,1,2。S...

2018-03-18 11:28:27 1854 1

原创 couldn't recognize data in image file "C:/Users/Administrator/Desktop/1.jpg"

在用python做GUI界面的时候,想要把图形显示出来,导入了一个包from Tkinter import *然后想要显示图片,又写了这么一行代码:bm = PhotoImage(file='C:/Users/Administrator/Desktop/2.gif')label = Label(root,image=bm).pack()PhotoImage不能直接读取2.jpg,也就是jpg格式...

2018-03-15 21:19:20 17945

原创 CNN中pooling层的作用

1、pooling是在卷积网络(CNN)中一般在卷积层(conv)之后使用的特征提取层,使用pooling技术将卷积层后得到的小邻域内的特征点整合得到新的特征。一方面防止无用参数增加时间复杂度,一方面增加了特征的整合度。2、pooling是用更高层的抽象表示图像特征,至于pooling为什么可以这样做,是因为:我们之所以决定使用卷积后的特征是因为图像具有一种“静态性”的属性,这也就意味着在一个图像...

2018-03-12 20:31:38 37600 9

原创 HEAP CORRUPTION DETECTED:before Normal block(#102584) at 0x00000243EA0CB070

问题描述:这是在训练途中发生的错误,在训练前期一切正常,所以从数据的预处理和网络层的配置应该都是没有问题的。                  在迭  代到一定次数的时候发生了这个问题。(摘自网络)Debug error:Damage before/after normal block.如果编译器这样报错,几乎可以肯定是在程序中,数组访问越界。什么是normal block?在使用new 操作符为...

2018-02-15 09:40:11 1147

原创 Check failed: data_

问题描述:显示数据错误    因为我起初的数据处理成了28*28的,而该网络层数设置较多,导致网络进行到池化层pool5的时候,输入图像持仓已经小于kernel核的大小了。经过池化之后,下一步输入就变成了0*0,所以会报错。解决办法:减少层数,或者增大数据预处理尺寸,或者减小kernel核。这个问题就会解决了。...

2018-02-15 09:35:05 2753 8

原创 Check failed:datum_height > = crop_size(32 vs.227)

根据提示,问题是crop_size的尺寸不匹配,该网络默认crop_size的尺寸是227*227,而我在数据的预处理阶段把数据处理成了32*32,所以会出现这个问题。解决办法:在train_val.prototxt文件中将其修改为32*32后就可以了。...

2018-02-15 09:31:44 1854

转载 DL训练中电脑内存问题

本文主要译介自Graphcore在2017年1月的这篇博客: Why is so much memory needed for deep neural networks。介绍了深度学习中内存的开销,以及降低内存需求的几种解决方案。 为便于阅读,本文修改了原文分段,并添加更详细的计算说明。深度学习的内存消耗在哪里?回顾:简单例子考虑一个单层线...

2018-02-10 16:54:31 320

原创 Check failed: proto SerializeToOstream(&output)

问题描述:这个问题我是在生成均值文件的时候提示的,我看网友们很多是在训练过程提示的。Check failed: proto.SerializeToOstream(&output)解决方法:我删掉了桌面的一些东西,竟然可以用了。感人,根本不知道是怎么解决的。(如果在训练过程中出现问题,网友们说是存储空间不够了,但是绝大多数都是linux系统出现的问题),我的系统是windows

2018-02-05 14:54:34 3009

原创 accuracy=0,loss=1.#QNAN(* 1 = 1.#QNAN loss)

这个问题可就复杂了,从头描述以下:1、第一次训练遇到这个问题,如图然后网友说,caffe的图像标签要从0开始,而且如果是3分类的问题的话,最后输出层要大于训练集的类别数目才可以,所以他把最后一层全连接层的输出改为了4或1000(>3),这个1000分类是什么鬼我不知道,应该是他用来测试大于3行不行吧,然后网友含泪说自己可以了。but,我还是不行。紧接着我就发现了下图:不光是lo

2018-02-05 14:51:08 1815 1

原创 Failed to parse NetParameter file; has no field named "layer"

问题描述:Error parsing text-format caffe.NetParameter:150:7: Message type "caffe.LayerParameter" has no field  named"layer"           Check failed:ReadProtoFromTextFile(param_file,param)Failed to pa

2018-02-05 14:40:49 3519

原创 label_value < num_labels(134 vs.134)

问题如图问题描述:就是在我训练刚开始的时候,还没出现loss和accuracy信息的时候就出现的问题。我这次训练一共134类,所以数字显示是134 vs.134解决方法:我就是改了一下drop层的括号就可以了。。。。。。他说的是accuracy_layer的信息,我改了一下dropout层的东西。貌似啥都没干,就好了。

2018-02-05 14:31:30 638 2

原创 axis_index < num_axes()(1 vs. 1) axis 1 out of range for 1-D Blob with shape*

问题如图:解决办法:在Layer层的设置上,去看一下是不是你的label和data放反了,如下图:这两个top的顺序不能颠倒,必须是先data,后label。

2018-02-05 14:26:58 1177

原创 解决编译pycaffe时候出现缺少Python27_d.lib的解决方案

问题描述最近在使用caffe调用python接口进行可视化的时候,发现总是出现“no module named caffe”这个问题,经过查询,好像是没有编译pycaffe,然后返回caffe-master/windows找到Caffe.sln。然后找到对其右键重新生成(E),经过短暂的等待,出现了问题,问题描述:缺少Python27_d.lib。至于为啥是Python27

2018-01-23 11:44:24 5826 10

原创 关于Caffe在最后测试单张数据集标签文档的问题

1、定义的synset_words.txt最后测试得分的时候,是和这个标签文件中所写的东西的位置是有关系的,不是想怎么写就怎么写。例如:标签文件先这样写好,然后测试:显示“10”分类最可能但是我将标签文件修改如下:再次测试:便得到这个图片,至于这个顺序是在哪里定下来的呢?在这个地方:

2018-01-21 10:32:28 298 1

转载 关于测试自己的单张图片所需要的lenet.prototxt(deploy)文件

Depoly文件其实就是在刚刚定义定义层的参数的那个文件基础上进行修改的,delpoy文件只记录了网络结构,而并没有里面的反向计算,也不需要计算误差。我使用cifar10_quick_train_test.ptototxt进行修改,修改成对应的deploy文件.cifar10_quick_train_test.prototxt文件内容如下:name: "CIFAR10_quick"layer {

2018-01-19 15:12:24 983

原创 Caffe运行过程中遇到的问题

一、问题如图问题描述:大概就是solver文件参数出现了问题,或者路径的问题。再次注意,路径中使用“/",不要用"\"解决办法,我把cifar10_quick_solver.prototxt和cifar10_quick_solver_prototxt直接复制过来,上述问题就不出现了,可以又出现问题二。如下:二、问题如图:问题描述:大概就是需要一直重新加载数据,所以我又去重新制作了一下数据集。还是这

2018-01-19 10:30:24 881 2

原创 Caffe中文件参数设置(九-2):训练和测试自己的数据集-windows10版本

一、从网上自己下载数据集1.1我下载了两类图片,分别为“鸟”:30张;“猫”:30张(注意:随意下载即可) 二、数据集处理2.1批量重命名方法:将文件全部选中,然后右键点击重命名,修改如图所示:2.2批量转换图片大小(先预定设置成28*28)使用一般的看图软件就可以转换。(我这里使用2345看图王)注意:在样本转换为LEVEDB文件之前,需要把图片弄到同一大小,否则会出错。2.3准备训练和测试数据

2018-01-18 15:58:24 747

转载 Caffe中文件参数设置(九-1):训练和测试自己的图片-linux版本

在深度学习的实际应用中,我们经常用到的原始数据是图片文件,如jpg,jpeg,png,tif等格式的,而且有可能图片的大小还不一致。而在caffe中经常使用的数据类型是lmdb或leveldb,因此就产生了这样的一个问题:如何从原始图片文件转换成caffe中能够运行的db(leveldb/lmdb)文件?前面文章有学习过着个数据由来和使用。在caffe中,作者为我们提供了这样一个文件:conver

2018-01-18 11:58:29 590

转载 Caffe中文件参数设置(八):命令行解析

caffe的运行提供三种接口:c++接口(命令行)、python接口和matlab接口。本文先对命令行进行解析,后续会依次介绍其它两个接口。caffe的c++主程序(caffe.cpp)放在根目录下的tools文件夹内, 当然还有一些其它的功能文件,如:convert_imageset.cpp, train_net.cpp, test_net.cpp等也放在这个文件夹内。经过编译后,这些文件都被编

2018-01-18 11:35:16 216

转载 Caffe中文件参数设置(七):solver优化方法

上文提到,到目前为止,caffe总共提供了六种优化方法:Stochastic Gradient Descent (type: "SGD"),AdaDelta (type: "AdaDelta"),Adaptive Gradient (type: "AdaGrad"),Adam (type: "Adam"),Nesterov’s Accelerated Gradient (type: "Nester

2018-01-18 11:32:21 543

转载 Caffe中文件参数设置(五):Blob,Layer,Net以及对应配置文件的编写

深度网络(net)是一个组合模型,它由许多相互连接的层(layers)组合而成。Caffe就是组建深度网络的这样一种工具,它按照一定的策略,一层一层的搭建出自己的模型。它将所有的信息数据定义为blobs,从而进行便利的操作和通讯。Blob是caffe框架中一种标准的数组,一种统一的内存接口,它详细描述了信息是如何存储的,以及如何在层之间通讯的。1、blobBlobs封装了运行时的数据信息,提供了C

2018-01-18 11:23:19 277

转载 caffe中文件参数设置(四):其它常用层及其参数设置

本文讲解一些其它的常用层,包括:softmax_loss层,Inner Product层,accuracy层,reshape层和dropout层及其它们的参数配置。1、softmax-losssoftmax-loss层和softmax层计算大致是相同的。softmax是一个分类器,计算的是类别的概率(Likelihood),是Logistic Regression 的一种推广。Logistic R

2018-01-18 10:13:09 411

转载 Caffe中文件参数设置(三):激活层(Activiation Layers)及其参数设置

在激活层中,对输入数据进行激活操作(实际上就是一种函数变换),是逐元素进行运算的。从bottom得到一个blob数据输入,运算后,从top输入一个blob数据。在运算过程中,没有改变数据的大小,即输入和输出的数据大小是相等的。输入:n*c*h*w输出:n*c*h*w常用的激活函数有sigmoid, tanh,relu等,下面分别介绍。1、Sigmoid对每个输入数据,利用sigmoid函数执行操作

2018-01-18 10:05:51 236

转载 caffe中文件参数设置(二):视觉层(Vision Layers)及其参数设置

本文只讲解视觉层(Vision Layers)的参数,视觉层包括Convolution, Pooling, Local Response Normalization (LRN), im2col等层。1、Convolution层:就是卷积层,是卷积神经网络(CNN)的核心层。层类型:Convolution  lr_mult: 学习率的系数,最终的学习率是这个数乘以solver.prototxt配置文

2018-01-18 09:58:03 243

转载 caffe中文件参数设置(一):数据层说明

说明:caffe中文件参数设置,这个系列文章是我在学习过程中,找到的并且结合许多大牛所写总结转载的。并且会持续更新,按自己需求改写训练文件就好了,这里讲的是大体的过程。要运行caffe,需要先创建一个模型(model),如比较常用的Lenet,Alex等, 而一个模型由多个屋(layer)构成,每一层又由许多参数组成。所有的参数都定义在caffe.proto这个文件中。要熟练使用caffe,最重要

2018-01-18 09:54:54 590

转载 caffe中文件参数设置(六):solver文件

说明:一、在整个caffe框架运行过程中,solver是核心中的核心,它协调着整个模型的运作。caffe程序能否正确运行,和solver文件的参数是否设置正确有着很大的关系。二、在Deep Learning中,往往loss funciton是非凸的,没有解析解,我们需要通过优化方法来求解。solver的作用就是交替调用前向(forward)算法和后向(backward)算法来更新参数,从而最小化l

2018-01-18 08:05:36 422

原创 win下编写脚本的方法

其实就是创建一个txt,把代码写到里面,然后把后缀名改成bat,然后保存,然后双击这个xx.bat文件就会自动执行了。

2018-01-16 21:48:16 6041

原创 win10+caffe+only-cpu试验cifar10

1 cifar10数据集的相关情况60000张32*32彩色图片,50000张训练,10000张测试下载cifar10数据集:http://www.cs.toronto.edu/~kriz/cifar-10-binary.tar.gz将下载好并解压好的数据存放于/data/cifar10/路径下载好的原始数据是BINARY(二进制)格式的,需要转换成LMDB或LEVELDB格式才能被Caffe识别

2018-01-16 21:38:59 358

原创 python编译问题1

若出现如下错误:E:\p\venv\Scripts\python.exe E:/p/venv/d.py  File "E:/p/venv/d.py", line 5SyntaxError: Non-ASCII character '\xe7' in file E:/p/venv/d.py on line 5, but no encoding declared; see http://python.

2018-01-16 20:32:38 345

原创 Python小项目-烤地瓜出现的问题

原来的代码:# coding=UTF-8class SweetPotato: def __init__(self): self.cookedString="生的" self.cookedLevel=0 self.condiments=[] def __str__(self): return "地瓜状态:%s(%d

2018-01-16 20:30:52 361

原创 Eclipse安装错误解决

Eclipse安装错误解决 错误如下:一般都是如图所示错误: 解决办法:①在Eclipse目录下找到如图所示文件:eclipse.ini ②双击打开,打开后像记事本一样,你有可能打开的时候是这个样子的: 虽然有点乱,但是还是能看清,也就是我所下载的这个Eclipse要求JAVA也就是下载的JDK版本是1.5的64位,但是我当前安装的是1.7版本的,版本不匹配,所以无法正常打开,我的版本如图所示:

2017-12-16 07:51:47 8399

原创 win10+only-cpu利用Caffe框架测试mnist数据集

一、下载mnist数据集,正常步骤:在如下网站下载四个zip:http://yann.lecun.com/exdb/mnist/但是从这里下载的数据集需要进行格式转换(转换方法以后会说到的),所以我现在选择下载现成的数据集如此zip文件解压后得到这么两个文件夹:(附:这了两个文件夹中的内容:)将这两个文件夹放入D:/caffe-master/examples/mnist中(因为我把caffe-ma

2017-12-15 10:03:34 1165

原创 在windows10下利用anaconda2+VS2013+only-cpu搭建caffe框架

在windows10下利用anaconda2+VS2013+only-cpu搭建caffe框架 一、在github下载caffe文件网址如下:https://github.com/BVLC/caffe/tree/windows下载方法:进入网站后点击:选择 然后保存到D盘根目录,然后解压会出现caffe-master的文件夹,如下:至此caffe文件下载完毕,接下来的步骤会有配置环境的说明。 二、

2017-12-15 09:37:30 2145 8

Python2简单推荐系统数据集

Python2实现简单推荐系统一文中所需要的数据集,用这个数据集就可以正常输出结果可。

2018-09-25

window 下使用caffe-loss-accuracy所需文件

把此文件解压,直接将log日志文件,产生.test和.train文件以后,cmd中输入命令就可以生成loss和acc曲线了

2018-03-29

caffe画acc和loss曲线修改后的plot_training_log.py(修改好版本)

windows下使用caffe画acc和loss曲线,需要修改plot_training_log.py文件,而且修改内容复杂,这里提供修改后的版本,下载后可以直接使用。

2018-03-29

MNIST手写数据集(免数据转换)

mnist手写数据集,免数据类型转换,里面包含还有测试图片

2017-12-17

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除