classification_demo.m 是个很好的学习资料,了解这个代码之后,就能在matlab里用训练好的model对输入图像进行分类了,而且我在里边还学到了oversample的实例,终于了解数据增强是个怎么回事。
caffe-master\matlab\demo\classification_demo.m这个demo是针对 ImageNet图像分类的(1000个类), 主要是调用训练好model,对输入的图像进行分类,输出分类结果。
要想运行此demo,需要的东西有:
1. 模型描述文件:deploy.prototxt(这个文件本来就有,不用管)
2. 模型本身:bvlc_reference_caffenet.caffemodel
3. 标签文件:用来描述1000个类分别是什么
4. 均值文件:即训练样本的均值文件(没看过相关资料,暂时认为是训练样本的均值文件),ilsvrc_2012_mean.mat,文件已经存在于caffe-master\matlab\+caffe\imagenet之中
从以上可以知道,当我们想将classification运用于自己的数据集的时候就要对应的更改以上4点。
Matalb接口的配置以及demo的运行请看之前的博客:【caffe-windows】 caffe-master 之 matlab接口配置 (http://blog.csdn.net/u011995719/article/details/53994570)
现在来分析 classification_demo.m,方便之后应用于自己的项目中。
首先我们来看看输入输出:
input
im color image as uint8HxWx3
use_gpu 1 to use the GPU, 0 touse the CPU
output
scores 1000-dimensional ILSVRCscore vector
maxlabel the label of the highest score
输入有两个参数,一个是图片,为单张图(若要测试多张,用for解决),另外一个则是CPU和GPU的选择。
输出也有两个参数,一个是得分,即该图片对应所有类别的一个概率分布,另外一个则是最高得分所对应的类别,这就和标签文件有关了。
下面直接贴源码进行分析(删减原注释,建议对照原注释):
if exist('../+caffe', 'dir')
addpath('..');
else
error('Please run this demo from caffe/matlab/demo');
end
% 设置CPU or GPU
if exist('use_gpu', 'var') && use_gpu
caffe.set_mode_gpu();
gpu_id = 0; % we will use the first gpu in this demo
caffe.set_device(gpu_id);
else
caffe.set_mode_cpu();
end
model_dir = '../../models/bvlc_reference_caffenet/';% 模型所在文件夹路径
net_model = [model_dir 'deploy.prototxt']; % 模型描述文件的路径
net_weights = [model_dir 'bvlc_reference_caffenet.caffemodel']; % 模型的路径
phase = 'test'; % 指出网络状态为test,防止使用dropout
if ~exist(net_weights, 'file')% 检测模型是否存在,不存在则报错提醒
error('Please download CaffeNet from Model Zoo before you run this demo');
end
net = caffe.Net(net_model, net_weights, phase); % 初始化网络
% 若classification_demo这个函数的输入参数小于1,即无输入参数,则默认使用 caffe/examples/images/cat.jpg 这张图片
if nargin < 1
fprintf('using caffe/examples/images/cat.jpg as input image\n');
im = imread('../../examples/images/cat.jpg');
end
% 重点来了! 由于caffe里的数据是 BGR的顺序,而matlab是RGB的顺序,因此需要对输入图片进行变换
% 这里用一个prepare_image函数将RGB转成BGR,而且对输入图片进行了resize操作,crop操作以及减均值
% 跑到最下面去看看 prepare_image函数
tic;
input_data = {prepare_image(im)};
toc;
tic;
scores = net.forward(input_data); % 将数据输入到网络,进行前向传播,得出分数,scores是一个细胞元组
toc;
scores = scores{1}; % scores 是 1000*10 的矩阵 10是对应了10个crop图片
scores = mean(scores, 2); % 对10个crop进行求平均
[~, maxlabel] = max(scores); % 再找出最大的那一个
% 重置 caffe
caffe.reset_all();
% ------------------------------------------------------------------------
function crops_data = prepare_image(im)
% ------------------------------------------------------------------------
% caffe/matlab/+caffe/imagenet/ilsvrc_2012_mean.mat contains mean_data that
% is already in W x H x C with BGR channels
d = load('../+caffe/imagenet/ilsvrc_2012_mean.mat'); % 读取均值文件通道顺序已经是BGR
mean_data = d.mean_data;
IMAGE_DIM = 256; % resize的大小
CROPPED_DIM = 227; % crop的大小,因为模型的输入就是 227*227的,所以最终要得到一个227*227的
% Convert an image returned by Matlab's imread to im_data in caffe's data
% format: W x H x C with BGR channels
im_data = im(:, :, [3, 2, 1]); % RGB 转成了 BGR ,im_data通道顺序已经是 BGR
im_data = permute(im_data, [2, 1, 3]); % 对输入图像进行了转置, 长和宽换一换
im_data = single(im_data); % 数据格式转成uint8类型
im_data = imresize(im_data, [IMAGE_DIM IMAGE_DIM], 'bilinear'); % 采取双线性插值法,对输入图片进行resize至 IMAGE_DIM 大小
im_data = im_data - mean_data; % 再减去均值
% oversample (4 corners, center, and their x-axis flips)
% oversample 就是 数据增强 2012年Alex等人提出的一个技术,这里是在图片(此处256*256的)的4个角以及正中心截取出5张
% 227*227的图片,然后将这5张图片在x轴上进行镜像,总共获得10张 227*227的图片作为模型的输入
crops_data = zeros(CROPPED_DIM, CROPPED_DIM, 3, 10, 'single');
indices = [0 IMAGE_DIM-CROPPED_DIM] + 1;
n = 1;
for i = indices % for循环只是截取了4个角的
for j = indices
crops_data(:, :, :, n) = im_data(i:i+CROPPED_DIM-1, j:j+CROPPED_DIM-1, :); % 截取一个角的 227*227的图片
crops_data(:, :, :, n+5) = crops_data(end:-1:1, :, :, n); % 将该图片在x轴上作镜像,+5是因为共截取5张227*227
n = n + 1; % 截取5张,再分别镜像,一张图片变成了10张图片进行输入
end
end
center = floor(indices(2) / 2) + 1; % 截取中心的图片,再进行镜像
crops_data(:,:,:,5) = ...
im_data(center:center+CROPPED_DIM-1,center:center+CROPPED_DIM-1,:);
crops_data(:,:,:,10) = crops_data(end:-1:1, :, :, 5);
PS:
1. 大家可以看以下模型描述文件, deploy.prototxt ,里的这行 “input_param { shape: { dim: 10 dim: 3 dim: 227 dim: 227 } } ” 为什么输入是 10*3*227*227。一开始我还以为这个10是batch数,但是看完了 classification_demo后终于明白这个10是怎么来的了!
有兴趣的同学可以打开caffe-master\examples\mnist 下的 lenet.prototxt , 看这行 input_param { shape: { dim: 64 dim: 1 dim: 28 dim: 28 } },为什么是64??求解答
为了做参考,caffe-master\examples\cifar10 下的 cifar10_quick.prototxt 是 input_param { shape: { dim: 1 dim: 3 dim: 32 dim: 32 } }
2. 发现求scores的时候是有 1000*10的矩阵,也就是每一张crop图片是独立的input,输入并不是 一个10*3*227*227的一个数据,而是 10个 3*227*227的数据,然后得到10组得分,然后再求平均! (怎么老感觉有种作弊的嫌疑!!) 所以要运用此代码到自己的数据集时候,请记得留意 scores!!