计算机机器视觉原理之全连接神经网络1

一图像表示

直接利用原始像素作为特征，展开为列向量。
比如：

将矩阵转化为列向量再与x点乘，因此
cifar10中每个图像可表示为一个3072(32323）维的向量

二.分类器设置

1.多层感知器

回顾线性分类器：
f(x, W) =wx +b
其中，x代表输入图像，其维度为d ;
f为分数向量，其维度等于类别个数c
W =[W1… wc]T为权值矩阵，wi =[Wi… wid]T为第i个类别的权值向量
b =[b1…be]T为偏置向量，b;为第i个类别的偏置

全连接神经网络级联多个变换来实现输入到输出的映射。
注意:非线性操作是不可以去掉

两层全连接网络
f = W2max(0, W1x + b1)+ b2
max则为激活函数，对变换的结果进行处理
对于两层全连接网络
线性分类器中的W可看作模板，模板个数由类别个数决定
全连接神经网络中:
W1也可看作模板;模板个数人为指定
W2的个数要由类别确定，融合W1的响应结果
w2融合这多个模版的匹配结果来实现最终类别打分

全联接神经网络的描述能力更强。因为调整W1行数等于增加模板个数,分类器有机会学到两个不同方向的马的模板。

线性可分——至少存在一个线性分界面能把两类样本没有错误的分开。

显然不是所有情况都线性可分，这个时候就不适用于线性分类器，使用非线性分类器

输入层为3072维，即3072个神经元