神经网络模型：感知器

感知器是神经网络中的概念，是一个接受数个输入，经过内部计算后得到输出的模型，其模拟的是自然界的神经细胞：接受输入信号的刺激，达到一定阈值后细胞体表现为激发，否则为抑制。

单层感知器

单层感知器最为简单，只有输入层和输出层，其计算规则为：激发值为输入与权值的点积，若激发值大于某阈值则输出1以代表激发，否则输出-1代表抑制。
python代码演示该模型：

class slp(object):
    def __init__(self,num):
        self.w = [0.0]*num
        self.input = [0.0]*num
        self.output = 0

    def input(self,ilist):
        if len(ilist) == len(self.input):
            self.input = ilist
        else:
            print 'length error'

    def calcu_result(self):
        iszie = len(self.input)
        res = sum([self.w[i]*self.input[i] for i in range(isize)])
        if res > 0:
            self.output = 1
        else:
            self.output = -1

这里简便起见以0为阈值。
单层感知器可以实现简单逻辑的判断，但要求数据是线性可分的。对线性可分这个条件要求的原因在于其计算输出的方法：$output = \sum w_i*input(i)$ 。

要实现对线性不可分数据的分类，需要使用多层感知器。

多层感知器

多层感知器与单层感知器相比，多了一层隐藏层，隐藏层对于输入和输出都是透明的。

def mlp(object):
    def __init__(self,num):
        self.in_floor = [slp(num)]*num
        self.hide_floor = [slp(num)]*num
        self.w = [0.0]*num
        self.output = 0

    def input(self,ilist):
        if len(ilist) == len(self.in_floor):
            for item in self.in_floor:
                item.input(ilist)
        else:
            print 'length error'
    def calcu_result(self):
        in_for_hide = []
        for item in self.in_floor:
            item.calcu_result()
            in_for_hide.append(item.output)
        for item in self.hide_floor:
            item.input(in_for_hide)
            item.calcu_result()

        iszie = len(self.hide_floor)
        res = sum([self.w[i]*self.hide_floor[i].output for i in range(isize)])
        if res > 0:
            self.output = 1
        else:
            self.output = -1

可以看出，多层感知器是对单层感知器的扩展，输入层到隐藏层就是多个单层感知器的组合，隐藏层各个节点的输出又作为输入，组合为输出层的输出。

注1：代码中暂时未考虑权值的分配，权值的分配需要训练算法。
注2：在代码中以列表形式将输入存入对象中，多层感知器中这样做是低效的，会有大量的输入数据冗余。

参考资料：
http://blog.csdn.net/stan1989/article/details/8565499
http://blog.csdn.net/xiaowei_cqu/article/details/9004331