神经网络之模式切分能力简介

神经网络之模式切分能力简介
在吴军的《数学之美》中讲到人工神经网络本质上是一种特殊的有向图，即由一层层节点（神经元）和连接这些节点的有向弧（神经）组成，每一个节点的值由前面所有节点的值加上弧线上的权重线性组合而成，每一层节点处再加一个非线性的激活函数。
为什么这么一个简单的模型，却有铺天盖地的应用？无论是计算机科学，通信，生物统计和医学，还是在金融和经济学（包括股市预测）中，大多数与“智能”有点关系的问题，都可以归结为一个在多维空间进行模式分类的问题，而人工神经网络擅长的就是模式分类，而且是任意模式的分类。
本节课相当于对神经网络的模式分类的非线性切分能力的一个注解。
线性函数可以将一个超平面分成两个，

上图的感知器切分器，当θ0=-30，θ1=20，θ2=20时可以完成逻辑与的分割，当θ0=-10，θ1=20，θ2=20时可以完成逻辑或的分割，
当线性分类器再加逻辑与和或的组合，就可以完美地对平面样本点的任何分布进行分类。TF上有一个游戏，可以搭建自己的神经网络，然后对任意图形进行分类。

于是，智能的问题便转化为神经网络的模式分割，而神经网络的模式分割便是输入数据，调整神经网络的权重参数，使得搭建的多层神经网络计算得到的值（即模型预测的值）与实际结果的值尽可能接近，这就转化为了数学上常见的求最值问题。