人工神经网络与模拟进化计算

http://www.micatch.net/blog/article.asp?id=51

《人工神经网络与模拟进化计算》

D.Marr认为对一个复杂的信息处理系统的研究可以分为三个层次
即 计算理论层、算法层和 实现层。

对于神经网络来说，计算理论层主要是学习理论，现在的学习理论基于统计决策理论；
算法部分是非线性优化方法；
实现层牵涉到非线性动力学系统的稳定性、可靠性理论。（好专业开始晕忽忽了）

人工神经网络（Artificial Neural Networks）
主要应用领域：

• [1]模式识别与图像处理
  [2]控制及优化
  [3]金融预测与管理
  [4]通信
  [5]知识发现、数据挖掘、气象与地球科学

人工神经元 模型
三个基本要素

• [1]一组连接（对应于生物神经元的突触）
  连接强度由各连接上的权值表示，权值为正表示激活，为负表示为抑制。
  [2]一个求和单元
  用于求取个输入信号的加权和（线性组合）
  [3]一个非线性激活函数
  起非线性映射作用并将神经单元输出幅度限制在一定范围内（0，1）（-1，1）用一个阀值θk（或偏置bk=-θk）