这个系列的文章主要记录学习《神经网络设计》这本书的收获与总结。
第一部分主要介绍三种网络:
- 感知机
- Hamming
- Hopfield
感知机
采用对称硬极限传输函数hardlims
的单层感知机
两输入感知机,w11 = -1, w22 = 1如下
a = hardlims(n) = hardlims([-1 1]p + b)
Hamming
Hamming网络的目标时判定哪个标准向量最接近输入向量。
判定结果由递归层的输出表示。
- R为样本空间维数
- S为神经元个数
- 前馈层
前馈层用于实现每个标准模式和输入模式之间的相关检测或求内积。
为了使得前馈层能够完成其功能,可以用标准模式设置其权值矩阵的行,该权值矩阵用连接矩阵W1表示。
之所以称该网络为Hmming网,是因为在前馈层中具有最大输出的神经元正好对应于输入模式Hamming距离最近的标准模式。
- 递归层