人工神经网络发展史
模型理解最简单是从MP模型开始,
模型理解
MP模型
模型结构
mp模型是指有一串输入,经过神经元加权求和,然后通过激活函数得到最终的输出结果y。
模型数学理解
从模型结构来看,输出的结果y可以数学表达式如下:
y
=
s
i
g
m
o
d
(
f
(
x
)
)
=
s
i
g
m
o
d
(
w
∗
x
+
b
)
y=sigmod(f(x))=sigmod(w*x+b)
y=sigmod(f(x))=sigmod(w∗x+b)
那么,具体如何理解呢,该课程从数学里的一阶泰勒展开来理解:
hopfield神经网络
脉冲神经网络
感知器算法
训练样本
输入样本
(
X
i
,
y
i
)
(X_i, y_i)
(Xi,yi),其中,
X
i
X_i
Xi为特征,
y
i
y_i
yi为 +1 和 -1。
任务如下:
具体算法实现:
向量化表达
向量化的感知器算法
感知器算法的收敛定理
感知器的收敛定理
有限步内找到一个w,等价于数据集线性可分。
证明