机器智能学习笔记1.0
四个神经元模型:
经典的M-P数学模型:
该神经元模型如下图所示,E代表兴奋信号,I 代表抑制信号,Y 代表输出信号, T代表阈值,其输出逻辑如下表所示:
Σ E \Sigma E ΣE | Σ I \Sigma I ΣI | Y |
---|---|---|
Σ E \Sigma E ΣE ≥ T \geq T ≥T | Σ I = 0 \Sigma I = 0 ΣI=0 | 1 |
Σ E \Sigma E ΣE ≤ T \leq T ≤T | Σ I = 0 \Sigma I = 0 ΣI=0 | 0 |
Σ E \Sigma E ΣE ≥ T \geq T ≥T | Σ I ≥ 0 \Sigma I \geq 0 ΣI≥0 | 0 |
Σ E \Sigma E ΣE ≤ T \leq T ≤T | Σ I ≥ 0 \Sigma I \geq 0 ΣI≥0 | 0 |
可以观察到,M-P神经元模型赋予了抑制性信号非常高的否决权,当输入的抑制信号满足抑制要求时,无论兴奋信号的输入多大,输出都是不兴奋。
线性加权神经元模型:
线性加权模型神经元模型在一定程度上改变了原有M-P模型抑制信号拥有极高否决权的状态,但神经元的结构没有发生改变,只是其输入与输出关系发生了变化,输出与输入关系如下表所示:
Σ E \Sigma E ΣE and Σ I \Sigma I ΣI | Y |
---|---|
Σ E − Σ I \Sigma E-\Sigma I ΣE−ΣI ≥ T \geq T ≥T | 1 |
Σ E − Σ I \Sigma E-\Sigma I ΣE−ΣI ≤ T \leq T ≤T | 0 |
阈逻辑模型:
阈逻辑模型是在前两者的基础上进一步改变权值而得到的一个新的神经元模型,阈逻辑模型的改变主要在两个方面,第一,将权重由原来的
{
0
,
1
}
\{0,1\}
{0,1}变成了可连续的一个取值,即权重的取值不再是0或者1,而是在两者之间的区间
[
0
,
1
]
[0,1]
[0,1]进行取值;第二是不在区分兴奋和抑制两种信号,而是用权值的正负分别来代表它们,阈逻辑模型的工作函数如下所示:
Y
=
{
1
,
w
h
e
n
Σ
W
i
X
i
≥
T
0
,
w
h
e
n
Σ
W
i
X
i
≤
T
Y= \left\{ \begin{matrix} 1 , when \Sigma W_i X_i \geq T \\ \\ 0 , when \Sigma W_i X_i \leq T \\ \end{matrix} \right.
Y=⎩⎨⎧1,whenΣWiXi≥T0,whenΣWiXi≤T
其中
X
i
∈
{
0
,
1
}
X_i \in \{0,1\}
Xi∈{0,1}(markdown不懂怎么输出小于号,所以只能用小于等于号代替)。
当然,我们也可以换一种表述方式,即规定一个
s
g
n
sgn
sgn函数:
Y
=
s
g
n
(
Σ
W
i
X
i
−
T
)
Y = sgn(\Sigma W_i X_i - T)
Y=sgn(ΣWiXi−T)
其中,
X
i
∈
{
−
1
,
1
}
,
Y
∈
{
−
1
,
1
}
,
s
g
n
(
Z
)
=
{
1
,
Z
≥
0
0
,
Z
≤
0
X_i \in \{-1,1\},Y \in \{-1,1\},sgn(Z)=\left\{ \begin{matrix} 1 , Z \geq 0 \\ \\ 0 , Z \leq 0 \\ \end{matrix} \right.
Xi∈{−1,1},Y∈{−1,1},sgn(Z)=⎩⎨⎧1,Z≥00,Z≤0
阈值权值统一模型:
阈值权值统一模型是在阈逻辑模型的基础上在进行了一系列的改造,其结构如下图所示:
这个模型在原先的基础上进行改进,将阈值信号用一个权值
ω
0
=
−
1
\omega_{0}=-1
ω0=−1代替,然后阈值变成输入向量
X
0
X_{0}
X0,因此此时输入向量我们就可以表示为如下形式
X
=
(
x
0
,
x
1
,
.
.
.
,
x
n
,
x
n
+
1
)
X=(x_0,x_1,...,x_n,x_{n+1})
X=(x0,x1,...,xn,xn+1),此时输出函数便变成了
Y
=
Σ
i
=
0
n
+
1
ω
i
X
i
=
Σ
i
=
1
n
+
1
(
ω
i
X
i
)
−
ω
0
X
0
Y=\Sigma_{i=0}^{n+1} \omega_{i} X_i=\Sigma_{i=1}^{n+1} (\omega_{i} X_i )- \omega_0 X_0
Y=Σi=0n+1ωiXi=Σi=1n+1(ωiXi)−ω0X0
其中
X
0
X_0
X0便是代表阈值T。