一、HMM
1.已知
状态转移概率为从训练数据统计得出
A
A
A。
观测概率为从训练数据统计得出
B
B
B。
初始状态概率为从训练数据统计得出
π
π
π。
2.模型
对应着HMM三大问题中的第二个问题,也就是求解模型的参数。
通过已知训练模型
λ
=
(
A
,
B
,
π
)
λ = (A,B,π)
λ=(A,B,π)
但是很少给出建模函数。
3.预测
在模型
λ
λ
λ已知的情况下,就最大概率的隐藏变量
通过viterb算法预测
二、CRF
1.已知
状态转移概率为从训练数据统计得出
A
A
A。
观测概率为从训练数据统计得出
B
B
B。
初始状态概率为从训练数据统计得出
π
π
π。
2.模型
假设:满足马尔科夫性:
P
(
Y
i
∣
X
,
Y
1
,
.
.
.
.
,
Y
i
−
1
,
Y
i
+
1
,
.
.
.
y
n
)
=
P
(
Y
i
∣
X
,
Y
i
−
1
,
Y
i
+
1
)
P(Y_i|X,Y_1,....,Y_{i-1},Y_{i+1},...y_n)=P(Y_i|X,Y_{i-1},Y_{i+1})
P(Yi∣X,Y1,....,Yi−1,Yi+1,...yn)=P(Yi∣X,Yi−1,Yi+1)
直接给出建模函数:
P
(
y
∣
x
)
=
1
Z
(
x
)
e
x
p
(
∑
λ
k
t
k
(
y
i
−
1
,
y
i
,
x
,
i
)
+
∑
u
l
s
l
(
y
i
,
x
,
i
)
)
P(y|x)=\frac{1}{Z(x)} exp(\sum λ_kt_k(y_{i-1},y_i,x,i)+\sum u_ls_l(y_i,x,i))
P(y∣x)=Z(x)1exp(∑λktk(yi−1,yi,x,i)+∑ulsl(yi,x,i))
3.预测
通过viterb算法预测