1.马尔可夫链
马尔科夫链是马尔科夫随机过程的特殊情况,它是状态和时间参数都离散的马尔可夫过程,从数学上可以给出如下定义:
随机序列,在任一时刻t,它可以处在状态
,且它在t+k时刻所处的状态为
的概率,只与它在t时刻的状态
有关,而与t时刻以前它所处的状态无关,即有
式中,
则称为马尔科夫链,并且称
为k步转移概率,表示如下:
式中,i和j是介于1和N之间的正整数,t是正整数。当与t无关时,称这个马尔科夫链为齐次马尔科夫链,此时
若无特别声明,马尔科夫链就指齐次马尔科夫链。当k=1时,