基于图的评级算法基础——马尔可夫链

最新推荐文章于 2022-12-05 10:39:52 发布

云聪

最新推荐文章于 2022-12-05 10:39:52 发布

阅读量1.5k

点赞数 2

分类专栏：机器学习机器学习算法文章标签：算法机器学习马尔可夫链

本文链接：https://blog.csdn.net/l294265421/article/details/52245874

版权

机器学习同时被 2 个专栏收录

14 篇文章 0 订阅

订阅专栏

机器学习算法

13 篇文章 5 订阅

订阅专栏

本文只介绍离散时间的马尔可夫链，但这对于理解接下来要讲的PageRank算法、HITS算法和TextRank算法足够了。

概念
马尔可夫链是一个满足马尔可夫性质的状态序列。

所谓状态，就是一个东西在某一个时间所处的状态，比如我现在的状态时写博客，你现在的状态的看博客。一个东西所有的状态的集合S，称为状态空间。假设总共有m种状态，可以如下表示状态空间：
S={1, … , m}, 其中m为整数。

所谓马尔可夫性质，是指东西接下来会处于什么状态，只与它的上一个状态有关。用X_n表示东西在时刻n所处的状态，马尔可夫性质便可由下面的公式阐述：
P(X_n+1 = j|X_n = i, X_n-1 = i_n-1, …, X₀ = i₀) = P(X_n+1 = j|X_n = i)
其中，i₀, i_n-1, i, j $\in$ S
我们把P(X_n+1 = j|X_n = i) 记为P_ij, 即
P_ij = P(X_n+1 = j|X_n = i)
P_ij称为转移概率。
所有状态间的转移概率构成一个m x m的转移概率矩阵：

⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ P 11 P 21 ⋮ P m 1 P 12 P 22 ⋮ P m 2 \dots \dots ⋱ \dots P 1 m P 23 ⋮ P m m ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥

$\left[ \begin{matrix} P_{11} & P_{12} & \cdots & P_{1m} \\ P_{21} & P_{22} & \cdots & P_{23} \\ \vdots & \vdots & \ddots & \vdots \\ P_{m1} & P_{m2} & \cdots &P_{mm} \\ \end{matrix} \right]$
其中，矩阵的每一行之和为1，且非负。
n步转移概率
现在东西处在状态i，n步之后，东西处在状态j的概率定义为：
r _ij(n) = P(X _n = j | X ₀ = i)
这个概率成为n步转移概率。

n步转移概率可以通过迭代公式求得：
r_ij(n) = $\sum_{k=1}^{m}r_{kj}(n)P_{kj}$
其中， r_ij(1) = P_ij

上面的公式也可以表示为矩阵形式：

⎡ ⎣ ⎢ ⎢ ⎢ ⎢ P 1 P 2 ⋮ P m ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ n = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ P 11 P 21 ⋮ P m 1 P 12 P 22 ⋮ P m 2 \dots \dots ⋱ \dots P 1 m P 23 ⋮ P m m ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ T ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ P 1 P 2 ⋮ P m ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ n - 1

$\left[ \begin{matrix} P_1 \\ P_2 \\ \vdots \\ P_m \\ \end{matrix} \right]_{n}= \left[ \begin{matrix} P_{11} & P_{12} & \cdots & P_{1m} \\ P_{21} & P_{22} & \cdots & P_{23} \\ \vdots & \vdots & \ddots & \vdots \\ P_{m1} & P_{m2} & \cdots &P_{mm} \\ \end{matrix} \right]^T \left[ \begin{matrix} P_1 \\ P_2 \\ \vdots \\ P_m \\ \end{matrix} \right]_{n-1}$

使

p k = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ P 1 P 2 ⋮ P m ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ n ， 其 中 ， p 的 第 j 个 元 素 就 是 r i j (n)

$p_k = \left[ \begin{matrix} P_1 \\ P_2 \\ \vdots \\ P_m \\ \end{matrix} \right]_{n} ，其中，p的第j个元素就是r_{ij}(n)$

A = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ P 11 P 21 ⋮ P m 1 P 12 P 22 ⋮ P m 2 \dots \dots ⋱ \dots P 1 m P 23 ⋮ P m m ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥

$A= \left[ \begin{matrix} P_{11} & P_{12} & \cdots & P_{1m} \\ P_{21} & P_{22} & \cdots & P_{23} \\ \vdots & \vdots & \ddots & \vdots \\ P_{m1} & P_{m2} & \cdots &P_{mm} \\ \end{matrix} \right]$

则有：
p_k = A^Tp_k-1，其中，k > 1

如果矩阵(A^T)^k(A转置的k次方)的所有元素都大于0，当k $\longrightarrow\infty$ 时, p_k收敛于唯一的p，即：
p=A^Tp
p就是A^T特征值为1时的特征向量。