CS224W-04: PageRank

最新推荐文章于 2023-11-01 01:45:00 发布

泊柴

最新推荐文章于 2023-11-01 01:45:00 发布

阅读量264

点赞数

分类专栏：图神经网络

本文链接：https://blog.csdn.net/morgan777/article/details/117391071

版权

图神经网络专栏收录该内容

10 篇文章 3 订阅

订阅专栏

PageRank 算法

PageRank 最初作为互联网网页重要度的计算方法，由 Page 和 Brin 提出，并用于谷歌搜索引擎的网页排序。事实上，PageRank 可以定义在任意有向图中，所以也广泛用于社会影响力分析等其他领域。

本节的内容包括：

PageRank 算法
个性化 PageRank 算法 (Personalized PageRank)
重启随机游走算法 (Random Walk with Restarts)

PageRank

PageRank 的定义

从直觉出发，要衡量一个网页的重要程度，可以有两个最基础的假设：

如果有很多网页都有链接指向该网页，那么可以认为该网页很重要
如果有很重要的网页指向该网页，那么该网页也很重要

如果把网页看作节点，网页之间的链接看作边，那么众多网页可以看作是一个有向图，用 $r$ 表示节点的 Rank 值， $r$ 越大，表示节点越重要。节点 $j$ 的 Rank 值取决于指向于它的邻接节点的重要性：
$r_j = \sum_{i \rightarrow j} \frac {r_i}{d_i}$
其中 $\rightarrow j$ 表示存在由节点 $i$ 指向节点 $j$ 的边， $d_i$ 表示节点 $i$ 连出边的数量。为了把上式写成矩阵形式，定义随机邻接矩阵（stochastic adjacency matrix)
$M_{ij} = \frac {1}{d_j}, \quad \text{if} \ j \rightarrow j$
所有节点的 Rank 值组成 Rank 向量 $\mathbf r$ ，并且 $\sum_i r_i = 1$ ，那么 Rank 向量满足以下公式
$\mathbf r = \mathbf M \mathbf r$

PageRank 的解法

迭代法

根据公式 $\mathbf r = \mathbf M \mathbf r$ ，很容易想到可以通过不断迭代来计算 $\mathbf r$ ，步骤为

初始化： $\mathbf r^{(0)} = (\frac1N, ..., \frac1N)$
迭代： $\mathbf r^{(t+1)} = \mathbf M \mathbf r^{(t)}$
当 $|\mathbf r^{(t+1)} - r^{(t)}| < \varepsilon$ 时，停止计算

在迭代过程中，可能会出现局部多次循环陷阱 (下图左) 或者遇到某些节点只进不出 (下图右)，这时需要引入一个参数 $\beta$ 。以用户浏览网页为例，当用户在浏览网页时，我们假设他从当前网页的外链接中随机选择一个链接的概率为 $\beta$ ，而他选择所有网页中任意一个网页的概率为 $1-\beta$ ，也就是说用户在选择下一个网页时，可能会跳转到一个与当前网页完全不相关的网页。

PageRank 更一般的计算公式为
$r_j = \beta \sum_{i \rightarrow j} \frac {r_i}{d_i} + (1 - \beta) \frac 1N$
对应的矩阵形式为
$\mathbf r = \beta \mathbf M \mathbf r + (1 - \beta) \frac {\mathbf r} {N}$
定义
$\mathbf G = \beta \mathbf M + (1 - \beta) \frac {\mathbf 1} {N}$

其中 $\mathbf 1$ 表示成员都是1的 $N$ 维向量， PageRank 方程可以写为
$\mathbf r = \mathbf G \mathbf r$

个性化 PageRank

个性化 PageRank 算法的目标是计算节点对某些特定节点的相关度，这需要通过重启随机游走算法来完成。所谓重启随机游走，就是给定一个需要查询的节点结合 $S = \{Q_1, Q_2, ..., Q_k\}$ ，每次游走起点都是从查询节点中随机（或者有不同权重）选择一个，在每次游走的时候都有一定概率 $\alpha$ 会回到查询节点 $S$ 中的一个节点，游走过程中需要记录访问每个节点的次数，最后次数最高的节点与查询节点的相关性最高。