图机器学习 - cs224w Lecture 10 - PageRank

将互联网视为图的话，它必定存在结构上的一些规律。首先回顾一下强连通子图 (strongly connected component, SCC)，如果一个有向图的子图内任意节点可以互相到达，那么这就是一个 SCC。而包含节点 A 的 SCC 必满足 $SCC(A)=Out(A)\cap In(A)$ 其中 Out 和 In 分别表示从 A 出发能到达的点以及能到达 A 的点。
在 2000 年的一篇互联网分析论文中显示，当时互联网节点大概 2 千万左右，链接数在 15 亿上下。对于随机点的 Out 和 In 大概都覆盖了半个互联网，即 1 千万个点，由这个随机点得到的 SCC 覆盖了 1/4 个互联网。由此我们可以大致画出互联网的构成关系图。

PageRank

搜索引擎的工作就是根据我们提供的关键词对如此大规模的网页进行相关性排序的过程，然后将最相关的多条链接返回给用户。然而互联网如此之大，我们提供的关键词并不精确，当同时存在多条完美匹配的记录时怎样尽可能返回更优质的链接成为了曾经的一道难题。当时在 Stanford 就读的 Google 创始人之一 Larry Page 和他的小伙伴提出了 PageRank —— 一种网页评分的迭代策略。因此 PageRank 中的 Page 实际上是人名。
PageRank 的思想很简单，把网页间的链接视为一种均匀的投票机制。比如节点 v 有三个外链，且其自身的初始“票权”为 1。那么迭代开始后，v 会将自己的票平分给三个外链，即每个外链能得到 1/3。同理如果 v 是其它节点的外链，那 v 也会得到其它节点平分后的票。一直这么迭代下去直到收敛就是 PageRank 的核心过程。或者另一种解释是通过 random walk 来理解。如果当前我们位于节点 v，那么我们可以等概率的转移到 v 指向的所有邻接节点。当转移足够多次后会达到一个类似 MDP 中的稳定状态，表示在任意时间点我们位于各个节点的概率。
Talk is cheap, show me the ‘math’. $r$ 为权重，$d$ 为出度。

$$r_j=\sum _{i\to j}\frac{r_i}{d_i}$$

写成矩阵的形式为 $r=M$