经典回顾：Deepwalk模型

最新推荐文章于 2024-04-14 23:32:54 发布

梨小茗

最新推荐文章于 2024-04-14 23:32:54 发布

阅读量681

点赞数

文章标签：机器学习算法

本文链接：https://blog.csdn.net/rgb_gray/article/details/107961598

版权

Deepwalk是word2vec在图数据上的扩展，通过random walk采样模拟自然语言句子，利用幂律分布原理，将图节点编码为连续空间的向量。优化目标借鉴word2vec的Cbow和Skip-gram，最终实现图节点的有效表示。

摘要由CSDN通过智能技术生成

简介

deepwork本质是word2vec模型在图数据的扩展，通过deepwork方法可以获得更加有效的图数据节点的在连续空间的编码。在图数据用random walk采样的序列等价于自然语言中的句子，序列中的节点等价于自然语言中的单词。
本节提到的所有word2vec技术（Cbow，Skip-gram，Hierarchical Softmax）在经典回顾：word2vec模型中均有详细介绍。

deepwork

幂律分布（为什莫random walk采样的序列等价于自然语言中的句子）

这里又可以称为：自然语言相关技术可以被用于图数据的原因。在由维基百科100000篇文章组成的数据集中，多个句子中单词出现的频率遵循幂律分布，直观可以理解为出现次数多的单词少，出现次数少的单词多。在youtube数据构成的网络中，如果节点的度遵循幂律分布（度大的节点少，度小的节点多），那麽该网络经过多次random walk获得序列中，节点出现的频率也遵循幂律分布，可以直观理解为出现次数多的节点少，出现次数少的节点多。因此这里网络中random walk的序列对应自然语言中的句子，random walk序列中的节点对应自然语言中的单词。