重看《node2vec》

• 唠叨前提：俗话说欲速则不达，算了是我这脑力不行；不写出来总觉得记忆不是很有条理，啊，没办法。前几天电话面了阿里，问道一些玄学问题，都是训练神经网络相关的，感觉自己没回答好，追更到底，还是自己的思路不清晰造成的。然后回顾研究生这2年，对于培养自己的科研素养真的极少，因为几个原因：

1. 独自干自己的，不与外界接触；对于大脑好使的人自然不在话下，但是我这样的结果，看样子并不好，没人指路，自己兜圈；
2. 没有静下心；
3. 在心不静下来的情况，浪费了时间，这个时间不是学习或者玩耍，而是这个时间没有与我预期的目标对齐。

所以吧，静下心之后，找以前论文读读，其实面试里面的玄学问题，完全可以用论文里说的话去恢复，这样引经据典相信不会有人为难你。

主题：node2vec

优化的公式：

完成这个公式的优化需要两个假设：
1，Conditional independence ：条件独立好理解，使得公式简化为：

2，Symmetry in feature space ：特征空间的对称，这样的假设容易被忽略，下面式子分子里，节点间的嵌入是可交换的，因为内积空间具有共轭对称性：

• 可以联想到的提问：why use softmax？

原因是，内积

上面的公式直接引出下面的一个问题答案：为什么要用负采样？

原因是

3.1 Classic search strategies

• 即节点的邻居是有限的集合，对每个节点采样有限个邻居集合
  
• 两种采样策略：
  

两种采样策略帮助学习节点的什么网络特征？答：同质与结构。同质性假设节点高度互联，属于相似的网络集群或社区，应紧密嵌入在一起。结构等价并不强调连接性;节点可能在网络中相隔很远，但仍然具有相同的结构角色。（论文原话翻译）这两种网络特征同时拥有并不互斥。

BFS导致与结构等价性紧密对应的嵌入：例如，基于网络角色(如hub等)的结构等价性可以通过观察每个节点的直接邻域来推断。BFS的优点是什么？答：节点周围的微观视角，同时，邻近采样降低了1跳节点间的不确定性。

相反，DFS的优缺点：

3.2 node2vec

code

这玩意还是自己多练吧，主要是有一个alias采样需要了解：https://blog.csdn.net/NockinOnHeavensDoor/article/details/89482469