总览
半监督节点分类问题的求解方法对比
![](https://img-blog.csdnimg.cn/img_convert/73f2547499b4b29afbef72258200be56.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/e67496f651599f58aeb8e276bb46a061.jpeg)
Label Propagation
基于一个朴素的思想,及相邻节点属性相近。
![](https://img-blog.csdnimg.cn/img_convert/3fda3236b74d7a4c206e727e98d5612e.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/888c94ceebfa9b73c0f47e33838cb4ce.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/8bc6319090b9e2a96764415d9271fe0f.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/219497d3064a58165b2c0a6bfd1d77dd.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/220da931d1bbcc0cf9866ba83efcb8f7.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/b17517411148315a0b8e1c8bc4a4ce00.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/ee532c2db7180e210816e3241c777de5.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/1c0be498816922e7a1c84c71f0b8b64d.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/f2d0e5ccc49ac77f9510bd4352fbd51d.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/6bd38ed76515920359db70370710e3cf.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/1b959da8e67636bbdd8981ffe13a011c.jpeg)
本质上标签传播算法可以简化为根据相邻节点的加权平均,但其面临两个难题:1.不保证收敛,2.没有利用节点自身信息。
Iterative Classification
如何使用节点的信息呢?
即引入根据节点信息直接分类的过程与标签传播相互配合一起迭代输出标签。
![](https://img-blog.csdnimg.cn/img_convert/504489627be802787d632bf7b50a982a.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/a3047a76a983a0a2c075cc546cebc431.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/29301b4b9059815061232a2f01ea57a9.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/4920ecde146fe9c786a4eb6bc692c6f7.jpeg)
以网页分类为例子
![](https://img-blog.csdnimg.cn/img_convert/19fb0f306da92d7cbc5c2a112a7d45f2.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/1c8bd3da2aa4d2f7e4047987e9bb9a1b.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/55cf083ee3a0d34c9a7b78e40ad73682.jpeg)
具体迭代过程
![](https://img-blog.csdnimg.cn/img_convert/fe114f7d939e9d703d00681eb68289d9.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/0a29dee1ffc3df6fbd0fe7f8d98b08b5.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/afa0476c20cb24e0628cba43d3b1ff50.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/5876f070b15667da7be965b21b646d98.jpeg)
其原理是基于马尔可夫链的
![](https://img-blog.csdnimg.cn/img_convert/3832044a089e7001ac8de9ad2e687f00.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/ba58f686a63d93ef3f09e4d22123e853.jpeg)
Correct & Smooth
cs为节点分类任务的后处理流程,本质为去平滑可能存在的噪声
![](https://img-blog.csdnimg.cn/img_convert/53a5943c7e6cdf9d34d50c8e1a270ffd.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/9854bf52c790d45ace84ebab83588c32.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/557789d63e91488087234cb70bbaca2d.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/11e19770310808d1d738089238f02c7c.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/5cbbf7da9a2e36f47920ae2b39b494af.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/ad6d0fcb688790666477f16ebfd29f90.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/aa47d42fdf211544f969b1bb05ce75b9.jpeg)
Correct步骤
![](https://img-blog.csdnimg.cn/img_convert/4e26723d2ed02f46c3bc054d824dc65c.jpeg)
类似标签传播算法,先验知识为相邻节点的误差是差不多大的。
因此,可以根据扩散矩阵矩阵预估出所有节点的误差分布。
![](https://img-blog.csdnimg.cn/img_convert/6efe2de5daca6e3790fb3c5fb9dfc529.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/1a3417b8aa40af7707917239f1d23c79.jpeg)
扩散矩阵求解思路
![](https://img-blog.csdnimg.cn/img_convert/b3a4d98194b83afea1d7cb1e4f7ac1d8.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/d470d988bc68aeb435aa9a977f71a3e7.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/f6411bc7bb1f3284c4253fa8816ee393.jpeg)
迭代后得各个节点的误差分布
![](https://img-blog.csdnimg.cn/img_convert/7cbb834e588c80739bfd14d5206dfbac.jpeg)
然后根据误差分布加权矫正原来的预测结果,得到correct的结果。
![](https://img-blog.csdnimg.cn/img_convert/bab3e90250f927de58cb3579bf6acd4e.jpeg)
Smooth步骤
将真值标签填入图中,再次使用扩散矩阵对标签进行平滑。
![](https://img-blog.csdnimg.cn/img_convert/b2abb7cda34e3d00a50f7c16182a5b02.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/27a17738e4976095caefba2df163e890.jpeg)
迭代至收敛后,即得到Smooth的结果。
![](https://img-blog.csdnimg.cn/img_convert/4fd953e80a5ed788b3cf35efd55d9070.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/082989dd2f89588fc65c63bdc05c9a6d.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/8e034d2823d95936c2cd65c284bc3731.jpeg)
Belief Propagation
信念传播,即一个节点的属性是由周围节点对它的判断来决定。
![](https://img-blog.csdnimg.cn/img_convert/bac9f89c0e7540daece4d47b8eb04474.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/3c35be74aeda38d1b7c49e68bcbb9db3.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/2a34af4cc500e7b0bd73429bece5db39.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/a342cc845d2d5b726b9e5474ea949feb.jpeg)
引入了节点与节点之间的联合概率分布,引入节点的传播概率,某类i节点认为相邻节点j为某类的条件概率。
![](https://img-blog.csdnimg.cn/img_convert/109a37c56029be27f7ec56f58d393970.jpeg)
信息初始化为1后,迭代更新不断地传播
![](https://img-blog.csdnimg.cn/img_convert/dff0ed97a510ccf33c32008cb1f045fa.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/f722d7b263d7e9f7922b7a6065046889.jpeg)
有环时会失效,可以借鉴之前用随机游走的方式去模拟,然后统计获得概率。
![](https://img-blog.csdnimg.cn/img_convert/1f06e939edd2c02d6f3be01707310ca6.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/d4ad65ab4d97a80aae4453f92195413c.jpeg)
Masked Label Prediction
常见地掩码自学习
![](https://img-blog.csdnimg.cn/img_convert/3556e13a748c8d355c1bc0b45237abc2.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/bf679fa3d7786c0296d6e240fb6660e7.jpeg)
总结
![](https://img-blog.csdnimg.cn/img_convert/b10f720a8c2a2d523147a688f4724457.jpeg)
![](https://img-blog.csdnimg.cn/img_convert/f684816277e4eccfed88c1a3996579ff.jpeg)
思考题
![](https://img-blog.csdnimg.cn/img_convert/fa32a59d80561971de44f9954ff28fb9.jpeg)
【坑待填】