论文笔记:DynamicHypergraphNeuralNetworks

一、作者发现的问题:graph(为了区别图像image) 的 NN (neural networks) 只使用的graph/Hypergraph 初始的图结构,忽略了训练过程中的特征嵌入问题。
在这里插入图片描述

**二、解决方法:**提出了新的超图模型DHGNN=DHG(超图结构)+HGC(超图卷积)

在这里插入图片描述
1.DHG模块: 先根据k-means聚类X,即预先处理X,方便建模。(k-means处理X流程)

1.1 k-means聚类算法(k均值算法)

原理:它是以欧式距离为计算标准。比如:计算的2个特征之间的欧式距离越近,算法就认为2者相似度越接大。最后把距离大小相似的归为一类。

核心算法:这是一种迭代求解的聚类分析算法。人为随机选取k个对象作为初始的聚类中心——人为规定分为k类(k个族群);算法开始计算每个对象与这k个聚类中的欧氏距离,按照原理把每个对象分配给距离最近的聚类中心点;每次分配完都会重新根据现在所有对象再计算一次聚类中心点,直到满足终止条件。

**终止条件:**没有(或最小数目)对象被重新分配给不同的聚类——重新聚类时可能没有或者人为设定阈值(比如5个)数量的对象被由1类划到2类;没有(或最小数目)聚类中心再发生变化;误差平方和局部最小。

算法实现步骤:

  1. 首先,确定分为几类,确定k值。

  2. 之后,在所有对象X中随机选取k个对象作为聚类中心。

  3. 计算每个对像与这k个聚类中心的欧式距离,这些对象距离那个聚类中心近,就归为哪一类。

  4. 等待整个对象群X都分完k类后,重新计算每个类的聚类中心,并判断现在新的聚类中心与原来的相比是否小于设置的阈值(误差平方和),若是,算法继续,反之终止。

  5. 继续计算欧式距离以及之后的步骤。

以k=2为例(一眼看出可以分为2类)图解:
在这里插入图片描述
随机选择了两个k类所对应的类别质心,即图中的红色质心和蓝色质心,然后分别求样本中所有点到这两个质心的距离,并标记每个样本的类别为和该样本距离最小的质心的类别,如图c所示,经过计算样本和红色质心和蓝色质心的距离,我们得到了所有样本点的第一轮迭代后的类别。此时我们对我们当前标记为红色和蓝色的点分别求其新的质心,如图d所示,新的红色质心和蓝色质心的位置已经发生了变动。图e和图f重复了我们在图c和图d的过程,即将所有点的类别标记为距离最近的质心的类别并求新的质心。最终我们得到的两个类别如图f。【图例转自https://www.cnblogs.com/txx120/p/11487674.html】

1.2 超边构造——超图结构
是以常见的k-NN方式构造超边,不过本位中是以每个顶点u相邻近的k-1个顶点组成一条超边(在别的文章中是k个邻近点)——这条超边包含k个顶点,如figure2中,每条超边有8个顶点。表示一个超边包含的顶点集;表示包含顶点u的所以超边的集合。

C o n ( e ) = { u 1 , u 2 , ⋯   , u M e } Con(e)=\{u_1,u_2,\cdots,u_{M_e}\} Con(e)={u1,u2,,uMe}
A d j ( u ) = { e 1 , c 2 , ⋯   , c k u } Adj(u)=\{e_1,c_2,\cdots,c_{k_u}\} Adj(u)={e1,c2,,cku}

相应的算法:
在这里插入图片描述

2.HGC模块:这部分是由2个子模块构成CV(vertices convolution)、HEC(Hypergrahp convolution)

2.1CV :顶点卷积把顶点的特征聚类到对应的超边中去(这些超边包含对应顶点特征)
在这里插入图片描述
T = M L P ( X u ) T=MLP(X_u) T=MLP(Xu)
x e = c o n v ( T ⋅ M L P ( X u ) ) x_e=conv(T\cdot MLP(X_u)) xe=conv(TMLP(Xu))

2.2HEC:根据顶点卷积做法,最终结果是要把点分类,故还需要一步:边——顶点。这就是超边卷积所做的,把超边特征聚类到新的聚类中心点上。
在这里插入图片描述

利用神经网络的激活函数获得新的权重: w = s o f t m a x ( x − e W + b ) w=softmax(x-{e}W+b) w=softmax(xeW+b)

X u = ∑ i = 0 ∥ A d j ( u ) ∥ w i x e i X_u=\sum_{i=0}^{\|Adj(u)\|}w^{i}x_{e}^{i} Xu=i=0Adj(u)wixei

相关知识参考https://www.zybuluo.com/hanbingtao/note/433855

2.3相应算法

在这里插入图片描述

3.模型构建完成、实验

实验我没做,有时间完成实验再来补齐。

  • 0
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值