图神经网络GNN
输入非欧几里得结构的神经网络。
祥瑞Coding
机器学习,计算机视觉
展开
-
GCN (Graph Convolutional Network) 图卷积网络解析
目的:图卷积网络近两年大火,博主实习需要用到。接下来几个月就会在图卷积网络上做很多东西。这篇是刚开始对图卷积网络的学习,所以会广泛参考相关论文与网上的技术博客,总结归纳,希望提炼出有用的知识,加深对于图卷积网络的理解。重要内容链接会贴出方便大家学习,也很欢迎大家跟我探讨或者分享心得。对于复杂的公式与繁杂的推证,博主希望尽可能理解其意义,对于难以理解的或者暂时没有时间推证的可以先记下其结论,方便后续...原创 2019-04-16 11:37:33 · 82267 阅读 · 58 评论 -
Graph Convolution Network图卷积网络(三)嵌入其他网络结构
背景:实现GCN,并且于resnet输出端的score level实现。目录一、GCN理论基础二、邻接矩阵正则化2.1 矩阵A的正则化2.2 运算与存储三、torch实现3.1 init中的super3.2 矩阵的读取与运算3.2 图卷积层的实现3.3 GCN实现3.4 cuda的实现相关内容GCN (Graph Convolutional Ne...原创 2019-05-31 16:33:56 · 3837 阅读 · 1 评论 -
Graph Attention Network 图注意力网络 (三) 更改邻接masked attention
背景:需要将GAT实现在resnet的预测score之上,并且将masked attention运用上。相关内容:图注意力网络(GAT) ICLR2018, Graph Attention Network论文详解 Graph Attention Network (一) 训练运行与代码概览 Graph Attention Network (二) 模型定义 博主代码地址:https...原创 2019-05-30 16:46:38 · 5784 阅读 · 16 评论 -
python项目应用实例(三)数据聚类相关|迭代分组|子矩阵|字典映射|遍历
背景:需要对数据中元素较多的list根据子矩阵进行聚类,聚类结果进行相关处理。目录一、创建子矩阵1.1 子矩阵定义1.2 创建子矩阵二、字典、list、array的添加与遍历2.1 添加元素2.2 遍历字典2.3 添加list元素2.4 遍历list2.5 np.array2.6 array中元素三、完整程序一、创建子矩阵1.1 子矩阵定义...原创 2019-05-07 15:25:56 · 516 阅读 · 0 评论 -
sklearn谱聚类Spectral Clustering(二)参数及算法原理
背景:运行sklearn的谱聚类代码时候,需要对代码进行参数设定。并且聚类每次结果都不一样。所以需要深入算法底层,弄清楚算法怎么工作的,以及每个参数的意义。API文档官方地址: https://scikit-learn.org/stable/modules/generated/sklearn.cluster.SpectralClustering.html#sklearn.cluster.Spe...原创 2019-05-14 21:52:42 · 22683 阅读 · 5 评论 -
sklearn谱聚类Spectral Clustering(一)运行:以coco标签为例
背景:我们需要对多标签的问题,标签进行谱聚类,然后看相应的聚类结果。官方API描述:https://scikit-learn.org/stable/modules/generated/sklearn.cluster.SpectralClustering.html#sklearn.cluster.SpectralClustering目录一、安装sklearn1.1 scikit-le...原创 2019-05-06 15:20:57 · 5176 阅读 · 2 评论 -
coco再分组与网络按照分组进行训练
背景:coco有原始的分组,我们通过谱聚类进行了新的分组。需要对coco进行再分组。然后送入网络训练。目录一、分组写入文件1.1 写入参考1.2 分组结果写入1.3 分组变量的读出二、程序中coco分组的运用2.1 程序调用关系2.2 聚类分组情况2.3 更改Config2.4 重新定义网络2.5 直接在网络中加载三、网络结构的定义3.1 网络输...原创 2019-05-13 20:25:16 · 548 阅读 · 2 评论 -
ML-GCN(二)模型结构更改
背景:我们需要更改相应的模型。(另,训练测试的时候,训练集上的mAP居然比验证集上的差,比如epoch =1的时候差了 30个百分点,可能程序编写有误,这点我们需要搞懂,查清代码原因。)目录一、模型定义1.1 定义位置1.2 输入参数1.3 初始化的网络1.4 结构关系二、heads网络2.1 输入参数2.2 初始化网络结构2.3 前馈结构Globa...原创 2019-04-28 15:07:02 · 3542 阅读 · 7 评论 -
Graph特征提取方法:谱聚类(Spectral Clustering)详解
背景:Graph的特征提取方法有很多种,有空域的方法vertex domain,谱方法spectral domain,最经典的就是图卷积GCN(Graph Convolutional Network)GCN (Graph Convolutional Network) 图卷积网络解析 。这里是另一种方法,谱聚类的方法( spectral clustering)。相关论文详解:GCN (Gra...原创 2019-04-30 13:47:58 · 14984 阅读 · 3 评论 -
Graph Convolution Network图卷积网络(二)数据加载与网络结构定义
背景 : 弄懂Graph Convolution Network的pytorch代码如何加载数据并且如何定义网络结构的。代码地址:https://github.com/tkipf/pygcn论文地址:https://arxiv.org/abs/1609.02907 Semi-Supervised Classification with Graph Convolutional Network...原创 2019-04-19 10:35:05 · 17012 阅读 · 38 评论 -
Graph Convolution Network图卷积网络(一)训练运行与代码概览
背景:看懂并运行Graph Convolution Network的pytorch代码。代码地址:https://github.com/tkipf/pygcn论文地址:https://arxiv.org/abs/1609.02907 Semi-Supervised Classification with Graph Convolutional Networks,ICLR 2017目录...原创 2019-04-18 14:36:44 · 18778 阅读 · 21 评论 -
ML-GCN(一)代码训练与运行
目的:运行并粗略看懂ML-GCN的代码。注:此代码为更改后的代码,结构与原来模型相差甚远。但代码结构大致相同。代码地址:https://github.com/chenzhaomin123/ML_GCN论文地址 https://arxiv.org/abs/1904.03582目录一、相关依赖项下载1.1 程序及数据1.2 数据集1.3 放入对应位置1.4 标注 an...原创 2019-04-24 16:50:21 · 10909 阅读 · 56 评论 -
旷视CVPR2019图卷积多标签图像识别Multi-Label Image Recognition with Graph Convolutional Networks论文详解
背景:GCN刚出来,很多很容易想到的idea会被运用起来,很容易产生一些paper。我们解析此篇论文,了解其中原理,一来看看如何将图卷积应用于目前技术上,二来看到底如何快速的把准确率刷到state of the art以便发文章。代码地址:https://github.com/chenzhaomin123/ML_GCN论文地址 https://arxiv.org/abs/1904.035...原创 2019-04-22 21:38:18 · 14475 阅读 · 35 评论 -
Graph Attention Network 图注意力网络 (二) 模型定义
目的:前面详解了GAT(Graph Attention Network)的论文,并且概览了代码,我们需要对于原论文查看模型结构如何定义的。图注意力网络(GAT) ICLR2018, Graph Attention Network论文详解 Graph Attention Network (一) 训练运行与代码概览 代码地址:https://github.com/Diego999/pyGA...原创 2019-04-22 11:46:56 · 7951 阅读 · 40 评论 -
Graph Attention Network 图注意力网络 (一) 训练运行与代码概览
目的:运行并粗略看懂Graph attention network的pytorch代码。代码地址:https://github.com/Diego999/pyGAT论文地址:This is a pytorch implementation of the Graph Attention Network (GAT) model presented by Veličković et. al (2...原创 2019-04-22 10:49:49 · 10679 阅读 · 28 评论 -
图注意力网络(GAT) ICLR2018, Graph Attention Network论文详解
背景:ICLR2018 论文,Graph Attention Network在GNN中非常重要,再之前图卷积网络GCN的基础之上引入了注意力机制,非常实用。论文地址:https://arxiv.org/abs/1710.10903代码地址: https://github.com/Diego999/pyGAT相关论文详解:GCN (Graph Convolutional Networ...原创 2019-04-21 19:26:06 · 102418 阅读 · 89 评论