Graph U-Nets 阅读笔记

最新推荐文章于 2024-04-17 09:52:09 发布
最新推荐文章于 2024-04-17 09:52:09 发布
阅读量1.5k 收藏 4
点赞数
分类专栏： 阅读笔记 文章标签： 深度学习 卷积神经网络 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/tagagi/article/details/121468464
版权

作者：Hongyang Gao , Shuiwang Ji

美国德克萨斯A&M大学计算机科学与工程系

来源：ICML 2019

论文链接：Arxiv: https://arxiv.org/abs/1905.05178

github链接： https://github.com/HongyangGao/gunet

问题：图上的池化和上采样操作

提出：新的图池（gPool）和非图池（gUnpool）操作

  • gPool层根据可训练投影向量上的标量投影值自适应地选择一些节点以形成较小的图
  • gUnpool层作为gPool层的反向操作。gUnpool层使用在相应的gPool层中选择的节点的位置信息将图形恢复为其原始结构
  • 基于gPool和gUnpool层，开发了一个基于graph的编码器-解码器模型，称为graph U-Nets

1 introduction

  • U-Net: U-Net网络详解_遥远的她-CSDN博客_u-net
    • U-Net是比较早的使用全卷积网络进行语义分割的算法之一，论文中使用包含压缩路径和扩展路径的对称U形结构在当时非常具有创新性，且一定程度上影响了后面若干个分割网络的设计，该网络的名字也是取自其U形形状
    • U-Net的实验是一个比较简单的ISBI cell tracking数据集，由于本身的任务比较简单，U-Net紧紧通过30张图片并辅以数据扩充策略便达到非常低的错误率，拿了当届比赛的冠军
    • 网络是一个经典的全卷积网络（即网络中没有全连接操作）。网络的输入是一张572*572 的边缘经过镜像操作的图片（input image tile），关于“镜像操作“会在1.2节进行详细分析，网络的左侧（红色虚线）是由卷积和Max Pooling构成的一系列降采样操作，论文中将这一部分叫做压缩路径（contracting path）。压缩路径由4个block组成，每个block使用了3个有效卷积和1个Max Pooling降采样，每次降采样之后Feature Map的个数乘2，因此有了图中所示的Feature Map尺寸变化。最终得到了尺寸为 32*32 的Feature Map
    • 网络的右侧部分(绿色虚线)在论文中叫做扩展路径（expansive path）。同样由4个block组成，每个block开始之前通过反卷积将Feature Map的尺寸乘2，同时将其个数减半（最后一层略有不同），然后和左侧对称的压缩路径的Feature Map合并，由于左侧压缩路径和右侧扩展路径的Feature Map的尺寸不一样，U-Net是通过将压缩路径的Feature Map裁剪到和扩展路径相同尺寸的Feature Map进行归一化的（即图1中左侧虚线部分）。扩展路径的卷积操作依旧使用的是有效卷积操作，最终得到的Feature Map的尺寸是388*388 。由于该任务是一个二分类任务，所以网络有两个输出Feature Map

2 Related Work

  • 经典GCN
  • 图池化操作

3  Graph U-Nets

3.1 Graph Pooling Layer

  • 图池化操作：减小特征图的大小（可理解为非线性下采样），扩大感受野，从而提高泛化能力和性能
  • 分类
    • 本地池化
    • 全局池化：对所有输入单元执行下采样操作，从而将每个特征映射减少为单个数字
    • k-max池化：每个特征图中选择k-max单元
  • 转移到图上遇到的问题：
    • 图中的节点之间没有局部性信息--->分区操作不适用于图
    • 全局池操作将所有节点缩减为一个节点，这限制了网络的灵活性
    • k-max 池化操作输出可能来自图中不同节点的k个最大单元，从而导致所选节点的连接不一致
  • graph polling（gPool）：自适应地选择节点子集以形成新的但更小的图
    • 将所有节点特征投影到1D，执行k-max池
    • 由于选择基于每个节点的1D示意图(1D footprint)，因此新图形中的连接在节点之间是一致的
    • 给定一个具有特征向量𝑥𝑖的节点𝑖，标量投影y𝑖=𝑥𝑖𝒑𝒑  。这里，𝑦𝑖测量了当投影到𝑝方向时，节点可以保留多少信息
    • 通过采样节点，希望从原始图中保留尽可能多的信息，因此选择𝑝上标量投影值最大的节点来形成一个新的图
  • 具体操作

3.2 Graph Unpooling Layer

  • 记录在相应的gPool层中选择的节点的位置，并使用此信息将节点放置回其在图形中的原始位置

3.3 Graph U-Nets Architecture

  • 编码器（池化+GCN）-解码器（反池化+GCN）架构
  • 在每个gPool层之前都有一个GCN层，从而使gPool层能够隐式地捕获图形中的拓扑信息

3.4  Graph Connectivity Augmentation via Graph Power 基于图幂的图连通性增强

  • 对一些重要节点进行采样，形成一个新的图，用于高级特征编码，池化之后，一些边会消失，影响了图的连通性，进而影响到聚合--->我们需要增加池图中节点之间的连通性
  • 方法：使用图幂，邻接矩阵的𝑘=2次方等于𝑘跳机以内可以连接的点

3.5  Improved GCN Layer

  • 希望给节点本身的特征更高的权重，因此将自环的操作由
    • 改为

4  Experimental Study

  • 直推式学习：在训练期间未标签的节点可以被访问， 因而可以学习到图结构特征

  • g-U-Nets和GCN之间的唯一区别是使用了包含gPool和gUnpool层的编码器-解码器体系结构。这些结果证明了g-U网络在网络嵌入中的有效性
  • 归纳学习：测试数据在训练期间不可用，这意味着训练过程不使用测试数据的图形结构
    • 在相对较大的图形数据集上评估，这些数据集选自图形分类任务中使用的常用基准测试

    • 有一项比Diff-Pool_DET差，找补：DiffPool使用连接预测的辅助任务来稳定，说明DiffPool本身不稳定；而本文模型只使用了标签进行训练，没有其他辅助任务，因此本文模型稳定
  • 有池化反池化和没有的对比
  • 有无边增强对比
  • 不同深度的对比
  • 参数对比

5 conclusion

  • gPool和gUnpool层
  • U-Nets（gU-Nets）体系结构
  • 2nd图幂来改善图的连通性

sanananana
关注
  • 0
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Python-Pytorch实现GraphUNetsICML19
08-11
Pytorch实现Graph U-Nets (ICML19)
Graph U-Nets [gPool gUnpool] 图分类 节点分类 图池化 ICML 2019
热门推荐
知行合一，止于至善
12-02 1万+
文章目录1 相关介绍背景贡献2 相关工作图卷积图池化3 Graph U-Nets3.1 Graph Pooling Layer：gPool3.2 Graph Unpooling Layer：gUnpool3.3 Graph U-Nets Architecture 图U-Nets架构3.4 Graph Connectivity Augmentation via Graph Power 通过图幂操作...
Rethinking Performance Gains in Image Dehazing Networks
zhouaho2010的博客
01-20 2659
论文源码： https://download.csdn.net/download/zhouaho2010/87393184 Abstract图像去雾是低层视觉中的一个活跃话题，随着深度学习的快速发展，许多图像去雾网络被提出。尽管这些网络的工作良好，但提高图像去雾性能的关键机制仍不清楚。出于这个原因，我们不打算提出一个具有奇特模块的去雾网络；相反，我们对流行的U-Net进行最小的修改以获得紧凑的去雾网络。具体来说，我们将U-Net中的卷积块交换为具有门控机制的残差块，融合主路径的特征映射，并使用选择核跳过连接
【深度学习】U-net网络结构搭建 | pytorch
weixin_46274756的博客
11-18 3623
【深度学习】U-net网络结构搭建 | pytorch
Graph U-Nets小结
yd的博客
11-21 1654
Graph U-Nets中提出了gPool和gUnpool两个操作，基于这两层生成encoder-decoder的模型，关于gPool层： 1. 这里使用一个可训练的投影向量，将所有的点投影到1D上，对于每个点的特征向量都有：，保留了节点投影到方向上时的信息 2.进行池化操作时，是取上的前个。为了尽可能多的保留前面图上的特征信息，这里先将投影到上的排序，然后取前个： 3.然后根据2中拿到的索引对对应的行激活操作： 4.根据2中得到的索引截取特征： 5.根据2中得到的索引形成新的邻接矩阵： ...
Graph U-Nets 笔记
泊柴的博客
11-06 2625
Graph U-Nets 笔记 1. 引言 论文主要内容是提出了用于图神经网络的 U-Net 结构。论文的出发点很简单，鉴于 UNet 的 encoder-decoder 结构在图像领域取得的成功，我们能不能在 GNN 中也模仿 U-Net 设计一种 Graph U-Net 结构呢？因为 U-Net 是先做降采样（Encoder）得到从低层次到高层次的图像特征，然后再做上采样 （Decoder）将 Encoder 计算的特征融合起来得到新的特征，所以如果要在 GNN 中构造 UNet 结构，就需要解决如何进
【论文知识点笔记】GNN流程到GCN流程
Edward的博客
01-03 1865
GNN流程（聚合、更新、循环）举例：输入一个简单的图结构聚合操作更新操作循环操作（多层更新操作）目的 简单粗暴快速理解GNN 举例：输入一个简单的图结构 聚合操作 经过一次聚合后：聚合到的信息： 邻居信息N=a∗(2,2,2,2,2)+b∗(3,3,3,3,3)+c∗(4,4,4,4,4) 邻居信息N = a*(2,2,2,2,2)+b*(3,3,3,3,3)+c*(4,4,4,4,4) 邻居信息N=a∗(2,2,2,2,2)+b∗(3,3,3,3,3)+c∗(4,4,4,4,4) a、b、c
TopK ： Graph U-Nets [gPool gUnpool] 图分类 节点分类 ICML 2019
知行合一，止于至善
01-07 2315
文章目录1 前言面临的问题需要了解的背景知识GCNU-Net网络向量投影和余弦相似度k-max pooling in CNNs本文贡献2 相关工作图卷积图池化3 Graph U-Nets3.1 Graph Pooling Layer：gPool （编码器层）3.2 Graph Unpooling Layer：gUnpool （解码器层）3.3 Graph U-Nets 整体架构3.4 Graph Connectivity Augmentation via Graph Power 通过图幂操作增加图的连接性
【论文笔记】Graph U-Nets
The_best_man的博客
01-09 1493
Graph U-Nets 原文链接：http://proceedings.mlr.press/v97/gao19a/gao19a.pdf 由于Graph Data的表征学习问题，不能像CNN能够对图像进行Pooling或者Up-sampling操作。由于给定的Images 可以认为是一种节点位于2D表格上Graph的特殊情况，因此可以将node classification、Graph Embedding很自然地与像素级别的分割任务对应。 Encoder-Decoder的典型模型U-Nets已经在图像处理
【代码分析】Graph-U-Nets
The_best_man的博客
01-12 1238
Graph-U-Nets(二)代码分析 Graph U-Nets通过Pytorch进行实现，开源代码Graph U-Nets，原论文链接Graph U-Nets 直接对作者的代码进行解读 class GraphUnet(nn.Module): def __init__(self, ks, in_dim, out_dim, dim, act, drop_p): """ :param ks: 表示pools层进行的节点采样率，数据类型为float型 """ sup
论文翻译：Rethinking Performance Gains in Image Dehazing Networks
weixin_50323848的博客
02-27 252
基于线性缩放规则[14]，我们将{-T，-S，-B，-D}的初始学习率设置为{16，16，8，4}×10−4。具体而言，微型模型gUNet-T依靠10%的计算成本和32%的参数，优于DehazeFormerB，而小型模型gUNet-S仅使用5.6%的计算成本，7.4%的参数，胜过PMNet。为了简单起见，我们将每个级的gConv块数设置为{M，M，M、2M、M、M、M}，将信道数设置为｛N，2N，4N，8N，4N，2N、N}，其中M是基本块数，N是基本信道数。，并调用生成的U-Net变体gUNet。
Graph U-Net Code【图分类】
Dream19961996的博客
10-30 1118
【代码】Graph U-Net Code。
U-Net和Graph U-Net
Dream19961996的博客
10-21 332
按照论文中的解释，镜像填充的原因是：因为图像 的边界的外面是空白的，没有其它有效像素，而我们预测图像中的像素类别时往往需要参考它的周围像素作为上下文信息，这样才能保持分割的准确性，为了预测边界像素，论文对边界区域进行镜像，来补全边界周围缺失的内容，然后进行预测。输入是一幅图，输出是目标的分割结果。后来把这个思路被用在了图像分割的问题上，也就是现在我们看到的U-Net结构，在它被提出的三年中，有很多很多的论文去讲如何改进U-Net或者FCN，不过这个分割网络的本质的拓扑结构是没有改动的。
[论文阅读] | Graph U-Nets
学习笔记
08-04 1233
Gao, H., & Ji, S. (2019). Graph u-nets. arXiv preprint arXiv:1905.05178. 最近导师说汇报英文论文的时候，PPT也相应做成英文的；给大家展示自己阶段性学习成果的时候，要尽量在自己理解的基础上讲的简单易懂。于是，尝试一下用英文表达这段时间对graph U-Nets的理解。 1 Introduction We know that U-Nets can be applied on image pixel-wise predicit.
GNN Pooling(一)：Graph U-Nets，ICML2019
qq_36618444的博客
06-29 2210
本文的两位作者都来自TexasA&M University, TX, USA。看起来有些熟悉，果然是咱们之前读过的论文的作者：Learning Graph Pooling and Hybrid Convolutional Operations for Text Representations，WWW。并且，在池化过程中采用的基本思路是都差不都的。 相比于图卷积的研究，针对于图池化的研究要少许多。本文提出了U-Nets，这是一种类似于Encoder-Decoder的操作，分为GPool和gUnpoo
探索 Graph-U-Nets：图形数据处理的新篇章
最新发布
gitblog_00091的博客
04-17 316
探索 Graph-U-Nets：图形数据处理的新篇章 项目地址:https://gitcode.com/HongyangGao/Graph-U-Nets 在这个数字化的时代，我们每天都在生成和处理各种结构化的和非结构化数据。其中，图形数据是一种复杂但丰富的信息表示形式，它广泛应用于社交网络、生物信息学、化学分子结构等众多领域。Graph-U-Nets 是一个创新的深度学习框架，专门针对这类图形数...
U-Det：一种改进的双向特征网络U-Net结构用于肺结节分割
深度学习技术前沿
05-04 1472
关注上方“深度学习技术前沿”，选择“星标公众号”，资源干货，第一时间送达！肺癌的早期诊断和分析涉及在计算机断层扫描（CT）图像中进行精确而有效的肺结节分割。但是，未知形状的视觉特征和CT...
《Graph U-Nets》阅读笔记
moster.YC的博客
06-27 1867
1.g-U-Nets框架 作者将图像分割领域的unte模型进行迁移，通过重新定义图池化和图上采样，将unet框架迁移到图节点分类领域 2.图池化层 节点特征池化： 1.设置可学习参数p∈RFp\in R^Fp∈RF,FFF表示节点的特征维度，通过向量ppp将节点特征映射为一个标量， y=Xlpl/∣∣pl∣∣ y = X^lp^l/||p^l|| y=Xlpl/∣∣pl∣∣ 其中，XlX^lXl为图的节点特征，yyy为映射得到的标量构成的向量。 之后，选出最大的前k个值对应的节点特征： idx=rank(
graphdb-docker 安装链接
12-14
要安装 graphdb-docker，可以按照以下步骤进行操作： 1. 打开浏览器，转到 graphdb-docker 的官方网站。 2. 在官方网站上，找到 graphdb-docker 的下载链接。 3. 点击下载链接，将 graphdb-docker 的安装文件下载...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值