【GNN】台大李弘毅助教讲解——GNN系列

最新推荐文章于 2024-06-17 21:18:23 发布
最新推荐文章于 2024-06-17 21:18:23 发布
阅读量340 收藏 1
点赞数
分类专栏： 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/beata2/article/details/107882665
版权

笔记目录


视频讲解：（B站） 

https://www.bilibili.com/video/BV1G54y1971S?from=search&seid=8019899439107351329

在这里插入图片描述
在这里插入图片描述

1 introduction

在这里插入图片描述

2 Roadmap(路线图)

在这里插入图片描述

3 Task, Dataset, and Benchmark(任务，数据集和基准)

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
最佳路径
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

3 Sapatial-based GNN(空域GNN)

在这里插入图片描述

NN4G

在这里插入图片描述
在这里插入图片描述

DCNN

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

DGC

在这里插入图片描述

MoNET

在这里插入图片描述
在这里插入图片描述

GraphSAGE

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

GAT

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

GIN

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

4 Graph Signal Processing and Spectral-based GNN (图信号处理，频域图)

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

SpectralGraphTheory

N：节点数
D（对角数）：每行邻居数
f：节点上的特征
在这里插入图片描述
在这里插入图片描述
symmetric(for undirected graph)：对称的（无向图）
spectral decomposition：光谱分解
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
所以lamda这里代表频率
在这里插入图片描述
转到频
在这里插入图片描述
转回去
在这里插入图片描述
拓展到Graph：（合成）
在这里插入图片描述
在这里插入图片描述
filtering
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
Not localize：如果连接到所有N个节点，并所有看到邻居的东西
在这里插入图片描述

ChebNet

用某种方式递会算出以下参数，使得复杂度很低。
在这里插入图片描述
Chebyshev：切比雪夫
polynomial：多项式

在这里插入图片描述
在这里插入图片描述
满足以下条件：
在这里插入图片描述
为了好算，降低复杂度
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

GCN

基于前面的理解切比雪夫多项式
K localiize，L决定Lamda不超过2

加全一
在这里插入图片描述
在这里插入图片描述
理解为：所有的邻居加起来包括自己，取平均，+b,再经过f
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

other detiles（没讲）

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

HyperGCN（没讲）

在这里插入图片描述
在这里插入图片描述

5 Graph Generation（图生成）

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

6 GNN for NLP（没讲）

Semantic Roles Labeling

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

7 Online Resources

Pytorch：
(1) pytorch_geometric ：

https://github.com/rusty1s/pytorch_geometric

(2) Functions of Matrices: Theory and Computation (Other Titles in Applied Mathematics) (英语)

https://www.amazon.com/Functions-Matrices-Computation-Applied-Mathematics/dp/0898716462

(3) Signal and System by Prof. Lee:

http://speech.ee.ntu.edu.tw/courses.html

(4) MachineLearningbyProf.Hung-yiLee :

http://speech.ee.ntu.edu.tw/~tlkagk/courses.html

(5) https://link.springer.com/book/10.1007/978-3-030-03574-7 :

https://link.springer.com/book/10.1007/978-3-030-03574-7

在这里插入图片描述

beata2
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
李宏毅老师-GNN Part1
weixin_46675905的博客
05-04 336
慢慢来，会做到更好！ GNN（Graph Neural Networks） part1 让我们先了解一下什么是Graph？ 如下图例子所示，有节点有边的图形可以粗略定义为Graph 那么，问题来了 我们为什么需要GNN呢？ 怎么把一个Graph塞入一个neural network呢？ 我们为什么需要GNN呢？ 仔细想想，我们是不是忽略了一点重要的情况呢？ 没错，那就是人物之间的关系！ 但是又有一些问题发生了 我们该怎么用node 的邻居来帮助model做训练呢？ 下列有两种方法
台大李宏毅Machine Learning 2017Fall学习笔记 (11)Convolutional Neural Network
Allenlzcoder的博客
01-14 742
台大李宏毅Machine Learning 2017Fall学习笔记 (11)Convolutional Neural Network本博客主要整理自： http://blog.csdn.net/xzy_thu/article/details/69808817 本节课主要讲述了CNN的原理结构、操作过程和应用。Why CNN for ImageCNN的参数比全连接神经网络少得多，为什么CNN只用
Nat. Mach. Intell. | 一文了解超图神经网络约束组合优化
最新发布
undousing的博客
06-17 870
2024年5月30日，来自Nasimeh Heydaribeni研究团队的Xinrui Zhan、 Ruisi Zhang 、Tina Eliassi-Rad和 Farinaz Koushanfar在__期刊上发表了一篇题为“”的研究文章。。同时，通过迁移学习HypOp展示了在不同问题形式中的泛化能力，并通过模拟退火技术提高了解决方案的准确性。研究表明，HypOp在多个基准示例中取得了显著进展，包括超图MaxCut、可满足性和资源分配问题，并展示了在药物发现中的应用。
番外.李宏毅学习笔记.12.GNN
老毛的博客
04-12 3423
文章目录前言IntroductionNN（略）Graph常见GNN应用ClassificationGeneration结合社交网络的分类现有问题RoadmapTasks, Dataset, and BenchmarkGraph Classification: SuperPixel MNIST and CIFAR10Regression: ZINC molecule graphs datasetNo...
李宏毅机器学习【深度学习】（18）【 GNN】
lance～crazy
08-16 321
GNN spatial-based GNN NN4G DCNN Diffusion-convolution Neural Network MoNET (Mixture Model Networks) GraphSAGE GAT Graph Attention Networks GIN Graph Isomorphism Network
李宏毅机器学习|图神经网络Graph Nerual Networks(GNN)|学习笔记-part1
xiaopihaierletian的博客
12-06 1479
李宏毅机器学习|图神经网络Graph Nerual Networks(GNN)|学习笔记
李宏毅助教姜同学讲解GNN.pdf
03-19
李宏毅助教姜同学讲解GNN.pdf
GNN之SimGNN源代码（可直接运行）（CCF-B）
01-15
GNN之SimGNN论文源代码（可直接运行）（CCF-B）《SimGNN: A Neural Network Approach to Fast Graph Similarity Computation》
NLP_DNN_GNN_GAN从小白到专家
03-29
我以前不止一次给各位介绍过NLP、DNN、GNN和GAN技术资源，无论是什么来源的，最终的意义都是要让深度学习过程更直白、简单、通俗易懂一点！ 或许，你以前是用百度搜索 或者，你以前是翻墙用谷歌查询 又或者，你用的...
GNN背景论文综述（入门必看）
03-04
### GNN背景论文综述（入门必看） #### 概述 本文旨在深入探讨图神经网络（Graph Neural Networks，简称GNNs）的基本概念、工作原理及其在处理非欧几里得空间数据方面的优势与局限性。随着深度学习技术的发展，...
GNN-RL-Model-Compression:GNN-RL压缩
04-12
GNN-RL-模型压缩GNN-RL压缩：使用多阶段图嵌入和强化学习的拓扑感知网络修剪依存关系当前代码库是在以下环境下测试的： Python 3.8 PyTorch 1.8.0（CUDA 11.1） 火炬视觉0.7.0 1.6.1GNN-RL频道修剪在这项工作中，...
[2022]李宏毅深度学习与机器学习第四讲（选修）-GNN
weixin_45920982的博客
11-22 634
求距离等于2的节点然后求平均之后再乘权重，这样反复执行完求距离等于K的。2、路漫漫其修远兮，学习是不断重复和积累的过程。怕自己看完视频不及时做笔记，学习效果不好，因此想着做笔记，提高学习效果。1、监督自己把50多个小时的视频看下去，所以每看一部分内容做一下笔记，我认为这是比较有意义的一件事情。3、因为刚刚入门深度学习，听课的过程中，理解难免有偏差，也希望各位大佬指正。把相邻的节点相加，然后乘W，在与自身相加乘W，这样不断地更新。readout这一步，就是求每个图的平均各乘W，之后相加。
李宏毅机器学习第十二周GNN&HW3
weixin_44162879的博客
10-14 236
本周主要学习了GNN网络，了解了两类GNN基础类型：继承CNN中的思路的Spatial-based convolution以及以信号处理中卷积操作的定义作为思路的Spectral-based convolution。主要认识了几种基于CNN思路的Spatial-based的GNN模型。之后完成了HW3，主要用了训练增强、focal loss、mixup、tta和残差神经网络。
李宏毅助教GNN视频笔记
qq_42033584的博客
10-09 312
介绍 一、Gragh 主要强调节点和边的性质。 二、GNN 1.GNN可以做分类和generation 2.三个小问题： 我们如何利用结构和关系来帮助我们的模型？ 如果图像更大，比如20k 节点呢？ 如果我们没有所有的标签呢？（标签不多情况下） 一个节点可以从它的邻居那里学习结构，可以利用卷积 如何利用卷积将节点嵌入到特征空间中？ 解决方案1: 将卷积(相关)概念推广到图形 > 基于空间的卷积 解决方案2: 回到信号处理中卷积的定义 > 基于谱的卷积 ** 策略 任务、数据集和基准 Task
李宏毅机器学习 Machine_Learning_2019_Task 4_Part I
Crafts_Neo的博客
05-25 640
学习目标 理解概率模型 从基础概率推导贝叶斯公式以及朴素贝叶斯公式 贝叶斯推论 什么是贝叶斯定理(Bayes Theorem)
台大李弘毅机器学习课程（2017春季）——1.introduction
manmantj的博客
12-29 3231
今天上B站的时候突然间看到居然有阿婆主上传了台大李弘毅教授的机器学习课程的视频，点开进去看了一下，发现这个老师真的是挺逗的，对于我这个初学者来说，课讲的也很棒（课程主页）。所以打算在这里做一个课程的学习记录，以激励自己坚持学习下去。这里先做一下introduction的记录。
李宏毅机器学习第十周_GNN
m0_68477761的博客
07-02 432
GNN是一种基于图结构的深度学习方法，GNN通过在图结构中传递信息，实现节点间的特征融合，从而捕捉图中的局部与全局结构信息。目前，GNN已广泛应用于社交网络分析、生物信息学、交通预测等领域，并在节点分类、图分类和链接预测等任务中表现出色。GNN的主要组成部分为消息传递机制、聚合函数和更新函数，分别负责在图中传递节点信息、整合邻居节点的特征和更新节点嵌入。为了提高GNN的性能，研究者们提出了各种改进策略，如图注意力网络（GAT）和图同构网络（GIN）等。
推荐系统笔记（十七）：对超图、超图卷积、超图注意力的初步理解和应用（HyperGCN）
热门推荐
qq_46006468的博客
08-19 1万+
对于我们熟悉的图而言，它的一个边(edge）只能和两个顶点连接；而对于超图来讲，它的边(这里叫超边，hyperedge)可以和任意个数的顶点连接。每个边所包含的顶点个数都是相同且为k个的，就可以被称为k阶超图。2阶超图就是我们平时所见到的图，因为我们平时的图由线条(edge，边)和点(vertice，顶点)构成，每条线都只包含两个点，所以这是符合2阶超图的定义的。超边的构建，将具有同一个属性的样本归到同一条超边里。
深度学习：GNN模型详解与应用
3. GNN的核心是构建有效的表示学习，即通过一系列层（layers）来传播和融合信息，形成节点或图的嵌入向量。这些向量可以捕捉图的拓扑结构和节点属性信息，进而用于各种下游任务，如图分类、节点分类、链接预测等。...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值