【机器学习】图神经网络

最新推荐文章于 2023-10-13 11:46:11 发布
最新推荐文章于 2023-10-13 11:46:11 发布
阅读量464 收藏
点赞数
分类专栏： 机器学习 文章标签： 神经网络 GNN GAT
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_36643449/article/details/107065074
版权

图神经网络是一种直接在图结构上运行的神经网络。GNN 的一个典型应用是节点分类。本质上，图中的每个节点都与一个标签相关联，我们的目的是预测没有 ground-truth 的节点的标签。

将node编码到特征空间：将卷积神经网络中的方法泛化到graph中，用邻居节点来update该节点的feature——基于空间的卷积。

在这里插入图片描述
【NN4G(Neural Networks for Graph )】
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
【DCNN(Diffusion-Convolutional Neural Network)】
在这里插入图片描述
其中，d(3, ·) = 1代表的是与“3”这个节点距离是1的节点。

最低0.47元/天 解锁文章
CC‘s World
关注
专栏目录
机器学习笔记 - 什么是图神经网络？
学以致用 知行合一
04-29 4816
图神经网络(Graph Neural Networks)是一种人工神经网络，旨在处理图形结构化数据。它们构成了更广泛的人工神经网络领域的一部分，人工神经网络是旨在反映人类或动物大脑功能的网络。人工神经网络有许多不同的类型，但它们通常以人工复制神经元和突触的行为为目标而统一起来。网络通常被分组为节点层或人工神经元，与其他节点相连。这些层存在于数据传输的输入层和输出层之间。 由于大多数事物都可以使用图结构化数据进行建模，因此图神经网络具有广泛的应用范围。
图神经网络实战（1）——图神经网络(Graph Neural Networks, GNN)基础
最新发布
盼小辉丶的博客
01-02 6万+
本节全面介绍了图神经网络 (Graph Neural Network, GNN) ，包括其在数据分析和机器学习中的重要性。首先探讨了图作为数据表示的相关概念及其在各个领域的广泛应用；然后深入探讨图学习的重要性，包括不同的应用和技术。最后，重点介绍了 GNN 架构，并对比了它与其他方法之间的原理和性能差异。
图神经网络-introduction 1 from李宏毅《机器学习》
qq_42258321的博客
08-02 443
前言：本期内容来自于李宏毅《机器学习》助教姜成翰在这门课上的补充内容。神经网络要如何聚合图结构中的信息呢？之前有说到有两种主流方法： (1) 把CNN的方法泛化，考虑节点周边的邻居关系进行空间上的卷积，比如 GAT。 (2) 利用卷积本质是频域上的滤波这一特性，在频域上操作，比如 GCN。 这一期我们来说下这两种方法具体怎么做。 Spatial-based GNN这部分内容会包括 NN4G，DCNN，DGC，GraphSAGE，MoNET，GAT，GIN。它们主要的区分在聚合方式上的操作不同。我们先来看下卷
每日一问及解答——机器学习，图神经网络相关
weixin_55768678的博客
10-09 512
发现自己基础知识还没有完全建立起来，看论文和具体方法总是似懂非懂，读完之后没多久就忘了。所以决定做一个每日一问，学习的同时提出疑问然后去找解答，争取每天解决一个小疑惑。 1.什么是循环神经网络和卷积神经网络 基础概念的讲解，简单易懂，可以对RNN和CNN有大概的认识和理解。 https://blog.csdn.net/Double2hao/article/details/84451405 2.什么是傅里叶变换 图像处理课堂上讲到这部分，发现理解的不透彻。 知乎上找到的解答，非常之清晰。 https://ww
【图解例说机器学习】神经网络 (Neural Networks)
青峰碧陋室
06-09 1489
神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。 --Kohonen, 1988 一层神经网络：感知机与逻辑回归 M-P神经元模型 1943年，McCulloch和Pitts提出了沿用至今的M-P神经元。在这个模型中，神经元接收来自其他MMM个神经元传递过来的输入信号x(j),j=1,2,⋯ ,Mx^{(j)},j=1,2,\cdots,Mx(j),j=1,2,⋯,M， 这些输入信号通过带权重ωj\omega_jωj​的连接进.
图神经网络（Graph Neural Networks）
04-26
图神经网络无疑是现在最火的AI技术之一，在本文中，全面详细地介绍了GNN的背景动机、GCN、循环关系网络、通用网络。
机器学习----图与网络结构的可视化
yyq675886993的博客
07-05 673
from numpy import * import matplotlib.pyplot as pltdist = mat([[0.1,0.1],[0.9,0.5],[0.9,0.1],[0.45,0.9],[0.9,0.8],[0.7,0.9],[0.1,0.45],[0.45,0.1]]) m,n = shape(dist) fig = plt.figure() # 绘图 ax = fig.ad
【机器学习】——神经网络与深度学习
weixin_51658186的博客
06-15 6095
设有P个样本，我们不知道它们实际上应该分成多少类，为保险起见，可假设M=P（P个样本分成P类），这样，当N
机器学习——神经网络(Neural Network)
qq_41562426的博客
07-03 1573
1、MP模型 Mp模型是最基础，最原始的神经网络模型。MP模型是1943年心理学家W.S.McCulloch和数理逻辑学家W.Pitts建立的。它的主要结构如图1所示。 图1 (来源于浙江大学胡浩基老师的机器学习课程) 2、感知器算法 感知器算法是在MP模型的基础上发展来的，主要可以解决我们在上一节中提到的线性可分问题。主要的算法流程如下所示： (1) 随机选取和; (2) 选取一个训练样本(X,y), 对于这个训练样本作如下判断： if, if, ......
【AI】了解人工智能、机器学习、神经网络、深度学习
数字人生
10-13 1548
【AI】了解人工智能、机器学习、神经网络、深度学习。
图神经网络构建代码
03-04
# GPF ## 一、GPF（Graph Processing Flow）：利用图神经网络处理问题的一般化流程 1、图节点预表示：利用NE框架，直接获得全图每个节点的Embedding; 2、正负样本采样：（1）单节点样本；（2）节点对样本； 3、抽取封闭子图：可做类化处理，建立一种通用图数据结构; 4、子图特征融合：预表示、节点特征、全局特征、边特征; 5、网络配置：可以是图输入、图输出的网络；也可以是图输入，分类/聚类结果输出的网络; 6、训练和测试; ## 二、主要文件： 1、graph.py：读入图数据; 2、embeddings.py：预表示学习; 3、sample.py：采样; 4、subgraphs.py/s2vGraph.py：抽取子图; 5、batchgraph.py：子图特征融合; 6、classifier.py：网络配置; 7、parameters.py/until.py:参数配置/帮助文件; ## 三、使用 1、在parameters.py中配置相关参数（可默认）； 2、在example/文件夹中运行相应的案例文件--包括链接预测、节点状态预测； 以链接预测为例： ### 1、导入配置参数 ```from parameters import parser, cmd_embed, cmd_opt``` ### 2、参数转换 ``` args = parser.parse_args() args.cuda = not args.noCuda and torch.cuda.is_available() torch.manual_seed(args.seed) if args.cuda: torch.cuda.manual_seed(args.seed) if args.hop != 'auto': args.hop = int(args.hop) if args.maxNodesPerHop is not None: args.maxNodesPerHop = int(args.maxNodesPerHop) ``` ### 3、读取数据 ``` g = graph.Graph() g.read_edgelist(filename=args.dataName, weighted=args.weighted, directed=args.directed) g.read_node_status(filename=args.labelName) ``` ### 4、获取全图节点的Embedding ``` embed_args = cmd_embed.parse_args() embeddings = embeddings.learn_embeddings(g, embed_args) node_information = embeddings #print node_information ``` ### 5、正负节点采样 ``` train, train_status, test, test_status = sample.sample_single(g, args.testRatio, max_train_num=args.maxTrainNum) ``` ### 6、抽取节点对的封闭子图 ``` net = until.nxG_to_mat(g) #print net train_graphs, test_graphs, max_n_label = subgraphs.singleSubgraphs(net, train, train_status, test, test_status, args.hop, args.maxNodesPerHop, node_information) print('# train: %d, # test: %d' % (len(train_graphs), len(test_graphs))) ``` ### 7、加载网络模型，并在classifier中配置相关参数 ``` cmd_args = cmd_opt.parse_args() cmd_args.feat_dim = max_n_label + 1 cmd_args.attr_dim = node_information.shape[1] cmd_args.latent_dim = [int(x) for x in cmd_args.latent_dim.split('-')] if len(cmd_args.latent_dim) == 1: cmd_args.latent_dim = cmd_args.latent_dim[0] model = classifier.Classifier(cmd_args) optimizer = optim.Adam(model.parameters(), lr=args.learningRate) ``` ### 8、训练和测试 ``` train_idxes = list(range(len(train_graphs))) best_loss = None for epoch in range(args.num_epochs): random.shuffle(train_idxes) model.train() avg_loss = loop_dataset(train_graphs, model, train_idxes, cmd_args.batch_size, optimizer=optimizer) print('\033[92maverage training of epoch %d: loss %.5f acc %.5f auc %.5f\033[0m' % (epoch, avg_loss[0], avg_loss[1], avg_loss[2])) model.eval() test_loss = loop_dataset(test_graphs, model, list(range(len(test_graphs))), cmd_args.batch_size) print('\033[93maverage test of epoch %d: loss %.5f acc %.5f auc %.5f\033[0m' % (epoch, test_loss[0], test_loss[1], test_loss[2])) ``` ### 9、运行结果 ``` average test of epoch 0: loss 0.62392 acc 0.71462 auc 0.72314 loss: 0.51711 acc: 0.80000: 100%|███████████████████████████████████| 76/76 [00:07<00:00, 10.09batch/s] average training of epoch 1: loss 0.54414 acc 0.76895 auc 0.77751 loss: 0.37699 acc: 0.79167: 100%|█████████████████████████████████████| 9/9 [00:00<00:00, 34.07batch/s] average test of epoch 1: loss 0.51981 acc 0.78538 auc 0.79709 loss: 0.43700 acc: 0.84000: 100%|███████████████████████████████████| 76/76 [00:07<00:00, 9.64batch/s] average training of epoch 2: loss 0.49896 acc 0.79184 auc 0.82246 loss: 0.63594 acc: 0.66667: 100%|█████████████████████████████████████| 9/9 [00:00<00:00, 28.62batch/s] average test of epoch 2: loss 0.48979 acc 0.79481 auc 0.83416 loss: 0.57502 acc: 0.76000: 100%|███████████████████████████████████| 76/76 [00:07<00:00, 9.70batch/s] average training of epoch 3: loss 0.50005 acc 0.77447 auc 0.79622 loss: 0.38903 acc: 0.75000: 100%|█████████████████████████████████████| 9/9 [00:00<00:00, 34.03batch/s] average test of epoch 3: loss 0.41463 acc 0.81132 auc 0.86523 loss: 0.54336 acc: 0.76000: 100%|███████████████████████████████████| 76/76 [00:07<00:00, 9.57batch/s] average training of epoch 4: loss 0.44815 acc 0.81711 auc 0.84530 loss: 0.44784 acc: 0.70833: 100%|█████████████████████████████████████| 9/9 [00:00<00:00, 28.62batch/s] average test of epoch 4: loss 0.48319 acc 0.81368 auc 0.84454 loss: 0.36999 acc: 0.88000: 100%|███████████████████████████████████| 76/76 [00:07<00:00, 10.17batch/s] average training of epoch 5: loss 0.39647 acc 0.84184 auc 0.89236 loss: 0.15548 acc: 0.95833: 100%|█████████████████████████████████████| 9/9 [00:00<00:00, 28.62batch/s] average test of epoch 5: loss 0.30881 acc 0.89623 auc 0.95132 ```
一份简单的《图神经网络》教程
08-03
以下附上一份简单《图神经网络》的教程，共计28页ppt。其主要包括图卷积网络（Graph Convolutional Networks）、图采样方法（Graph Sampling Methods）与基于PyTorch的实现与应用（Application and PyTorch Implementation）三个核心部分。欢迎感兴趣的朋友下载学习。
图神经网络（GNN）【WSDM 2020】.zip
11-19
数据挖掘领域的国际会议WSDM将于2020年2月3日-2月7日在美国休斯敦召开，WSDM 2020全称为第13届国际互联网搜索与数据挖掘会议（The 13th International Conference on Web Search and Data Mining, WSDM 2020）。WSDM是CCF推荐的B类国际学术会议，由SIGIR、SIGKDD、SIGMOD和SIGWEB四个专委会协调筹办，在互联网搜索、数据挖掘领域享有较高学术声誉。这次会议共收到来自615篇长文投稿，仅有91篇长文被录用，录用率约15%。
关于图神经网络（GNN）的必读文章-python
06-18
关于图神经网络（GNN）的必读文章 GNN 必读论文 GNN：图神经网络 由 Jie Zhou、Ganqu Cui、Zhengyan Zhang 和 Yushi Bai 贡献。 内容 1. 调查 2. 模型 2.1 基本模型 2.2 图类型 2.3 池化方法 2.4 分析 2.5 效率 3. 应用 3.1 物理 3.2 化学和生物学 3.3 知识图谱 3.4 推荐系统 3.5 计算机视觉 3.6 自然语言处理 3.8 攻击生成器 3.3 攻击生成器3.10 图聚类 3.11 图分类 3.12 强化学习 3.13 交通网络 3.14 小样本和零样本学习 3.15 程序表示 3.16 社交网络 3.17 图匹配 3.18 计算机网络调查论文 图神经网络介绍。 人工智能与机器学习综合讲座，Morgan & Claypool 出版社，2020 年。书志远刘，周杰。 图神经网络：方法和应用综述。 arxiv 2018. 论文 Jie Zhou、Ganqu Cui、Zhengyan Zhang、Cheng Yang、Zhiyuan Liu、Maosong Sun。 图神经网络综合
神经网络的43个源程序及数据
03-30
《MATLAB神经网络43个案例分析》是在《MATLAB神经网络30个案例分析》的基础上出版的，部分章节涉及了常见的优化算法（遗传算法、粒子群算法等）与神经网络的结合问题。 《MATLAB神经网络43个案例分析》可作为高等学校相关专业学生本科毕业设计、研究生课题研究的参考书籍，亦可供相关专业教师教学参考。 《MATLAB神经网络43个案例分析》共有43章目录如下： 第1章 BP神经网络的数据分类——语音特征信号分类 第2章 BP神经网络的非线性系统建模——非线性函数拟合 第3章 遗传算法优化BP神经网络——非线性函数拟合 第4章 神经网络遗传算法函数极值寻优——非线性函数极值寻优 第5章 基于BP_Adaboost的强分类器设计——公司财务预警建模 第6章 PID神经元网络解耦控制算法——多变量系统控制 第7章 RBF网络的回归--非线性函数回归的实现 第8章 GRNN网络的预测----基于广义回归神经网络的货运量预测 第9章 离散Hopfield神经网络的联想记忆——数字识别 第10章 离散Hopfield神经网络的分类——高校科研能力评价 第11章 连续Hopfield神经网络的优化——旅行商问题优化计算 第12章 初始SVM分类与回归 第13章 LIBSVM参数实例详解 第14章 基于SVM的数据分类预测——意大利葡萄酒种类识别 第15章 SVM的参数优化——如何更好的提升分类器的性能 第16章 基于SVM的回归预测分析——上证指数开盘指数预测. 第17章 基于SVM的信息粒化时序回归预测——上证指数开盘指数变化趋势和变化空间预测 第18章 基于SVM的图像分割-真彩色图像分割 第19章 基于SVM的手写字体识别 第20章 LIBSVM-FarutoUltimate工具箱及GUI版本介绍与使用 第21章 自组织竞争网络在模式分类中的应用—患者癌症发病预测 第22章 SOM神经网络的数据分类--柴油机故障诊断 第23章 Elman神经网络的数据预测----电力负荷预测模型研究 第24章 概率神经网络的分类预测--基于PNN的变压器故障诊断 第25章 基于MIV的神经网络变量筛选----基于BP神经网络的变量筛选 第26章 LVQ神经网络的分类——乳腺肿瘤诊断 第27章 LVQ神经网络的预测——人脸朝向识别 第28章 决策树分类器的应用研究——乳腺癌诊断 第29章 极限学习机在回归拟合及分类问题中的应用研究——对比实验 第30章 基于随机森林思想的组合分类器设计——乳腺癌诊断 第31章 思维进化算法优化BP神经网络——非线性函数拟合 第32章 小波神经网络的时间序列预测——短时交通流量预测 第33章 模糊神经网络的预测算法——嘉陵江水质评价 第34章 广义神经网络的聚类算法——网络入侵聚类 第35章 粒子群优化算法的寻优算法——非线性函数极值寻优 第36章 遗传算法优化计算——建模自变量降维 第37章 基于灰色神经网络的预测算法研究——订单需求预测 第38章 基于Kohonen网络的聚类算法——网络入侵聚类 第39章 神经网络GUI的实现——基于GUI的神经网络拟合、模式识别、聚类 第40章 动态神经网络时间序列预测研究——基于MATLAB的NARX实现 第41章 定制神经网络的实现——神经网络的个性化建模与仿真 第42章 并行运算与神经网络——基于CPU/GPU的并行神经网络运算 第43章 神经网络高效编程技巧——基于MATLAB R2012b新版本特性的探讨
复旦大学AI人工智能课程 机器学习课程 神经网络与深度学习 共208页.pptx
03-18
机器学习概述 线性模型  【基础网络模型】 前馈神经网络 卷积神经网络 循环神经网络 网络优化与 正则 化 记忆与注意力机制 无监督学习  【进阶模型】 概率图模型 玻尔兹曼机 深度信念网络 深度生成模型 深度...
学习机器学习——神经网络
图像学习之旅
02-11 731
0.神经网络是干嘛的？ 神经网络作为一种非线性的网络模型怼非线性科学进行研究，是一种模仿人类神经网络行为特征的分布式并行信息处理算法结构的动力学模型。它用于接收多路输入刺激，按加权求和超过一定阈值时产生“兴奋”输出，来模仿人类神经元的工作方式，并通过这些神经元相互连接的结构和反映关联强度的权系数，使其具有各种复杂的信息处理能力。其不是由于元性能不断改进，而是通过复杂的互联关系得以实现。所有它是一种联接机制模型，具有复杂系统的许多重要特征。 其实质反映了输入转化为输出的一种数学表达式，这种数学关系是...
机器学习实战应用案例100篇（九）-图网络从原理到实战应用案例（二）
wenyusuran的专栏
07-20 814
图网络 MixHop 简介 1 模型提出 标题：MixHop: Higher-Order Graph Convolutional Architectures via Sparsified Neighborhood Mixing 链接：https://arxiv.org/abs/1905.00067 标准GCN只能学习到相邻结点之间的信息，不能学习邻里混合关系。 为了解决这个缺点，作者提出了一个新的模型，MixHop，通过重复混合不同距离的邻居的特征表示，它可以学习这些关系，包括不同的运算子
什么是机器学习、深度学习、图神经网络？
威廉软件的博客
10-08 7254
人工智能是追求目标，机器学习是实现手段，深度学习是其中一种方法。 1 机器学习 机器学习是一类算法的总称，这些算法企图从大量历史数据中挖掘出其中隐含的规律，并用于预测或者分类，更具体的说，机器学习可以看作是寻找一个函数，输入是样本数据，输出是期望的结果，只是这个函数过于复杂，以至于不太方便形式化表达。需要注意的是，机器学习的目标是使学到的函数很好地适用于“新样本”，而不仅仅是在训练样本上表现很好。学到的函数适用于新样本的能力，称为泛化（Generalization）能力。 1.1 机器学...
图神经网络深度学习解析
在深度学习领域，图神经网络是处理非欧几里得数据，特别是那些具有复杂结构信息的数据的关键技术。这份讲义首先介绍了传统卷积网络的基础，它在图像识别、语音识别以及机器翻译等领域取得了革命性的突破。LeCun等人...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值