静静喜欢大白
专注于GNN领域前沿技术学习与分享、中科院计算所学术媛一枚、喜欢美食旅行
展开
-
香港中文大学MISC Lab GNN团队: 异质图神经网络研究进展&从谱的角度看待(图)对比学习(图自监督学习)
MISC Lab GNN团队: 异质学习和图自监督学习报告原创 2023-02-10 10:30:00 · 989 阅读 · 0 评论 -
【GNN报告】王啸--挖掘图神经网络中的「万物真理」
GNN宏观探讨原创 2022-11-17 14:54:36 · 278 阅读 · 0 评论 -
【落地应用】华为之图神经网络在推荐系统中的应用
GNN在RS上的落地应用原创 2022-09-13 11:00:05 · 621 阅读 · 0 评论 -
【HGNN】AAAI 2022 RoHe Robust Heterogeneous Graph Neural Networks against Adversarial Attacks
对抗攻击鲁棒的异质图神经网络翻译 2022-08-17 10:32:48 · 445 阅读 · 0 评论 -
【GNN报告】微软亚洲研究院郑书新:图神经网络迈入Transformer时代
作为一种弱归纳偏置模型,Transformer模型在图数据处理领域上的成功应用和未来发展趋势。原创 2022-07-11 11:12:18 · 635 阅读 · 0 评论 -
【科研】审稿意见汇总
审稿意见汇总原创 2022-06-22 10:59:52 · 974 阅读 · 0 评论 -
【增量学习】2022 KDD Geometer: Graph Few-Shot Class-Incremental Learning via Prototype Representation
在许多实际场景中,图随着新节点和边的出现而演变。由于新出现或缺乏探索,新类别逐渐出现,并且很少有标记。在本文中,专注于这个具有挑战性但实用的图少样本类增量学习(GFSCIL)问题,并提出了GEOMETER。通过找到最近的类原型来预测节点的标签,通过观察几何接近度、均匀性和可分离性来学习和调整基于注意力的原型。进一步引入了教师-学生知识蒸馏和有偏抽样,以分别缓解灾难性遗忘和不平衡标签问题。...原创 2022-06-08 11:34:29 · 478 阅读 · 0 评论 -
【GNN】GNN小结(含HAN)
目录1、CNN、RNN、GNN2、GNN3、GNN分类整体分类细分GNN类别1、RGNN(Recurrent Graph Neural Networks)2. Graph Convolution Networks(图卷积神经网络)3. Graph Attention Networks4. Graph Auto-encoder5. Graph Spatial-Temporal Networks(时空网络)6. Graph Generative Networks(原创 2022-04-07 17:02:50 · 452 阅读 · 0 评论 -
【Python】调参warmup(含代码)
有一些论文对warmup进行了讨论,使用 SGD 训练神经网络时,在初始使用较大学习率而后期改为较小学习率在各种任务场景下都是一种广为使用的做法,在实践中效果好且最近也有若干文章尝试对其进行了理论解释。例如《On Layer Normalization in the Transformer Architecture》等,论文中作者发现Post-LN Transformer在训练的初始阶段,输出层附近的期望梯度非常大,所以没有warm-up的话模型优化过程就会非常不稳定。虽然在实践中效果好且最近...原创 2022-03-15 16:24:53 · 917 阅读 · 0 评论 -
【GNN】实时跟进同步最近GNN报告和进展
1、报告2022 AAAI上有关图自动学习报告Welcome to AAAI2022 Automated Learning form Graph-Structured Data Tutorial图、深度学习与贝叶斯的结合图、深度学习与贝叶斯如何结合?Errica博士论文《 图贝叶斯深度学习》阐述方法框架,附201页pdf与Slides2、书籍A Guide to Graph Algorithms新书介绍 | 图算法指南,A Guide to Graph Algorithm...原创 2022-03-03 18:29:31 · 472 阅读 · 0 评论 -
百度7天GNN学习-课件2学习(游走算法)
目录大纲第二课总结图表示由来负采样由来Word2VecDeepWalk(随机游走DFS)node2vec(有偏游走DFS+BFS+考虑边权值)metapath2vec异构图由来异构图定义基于远路径游走元路径游走metapath2vec++(考虑节点类型来负采样)变种大纲第二课总结图表示由来词的语义由其上下文决定负采样由来计算量大,需要计算所有词表内的词概率-softmax;选一些正样本(想预测的.原创 2021-01-17 22:03:02 · 266 阅读 · 1 评论 -
dgl-同构+异构图的创建和属性信息使用
转载目录1. 图的创建1.1 同质图1.1.1 直接创建:dgl.graph()1.1.3 节点与边的特征1.2 异质图1.2.1 异质图 Heterogeneous Graphs1.2.2 创建异质图-dgl.heterograph()1.3 Using DGLGraph on a GPU1.4 从外部资源创建2 图的属性2.1 关于图的节点与边的信息2.2 关于图的类型2.3 关于图特征的属性2.4 数据类型1.3.5 邻接与指示矩阵.原创 2021-01-04 14:50:21 · 3346 阅读 · 5 评论 -
百度7天GNN学习-异构图实战
目录1、分析2、代码3、输出1、分析什么是异构图?简单来说就是:存在许多包含多种类型的节点和边的图! 如下:(电子商务网络——就至少包含两种类型的节点(用户和项目)和两种类型的边线(购买和单击))(来源pgl1.2.1官网)【源于pgl1.2.1文档,主要是对代码的学习,注解!】2、代码'''步骤1)创建图结构的基本节点、边的信息2)设置节点特征与边特征3)构建异构图与异构容器(容器多了边类型)4)构建消息机制5)测试消息机制--并通过两个..原创 2021-01-13 16:44:44 · 1783 阅读 · 1 评论 -
【GNN报告】北邮王啸:图神经网络的两面性
目录1、简介2、报告背景GNN优劣为如何利用节点特征结构为如何利用其它频段的信息统一的目标函数3、参考1、简介王啸,北京邮电大学,助理教授。研究方向为图神经网络、数据挖掘与机器学习。曾任清华大学计算机系博士后,天津大学博士,美国圣路易斯华盛顿大学联合培养博士,入选2020年微软亚洲研究院铸星学者。2、报告背景【专栏:前沿进展】在我们生活的世界中,图数据无处不在,我们可以用图来建模和描述我们的复杂系统。从马克思主义哲学的角度来说,联系具有普遍性和客观原创 2021-07-20 11:38:09 · 428 阅读 · 0 评论 -
【综述】异构最新综述Space4HGNN: A Novel, Modularized and Reproducible Platform to Evaluate Heterogeneous Graph
目录1、动机2、贡献3、方法4、结果1、动机异构图神经网络(HGNN)已经成功地应用于各种任务中,但由于体系结构和应用场景的不同,我们无法准确地知道不同设计维度对HGNN的重要性。此外,在hgnn的研究界,各种任务的实施和评估还需要大量的人力。为了缓解这些问题,我们首先提出了一个涵盖大多数hgnn的统一框架,该框架由三个组件组成:异构线性转换、异构图转换和异构消息传递层。然后,基于统一框架定义了hgnn的设计空间,构建了平台Space4HGNN,为hgnn提供模块化的组件、可原创 2022-02-27 12:51:26 · 661 阅读 · 0 评论 -
【HIN】异质信息网络分析与应用综述
目录简介前两章简单阅读异质网络的基本概念基于元路径的挖掘异质网络的学习表示浅层模型基于分解的方法基于元路径的随机游走的方法基于关系的方法深度模型基于自动编码器基于生成对抗网络基于强化学习基于图神经网络浅层模型与深层模型对比与知识图谱表示学习的区别与联系应用商业领域网络安全恶意软件检测:恶意账户检测异常事件检测医学领域疾病诊断基因分析未来发展方向面向多模态数据的异质网络构建与分析方法面向复杂网络数.原创 2022-02-24 22:45:27 · 673 阅读 · 0 评论 -
【HGNN】
1、简介本博客记录追踪度过的和HGNN相关的模型和方法研究,简单做个笔记2021 TKDE HGATE: Heterogeneous Graph Attention Auto-Encoders论文链接+代码链接作者和单位简介Wei Wang, Xiangyu Wei, Xiaoyang Suo, Bin Wang, Hao Wang, Hong-Ning Dai, and Xiangliang ZhangWei Wang, Xiangyu Wei, Xiaoyang Suo, ar原创 2022-01-04 17:15:59 · 1082 阅读 · 0 评论 -
【HGNN】Network Heterogeneity on Graph Neural Networks
1、简介图神经网络(GNN)作为一种基于深度学习的强大的图表示技术,表现出了卓越的性能,引起了广泛的研究兴趣。目前的gnn基本遵循消息传递框架,即接收来自邻居的消息,并应用神经网络学习节点表示。然而,以往的gnn主要关注的是同构图,而在现实中,现实世界的图往往远非同构。本文首先分析了网络异质性的各种类型,包括节点和链接类型异质性、邻域异质性、片段异质性、时间异质性和结构异质性。然后我们讨论克服这些异质性的含义和方法。“Network Heterogeneity on Graph Neural Ne原创 2021-12-30 20:42:18 · 414 阅读 · 1 评论 -
【异构-推荐】推荐系统中的异构关系学习
目录1、简介2、报告黄超 香港大学 推荐系统中的异构关系学习背景相关工作未来工作问题讨论3、参考1、简介mark异构图用于推荐相关工作2、报告黄超 香港大学 推荐系统中的异构关系学习小结正文背景对不同异构关系联合学习用户和商品使用GNN技术相关工作从5种关系中提取关系(用户三种,商品右面2种)从用户和商品角度提取信息用户和商品高阶关系-使用自监督方式(...原创 2021-12-30 11:25:14 · 805 阅读 · 0 评论 -
【HGNN】北邮循序渐进研究HGNN
目录1、简介2、内容背景知识ML表示学习网络表示异构图HGNN模型发展HG应用结论和未来发展方向3、参考1、简介最近发现不能只是看完报告或者论文就一带而过,一定一定要做好笔记,尤其在看一些大佬的报告后更要做报告。尤其要带着思考,为啥大佬要这样切入,逻辑是啥!本文介绍框架如下2、内容背景知识ML表示学习AI里面无论是什么模型,算法也好,都是在学习表征representation而表征学习 主要分成两大类:...原创 2021-12-14 18:19:26 · 1969 阅读 · 0 评论 -
【GNN】异构GNN:RGCN-HetGNN-CompGCN
目录1、简介2、内容Background KnowledgeR-GCN: Modeling Relational Data with GCN(2017)[1]HetGNN:Heterogeneous Graph Neural Network(2019-KDD)[2]问题1解决非相连节点信息聚合问题2&3 处理节点上多种特征和节点信息聚合的问题HetGNN下游任务的训练R-GCN下游任务的训练HetGNN需要注意的点CompGCN: COMPOSITI.原创 2021-12-10 19:39:12 · 1594 阅读 · 0 评论 -
【Graph学习目录】
目录简介GE资源目录GNN资源目录GNN应用资源目录简介本人最开始就是从GNN18年的一篇经典综述《Graph Neural Networks: A Review of Methods and Applications》开始学起来的,其中论文地址pdf,论文翻译可以参考本人的博客【GNN综述1-模型与应用】 Graph Neural Networks: A Review of Methods and ApplicationsGraph Neural Networks: A Re原创 2021-02-23 13:39:42 · 367 阅读 · 0 评论 -
【离线采样方法 Alias Method】
转载 https://blog.csdn.net/manmanxiaowugun/article/details/90170193还可参考 https://zhuanlan.zhihu.com/p/42630740 最近在看图算法相关的东西,先介绍一个用于其中的采样算法吧(超小声的说一句,我打算以后把看过的算法都实现一遍,提高一下工程能力)。 1. 什么叫离散分布 首先,离散分布:给你一个概率分布,是离散的,转载 2020-10-06 19:44:19 · 454 阅读 · 0 评论 -
【白话理解deepwalk】
转载https://zhuanlan.zhihu.com/p/58105731deepwalk用于将graph向量化 以便后续的深度学习在读paper时 我读了很多遍都未能领悟精髓 如果你现在与我当初疑惑相同 请看下文此方法借鉴NLP里的思想将图中所有vertex标记random walk开始 随机取起始点 规定路径长度 随机漫游graph如 从3开始 规定路径长度为3 得到一条random walk路径开始借鉴NLP思想,这条路径上临近点与点之间必然联系密切 有共同特.原创 2020-09-09 09:23:21 · 1525 阅读 · 1 评论 -
【DeepWalk: Online Learning of Social Representations】
整理自https://blog.csdn.net/qq_31778495/article/details/80757478目录0.基本信息1.论文简介2.论文作者及单位3.论文相关报告和代码开源1.概述2.简介3.主要成果4.目标问题5.理论支持6.算法介绍6.1 算法一:短随机游走生成6.2 算法二:word2vec中SkipGram算法6.3 算法整体流程7.实验7.1 多标签分类数据集baseline:7.2 参数敏感性.原创 2020-09-08 21:02:06 · 295 阅读 · 0 评论 -
异质图经典方法总结(19年)
转载纪厚业本文主要是大佬梳理了2019年各大顶会上关于异质图神经网络的论文,包括算法研究及应用研究.同时,作者也整理了相关大牛老师/论文/资料/数据集供大家学习.1.介绍 图神经网络是近年来图数据挖掘领域的热门研究方向之一,尤其以Graph Convolutional Network,Graph Attention Network为代表的图神经网络已经引起了学术界与工业界的广...转载 2020-05-01 16:59:02 · 10906 阅读 · 2 评论