图神经网络
文章平均质量分 88
程序员对白
「对白的算法屋」作者,带你少走弯路进大厂!
展开
-
GNN,请你的网络层数再深一点~
大家好,我是对白。了解图神经网络的朋友对于深层GNN中的过平滑问题一定不陌生,随着网络层数的增加,模型的效果反而急剧下降,令人心痛。回忆一下,常见的解决过平滑的方案有DropEdge、基于残差的方法还有Normalization等,但效果却不尽人意。今天在KDD2022看到一篇有趣的文章,它没有止步于GNN中的过平滑问题,而是从另一个新视角去思考深层网络效果骤降的问题——特征维度的过相关问题。所谓特征维度的过相关,顾名思义,指我们所学习到的特征维度之间高度相关,意味着高冗余以及学习到的维度编码的信息较少,从原创 2022-07-06 13:43:07 · 1796 阅读 · 0 评论 -
关于 IP 属地的一些科普
大家好,我是对白。最近各大平台都上线了 IP 属地,对于程序员来说,大家都知道这是什么。但还是有很多朋友不太熟悉,所以我开个文章来说一说。IP,就是 Internet Protocol,意思是互联网协议。你在互联网的每一个访问,都是从一个「IP地址」到另外一个「IP地址」,从协议的原理决定了,通讯的双方必然知道对方的IP地址。因此,你访问网站,网站就一定知道你访问它时使用的IP地址,这个功能与定位权限没有关系。IP地址有多少个呢?目前广泛使用的IPV4协议,使用了32位数据存储,地址一共有42亿多个,而且这原创 2022-05-13 22:44:36 · 2632 阅读 · 4 评论 -
一年发表6篇顶会的秘密
大家好,我是对白。作为一个平时就很辛苦的科研er,本着能用工具解决的问题绝对不花苦力的原则,收集了很多科研利器,现在分享给大家,相信大家看完以后科研效率都能够得到质的提升!俗话说“工欲善其事,必先利其器”,在搞科研的过程中“升级打怪”,又怎能少的了一些利器加持呢?一. 文献管理软件1)Endnote首选当然是大名鼎鼎的Endnote。Endnote是一款文献管理和编辑软件,帮助你在论文中管理你想要插入的参考文献,统一更改文献的格式。对于想要针对性的投稿某家杂志的文章,还可以下载该杂志的参考文献引用格式,动动原创 2022-05-07 22:53:15 · 350 阅读 · 0 评论 -
我确实在DL上没有天赋
大家好,我是对白。今天给大家分享一位博主对于深度学习的看法,文笔清奇而幽默。炼丹多了,会感觉DL越来越玄学,越来越难以解释,到现在我也有这样的感触,只能通过多做几组实验来解除困扰,以下为原文。作者:Cherrise | 编辑:对白的算法屋https://zhuanlan.zhihu.com/p/466568642我确实在DL上没有天赋,不知道CNN和RNN有啥作用。我确实无法理解神经网络结构,也不知道如何修改结构,一时间只能将其理解为玄学。我确实学不会DL,我所有项目的神经网络都是照抄开源项目的,我甚至连任原创 2022-05-06 22:11:38 · 373 阅读 · 0 评论 -
经验贴 |在字节做推荐算法实习生
大家好,我是对白。今天给大家分享一位腾讯程序媛之前在字节实习的经历,她做的是推荐算法方向,字节已经是她实习的第五家公司了,在字节的工作环境和体验究竟如何,让我们一起来看一看,以下为原文。我所在的部门是data-推荐,负责西瓜视频的所有算法,包括推荐、内容理解等,和今日头条、番茄小说是一个大部门,周会在一起开。部门内有近半清北,还有几位姚班同学和多位ACM金牌,近几个月来了不少大三研二的实习生。一. 工作环境字节的特点主要体现在:设备齐全、福利好、大小周。1、设备齐全字节入职的实习生,即使是实习生也会配置新款原创 2022-05-05 19:12:31 · 880 阅读 · 0 评论 -
超越GraphCL,GNN+对比学习的节点分类新SOTA
拿捏了原创 2021-12-07 02:14:42 · 2988 阅读 · 0 评论 -
业界盘点|为什么推荐算法都开始结合图神经网络了?
点击上方,选择星标或置顶,每天给你送上干货作者 | 对白出品 | 对白的算法屋编者寄语:本文看完,相信你也能熟练掌握这些基于GNN的推荐模型。大家好,我是对白。 图神经网络(GNN)相信大家也不陌生了,在还没有Graph Embedding之前,节点的属性信息可以通过Item2vec这种序列化Embedding的方式去学习,效果虽然不错,但它忽略了节点的结构信息。而GNN能够自然地整合节点属性信息和拓扑结构信息,因此在许多领域广泛应用。在推荐系统中,目前的主要挑战是从用户-物品交互以及辅助信息中学原创 2021-10-01 21:53:58 · 600 阅读 · 0 评论