Relational inductive biases, deep learning, and graph networks

最新推荐文章于 2020-03-02 23:39:56 发布
最新推荐文章于 2020-03-02 23:39:56 发布
阅读量345 收藏
点赞数
分类专栏： 论文笔记

题目： Relational inductive biases, deep learning, and graph networks
单位： DeepMind, Google Brain, MIT, University of Edinburgh
出版： Arxiv

提出的观点

如果AI要获得与人类相近的能力，那么组合泛化(combinatorial generalization)一定是最优先要完成的，而结构化的表示和计算是其中关键。我们拒绝人工的特征工程和端到端的学习，支持从他们互补能力(complementary strength)中获益的方法。我们探索了如何利用深度学习中的关系归纳偏置(relational inductive biases)才能更好地学习实体，关系，以及组合它们的规则，提出了一个强大的关系归纳偏置组件——图网络。图网络推广延伸了与图相关的神经网络的各种方法，并提供了操纵结构化知识，生成行为的直接接口。

组合泛化

从已得到的模块中构建新的推断，预测和行为。

why graph network？
我爱写报告
关注
专栏目录
Relational inductive biases, deep learning, and graph networks（关系归纳偏差、深度学习和图形网络）
weixin_41697507的博客
07-15 4981
Relational inductive biases, deep learning, and graph networks Peter W. Battaglia1, Jessica B. Hamrick1, Victor Bapst1, Alvaro Sanchez-Gonzalez1, Vinicius Zambaldi1, Mateusz Malinowski1, Andrea Tacche...
《Relational inductive biases, deep learning, and graph networks》图网络 论文解读
handsome_happy的博客
06-15 1万+
研究背景：机器学习界有三个主要学派，符号主义（Symbolicism）、连接主义（Connectionism）、行为主义（Actionism）。符号主义的起源，注重研究知识表达和逻辑推理。经过几十年的研究，目前这一学派的主要成果，一个是贝叶斯因果网络，另一个是知识图谱。贝叶斯因果网络的旗手是 Judea Pearl 教授，2011年的图灵奖获得者。但是据说 2017年 NIPS 学术会议上，老爷子...
GNN初学笔记（一）—— Relational inductive biases, deep learning, and graph networks简要解析
qq_770318625的博客
03-25 2389
GNN初学笔记（一）—— Relational inductive biases, deep learning, and graph networks文献学习 （我会在每个术语解释后面加入自己的理解，若有错误恳请指正） 这篇文献首先阐释AI如何模拟人类的学习能力，即组合泛化能力（combinatorial generalization），总结了目前深度学习“端到端”（end to en...
读书笔记7：Relational inductive biases, deep learning, and graph networks
b224618的博客
08-16 4520
在摘要中，作者就阐明了写作本文的动机，人工智能在近几年由于廉价的数据和计算资源而得到复兴，但是人类智能的很多关键特征，AI还无法实现。具体来讲，作者指的是人类将已有的经验推广的能力还没能在AI中实现，这个能力在后文也被称作combinatorial generalization，也即通过组合已有的东西来获得新的东西。 本文的很大一部分是对之前工作的回顾和整合，还有一部分是提出了新的模型。作者在本...
Relational inductive biases, deep learning, and graph networks 论文导读，DeepMind图网络
manquyuan0078的博客
12-10 1259
Relational inductive biases, deep learning, and graph networks 论文导读 标题：《关系归纳偏好、深度学习和图网络》   一、推荐理由 简述：DeepMind联合谷歌大脑、MIT等机构的27位作者发表重磅论文，提出“图网络”（Graph network, GN）。     DeepMind作为行业标杆，其动向一直是AI业界的...
图网络-Relational inductive biases, deep learning, and graph networ
08-04
总结起来，"Relational inductive biases, deep learning, and graph networks"这篇文章强调了在AI发展中，结构化表示和组合泛化的重要性。图网络作为一种强大的工具，为解决这一问题提供了新的视角，它能够帮助AI...
论文笔记11：Relational inductive biases, deep learning, and graph networks翻译笔记
腾云
05-24 3888
关系归纳偏置、深度学习和图网络 DeepMind; Google Brain; MIT; University of Edinburgh 参考 https://zhuanlan.zhihu.com/p/40733008 摘要 人工智能近几年大火起来，在计算机视觉、自然语言处理、控制和决策等关键领域取得重大进展。这在一定程度上归因于廉价的数据和计算资源，它们符合深度学习的本质优势。然而，人类...
GGNN和GCN的几篇论文笔记
03-10
GGNN和GCN的几篇论文笔记，介绍常用的两种图神经网络。个人笔记。
DeepMind 关系型深度强化学习 Relational Deep Reinforcement Learning
04-03
Relational Deep Reinforcement Learning--We introduce an approach for deep reinforcement learning (RL) that improves upon the efficiency, generalization capacity, and interpretability of conventional approaches through structured perception and relational reasoning. It uses self-attention to iteratively reason about the relations between entities in a scene and to guide a model-free policy. Our results show that in a novel navigation and planning task called Box-World, our agent finds interpretable solutions that improve upon baselines in terms of sample complexity, ability to generalize to more complex scenes than experienced during training, and overall performance. In the StarCraft II Learning Environment, our agent achieves state-of-the-art performance on six mini-games – surpassing human grandmaster performance on four. By considering architectural inductive biases, our work opens new directions for overcoming important, but stubborn, challenges in deep RL.
Relational inductive biases, deep learning, and graph networks的学习笔记
qq_41563394的博客
03-02 437
关于一个对Relational inductive biases, deep learning, and graph networks的个人理解 文章目录关于一个对Relational inductive biases, deep learning, and graph networks的个人理解AbstractIntroductionReference Abstract AI现在已经开始发展到一...
《Relational inductive biases, deep learning, and graph networks》笔记
qq_24548569的博客
08-04 516
该论文的作者来自AI界的两大组织——DeepMind和Google Brain，应该都是大牛。该论文主要回顾和总结现有的图网络，统一和扩展现有的方法，提出了自己的图网络结构 graph networks。 Combinatorial generalization 论文首先提出了一个观点：组合泛化combinatorial generalization。人类智慧的一个关键特征是能够“无限地使用有限的...
【译】Relational inductive biases, deep learning, and graph network（未完成）
技术杂谈
12-24 1260
关系归纳偏置、深度学习、图网络 摘要   人工智能（AI）最近经历了一次复兴，在视觉、语言、控制和决策等关键领域取得了重大进展。这在一定程度上要归因于廉价的数据和廉价的计算资源，因为这些资源符合深度学习的自然优势。然而，在不同的压力下发展起来的人类智力的许多决定性特征，仍然是当前方法无法实现的。特别是，超越个人经验的概括——从婴儿时期开始的人类智能的标志——仍然是现代人工智能的一项艰巨挑战。   ...
Relational inductive biases, deep learning, and graph networks论文学习笔记
Frankwz的专栏
06-14 333
Relational inductive biases, deep learning, and graph networks论文学习摘要1.简介2.关系归纳偏好2.1 标准深度学习构造块中的关系归纳偏好2.1.1 全连接层（Fully connected layers）2.1.2 卷积层（Convolutional layers）2.1.3 循环层（Recurrent layers）2.2 集合和...
Relational inductive biases, deep learning, and graph networks阅读笔记
野有蔓兮的博客
03-07 965
boss发了一篇名为Relational inductive biases, deep learning, and graph networks论文给我，让学习一下，并做一次简短的读书报告，遂查阅了一些资料，并做了一些笔记和大家分享一下。 论文标题： Relational inductive biases, deep learning, and graph networks 论文地址: https...
GNN新作《Relational inductive biases，deep learning，and graph networks》读书笔记
Trasper1的博客
08-07 7763
当下AI的瓶颈： 静观现有AI，尤其是Deep Learning的发展如火如荼，几大热炒的明星模型无非MLP，CNN，和RNN。这些模型更倾向于是对现实世界的representation learning，其最大的问题有二： Combinatorial Generalization （CG）：即泛化能力，如何解决利用有限样本学习无限可能的这个本质难点，即如何实现‘infinite use of ...
CNN已老，GNN来了：重磅论文讲述深度学习的因果推理（附资源）
热门推荐
THU数据派
06-19 3万+
来源：新智元本文共4263字，建议阅读8分钟。本文讲述了DeepMind联合谷歌大脑、MIT等机构27位作者发表重磅论文，提出“图网络”（Graph network），将...
relational inductive biases, deep learning, and graph networks
最新发布
04-11
关系归纳偏置、深度学习和图网络的关系是什么？ 这是关于深度学习和图网络之间的关系以及它们如何利用关系归纳偏置的一个问题。关系归纳偏置指的是，在处理一个含有关系的问题时，我们的大脑有一些天然的偏好和策略来处理这种关系性信息，这些偏好和策略被认为是在我们学习中的重要因素。图网络是由节点和边组成的结构，能够代表关系，而深度学习是一种机器学习方法，它可以根据大量数据学习到关系归纳偏置，从而更好地处理关系性信息。因此，关系归纳偏置在深度学习和图网络的设计中起着重要的作用。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值