Transformer 能代替图神经网络吗?

当Transformer模型发布时，它彻底革新了机器翻译领域。虽然最初是为特定任务设计的，但这种革命性的架构显示出它可以轻松适应不同的任务。随后成为了Transformer一个标准，甚至用于它最初设计之外的数据（如图像和其他序列数据）。

然后人们也开始优化和寻找替代方案，主要是为了减少计算成本（自注意力机制的二次方成本）。关于哪种架构在计算成本方面更优的讨论一直在进行，但是对于Transformer来说，它的成功之处在于模型能够展示出强大的推理能力。

如何分析神经网络的推理能力？

最常用的方法之一是研究利用架构内部表示能执行哪些算法。有一个完整的领域致力于这项任务：Neural algorithmic reasoning。Transformer是否能进行泛化，或者通过扩展是否能解决一些问题，这些问题仍然悬而未决，并且这方面的研究也十分活跃。

有些人认为Transformer具有普适推理能力，而其他人认为它是引领我们走向人工通用智能的架构（假设我们能够足够扩展它），但是目前看Transformer能够在不同的领域，NLP，时间序列，甚至CV中取得良好的成绩但是测试其极限也非常重要。我们不仅需要测试它的极限，还需要与其他架构进行比较，并在未来建立基准。

在最近的一项研究中，研究人员决定深入研究一个特定的领域：图神经网络。

今天介绍的这篇论文叫“Understanding Transformer Reasoning Capabilities via Graph Algorithms”。

这可能听起来有些奇怪，但近来Transformer（以及大型语言模型）与图（Graphs）之间的关系越来越密切。首先，自注意力可以被视为一种图的形式。其次，图（尤其是知识图谱）可以用来扩展Transformer。第三，图是复杂推理的理想抽象。思维链条和其他技术也可以被视为图的一种抽象。另外许多图问题可以通过简单的架构解决，而其他问题则需要复杂的推理和先进的图神经网络（GNNs）。

图计算已经成为过去几十年计算和人工智能中几个成功设计的基础之一，例如用于蛋白质预测的AlphaFold。许多推理任务可以表达为关于图的推理（这就是为什么像Tree of Thoughts或Graph of Thoughts这样的技术显示出成功）。所以这似乎是测试Transformer能力的最佳选择。

尽管有不同的理论前提，但是进行严格分析并不容易：

图推理任务可以被归类到已知的计算类别中。但是当我们想要评估一个神经网络解决这些任务的能力时，情况就不同了。在Transformer的情况下，我们也感兴趣的不仅仅是固定深度的情况，还有通过改变层数从而学习更简单或更复杂的表征时的变化。并且Transformer也可以在宽度上增长，这在考虑到对上下文长度的重新关注时尤其相关。

作者总结了三类任务，它们的难度逐步增加，只能通过越来越复杂的模型来解决：

• 检索任务。 节点计数、边计数、边存在检查和节点度数是只需要一次查找的任务，因此只需要一个Transformer层和一个小型嵌入。

• 可并行化任务。 连通性、连接节点和循环检查（以及更复杂的任务如二分性和平面性）可以用对数深度的Transformer解决。

• 搜索任务。 最短路径和其他需要更多推理的任务需要模型的扩展。

论文中进行了几项理论分析，展示了Transformer如何解决这些任务以及解决这些任务所需的维度要求。另一个有趣的点是，作者还分析了“pause tokens”的影响。

结果

在对Transformer的推理能力进行了实证分析后。他们选择使用从头开始训练的模型（最多60M参数），对预训练的Transformer（T5，带11B参数）进行微调，测试提示技术，并将其与图神经网络（GNNs）进行比较。使用GraphQA基准任务进行了实验。

图推理算法可以分为局部和全局两种。前者在局部聚合信息（节点及其邻居），而后者模拟节点之间可能是长距离的全局连接。论文主要专注于全局任务，如评估连通性或计算最短路径（这些任务需要分析图的全局结构）。在少数示例情况下，图神经网络（GNNs）在这些任务中更为高效，但通过增加示例数量，Transformer的表现更好（Transformer仍然具有弱归纳偏见，需要许多示例才能最好地学习）。对Transformer进行微调也对预训练的Transformer有积极影响。

以前的研究已经表明，对于图神经网络（GNN）来说，以参数效率的方式解决连通性存在限制。微调后的模型似乎对连通性和最短路径都更有效。虽然Transformer在解决全局任务方面更有效，但GNN在分析局部推理的任务中似乎更为高效：

表明GNN对于学习可以通过专门关注局部启发式解决的图推理任务具有有益的归纳偏见。（论文原文翻译）

在GNN中的消息传递框架便于节点与其邻居之间的信息传递（每增加一层相当于图中的一次跳跃）。相比之下，注意力机制计算每对标记之间的关系，因此它通过全局任务来促进，但在数据量较低的情况下，识别重要的局部关系更为困难。

作者还测试了使用大型语言模型（LLM）的情况，对表现优异的Transformer进行微调优于使用提示方法。尽管在训练过程中，LLM会在语料库中看到图数据，因此并不是完全没有接触过此类数据。但这表明在特定任务的情况下专业的小模型还是要更好，并且微调要比直接使用提示的方式好。

总结

这篇论文详细展示了Transformer在图推理方面的能力，并且涵盖了不同的参数缩放模式。许多问题可以被重新表述为图问题，所以这篇论文还是值得阅读。并且论文还显示，一些能力的展示需要一定的网络深度，以便让Transformer解决问题。例如在需要全局推理的任务中，Transformer超过了图神经网络（GNN），这得益于自注意力机制，它允许长距离依赖关系被高效评估。这些发现为使用Transformer处理具有复杂全局依赖性的图推理任务提供了理论和实证支持。

论文地址：

https://arxiv.org/abs/2405.18512

作者：Salvatore Raieli

读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓