大家好,我是微学AI,今天给大家介绍一下深度学习实战82-新的研究方向:大模型与图模型结合生成大型图模型,大图模型相关挑战和机遇的观点。随着人工智能的飞速发展,大型模型已成为人工智能领域最新的突破性成就。在图方面,大型模型尚未取得与自然语言处理和计算机视觉等其他领域相同的成功水平。为了促进大型图模型的应用,我将介绍开发大型图模型相关的挑战和机遇。
文章目录
一、大型图模型的特点
与LLM类似,大图模型可以被描述为具有大量参数的图模型,这些参数赋予它比小语言模型更强大的能力模型,从而促进图形相关任务的理解、分析和处理。 除了众多的参数之外,我们从以下几个角度总结了理想大图模型的关键期望特征。 图1 中提供了这些特性的说明。
具有缩放定律的图模型
缩放定律表明了一种经验现象,即随着模型大小、数据集大小和训练计算量的增加,大语言模型的性能不断提高. 这种现象为提高性能和使模型能够捕获图形数据中的复杂模式和关系提供了明确的方向。 通过效仿大语言模型[17]的成功,大型图模型有望展现出较小模型所缺乏的涌现能力。 然而,在大型图模型中实现这一目标非常重要,其困难包括从收集更多图数据到解决技术问题,例如解决图神经网络的过度平滑和过度挤压问题,以及工程和系统挑战。