PINN再发力！结合GNN顶会频发，冲到一区

2024深度学习发论文&模型涨点之——PINN+GNN

PINN研究热度持续不减，结合GNN顶会频发，冲到一区!

PINN+GNN指的是将物理信息神经网络（Physics-Informed Neural Networks, PINN）与图神经网络（Graph Neural Networks, GNN）结合的方法。

将PINN与GNN结合可以发挥两者的优势，即PINN的强大建模能力与GNN的优秀图结构数据处理能力，共同提升模型的性能以及在复杂物理问题求解中的效率和准确性。

我整理了一些PINN+GNN【论文+代码】合集，需要的同学公人人人号【AI创新工场】自取。

论文精选

论文1：

PHYMPGN: PHYSICS-ENCODED MESSAGE PASSING GRAPH NETWORK FOR SPATIOTEMPORAL PDE SYSTEMS

PhyMPGN：物理编码的消息传递图网络用于时空偏微分方程系统

方法

图神经网络（GNN）：将GNN整合到数值积分器中，以近似给定PDE系统时空动态的时间演化。

可学习的拉普拉斯块：设计了一个可学习的拉普拉斯块，编码了离散的拉普拉斯-贝特拉米算子，以帮助和指导GNN在物理可行的解空间中学习。

边界条件填充策略：提出了一种新的边界条件填充策略，以提高模型的收敛性和准确性。

创新点

物理编码图学习模型：通过消息传递机制在粗分辨率非结构化网格上模拟时空动态，提高了模型在复杂条件下的预测能力，实验结果显示在多种时空动态预测上超越其他基线模型超过50%的性能提升。

可学习的拉普拉斯块：该块编码了离散的拉普拉斯-贝特拉米算子，显著提高了模型在物理可行解空间中的学习效率和精度。

边界条件填充策略：新策略通过在物理空间和潜在空间中编码不同类型的边界条件，提高了模型的收敛性和准确性，实验结果表明在粗非结构化网格上预测拉普拉斯算子时，均方误差（MSE）和相对L2范数误差（RNE）显著降低。

论文2：

Combining physics-informed graph neural network and finite difference for solving forward and inverse spatiotemporal PDEs

结合物理信息图神经网络和有限差分求解前向和逆时空偏微分方程

方法

物理信息图神经网络（PIGNN）：提出了一种新的离散方法，结合图神经网络（GNN）、物理定律和有限差分法来近似物理系统的解。

有限差分方法：提出了一种基于有限差分的方法，结合最小二乘技术来近似图上定义的微分算子。

创新点

物理信息图神经网络（PIGNN）：在处理不规则网格、长时步、灵活空间分辨率和多样化的初始及边界条件方面展现出优越性能，实验结果在准确性、时间外推性、泛化性和可扩展性方面均优于现有PINN基线模型。

有限差分方法与最小二乘技术的结合：提供了对微分算子近似误差的理论讨论，增强了模型在复杂科学问题中的适用性和准确性。

模型适应性：模型在小规模、简化域上训练后展现出强大的拟合能力，并且可以直接转移到更复杂、更大规模的场景中，实验结果表明在多个典型PDEs上的性能优于基线模型。

论文3：

SyncTREE: Fast Timing Analysis for Integrated Circuit Design through a Physics-informed Tree-based Graph Neural Network

SyncTREE：通过物理信息树基图神经网络进行集成电路设计的快速时序分析

方法

树基图神经网络（SyncTREE）：提出了一种新颖的基于树的图神经网络模型，用于加速集成电路（IC）互连的时序分析。

两阶段消息传递机制：采用自底向上和自顶向下的两阶段消息传递机制进行图嵌入。

树对比损失（Tree Contrastive loss）：设计了一种新的对比损失函数，以指导学习过程。

创新点

树基图神经网络（SyncTREE）：在延迟和斜率预测方面均优于现有的GNN基线模型，实验结果显示在合成数据集和RISC-V数据集上的平均绝对误差（MAE）显著降低。

两阶段消息传递机制：通过整合不同层级的信息，增强了节点特征的表达能力，避免了过平滑问题，提高了模型的准确性和泛化能力。

树对比损失（Tree Contrastive loss）：基于RC路径上时序延迟的单调属性，优化了节点表示的相似性，实验结果表明在训练过程中有效提高了模型的性能和损失优化的收敛性。

论文4：

Physics-informed and graph neural networks for enhanced inverse analysis

物理信息和图神经网络用于增强的逆向分析

方法

物理信息神经网络（PINNs）：利用特定位置和时间收集的数据确定抛物线偏微分方程的未知源项。

图神经网络（GNNs）：从单一测量场历史中学习未知模型，定位材料属性不同的区域。

数据整合：结合物理知识和有限测量数据，通过正则化技术提高源检测精度。

模型假设：假设源分布或物理属性不同的区域具有稀疏性。

创新点

双方法论：提出了两种基于神经网络架构的原创方法，能效执行逆向分析，提升了模型的适用性和灵活性。

稀疏性假设：通过假设稀疏性，提高了逆向分析的效率和准确性。

性能提升：在热问题和污染源检测案例中，PINNs和GNNs展现出比传统方法更优的性能，尤其在源定位精度上。