2024深度学习发论文&模型涨点之——PINN+频域
之前说过PINN一直是火爆且好发论文的方向,目前已有多篇成果登上Nature及Science正刊。今天再给大家介绍一个好发又不卷的新风向——PINN+频域!
FD-PINN(频域物理信息神经网络):这是一种新的PINN变体,它通过将偏微分方程在周期性空间维度上进行离散傅里叶变换,将原始的偏微分方程转化为频域中的低维微分方程组。这种方法不仅减少了自变量的数量,而且降低了求解难度。与经典的PINN相比,FD-PINN能够减少输入样本的数量和优化难度,从而在降低训练成本的同时提高求解精度。在热传导方程、速度势方程和Burgers方程的求解中,FD-PINN能够将求解误差降低1到2个数量级,同时将训练效率提升6到20倍。
PINNFD(物理信息神经网络频域方法):这种方法通过构建所有频率的傅里叶特征并将其嵌入到模型中,以解决PINN固有的谱偏差问题,使其能够更准确地逼近多频率目标函数,例如弹性动力学问题的解。在各种动态点载荷(包括单频谐波载荷、多频谐波负载、多频随机负载)的求解中,PINNFD方法表现出了优越性,特别是在多频随机载荷下的问题求解中,相较于传统PINN方法,PINNFD取得了更好的结果。
这些成果表明,将PINN与频域方法结合,可以显著提高PINN在求解偏微分方程时的效率和精度,尤其是在处理多频率问题时。
我整理了一些PINN+频域【论文+代码】合集,需要的同学公人人人号【AI创新工场】自取。
论文精选
论文1:
[Nature] SRS-Net: a universal framework for solving stimulated Raman scattering in nonlinear fiber-optic systems by physics-informed deep learning
SRS-Net:一种通过物理信息深度学习解决非线性光纤系统中受激拉曼散射的通用框架
方法
-
物理信息神经网络(PINN):结合神经网络的高效自动微分和强大表示能力,以及受激拉曼散射(SRS)物理定律的规律化,以获得SRS问题的通用解决方案。
-
自动微分(AD):利用神经网络的自动微分能力,消除了传统数值方法中常用的步长或网格生成需求,同时处理整个求解域。
-
神经网络结构:SRS-Net由神经网络和SRS偏微分方程(PDE)的物理规律化组成,通过最小化数据项和物理规律项的均方误差(MSE)进行训练。
创新点
-
通用解决方案框架:SRS-Net能够同时解决前向、逆向和组合问题的SRS,超越了传统方法的局限性,提供了一个统一的解决方案。
-
自动微分(AD)的应用:SRS-Net利用AD消除了传统数值方法中对步长或网格生成的需求,提高了计算效率,实现了对整个求解域的同时处理。
-
实验验证:SRS-Net在C+L带WDM系统中进行了实验验证,展示了其在高保真度建模中的能力,预测速度比传统方法提高了两个数量级。
-
性能提升:在预测速度上,SRS-Net比传统数值方法快了100倍以上,优化和识别效率提高了一倍以上,同时在稳定性和易用性方面也表现出色。
论文2:
Fourier Domain Physics Informed Neural Network
傅里叶域物理信息神经网络
方法
-
傅里叶域物理信息神经网络(FD-PINN):将物理信息神经网络(PINN)架构扩展到傅里叶域,以包括物理和傅里叶域的先验知识。
-
连续时间FD-PINN(CFD-PINN):预测广义脉冲传播方程的准确解,包括完整的延迟非线性响应。
-
离散时间FD-PINN(DFD-PINN):从空间分离的测量点恢复延迟响应物理。
创新点
-
傅里叶域的应用:FD-PINN框架特别针对由部分积分-微分方程(PIDEs)控制的系统,这些方程在超快非线性光学中普遍存在。
-
高保真预测建模:CFD-PINN在数据匮乏和噪声环境下,能够实现高保真度的预测建模和隐藏物理恢复。
-
从稀疏数据中恢复物理:DFD-PINN能够从仅有的输入和输出(空间稀疏)噪声场数据中恢复拉曼响应,这对于实验部署具有重要意义。
-
性能提升:FD-PINN在低信噪比(SNR)下表现出色,能够从噪声中恢复真实数据,提高预测的信噪比,这对于实验中的信号处理尤为重要。
论文3:
[Nature] Physics informed neural network can retrieve rate and state friction parameters from acoustic monitoring of laboratory stick-slip experiments
物理信息神经网络可以从实验室粘滑实验的声学监测中检索速率和状态摩擦参数
方法
-
物理信息神经网络(PINN):结合被动声学(方差、峰度和声发射率)和主动源超声监测(透射波幅度)数据,开发了包含速率和状态摩擦(RSF)定律和声发射率生成方程的PINN模型。
-
转移学习(TL):通过在一个正应力水平上预训练数据,然后在重新训练有限的新数据后,预测其他应力水平下的剪切失败和检索RSF参数。
创新点
-
RSF参数的直接学习:PINN框架允许从粘滑实验中直接学习RSF参数,而不是通过一系列速度步实验来测量。
-
转移学习(TL)的应用:TL PINN模型在预训练后能够适应不同的应力水平,表现出比单独模型更好的性能。
-
性能提升:在不规则的粘滑周期中,PINN模型比数据驱动的深度学习模型表现更好,显示出在复杂实验条件下的优势。
-
摩擦状态变量的代理:通过将透射波幅度作为摩擦状态变量的代理,PINN框架能够学习RSF参数,这为实验中的摩擦行为分析提供了新的视角。
论文4:
Fourier PINNs: From Strong Boundary Conditions to Adaptive Fourier Bases
傅里叶物理信息神经网络:从强边界条件到自适应傅里叶基
方法
-
强边界条件PINNs(Strong BC PINNs):研究了针对Dirichlet边界条件的PINNs版本,通过固定多项式边界函数集成到NN架构中以精确满足边界条件。
-
傅里叶分析:基于傅里叶变换和卷积定理对强BC PINNs和标准PINNs进行理论分析,发现强BC PINNs能更好地学习目标解的高频分量的幅度。
-
傅里叶PINNs架构:提出了一种新的PINN架构,通过预指定的密集傅里叶基增强PINNs,不受特定边界条件或问题域的限制。
-
自适应学习和基选择算法:开发了一种通过交替神经网络基优化、傅里叶和神经网络基系数估计以及系数截断的算法,灵活识别重要频率。
创新点
-
强BC PINNs的性能提升:与标准PINNs相比,强BC PINNs在相对误差上显示出一致的下降,尤其在学习高频问题时表现出显著改进。
-
傅里叶PINNs架构的普适性:提出的傅里叶PINNs架构能够不受特定边界条件或问题域的限制,学习高频分量,类似于强BC PINNs。
-
自适应学习和基选择算法:通过L2正则化项促进模型专注于学习最重要的频率,实现了在所有测试案例中保持低解误差(例如,∼10^-3或∼10^-4),而标准PINNs则无法达到可比的精度。
-
计算效率:傅里叶PINNs在保持计算效率的同时,只需要指定足够大的范围和小的间距,无需关心真实解中实际的频率数量和规模,从而减少了对用户指定超参数的依赖。
论文5:
Microseismic source imaging using physics-informed neural networks with hard constraints
使用带有硬约束的物理信息神经网络进行微地震源成像
方法
-
物理信息神经网络(PINNs):提出了一个基于PINNs的直接微地震成像框架,用于生成聚焦的源图像,即使在非常稀疏的记录下也能实现。
-
硬约束:通过硬约束的方式修改频率域波场的表示,以固有地满足边界条件(地表上的测量数据),避免了在PINNs中平衡数据和PDE损失的困难。
-
因果损失函数:提出了关于深度的因果损失函数实现,以增强PINNs的收敛性。
-
数值实验:在Overthrust模型上的数值实验显示,该方法可以可靠且准确地对单源或多源进行源成像,甚至在被动监测设置中也是如此。
创新点
-
直接源成像框架:开发了基于带有硬约束的PINNs的直接源成像框架,提高了成像的准确性和可靠性。
-
硬约束的稳定性:通过硬约束的实现,使用参考频率损失函数,提高了训练过程的稳定性。
-
因果损失函数的收敛性:通过在深度方向上施加因果性,加速了PINNs的收敛速度,提高了预测的准确性。
-
与时间反转方法的比较:与时间反转方法相比,提出的方法结果一致但噪声更小,展示了在全局事件定位中的潜力。