PINN再登Nature！2025持续发力！

于 2025-02-25 10:32:29 发布
阅读量1.2k 收藏 9
点赞数 15
文章标签： cnn lstm 人工智能 深度学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/d22800/article/details/145846356
版权

物理信息神经网络（Physics-Informed Neural Networks，简称PINN）是一种将深度学习与物理建模相结合的神经网络模型。它通过将物理定律（通常是偏微分方程或常微分方程）嵌入到神经网络的损失函数中，使模型在训练过程中能够同时满足物理规律和数据约束

我还整理出了相关的论文+开源代码，以下是精选部分论文

更多论文料可以关注：AI科技探寻，发送：111  领取更多[论文+开源码】

论文1

标题：

Wavelets based physics informed neural networks to solve non-linear differential equations

基于小波的物理信息神经网络求解非线性微分方程

方法：

  • 小波激活函数：在物理信息神经网络（PINN）中引入小波作为激活函数，利用小波的多分辨率分析和局部化特性来增强网络的泛化能力。

  • 物理信息神经网络（PINN）：通过将物理定律嵌入损失函数中，构建一个近似微分方程解的神经网络，并通过优化损失函数来训练网络。

  • 损失函数设计：定义了包含微分方程残差、边界条件和初始条件的损失函数，通过最小化该损失函数来优化网络参数。

创新点：

  • 小波激活函数的应用：使用小波作为激活函数，相比传统的激活函数（如tanh），在求解Blasius方程时，相对L2误差降低了约6.59E-03，且学习速度更快。

  • 多种小波函数的比较：研究了Morlet小波、墨西哥帽小波和高斯小波三种不同的小波函数，并发现墨西哥帽小波在某些问题中表现最佳，其相对L2误差最低。

  • 耦合方程的求解：将该方法扩展到求解线性和非线性耦合方程，通过分别使用独立的神经网络模型来近似不同的函数，简化了网络架构并提高了求解精度。

image.png

论文2

标题：

Physics-Informed Neural Operator for Learning Partial Differential Equations

用于学习偏微分方程的物理信息神经算子

方法：

  • 物理信息神经算子（PINO）：提出了一种结合训练数据和物理约束的学习框架，用于学习给定参数化偏微分方程（PDE）族的解算子。

  • 多分辨率数据与PDE约束：在PINO中，将低分辨率的训练数据与高分辨率的PDE约束相结合，以提高解算子的近似精度。

  • 傅里叶神经算子（FNO）框架：基于FNO框架，通过在更高分辨率下添加PDE约束，实现对真实解算子的高保真重建。

创新点：

  • 多分辨率学习：首次将数据和PDE约束在不同分辨率下结合，即使在只有低分辨率训练数据的情况下，也能在高分辨率测试实例上实现几乎无误差的解算子近似，相对误差降低了约7%。

  • 零样本超分辨率：在没有高分辨率训练数据的情况下，PINO能够通过PDE约束预测超出训练数据分辨率的解，且在Kolmogorov流问题中，与仅使用数据驱动方法相比，误差显著降低。

  • 物理约束的优化优势：相比纯数据驱动方法，PINO通过添加PDE约束，显著提高了算子学习的泛化能力和物理合理性，且在求解时间依赖PDE时，优化挑战更小。

image.png

论文3

标题：

Data-driven modeling of dislocation mobility from atomistics using physics-informed machine learning

基于小波的物理信息神经网络求解非线性微分方程
方法：

  • 物理信息图神经网络（PI-GNN）：提出了一种基于物理信息的图神经网络框架，用于从原子尺度模拟中学习位错迁移率定律。

  • 高通量分子动力学模拟：通过自动化高通量大规模分子动力学（MD）模拟生成训练数据，涵盖不同的温度和应力条件。

  • 不确定性量化驱动的主动学习（UQ-AL）：采用主动学习框架，动态选择最具不确定性的数据点进行模拟，以加速模型训练和收敛。

创新点：

  • PI-GNN框架：相比传统的基于经验的位错迁移率模型，PI-GNN能够更准确地捕捉BCC金属中复杂的位错动力学行为，预测误差降低了约50%。

  • 主动学习效率提升：通过UQ-AL框架，相比被动学习方法，减少了超过40%的计算资源消耗，显著提高了数据生成和模型训练的效率。

  • 模型泛化能力：PI-GNN不仅能够学习特定数据集的位错行为，还能泛化到未见的位错构型（如从偶极子数据泛化到剪切环数据），泛化误差控制在20%以内。

image.png

论文4

标题：

Physics-informed learning of governing equations from scarce data

从稀疏数据中学习物理定律的物理信息学习方法

方法：

  • 物理信息神经网络与稀疏回归（PINN-SR）：提出了一种结合深度神经网络和稀疏回归的方法，用于从稀疏和噪声数据中发现偏微分方程（PDE）。

  • 自动微分：利用自动微分技术计算系统变量的导数，避免了传统方法中数值微分带来的误差。

  • “根-分支”网络架构：设计了一种能够处理来自不同初始/边界条件的多数据集的网络架构，增强了模型的泛化能力。

创新点：

  • 稀疏数据适应性：相比传统的SINDy方法，PINN-SR能够在数据稀疏和噪声较高的情况下准确发现PDE，例如在10%噪声水平下，Burgers方程的发现误差仅为0.88%。

  • 多数据集处理能力：通过“根-分支”网络架构，能够同时处理多个独立数据集，显著提高了模型在复杂条件下的适用性。

  • 计算效率提升：通过ADO算法，相比直接优化的方法，显著提高了优化效率和收敛速度，减少了计算资源消耗。

  • 物理可解释性：通过稀疏回归得到的PDE系数具有明确的物理意义，能够直接揭示系统的物理规律，例如在细胞迁移和增殖实验中，成功发现了与Fisher-Kolmogorov模型一致的PDE。

image.png

 

更多论文料可以关注：AI科技探寻，发送：111  领取更多[论文+开源码】 

物理信息神经网络杀疯了！Nature+Science=PINN
2401_88556812的博客
11-04 3138
你结合自己的数据集，换个场景，便又是新文章！与传统的数据驱动的神经网络不同，PINN在学习过程中利用物理法则对模型进行指导，从而提高模型泛化能力，特别是在数据较少或噪声较大的情况下。在合成数据集、基准测试数据集和现实世界的生物组织数据集上，所提出的方法一致性地超越了现有的非元转移学习方法和其他基于梯度的元学习方法。设计了一种新的网络架构，能够处理来自不同初始/边界条件的多个独立数据集，增强了模型的泛化能力。提出了一种新的优化策略，有效地处理了稀疏回归中的非光滑优化问题，提高了模型的优化效率和准确性。
性能暴涨97％！PINN+迁移学习联合思路发Nature，性价比也太高了！
学姐带你玩AI的博客
12-03 1159
这是因为：这种结合方法能够利用已有的知识和数据来加速新任务的学习过程，减少对大量标注数据的依赖。而且可以在保留迁移学习优势的基础上，进一步利用物理定律来优化模型的性能和泛化能力。这就意味着PINN+迁移学习因此这个方向在各大CV任务、医疗诊断等多个应用场景都很受欢迎，且成果斐然，比如Nature子刊上基于DeepONe的迁移学习新框架...我从中挑选了一些高质量研究，方便感兴趣的同学学习参考。全部论文+开源代码需要的同学看文末。
PINN及其“变种”
qq_58325633的博客
12-26 5897
本文简单介绍了PINN（基于物理信息的神经网络），以及它的改进方法——Self-adaptive PINNs、Parareal PINNs、Bayesian PINNs、Multi-fidelity PINNs
基于PINN方法的热传导问题求解及结果输出
12-25
内容概要：本文介绍了一种基于物理信息神经网络（PINN）方法解决热传导问题的方法。通过定义长方体板上的移动热源、边界条件和带时间导数的三维拉普拉斯方程（PDE），实现了热传导过程的建模。代码部分详细展示了如何生成训练数据、构建PINN模型、计算PDE残差和边界条件残差，并最终将结果保存为VTK文件，以便后续的温度可视化。 适合人群：具备一定编程基础的工程师和研究人员，特别是对热传导模拟和物理信息神经网络感兴趣的技术人员。 使用场景及目标：适用于热传导问题的研究和工程应用，如材料科学、热管理系统设计等领域。通过对移动热源和边界条件的精确建模，可以预测长方体板在不同时间点的温度分布情况，从而帮助设计和优化系统性能。 其他说明：本文提供的代码是一个简化的示例，实际应用中可能需要根据具体需求进行调整和优化，例如调整模型结构、训练参数等以提高预测准确度。
深度学习新突破！Nature力荐！物理信息神经网络（PINN）创新工作
阿木寺的博客
01-14 1562
最近有一个大热门：物理信息神经网络（PINN），不仅是各大顶会常客，还连登《Nature》。PINN是将物理定律嵌入深度学习框架，约束神经网络训练的新型方法。特别适用于解决AI交叉学科中复杂的偏微分方程。可以说，PINN能够大大降低实验难度，让你更容易得到理想的结果，而且结合PINN的研究更具有创新性，这就是PINN现在特别好发paper的原因！PINN这么好用，大家都学会了吗？本文收集了70个P...
PINO：深度学习解算物理方程的新纪元
gitblog_00056的博客
06-08 1015
PINO：深度学习解算物理方程的新纪元 physics_informed项目地址:https://gitcode.com/gh_mirrors/ph/physics_informed 项目介绍 PINO（Physics-Informed Neural Operator）是一个基于PyTorch的强大开源工具包，专为高效求解复杂的偏微分方程而设计。该库结合了先进的神经网络技术和物理先验知识，旨在解...
PINN深度学习求解微分方程系列一：求解框架
山里娃的博客
11-02 1万+
下面我将介绍内嵌物理知识神经网络（PINN）求解微分方程。首先介绍PINN基本方法，并基于Pytorch框架实现求解一维Poisson方程。 1.PINN简介 神经网络作为一种强大的信息处理工具在计算机视觉、生物医学、 油气工程领域得到广泛应用, 引发多领域技术变革.。深度学习网络具有非常强的学习能力, 不仅能发现物理规律, 还能求解偏微分方程.。近年来，基于深度学习的偏微分方程求解已是研究新热点。内嵌物理知识神经网络（PINN）是一种科学机器在传统数值领域的应用方法，能够用于解决与偏微分方程 （PDE）
PINN神经网络源代码解析(pyTorch)
热门推荐
李文韬的博客
08-16 2万+
来源于Github [https://github.com/jayroxis/PINNs](https://github.com/jayroxis/PINNs)
基于物理信息的神经网络（PINN）热门研究成果盘点
学姐带你玩AI的博客
10-08 6190
最近在淘金的时候发现基于物理信息的神经网络（简称PINN）也是个研究热点，遂研读了几篇经典论文，深觉这也是个好发论文的方向，所以火速整理了一些个人认为很值得一读的PINN论文和同学们分享。为了方面同学们更好地理解，我们先来简单了解下PINN：PINN就是将物理方程作为限制加入到神经网络之中使得拟合得到的结果更加满足物理规律，这是一种科学机器在传统数值领域的应用方法，通常用于解决交叉学科中存在微分方程难以求解问题。
PINN学习教程
weixin_44992737的博客
06-09 5099
PINN应用
深入了解PINN：物理信息神经网络（Physics-Informed Neural Networks）
weixin_37522117的博客
12-30 8292
深入了解PINN：物理信息神经网络（Physics-Informed Neural Networks）
贝叶斯+PINN！双重热点buff叠加，轻松斩获Nature子刊！
学姐带你玩AI的博客
11-04 2504
PINN一直以来都是顶会顶刊上的大热方向，相关研究量多且质量高。最近，有关“”的研究取得了不少突破，多项成果被Neurips、Nature子刊等录用。事实上，这个结合方向的，因为其在提高泛化能力、避免过拟合、增强可解释性、提高计算效率、鲁棒性强以及灵活性高等多方面都展现出了显著优势。这些优势也让“贝叶斯+PINN”，在金融、医疗诊断与预测等多个领域都有非常广泛的应用。因此，这种拥有很高的研究价值，对于我们论文er来说，也是个还没卷生卷死，创新空间依然很大的方向，感兴趣的同学可以抓紧上车。
PINN机器学习登上Science正刊！热门buff叠满！11个创新思路get到就能发
学姐带你玩AI的博客
09-25 1860
今天我们来聊聊PINN大家都熟悉吧，毕竟研究热度就没下去过，这个热点其实就是PIML的一种典型代表。通过引入物理学的先验知识，来改进和优化机器学习模型的性能。这种技术的优点很多，尤其是在数据稀缺或昂贵的领域，不仅能提高数据效率，生成的预测也更符合物理原理，可解释性更高。因此在金融、医疗、工程等行业，PIML被广泛应用与研究，在学术界也同样是这里值得一提的是，最近PIML的一篇成果更是登上了Science正刊！为了给同学们提供新的发文思路和方向，这次我整理了。
DMimageDetection 开源项目使用教程
gitblog_00284的博客
08-16 373
DMimageDetection 开源项目使用教程 DMimageDetectionOn the detection of synthetic images generated by diffusion models项目地址:https://gitcode.com/gh_mirrors/dm/DMimageDetection 1. 项目的目录结构及介绍 DMimageDetection/ ├──...
2024年PINN网络​还在火！发论文侧重点在哪儿？
学姐带你玩AI的博客
07-29 2234
2024年了，PINN网络依然火爆，各大顶会顶刊都能看见它的相关论文。这是因为，AI交叉学科通常离不开求解偏微分方程PDE，而传统的求解方法受初始假设限制，一旦没设好就会导致很大的误差。，它可以处理复杂几何和边界条件，无需网格就可以计算，实现快速求解PDE，满足我们解决实际复杂问题建模后求解需求，因此在各个领域中都有用武之地。目前有关PINN求解PDE的创新主要围绕网络结构优化、正则化方法、损失函数构造等。为了方便想发论文的同学，我根据这些创新方向整理了，开源的代码已附。
PINN学习与实验（二）
刘文凯的博客
04-25 2万+
目录所用工具数学方程模型搭建所有实现代码结果展示参考文献 今天第二天接触PINN，用深度学习的方法求解PDE，看来是非常不错的方法。做了一个简单易懂的例子，这个例子非常适合初学者。跟着教程做了一个小demo, 大家可以参考参考。本文代码亲测可用，直接复制就能使用，非常方便。 所用工具 使用了python和pytorch进行实现 python3.6 toch1.10 数学方程 使用一个最简单的常微分方程： {ut+u×ux−w×uxx=0(1)u(0,x)=−sin(πx)(2)u(t,1)=0(3)u(
物理信息神经网络PINN2024最新改良方案汇总（含复现代码）
学姐带你玩AI的博客
01-30 1万+
传统的数值方法在处理复杂问题时可能需要大量的计算资源和时间，而改良后的PINN可以通过更有效的算法减少计算成本，使得求解过程更加高效。在写论文时，我们也可以通过改进PINN减少数据需求、加速模型收敛、提高预测准确性、增强可解释性，从而提高论文的质量和影响力。今天我就来分享，包括2024年最新，每种方案涉及的PINN变体和来源文章也都整理了，贴上了开源代码方便同学们复现。最新的方案已经帮大家分析好了创新点，写论文的同学可以借鉴学习，其他paper看文末。
PINN 常微分方程
最新发布
04-02
<think>好的，我现在需要回答用户关于PINN在常微分方程中的应用示例和实现方法的问题。首先，我需要回顾一下PINN的基本原理，确保自己理解正确。根据用户提供的引用，特别是引用[1]和[2]，PINN通过将物理方程作为损失函数的一部分，利用自动微分来保证网络满足物理约束。用户还提到常微分方程（ODE），所以需要聚焦于ODE的情况，而不是偏微分方程（PDE）。 接下来，我需要考虑如何构造一个具体的例子。比如，可以选择一个简单的ODE，如dy/dx + y = 0，解为y = e^{-x}。然后，构建一个神经网络来近似解，并将ODE作为损失项加入训练中。这样用户可以看到具体的实现步骤。 然后，我需要确保代码部分正确，使用Python和TensorFlow或PyTorch实现。根据引用[3]，硬约束可能涉及修改网络结构，但用户的问题可能只需要基本示例，所以先展示基础版本，再提到硬约束的方法。 代码的结构应该包括：定义网络，计算预测值，计算损失（包括ODE残差和边界条件），然后训练过程。需要解释每个部分的作用，比如自动微分计算导数，如何将物理方程融入损失函数。 同时，用户可能需要了解如何选择优化器、学习率，以及如何处理边界条件。例如，在初始条件处，可能需要额外的损失项，如(y_pred[0] - y_true[0])^2，确保满足初始条件。 还要注意用户提供的引用中提到的自动微分（引用[2]和[4]），所以在代码中必须使用框架的自动微分功能，比如TensorFlow的GradientTape或PyTorch的autograd。 另外，引用[5]提到损失函数的构造，所以需要明确损失函数的组成部分，比如数据拟合项和物理约束项的比例，可能需要调整权重，但基础示例可能先使用简单加和。 最后，生成相关问题时要围绕PINN在ODE中的应用，可能的扩展问题包括如何处理高阶ODE，训练中的挑战，或者与传统数值方法的比较。 现在，需要验证这些思路是否正确，确保示例ODE的选择合理，代码能够运行，并正确解释每个步骤。同时，确保引用的正确应用，比如引用[3]提到的硬约束可能作为进阶内容提及，但主要示例使用软约束。</think>### PINN在常微分方程中的实现方法 物理信息神经网络（PINN）通过将微分方程嵌入损失函数，引导神经网络同时满足数据和物理规律。以下以常微分方程$y'' + y = 0$（解为$y = \sin(x)$）为例，说明实现步骤： #### 1. 问题定义 - **方程**：$$y'' + y = 0, \quad x \in [0, 2\pi]$$ - **边界条件**：$y(0)=0, y'(0)=1$（理论解为$y = \sin(x)$） #### 2. 神经网络构建 使用全连接网络预测$y(x)$，输入为坐标$x$，输出为预测值$\hat{y}$： ```python import tensorflow as tf # 定义神经网络结构 model = tf.keras.Sequential([ tf.keras.layers.Input(shape=(1,)), tf.keras.layers.Dense(20, activation='tanh'), tf.keras.layers.Dense(20, activation='tanh'), tf.keras.layers.Dense(1) ]) ``` #### 3. 损失函数设计 损失包含**方程残差**和**边界条件**两部分： ```python def compute_loss(x): with tf.GradientTape(persistent=True) as tape: tape.watch(x) y_pred = model(x) # 预测值 dy_dx = tape.gradient(y_pred, x) # 一阶导数 d2y_dx2 = tape.gradient(dy_dx, x) # 二阶导数 # 方程残差损失 equation_loss = tf.reduce_mean((d2y_dx2 + y_pred)**2) # 边界条件损失 x_bc = tf.constant([[0.0]], dtype=tf.float32) y_bc_pred = model(x_bc) dy_bc_pred = tape.gradient(y_bc_pred, x_bc) bc_loss = tf.reduce_mean((y_bc_pred - 0)**2 + (dy_bc_pred - 1)**2) return equation_loss + bc_loss ``` #### 4. 训练过程 ```python optimizer = tf.keras.optimizers.Adam(learning_rate=0.001) # 生成训练点（无真实数据，仅靠物理约束） x_train = tf.random.uniform((1000,1), 0, 2*np.pi) for epoch in range(5000): with tf.GradientTape() as tape: loss = compute_loss(x_train) grads = tape.gradient(loss, model.trainable_variables) optimizer.apply_gradients(zip(grads, model.trainable_variables)) if epoch % 500 == 0: print(f"Epoch {epoch}, Loss: {loss.numpy():.4f}") ``` #### 5. 关键原理 - **自动微分**：通过`GradientTape`自动计算导数[^2] - **硬约束改进**：可将边界条件编码到网络结构中（如$y(x)=x \cdot \text{NN}(x)$），强制满足$y(0)=0$[^3] ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值