- 博客(73)
- 收藏
- 关注
原创 PDEformer Towards a Foundation Model for One-Dimensional Partial Differential Equations
要求解的 PDE 涉及两部分信息:一是指定 PDE 数学形式的符号部分,另一部分是数字部分,包括 PDE 系数、初始值和边界值等。典型的神经算子如傅里叶神经算子(FNO)和 DeepONet 用于处理特定形式的偏微分方程,只需将数值信息作为网络输入。然而,为了构建可推广到不同偏微分方程的基础模型,符号信息必须无缝集成。朝着这个方向的一些现有方法采用了语言模型,其中偏微分方程的数学表达式作为输入。这些方法可能难以完全捕获符号信息和数字信息之间的复杂交互。其他策略避免显式输入 PDE 形式,而是选择将其隐式编码
2024-04-17 17:11:06
687
原创 Reliable extrapolation of deep neural operators informed by physics or sparse observations
这篇论文讨论了神经微分算子(DeepONets)在外推情境下的可靠性问题,即当输入数据超出训练集分布范围时,如何提高模型的预测准确性。作者首先明确了神经算子外推的定义,并针对外推问题,提出了两种主要方法:一是利用系统的偏微分方程(PDEs)信息进行微调,二是结合稀疏的新观测数据进行微调或采用多保真度学习方法。这些方法旨在通过额外信息来减少外推误差,提高模型在未知数据上的预测可靠性。
2024-03-24 14:41:54
1069
原创 Variable linear transformation improved physics-informed neural networks to solve thin-layer flow
本文提出了 VLTPINN 来求解线性变换变量的 DE 系统,而不是原始变量。在对 VLT 对 NN 初始化和训练的影响进行粗略的先验分析后,确定了确定 VLT 参数的三个原则:因变量的幅度归一化(原则 1)、自变量的局部归一化(原则 2)以及适当的缩放反演问题中与物理相关的参数(原则 3)。前两个原则基于归一化原则 (PON) 以及 DE 系统与神经网络偏好的更好匹配:原则 1 可以通过引入适当大小的损失梯度来有利于训练,而原则 2 则导致狭窄的复杂薄层区间与激活函数的线性区间更好的匹配。
2024-01-17 20:31:47
967
1
原创 图像中部分RGB矩阵可视化
其实就是先画三个主图,一个全部的,一个小范围内的,一个RGB值的表,然后画四根线就完事了。大致就是把图像中的一小部分区域的RGB值可视化了一下。他居然不知道该怎么画,我寻思这不直接秒了。但也懒得改了,一小时的工作时间白嫖室友一顿必胜客,很舒服。就好了,要不然它给你自适应了,不好算几根连线的位置。坐标系和图像的坐标系中Y轴是相反的,然后其他。这里写的时候没想好,按 copilot 生成的。形式写下去了,目前是。
2024-01-09 22:24:08
666
原创 APINNs A gating network-based soft domain decomposition methodology
APINN 的模型可参数化如下:考虑一个共享网络 h:Rd→RHh : \mathbb R^d → \mathbb R^Hh:Rd→RH(蓝色),其中 ddd 是输入维度,HHH 是隐藏维度,mmm 表示子网络 (Ei(x))i=1m(E_i(x))^m_{i=1}(Ei(x))i=1m(红色),其中每个 Ei:RH→RE_i : \mathbb R^H → \mathbb REi:RH→R,以及门控网络 G:Rd→ΔmG : \mathbb R^d → \Delta mG:Rd→Δm(绿色),其中
2023-12-27 22:20:13
519
原创 PPINN Parareal physics-informed neural network for time-dependent PDEs
在涉及偏微分方程长时间积分的建模问题中,大量的时空自由度导致训练 PINN 所需的数据量很大。这将要求 PINN 解决长期的物理问题,而这在计算上可能是令人望而却步的。为此,本文提出了一种准现实物理信息神经网络(PPINN),将一个长期问题分解为许多独立的短期问题,并由廉价/快速的粗粒度(CG)求解器监督,该求解器受到原始并行算法和监督并行算法的启发。由于训练 DNN 的计算成本随着数据集的大小而快速增加,因此该 PPINN 框架能够最大限度地利用小数据集训练神经网络的高计算效率的优势。
2023-12-14 14:29:08
1499
原创 08字符串算法练习题解析
如果在短语正着读和反着读都一样。则可以认为该短语是一个。字母和数字都属于字母数字字符。给你一个字符串s,如果它是,返回true;否则,返回false。
2023-12-12 20:29:58
942
原创 06图论算法练习题解析
你这个学期必须选修numCourses门课程,记为0到。在选修某些课程之前需要一些先修课程。先修课程按数组给出,其中,表示如果要学习课程ai则 必须 先学习课程bi。[0, 1]01请你判断是否可能完成所有课程的学习?如果可以,输出true;否则,输出false。
2023-12-12 20:26:33
896
原创 05贪心算法练习题解析
现有一台饮水机,可以制备冷水、温水和热水。每秒钟,可以装满2杯类型的水或者1杯任意类型的水。给你一个下标从0开始、长度为3的整数数组amount,其中amount[0]amount[1]和amount[2]分别表示需要装满冷水、温水和热水的杯子数量。返回装满所有杯子所需的秒数。
2023-12-12 20:25:37
859
原创 04动态规划练习题解析
给你一个整数数组cost,其中cost[i]是从楼梯第 i 个台阶向上爬需要支付的费用。一旦你支付此费用,即可选择向上爬一个或者两个台阶。你可以选择从下标为 0 或下标为 1 的台阶开始爬楼梯。请你计算并返回达到楼梯顶部的最低花费。
2023-12-12 20:24:15
941
原创 03搜索练习题解析
给定一个排序数组和一个目标值,在数组中找到目标值,并返回其索引。如果目标值不存在于数组中,返回它将会被按顺序插入的位置。请必须使用时间复杂度为Ologn的算法。
2023-12-12 20:23:09
848
原创 02枚举和计数练习题解析
给你一个整数数组arr,以及abc三个整数。请你统计其中好三元组的数量。如果三元组满足下列全部条件,则认为它是一个 好三元组。其中|x|表示x的绝对值。返回。
2023-12-12 20:22:12
947
原创 2024年“蓝桥杯”软件设计大赛选拔赛参考答案与说明
本题改编自题目描述:2023年即将过去,阿彬突然收到一个神秘的邀请函,其中包含了很多数字卡片,每张卡片上都镌刻着数字 0 到 9,仿佛是连接数字世界的钥匙。邀请函上述道:“利用这些卡片构建通向数字世界的桥梁,数字世界的大门将在你眼前展现。阿彬被此邀请挑起好奇心,决定运用这些卡片拼凑数字。他计划从 1 开始拼出正整数,每拼一个就保存起来,卡片就不能用来拼其它数了。阿彬渴望知晓,在这手中拥有 0 至 9 各有多达N张的卡片,共计10×N张的情况下,他能够拼接出多少个连续的正整数。
2023-12-12 20:05:00
7139
原创 江海大理学院江苏省2024年“蓝桥杯”软件设计大赛选拔赛
考试开始后,选手在线上答题平台答题。考试期间选手可浏览自己已经提交的答案,被浏览的答案允许拷贝。时间截止后,将无法继续提交或浏览答案。对同一题目,选手可多次提交答案,以最后一次提交的答案为准。选手必须通过浏览器方式提交自己的答案。选手在其他位置的作答或其他形式提交的答案无效。如遇不可抗力因素,可申请以代码文件压缩包形式提交。试题包含“结果填空”和”程序设计“两种题型。**结果填空题:**结果为确定的一个数,求解方式不限。
2023-12-12 20:03:58
982
原创 江海大理学院江苏省2023年“蓝桥杯”软件设计大赛选拔赛
考试开始后,选手在线上答题平台答题。考试期间选手可浏览自己已经提交的答案,被浏览的答案允许拷贝。时间截止后,将无法继续提交或浏览答案。对同一题目,选手可多次提交答案,以最后一次提交的答案为准。选手必须通过浏览器方式提交自己的答案。选手在其他位置的作答或其他形式提交的答案无效。如遇不可抗力因素,可申请以代码文件压缩包形式提交。试题包含“结果填空”和”程序设计“两种题型。**结果填空题:**结果为确定的一个数,求解方式不限。
2023-12-12 20:02:35
843
原创 2023常见问题整理
程序竞赛题目的特点是只做三件事:1. 读入数据。2. 计算结果。3. 打印输出。所以竞赛中需要使用标准的输入输出方法,避免多余的信息。
2023-12-12 20:01:19
722
原创 09线段树
线段树是蓝桥杯中必考的压轴题,如果你的目标是全国一等奖的话,线段树是必须要掌握的知识点。当然,现在离比赛(4月8日)也不远了,如果你对dp、dfs以及回溯法还不太熟悉的话,那么我个人建议这段时间还是以巩固dp、dfs以及回溯法这些基本算法为主,线段树可以放一放,毕竟像我不会线段树最后也得到国二了。前年的题目「双向排序」中,使用暴力方法可以获得30%的分数,如果对暴力算法做一些改进,更是可以获得60%的分数。的时间复杂度内实现单点修改、区间修改、区间查询(区间求和,求区间最大值,求区间最小值)等操作。
2023-12-12 19:59:58
338
原创 08字符串
字符串相关算法能够单独作为一章内容,主要是因为这里的“字符串”不仅是之前所提到的string数据结构,而是进一步,把字符串抽象成了一个数组的结构。滑动窗口和双指针其实很相似,区别在于,双指针通过两个指针处的元素来进行判断,而滑动窗口则是需要通过整个范围内所有元素来进行判断。滑动窗口,顾名思义,就像一个滑动的窗口,套在一个序列中,左右的滑动,窗口内就是一个内容集。双指针指的是在遍历对象的过程中,不是普通的使用单个指针进行访问,而是使用两个相同方向()的指针进行扫描,从而达到相应的目的。
2023-12-12 19:58:36
792
原创 07数论算法
数论本身就是一个非常完整的数学研究领域,但蓝桥杯所涉及的内容其实不多,只要掌握一些基本概念和常用算法即可。以下两篇文章写得已经很全面了,我就不画蛇添足了。(只需要着重看一下:素数筛、因数分解、最大公约数、最小公倍数、快速幂乘、组合数。有余力可以看一下:扩展欧几里得算法、大数取模)
2023-12-12 19:57:46
388
原创 06图论算法
在图论中,拓扑排序(Topological Sorting)是一个有向无环图(DAG, Directed Acyclic Graph)的所有顶点的线性序列。图结构通常可以使用邻接表和邻接矩阵的方式存储。由于邻接矩阵的使用比较灵活,可以非常方便地用在有向图、无向图、加权图中,而且判断两个节点是否相邻的时间复杂度为。由于有向无环图(DAG)才有拓扑排序,所以拓扑排序也可以用来检测图中是否有环。而对于无向图,邻接矩阵就会变成一个对称阵,对于输入。中的广度优先搜索和深度优先搜索,所有树相关的算法在添加了。
2023-12-12 19:56:38
894
原创 05贪心算法
贪心的本质是选择每一阶段的局部最优,从而达到全局最优。这么说有点抽象,来举一个例子:例如,有一堆钞票,你可以拿走十张,如果想达到最大的金额,你要怎么拿?指定每次拿最大的,最终结果就是拿走最大数额的钱。每次拿最大的就是局部最优,最后拿走最大数额的钱就是推出全局最优。贪心算法并不保证得到最优解,但对很多问题确实可以求得最优解。
2023-12-12 19:54:19
340
原创 04动态规划
动态规划(Dynamic programming)是通过把原问题分解为相对简单的子问题的方式求解复杂问题的方法,适用于有重叠子问题和最优子结构性质的问题。最典型的例子就是斐波那契数列:1、1、2、3、5、8、13、21、34、……带备忘录的动态规划通过备忘录减少了冗余计算,但我们依然是在将问题进行分割,从最难的问题开始自顶向下得解决问题。dp数组方法则相反,我们直接从最简单的问题开始,一步一步向上推,直到计算出我们想要的答案为止,这样就不需要递归的过程,只需要循环就可以解决问题了。,也可以写成如下代码。
2023-12-12 19:53:19
854
原创 03搜索算法
搜索过程从数组的中间元素开始,如果中间元素正好是要查找的元素,则搜索过程结束;如果某一特定元素大于或者小于中间元素,则在数组大于或小于中间元素的那一半中查找,而且跟开始一样从中间元素开始比较。通过这样不断地选择和返回,总能找到迷宫的出口。此时,深度优先搜索算法会从所有顶点中重新找一个尚未访问的顶点,如果能找到,则以同样的方式继续寻找其它未访问的顶点;广度优先搜索,就是从图/树中的某个顶点出发,寻找紧邻的、尚未访问的顶点,找到多少就访问多少,然后分别从找到的这些顶点出发,继续寻找紧邻的、尚未访问的顶点。
2023-12-12 19:52:40
781
原创 02枚举和计数
由于枚举和计数的思想都比较简单,在实际题目中应用非常灵活,所以本章学习内容以做题为主,如果各位选手有空余时间的话,可以自己去一些刷题网站上找一下对应类型的题目。
2023-12-12 19:51:32
365
原创 00开发环境
根据《第十四届蓝桥杯大赛(软件类)C&C++和Java组竞赛规则及说明》C/C++语言开发环境: Dev-cpp 5.11 (支持 C++11 标准) C/C++ API 帮助文档所以同学们需要安装一下DevC++软件,备赛时就在DevC++软件上编写程序。
2023-12-12 19:50:26
380
原创 01数据结构
对于 unordered_map 有一点需要注意,用方括号 [] 访问其中的键 key 时,如果 key 不存在,则会自动创建 key ,对应的值为值类型的默认值,有的时候我们需要先显示使用 count 方法来判断键是否存在。以上就是C++ vector 在使用时常用的方法,根据数组的特性,利用索引访问元素很高效,从尾部增删元素也很高效,而从中间或头部增删元素要涉及搬移数据,很低效,所以我们应当从算法思路层面避免那些低效的操作。其中sqrt()函数是最为常用的函数之一。
2023-12-12 19:43:47
312
原创 Efficient physics-informed neural networks using hash encoding
在 PINN 中,一个偏微分方程问题的求解就需要一次对神经网络的优化才能获得,这使得求解 PDE 问题的成本可能很高。传统的 PINN 训练需要消耗 10000 个 epoch,其成本通常远高于传统的数值方法,这使得除了求解奇异方程之外,将 PINN 用于实际应用的吸引力较小。PINN 成本高的主要原因是收敛所需的 epoch 数量,特别是对于复杂的函数解决方案。其中一些限制可归因于神经网络的低频偏差。随机初始化的多层感知器需要一段时间的训练才能找到通往潜在局部最小值(有时是数千个epoch)的路径。
2023-12-08 23:07:44
1263
2
原创 关于FBPINN的讨论
综上,对于第一个问题,如果训练点在共享区域时,它会被所有具有该区域的神经网络进行训练。或者说,训练点会被所有子域包含其位置的训练。反过来说可能会顺一点,就是神经网络的训练过程会受到其子域内所有训练点的影响。对于第二个问题,问题表述中似乎假定了不同区域训练具有先后关系且相互独立。正如上文所述,参数的更新是同时的,各个区域在重叠域上也并不是相互独立的,关于这一点以及灵活的训练时间安排将在后两问中进行更详细的解释。
2023-12-07 16:40:42
970
原创 关于PDE频率的问题
具体来说,我所采用的PINN网络结构是全连接神经网络,目标函数函数由两个损失函数构成,第一个损失函数是求解区域内的传热方程,第二个损失函数是边界上已知数据与预测值的均方误差,且两个损失函数。因为使用简单的仿射变换就可以把 [0.1,0.1] 的区域映射到 [1,1] 的区域上,而利用神经网络去拟合这个变换也是相对而言比较简单的,因此 [0.1,0.1] 的区域和 [1,1] 的区域对于PINN来说可能不会造成太大的差别。同样的,可以看到,对计算域的缩小确实对网络的训练造成了显著的影响。
2023-12-06 21:42:56
1025
1
原创 Achieving High Accuracy with PINNs via Energy Natural Gradients
本文从牛顿下降法和自然梯度法获得灵感,提出使用能量自然梯度方法来对神经网络参数进行优化,并在多个样例上取得了显著的精度改善。
2023-12-01 15:25:58
494
原创 Manipulating the loss calculation to enhance the training process of physics-informed neural
本文以一维波动方程为例,对PINN训练过程中的损失下降情况进行了实验观察,发现训练成功的样例中PDE损失项都出现了先上升再下降的现象。随后作者提出,应当在PINN训练早期减少对PDE损失项的敏感度,于是作者使用log函数以及经过归一化的动态权重 来实现了这一想法,并在多个不同样例上取得了显著的改善。
2023-11-09 21:47:55
202
4
原创 VC-PINN Variable coefficient physics-informed neural network for forward and inverse problems
本文针对变系数问题提出了VC-PINN结构,并给出了离散形式下的正反问题定义。通过丰富的实验证实了VC-PINN在可变系数问题上的出色表现。同时对ResNet结构与传统FNN进行对比,展示了其在解决梯度消失问题以及统一线性与非线性上的必要性。文章中作者还针对实验中出现的训练失败现象进行了更加深入的研究,并根据实验结果推测系数函数在区间上的累计凸性会影响训练结果的准确性。
2023-10-25 17:20:24
230
原创 DMIS Dynamic Mesh-Based Importance Sampling for Training Physics-Informed Neural Networks
本文针对重要性采样方法,提出了基于动态网格的权重估计(DMWE),通过插值来计算样本权重。
2023-10-15 22:25:25
126
原创 Multi-Grade Deep Learning for Partial Differential Equations
本文针对PDE求解问题,通过设计多级神经网络结构,来让后续网络层学习先前网络层的误差,并设计了对应的两阶段训练方式。最后通过数值实验验证了其有效性。
2023-10-10 23:02:17
1469
2
原创 Multilevel domain decomposition-based architectures for physics-informed neural networks
本文相比FBPINN更进一步,模仿传统DDM方法,通过多级域分解来实现更复杂的网络结构。感觉做法还是很好理解的,但可能是由于我对经典DDM不太熟悉,所以不太能理解作者的动机。而且这代码怎么这么抽象,看得我头疼,大概是我不熟悉jax的原因?
2023-09-17 23:14:05
280
原创 A Sequential Meta-Transfer (SMT) Learning to Combat Complexities of Physics-Informed Neural Networks
顺序学习已经被证明是解决复杂非线性系统中 PINN 缺点的有效工具。然而,它大大增加了计算成本,因为它引入了更多的损失项,并且需要在一组时间间隔内训练多个网络。这可能会导致训练缓慢,并限制此类策略在使用 PINN 解决现实世界复杂问题时的应用。此外,虽然一些工作利用了知识可转移性(例如,通过利用 TL 和类似方法)来提高 PINN 的训练和实现效率,但迄今为止,还没有关于通过知识迁移来降低计算成本和提高顺序学习策略的适应性进行显着的研究。
2023-09-12 22:53:33
212
空空如也
spss表格太小,看不清数据
2022-10-23
如何在LaTeX中获得指定目录下的所有tex文件名
2022-10-02
TA创建的收藏夹 TA关注的收藏夹
TA关注的人