PINN学习与实验(一)

设有方程 𝑦′(𝑥)=cos𝑥−3sin3𝑥，初值条件为 𝑦(0)=1， 𝑥∈[0,4]。
由此可使用感知器拟合 𝑦(𝑥)，并构造损失函数
$|y(0)-1{|}^2+|y‘(x)-(conx-3sin3x){|}^2$，利用反向传播迭代求解得到 𝑦(𝑥)。
该方程的解析解为： 𝑦(𝑥)=sin𝑥+cos3𝑥，可用于对比。

import paddle
import paddle.nn
import matplotlib.pyplot as plt
import tqdm

# 创建网络和优化器
net = paddle.nn.Sequential(
    paddle.nn.Linear(1, 50),
    paddle.nn.Tanh(),
    paddle.nn.Linear(50, 10),
    paddle.nn.Tanh(),
    paddle.nn.Linear(10, 1)
) # 创建感知器：1(x)-50-10-1(y)
net.train() # 进入训练模式
optimizer = paddle.optimizer.Adam(0.001, parameters=net.parameters()) # 创建优化器
losses = [] # 记录损失函数的变化

# 训练，可多次运行
N = 1000
e = paddle.ones([N, 1])
x = paddle.linspace(0, 4, N).reshape([-1, 1]) # 训练的x值范围
x.stop_gradient = False
mse = paddle.nn.loss.MSELoss()
for i in tqdm.tqdm(range(2000)):
    y = net(x)
    dy_dx = paddle.grad(y, x, create_graph=True)[0] # 必须启用create_graph，才能自动计算导数的损失函数
    loss = mse(net(e*0), e*1) + mse(dy_dx, paddle.cos(x)-3*paddle.sin(3*x)) # 根据边界条件和方程构造损失函数
    loss.backward()
    losses += loss.tolist()
    optimizer.step()
    optimizer.clear_grad()
# 绘制损失函数
plt.subplot(2, 1, 1)
plt.semilogy(losses)
plt.xlabel('iter')
plt.ylabel('loss')
# 绘制求解结果
plt.subplot(2, 1, 2)
x = paddle.linspace(0, 4, 50).reshape([-1, 1]) # 取较稀疏的点绘图
y = net(x)
plt.plot(x, paddle.sin(x)+paddle.cos(3*x), '-', label='expected')
plt.plot(x, y, '.', label='predicted')
plt.xlabel('x')
plt.ylabel('y(x)')
plt.legend(frameon=False)
plt.grid(True)
# 调整坐标区
plt.tight_layout()
plt.show()