设有方程 𝑦′(𝑥)=cos𝑥−3sin3𝑥,初值条件为 𝑦(0)=1, 𝑥∈[0,4]。
由此可使用感知器拟合 𝑦(𝑥),并构造损失函数
∣
y
(
0
)
−
1
∣
2
+
∣
y
‘
(
x
)
−
(
c
o
n
x
−
3
s
i
n
3
x
)
∣
2
|y(0)-1|^2+|y`(x)-(conx-3sin3x)|^2
∣y(0)−1∣2+∣y‘(x)−(conx−3sin3x)∣2,利用反向传播迭代求解得到 𝑦(𝑥)。
该方程的解析解为: 𝑦(𝑥)=sin𝑥+cos3𝑥,可用于对比。
import paddle
import paddle.nn
import matplotlib.pyplot as plt
import tqdm
# 创建网络和优化器
net = paddle.nn.Sequential(
paddle.nn.Linear(1, 50),
paddle.nn.Tanh(),
paddle.nn.Linear(50, 10),
paddle.nn.Tanh(),
paddle.nn.Linear(10, 1)
) # 创建感知器:1(x)-50-10-1(y)
net.train() # 进入训练模式
optimizer = paddle.optimizer.Adam(0.001, parameters=net.parameters()) # 创建优化器
losses = [] # 记录损失函数的变化
# 训练,可多次运行
N = 1000
e = paddle.ones([N, 1])
x = paddle.linspace(0, 4, N).reshape([-1, 1]) # 训练的x值范围
x.stop_gradient = False
mse = paddle.nn.loss.MSELoss()
for i in tqdm.tqdm(range(2000)):
y = net(x)
dy_dx = paddle.grad(y, x, create_graph=True)[0] # 必须启用create_graph,才能自动计算导数的损失函数
loss = mse(net(e*0), e*1) + mse(dy_dx, paddle.cos(x)-3*paddle.sin(3*x)) # 根据边界条件和方程构造损失函数
loss.backward()
losses += loss.tolist()
optimizer.step()
optimizer.clear_grad()
# 绘制损失函数
plt.subplot(2, 1, 1)
plt.semilogy(losses)
plt.xlabel('iter')
plt.ylabel('loss')
# 绘制求解结果
plt.subplot(2, 1, 2)
x = paddle.linspace(0, 4, 50).reshape([-1, 1]) # 取较稀疏的点绘图
y = net(x)
plt.plot(x, paddle.sin(x)+paddle.cos(3*x), '-', label='expected')
plt.plot(x, y, '.', label='predicted')
plt.xlabel('x')
plt.ylabel('y(x)')
plt.legend(frameon=False)
plt.grid(True)
# 调整坐标区
plt.tight_layout()
plt.show()