python实现“包含0~9整数数字的列表逆序”实验（中篇）

最新推荐文章于 2022-10-18 19:16:58 发布

BerryWangzju

最新推荐文章于 2022-10-18 19:16:58 发布

阅读量476

点赞数 1

分类专栏：小题大做系列文章标签： python

本文链接：https://blog.csdn.net/BerryWangzju/article/details/119613848

版权

本文在前篇使用FNN处理数字列表逆序的基础上，探讨了使用RNN解决相同问题时遇到的长期依赖问题。通过调整学习率、改变样本大小，发现RNN性能仍不理想。作者提出添加注意力机制可能改善效果，并欢迎大家指正交流。

摘要由CSDN通过智能技术生成

上篇：python实现“包含0~9整数数字的列表逆序”实验（上篇）

在上篇，我们运用FNN解决列表逆序问题，本篇将尝试运用RNN进行处理。

前情提要：

lst = list([1, 2, 3, 5, 8])
r_lst = lst[::-1]

>>> print(r_lst)
[8, 5, 3, 2, 1]

lst = list([1, 2, 3, 5, 8])
lst.reverse()

>>> print(lst)
[8, 5, 3, 2, 1]

1. 神经网络模型的定义

class NetWork(nn.Module):
    def __init__(self, data_size):
        super(NetWork, self).__init__()
        self.rnn = nn.LSTM(input_size=data_size,  # 输入层大小
                           hidden_size=64,  # 隐藏层大小
                           num_l