weixin_44940903的博客

手动实现前馈神经网络解决回归、二分类、多分类任务，分析实验结果并绘制训练集和测试集的loss曲线； 利用torch.nn实现前馈神经网络解决上述回归、二分类、多分类任务，分析实验结果并绘制训练集和测试集的loss曲线； 在多分类实验的基础上使用至少三种不同的激活函数，对比使用不同激活函数的实验结果； 对多分类任务中的模型，评估隐藏层层数和隐藏单元个数对实验结果的影响使用不同的隐藏层层数和隐藏单元个数，进行对比实验并分析实验结果； 在多分类任务实验中分别手动实现和用torch.nn实现dropout，探究不同丢弃率对实验结果的影响（可用loss曲线进行展示）； 在多分类任务实验中分别手动实现和用torch.nn实现L2正则化，探究惩罚项的权重对实验结果的影响（可用loss曲线进行展示）； 对回归、二分类、多分类任务分别选择上述实验中效果最好的模型，采用10折交叉验证评估实验结果，要求除了最终结果外还需以表格的形式展示每折的实验结果；

Torch.nn模块是Pytorch为神经网络设计的模块化接口，定义了不同的网络层。Torch.nn 利用autograd来定义模型，数据结构为Module。代码运行在Python 3.9.7版本以及Pytorch 1.10版本中。代码均在pycharm上运行，均能完美运行！

1、使用Tensor初始化一个1×3的矩阵M和一个2×1的矩阵N，对两矩阵进行减法操作（三种不同形式），给出结果并分析三种方式的不同。 2、①利用Tensor创建两个大小分别3×2和4×2的随机数矩阵P和Q，要求服从均值为0，标准差0.01为的正态分布；②对第1步得到的矩阵Q进行形状变换得到Q的转置QT；③对上述得到的矩阵P和矩阵QT求矩阵相乘。 3、给定公式y3=y1+y2=x2+x3，且x=1。利用学习所得到的Tensor的相关知识，求y3对x的梯度。