基于python手写深度学习网络系列(4) 神经网络结构化 这是比较结构化的神经网络,forward代表前向,因为后边可能还会有后向的反馈。 最后的输出函数,回归问题用恒等函数,分类问题用softmax函数。 有可能出现溢出问题,解决方法如下: 这里的C’可以用任意数值,但一般选择输入信号中的最大值 这个softmax函数不会改变元素之间的大小关系,因为exp是递增函数。 机器学习首先使用训练数据进行权重参数的学习,再用刚才学到的参数进行推理分类 MNIST有六万张训练,一万张测试,是我们最常用的数据集,许多论文里也会用这个作为验证,这里我们导入数据进行验证