一、神经网络的矢量化实现
此前,神经网络的前向传播可以用以下代码实现。每层使用for循环,计算每个神经元的激活值

可以使用矩阵相乘的方法简化代码,在numpy中,matmul()函数可以实现矩阵相乘:

二、矩阵乘法
本节讲解如何计算矩阵相乘。
1、两个向量相乘
2、向量和矩阵相乘
3、矩阵相乘
和W可以转换成由向量构成的矩阵:

最终计算结果为:
矩阵相乘时,第一个矩阵的列数要等于第二个矩阵的行数
三、矩阵在代码中的实现
AT是A的转置矩阵,在代码中,可以用A.T得到AT


矩阵相乘可以使用以下两种语法:

在神经网络中,把输入值、激活值和参数W写成矩阵形式:

在代码中实现如下:

学习来源:吴恩达机器学习,P55-P58

被折叠的 条评论
为什么被折叠?



