矩阵微积分 分母分子布局20230509 当研究到神经网络求偏导的过程中,一直不理解标量对向量求导的公式维度怎么写,以及向量对标量求导,向量对向量求导,通过下面的过程算是有了初步的理解。 基本概念 为了书写方便,我们通常将单个函数对多个变量(标量关于向量)或者多元函数对单个变量(向量对标量)的偏导数写成向量和矩阵的形式,使其可以被当成一个整体处理。 矩阵微积分是多元微积分的一种表达形式,即使用矩阵和向量来表示因变量每个成分关于自变量每个成分的偏导数。 手写推导 书籍资料 参考文献: 邱锡鹏 神经网络与深度学习Neural Networks and Deep Learning