机器学习中的线性代数之矩阵求导_Vinicier的博客-CSDN博客_矩阵求导
主要参考了上述博文,不过越看越懵,有没有大佬帮我答疑解惑一些,非常感激~
在矩阵求导中有两种布局,分别为分母布局(denominator layout)和分子布局(numerator layout)
分子布局,就是分子是列向量形式,分母是行向量形式,分子的行决定结果的行,分母的列决定结果的列。
分母布局,就是分子是行向量形式,分母是列向量形式,分母的行决定结果的行,分子的列决定结果的列。
问题:什么时候用分子布局?什么时候用分母布局?
矛盾:标量对向量的求导在理论和计算中存在矛盾
理论1:标量关于向量中的每个元素求导后,结果按列排布
计算1:实际计算分析中,标量关于向量中的元素求导后,结果按行排布。