Frobenius norm
就是矩阵各个元素平方和,然后开平方根。
如果这个算出来的difference太大,就说明backpropagation出现了错误。
可以使用numpy算出两个矩阵之间frobenius norm
numpy.linalg.norm
import numpy as np
print(np.linalg.norm(np.array([1,1])))
1.4142135623730951
共轭矩阵就是把原矩阵的虚数前的符号改为相反
共轭转置就是把共轭矩阵的转置
如果原矩阵等于M等于其共轭转置,则这个矩阵叫Hermitian矩阵