复函数的可导性
复变函数按照是否可导,分为全纯函数holomothic和nonholomophic,判断条件为Cauchy-Riemann方程。
对于不可导的nonholomophic函数:
Wirtinger算子
采用Wirtinger算子来计算反向传播。
Wirtinger算子的思路是,将任何复变函数f,看做f(z,z*),求导数就是对z和共轭z*分别求导:
其中:
z=x + jy。
而全纯函数f(z),当且仅当df/dz*=0。
参考1,2,3
Pytorch实现
损失函数梯度
损失函数J的梯度为: