发表于:Neurips 22
#paper/⭐⭐⭐ #PAPER/证明
推荐原因:好多证明的源头好像
证明看论文(精华在论文部分)
高通低通矩阵
(
L
s
u
m
,
L
r
w
,
L
^
s
u
m
,
L
^
r
w
可以被视为高通滤波器
L
H
P
)
(L_{sum},L_{rw},\hat{L}_{sum},\hat{L}_{rw}可以被视为高通滤波器L_{HP})
(Lsum,Lrw,L^sum,L^rw可以被视为高通滤波器LHP)
(
A
s
y
m
,
A
r
w
,
A
^
s
y
m
,
A
^
r
w
)
可以被视为低通滤波器
L
L
P
(A_\mathrm{sym},A_\mathrm{rw},\hat{A}_\mathrm{sym},\hat{A}_\mathrm{rw})可以被视为低通滤波器L_{LP}
(Asym,Arw,A^sym,A^rw)可以被视为低通滤波器LLP
H
L
l
=
L
LP
ReLU
(
H
l
−
1
W
L
l
−
1
)
,
H
H
l
=
L
HP
ReLU
(
H
l
−
1
W
H
l
−
1
)
H
l
=
ReLU
(
α
L
l
⋅
H
L
l
+
α
H
l
⋅
H
H
l
)
,
l
=
1
,
…
,
n
\begin{aligned}&\boldsymbol{H}_L^l=L_\text{LP}{\text{ReLU}(\boldsymbol{H}^{l-1}W_L^{l-1})}, \boldsymbol{H}_H^l=L_\text{HP}{\text{ReLU}(\boldsymbol{H}^{l-1}W_H^{l-1})}\\&\boldsymbol{H}^l=\text{ReLU}\left(\alpha_L^l\cdot\boldsymbol{H}_L^l+\alpha_H^l\cdot\boldsymbol{H}_H^l\right), l=1,\ldots,n\end{aligned}
HLl=LLPReLU(Hl−1WLl−1),HHl=LHPReLU(Hl−1WHl−1)Hl=ReLU(αLl⋅HLl+αHl⋅HHl),l=1,…,n
其中，
α
L
l
,
α
H
l
∈
[
0
,
1
]
\alpha_{L}^l,\alpha_{H}^{l}\in[0,1]
αLl,αHl∈[0,1]是科学系的缩放参数.
H
0
=
X
H^0=X
H0=X
扫一扫
3909
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
