动手深度学习v2 多输入多输出通道课后习题

1.多输入多输出通道

假设我们有两个卷积核，大小分别为 k1 和 k2 （中间没有非线性激活函数）。
我觉得这道题就是去讨论卷积的结合律

1.证明运算可以用单次卷积来表示。

2.这个等效的单卷积的维数是多少呢？
和依次卷两次的维数是一样的

3.反之亦然吗？
亦然

2.假设输入为 ci×h×w ，卷积核大小为 co×ci×kh×kw ，填充为 (ph,pw) ，步幅为 (sh,sw) 。

1.前向传播的计算成本（乘法和加法）是多少？
乘法:[(h−kh+ph+sh)/sh]×[(w−kw+pw+𝑠w)/sw]×ci×c0
加法：c0x(ci×H0×W0×(kh×kw-1)+H0×W0(ci-1))
h0=(h−kh+ph+sh)/sh
w0=(w−kw+pw+𝑠w)/sw
2.内存占用是多少？
ci×h×w+co×ci×kh×kw+co×[h0×w0]
3.反向传播的内存占用是多少？
co×ci×kh×kw
4.反向传播的计算成本是多少？
[kh/sh]×[kw/sw]×co×ci×kh×kw

3.如果我们将输入通道 ci 和输出通道 co 的数量加倍，计算数量会增加多少？如果我们把填充数量翻一番会怎么样？

4倍， ho,w0变大

4.如果卷积核的高度和宽度是 kh=kw=1 ，前向传播的计算复杂度是多少？

h×w×ci×co

5.本节最后一个示例中的变量Y1和Y2是否完全相同？为什么？

看见有说不一样的，但是我的为什么一样…留个坑

6.当卷积窗口不是 1×1 时，如何使用矩阵乘法实现卷积？

这个是参考的别人的