深度学习/代码 面试相关问题2-（陆续更新~）

7/13日更新：今天重新去把pytorch的一些东西温习了一下，更新一下几个问题。

6.计算感受野

感受野的递推公式：

其中rl是当前层的感受野，kl为当前层的卷积核，s为卷积层步距。

7.incetpion的特点

  Inception的主要特征就是将常用的卷积核：1x1，3x3，5x5和池化操作堆叠在一起，这样给网络更丰富的感受野选择，让网络自己选择适用的卷积核。同时增加了网络的宽度，但是增加了计算开销。

8.ResNet的原理和特点

它的主要特点就是它的跳线结构。他有几个优点：

  1.对于过深的网络，具有一定的防止过拟合的能力，因为它加了一些条线，这样相当于有一个非常短的通路直接输出，所以可以一定程度上防止过拟合。

  2.防止梯度消失梯度爆炸。这个跳线在反向传播的时候，可以让梯度无损的从输出层传到浅层，这样就避免链式求导带来的梯度消失和梯度爆炸。

  3.还有就是避免了网络在过深的时候难以训练的问题。

9.tensorflow 和 pytorch的区别

  我觉得他们的主要区别就是动态图和静态图。Tensorflow是先构图，然后在运行。Pytorch是边构图边运行。

  同时pytorch是一个高层的API，搭建模型更快， tensorflow易用性差一点，但因为是静态图所以会更快。

10.什么是梯度

  梯度是一个矢量，也就是它有大小和方向。

  梯度它表示的是某一个函数在该点处的方向导数沿着这个方向取得最大值，简单来说就是它总是指向函数增长最快的方向。