编程题汇总4

本部分主要是机器学习的题目

1.神经网络训练时使用Dropout主要目的是什么？ 训练和测试时使用的区别是什么

---

2.深度学习解决过拟合和欠拟合的策略都有哪些？

过拟合

1. Data Augmentation。人工增加训练集的大小. 通过平移, 翻转, 加噪声等方法从已有数据中创造出一批”新”的数据.

2. Regularization。数据量比较小会导致模型过拟合, 使得训练误差很小而测试误差特别大. 通过在Loss Function 后面加上正则项可以抑制过拟合的产生. 缺点是引入了一个需要手动调整的hyper-parameter.

3. Dropout

4. Batch Normalization

5. Unsupervised Pre-training. 用Auto-Encoder或者RBM的卷积形式一层一层地做无监督预训练, 最后加上分类层做有监督的Fine-Tuning.

6. Early Stop. 提前停止训练

7. 适当添加pooling层能减轻过拟合

8. 减少模型复杂度

欠拟合

---

3. CNN中$1\times1$的卷积核有什么作用

---

4. 如何将Fully Connected layer转化为Fully Convolutional layer?

---

5. 比较vgg16, InceptionBN, Resnet-50网络训练计算量大小，并排序

---

6. 在Faster RCNN中，设计不同尺寸的anchors的目的

---

7.解释DCNN中bottleneck的作用

---

8. Inception v1, v2, v3, v4 不同点

---