网络，模型，特征之间关系思考

1隐藏层与模型关系
在设计神经网时，输入节点是根据外部特征数据来确定，而隐藏层往往需要我们自己设定，其节点个数与层数与模型拟合与泛化能力存在一定关系。
隐藏层节点个数决定了模型的拟合能力。从理论上讲，如果在单个隐藏层中设置了足够多的节点，那么可以对世界上各种维度的数据进行任意规则的分类，但过多的节点在带来强大的拟合能力的同时，又会使模型泛化能力下降，从而使模型无法适应具有同样分布规则的其他数据。即训练集效果好，而验证集效果差
隐藏层层数决定了模型的泛化能力。层数越深，模型的推理能力越强，但随着推理能力的提升，又会对拟合能力产生影响。
在深度学习中，全连接神经网络常常放在整个深度网络结构的最后部分，以使网络有更好表现，而从编程角度看，全连接神经网络在整个深度网络搭建过程中具有调节维度的作用。通过指定输入输出节点个数，很容易将特征从原有维度变换到任意维度。通常将前后维度比例控制在5:1，以便于模型训练

2网络深度与特征关系
通过卷积进行特征提取，对于低层网络，其容易提取一些简单的特征，如边界，颜色，在目标检测中小目标提取更为适合；而对于高层网络，其感受野更大，往往能提取一些复杂的语义信息，在目标检测中往往大目标容易检测，而对于小目标来说，当进行卷积池化很多层后，实际上语义信息很可能没有了，因为我们都知道对于一个roi映射到某个feature map的方法就是将底层坐标直接除以stride,显然越后，映射过去后就越小，甚至可能就没有了。