神经网络的参数为什么需要它的值很小，且变化范围小

Tips：只不过是本人的感觉，未经过试验验证，同样也没有任何依据。

• 值小的话在计算上基本不会出现上溢出
• 由于目前在深度学习中数据都是用多维表示，比如词向量的维度就有128、256维或者更高，如果模型处理这种多维度，且变化范围小的数据可以认为是风险平摊，可以保证模型的稳定性。eg：NLP中的计算句子相似度的任务，如果两个句子用向量表示，使用余弦相似性计算时，变化范围小可以保证最后计算的结果基本保持不变。