数学
醉小义
学习算法让自己有更大的提升
展开
-
Xavier Initialization 的理解与推导(及实现)
在 caffe mnist tutorial 的实现中,有如下的语句:weight_filter = {type: "xavier"};随后的解释中指出,本实现将使用 xavier 算法通过输入和输出神经元的数目自动确定权值矩阵的初始化大小。通过本文第三部分的推导,使用 xavier 初始化权值矩阵是为了保证输出和输入尽可能地服从相同的概率分布(注,数据预处理中已对将输入去均值)。...转载 2018-08-13 22:35:23 · 6006 阅读 · 1 评论 -
深度学习中的感受野计算
https://blog.csdn.net/kuaitoukid/article/details/46829355https://blog.csdn.net/hungryof/article/details/50241351概念:感受野(receive field)是指当前feature map中的一个原子点P与输入层中多少个原子个数相关的问题,假设输入层相关的点为(RF*RF)个(假...转载 2018-09-13 19:33:29 · 2355 阅读 · 3 评论