深度学习
路飞遇上娜美
这个作者很懒,什么都没留下…
展开
-
深入理解Batch Normalization批标准化
由于近期在看论文代码的时候看到,在有无BN之后的初始化参数的方式不同 。怎么都想不通原因于是想在重新学习一下BatchNormalization标准化的用法 参考论文:Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift 我之前对归一化的想法就是:将数据变成均值...原创 2020-04-08 00:39:46 · 142 阅读 · 0 评论 -
Softmax 回归( Softmax regression)
关于softmax的学习 问题引入:我们都知道在做二分类的时候可以使用线性回归就可以解决,但是如果我们是多分类任务呢?比如说我们想识别猫 ,狗,小鸡这时候线性回归就不能很好的解决我们的问题了。 有一种logistic回归的形式,叫做softmax回归可以很好的解决多分类问题。 借用上面的例子,如果你想将猫,狗,小鸡进行分类。我们可以将把猫分为类1,狗为类 2,小鸡是类 3 ,如果不属于以上任何一类...原创 2019-09-25 11:53:48 · 658 阅读 · 0 评论