- 博客(2)
- 资源 (2)
- 收藏
- 关注
原创 Batch Normalization梯度反向传播推导
最近在看CS231N的课程,同时也顺带做配套的作业,在Assignment2 中关于Batch Normalization的具体数学过程则困惑了很久,通过参看一些博客自己推导了一遍,供大家参考。Batch Normalization首先,关于Batch Normalization的具体实现过程就不在此介绍了,想了解的可以参看论文或者博客。 对于Batch Normalization的前向传播可以参
2017-05-09 20:24:06 13889 8
原创 关于Logistic Regression、Softmax Loss和Cross-entropy的随笔
最近看深度学习图像分类的相关知识的时候,发现对于Softmax损失函数的相关概念没有搞明白,因此讲设计到的相关知识一些梳理,供大家参考。 本文以CIFAR-10数据集图片分类任务为例展开,定义第ii 个输入样本xix_{i} ,输出yiy_{i} ,图片共有10类(k=0,1,...,c,c=9k=0,1,...,c, c=9)Logistic RegressionLogistic Regre
2017-04-29 15:56:32 3871
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人