深度学习
chernbo
这个作者很懒,什么都没留下…
展开
-
softmax 理解
softmax理解1、softmax由来2、常见softmax公式3、softmax推导 1、softmax由来 softmax是根据hardmax得来,hardmax: z=max(x,y),而softmax是z=log(ex+ey)z=log(e^x+e^y)z=log(ex+ey)当x>>y时softmax下的 z=x. 为了更加清楚理解:我们固定y=1,比较一下,softmax与hardmax图像: 由图像可以知道softmax比hardmax平滑(大概猜出为什么叫softmax了)原创 2020-05-25 19:48:06 · 358 阅读 · 0 评论 -
AlexNet网络具体介绍
AlexNet网络1、AlexNet 网络的创新点1.1、使用了ReLU作为激活函数1.2 LRN(局部相应归一化)1.3 Dropout1.4使用了重叠池化层1.5 并行使用了多GPU训练2、AlexNet网络结构 1、AlexNet 网络的创新点 AlexNet是发表在《ImageNet Classification with Deep Convolutional Neural Network...原创 2020-05-01 18:12:09 · 1186 阅读 · 0 评论