![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
IOEvan
这个作者很懒,什么都没留下…
展开
-
交叉熵损失函数(cross-entropy loss function)原理及Pytorch代码简介
为了更好的理解交叉熵的意义,先介绍一下相对熵的概念1、相对熵基本概念相对熵又称为KL散度(Kullback–Leibler divergence),用来描述两个概率分布的差异性。假设有对同一变量xxx的q(x)q(x)q(x)和p(x)p(x)p(x)两个概率分布,那么两者之间的相对熵可由以下定义:DKL(p∥q)=∑i=1Np(xi)log(p(xi)q(xi))D_{K L...原创 2019-05-07 19:08:06 · 76099 阅读 · 15 评论 -
Pytorch+Tensorflow 实现MNIST数字识别问题
1. MNIST数据集MNIST(Mixed National Institute of Standards and Technology database)是一个简单的机器视觉数据集,由几万张28x28像素的手写数字组成,这些图片仅有灰度值信息。MNIST数据集的样例如图1所示:该任务是对这些手写数字的图片进行分类,转成0-9一共10类。...原创 2019-07-23 16:56:07 · 2548 阅读 · 0 评论 -
LeNet-5完成MNIST数字识别(Pytorch + Tensorflow)
LeNet-5简介LeNet-5模型是Yann LeCun教授于1998年在论文 Gradient-based learning applied to document recognition 中提出的,是第一个用于数字识别的卷积神经网络。在MNIST数据集上,LeNet-5模型可以达到大约99.2%的正确率。LeNet-5模型总共有7层,模型结构如下图所示(网络解析(一):LeNet-5...原创 2019-08-23 09:15:50 · 1916 阅读 · 0 评论