![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习理论基础
地狱恶狼
这个作者很懒,什么都没留下…
展开
-
深度学习理论基础5-感知机的局限性
--------------异或门-------------异或门的文字描述:仅当输入中的一方为1时,才会输出1。现在请闭上眼睛想2两个星期,怎么用上节提到的感知机实现异或门呢?。。。嗯,相信你在思考的这段时间里已经尝试了很多组合。但依然没有靠谱的参数可用,实际上上文的感知机是无法搞定异或门的。其中的原理很难用文字讲明白,但可以用图像轻松的说明。------------...原创 2018-12-30 12:11:57 · 1893 阅读 · 0 评论 -
深度学习理论基础13-损失函数
开始之前先认识机器学习的几个概念性的东西:深 度 学 习 有 时 也 称 为 端 到 端 机 器 学 习(end-to-end machinelearning)。机器学习中,一般将数据分为训练数据和测试数据(或监督数据)两部分来进行学习和实验等。只对某个数据集过度拟合的状态称为过拟合(over fitting)。避免过拟合也是机器学习的一个重要课题。神经网络的学习通过某个指标表...原创 2019-01-01 19:48:18 · 1166 阅读 · 1 评论 -
深度学习理论基础12-手写数字识别
本节实践一下'前向传播'.即将使用真正的数据和模型了(虽然这个模型不是自己训练的),想想还是有点小激动嗯。(马上就能发明机器人,推翻人类暴政,走向人生巅峰了。)本节大体分为3个内容想办法搞到图片数据一次处理一张一次处理100张(批量且高效率的)--------MNIST数据集--------这是机器学习领域最出名的数据集之一。MNIST数据集是由0到9的数字图像...原创 2019-01-01 14:15:57 · 2048 阅读 · 1 评论 -
深度学习理论基础11-输出层的设计
首先,继续上节的话题。softmax()函数。这只就是softmax函数了。其中a代表输出层的输入数据,ak代表第k个输入。如果你觉得又难理解又难记,其实可以拆成3步来理解:1.把所有的输入计算成序列[e**(a1),e**(a2),e**(a3)...e**(an)],用np的广播功能一行就能搞定2.计算得到上面的结果之和sum3.第k个输入的softmax之值即为 e*...原创 2019-01-01 09:05:40 · 1059 阅读 · 1 评论 -
深度学习理论基础10-实现一个3层神经网络
首先,这是一张本节的神经网络懵逼图全貌图!可以看出,这图显示的元素非常乱七八糟丰富。我会逐个字母逐个数字的告诉你这是什么,那是什么。等我说完了,以及你知道这些字母是什么的时候,我们将一起实现它。第0层:这是输入层,1代表偏置神经元。x是输入,而且它们都被按照顺序编了号。第0层与第1层之间:w是权重,括号里的1代表当前层数。 w右下角的11代表右边层的第1个神经元与左边...原创 2018-12-31 11:47:13 · 730 阅读 · 1 评论 -
深度学习理论基础9-多维数组
>>> import numpy as np>>> A = np.array([1, 2, 3, 4])>>> print(A)[1 2 3 4]>>> np.ndim(A) #这个方法返回np数组的维度1>>> A.shape #这个属性返回这个np数组的形状。也就是每个维度的原创 2018-12-31 09:23:53 · 231 阅读 · 1 评论 -
深度学习理论基础8-激活函数
上文我们已经认识了激活函数家族的第一个成员。以阈值为界,一旦输入超过阈值,就切换输出。这样的函数称为“阶跃函数”。但高大上的神经网络世界是不会使用这么低端的激活函数的,只有低级的感知机世界才会用'阶跃函数'。下面登场的是神经网络世界的激活函数----sigmoid函数!!(之所以加双叹号,是因为我们即将进入神经网络的世界。之后就可以制作机器人,然后机器人反叛,一统天下,走向人生巅峰了。)看...原创 2018-12-30 18:28:30 · 236 阅读 · 1 评论 -
深度学习理论基础7-初识神经网络
为了有种仪式感。我给出了神经网络的抽象表示。各层的名字图上已经给的很清楚了。图上没有体现到的知识是,中间层也叫隐藏层。因为这个模型只有2层有权重,所以通常被叫做'2层网络'。让我们回到感知机。下面是感知机的数学公式表示:还是原来的配方,还是原来的味道。接着给你感知机的图像表示,只是这次我们不要省略b,而是明确的把b添加到图里面,下图:想必有一撮读者在此处懵逼了几秒。不知道1...原创 2018-12-30 17:13:53 · 402 阅读 · 0 评论 -
深度学习理论基础6-多层感知机
废话不多说,人生甜短,让我们立即开始多层感知机的学习吧。为了循环渐进的理解多层感知机,我们有必要再把门电路拿出来把玩一番。这些是门电路的符号表示,我们马上就用。你随便记3秒钟就好。吼吼,你是不是在想,难道这就是异或门?没错哦。这就是。不信你可以捋一下。是不是经过翻过来调过去的验证,发现那果然是一个异或门的实现?吼吼,捋乱了也没关系。咱还有图。第1层输入(与非门) ...原创 2018-12-30 16:32:53 · 311 阅读 · 0 评论 -
深度学习理论基础1-Numpy
夜梦,语文老师勒令我写一篇《深度学习入门:基于Python的理论与实现》读后感。我不敢懈怠,立即翻出我的笔记本电脑,开始写作文。。。。--------Numpy--------简介:---->是一个Python第三方模块---->处理数组,矩阵,多维数组十分便捷---->底层用C语言实现,高效--------Numpy数组的加减乘除运算--------...原创 2018-12-30 14:26:20 · 343 阅读 · 0 评论 -
深度学习理论基础4-简单逻辑电路的感知机实现
接下来我们小试牛刀,为感知机设定权重及阀值,实现一些简单的逻辑电路。----------------------------------------------------与门------------------------------------------------------------让我讲一个与门的故事,从前有个叫‘与门’的门会在两个输入都为1的情况下输出1,其他情况...原创 2018-12-30 10:53:04 · 471 阅读 · 0 评论 -
深度学习理论基础3-什么是感知机?
感知机的文字描述: ---->感知机接收多个输入信号,输出一个信号。 ---->感知机的信号只有01两种取值。感知机的图像描述: ---->输入:x1,x2 ---->权重:w1与w2 ---->输出:y ---->阀值:x1*w1+x2*w2大于阀值时y会输出1,否则输出0。阀值是我们另外定义的。感知机的...原创 2018-12-30 09:31:49 · 277 阅读 · 0 评论 -
深度学习理论基础2-Matplotlib
这一节的内容非常简单,介绍了matplotlib模块的几个用法:1.通过x,y坐标的集合做成线条显示在屏幕上。2.读入图像并显示在屏幕上。-------------------------------------------------------代码及注释-------------------------------------------------------import...原创 2018-12-30 08:44:03 · 212 阅读 · 0 评论 -
深度学习理论基础14-数值微分
先来看一个导数的公式其中h是趋近无限小的数。导数表示x方向的微小变化导致f(x)的值在多大程度发生变化。如果用代码帮助你的理解,这个代码是这样的:def numerical_diff(f, x): h = 10e-50 return (f(x+h) - f(x)) / h现在你大约了解了导数是怎么回事(学渣才不知道的吧,喂!)但是这个实现是不能用的。因为小...原创 2019-01-06 19:40:54 · 563 阅读 · 3 评论