- 博客(6)
- 收藏
- 关注
原创 深度学习(5)
3.7 为什么需要非线性激活函数?(why need a nonlinear activation function? )为什么神经网络需要非线性激活函数?事实证明:要让你的神经网络能够计算出有趣的函数,你必须使用非线性激活函数,证明如下:这是神经网络正向传播的方程,现在我们去掉函数g,然后令a[1] = z [1] ,或者我们也可以令g(z) = z,这个有时被叫做线性激活函数(更学术点的名字是恒等激励函数,因为它们就是把输入值输出)。为了说明问题我们把a [2] = z [2] ,那么这个模型的输出
2022-01-08 09:51:16 124
原创 浅层神经网络
1 神经网络概述(Neural Network Overview )我们将学习如何实现一个神经网络。在我们深入学习具体技术之前,我希望快速的预览一下我们将会学到的东西。现在我们开始快速浏览一下如何实现神经网络。我们了解了这个模型(见图 3.1.1)如何与下面公式 3.1 建立联系。图 3.1.1 :公式 3.1:????????????} ⟹ ???? = ???? ???? ???? + ????如上所示,首先你需要输入特征????,参数????和????,通过这些你就可以计算出????,公式
2021-10-07 21:14:20 138
原创 深度学习(4)
2.11 向量化(Vectorization)向量化是非常基础的去除代码中 for 循环的艺术,在深度学习安全领域、深度学习实践中,你会经常发现自己训练大数据集,因为深度学习算法处理大数据集效果很棒,所以你的代码运行速度非常重要,否则如果在大数据集上,你的代码可能花费很长时间去运行,你将要等待非常长的时间去得到结果。所以在深度学习领域,运行向量化是一个关键的技巧,让我们举个栗子说明什么是向量化。在逻辑回归中你需要去计算???? = ???? ???? ???? + ????,????、????都是列向量
2021-09-24 16:14:39 246
原创 深度学习(3)
1.逻辑回归中的梯度下降(Logistic Regression Gradient Descent )我们讨论怎样通过计算偏导数来实现逻辑回归的梯度下降算法。它的关键点是几个重要公式,其作用是用来实现逻辑回归中梯度下降算法。但是在本节视频中,我将使用计算图对梯度下降算法进行计算。我必须要承认的是,使用计算图来计算逻辑回归的梯度下降算法有点大材小用了。但是,我认为以这个例子作为开始来讲解,可以使你更好的理解背后的思想。从而在讨论神经网络时,你可以更深刻而全面地理解神经网络。接下来让我们开始学习逻辑
2021-08-20 23:15:48 120
原创 深度学习(2)
1 导数(Derivatives )我们现在对微积分和导数进行直观的理解。或许你认为自从一个函数????(????) = 3????,它是一条直线。下面我们来简单理解下导数。让我们看看函数中几个点,假定???? = 2,那么????(????)是????的 3 倍等于 6,也就是说如果???? = 2,那么函数????(????) = 6。假定稍微改变一点点????的值,只增加一点,变为 2.001,这时????将向右做微小的移动。0.001 的差别实在是太小了,不能在图中显示出来,我们把它右移一点,
2021-08-13 20:18:03 106
原创 深度学习(1)
1.1 二分类(Binary Classification)我们学习神经网络的基础知识,其中需要注意的是,当实现一个神经网络的时候,我们需要知道一些非常重要的技术和技巧。例如有一个包含????个样本的训练集,你很可能习惯于用一个 for 循环来遍历训练集中的每个样本,但是当实现一个神经网络的时候,我们通常不直接使用 for 循环来遍历整个训练集,所以在我学会如何处理训练集。另外在神经网络的计算中,通常先有一个叫做前向暂停(forward pause)或叫做前向传播(foward propagation)的
2021-08-07 10:49:58 352
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人