数学基础
经常不在
一个深度学习的初学者,期望跟上前人的脚步,期望更多交流~~
展开
-
梯度下降法
一、基本概念 梯度下降法,就是利用负梯度方向来决定每次迭代的新的搜索方向,使得每次迭代能使待优化的目标函数逐步减小。梯度下降法是2范数下的最速下降法。 最速下降法的一种简单形式是:x(k+1)=x(k)-a*g(k),其中a称为学习速率,可以是较小的常数。g(k)是x(k)的梯度。 二、导数 (1)定义 设有定义域和取值都在实数域中的函数 。若 在点转载 2017-03-11 17:19:14 · 160 阅读 · 0 评论 -
正态分布(Normal distribution)又名高斯分布(Gaussian distribution)
正态分布(Normal distribution)又名高斯分布(Gaussian distribution),是一个在数学、物理及工程等领域都非常重要的概率分布,在统计学的许多方面有着重大的影响力。 若随机变量X服从一个数学期望为μ、标准方差为σ2的高斯分布,记为: X∼N(μ,σ2), 则其概率密度函数为 正态分布的期望值μ决定了其位置,其标准差σ决定了分布的幅度。因其曲线呈钟形,因...转载 2019-06-20 09:29:28 · 527 阅读 · 0 评论