![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
数学
诚白1
这个作者很懒,什么都没留下…
展开
-
从动力学角度看优化算法:从SGD到动量加速
来源:https://kexue.fm/archives/5655目录梯度下降训练目标分析GD与ODE随机梯度下降从GD到SGD从SGD到SDE结果启发动量加速 从一阶到二阶GD+Momentum如何加速?Nesterov动量Kramers方程思考回顾 在本文中,我们来关心优化算法 SGD(stochastic gradient ...转载 2018-12-27 13:33:38 · 1919 阅读 · 0 评论 -
什么是协方差,怎么计算?为什么需要协方差?
转自:https://blog.csdn.net/xiao_lxl/article/details/72730000学过概率统计的孩子都知道,统计里最基本的概念就是样本的均值,方差,或者再加个标准差。首先我们给你一个含有n个样本的集合,依次给出这些概念的公式描述,这些高中学过数学的孩子都应该知道吧,一带而过。很显然,均值描述的是样本集合的中间点,它告诉我们的信息是很有限的,而标准差给我...转载 2018-12-20 12:58:34 · 22364 阅读 · 0 评论