- 博客(8)
- 收藏
- 关注
RSS订阅原创 Boltzmann机详解
基于热力学的随机型神经网络–Boltzmann机1. 模拟退火算法我们知道，Hopfield神经网络拥有联想记忆的能力，这也是对生物神经网络的一种模拟。但是，Hopfield神经网络也和BP神经网络一样，有一个致命的缺陷：只能找到局部最优解，而无法沿着梯度上升的方向在全局的角度寻求全局最优解。为了解决这个问题，1983年，Kirkpatrick等提出了模拟退火算法（SA）能有效的解决局部最优...
2020-04-08 15:58:09
4503
原创 受限Boltzmann机详解
受限Boltzmann机1. 马尔科夫过程随机过程：设T是一个无限实数集，我们把依赖于参数t∈T的一族随机变量称为随机过程，记作{X(t)，t∈T}马尔科夫性：随机过程中的随机变量将来的取值只与现在有关，而与过去无关（即只依赖于现在，不依赖于过去），我们就称随机过程具有马尔可夫性。马尔科夫过程和马氏链：具有马尔可夫性的随机过程，由马尔科夫过程中的随机变量组成的集合叫做马尔科夫链，简称马氏...
2020-04-08 15:46:56
1280
原创 机器学习中的最优化思想
1、极值问题1.1、一元函数情况在高等数学甚至是初等数学中，我们就已经接触过函数的极值这类问题。在初等数学中，例如二次函数的最小值（最大值）求解问题就是一个典型的极值问题，到了大学，我们可以从高等数学的知识中知道，对于任何一个连续函数来说，它的极值点一定是导数为零的点。1.2、推广到多元函数以上讨论的都是基于一元函数的情况（即二维平面中），我们可以把这个问题推广到多元函数中（...
2020-02-09 13:18:46
686
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人