![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 65
X_Weizhong
这个作者很懒,什么都没留下…
展开
-
基于Frobenius范数的标准NMF更新公式推导
目标函数在标准非负矩阵分解中,其目标函数很简单,形式为,其中V为观测矩阵,W为基矩阵,H为表示矩阵, 这里假设V为m×n维的,W为m×l维的,H为l×n维的。更新公式推导\sum_{i,j}^{ }(V_{ij}-(WH)_{ij})^{2}其更新公式是基于梯度下降法,因此第一步就是要将目标函数分别对矩阵变量W和H求偏导,求出偏导后根据更新矩阵W,根据来更新矩阵H。更新矩阵W先对W中的变量求偏导 (链式求导法则)故更新公式为令,带入上式中可得...原创 2020-12-29 17:27:25 · 1128 阅读 · 0 评论 -
高斯混合模型
定义先给出高斯混合模型的定义,高斯混合模型是指具有如下形式的概率分布模型: (1)其中,是系数,且,,而是高斯分布密度,,对于随机变量y是一维数据时, (2)称为第k个分模型。理解高斯混合模型属于生成模型,可以设想观测数据,,是这样生成的:首先以概率选择第k个分模型,然后由第k个分模型的概率分布生成观测数据。观测数据是能直接观测到的,已知的;而反映观测数据来自第k个分模型...原创 2021-05-10 22:53:49 · 14181 阅读 · 0 评论 -
神经网络
直观解释神经网络模型,我自己用一句话对其进行概括就是:通过不断的训练,学习出一个函数(即不断调整这个函数的各个参数),使得这个函数在训练集上可以很好的拟合训练样本的真实输出,因为理论上前馈神经网络,只需具备单隐含层和有限个神经单元,就能以任意精度拟合任意复杂度的函数,这是个已经被证明了的定理。比如来看下面这张图:在这里蓝色的点表示我们的训练样本,行坐标表示的是样本的特征,为了简单起见这里假设输入的特征是一维的,纵坐标表示输出,光从这些蓝色的点我们可以看到这些样本大致呈显出以一定的规律分布,即其分布可原创 2021-04-21 22:30:42 · 1037 阅读 · 1 评论 -
EM算法推导
EM算法用于估计含有隐含变量的概率模型的参数估计,是一种迭代式的求解方法。K-Means和高斯混合模型都算是EM算法使用的经典案例。EM算法包括两个主要的步骤:E步(求期望)和M步(期望最大化),以下是EM算法的手写推导过程:...原创 2022-03-11 17:59:15 · 578 阅读 · 0 评论