![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
bytes9
这个作者很懒,什么都没留下…
展开
-
RBM的理解
RBM 是基于能量函数的无向图模型。将图节点分为可见层节点v和隐藏层节点h,其联合概率分布p(h,v)可表示为其中,能量函数。利用RBM计算p(h|v)的概率,即在可见层已知时,计算隐藏层h的概率。要根据v推断h,可求argmax p(h|v)。先得通过训练样本来估计模型参数。采用极大似然估计,梯度上升算法。由于训练数据只有可见节点,对数似然函数为:N是样本数。...原创 2021-01-05 15:26:37 · 1719 阅读 · 0 评论 -
gibbs采样算法的理解
要从p(x)中采样,找到一个状态转移概率,满足细致平稳条件:,来构造一个平稳分布为p(x)的马尔科夫链。metropolis-hastings算法的状态转移概率构造方式如下:可以证明上述T能够满足细致平稳条件。当满足细致平稳分布时,的分布的分布相同。证明如下:1)马尔科夫性有:2)因满足细致平稳条件,上式右边等于3)因为4)所以右边等于左边,等式成立。...原创 2020-12-16 11:15:17 · 1131 阅读 · 1 评论 -
希尔伯特空间
空间,指的是元素的集合,且元素间满足某种关系。线性空间:元素满足乘加运算,即空间中的两个元素相加,得到的元素在集合内。空间中的任一元素和实数相乘,得到的元素仍在集合内。距离空间:用距离表示两个元素的关系,两点间关系满足:非负性,对称性,直递性,即为距离。欧氏空间:以欧氏距离表示两元素间的关系。赋范空间:该空间中的每个点可以定义长度,这个长度称为该点的范数,范数可以视为欧式空间中向量长度概念的推广。巴拿赫(Banach)空间:完备的赋范线性空间。完备性,通俗理解,即没空洞。集合中的任意两元素之原创 2020-11-29 15:07:36 · 527 阅读 · 0 评论 -
tensorflow之variable
tensorflow中的variable令人迷糊。它与python的变量是何关系?请看文档的定义。A variable maintains state in the graph across calls to run(). You add a variable to the graph by constructing an instance of the class Variable.在g...原创 2019-07-12 08:23:33 · 404 阅读 · 0 评论 -
tensorflow 之tensor的理解
tensorflow是一个机器学习库.tensorflow 从名字翻译过来是'张量流'.计算(操作)是一个加工过程,输入张量,经过加工后得到另一个输出张量.复杂的计算可以看作是一系列加工流,即输入数据,经过一系列加工流后输出结果张量. 每一个操作(加工)相互连接,构成一个有向图.A Tensor is a symbolic handle to one of the outputs of ...原创 2019-05-22 11:24:22 · 502 阅读 · 0 评论 -
Estimator vs Keras (转)
" The Estimators API is used for training models for distributed environments. This targets industry use cases such as distributed training on large datasets that can export a model for production."...转载 2019-05-10 09:38:30 · 956 阅读 · 0 评论 -
机器学习基本过程(之二)
使用 Estimator 构建模型 定义模型 classifier = tf.estimator.Estimator( model_fn=my_model, params={ 'feature_columns': my_feature_columns, # Two hidden layers of 10 nodes each. ...原创 2019-05-15 15:16:05 · 172 阅读 · 0 评论 -
机器学习基本过程(之一)
目录基本过程定义模型训练模型预测采用tensorflow不同接口的实现方法 使用Keras使用 Estimator 构建模型 tensorflow低阶api使用Keras 定义模型 1.继承 tf.keras.Model,定义网络每一层。import tensorflow as tfclass MyModel(tf.keras...原创 2019-05-09 15:20:53 · 562 阅读 · 0 评论 -
Google Colab简介
Google Colab是一个notebook环境,可看成是一台带有GPU的Ubuntu虚拟机,只不过我们只能用命令行的方式操作它。你可以选择执行系统命令,亦或是直接编写运行python代码。 每次访问Google Colab,会重新分配一个虚拟机,以前的代码和数据会丢失。如果要保存数据和代码,可以将其保存到Google Drive(谷歌云端硬盘)。 挂载完Google Drive,会在虚拟机...原创 2019-05-09 10:18:50 · 2175 阅读 · 0 评论 -
机器学习之正则化
1.为什么要正则化?防止过拟合.2.什么是过拟合?指训练的模型在训练集的损失很小,但是在测试集上表现不佳.3.为什么会过拟合?一般来说,数据中会有噪声,为了拟合包含噪声的训练集的数据,模型会变得很复杂.而这个模型只是适合这个包含了噪声的训练集,和实际的模型有较大偏差,在测试集数据上往往表现不回.4.什么是正则化,其思想是什么?正则化的思想是,模型应当是趋于简单的.根据奥...原创 2019-05-08 11:33:02 · 115 阅读 · 0 评论