![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 88
机器学习主流算法和python实现,参考教程https://github.com/apachecn/AiLearning
文件夹66
from now!
展开
-
Boltzmann machines and energy-based models
Boltzmann machines and energy-based modelsEBMEBMs简单的说,就是用一个标量——energy 来描述某个变量配置的好坏。在统计力学中,一般认为低能量值的状态比高能量值的状态发生的概率高,所以一般也会认为在EBMs中,真实的样本对应着低能量值,也对应着高的概率值。P(x)=e−E(x)ZP(x)=\frac{e^{-E(x)}}{Z}P(x)=Ze−E(x)其中Z=∫xe−E(x)dxZ=\int_x e^{-E(x)}dxZ=∫xe−E(x)dx原创 2021-06-14 16:33:01 · 212 阅读 · 0 评论 -
Contrastive Divergence
参考文献:[1] Training Products of Experts by Minimizing Contrastive Divergence[2] Training Restricted Boltzmann Machines using Approximations to the Likelihood Gradient[3]Training Products of Experts by Minimizing Contrastive Divergence阅读笔记Contrastive Dive原创 2021-05-26 13:18:38 · 237 阅读 · 0 评论 -
论文翻译和解读 A Tutorial on Energy-Based Learning (四)
这篇博客是上篇博客的后续,主要是原文6、7、8章。目录6. Efficient Inference: Non-Probabilistic Factor Graphs6.1 EBMs versus Internally Normalized Models7. EBMs for Sequence Labeling and Structured Outputs7.1 Linear Structured Models: CRF, SVMM, and MMMN7.1.1 Perceptron Loss7.1.2 M原创 2021-05-13 13:56:20 · 329 阅读 · 1 评论 -
论文翻译和解读 A Tutorial on Energy-Based Learning (三)
这篇博客是上篇博客的后续,主要是原文5章。目录5. Analysis of Loss Functions for Energy-Based Models5.1 "Good" and "Bad" Loss Functions5.2 Sufficient Conditions for Good Loss Functions5.3 Conditions on the Energy5.4 Suffient Conditions on the Loss Functional5.5 Which Loss are Go原创 2021-05-12 22:33:43 · 406 阅读 · 0 评论 -
论文翻译和解读 A Tutorial on Energy-Based Learning (二)
这篇博客是上篇博客的后续,主要是原文2.2节。目录Examples of Loss FunctionsEnergy LossGeneralized Perceptron LossGeneralized Margin LossesHinge LossLog lossLVQ2 LossMCE LossSquare-Square LossSquare-ExponentialNegative Log-Likelihood LossMininum Empirical Error LossExamples of L原创 2021-05-06 10:20:25 · 500 阅读 · 0 评论 -
论文翻译和解读 A Tutorial on Energy-Based Learning (一)
论文地址这篇论文提出了一个概念Energy-based Models(EBMs)。由于原文篇幅较多,将分成多篇博客进行学习。目录摘要1.简介1.1 Energy-Based Inference(基于能量的推断)1.2 这样一个模型可以回答什么问题呢1.3 Decision Making versus Probabilistic Modeling2.Energy-Based Training: Architecture and Loss FunctionDesigning a Loss Functiona原创 2021-05-02 16:01:52 · 2304 阅读 · 0 评论 -
马尔可夫的各种模型 Markov chain HMM CRF
文章目录一览马尔可夫模型HMM什么时候可能会用到HMM相关定义举例观测序列的生成为什么HMM是生成模型HMM的3个基本问题MRF什么是随机场概率无向图(MRF)表示的随机变量之间存在的三个性质概率无向图(MFC)的因子分解CRF(条件随机场)什么时候可能会用到CRF线性链条件随机场(Linear-CRF)相关定义和参数化形式简化形式矩阵形式CRF的3个基本问题参考列表马尔可夫模型马尔可夫模型是用来描述状态之间随时间变化的模型。随机过程:假设随机变量XXX(可以是连续变量或离散变量)在时刻ttt时的状态原创 2021-04-29 23:00:17 · 1325 阅读 · 0 评论 -
机器学习(ML)学习教程(二)决策树原理及python实现
参考教程:https://github.com/apachecn/AiLearning/ 讲解的很详细。下面的篇幅包含我本人在学习期间学习的代码(参考了部分上述教程)Decision Tree这也是一个比较简单的机器学习算法,用于分类或回归(此处考虑的是分类)。其原理总结起来就是:根据训练数据构建一个用于分类的二叉树,对于测试数据,直接按照构造的二叉树来走到叶子节点(叶子节点表示类别信息)。所以现在分为下面几点介绍:结构决策树是一个类似于流程图的树结构:可以从图中看到,有三个要素:内部节点、分原创 2021-01-17 15:51:11 · 202 阅读 · 0 评论 -
机器学习(ML)学习教程(一)KNN原理及python实现
参考教程:https://github.com/apachecn/AiLearning/ 内容添加链接描述很详细。KNN原理用一句话总结就是:当预测一个样本其label时,根据距离它最近的K个点的label来决定,如何决定呢:这K个点属于哪一个label最多,那这个被预测的样本就属于哪一类。所以其实就两个要素:1.K值 2.距离度量K值的选择:可以用交叉验证的方法确定距离度量的选择:欧式距离、曼哈顿距离等等KNN是很简单的一种方法,但需要和K-means算法区分:前者是分类算法(有监督原创 2021-01-15 20:53:02 · 272 阅读 · 1 评论