概率图模型
文章平均质量分 94
相国大人
社交网络,社会计算,机器学习
展开
-
深入浅出LDA(3)
阅读说明前几节的一点小尾巴Dirichlet分布1 回顾beta分布2 Dirichlet分布21 Dirichlet分布推导22 beta分布与Dirichlet分布0. 阅读说明与LDA紧密相关的必要且最小知识集合为博文的正文。凡是灰色框中的内容为拓展和补充内容,直接跳过并不会影响你的理解。灰色框指的是如下形式的段落: 这是一个灰色框示意段落 这部分内容为补充性内容,直接原创 2017-11-03 09:34:10 · 504 阅读 · 0 评论 -
深入浅出LDA(4)
1. 如何更好的理解β\beta分布DirichletDirichlet分布? 这一节内容来自:知乎 王胖子 链接:https://www.zhihu.com/question/26751755/answer/80931791outline:Bernoulli trial->Bernoulli process->Beta分布->Dirichlet分布Bernoulli trial简单地原创 2017-11-03 15:58:58 · 491 阅读 · 0 评论 -
深入浅出LDA(2)
阅读说明beta分布1 beta分布2 如何更好的理解beta分布21 第一种理解22 第二种理解3 beta分布的性质共轭先验1 共轭先验和共轭分布2 beta分布与二项分布的共轭关系3 伪计数4 共轭先验的意义0. 阅读说明与LDA紧密相关的必要且最小知识集合为博文的正文。凡是灰色框中的内容为拓展和补充内容,直接跳过并不会影响你的理解。灰色框指的是如下形式的段落: 这是原创 2017-11-03 09:07:25 · 789 阅读 · 0 评论 -
Beta分布,二项分布,Dirichlet分布,多项式分布新解
完全原创,无半点抄袭beta分布与二项分布共轭先验beta分布与Dirichlet分布Dirichlet分布与多项式分布原创 2017-11-04 08:32:21 · 2350 阅读 · 1 评论 -
概率图模型10:I-等价
I-equivalenceskeletonsucient condition for I-equivalenceimmoralitynecessary and sufficient condition for I-equivalencea final characterization原创 2017-11-15 10:21:32 · 1047 阅读 · 0 评论 -
概率图模型系列(更新至2017.11.15)
目录概率图模型1:隐马尔科夫(1) 摘要:概率图模型2:隐马尔科夫(2) 摘要:概率图模型3:隐马尔科夫(3) 摘要:概率图模型4:贝叶斯网络 摘要:概率图模型5:无向图入门 摘要:概率图模型6:条件随机场(1) 摘要:概率图模型7:推理与流动 摘要: 推理模式(causal/evidential/ intercausal reasoning);概率影响的流动,有效迹;原创 2017-06-12 11:16:05 · 2612 阅读 · 0 评论 -
概率图模型4:贝叶斯网络
概率图模型1:贝叶斯网络作者:孙相国转载请注明出处概率图模型主要研究四方面问题:表示推理学习在本系列博文中,我们将按照下面的路线进行陈述:首先我们研究贝叶斯网络和无向图网络的最基本的概念。在此基础上,我们分出两个分支,一个是以贝叶斯网络为基础,一个是以无向图为基础,讨论学习问题:最后我们将会研究一些关于推理方面的知识.概率图模型1贝叶斯网络参考文献1 为什么要研究贝叶斯网络2原创 2017-04-07 16:42:33 · 4998 阅读 · 0 评论 -
概率图模型9:d-分离算法
为了讲清楚d-分离算法。我们首先需要几个基本知识: 1. 有效迹 2. d-分离的基本理论 3. 有向图的BFS(广度优先遍历) 4. 一个小例子 5. d-分离算法1. 有效迹 For more information: 《概率图模型7:推理与流动》 《概率图模型4:贝叶斯网络》2. d-分离的基本理论2.1 Introductiond-separation is a原创 2017-11-13 12:27:18 · 4369 阅读 · 0 评论 -
概率图模型周边
概率图模型: Coursera课程资源分享和简介pgmpy Probabilistic Graphical Models using Python原创 2017-11-15 15:56:09 · 615 阅读 · 0 评论 -
概率图模型11:Minimal I-Maps
作者:孙相国E-mail:[email protected]引言回顾minimal I-mapMinimal I-Map的问题1. 引言如我们之前讨论过的,实际问题中,变量的联合概率分布的原子情况往往非常巨大,我们根本不可能,或者说我们的数据也不可能把所有的情况都囊括其中。这就意味着,我们很难全面的发现这个真实的概率分布,而我们所能够做到的就是根据已有的数据,尽可能的发掘这个真是概率原创 2017-11-20 18:02:05 · 2214 阅读 · 0 评论 -
深入浅出LDA(1)
Gamma函数1 Gamma函数2 用Gamma函数来扩充定义3 Gamma函数的由来4 Gamma函数的性质原创 2017-11-01 17:04:11 · 1112 阅读 · 0 评论 -
概率图模型6:条件随机场(1)
作者:孙相国上一节我们讲述了概率无向图模型(又叫做马尔科夫随机场)本,节主要介绍条件随机场的定义、和概率计算问题。阅读本文的前提条件是博文《概率图模型5:无向图入门》1. 条件随机场的定义在上一节中,我们提到过马尔科夫随机场的定义,其中最重要的就是要满足局部马尔科夫性:在给定随机变量vv的直接邻居WW的条件下,随机变量vv与其他非直接邻居是独立的。 条件随机场的含义是,如果我们马尔科夫随机场中的这原创 2017-04-27 22:23:47 · 2811 阅读 · 0 评论 -
概率图模型5:无向图入门
作者:孙相国定义1因子与辖域定义2成对局部和全局马尔科夫性定义3概率无向图模型定义4吉布斯分布与无向图因子分解定义1:因子与辖域假定DD表示随机变量集合,因子ϕ\phi定义为从Val(D)Val(D)映射到实数域RR的一个函数。假如因子的所有表值均非负,那么这个因子称为非负的。变量集DD称为因子的辖域.具体来讲,你可以简单地把因子想象为集合D={X1,X2,⋯,Xn}D=\{X_1,X_2,\原创 2017-04-27 21:38:44 · 5210 阅读 · 1 评论 -
概率图模型3:隐马尔科夫(3)
本节主要实现隐马尔可夫模型的预测算法:Viterbi algorithm 李航,《统计学习方法》#!/usr/bin/env python# -*- coding: UTF-8 -*-"""@author: XiangguoSun@contact: [email protected]@file: Viterbi.py@time: 2017/3/27 12:40@softwar原创 2017-03-27 16:52:03 · 801 阅读 · 0 评论 -
概率图模型2:隐马尔科夫(2)
上一节我们介绍了隐马尔科夫的概率计算问题,本节,我们介绍一下隐马尔科夫的学习问题。在介绍学习问题之前,先让我们用python来实现几个重要概念。#!/usr/bin/env python# -*- coding: UTF-8 -*-"""@author: XiangguoSun@contact: [email protected]@file: HMM.py@time: 2017/原创 2017-03-27 12:48:01 · 734 阅读 · 0 评论 -
概率图模型7:推理与流动
1. 推理模式概率图模型的推理模型有三种分别是:causal reasoning/因果推理 :也就是知道了事件的一个原因后,我们会改变对事件结果的预估。evidential reasoning/证据推理 :也就是当我们知道了事件的结果后,我们会改变对引发事件的原因的判断。intercausal reasoning/原因间推理 :有人翻译为因果间推理,我以为这容易产生误解。intercausal re原创 2017-06-12 11:09:06 · 1528 阅读 · 0 评论 -
概率图模型1:隐马尔科夫(1)
概率图模型与词性标注作者:孙相国转载请注明出处参考文献《机器学习郑捷》第11章机器学习周志华 14章《统计学系方法》第10章《概率图模型》第3章贝叶斯网表示和马尔科夫《驾驭文本》隐马尔科夫模型两个基本假设:齐次马尔科夫性假设:隐藏的马尔科夫链在任意时刻tt的状态只依赖于前一时刻的状态,与其他时刻的状态及观测无关,也与时刻tt无关。观测独立性假设:任意时刻的观测只依赖于该时刻的马尔科夫原创 2017-03-14 22:35:05 · 1769 阅读 · 0 评论 -
概率图模型8:独立性
作者:孙相国到目前为止,我们一直是把图模型看做是一种可以编码概率分布的数据结构。 我们可以用因子分解的方式表示一个高维特征空间的概率分布。 我们也可以把概率图看做是一些列的独立性集合,并且某个分布必须满足这些独立性。 这种观点更加深刻(你可以看一下我的第5篇博客《概率图模型4:贝叶斯网络》)1.独立性的定义1.1 independence关于独立性的介绍,我们曾在博文《深入浅出EM算法》中问大原创 2017-06-13 14:48:34 · 2004 阅读 · 0 评论 -
概率图模型9:贝叶斯网络
概率图模型最棒的性质就是因子分解与独立性之间的内在联系。 现在我们将要探讨,这种内在联系是如何在有向图(也就是贝叶斯网络)中体现的。1. d-separationd分离的概念我们在之前的博客中讲过,你可以到《概率图模型4:贝叶斯网络》中详细阅读。这里我们只给出更容易让人理解的表达方式。 So we talked about the notion of flow of influence in原创 2017-06-15 18:20:45 · 2109 阅读 · 0 评论 -
Sarada Herke Graph Theory
连接: https://www.youtube.com/channel/UCV8tyRakGZuXUwD-wYH1yGg原创 2017-11-10 09:00:31 · 432 阅读 · 0 评论 -
论文研读1
论文研读文献24[24] B. Perozzi, R. Al-Rfou, and S. Skiena. DeepWalk: Online learning of social representations. In KDD, 2014. 1.问题的引入文章的初衷,普通 的机器学习方法适合于小规模样本的训练,对于规模巨大的样本集来说,并不意味着性能一定同步上升。考虑到在概率图模型中,我们可以根据网络图原创 2017-05-19 14:14:12 · 2288 阅读 · 0 评论 -
OSN博士必须掌握的必杀技(更新至2017/12/15)
索引表索引表 元路径 meta-path理论 概率图模型 十大经典机器学习算法 基本的deep learning算法 比较前沿的deep/machine learning 算法 矩阵分解理论 简单的凸优化理论原创 2017-11-23 11:22:02 · 715 阅读 · 0 评论