- 博客(3)
- 收藏
- 关注
原创 Dirichlet Process(狄利克雷过程)
Dirichlet过程是一个常用于非参数模型的随机过程,对于随机过程的性质可以类比于Gauss过程。它是一个定义在分布上的分布,也就是说每一个Dirichlet过程的样本都是一个分布。从Dirichlet过程中抽样的分布是离散的,但是不能用有限个参数表示这样的过程,因为在每个点(无穷维)都可以定义采样点,因此这是一个非参数的模型。最开始缸里没有球,我们从分布H中取颜色,用这个颜色涂一个球,放入缸中。从缸里取一个球,用这个球的颜色涂一个新的球,再把两个球一起放进去。中的值都对应一个独立的颜色,从。
2022-12-28 20:24:21 1564 1
原创 Bayes deep learning的理解
Bayes方法的理解:目录Bayes方法的理解:序言回到Bayes方法:频率学派:Bayes学派:bayes推断和边际化:后验分布在实际中如何使用:MAP估计:预测分布(Full Predictive Distribution):逼近预测分布:Bayesian Deep Learning:近年bayes深度学习的例子:Monte Carlo Dropout:SWAG序言本文结合了文末的bayes理论的经典论文《Bayesian Deep Learning and a Probabilistic Per
2022-03-09 15:46:26 1104
原创 关于GLOVE 词嵌入方法的理解
关于GLOVE 词嵌入方法的理解前言:Glove是基于传统矩阵的LSA方法和基于skip-gram,Cbow训练方法的基础上提出的一种效果优于这两者(及其他很多训练方法)的词向量训练方法。本文主要从其与后者的区别与发展来讲。与skip-gram的区别skip-gram 是基于context windows 来训练词向量的,即他的目标函数只选取了固定窗口大小(一般为6-8)的词形成词对来进行训练。这样的问题是只考虑了局部的词义关系,缺乏全局信息e.g All over the place was
2021-12-07 21:05:50 859
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人