布朗聚类

最新推荐文章于 2023-09-06 16:21:23 发布
最新推荐文章于 2023-09-06 16:21:23 发布
阅读量2.7k 收藏 1
点赞数
分类专栏： 算法

算法

布朗聚类是一种自底层向上的层次聚类算法，基于n-gram模型和马尔科夫链模型。布朗聚类是一种硬聚类，每一个词都在切只在唯一的一个类中。

布朗聚类的输入是一个语料库，这个语料库是一个词序列，输出是一个二叉树，树的叶子节点是一个个词，树的中间节点是类别(中间节点作为根节点的子树上的所有叶子为类中的词)。

初始的时候，将每一个词独立分成一类，然后，将两个类合并，使得合并之后评价函数最大，然后不断重复上述过程，达到想要的类别数量为止。

评价函数：对于n个连续的词(W)序列能否组成一句话的概率的对数的归一化结果。于是，得到评价函数：

其中：n是文本长度，w是词

jmschentt
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Brown Clustering算法和代码学习
Bruce的博客
01-24 8719
刚刚开始学习NLP，学习了一点Brown Clustering的文章和代码，记录一下学习过程。
（一）文本嵌入式表示方法实战（词、句和段落向量：Word2Vec，GloVe，Paragraph2vec，FastText，DSSM）
weixin_36711901的博客
05-31 3179
《文本嵌入式表示方法实战》系列文章是基于2017年我于研一下半学期做的两场长时间的组会汇报ppt上形成的文章（学习和实验长达3个月，因为当时主要以上课为主，实验都是课余时间做的。。），由于当时我正处于入门阶段，理解和表述定有不当之处，还请各位同学老师批评指教。。。 《文本嵌入式表示方法实战》系列文章全部链接如下： （一）文本嵌入式表示方法实战（词、句和段落向量：Word2Vec，GloVe，P...
cips2016+学习笔记︱简述常见的语言表示模型（词嵌入、句表示、篇章表示）
素质云笔记
02-05 1万+
在cips2016出来之前，笔者也总结过种类繁多，类似词向量的内容，自然语言处理︱简述四大类文本分析中的“词向量”（文本词特征提取）事实证明，笔者当时所写的基本跟CIPS2016一章中总结的类似，当然由于入门较晚没有CIPS2016里面说法权威，于是把CIPS2016中的内容，做一个摘录。 CIPS2016 中文信息处理报告《第五章 语言表示与深度学习研究进展、现状及趋势》第三节 技术方法和研
NLP 学习笔记 06 (Brown Clustering && Global Linear Models)
DarkScope从这里开始
05-06 8963
================================================================= == all is based on the open course nlp on coursera.org week 9,week 10 lecture  == ==============================================
brown cluster
Marshall的专栏
07-26 1497
Brown et al. word clustering Brown Clustering算法和代码学习 NLP 学习笔记 06 (Brown Clustering && Global Linear Models)
tan-clustering:遵循“布朗聚类”的层次词聚类（Brown等，1992）
05-25
棕褐色群集 遵循“布朗聚类”的层次词聚类（Brown等，1992）。 作者：Michael Heilman（ ， ） 有关更多信息，请参见脚本中的文档字符串。 我为Python 3.2.3开发了代码，但似乎可以在Python 2.7和pypy 2.0上正常工作。 使用范例 python pmi_cluster.py example_input.txt example_output.txt 然后（可选）按位串排序以便于浏览... sort -k 2 example_output.txt > example_output_sorted.txt 执照 该软件根据BSD 2条款许可（ ）发布。 请参阅LICENSE.txt。
词聚类
weixin_34378922的博客
03-18 571
http://blog.csdn.net/zhaoxinfan/article/details/11069485 继上次提取关键词之后，项目组长又要求我对关键词进行聚类。说实话，我不太明白对关键词聚类跟新闻推荐有什么联系，不过他说什么我照做就是了。 按照一般的思路，可以用新闻ID向量来表示某个关键词，这就像广告推荐系统里面用用户访问类别向量来表示用户一样，然后就可以用kmeans的方法 进行聚...
具有混合条件随机字段和多尺度词聚类的CHEMDNER系统
04-15
5. 多尺度词聚类：使用基于深度学习的布朗层次算法和Skip-gram模型进行词聚类。系统通过在大规模PubMed文章（包括标题和摘要）上训练这些模型，实现了混合CRF模型和多尺度聚类的结合。 6. 系统性能：该系统在...
02-Word Representation
最新发布
zzk0126的博客
09-06 81
在本章的其余部分中，我们从独热表示开始。此外，我们还详细介绍了分布式词表示模型，包括布朗集群、潜在语义分析、Word2vec和GloVe。然后介绍了两个典型的词表示评价任务。最后，我们讨论了单词表示模型的各种扩展。
关于词嵌入（Word Embedding）的一些总结
Mason_Chen的博客
11-17 5259
看了课程半天没搞懂词嵌入是啥，梳理一下相关知识。参考： https://www.jianshu.com/p/2fbd0dde8804 https://blog.csdn.net/m0_37565948/article/details/84989565 https://www.cnblogs.com/wkang/p/9611257.html 词嵌入一、关于文本与向量二、One-hot编码三、信息检索(IR)技术·Bag of wordsTF-IDF·Bi-gram 和N-Gram五、词嵌入简介四、分布式表
文本编码方式（词向量提取方式）
firehuiplane的博客
05-18 2266
文章目录1. 文本编码方式1.1 one-hot1.2 分布式表示2. 分布式表示2.1 基于矩阵的分布式表示2.1.1 GloVe2.2 基于聚类的分布式表示2.2.1 布朗聚类2.3 基于神经网络的分布式表示3. 小结参考文献 1. 文本编码方式 1.1 one-hot 缺点： 维度大 词和词之间都是孤立的，无法表示词与词之间的语义信息 1.2 分布式表示 正所谓：“物以类聚，人以群分”，所以分布式表示的主要思想为：上下文相似的词，其语义也相似。其主要分为三种方法。 基于矩阵的分布式表示 基于聚类
第2章 构建自定义语料库
Triumph19的博客
06-26 4682
构建自定义语料库
层次聚类 Hierarchical Clustering Algorithms
GarfieldEr007的专栏
01-04 2678
Hierarchical Clustering Algorithms How They Work Given a set of N items to be clustered, and an N*N distance (or similarity) matrix, the basic process of hierarchical clustering (defined by S.C.
NLP 课程笔记
klzhang的专栏
03-07 2424
NLP 课程笔记 stevenliuyi   http://mooc.guokr.com/note/157/2013-08-02 16:51 课程涵盖范围： NLP 子问题（NLP sub-problems）：词性标注（part-of-speech tagging）、句法分析（parsing）、词义辨识（word-sense disambiguation）
词向量表示
霜叶的博客
08-12 4619
1、语言表示 语音中，用音频频谱序列向量所构成的矩阵作为模型的输入；在图像中，用图像的像素构成的矩阵数据作为模型的输入。这些都可以很好表示语音/图像数据。而语言高度抽象，很难刻画词语之间的联系，比如“麦克风”和“话筒”这样的同义词，从字面上也难以看出这两者意思相同，即“语义鸿沟”现象。 1.1、分布假说 上下文相似的词，其语义也相似。 1.2、语言模型 文本学习：词频、词的共现、词的搭配。 语言模型判定一句话是否为自然语言。机器翻译、拼写纠错、音字转换、问答系统、语音识别等应用在得到若干候...
聚类分析matlab
ww2011的博客
10-28 3269
一、理论 聚类就是把东西聚在一起，那一定有一定的规则，相似等，后面会给出。聚类与分类的不同就是，聚类所要求的划分的类是未知的。 聚类是这么定义的：将数据分类到不同的类或者簇这样的一个过程，所以同一个簇中的对象有很大的相似性，而不同簇之间的对象很大的相异性。按照个体或样品(individuals, objects or subjects)的特征将它们分类，使同一类别内的个体具有尽可能高的同质性(homogeneity)，而类别之间则应具有尽可能高的异质性(heterogeneit...
Java基本程序介绍
m0_59261141的博客
04-30 4667
目录 一、java应用程序的介绍： 二、注释的使用： 三、数据类型： 四、变量与常量 五、运算符 一、java应用程序的介绍： 简单的输出代码展示 Public class Day4_25 { Public static void main(String[] arge) { System.out.println(“java’s study”); } } 首先我们能知道public class是这个程序的主类，怎么理解呢，假设这个程序是一辆汽车那么，public c
文本聚类教程
热门推荐
chixujohnny
07-08 1万+
本人曾做机器学习方向，由于实习需要转做文本聚类、分类的工作，虽然大致相似，但仍是新手，过程和结果也仅供大神指教。本博包含了作者两周的专心研究调试及由数千行测试得到了300余行代码精华，如需转载，请注明出处。 什么是文本聚类？ 文本聚类是将一个个文档由原有的自然语言文字信息转化成数学信息，以高维空间点的形式展现出来，通过计算那些点距离比较近来将那些点聚成一个簇，簇的中心叫做簇心。一个
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值