句子理解主题模型概率图模型 2022-1-18

最新推荐文章于 2024-07-22 14:35:56 发布
最新推荐文章于 2024-07-22 14:35:56 发布
阅读量845 收藏
点赞数
分类专栏： 人工智能基础 文章标签： 自然语言处理 知识图谱 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_21438267/article/details/122560040
版权

人工智能基础总目录

自然语言处理初步

一 句子理解

1 分词与分句

中文语言特有的需求（分词）

2 词性识别

在这里插入图片描述

3 命名实体识别

命名实体识别结果： 人名，地名，机构名等的识别。

4 依存句法分析

在这里插入图片描述
在这里插入图片描述

约束性公理：

  1. 只有一个root, 不依存于其他词。
  2. 其他词必须依存别人。
  3. 词不能依存多个
  4. A 依存于B, A 和B 直接的单词C 只能A B或者AB 之间的其他词。

5 序列标注

1 贝叶斯图

2 马尔可夫图

马尔科夫图
最大团 的联合概率

1 条件随机场
2 最大团
3 边缘分布
4 条件概率

二 主题模型

有监督模型

无监督模型

LSA

PLSA

LDA

• 问题
• 我们并不知道
• 解决方案
• EM算法
• 变分贝叶斯
• 采样

三 概率图模型

3.1 贝叶斯概率图

1 条件独立

2 D分离定理

3.2 马尔可夫概率图

1 最大团

偶入编程深似海
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
lda主题分析lda主题分析
03-10
lda主题分析lda主题分析lda主题分析
用深度学习做垂直领域的句子主题模型
Zack的博客
04-07 5343
用深度学习做垂直领域的句子主题模型 经典的篇章级的主题模型LDA已经被证明是行之有效的，这里我介绍一下项目中做过的句子级的主题管理，其目的是识别当前的句子属于某个话题。 我的基本思想是：一句话的中心意思可以用句子主干来表示，多句话的中心意思则可以用每句话的中心意思叠加起来表示。 先看几个例子，以下的句子都是单句，复合句也类似： A.我听的歌很好听 B.我要听很好听的歌 C.我听歌后心情很...
主题模型TopicModel：LDA主题模型的评估
皮皮blog
01-06 3万+
LDA主题模型好坏的评估，判断改进的参数或者算法的建模能力。 Blei先生在论文《Latent Dirichlet Allocation》实验中用的是Perplexity值作为评判标准。 一、Perplexity定义 http://en.wikipedia.org/wiki/Perplexity perplexity是一种信息理论的测量方法，b的perplexity值定义为基于b的
周志华《Machine Learning》学习笔记(16)--概率图模型
qq_42294928的博客
09-20 281
上篇主要介绍了半监督学习，首先从如何利用未标记样本所蕴含的分布信息出发，引入了半监督学习的基本概念，即训练数据同时包含有标记样本和未标记样本的学习方法；接着分别介绍了几种常见的半监督学习方法：生成式方法基于对数据分布的假设，利用未标记样本隐含的分布信息，使得对模型参数的估计更加准确；TSVM给未标记样本赋予伪标记，并通过不断调整易出错样本的标记得到最终输出；基于分歧的方法结合了集成学习的思想，通过多个学习器在不同视图上的协作，有效利用了未标记样本数据 ；最后半监督聚类则是借助已有的监督信息来辅助聚类的过程，
主题模型-LDA浅析
热门推荐
Stay hungry, Stay foolish
09-03 26万+
上个月参加了在北京举办SIGKDD国际会议，在个性化推荐、社交网络、广告预测等各个领域的workshop上都提到LDA模型，感觉这个模型的应用挺广泛的，会后抽时间了解了一下LDA，做一下总结： （一）LDA作用         传统判断两个文档相似性的方法是通过查看两个文档共同出现的单词的多少，如TF-IDF等，这种方法没有考虑到文字背后的语义关联，可能在两个文档共同出现的单词很少甚至没有
python打分号吗_python的nlp中，有没有给句子的完整性打分的模型？
weixin_39713335的博客
12-15 378
首先需要对所谓的“语义通顺”和“句子完整性”做更详细的定义。是指合乎语法规范，还是指合乎人类常识，还是二者都有。比如下面三个句子：我在树上游泳。我在游泳池游泳。我游泳在游泳池。如果只看语法，那么 1 = 2 > 3 。如果看语义是否符合常识，那么 2 > 3 > 1 。如果二者都看，我觉得 2 > 1 > 3。不过最终，你看着办。有几个相关的工具可能能帮到你。语言模型...
概率图模型中文图书
10-31
《概率图模型学习理论及其应用》是赵悦教授在概率图模型(PGM, Probabilistic Graphical Models)领域的力作，由清华大学出版社出版。这本书共157页，旨在为读者提供一个平易近人的入口，去理解这个复杂的统计学与...
概率图模型Probabilistic Graphical Model论文集4
10-14
1. 概率图模型表示理论：这部分主要关注如何用图形结构来描述变量间的条件独立性和概率关系。常见的概率图模型包括贝叶斯网络(Bayesian Networks)和马尔科夫随机场(Markov Random Fields)。贝叶斯网络通过有向边表示...
概率图模型Probabilistic Graphical Model论文集7
10-14
概率图模型(Probabilistic Graphical Models, PGM)是一种强大的工具，用于处理复杂系统中的概率分布和变量之间的依赖关系。这些模型通过图形结构清晰地展现了变量间的统计关系，简化了推断和学习过程，因此在人工...
概率图模型Probabilistic Graphical Model论文集12
10-14
概率图模型(Probabilistic Graphical Models, PGM)是一种强大的工具，用于处理复杂系统中的不确定性，通过图形化的表示方式来描述随机变量之间的条件概率分布。这种模型在多个领域，如人工智能、机器学习和计算机...
概率图模型Probabilistic Graphical Model论文集8
10-14
1. 概率图模型表示理论：这部分主要关注如何用图形结构来描述变量间的条件独立性和依赖关系。常见的概率图模型包括贝叶斯网络(Bayesian Networks)和马尔科夫随机场(Markov Random Fields)。贝叶斯网络通过有向边表示...
【NLP】Jieba中文分词
2303_80346267的博客
07-20 690
Jieba分词支持自定义词典功能，允许用户添加特定领域或特定应用场景的词汇，以提高分词的准确性和识别率。创建自定义词典文件词语 词频 词性词语：需要添加的词汇。词频：可选，词频越高，分词时越倾向于将此词作为一个整体分出。默认值是1。词性：可选，词语的词性标注。自然语言处理 3 n机器学习 5 n深度学习 2 n加载自定义词典： 使用添加单个词汇jieba.add_word('自定义词')jieba.add_word('深度学习', freq=20000, tag='n')删除单个词汇。
基于术语词典干预的机器翻译挑战赛笔记 Task3 #Datawhale AI 夏令营
qq_23311271的博客
07-20 946
基于术语词典干预的机器翻译挑战赛笔记 Task3
昇思25天学习打卡营第11天|基于 MindSpore 实现 BERT 对话情绪识别
一名全栈开发工程师
07-20 297
BERT的创新之处在于其预训练方法，特别是Masked Language Model和Next Sentence Prediction，这使得它在问答、文本分类等任务上表现出色。在训练中，15%的单词会被随机掩码，以增强模型对上下文的理解。BERT模型经过预训练后，可以用于微调，以适应各种下游任务，如情绪识别，这在智能对话中尤为重要，有助于提升用户体验和服务质量。BERT模型的双向编码特性和创新的预训练方法，不仅提高了语言模型的理解和生成能力，还为情绪识别等应用提供了强大的基础。
预训练语言模型实践笔记
最新发布
Everyday try to become better -Kobe Bryant
07-22 451
在使用像BERT或RoBERTa这样的transformer模型时，和是两个不同的概念。: 这是一个布尔值，决定了模型是否应该返回所有隐藏层的输出。如果设置为True，模型将返回一个元组，其中包含每一层的隐藏状态。这对于某些任务（如特征提取或fine-tuning）可能是有用的，因为不同的隐藏层可能会捕获不同类型的信息。: 这是模型的最后一个隐藏层的输出，通常用作下游任务的输入（如文本分类或命名实体识别）。这是模型的主要输出，通常包含了输入序列的高级表示。在大多数情况下，您只需要。
Step-DPO 论文——数学大语言模型理解
liguiyuan的博客
07-19 889
大语言模型（LLMs）在数学推理上具有重大挑战，这是由于数学需要精确的推理链。然而，直接偏好优化（DPO）对长链数学推理的益处有限，因为采用DPO的模型难以识别错误答案中的详细错误。所以作者提出了Step-DPO方法，它将整个答案划分多个步骤作答（Step1, Step2, Step3, ...），大大提高的模型的精度。在MATH数据集上，在上准确率从53.0% 提升到58.6%，GSM8K数据集，准确率从85.5%提升到87.9%。使用模型，在MATH和GSM8K上分别取得70.8%和94.0%
【NLP】提升文本生成多样性的实用方法
Talk Is Cheap
07-22 124
可以每训练3个epoch保存一个模型参数，最终可保存5个模型参数，预测时5个模型结果分别 对同样的输入文本 各预测一次，如果只有几千条fine-tune数据，实测可提升50%的多样生成结果。
【Langchain大语言模型开发教程】模型、提示和解析
qq_47982709的博客
07-19 529
2、 使用Langchain的模板功能，将需要改动的部分抽象成变量，在具体的情况下替换成需要的内容，来达到模板复用效果。我们打印他的类型的时候，发现这其实是一个字符串类型，这是不能根据key来获取value值的。来作为我们的基座大模型，通过langchain的chatOpenAI接口来实例化我们的模型。3、使用Langchain提供的解析功能，将LLM的输出解析成你需要的格式，如字典。我们现在获得了某个商品的用户评价，我们想要提取其中的关键信息（下面这种形式）这里我们给出一个回复的内容和转化的格式。
大语言模型-文本检索任务基准 BEIR
weixin_42045968的博客
07-20 807
BEIR (A Heterogeneous Benchmark for Zero-shot Evaluation of Information Retrieval Models) 文本检索任务的基准，使用`18 个数据集`为检索系统的零样本评估提出了一个标准化基准， BEIR 基准上在`9个不同领域的检索任务`评估 `10 种不同的检索方法`。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值