NLP面试题目汇总11-15

本文讨论了如何用隐马尔可夫模型进行中文分词问题的建模和训练,解释了最大熵隐马尔可夫模型的标注偏置问题及其解决方案。还涉及概率图模型的分类,如生成式和判别式模型,并简要介绍了RNN算法的实现,特别是PyTorch中的使用。最后提到了基于医学语义匹配的实体链接算法的关键技术和挑战。
摘要由CSDN通过智能技术生成

11.如何对中文分词问题用隐马尔可夫模型进行建模和训练?

场景描述

介绍隐马尔可夫模型之前,首先了解马尔科夫过程。马尔科夫过程是满足无后效性的随机过程。**当前状态仅与前一状态相关。**时间和状态都是离散的马尔科夫过程也叫马尔科夫链
隐马尔可夫模型是对含有未知参数(隐状态)的马尔科夫链进行建模的过程
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
隐马尔可夫模型通常用来做序列标注问题,因此可以将分词问题转化为序列标注问题
在这里插入图片描述

11.5 最大熵隐马尔可夫模型为什么会产生标注偏置问题,如何解决?

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
标注偏置问题
在这里插入图片描述
它是一种判别式的概率无向图模型,既然是判别式,那就是对条件概率分布建模。
在这里插入图片描述

12.常见的概率图模型中,哪些是生成式模型,哪些是判别式模型?

  首先需要弄清楚生成式模型与判别式模型的区别。
  假设可观测的变量集合为X,需要预测的变量集合为Y,其他的变量集合为Z。生成式模式是对联合概率分布 P ( X , Y , Z ) P(X,Y,Z) P(X,Y,Z)进行建模,在给定观测集合X的条件下,通过计算边缘分布来求得对变量集合Y的推断。
P ( Y ∣ X ) = P ( X , Y ) P ( X ) = ∑ Z P ( X , Y , Z ) ∑ Y , Z P ( X , Y , Z ) P(Y|X)=\frac{P(X,Y)}{P(X)}= \frac{\sum_Z P(X,Y,Z)}{\sum_{Y,Z} P(X,Y,Z)} P(YX)=P(X)P(X,Y)=

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值