NLP模型笔记2022-01:浅谈语言模型

本文介绍了自然语言处理中的语言模型,包括条件概率、链式法则、Markov假设和HMM模型。重点讨论了语言模型在解决句子概率计算和平滑处理中的应用,特别是针对0概率稀疏问题的Add-one平滑方法。此外,还概述了HMM模型的基本概念、应用场景及其两大假设。
摘要由CSDN通过智能技术生成

1、语言模型与条件概率

1-1、条件概率

条件概率是指事件A在事件B发生的条件下发生的概率。条件概率表示为:P(A|B),读作“A在B发生的条件下发生的概率”。若只有两个事件A,B,那么,

在这里插入图片描述

条件概率的链式法则,也称为条件概率的乘法法则:

P(a,b,c)=P(a|b,c) P(b,c) = P(a|b,c) P(b|c) P(c)

条件概率的链式法则可以如下理解:
P(x(1),x(2),⋯,x(n))P(x(1),x(2),⋯,x(n)) 为例,可以看作 P(x(1))P(x(1)) 发生后,P(x(2)|x(1))P(x(1))P(x(2)|x(1))P(x(1))x(1),x(2)x(1),x(2) 同时发生的概率,P(x(3)|x(1),x(2))P(x(2)|x(1))P(x(1))P(x(3)|x(1),x(2))P(x(2)|x(1))P(x(1))

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

源代码杀手

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值