贝叶斯思想-dp进行简易中文分词

这篇博客介绍了如何运用贝叶斯统计和动态规划(DP)方法进行简易的中文分词。作者提供了Python代码,并指出需要SogouLabDic.dic词典,可以在其github上下载,适合学习使用。
摘要由CSDN通过智能技术生成
#朴素贝叶斯分词(含义是分词后,得分的假设是基于两词之间是独立的,后词的出现与前词无关)
# p[i][n]表示从i到n的句子的最佳划分的得分,我们用dp表达式p[i][n]=max(freq(s[i:k])+p[k][n])
# 依次求出长度为1,2,3,n的句子划分,那么p[0][n]便是最佳划分结果,用t[i]表示产生的最佳划分每次向前走几个字符
import math
d = {}
log = lambda x: float('-inf') if not x else math.log(x) #匿名函数
prob = lambda x: d[x] if x in d else 0 if len(x)>1 
  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值