NLP-拼写纠正

本文探讨了编辑距离的概念,即通过修改、添加或删除字符将错误单词转换为正确单词所需的最小步骤。为了提高效率,文章提出了一种策略,生成编辑距离为1和2的字符串候选集,并利用贝叶斯定理计算用户输入错误词转化为正确词的概率。通过这种方式,可以快速筛选出最有可能的正确单词,降低了遍历整个词典库的时间复杂度。此外,还介绍了如何统计概率并返回最高概率的正确词。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

目录

1.编辑距离

2.筛选方式


1.编辑距离

通过多少个操作才可以把写错的单词,转换成可能正确的单词。通常有3种方式:修改,添加,删除。每使用一次,则编辑距离+1。比如对于下面的therr,想变成their,则可以通过一次修改,把r修改为i,则编辑距离为1。

2.筛选方式

可以遍历一遍词典库里面的词去对比,但词典库内容可能很多,会增大时间复杂度,因此我们选用第二种方式:针对一个错误的输入,我们生成所有的编辑距离为1,2的字符串,之后进行过滤。

生成的字符串可能有10e4, 10e5个词,过滤方式如下:

如果要计算P(C|S),也就是给定用户输入的词,正确的词的概率,那么根据贝叶斯定理,计算P(S|C) * P(C)即可,其中S是用户输入的词,C是正确的词。

P(C)可以统计,在所有单词中,C这个词出现的概率。

P(S|C)也可以统计,统计用户输入的所有的错误的词,之后对每一个写错的单独计算即可。

最后返回概率最高的正确的词。

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值