中文分词模拟器C++

  • 题目描述
    给定一个连续不包含空格字符串,该字符串仅包含英文小写字母及英文标点符号(逗号、分号、句号),同时给定词库,对该字符串进行精确分词。
    说明:
    1.精确分词: 字符串分词后,不会出现重叠。即“ilovechina” ,不同词库可分割为 “i,love,china”“ilove,china”,不能分割出现重叠的"i,ilove,china",i 重叠出现
    2.标点符号不成词,仅用于断句
    3.词库:根据外部知识库统计出来的常用词汇例:dictionary=[“i”,“love”,“china”,“lovechina”,“ilove”],
    4.分词原则:采用分词顺序优先且最长匹配原则“ilovechina”,假设分词结果 [i,ilove,lo,love,ch,china,lovechina ] 则输出[ilove,china]
    错误输出:[i,lovechina], 原因:"ilove ">优先于 "lovechina"成词
    错误输出:[i,love,china] 原因:“ilove” >“i” 遵循最长匹配原则

  • 输入
    字符串长度限制:0<length<256
    词库长度限制: 1<length<100000
    第一行输入待分词语句 “ilovechina”
    第二行输入中文词库"i,love,china,ch,na,ve,lo,this,is,the,word"

  • 输出描述
    按顺序输出分词结果 “i,love,china”

  • 示例1
    输入
    ilovechina
    i,love,china,ch,na,ve,lo,this,is,the,word
    输出
    i,love,china

  • 示例2

    输入
    iat
    i,love,china,ch,na,ve,lo,this,is,the,word,beauti,tiful,ful
    输出
    i,a,t

  • 示例3

    输入
    ilovechina,thewordisbeautiful
    i,love,china,ch,na,ve,lo,this,is,the,word,beauti,tiful,ful
    输出
    i,love,china,the,word,is,beauti,ful

/*中文分词模拟器*/ 
#include <iostream>
#include <bits/stdc++.h>
using namespace std;

int main()
{
	string str;
	set<string>dic;
	string d,temp;
	getline(cin,str);
	getline(cin,d);
	for(int i=0;i<d.size();)
	{
		while(d[i]!=','&&i<d.size())
		{
			i++;
		}
		temp=d.substr(0,i);
		dic.emplace(temp);
		d.erase(0,i+1);
		i=0;
	}
	string ans="";
	int first=0,last=str.size();
	while(first!=str.size())
	{
		if(str[first]==','||str[first]=='.')
		{
			ans.erase(ans.end()-1);
			ans+=str[first];
			first++;
		}
		else if(dic.find(str.substr(first,last-first))!=dic.end()||(last-first==1))
		{
			ans+=str.substr(first,last-first);
			ans+=",";
			first=last;
			last=str.size();
		}
		else last--;
	}//核心部分
	for(int i=0;i<ans.size();)
	{
		if(ans[i]=='\''&&ans[i-1]==','&&ans[i+1]==',')
		{
			ans.erase(i-1,1);
			ans.erase(i,1);
		}
		else i++;
	}//单个分号是否单个输出
	ans.erase(ans.end()-1);
	cout<<ans<<endl;
	return 0;
}

不确定带分号的单词未查询到时是否需要单个输出分号,补充注释处循环。
核心部分为从后往前检测,
当[first,last)子串匹配到字典可查单词时,加入输出队列,
未匹配到时last–,
[first,last)长度为1时,直接加入输出队列;

  • 5
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
中文分词是将中文文本按照一定的规则拆分成词语的过程,是中文自然语言处理的重要基础任务之一。C语言是一种高级计算机编程语言,广泛应用于软件开发领域,结合C语言编写中文分词源代码能够实现对中文文本进行分词处理。 中文分词的源代码可以采用C语言编写,可以基于一些常用的算法和数据结构来实现。比如,可以使用正向最大匹配算法(Forward Maximum Match, FMM)或逆向最大匹配算法(Backward Maximum Match, BMM)来实现基于词典的分词。这些算法的基本思想是从文本的起始位置或末尾位置开始,根据词典进行最大长度匹配,不断向前或向后移动,直至将整个文本拆分成一系列词语。 基于C语言编写的中文分词源代码通常需要包含一些基础操作,比如读取文本文件、加载词典、进行字符串匹配和输出分词结果等。代码的实现需要注意处理中文字符的编码问题,可以使用Unicode编码或UTF-8编码来表示中文字符。 对于中文分词算法的优化处理,还可以考虑利用动态规划算法、前缀树结构等方法,提高分词的效率和准确率。此外,为了提高分词的准确性,还可以加入一些特定的规则和规则集,用于处理特殊情况或领域专用词汇。 总之,中文分词是中文自然语言处理的关键任务之一,通过使用C语言编写源代码,结合合适的算法和数据结构,可以实现对中文文本进行有效的分词处理。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值