使用strtok_s函数从一个字符串中分离出单词

下面的代码从含有多个结束符的字符串中分离出单词来,需要对strtok_s有清楚的认识。这段代码是我在写一个处理文件中单词个数时用来分离读取到的字符串中的单词时写的,亲测可用~

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
void  ParseBuffer(CWordCounter *pCounter, CWordBuffer *buf)
{
     char  *strSrc = buf->m_buff;          //缓冲块首地址
     char  *strDelim = " \r\t\n" ;         //缓冲块中单词之间的分隔符
     char  *strToken = NULL;              //指向将被处理的单词
     char  *next_token = NULL;            //保存缓冲块中下一个将被读取的单词的位置
 
     string str;                         //保存分离出来的单词
     int  nWordTotalInBytes = buf->m_nWordLengthInBytes;   //需要被处理的单词总字节数
     strToken = strtok_s(strSrc, strDelim, &next_token);
 
     while  (1)
     {
         while  (NULL != strToken)
         {
             str.assign(strToken);
             pCounter->InsertItem(str);
             strToken = strtok_s(NULL, strDelim, &next_token);
         } //退出循环表示该部分单词分析的时候遇到了NULL结束符,继续分离缓冲块中剩下的字符
         
         if  ((next_token+2) > (strSrc+nWordTotalInBytes))     //这里最好自己用笔画一下,不然很容易出错!
         { //移动位置超过了最后一个有效字符
             break ;
         }
 
         //移动到下一个开始扫描的字符
         while  (
             ((next_token+1) < (strSrc+nWordTotalInBytes)) //没有超过最后一个有效字符
             && !sw::IsLetter(*next_token))
         {
             ++next_token;
             //++nWordProcessedInBytes;
         }
 
         if  ((next_token+2) > (strSrc+nWordTotalInBytes))
         { //移动位置超过了最后一个有效字符
             break ;
         }
 
         strToken = strtok_s(next_token, strDelim, &next_token);
         if  ((next_token+2) > (strSrc+nWordTotalInBytes)
             || (NULL == strToken))
         { //移动位置超过了最后一个有效字符,或者位置内容为null
             break ;
         }
     }
}

 

在设置过滤字符的时候注意下(这是我在实际中犯的错误),在过滤文本中的字符时最好加上:'\r'(回车)!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值