词频统计

题目描述

请编写程序,对一段英文文本,统计其中所有不同单词的个数,以及词频最大的前10%的单词。所谓“单词”,是指由不超过80个单词字符组成的连续字符串,但长度超过15的单词将只截取保留前15个单词字符,而合法的“单词字符”为小写字母,数字和下划线,其他字符均认为是单词分隔符。

输入格式:输入给出一段非空文本,最后以符号#结尾,输入保证存在至少10个不同的单词

输出格式:在第一行中输出文本中所有不同单词的个数。注意“单词"不区分英文大小写,例如"Pat"和"pat"被认为是同一个单词

随后按照词频递减的顺序,输出词频最大的前10%的单词,若有并列,则按递增字典序输出


输入样例:

This is a test.


The word "this" is the word with the highest frequency. 

Longlonglonglongword should be cut off, so is considered as the same as longlonglonglonee.  But this_8 is different than this, and this, and this...#

this line should be ignored.


输出样例:(虽然单词the也出现了4次,但因为只要输出前10%(即23个单词中的前两个),而按照字典序,the排第三位,所以不输出)

23

5:this
4:is


代码:

    #include<iostream>  
    #include<string>  
    #include<map>  
    #include<vector>  
    #include<algorithm>  
    using namespace std;  
    map<string,int> m;  
    vector<pair<string,int> > v;  
    bool Cmp(pair<string,int> a,pair<string,int> b){  
        if(a.second!=b.second){  
            return a.second>b.second;  
        }  
        else{//出现次数相同   
            return a.first<b.first;  
        }  
    }  
    int main(){  
        string word;  
        char str[100];  
        char ch;  
        int index=0;//记录每个单词的下标   
        map<string,int>::iterator it;  
        while(ch=getchar()){  
            if(ch=='#')break;  
            if(ch>='a'&&ch<='z'||ch>='A'&&ch<='Z'||ch>='0'&&ch<='9'||ch=='_'){//可构成单词   
                if(ch>='A'&&ch<='Z'){//题目要求不区分大小写字母   
                    ch=ch-'A'+'a';  
                }  
                str[index++]=ch;  
            }  
            else{//读入分隔符   
                if(index>0){//有单词读入   
                    if(index>15){//截取   
                        index=15;  
                    }  
                    str[index]='\0';//设置字符串结束符  
                    word=str;  
                    index=0;//准备读取下一个单词   
                    it=m.find(word);  
                    if(it!=m.end()){//找到   
                           (it->second)++;  
                    }  
                    else{  
                        m[word]=1;  
                    }  
                }  
            }   
        }  
        //所有单词及其出现情况均保存在m中  
        for(it=m.begin();it!=m.end();it++){  
            v.push_back(make_pair(it->first,it->second));  
        }  
        sort(v.begin(),v.end(),Cmp);  
        int size=v.size()/10;  
        cout<<v.size()<<endl;  
        vector<pair<string,int> >::iterator iv;  
        for(iv=v.begin();iv!=v.begin()+size;iv++){  
            cout<<iv->second<<":"<<iv->first<<endl;  
        }   
        return 0;  
    }  



  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Python词频统计是指使用Python编程语言来统计一段文本中各个单词出现的频率。通过词频统计,我们可以了解到文本中哪些单词出现的次数较多,从而对文本进行分析和处理。 在Python中,可以使用字典(dictionary)来实现词频统计。具体步骤如下: 1. 将文本读入到Python程序中,可以使用文件读取函数或者直接将文本赋值给一个字符串变量。 2. 对文本进行预处理,例如去除标点符号、转换为小写等操作,以便统计的准确性。 3. 将文本按照空格或其他分隔符进行分割,得到单词列表。 4. 遍历单词列表,使用字典记录每个单词出现的次数。如果单词已经在字典中,则将其对应的值加1;如果单词不在字典中,则将其添加到字典,并将值初始化为1。 5. 根据词频进行排序,可以使用sorted函数或者其他排序方法对字典按照值进行排序。 6. 输出排序后的结果,可以选择输出几个高频词或者输出所有的词频统计结果。 下面是一个简单的Python代码示例: ```python text = "This is a sample text for word frequency analysis. This is just a sample." word_list = text.lower().split() word_count = {} for word in word_list: if word in word_count: word_count[word] += 1 else: word_count[word] = 1 sorted_word_count = sorted(word_count.items(), key=lambda x: x, reverse=True) for word, count in sorted_word_count: print(word, count) ``` 这段代码会输出每个单词及其出现的次数,按照词频从高到低排序。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值