词频统计(30 分)

请编写程序,对一段英文文本,统计其中所有不同单词的个数,以及词频最大的前10%的单词。

所谓“单词”,是指由不超过80个单词字符组成的连续字符串,但长度超过15的单词将只截取保留前15个单词字符。而合法的“单词字符”为大小写字母、数字和下划线,其它字符均认为是单词分隔符。

输入格式:

输入给出一段非空文本,最后以符号#结尾。输入保证存在至少10个不同的单词。

输出格式:

在第一行中输出文本中所有不同单词的个数。注意“单词”不区分英文大小写,例如“PAT”和“pat”被认为是同一个单词。

随后按照词频递减的顺序,按照词频:单词的格式输出词频最大的前10%的单词。若有并列,则按递增字典序输出。

输入样例:

This is a test.

The word "this" is the word with the highest frequency.

Longlonglonglongword should be cut off, so is considered as the same as longlonglonglonee.  But this_8 is different than this, and this, and this...#
this line should be ignored.

输出样例:(注意:虽然单词the也出现了4次,但因为我们只要输出前10%(即23个单词中的前2个)单词,而按照字母序,the排第3位,所以不输出。)

23
5:this
4:is







#include <iostream>
#include <cstdio>
#include <cstring>
#include <algorithm>
#include <cctype>
#include <vector>
#include <map>
using namespace std;
bool cmp(pair<string, int> a, pair<string, int> b) {
if(a.second != b.second) return a.second > b.second;
else return a.first < b.first;
}
vector<pair<string, int> > v;
map<string, int> m;
int main(){
char str[100];
string word;
map<string, int>::iterator it;
int start = 0;
char ch;
while(ch = getchar()) {
if(ch >= 'a' && ch <= 'z' || ch >= 'A' && ch <= 'Z' || ch >= '0' && ch <= '9' || ch == '_') {
if(ch >= 'A' && ch <= 'Z') ch = ch - 'A' + 'a';
str[start++] = ch;
}
else if(start > 0) {
if(start >= 15) start = 15;
str[start] = 0;
start = 0;
word = str;
it = m.find(word);
if(it != m.end()) {
(it->second)++;
}
else {
m[word] = 1;
}
}
if(ch == '#') break;
}
for(it = m.begin(); it != m.end(); it++) {
v.push_back(make_pair(it->first, it->second));
}
sort(v.begin(), v.end(), cmp);
vector<pair<string, int> > :: iterator itv;
cout << v.size() << endl;
int ans = v.size() / 10;
for(itv = v.begin(); itv != v.begin() + ans; itv++) {
cout << itv->second << ':' << itv->first << endl;
}
return 0;

}

转载于:https://www.cnblogs.com/linguiquan/p/9050017.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Python词频统计是指使用Python编程语言来统计一段文本中各个单词出现的频率。通过词频统计,我们可以了解到文本中哪些单词出现的次数较多,从而对文本进行析和处理。 在Python中,可以使用字典(dictionary)来实现词频统计。具体步骤如下: 1. 将文本读入到Python程序中,可以使用文件读取函数或者直接将文本赋值给一个字符串变量。 2. 对文本进行预处理,例如去除标点符号、转换为小写等操作,以便统计的准确性。 3. 将文本按照空格或其他隔符进行割,得到单词列表。 4. 遍历单词列表,使用字典记录每个单词出现的次数。如果单词已经在字典中,则将其对应的值加1;如果单词不在字典中,则将其添加到字典,并将值初始化为1。 5. 根据词频进行排序,可以使用sorted函数或者其他排序方法对字典按照值进行排序。 6. 输出排序后的结果,可以选择输出前几个高频词或者输出所有的词频统计结果。 下面是一个简单的Python代码示例: ```python text = "This is a sample text for word frequency analysis. This is just a sample." word_list = text.lower().split() word_count = {} for word in word_list: if word in word_count: word_count[word] += 1 else: word_count[word] = 1 sorted_word_count = sorted(word_count.items(), key=lambda x: x, reverse=True) for word, count in sorted_word_count: print(word, count) ``` 这段代码会输出每个单词及其出现的次数,按照词频从高到低排序。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值