请编写程序,对一段英文文本,统计其中所有不同单词的个数,以及词频最大的前10%的单词。
所谓“单词”,是指由不超过80个单词字符组成的连续字符串,但长度超过15的单词将只截取保留前15个单词字符。而合法的“单词字符”为大小写字母、数字和下划线,其它字符均认为是单词分隔符。
输入格式:
输入给出一段非空文本,最后以符号#结尾。输入保证存在至少10个不同的单词。
输出格式:
在第一行中输出文本中所有不同单词的个数。注意“单词”不区分英文大小写,例如“PAT”和“pat”被认为是同一个单词。
随后按照词频递减的顺序,按照词频:单词的格式输出词频最大的前10%的单词。若有并列,则按递增字典序输出。
输入样例:
This is a test.
The word "this" is the word with the highest frequency.
Longlonglonglongword should be cut off, so is considered as the same as longlonglonglonee. But this_8 is different than this, and this, and this...#
this line should be ignored.
输出样例:(注意:虽然单词the也出现了4次,但因为我们只要输出前10%(即23个单词中的前2个)单词,而按照字母序,the排第3位,所以不输出。)
23
5:this
4:is
import java.util.*;
public class Main {
public static void main(String[] args) {
Scanner sc = new Scanner(System.in);
StringBuffer sb = new StringBuffer();
int flag = -1;
while (flag < 0) {
String str = sc.nextLine();
sb.append(" " + str);
flag = str.indexOf("#");
}
String sb2 = sb.substring(0).toLowerCase();
char c[] = sb2.toString().toCharArray();
String[] a = sb2.split("[^a-zA-Z_0-9]");
Map<String, Integer> map = new TreeMap<String, Integer>();
for (String word : a) {
if (word.length() != 0) {
if (word.length() > 15) {
word = word.substring(0, 15);
if (map.get(word) != null) {
map.put(word, map.get(word) + 1);
} else {
map.put(word, 1);
}
} else {
if (map.get(word) != null) {
map.put(word, map.get(word) + 1);
} else {
map.put(word, 1);
}
}
}
}
System.out.println(map.size());
List<Map.Entry<String, Integer>> list = new ArrayList<Map.Entry<String, Integer>>(map.entrySet());
Collections.sort(list, new Comparator<Map.Entry<String, Integer>>() {
public int compare(Map.Entry<String, Integer> o1, Map.Entry<String, Integer> o2) {
return (o2.getValue()).compareTo(o1.getValue());
}
});
for (int i = 0; i < map.size() / 10; i++) {
System.out.println(list.get(i).getValue() + ":" + list.get(i).getKey());
}
}
}