人生苦短，我用Python！

一、程序分析

　　1、读取文件到缓冲区

 1     def process_file():     # 读文件到缓冲区    
 2         try:     # 打开文件    
 3             f = open("C:\\Users\\panbo\\Desktop\\A_Tale_of_Two_Cities.txt", "r")    
 4         except IOError  as e:    
 5             print (e)    
 6             return None    
 7         try:     # 读文件到缓冲区    
 8             bvffer = f.read()    
 9         except:    
10             print ("Read File Error!")    
11             return None    
12         f.close() #关闭文件    
13         return bvffer    

　　2、缓冲区字符串分割成带有词频的字典

 

 1 def process_buffer(bvffer):
 2     if bvffer:
 3         word_freq = {}
 4         # 下面添加处理缓冲区 bvffer代码，统计每个单词的频率，存放在字典word_freq
 5         #文本字符串前期处理
 6         strl_ist = bvffer.replace(punctuation, '').lower().split(' ')
 7         #如果单词在字典里，则字典值加1，不在则添加该单词到字典里
 8         for str in strl_ist:
 9             if str in word_freq.keys():
10                 word_freq[str] = word_freq[str] + 1
11             else:
12                 word_freq[str] = 1
13         return word_freq

 

　　3、将字典按词频排序并输出排名前十的键值对

 

1 def output_result(word_freq):
2     if word_freq:
3         sorted_word_freq = sorted(word_freq.items(), key=lambda v: v[1], reverse=True)
4         for item in sorted_word_freq[:10]:  # 输出 Top 10 的单词
5             print (item)

 

　　4、主程序输出前十结果和分析结果

 

 1 if __name__ == "__main__":
 2     bvffer = process_file()
 3     word_freq = process_buffer(bvffer)
 4     output_result(word_freq)
 5     import cProfile
 6     import pstats;
 7     p=pstats.Stats('word_freq.out');
 8     #输出调用此处排前十的函数
 9     p.sort_stats('calls').print_stats(10)
10     #输出按照运行时间排名前十的函数
11     p.strip_dirs().sort_stats("cumulative", "name").print_stats(10)
12     #p.print_callers(0.5, "sre_parse.py")
13     #查看每个函数分别调用了哪些函数
14     p.print_callees("process_file")
15     p.print_callees("process_buffer")
16     p.print_callees("output_result")
17     #查看有哪些函数调用了builtins.print
18     p.print_callers(0.5, "builtins.print")
19     p.print_callers(0.5, "builtins.exec")
20     #p.strip_dirs().sort_stats("name").print_stats(3)
21     #p.strip_dirs().sort_stats("cumulative", "name").print_stats(0.5)
22     #p.print_callers(0.5, "built-in")

二、代码风格说明

　　1、python3与python2在print函数的使用上有着细微的区别，在python3中print函数要加上（），如上第一段代码的第五行。

 　　2、使用4个空格进行缩进（即一个tab键），并且缩进符相同的代码属于同一个级别

　　3、模块级函数和类定义之间空两行。

　　  4、类成员函数之间空一行。

　　  5、不要使用太多的连续空行来区分代码的逻辑块。

三、程序运行结果截图

　　本程序，运行命令全都写在程序中，而非通过dos窗口执行。

　　 1、A_Tale_of_Two_Cities文本词频统计结果

　　

　　2、Gone_with_the_wind文本词频统计结果

　　

四、性能分析及改进

　　1、性能分析

　　1.1、执行时间最多的部分代码

　　

      1.2、执行次数最多的部分代码

　　

　　1.3、找到耗时最多的调用函数为

　　

 　　即为： 1 sorted_word_freq = sorted(word_freq.items(), key=lambda v: v[1], reverse=True) 

 

　　2、尝试改进程序代码？

　　

　　

 

转载于:https://www.cnblogs.com/panboo/p/9715337.html