利用Python抓取和解析网页(5)

利用Python抓取和解析网页（二）(5)

中国互联网络资讯网提示： 对搜索引擎、文件索引、文档转换、数据检索、站点备份或迁移等应用程序来说，经常用到对网页(即HTML文件)的解析处理。事

中国互联网络资讯网提示： 对搜索引擎、文件索引、文档转换、数据检索、站点备份或迁移等应用程序来说，经常用到对网页(即HTML文件)的解析处理。事实上，通过Python语言提供的各种模块，我们无需借助Web服务器或者Web浏览器就能够解析和处理HTML文档。 　　五、为HTML文档中的属性值添加引号 　　前面我们讨论了如果根据HTML解析器中的某种处理程序来解析HTML文件，可是有时候我们却需要使用所有的处理程序来处理HTML文档。值得庆幸的是，使用HTMLParser模块解析HTML文件的所有要素并不比处理链接或者图像难多少。 　　 import  HTMLParser 　　 import  urllib 　　 class  parseAttrs(HTMLParser.HTMLParser): 　　 def  handle_starttag(self, tag, attrs): 　　. . . 　　attrParser  =  parseAttrs() 　　attrParser.init_parser() 　　attrParser.feed(urllib.urlopen( " test2.html " ).read()) 　　这里，我们将讨论如何使用HTMLParser模块来解析HTML文件，从而为“裸奔”的属性值加上引号。首先，我们要定义一个新的HTMLParser类，以覆盖下面所有的处理程序来为属性值添加引号。 　　handle_starttag(tag, attrs) 　　handle_charref(name) 　　handle_endtag(tag) 　　handle_entityref(ref) 　　handle_data(text) 　　handle_comment(text) 　　handle_pi(text) 　　handle_decl(text) 　　handle_startendtag(tag, attrs) 　　我们还需要在parser类中定义一个函数来初始化用于存储解析好的数据的变量，同时还要定义另外一个函数来返回解析好的数据。 　　定义好新的HTMLParser类之后，需要创建一个实例来返回HTMLParser对象。使用我们创建的init函数初始化该解析器，这样，我们就可以使用urllib.urlopen(url)打开HTML文档并读取该HTML文件的内容了。 　　为了解析HTML文件的内容并给属性值添加引号，可以使用feed(data)函数将数据传递给HTMLParser对象。HTMLParser对象的feed函数将接收数据，并通过定义的HTMLParser对象对数据进行相应的解析。下面是一个具体的示例代码： 　　 import  HTMLParser 　　 import  urllib 　　 import  sys 　　 # 定义HTML解析器 　　 class  parseAttrs(HTMLParser.HTMLParser): 　　 def  init_parser (self): 　　self.pieces  =  [] 　　 def  handle_starttag(self, tag, attrs): 　　fixedAttrs  =   "" 　　 # for name,value in attrs: 　　 for  name, value  in  attrs: 　　fixedAttrs  +=   " %s=\"%s\"  "   %  (name, value) 　　self.pieces.append( " <%s %s> "   %  (tag, fixedAttrs)) 　　 def  handle_charref(self, name): 　　self.pieces.append( " &#%s; "   %  (name)) 　　 def  handle_endtag(self, tag): 　　self.pieces.append( ""   %  (tag)) 　　 def  handle_entityref(self, ref): 　　self.pieces.append( " &%s "   %  (ref)) 　　 def  handle_data(self, text): 　　self.pieces.append(text) 　　 def  handle_comment(self, text): 　　self.pieces.append( ""   %  (text)) 　　 def  handle_pi(self, text): 　　self.pieces.append( ""   %  (text)) 　　 def  handle_decl(self, text): 　　self.pieces.append( ""   %  (text)) 　　 def  parsed (self): 　　 return   "" .join(self.pieces) 　　 # 创建HTML解析器的实例 　　attrParser  =  parseAttrs() 　　 # 初始化解析器数据 　　attrParser.init_parser() 　　 # 把HTML文件传给解析器 　　attrParser.feed(urllib.urlopen( " test2.html " ).read()) 　　 # 显示原来的文件内容 　　 print   " 原来的文件\n======================== " 　　 print  open( " test2.html " ).read() 　　 # 显示解析后的文件 　　 print   " 解析后的文件\n======================== " 　　 print  attrParser.parsed() 　　attrParser.close() 　　我们还需要建立一个测试文件，名为test2.html，该文件内容可以从上述代码的运行结果看到，具体如下所示： 原来的文件 ======================== < html > < head > < meta content = " text/html; charset=utf-8 " http - equiv = " content-type " /> < title > Web页面 </ title > </ head > < body > < H1 > Web页面清单 </ H1 > < a href = http: // www.python.org > Python网站 </ a > < a href = test.html > 本地页面 </ a > < img SRC = test.jpg > </ body > </ html > 解析后的文件 ======================== < html > < head  > < meta content = " text/html; charset=utf-8 " http - equiv = " content-type "   ></ meta > < title  > Web页面 </ title > </ head > < body  > < h1  > Web页面清单 </ h1 > < a href = " http://www.python.org "   > Python网站 </ a > < a href = " test.html "   > 本地页面 </ a > < img src = " test.jpg "   > </ body > </ html > 　　六、小结 　　对搜索引擎、文件索引、文档转换、数据检索、站点备份或迁移等应用程序来说，经常用到对网页(即HTML文件)的解析处理。事实上，通过Python语言提供的各种模块，我们无需借助Web服务器或者Web浏览器就能够解析和处理HTML文档。本文将详细介绍了如何使用Python模块来迅速解析在HTML文件中的数据，从而处理特定的内容，如链接、图像和Cookie等。同时，我们还给出了一个规范HTML文件的格式标签的例子，希望本文对您会有所帮助。