python htmlparser怎么用,在Python中高效地使用HTMLParser

作为对Python regular expression的响应,我尝试使用HTMLParser实现一个HTML解析器:import HTMLParser

class ExtractHeadings(HTMLParser.HTMLParser):

def __init__(self):

HTMLParser.HTMLParser.__init__(self)

self.text = None

self.headings = []

def is_relevant(self, tagname):

return tagname == 'h1' or tagname == 'h2'

def handle_starttag(self, tag, attrs):

if self.is_relevant(tag):

self.in_heading = True

self.text = ''

def handle_endtag(self, tag):

if self.is_relevant(tag):

self.headings += [self.text]

self.text = None

def handle_data(self, data):

if self.text != None:

self.text += data

def handle_charref(self, name):

if self.text != None:

if name[0] == 'x':

self.text += chr(int(name[1:], 16))

else:

self.text += chr(int(name))

def handle_entityref(self, name):

if self.text != None:

print 'TODO: entity %s' % name

def extract_headings(text):

parser = ExtractHeadings()

parser.feed(text)

return parser.headings

print extract_headings('abdk3

The content we need

aaaaabbb

The content we need2

')

print extract_headings('before

Hello

after')

我想知道这个模块的API是坏的还是我没有注意到一些重要的事情。我的问题是:为什么我的handle_charref的实现必须如此复杂?{cd4{I>作为一个预期的为什么handle_charref的默认实现不使用适当的字符串调用handle_data?在

为什么没有我可以调用的handle_entityref的实用程序实现?它可以命名为handle_entityref_HTML4,它将查找html4中定义的实体,然后对它们调用handle_data。在

如果提供了这个API,编写定制的HTML解析器就会容易得多。我的误解在哪里?在

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
使用Pythonhtml.parser模块可以很方便地爬取网页内容。下面是一些基本的步骤: 1. 导入模块 ```python from html.parser import HTMLParser ``` 2. 继承HTMLParser类 ```python class MyHTMLParser(HTMLParser): def __init__(self): super().__init__() ``` 3. 实现处理函数 在MyHTMLParser实现处理函数,这些函数将在解析HTML文档的过程被调用。 ```python def handle_starttag(self, tag, attrs): pass def handle_endtag(self, tag): pass def handle_data(self, data): pass ``` 其,handle_starttag()函数处理开始标签,handle_endtag()函数处理结束标签,handle_data()函数处理标签之间的文本数据。 4. 创建实例并解析HTML文档 ```python parser = MyHTMLParser() parser.feed(html_doc) ``` 其html_doc是要解析的HTML文档。 5. 处理结果 解析完成后,可以从MyHTMLParser实例获取解析结果。 ```python result = parser.result ``` 完整的代码示例: ```python from html.parser import HTMLParser class MyHTMLParser(HTMLParser): def __init__(self): super().__init__() self.result = [] def handle_starttag(self, tag, attrs): self.result.append(tag) def handle_endtag(self, tag): pass def handle_data(self, data): self.result.append(data) html_doc = """ <html> <head> <title>Example</title> </head> <body> <h1>Heading</h1> <p>Paragraph</p> </body> </html> """ parser = MyHTMLParser() parser.feed(html_doc) print(parser.result) ``` 输出结果: ``` ['html', 'head', 'title', 'Example', 'title', 'head', 'body', 'h1', 'Heading', 'h1', 'p', 'Paragraph', 'p', 'body', 'html'] ``` 这个示例只是简单地将标签和文本数据存储在了一个列表,实际应用需要根据具体需求进行处理。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值