Python 使用htmlParser下载论坛歌曲

#encoding='GB2312'
import requests
import os
from HTMLParser import HTMLParser

print '本脚本可以帮助您下载K歌之王中上传的歌曲'+'\n'

bourl = "http://bbs.byr.cn/board/KaraOK"
filepath= 'python/'

headers = {'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
           'Accept-Encoding': 'gzip, deflate, compress',
           'Accept-Language': 'en-us;q=0.5,en;q=0.3',
           'Cache-Control': 'max-age=0',
           'Connection': 'keep-alive',      
           'X-Requested-With': 'XMLHttpRequest',
           'User-Agent': 'Mozilla/5.0 (Windows NT 6.3; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/35.0.1916.153 Safari/537.36' }

if os.path.exists(filepath):
    pass
else:
    os.makedirs(filepath)

print '--------------------------'


class PageParser(HTMLParser):
    def handle_starttag(self,tag,attrs):
        if tag=='a':
           global p_url
           str_temp='在新窗口打开此主题'
           for (key,val)in attrs:
               if key=='href':
                   p_url=val
               if (key=='title')&(val==str_temp):
                   downSong(p_url)
                
                    
class MyParser(HTMLParser):
    def handle_starttag(self,tag,attrs):
        global songHref
        if tag=='a':
            for (key,val)in attrs:
                if key=='href':
                    songHref=val
                    
    def handle_data(self,data):
        global flag
        global songName
        str_find='在新窗口打开'
        if data.find(str_find)>0:   
            flag=True
            songName=data
        else:
            flag=False
           
    def handle_endtag(self, tag):
        global songName
        global flag
      
        if flag&(tag=='a'):
            songName=songName[0:songName.index('(')]
            song =requests.get("http://bbs.byr.cn/"+songHref)
            with open(filepath+songName,'wb') as code:
                code.write(song.content)
            print songName,'downCompleted'
                        
        

def downSong(url):
    songParser=MyParser()
    try:
        songContent=requests.get("http://bbs.byr.cn"+url,headers=headers).content
        songParser.feed(songContent)
    except:
        print '下载错误!!!!!!!!!!!!!!!!'

    


    


p_url=''

flag=False
songName='';
songHref='';
p=80
while p<88:
    global p;
    p=p+1
    temp_url=bourl+"?p="+str(p)
    bbcount =requests.get(temp_url,headers=headers).content
    parser=PageParser()
    parser.feed(bbcount);
    print 'the'+str(p)+'completed------------------------------------------------------------'


 说明几点1:byr论坛采用ajax架构,header写法如上。

2:使用htmlParser解析文档

3:链接提取后,直接写入文件就可以

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
使用Pythonhtml.parser模块可以很方便地爬取网页内容。下面是一些基本的步骤: 1. 导入模块 ```python from html.parser import HTMLParser ``` 2. 继承HTMLParser类 ```python class MyHTMLParser(HTMLParser): def __init__(self): super().__init__() ``` 3. 实现处理函数 在MyHTMLParser类中实现处理函数,这些函数将在解析HTML文档的过程中被调用。 ```python def handle_starttag(self, tag, attrs): pass def handle_endtag(self, tag): pass def handle_data(self, data): pass ``` 其中,handle_starttag()函数处理开始标签,handle_endtag()函数处理结束标签,handle_data()函数处理标签之间的文本数据。 4. 创建实例并解析HTML文档 ```python parser = MyHTMLParser() parser.feed(html_doc) ``` 其中,html_doc是要解析的HTML文档。 5. 处理结果 解析完成后,可以从MyHTMLParser实例中获取解析结果。 ```python result = parser.result ``` 完整的代码示例: ```python from html.parser import HTMLParser class MyHTMLParser(HTMLParser): def __init__(self): super().__init__() self.result = [] def handle_starttag(self, tag, attrs): self.result.append(tag) def handle_endtag(self, tag): pass def handle_data(self, data): self.result.append(data) html_doc = """ <html> <head> <title>Example</title> </head> <body> <h1>Heading</h1> <p>Paragraph</p> </body> </html> """ parser = MyHTMLParser() parser.feed(html_doc) print(parser.result) ``` 输出结果: ``` ['html', 'head', 'title', 'Example', 'title', 'head', 'body', 'h1', 'Heading', 'h1', 'p', 'Paragraph', 'p', 'body', 'html'] ``` 这个示例只是简单地将标签和文本数据存储在了一个列表中,实际应用中需要根据具体需求进行处理。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值