【Python】多线程下载韩寒博客文章

注:把韩寒博文目录第一页的所有文章下载下来


1.正则在线测试工具:http://tool.chinaz.com/regex/


getBlogData.py

import urllib  
import re
import threading
import os

#创建用于保存的文件夹
os.mkdir('D:\Blog')
    
#get
def getBlog(url):
    p = urllib.urlopen(url).read()  
    open(r'D:\Blog/'+url[-26:],'w+').write(p)
    
#创建Threading的子类,重写run方法
class downLoad(threading.Thread):
    def __init__(self,url):
        threading.Thread.__init__(self)
        self.url = url
    def run(self):
         getBlog(self.url)


url = 'http://blog.sina.com.cn/s/articlelist_1191258123_0_1.html'
  
#获取url的页面数据     
html = urllib.urlopen(url)  
data = html.read()
 
  
#正则匹配文章链接,把重复的url过滤掉  
reg = r'http://blog.sina.com.cn/s/blog.*.html'  
text = re.compile(reg)  
for x in text.findall(data):
    #getBlog(x)
    thread1 = downLoad(x)
    thread1.start()










评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值