python 批量爬取博客数据(仅供学习)

#coding:utf-8  
import urllib  
import time  
import os
page=1  
while page<=7:  
    url=['']*50 #每页有50篇文章
    temp='http://blog.sina.com.cn/s/articlelist_1191258123_0_'+str(page)+'.html'
    con =urllib.urlopen(temp).read() #读取数据
    
    i=0
    title=con.find(r'<a title=')  
    href=con.find(r'href=',title)  
    html = con.find(r'.html',href)  
    while title!=-1 and href!=-1 and html!=-1 and i<50:  
        url[i]=con[href+6:html+5]  
        print url[i] 
        title=con.find(r'<a title=',html)  
        href=con.find(r'href=',title)  
        html = con.find(r'.html',href)  
        i=i+1  
    else:  
        print 'end page=',page  
    j=0  
    '''写入本地文件'''
    while(j<i): 
        content=urllib.urlopen(url[j]).read()
        path = 'hanhan/'+str(page)+"/"
        if os.path.isdir(path):
            open(path+url[j][-26:],'w+').write(content)
        else:
            os.makedirs(path)
            open(path+url[j][-26:],'w+').write(content)
        j=j+1  
        time.sleep(1)  
    else:  
        print 'download'  
    page=page+1  
else:  
    print 'all find end'  

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值