对于利用urllib2批量爬虫遇到HTTP error的解决办法

在批量爬虫网页内容时,很可能有的中间的页面不存在,或跳转至其他页面。如果是利用某个id进行检索的话,遇到此类问题程序就会中断,如果只遇到一两个页面的话还好说,不过当这种情况多的话,就需要python处理错误的机制。类似于其他语言,用try捕捉错误,再用except处理错误就好。
举个例子

for i in range(1,2910):
        try:
            count = 6-len(str(i))
            flag = 1
            temp = ''
            for j in range(0,count):
                temp = temp + '0'
            req = urllib2.urlopen('http://data.eastmoney.com/stockdata/'+temp+str(i)+'.html')
            if(req.getcode() == '404'):
                continue
            buf = req.read()
        except urllib2.HTTPError:  
            blabla......
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值