爬虫—次数过多HTTPConnectionPool

一、常见错误 HTTPConnectionPool(host:XX)Max retries exceeded with url: 如何让请求结束后马上断开连接且释放池中的连接资源:headers={'Connection':'close'} 使用代理ip:requests.get(url=url,headers=h...
摘要由CSDN通过智能技术生成

一、常见错误

        HTTPConnectionPool(host:XX)Max retries exceeded with url:
                如何让请求结束后马上断开连接且释放池中的连接资源:headers={ 'Connection':'close'}
                使用代理ip:requests.get(url=url,headers=headers,proxies={'https':'134.209.13.16:8080'}).text

二、站长素材建立模板爬取

#爬取站长素材中的免费建立模板
import requests
from lxml import etree
import random



headers = {
    'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.121 Safari/537.36',
    'Connection':'close'
}
url_page_one = 'http://sc.chinaz.com/jianli/free.html'

#定制了一个通用的url模板
url_demo = 'http://sc.chinaz.com/jianli/free_%d.html'
start_page = int(input('enter a start page num:'))
end_page = int(input('enter a end page num:'))

for pageNum in ran
  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值