scrapy验证http代理

环境配置好了,现在就可以抓一些代理服务器并验证试试。


废话不多说,上代码。


#-*- coding: utf-8 -*-
'''
/*********************************************************************************
  *Copyright(C),2003-2013,KK Studio 
  *FileName:    ProxytxtSpider
  *Author:      KK
  *Version:     1.0
  *Date:        20130810
  *Description: 
  
  *Function List:      
     1.scrapy get proxy
  *History:            
     1.20130816:        //check proxytxt format
**********************************************************************************/
'''

from scrapy.contrib.spiders import CrawlSpider, Rule
from scrapy.selector import HtmlXPathSelector
from scrapy.contrib.linkextractors.sgml import SgmlLinkExtractor
from Proxy.items import ProxyItem
import re

class ProxycrawlerSpider(CrawlSpider):
    name = 'txtproxy'
    allowed_domains = ['www.cnhonkerarmy.com']
    start_urls =
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值