scrapy 中集成 selenium

  • 因为在called for each request that goes through the downloader middleware。每一请求进过下载中间键时会被调用。在方法process_request 中集成。
from scrapy.http.response.html import HtmlResponse
from selenium import webdriver

class SeleniumSpiderDownloaderMiddleware(object):
    """继承selenium"""

    def __init__(self):
        option = webdriver.ChromeOptions()
        option.add_argument('User-Agent=Mozilla/5.0 (Macintosh; U; Intel Mac OS X 10_6_8; en-us) AppleWebKit/534.50 (KHTML, like Gecko) Version/5.1 Safari/534.50')
        option.add_experimental_option('excludeSwitches', ['enable-automation'])
        prefs = {
            "profile.managed_default_content_settings.images": 2
        }
        option.add_experimental_option('prefs',prefs) #设置不加载图片
        option.add_argument("--headless") # 设置无头

        self.driver = webdriver.Chrome(options=option)



    def process_request(self,request,spider):

        self.driver.get(request.url)
        time.sleep(1)
        source = self.driver.page_source
        if not source:
        	print("INFO: %s %s"%(datetime.datetime.now().strftime("%Y-%m-%d %H:%M:%S"),source)) 
        source =source.encode("utf-8")
        Response=HtmlResponse(url=self.driver.current_url,body=source,request=request,encoding="utf-8")
        return Response
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值