Scrapy 发送带Cookie的请求

               

Scrapy的Request类支持设置cookie属性,要在爬虫请求中带上cookie,可以重载Spider的start_requests方法。

import sysfrom scrapy.spider import Spiderfrom scrapy.selector import Selectorfrom scrapy.http.request import Requestclass InfoqSpider(Spider):    name = "techbrood"    allowed_domains = ["techbrood.com"]    start_urls = [        "http://techbrood.com",    ]            def start_requests(self):        for url in self.start_urls:                    yield Request(url, cookies={'techbrood.com': 'true'})

参考文档:

http://doc.scrapy.org/en/latest/topics/spiders.html?highlight=start_requests#scrapy.spider.Spider.start_requests


by iefreer

           

再分享一下我老师大神的人工智能教程吧。零基础!通俗易懂!风趣幽默!还带黄段子!希望你也加入到我们人工智能的队伍中来!https://blog.csdn.net/jiangjunshow

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值