Scrapy博客园selenium保持登录状态(需要手动登录获取cookie,验证码太难破解了呜呜呜~)

Scrapy博客园selenium保持登录状态(需要手动登录获取cookie,验证码太难破解了呜呜呜~)

创建好scrapy和sipder后
重写start_requests方法:

def start_requests(self):
    # 这是你下载chromedriver.exe的绝对路径
    path = "E:\zhuomian\project\python\ArticleSpider\ArticleSpider\spiders\chromedriver.exe"
    liu = webdriver.Chrome(path)
    liu.get("https://account.cnblogs.com/signin?returnUrl=https:%2F%2Fnews.cnblogs.com%2F")
    # 打开登陆界面后让程序睡30秒   这个时间用自己的账号登录上!
    time.sleep(30)
    # 获取cookie
    cookiese = liu.get_cookies()
    # 将cookie保存   方便后续使用
    pickle.dump(cookiese, open("E:/zhuomian/project/python/ArticleSpider/cookies/boke.cookie", "wb"))
    # cookie保存到字典中  用于返回到response
    cookie_dict = {}
    # 取name和value的值(取重要的就可以)
    for cookie in cookiese:
        cookie_dict[cookie["name"]] = cookie["value"]
    # 返回到response
    return [scrapy.Request(url=self.start_urls[0], dont_filter=True, cookies=cookie_dict)]

因为返回到了response所以用parse(self, response)方法来调用一下(自己看就行,不演示了)


登录一次后就已经把cookie获取到了,后续直接读取cookie文件就行,不需要再登录获取了

修改代码:

    def start_requests(self):
        cookiese = pickle.load(open("E:/zhuomian/project/python/ArticleSpider/cookies/boke.cookie", "rb"))
        cookie_dict = {}
        for cookie in cookiese:
            cookie_dict[cookie["name"]] = cookie["value"]
        return [scrapy.Request(url=self.start_urls[0], dont_filter=True, cookies=cookie_dict)]
        # 这是你下载chromedriver.exe的绝对路径
        # path = "E:\zhuomian\project\python\ArticleSpider\ArticleSpider\spiders\chromedriver.exe"
        # liu = webdriver.Chrome(path)
        # liu.get("https://account.cnblogs.com/signin?returnUrl=https:%2F%2Fnews.cnblogs.com%2F")
        # 打开登陆界面后让程序睡30秒   这个时间用自己的账号登录上!
        # time.sleep(30)
        # 获取cookie
        # cookiese = liu.get_cookies()
        # 将cookie保存   方便后续使用
        # pickle.dump(cookiese, open("E:/zhuomian/project/python/ArticleSpider/cookies/boke.cookie", "wb"))
        # cookie保存到字典中  用于返回到response
        # cookie_dict = {}
        # 取name和value的值(取重要的就可以)
        # for cookie in cookiese:
        #     cookie_dict[cookie["name"]] = cookie["value"]
        # 返回到response
        # return [scrapy.Request(url=self.start_urls[0], dont_filter=True, cookies=cookie_dict)]
  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Jzin

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值