python登录网站后爬取数据_快速爬取登录网站数据

该楼层疑似违规已被系统折叠 隐藏此楼查看此楼

部分网站需要登录才能允许访问，因此爬虫需要获取登录cookie，然后通过爬虫代理使用该cookie进行数据采集。本示例按照以上流程进行实现如下：

1 模拟表单登陆

通过于post请求向服务器发送表单数据，爬虫将返回的cookie进行存储。

import requests

data = {'data1':'XXXXX', 'data2':'XXXXX'}

response = requests.post(url=url, data=data)

2 提取cookie登陆

读取存储的cookie进行登陆，服务器会认为爬虫请求是已登陆的用户，所以就会返回已登陆的内容。注意需要验证码的情况可以使用带验证码登陆的cookie解决。

#! -*- encoding:utf-8 -*-

import requests

import random

import requests.adapters

# 要访问的目标页面

targetUrlList = [

"https://httpbin.org/ip",

"https://httpbin.org/headers",

"https://httpbin.org/user-agent",

]

# 代理服务器(产品官网 http://www.16yun.cn)

proxyHost = "t.16yun.cn"

proxyPort = "31111"

# 代理隧道