该楼层疑似违规已被系统折叠 隐藏此楼查看此楼
部分网站需要登录才能允许访问,因此爬虫需要获取登录cookie,然后通过爬虫代理使用该cookie进行数据采集。本示例按照以上流程进行实现如下:
1 模拟表单登陆
通过于post请求向服务器发送表单数据,爬虫将返回的cookie进行存储。
import requests
data = {'data1':'XXXXX', 'data2':'XXXXX'}
response = requests.post(url=url, data=data)
2 提取cookie登陆
读取存储的cookie进行登陆,服务器会认为爬虫请求是已登陆的用户,所以就会返回已登陆的内容。注意需要验证码的情况可以使用带验证码登陆的cookie解决。
#! -*- encoding:utf-8 -*-
import requests
import random
import requests.adapters
# 要访问的目标页面
targetUrlList = [
"https://httpbin.org/ip",
"https://httpbin.org/headers",
"https://httpbin.org/user-agent",
]
# 代理服务器(产品官网 http://www.16yun.cn)
proxyHost = "t.16yun.cn"
proxyPort = "31111"
# 代理隧道