Python requests 爬虫模块的使用

本文介绍了Python中requests模块的使用,包括安装、GET和POST请求的实现、实用方法、URL解析及代理服务器的配置。重点讲述了代理服务器的使用策略,如IP池的建立、IP选择策略以及IP可用性的检测。同时,还涉及了requests模块处理cookies和session的方法。
摘要由CSDN通过智能技术生成

一、安装 requests 模块

pip install requests

Requests 中文文档

二、使用模块

import requests as req

''' 1、GET,POST的基本语法 '''
# GET请求
response = req.get(url,params,**kwargs)
# 例子:req.get(url,params={'wd':'百度'},headers=headers) # headers:字典

# POST请求
response = req.post(url,data,json,**kwargs)
# 例子:req.post(urlfy,data={'wd':'百度'},headers=headers) # headers:字典

''' 2、req.request 使用 '''

proxies={'http/https':'代理服务器地址'}
# headers 包含但不限于这些内容
headers={
    'Referer': '访问此网页前一个页面',
    'User-Agent': '计算机、浏览器信息',
    'Accept': 'image/webp,image/apng,image/*,*/*;q=0.8',
    'Accept-Encoding': 'gzip, deflate, br',
    'Accept-Language': 'zh-CN,zh;q=0.9',
    'Connection': 'keep-alive',
    'Cookie':'Cookie信息',
    'Content-Type': 'application/x-www-form-urlencoded',
}
req.request(
    method='请求的模式',
    url='url'
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值