HTTP协议简介
HTTP协议是一个专门传送数据的一种协议。可以通过HTTP协议获取一些相关数据。
1 HTTP工作性质
可以通过HTTP协议向互联网网站发出相关请求获取相应数据。
Web服务器分为:Apache服务器,IIS服务器等。
Web服务器根收到HTTP请求后,向客户端发送响应信息。
HTTP一般默认端口80,当然也支持其他更多不一样的端口
2 HTTP常见状态码
使用亿牛云爬虫代理经常出现的HTTP状态码:
http状态码407
原因:代理认证信息失败,让对方严格按照demo配置代理信息
http状态码429
原因:请求超过代理限制,严格按照所开代理的请求数,按照300毫秒为单位进行管理。如果限制之后,既然大量429,需要优化爬虫策略,应该是目标网站返回的错误提示。
http状态码302
原因:访问的是https网站,会自动跳转一次,正常现象;访问的http网站,网站拒绝服务,大量302需要优化爬虫策略
http状态码403 503 或504
原因:少量不影响,大量403 503或504需要优化爬虫策略
还有一些其他的状态码建议以网上的介绍为准。
3 python爬虫如何请求HTTP代理协议
#! -- encoding:utf-8 --
import aiohttp, asyncio
targetUrl = “http://httpbin.org/ip”
# 代理服务器(产品官网 www.16yun.cn)
proxyHost = “t.16yun.cn”
proxyPort = “31111”
# 代理验证信息
HTTP代理协议的分析和原理
最新推荐文章于 2024-05-14 09:09:46 发布