之前也有写过有关于爬虫的实战练习:go语言爬取珍爱网
当时爬取时当并发过大的时候,请求就会出现卡死的情况。其实这可能就是珍爱网对请求和连接进行了限制。
爬虫和反爬是个“一边攻,一边守”的技术,但我们亲爱的爬虫工程师们也一直遵守着“只攻不破”的原则。网站服务器对爬虫一直在做限制,避免服务器流量异常,负载过大,防止恶意的攻击带来带宽和资源的浪费,甚至影响业务正常运行。往往办法是限制对同一个IP的连接数和并发数进行限制。今天我们就来看看nginx的连接频率limitconnmodule和请求频率limitreqmodule 限制模块。
HTTP请求建立在一次TCP连接基础上,一次TCP请求至少产生一次HTTP请求。
连接限制:
语法如下:
Syntax:limit_conn_zone key zone=name:size;
Default: -
Context:http
limitconnzone:一块空间,用于存放被限制连接的状态;
key:键,可以说是一个规则,就是对客服端连接的一个标识,比如可以用内置变量 — 客户端的ip;
zone:就是这块空间的名字,这个需要和location的配置相对应;
size:就是申请空间的大小。
limit_conn指令:
Syntax: limit_conn zone number;
Default: -
Context: http, server, location
这里有个前提必须在http下先定义好limitconnzone才可以在这里引用。
这里的zone就是上面zone的名字,number就是同一时间连接的限制数。
请求频率限制:
Syntax: limit_req_zone key zone=name:size rate=rate;
Default: -
Context: http
语法和上面类似,rate为速率限制,以秒为单位多少个。
limit_req指令:
Syntax: limit_req zone=name [burst=number] [nodelay]
Default: -
Context: http,server,location
burst=number,重点说明一下这个配置,burst爆发的意思,这个配置的意思是设置一个大小为number的缓冲区当有大量请求(爆发)过来时,超过了访问频次限制的请求可以先放到这个缓冲区内,起到访问限速的作用
nodelay,如果设置,超过访问频次而且缓冲区也满了的时候就会直接返回503(Service Temporarily Unavailable)服务暂时不可用,如果没有设置,则所有请求会等待排队。
这两个默认是不需要配置的。
配置示例如下:
![6fc979725d41b80d5ab4761b3a560252.png](https://i-blog.csdnimg.cn/blog_migrate/2af55c24162fb009a8970f11c1c42111.jpeg)
$binaryremoteaddr表示二进制的IP地址,一个二进制的ip地址在32位机器上占用32个字节,那么1M可以存放多少呢,计算一下,1x1024x1024/32 = 32768,意思就是可以存放32678个ip地址,在一个会话中,比$remote_addr要节约10空间;
rate=1r/s表示每秒只能有一个请求;
*1、*
把location下的limit配置都注释掉,用ab工具(压力测试工具)测试:
ab -n10000 -c1000 http://192.168.1.6/index.html
这里-n表示请求总数,-c表示同一时间的请求数。
请求之后所有请求都成功:
![a5f205b57f7965b10368775c299d8a45.png](https://i-blog.csdnimg.cn/blog_migrate/63fbb097302e68128dba2e424f8a4974.jpeg)
*2、*
当只放开limitreq zone=reqzone;注释后,用压测工具ab发起同样的命令后:
![51db74b92f53c3cb0cd9a705f62479f8.png](https://i-blog.csdnimg.cn/blog_migrate/75d436b2da37d4e50f21eabf4c264856.png)
可以看到只成功请求3个,因为req_zone配置的rate为每秒一个请求。
*3、*
当只放开location下limitreq zone=reqzone burst=3 nodelay;注释时,继续发起请求:
![97f2d3ad9f501c9e66d08e5ec9f940cd.png](https://i-blog.csdnimg.cn/blog_migrate/8f05833ff45f9e4b75c28b2a99b64c73.png)
可以看到,成功了6个,比上一次多了3个。burst=3将3个请求放到缓冲区等下一秒执行。
*4、*
当只放开limitconn connzone 1;注释时,使用ab进行测试。此时一个ip只能同一时刻只能建立一个连接。
本公众号免费提供csdn下载服务,海量IT学习资源如果你准备入IT坑,励志成为优秀的程序猿,那么这些资源很适合你,包括但不限于java、go、python、springcloud、elk、嵌入式 、大数据、面试资料、前端 等资源。同时我们组建了一个技术交流群,里面有很多大佬,会不定时分享技术文章,如果你想来一起学习提高,可以公众号后台回复【2】,免费邀请加技术交流群互相学习提高,会不定期分享编程IT相关资源。
扫码关注,精彩内容第一时间推给你
![203c28c55c4cc52d4adba1caf1357aac.png](https://i-blog.csdnimg.cn/blog_migrate/b72689d8ff648c4630adc07489779fde.jpeg)