最近在学这方面相关的内容,怕之后会忘记,写着记录一下
一.安装openresty
1.添加仓库执行命令
yum-config-manager --add-repo https://openresty.org/package/centos/openresty.repo
2.执行安装
yum install openresty
3.安装成功后 会在默认的目录如下:
/usr/local/openresty
二.部署nginx
此时默认已经安装好了nginx,在目录:/usr/local/openresty/nginx 下
端口号默认为80端口,通过浏览器可以直接访问到
三,通过lua脚本部署ngnix实现从mysql数据库中读取数据,并存入redis中
3.1查询数据放入redis中
实现思路:
定义请求:用于查询数据库中的数据更新到redis中。
a.连接mysql ,按照XX分类ID读取XX列表,转换为json字符串。
b.连接redis,将XX列表json字符串存入redis 。
代码如下:
vi 创建一个文件vi /root/lua/update_content.lua
(可自行创建在任何位置,后缀一定是 .lua,一定要记住路径,后面需要用到)
ngx.header.content_type="application/json;charset=utf8"
local cjson = require("cjson")
local mysql = require("resty.mysql")
local uri_args = ngx.req.get_uri_args()
local id = uri_args["id"]
local db = mysql:new()
db:set_timeout(1000)
local props = {
host = "数据库的地址",
port = 3306,
database = "数据的名称",
user = "root",
password = "root"
}
local res = db:connect(props)
local select_sql = "select url,pic from tb_content where status ='1' and category_id="..id.." order by sort_order" -- sql语句
res = db:query(select_sql)
db:close()
local redis = require("resty.redis")
local red = redis:new()
red:set_timeout(2000)
local ip ="redis的ip地址"
local port = 6379
red:connect(ip,port)
red:set("content_"..id,cjson.encode(res))
red:close()
ngx.say("{flag:true}")
四.从redis中获取数据
实现思路:
定义请求,用户根据XX分类的ID 获取XX的列表。通过lua脚本直接从redis中获取数据即可。
代码如下:
vi 创建一个文件vi /root/lua/read_content.lua
(可自行创建在任何位置,后缀一定是 .lua,一定要记住路径,后面需要用到)
ngx.header.content_type="application/json;charset=utf8"
local uri_args = ngx.req.get_uri_args();
local id = uri_args["id"];
local cache_ngx = ngx.shared.dis_cache;
local contentCache = cache_ngx:get('content_cache_'..id);
--从redis获取数据
if contentCache == "" or contentCache == nil then
local redis = require("resty.redis");
local red = redis:new()
red:set_timeout(2000)
red:connect("redis的ip地址", 6379)
local rescontent=red:get("content_"..id);
--当redis中没有数据的时候,则从数据库中获取
if ngx.null == rescontent then
local cjson = require("cjson");
local mysql = require("resty.mysql");
local db = mysql:new();
db:set_timeout(2000)
local props = {
host = "数据库的ip地址",
port = 3306,
database = "数据库的名称",
user = "root",
password = "root"
}
local res = db:connect(props);
local select_sql = "select url,pic from tb_content where status ='1' and category_id="..id.." order by sort_order"; --查询的sql语句
res = db:query(select_sql);
local responsejson = cjson.encode(res);
red:set("contpent_"..id,responsejson);
ngx.say(responsejson);
db:close()
else
cache_ngx:set('content_cache_'..id, rescontent, 2*60);
ngx.say(rescontent)
end
red:close()
else
ngx.say(contentCache)
end
查看redis客户端可以看到,两条同步数据
五。配置ngnix限流
cd进去ngnix配置文件
//cd进去ngnix配置文件
cd /usr/local/openresty/nginx/conf
//注:没有其他配置话,或者第一次配置,可直接删除原配置文件
rm -rf nginx.conf
//自己以前配置了其他配置,则自行看着修改吧
vi nginx.conf
- 5.1 是控制速率
控制速率的方式之一就是采用漏桶算法
。
漏桶(Leaky Bucket)算法思路很简单,水(请求)先进入到漏桶里,漏桶以一定的速度出水(接口有响应速率),当水流入速度过大会直接溢出(访问频率超过接口响应速率),然后就拒绝请求,可以看出漏桶算法能强行限制数据的传输速率.示意图如下:
配置代码如下:
user root root;
worker_processes 1;
events {
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
#cache
lua_shared_dict dis_cache 128m;
#限流设置
limit_req_zone $binary_remote_addr zone=contentRateLimit:10m rate=2r/s;
sendfile on;
#tcp_nopush on;
#keepalive_timeout 0;
keepalive_timeout 65;
#gzip on;
server {
listen 80;
server_name localhost;
location /update_content {
content_by_lua_file /root/lua/update_content.lua;
}
location /read_content {
#使用限流配置
limit_req zone=contentRateLimit;
content_by_lua_file /root/lua/read_content.lua;
}
}
}
配置说明:
binary_remote_addr 是一种key,表示基于 remote_addr(客户端IP) 来做限流,binary_
的目的是压缩内存占用量。 zone:定义共享内存区来存储访问信息, contentRateLimit:10m
表示一个大小为10M,名字为contentRateLimit的内存区域。1M能存储16000 IP地址的访问信息,10M可以存储16W
IP地址访问信息。 rate 用于设置最大访问速率,rate=10r/s 表示每秒最多处理10个请求。Nginx
实际上以毫秒为粒度来跟踪请求信息,因此 10r/s
实际上是限制:每100毫秒处理一个请求。这意味着,自上一个请求处理完后,若后续100毫秒内又有请求到达,将拒绝处理该请求.我们这里设置成2
方便测试。
重新加载配置文件
cd /usr/local/openresty/nginx/sbin
./nginx -s reload
通过访问该路径,多刷几次就会限流
(2)处理突发流量
上面例子限制 2r/s,如果有时正常流量突然增大,超出的请求将被拒绝,无法处理突发流量,可以结合 burst 参数使用来解决该问题。
burst 译为突发、爆发,表示在超过设定的处理速率后能额外处理的请求数,当 rate=10r/s 时,将1s拆成10份,即每100ms可处理1个请求。
此处,**burst=4 **,若同时有4个请求到达,Nginx
会处理第一个请求,剩余3个请求将放入队列,然后每隔500ms从队列中获取一个请求进行处理。若请求数大于4,将拒绝处理多余的请求,直接返回503.不过,单独使用 burst 参数并不实用。假设 burst=50
,rate依然为10r/s,排队中的50个请求虽然每100ms会处理一个,但第50个请求却需要等待 50 * 100ms即
5s,这么长的处理时间自然难以接受。因此,burst 往往结合 nodelay 一起使用。
完整代码如下:
user root root;
worker_processes 1;
events {
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
#cache
lua_shared_dict dis_cache 128m;
#限流设置
limit_req_zone $binary_remote_addr zone=contentRateLimit:10m rate=2r/s;
sendfile on;
#tcp_nopush on;
#keepalive_timeout 0;
keepalive_timeout 65;
#gzip on;
server {
listen 80;
server_name localhost;
location /update_content {
content_by_lua_file /root/lua/update_content.lua;
}
location /read_content {
limit_req zone=contentRateLimit burst=4 nodelay;
content_by_lua_file /root/lua/read_content.lua;
}
}
}
测试:如下图 在1秒钟之内可以刷新4次,正常处理。
但是超过之后,连续刷新5次,抛出异常
- 5.2控制并发连接数
ngx_http_limit_conn_module
提供了限制连接数的能力。主要是利用limit_conn_zone和limit_conn两个指令。利用连接数限制 某一个用户的ip连接的数量来控制流量。
注意:并非所有连接都被计算在内 只有当服务器正在处理请求并且已经读取了整个请求头时,才会计算有效连接。此处忽略测试。
(1)配置限制固定连接数
如下,配置如下:
代码如下:
http {
include mime.types;
default_type application/octet-stream;
#cache
lua_shared_dict dis_cache 128m;
#限流设置
limit_req_zone $binary_remote_addr zone=contentRateLimit:10m rate=2r/s;
#根据IP地址来限制,存储内存大小10M
limit_conn_zone $binary_remote_addr zone=addr:1m;
sendfile on;
#tcp_nopush on;
#keepalive_timeout 0;
keepalive_timeout 65;
#gzip on;
server {
listen 80;
server_name localhost;
#所有以brand开始的请求,访问本地service-goods微服务
location /brand {
limit_conn addr 2;
proxy_pass http://192.168.211.1:18081;
}
location /update_content {
content_by_lua_file /root/lua/update_content.lua;
}
location /read_content {
limit_req zone=contentRateLimit burst=4 nodelay;
content_by_lua_file /root/lua/read_content.lua;
}
}
}
表示limit_conn_zone $binary_remote_addr zone=addr:10m;
表示限制根据用户的IP地址来显示,设置存储地址为的内存大小10Mlimit_conn addr 2; 表示 同一个地址只允许连接2次
测试:
此时开3个线程,测试的时候会发生异常,开2个就不会有异常
总配置代码: 如果复制后出现乱码,则可选择删除注释里得中文
user root root;
worker_processes 1;
events {
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
#定义Nginx缓存模块,模块名字叫dis_cache,容量大小128M
lua_shared_dict dis_cache 128m;
#限流设置
limit_req_zone $binary_remote_addr zone=contentRateLimit:10m rate=2r/s;
#根据IP地址来限制,存储内存大小10M
limit_conn_zone $binary_remote_addr zone=addr:10m;
#个人IP显示
limit_conn_zone $binary_remote_addr zone=perip:10m;
#针对整个服务所有的并发量控制
limit_conn_zone $server_name zone=perserver:10m;
sendfile on;
#tcp_nopush on;
#keepalive_timeout 0;
keepalive_timeout 65;
#gzip on;
server {
listen 80;
#监听的域名
server_name localhost;
#XXX.XXX.XXX.XXX
location /brand {
limit_conn perip 3; #单个客户端ip与服务器的连接数.
limit_conn perserver 5; #限制与服务器的总连接数
#同一个IP只允许有2个并发连接
#limit_conn addr 2;
#所有以/brand的请求,都将交给 XXX.XXX.XXX.XXX服务器的18081程序处理.
proxy_pass http://XXX.XXX.XXX.XXX:18081;
}
#表示所有以 localhost/read_content的请求都由该配置处理
location /read_content {
#使用指定限流配置,burst=4表示允许同时有4个并发连接,如果不能同时处理,则会放入队列,等请求处理完成后,再从队列中拿请求
#nodelay 并行处理所有请求
limit_req zone=contentRateLimit burst=4 nodelay;
#content_by_lua_file:所有请求都交给指定的lua脚本处理(/root/lua/read_content.lua)
content_by_lua_file /usr/local/server/lua65/read_content.lua;
}
#表示所有以 localhost/update_content的请求都由该配置处理
location /update_content {
#content_by_lua_file:所有请求都交给指定的lua脚本处理(/root/lua/update_content.lua)
content_by_lua_file /usr/local/server/lua65/update_content.lua;
}
}
}