nginx+lua构建高性能web服务器

最新推荐文章于 2024-04-19 09:34:36 发布

chuzai1850

最新推荐文章于 2024-04-19 09:34:36 发布

阅读量397

点赞数

文章标签：运维 lua 后端

原文链接：https://my.oschina.net/heart200/blog/840266

版权

最近由于工作需要，对服务端进行研究细化学习，解决web服务器的痛点，经过提示最终确定用openresty来构建web服务器，利用lua本身的一些特性、轻量级。易扩展，解决网络阻塞，其实它本身就是一个web服务器，在这个基础上可以做很多定制需求，做反向代理、负载均衡，利用本身的第三方服务器解决一些性能的缺陷，提高网络的吞吐量，废话不多说，开始。

介绍：

OpenResty ™ 是一个基于 Nginx 与 Lua（让子弹飞，飞一样的感觉）的高性能 Web 平台，其内部集成了大量精良的 Lua 库、第三方模块以及大多数的依赖项。用于方便地搭建能够处理超高并发、扩展性极高的动态 Web 应用、Web 服务和动态网关。

OpenResty 通过汇聚各种设计精良的 Nginx 模块（主要由 OpenResty 团队自主开发），从而将 Nginx 有效地变成一个强大的通用 Web 应用平台。这样，Web 开发人员和系统工程师可以使用 Lua 脚本语言调动 Nginx 支持的各种 C 以及 Lua 模块，快速构造出足以胜任 10K 乃至 1000K 以上单机并发连接的高性能 Web 应用系统。

目标是让你的Web服务直接跑在 Nginx 服务内部，充分利用 Nginx 的非阻塞 I/O 模型，不仅仅对 HTTP 客户端请求,甚至于对远程后端诸如 MySQL、PostgreSQL、Memcached 以及 Redis 等都进行一致的高性能响应。

支持组件：

lua-resty-memcached

lua-resty-mysql

lua-resty-redis

lua-resty-dns

lua-resty-limit-traffic

lua-resty-template

还有很多，有兴趣可以到官网了解更多的组件。

openresty前提安装nginx和相关的服务：

(1、nginx 必须安装

其中依赖包有：pcre gcc openssl 必须安装，这些组件必须完全安装完以后才能安装openrestry即可。

注意：pcre 和openssl需要到官网下载自行编译安装 ./configure make && make install，后期可能会用到lua的组件安装方式。

（2.zlib安装安装

也可以用自行的安装方法进行：sudo apt-get install nginx 安装完成以后，查看ps -ef|grep nginx 查看服务是否启动。完成安装

(3、lua安装扩展： sudo apt-get install libreadline6 libreadline6-dev build-essential 注意如果安装5.1选择安装libreadline5即可

apt-get install libreadline-dev libncurses5-dev libpcre3-dev libssl-dev perl make build-essential

（4lua安装。确认已经安装和少年宫

特点：

nginx衍生版本，支持多组件支持，纯C编写

解决网络阻塞、跨平台调用

支持mysql、redis连接池应用

并发网络请求数据处理

根据需求自身服务架构定制自身需求，扩展lua组件开发

扩展组件安装，由于后续编译openresy需要用相关模块，不然会出现编译失败的问题，根据需要自行安装：
libreadline-dev libncurses5-dev libpcre3-dev libssl-dev perl build-essential gcc openssl

安装lua扩展组件,调用后端服务会用到lua模块：

curl -R -O http://www.lua.org/ftp/lua-5.1.0.tar.gz
tar zxf lua-5.3.0.tar.gz
cd lua-5.3.0
make linux test
make install

这里推荐用5.1，官方的版本也是用5.1做，低版本或高版本可能会引起不必要的编译问题导致安装出问题。

luajit安装：

wget http://luajit.org/download/LuaJIT-2.0.4.tar.gz
tar zxvf LuaJIT-2.0.4.tar.gz
cd LuaJIT-2.0.4
make && sudo make install

重点说明下：lua和luajit都是openresry需要编译运行lua环境的重要组件，缺一不可，后续会在配置nginx.conf中用到此模块，所以需要保证这两个模块正常安装上。nginx编译：

由于利用openresry需要用到ngx_devel_kit和lua-nginx-module的相关模块，此模块会在加载nginx同时load进去，所以需要自行下载安装重新编译：

wget https://github.com/simpl/ngx_devel_kit/archive/v0.3.0.tar.gz

wget https://github.com/openresty/lua-nginx-module/archive/v0.10.7.tar.gz

下载完成以后，找到一个需要放置的目录的，我的目录在：/usr/local下.

由于上面的是nginx的扩展lua支持的组件，需要重新编译nginx，可以根据需要重新编译nginx.

nginx -V查看nginx的扩展模块，没有的话就把这两个编译进去，加到扩展模块中，运行下面的命令：

./configure --prefix=/opt/openresty/nginx \ #nginx的安装路径

--add-module=/path/to/ngx_devel_kit \ #ngx_devel_kit 的源码路径
--add-module=/path/to/lua-nginx-module #nginx_lua_module 的源码路径

安装oepnresty：

wget https://openresty.org/download/openresty-1.11.2.1.tar.gz

tar -xzvf openresty-1.11.2.1.tar.gz
cd openresty-1.11.2.1.tar.gz
./configure --prefix=/opt/openresty \ ###指定安装openrestry的路径
--with-luajit \ ##安装的同事指定luajit扩展
--without-http_redis2_module \ 默认没有开启http_redis服务
--with-http_iconv_module \ #开启http_iconv组件服务
--with-http_postgres_module #开启post接受数据服务

此时openrestry安装完成，重启openrestry对应的nginx服务：

/opt/openresty/nginx/sbin/nginx -c /opt/openresty/nginx/conf/nginx.conf

查看nginx进程：

ps -aux|grep nginx

为了后期持续方便启动（修改lua配置会重复服务），建立软连接：
ln -s /opt/openresty/nginx/sbin/nginx /usr/sbin/nginx

=============================================================================[编辑]

本次主要涉及对nginx的截流说明，通过openrestry服务复用nginx改写req_limit模块和conn_limit模块。其中，openresty封装了luajit插件集成了limit_req和limit_conn的应用，我们可以很方便进行调用和规则重写机制，针对特定的请求做连接请求数限制和流量限制数。

两者的区别，针对限流需要用到的组件：

limit_req：通过令牌桶原理来限制用户的连接频率，提供请求的速率限制和调整的基础上的“漏桶”的方法。(这个模块允许你去限制单个地址指定会话或特殊需要的请求数 )

conn_limit：功能是限制一个客户端的并发连接数。(这个模块可以限制单个地址的指定会话或者特殊情况的并发连接数)，常用来做限制客户端并发连接数量。

limit.traffic：提供一个聚合器将多个实例的resty.limit.req或resty.limit.conn类，组合limit_req和conn_limit联合使用。

一个是限制并发连接，一个是限制连接频率，功能都能实现截流，在实现和表现方式上略有不同。

关于，连接和请求这里面有一个比较完整的解释，可以看下：

http://www.myhack58.com/Article/60/63/2014/50072.htm

应用过程中遇到的一个坑，就是每次nginx加载lua-resty-limit-traffic组件（此服务包含了req和conn的实现）会直接报500错误，经过排查知道官方的提供的对limit模块的加载扩展路径不正确，需要自行下载此插件或修改路径：

加载过程中默认的是：restry.limit.req，注意防止的路径：./oprestry/lualib/restry/limit这样才能加载进去，不会nginx会报错。

解决nginx加载req 500错误的方法：

将下载下来得lua-resty-limit-traffic解压。

tar -zxvf lua-resty-limit-traffic-xx.tar.gz

mv ./lua-resty-limit-traffic-xx/?/limit/* /opt/openresty/lualib 保持和openresty放在同一目录，加载lua框架会用到。

解决：上述nginx服务500的错误。

说明：

local limit_req = require "resty.limit.req" 对应引用restry中的限流模块中req服务.对应会找 ====》 /opt/openresty/lualib/resty/limit/req.lua

nginx.conf加载对应lualib扩展：

lua_package_path "/opt/openresty/lualib/?.lua;;";
lua_package_cpath "/opt/openresty/lualib/ ?.so;;";

加上以后重启nginx，如果没有报错验证加载成功，可以继续对当前服务做扩展。

nginx.conf加载截流配置

1.速率限制策略：

location /{
access_lua_block{
local limit_req = require "resty.limit.req"
-- 限制请求速率为200 req/sec，并且允许100 req/sec的突发请求
-- 就是说我们会把200以上300一下的请求请求给延迟
-- 超过300的请求将会被拒绝
local lim, err = limit_req.new("my_limit_req_store", 1, 1)
if not lim then --申请limit_req对象失败
ngx.log(ngx.ERR,
"failed to instantiate a resty.limit.req object: ", err)
return ngx.exit(500)
end
-- 下面代码针对每一个单独的请求
-- 使用ip地址作为限流的key
local key = ngx.var.binary_remote_addr
local delay, err = lim:incoming(key, true)
if not delay then
if err == "rejected" then
return ngx.exit(503)
end
ngx.log(ngx.ERR, "failed to limit req: ", err)
return ngx.exit(500)
end
if delay >= 0.001 then
local excess = err
ngx.sleep(delay)
end
}
}

2.锁限制访问频率：

ocal locks = require "resty.lock" --lock模块
local limit = 3 --限流大小，申请限流的大小
local function acquire()
if limit <= 0 then
return 0
end
local lock = locks:new("locks")
local elapsed, err = lock:lock("limit_key") --互斥锁
local limit_counter = ngx.shared.limit_counter #限流计数器
local key = "ip" .. os.time()
local current = limit_counter:get(key) #申请当前访问的key作为限流的根据去做验证
if current ~= nil and current + 1 > limit then #一旦如果超出限流大小
lock:unlock()
return 0
end
if current == nil then
limit_counter:set(key, 1, 1) --第一次需要设置过期时间，设置key的值为1，过期时间为1秒
else
limit_counter:incr(key, 1) --第二次开始递增加1
end
lock:unlock()
return 1
end