Openresty(二十二)ngx.balance和balance_by_lua终结篇

已于 2023-09-18 22:04:41 修改
阅读量1k 收藏
点赞数 1
分类专栏： Openresty 文章标签： openresty 灰度发布
于 2023-09-18 20:58:24 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wzj_110/article/details/132939891
版权

一  灰度发布铺垫

①  init_by_lua*

init_by_lua   

init_by_lua_block

特点: 在openresty 'start'、'reload'、'restart'时执行,属于'master init' 阶段

机制： nginx 'master' 主进程'加载配置文件'时，运行全局Lua VM级别上的参数指定的'Lua代码'

场景： 想对于应用'做一次全局性'的初始化

案例1： init阶段'已经加载'的模块会放在'package.loaded'中,供'后续阶段'直接使用

备注： 在'初始化时'候加载过了,已经在 package.loaded '表'里

案例2： ' lua_shared_dict' 和 'ngx.shared'的'set、get'方法结合使用

  

当配置重载时,init_by_lua* 不会清空其内的lua_shared_dict共享数据

注意事项： 只能使用'print'、'ngx.log' API 和 'lua_shared_dict' 指令

推荐： 在'init_by_lua'中调用'require()'来加载自己的模块文件

特点： 

 1) require()会在全局Lua注册的'package.loaded表'中缓存Lua模块

 2) 所以在'整个Lua虚拟机实例中'你的模块将'只会加载一次'

补充： 'init_by_lua*'中master进程'执行'lua代码

案例3： 阻塞'I/O'调,执行'shell'命令  --> '特殊场景'

 1、在这个'上下文'中,你可以保守使用'lua库'完成阻塞I/O调用

 2、因为在'master进程'的阻塞调用在服务的启动过程中是完全'没问题'的

 3、进一步说在'配置加载'阶段,Nginx核心就是'阻塞 I/O 方式'处理的

场景： 采用在'init阶段'调用'shell'命令

lua执行系统命令方法os.execute和io.popen      init_by_lua_file不能连接redis

注意： 此处的'content'是'字符串',需要自己重新解析成字典,可以存入变量,也可以存在共享内存中

init_by_lua_file 

说明： '推荐'使用'init_by_lua_file'

②  init_worker_by_lua*

说明： ​官方对'init_worker_by_lua*'并没有'API'的限制

init_worker_by_lua

init_worker_by_lua_block

1、在'每个'nginx worker进程启动时调用'指定'的lua代码

2、用于启动一些'定时'任务：比如'心跳'检查，定时'拉取'服务器配置等等

强调：此处的任务是'跟Worker进程数量'有关系的,不要'重复'了,那么如何'避免'重复呢?

 ngx.worker.id判断某个worker进行初始化

说明： 使用ngx.timer可以'突破' init_worker_by_lua 中'不能使用 cosocket' 的限制

如何在 init_worker_by_lua 阶段连接redis/mysql/dns    redis连接池封装

③   lua_shared_dict

④   ngx.shared.DICT

ngx.shared共享内存操作

二   灰度发布案例

建议： 配置'指令'和'代码'解耦,这里暂时'不讲究'了

①  业务流程图

canary  --> gray  --> '灰度'

LBM： 做'配置下发'的时候,UI侧会有一个'gray灰度'开关按钮,在upstream生成对应的'代码'片段

形如：

  upstream {
     server 127.0.0.1:80;
     balance_by_lua 'lua/gray.lua'
  }

备注： 这里暂时'不讨论 upstream{}'内的健康检查
​
再次强调： 同一个'schema'集群内选举灰度节点,也即'集群内'灰度引流,而不是'集群间'引流

补充： 

 1、一般会将'灰度策略'先写入'DB',例如'mysql'中

 2、利用'bgr灰度插件'解析从'redis'拉取的'灰度'策略,返回'灰度节点'信息

 3、init_worker_by*的'功能'

  1) 从'redis'中拿灰度策略,放到'ngx.shared本地缓存'中

  2) 启动定时任务,定时'异步'拉取'灰度'策略

②  相关参考

openresty+Lua+Redis灰度发布     高性能软件负载OpenResty整合Reids集群配置

关于openresty的全局初始化问题   基于openresty/lua-resty-redis 二次封装的工具库

Lua Redis 使用   Java Redis 预热数据    openresty定时任务    限制定时任务耗尽资源

k8s灰度发布

+++++++++++++ "题外话" +++++++++++++

1、一般会'将nginx的配置信息'写到'数据库'中,然后通过nginx+consul-template 做'配置渲染'

假定： mysql中的 'region'、'集群名'能唯一的决定一个'集群'的配置信息

附加： 其中'upstream_id'是其一个'field'字段

2、利用每个'upstream_id'的schmea的'不能'重复的特性

应用： 根据'upstream_id'获取'后端服务器'列表

补充： 后端服务器列表的信息在'对应服务配置'注册LB,做'配置下发'的时候已经'写入'数据库

③  代码雏形1

说明： 通过'init_worker_by_block' + 'ngx.timer.every' 实现定时'拉取'redis配置数据

实现： 管理面将策略'下发'到redis后,openresty '定时[5min]'从redis中'拉取'数据  

遗留： redis'资源池'如何'复用'?

nacos能实现'灰度发布'吗?

灰度用户请求中'打上'标签： 'gray=true'

④  灰度策略管理面

说明： 一般会通过'UI'将策略下发到'redis'中,这里我们'模拟'手动将'key'写到缓存数据库中

关键： redis 'key' 组成,一般会通过':'分割,分割的'每一个字段'都是一个'维度'特征信息

模拟'key'： 这里'假定'key是'uuid:ip'形式,讲解一种'简单'的形式,key的'组成'反映'特征'形式

常见： $upstream_id:$tenant  --> 保证这个'key'的唯一性

模拟'value': 'ip:port'形式,要'与'upstream关联[存储在'mysql'中],选取'某个server 节点'

补充： 业界喜欢称一个'upstream'为一个'schema'

后续设计： UI侧可以设置'多种灰度特征策略',然后选取'灰度'节点信息

也即： 在'后台管理系统中'添加'ip'、'用户名'灰度白名单后

+++++++++++++++  "典型案例"  +++++++++++++++

灰度策略配置'UI'侧设计：

 1、'region'、'集群名称'、LB类型 进行 '灰度'策略的下发

 2、对应'server'块的'域名'、'端口'、'location'信息

OpenResty的Redis模块踩坑记录   openresty操作redis,null处理    redis连接池

1、'遍历'key

2、key的'设计',到底是'hash'结构,还是'其它'数据结构?

⑤   灰度机制

1、'优先'从'本地缓存'中去取

local cacheip = cache_ngx:get('gray_key')

2、本地缓存中'不存在',去'redis缓存服务中'去取,然后加载到'本地'缓存

检查'redis缓存中的键'是否存在 --> if redis_client.exists(key):

if cacheip == "" or cacheip == nil or cacheip == ngx.null then

3、通过本地'ngx.shared 一级'缓存 和 redis'二级'缓存

高并发灰度策略    小破站诡异0问题    openresty最佳实践   灰度发布

⑥  代码雏形2

细节： balance_by_lua 会 '忽略' upstream中的'server'配置


用到的'两个'指令: ​​access_by_lua_file 和 ​​balancer_by_lua_file

 1、在'前一个指令'中获取'租户'信息选择'灰度'节点;

 2、在'第二个指令'中根据获取的信息'执行'负载均衡,进行'转发';

不依赖于balance_by_lua实现灰度发布

# 另外一种方式  --> 这种'不依赖'于'balance_by_lua'做判断

upstream  default_route {
   ...
}

location /gray {	
	set $backend 'default_route';
    rewrite_by_lua_file   'lua/gray.lua';  # 获取灰度节点的'逻辑'
	proxy_pass http://$backend;			
}	

强调： 如果使用 'content_by_lua' 这个命令,就'无法'在进行'proxy_pass'了,会'冲突'

openresty实现灰度发布 

利用 proxy_pass 及lua指令 set_by_lua 动态修改当前 upstream 变量实现灰度发布

ngx_balancer.set_more_tries设置不生效,导致无限重试

OpenResty balancer_by_lua负载均衡原理解析    Openresty专栏     跨域

OpenResty火焰图性能分析工具安装     Nginx调试工具Coredump    Lua性能优化

⑦   lua/gray.lua 灰度插件

考虑： 如果'不是灰度白名单',则要使用原来的'负载均衡'策略

--> '如何解决呢?' --> '重点'

最佳实践： 自定义'负载均衡'算法

引申：在'配置'注册的阶段,如果使用'灰度'策略,那么后续如何'取消'呢?

⑧  lua/gray_access.lua  灰度策略命中

重点： 从redis读取'租户'信息,如果有就'存'到 ​​ngx.ctx​​ 中

-- 太'累'了,九不往这里贴代码了,后续有时间再补充

⑨   测试

思考：用户如何将用户'特征'信息传递过来? --> 'request Header'、'查询参数'

⑩  题外话

local http = require("resty.http")  -->  http'相关'模块

深入理解ngx.log

 lua_code_cache

openresty 项目问题汇总

nginx主动加载配置文件

openresty性能对比 

lua_load_resty_core on|off

自v0.10.16版本起'该指令'就在本模块'失效'了

当前resty.core模块会在'Lua VM初始化'的时候被'强制加载',不需要再显示'require'加载

lua + nginx可以'作为网关'进行 '限流'、'流控'和'多级缓存'使用
wzj_110
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
利用 openresty balancer_by_lua 实现一个简单的 ip_hash upstream 调度
奋斗中拥有
08-16 1万+
以下基于 OpenResty balancer_by_lua 配置指令, 利用 ngx.crc32_long 根据源地址与目的端口生成hash， 实现一个简单的 ip_hash upstream. 仅供参考  upstream backend{ server 0.0.0.0; balancer_by_lua_block { local balancer = req
用lua 实现一个 nginx 负载均衡
weixin_33725272的博客
06-07 2117
2019独角兽企业重金招聘Python工程师标准>>> ...
lua-resty-balancer:OpenRestyLua的通用一致哈希实现
05-28
名称 lua-resty-chash-OpenResty / LuaJIT的通用一致性哈希实现 lua-resty-roundrobin-OpenResty / LuaJIT的通用roundrobin实现 目录 表现 作者 版权和许可 也可以看看 地位 该库仍处于早期开发阶段，并且仍处于试验阶段。 描述 这个Lua库可以与balancer_by_lua*一起使用。 概要 lua_package_path " /path/to/lua-resty-chash/lib/?.lua;; " ; lua_package_cpath " /path/to/lua-resty-chash/?.so;; " ; init_by_lua_block { local resty_chash = require " resty.chash " lo
OpenResty使用Lua大全（八）OpenResty执行流程与阶段详解
最新发布
秃了也弱了
03-18 1903
之前也介绍过。语境：http阶段：loading-config当nginx master进程在加载nginx配置文件时运行指定的lua脚本，语境：http阶段：starting-worker在每个nginx worker进程启动时调用指定的lua代码。用于启动一些定时任务，比如心跳检查，定时拉取服务器配置等等；此处的任务是跟Worker进程数量有关系的，比如有2个Worker进程那么就会启动两个完全一样的定时任务。
Openresty(二十一)ngx.balance和balance_by_lua灰度发布
wzj_110的博客
09-16 811
每个worker有自己单独的VM。openresty实现灰度发布。方案选项 redis +回顾HTTP反向代理流程。
使用balancer_by_lua_block做应用层负载均衡
TimzzZ的博客
09-27 1万+
首先感谢章义春大神的openresty，解决了web开发的一些痛点并简化了web开发的复杂度。 需求： 根据url的一个参数，做负载均衡，使得某一个用户总是被分配到固定的业务服务器上处理，方便后续的业务处理，做缓存或单元化架构部署 假设这个参数为dvid，一共有两个业务服务器, 8088端口和8089端口，分别返回hello和world[html] view plain copy print?ser
使用Nginx实现HTTP动态负载均衡—《亿级流量网站架构核心技术》
java的平凡之路
03-29 8384
Nginx负载均衡与反向代理—《亿级流量网站架构核心技术》中的负载均衡实现中，每次upstream列表有变更，都需要到服务器进行修改，首先是管理容易出现问题，而且对于upstream服务上线无法自动注册到Nginx upstream列表。因此，我们需要一种服务注册，可以将upstream动态注册到Nginx上，从而实现upstream服务的自动发现。 　　Consul是一款开源的分布式服务注
ngx_devel_kit-0.3.0
07-18
ngx_devel_kit-0.3.0
Openresty_For_Windows_1.7.10.zip
11-30
OpenResty 是一个通过扩展 nginx 的快速 Web 应用服务器。 Nginx Openresty For Windows (NOW) 是带有 Openresty 的 Windows 版本中的 Nginx。 它有一些特点： 高性能 并发两万多个连接 多进程 支持共享内存 支持...
lua-resty-http：用于OpenResty ngx_lua的Lua HTTP客户端cosocket驱动程序
02-03
lua-resty-http：用于OpenResty ngx_lua的Lua HTTP客户端cosocket驱动程序
docker_lua_openresty.rar
07-02
含有 Docker 以 Centos 封装 OpenResty (Nginx lua) 的文件. lua-5.1.tar.gz lua-5.3.5.tar.gz luarocks-3.3.1.tar.gz openresty-1.15.8.3.tar.gz lua-cjson-2.1.0-1.src.rock lua-resty-mysql-0.15-0.rockspec 等.
ngx_openresty_lua_技术交流实践
10-16
ngx_openresty_lua_技术交流实践，仅供参考学习交流OpenResty
Openresty 动态2017.8
orangleliu 笔记本
08-27 2441
8.27agentzh:Mashape 公司最近赞助了我们 OpenResty Inc 公司把 ngx_stream_lua 模块重写了一遍。现在我们迁移到了 nginx 1.13.3 核心的新的 stream 子系统上面，现在 Lua 驱动的 nginx TCP 服务器也支持 nginx 变量等更多特性了。GitHub 仓库地址是：https://github.com/openresty/stre
nginx与lua的执行顺序和步骤说明
热门推荐
wlgy123的专栏
11-13 2万+
nginx与lua的执行顺序和步骤说明 转载由：http://www.mrhaoting.com/?p=157#comment-588 一、nginx执行步骤 nginx在处理每一个用户请求时，都是按照若干个不同的阶段依次处理的，与配置文件上的顺序没有关系，详细内容可以阅读《深入理解nginx:模块开发与架构解析》这本书，这里只做简单介绍； 1、post-read 读取请求内容阶
openresty源码剖析——lua代码的加载
zhaohongyan6的博客
04-28 2063
##Openresty是什么 OpenResty是一个基于 Nginx 与 Lua 的高性能 Web 平台,通过把lua嵌入到Nginx中，使得我们可以用轻巧的lua语言进行nginx的相关开发，处理高并发，扩展性极高的动态 Web 应用、Web 服务和动态网关。     大家知道lua_code_cache 开关用于控制是否缓存*_by_lua_file对应的文件里的lu
一种openresty在init_by_lua_file阶段读取redis到共享内存的方法
zhiyuan_2007的专栏
07-08 1万+
前提：         关于 openresty 或者 ngx_lua 请参考：http://openresty.org/en/ 问题：         使用openresty读取redis内的数据时，在init_by_lua_file中是不能连接redis的，所以有时候只能在rewrite或者access阶段读取redis数据，用什么办法在初始化阶段读取呢？ 解决办法： 采用在init
openresty之 ngx-lua 指令详解
stefan1240的专栏
02-26 1808
一、指令顺序 nginx配置文件中执行lua语句是通过指令来识别的，lua指令执行顺序如下：
第四章 Lua模块开发
jinnianshilongnian的专栏
02-27 322
在实际开发中，不可能把所有代码写到一个大而全的lua文件中，需要进行分模块开发；而且模块化是高性能Lua应用的关键。使用require第一次导入模块后，所有Nginx 进程全局共享模块的数据和代码，每个Worker进程需要时会得到此模块的一个副本（Copy-On-Write），即模块可以认为是每Worker进程共享而不是每Nginx Server共享；另外注意之前我们使用init_by_lua...
rewrite_by_lua_file 传参
09-16
### 回答1： 在使用 `rewrite_by_lua_file` 指令时，可以通过 `ngx.req.set_uri_args` 函数将参数作为 URI 参数传递给 Lua 脚本。例如： ``` location /test { rewrite_by_lua_file /path/to/lua/script.lua; } ``` 在 Lua 脚本中，可以通过 `ngx.req.get_uri_args()` 获取 URI 参数。例如： ```lua local args = ngx.req.get_uri_args() local foo = args["foo"] local bar = args["bar"] ``` 如果需要在 `rewrite_by_lua_file` 指令中传递其他参数，可以使用 Lua 全局变量或者 `ngx.ctx` 共享数据。例如： ```lua -- 使用全局变量传递参数 my_var = "hello" -- 在 Lua 脚本中使用 my_var 变量 -- 使用 ngx.ctx 共享数据传递参数 ngx.ctx.my_var = "hello" -- 在 Lua 脚本中使用 ngx.ctx.my_var 变量 ``` 需要注意的是，`rewrite_by_lua_file` 指令在处理请求时会阻塞 Nginx worker 进程，因此应该尽量避免使用复杂的 Lua 代码或者进行耗时操作。 ### 回答2： 在openresty中，通过rewrite_by_lua_file命令可以在nginx的rewrite阶段引入Lua脚本文件来执行自定义的重写逻辑。而rewrite_by_lua_file还支持传递参数给Lua脚本。 要在Lua脚本中接收传递的参数，可以通过ngx.arg变量来获取。ngx.arg变量是一个table数据结构，其中包括两个字段，一个是request_args，另一个是uri_args。 request_args用于获取通过rewrite指令传递的参数，uri_args用于获取URI中的参数。 我们可以使用下列示例代码来说明： ``` -- nginx配置文件中的rewrite指令 location /rewrite { rewrite_by_lua_file /path/to/lua_script.lua?param1=value1&param2=value2; } ``` ``` -- lua_script.lua -- 获取rewrite指令中通过传参传递的参数 local request_args = ngx.arg.request_args ngx.say("通过rewrite传递的参数：", request_args) -- 输出：param1=value1&param2=value2 -- 获取URI中的参数 local uri_args = ngx.arg.uri_args ngx.say("URI中的参数：", uri_args) -- 输出：空 ``` 在这个示例中，通过rewrite指令传递了两个参数param1和param2，它们的值分别为value1和value2。在Lua脚本中，我们可以使用ngx.arg.request_args来获取通过rewrite指令传递的参数。 至于获取URI中的参数，则需要使用ngx.arg.uri_args方法来获取。但是在此示例中，我们没有在URI中传递参数，因此获取到的uri_args为空。 需要注意的是，在使用rewrite_by_lua_file命令时，如果要传递多个参数，可以通过使用&符号来分隔不同的参数。同时也需要注意对传递的参数进行URL编码，以避免出现特殊字符导致的错误。 总之，rewrite_by_lua_file命令可以传递参数给Lua脚本，并且可以使用ngx.arg来获取这些参数。 ### 回答3： 在OpenResty框架中，rewrite_by_lua_file是一个指令，用于通过Lua脚本对请求进行重写。它允许我们在Nginx的请求重写阶段使用Lua脚本来动态地改变请求的URI、请求头、请求方法等。 但是，rewrite_by_lua_file指令本身并不直接支持传递参数给Lua脚本。所以，我们需要通过其他方法来实现传参。 一种常见的方法是使用ngx.var变量。我们可以在Nginx配置文件中定义变量，然后在Lua脚本中读取这些变量以获取参数的值。例如： 在Nginx配置文件中： ``` location /example { set $my_param "hello"; rewrite_by_lua_file /path/to/lua_script.lua; } ``` 在Lua脚本中： ```lua local param = ngx.var.my_param ``` 通过这种方式，我们可以将参数值传递给Lua脚本进行处理。 另外，我们还可以使用ngx.req.set_uri_args方法来传递URL参数给Lua脚本。例如： 在Nginx配置文件中： ``` location /example { rewrite_by_lua_file /path/to/lua_script.lua; } ``` 在Lua脚本中： ```lua local args = ngx.req.get_uri_args() local param1 = args.param1 local param2 = args.param2 ``` 这样，我们可以在URL中传递参数，然后在Lua脚本中通过ngx.req.get_uri_args方法获取这些参数的值。 综上所述，虽然rewrite_by_lua_file指令本身不直接支持传参，但我们可以通过定义变量、使用ngx.req.get_uri_args等方法来实现传参给Lua脚本的功能。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值