Celery （4）使用supervisor进程管理工具

supervisor介绍

supervisor是用Python开发的一个client/server服务，是Linux/Unix系统下的一个进程管理工具。可以很方便的监听、启动、停止、重启一个或多个进程。用supervisor管理的进程，当一个进程意外被杀死，supervisor监听到进程死后，会自动将它重启，很方便的做到进程自动恢复的功能，不再需要自己写shell脚本来控制。

安装

pip install supervisor

配置

安装好后，在我们项目根目录下创建一个文件夹 conf

mkdir conf 

然后我们supervisor的默认配置项定位到该目录下并将新配置文件命名为supervisord.conf

/usr/local/python3/bin/echo_supervisord_conf > conf/supervisord.conf

然后按照自己的需要去修改supervisord.conf配置文件

[unix_http_server]
file=/tmp/supervisor.sock   ;UNIX socket 文件，supervisorctl 会使用
;chmod=0700                 ;socket文件的mode，默认是0700
;chown=nobody:nogroup       ;socket文件的owner，格式：uid:gid
 
;[inet_http_server]         ;HTTP服务器，提供web管理界面
;port=127.0.0.1:9001        ;Web管理后台运行的IP和端口，如果开放到公网，需要注意安全性
;username=user              ;登录管理后台的用户名
;password=123               ;登录管理后台的密码
 
[supervisord]
logfile=/tmp/supervisord.log ;日志文件，默认是 $CWD/supervisord.log
logfile_maxbytes=50MB        ;日志文件大小，超出会rotate，默认 50MB，如果设成0，表示不限制大小
logfile_backups=10           ;日志文件保留备份数量默认10，设为0表示不备份
loglevel=info                ;日志级别，默认info，其它: debug,warn,trace
pidfile=/tmp/supervisord.pid ;pid 文件
nodaemon=false               ;是否在前台启动，默认是false，即以 daemon 的方式启动
minfds=1024                  ;可以打开的文件描述符的最小值，默认 1024
minprocs=200                 ;可以打开的进程数的最小值，默认 200
 
[supervisorctl]
serverurl=unix:///tmp/supervisor.sock ;通过UNIX socket连接supervisord，路径与unix_http_server部分的file一致
;serverurl=http://127.0.0.1:9001 ; 通过HTTP的方式连接supervisord
 
; [program:xx]是被管理的进程配置参数，xx是进程的名称
[program:xx]
command=/opt/apache-tomcat-8.0.35/bin/catalina.sh run  ; 程序启动命令
autostart=true       ; 在supervisord启动的时候也自动启动
startsecs=10         ; 启动10秒后没有异常退出，就表示进程正常启动了，默认为1秒
autorestart=true     ; 程序退出后自动重启,可选值：[unexpected,true,false]，默认为unexpected，表示进程意外杀死后才重启
startretries=3       ; 启动失败自动重试次数，默认是3
user=tomcat          ; 用哪个用户启动进程，默认是root
priority=999         ; 进程启动优先级，默认999，值小的优先启动
redirect_stderr=true ; 把stderr重定向到stdout，默认false
stdout_logfile_maxbytes=20MB  ; stdout 日志文件大小，默认50MB
stdout_logfile_backups = 20   ; stdout 日志文件备份数，默认是10
; stdout 日志文件，需要注意当指定目录不存在时无法正常启动，所以需要手动创建目录（supervisord 会自动创建日志文件）
stdout_logfile=/opt/apache-tomcat-8.0.35/logs/catalina.out
stopasgroup=false     ;默认为false,进程被杀死时，是否向这个进程组发送stop信号，包括子进程
killasgroup=false     ;默认为false，向进程组发送kill信号，包括子进程
 
;包含其它配置文件
[include]
files = relative/directory/*.ini    ;可以指定一个或多个以.ini结束的配置文件默认配置是制定*.ini，因个人习惯命名为*.conf文件

进程配置：
在conf目录下创建supervisor_celery_worker.ini文件，为celery worker配置一个进程

[program:ice-celery-worker]
command=python manage.py celery worker -l INFO   ;启动命令
director=/root/cel/celery_demo                   ;指定工作目录，即manage.py所在的目录
environment=PATH="/root/.local/share/virtualenvs/cel-l64ISTw0/bin/" ;指定环境目录
stdout_logfile=/root/cel/celery_demo/logs/celery.worker.log    ;指定日志文件
stdeer_logfile=/root/cel/celery_demo/logs/celery.worker.log    ;错误日志文件
autostart=true                 ;自动启动
autorestart=true               ;自动重启
startsecs=10
stopwaitsecs=60
priority=998                   ;优先级

启动supervisor，并指定配置文件

supervisord -c conf/supervisord.conf 

然后使用supervisorctl管理进程

supervisorctl 

我们看到worker进程已经在运行
输入help。 可以看到supervisorctl 所有持支的命令

同理，在conf下创建bea

在浏览器管理

配置好后，在浏览器访问9001端口，即可进入到管理界面。
我们可以看到刚才启动 ice-celery-worker进程

同上 在conf目录下再创建supervisor_celery_beat.ini文件和supervisor_celery_flower.ini文件，为celery beat和celery flower配置各配置一个进程

celery beat配置的文件

[program:ice-celery-beat]
command=python manage.py celery beat -l INFO   ;启动命令
director=/root/cel/celery_demo                   ;指定工作目录，即manage.py所在的目录
environment=PATH="/root/.local/share/virtualenvs/cel-l64ISTw0/bin/" ;指定环境目录
stdout_logfile=/root/cel/celery_demo/logs/celery.beat.log    ;指定日志文件
stdeer_logfile=/root/cel/celery_demo/logs/celery.beat.log    ;错误日志文件
autostart=true                 ;自动启动
autorestart=true               ;自动重启
startsecs=10
stopwaitsecs=60
priority=997                   ;优先级

celery flower配置的文件

[program:ice-celery-flower]
command=python manage.py celery flower -l INFO   ;启动命令
director=/root/cel/celery_demo                   ;指定工作目录，即manage.py所在的目录
environment=PATH="/root/.local/share/virtualenvs/cel-l64ISTw0/bin/" ;指定环境目录
stdout_logfile=/root/cel/celery_demo/logs/celery.flower.log    ;指定日志文件
stdeer_logfile=/root/cel/celery_demo/logs/celery.flower.log    ;错误日志文件
autostart=true                 ;自动启动
autorestart=true               ;自动重启
startsecs=10
stopwaitsecs=60
priority=996                   ;优先级

然后使用 supervisorctl 的update方法更新

常用命令介绍

常用命令介绍
supervisorctl 是 supervisord的命令行客户端工具

• supervisorctl status：查看所有进程的状态
• supervisorctl stop [program-name]：停止 [program-name]
• supervisorctl start [program-name]：启动 [program-name]
• supervisorctl restart [program-name]: 重启 [program-name]
• supervisorctl update ：配置文件修改后可以使用该命令加载新的配置
• supervisorctl reload: 重新启动配置中的所有程序
  把 [program-name]换成all 可以管理配置中的所有进程

直接输入：supervisorctl 进入supervisorctl 的shell交互界面，上面的命令不带supervisorctl 可直接使用