supervisor需要用到的技术
1. nginx反向代理
2. nginx负载均衡
3. uwsgi
4. supervisor
5. virtualenv
安装nginx
详情参考 https://www.cnblogs.com/594504110python/p/10077464.html
安装mysql
详情参考 https://www.cnblogs.com/594504110python/p/10070751.html
准备一个python虚拟环境
详情参考 https://www.cnblogs.com/594504110python/p/10059374.html
https://www.cnblogs.com/594504110python/p/10060602.html
上传项目
简单使用xftp或lrzsz将项目上传至ESC(我用的是阿里云)
我写了一个CRM系统, 就一这个项目为例, 来做项目发布
项目环境(模块)准备
在项目的原始环境中收集项目中所用的模块
C:\Users\SATH>pip freeze > install.py # 会将所有的模块及模块版本写入install.py中
将install.py也上传至服务器,
在服务器中根据install.py去准备环境
pip3 install -r install.py
测试模块是否安装成功, 验证代码的完整性
在虚拟环境中直接runserver, 运行Django项目
[root@16:54 /project/CRM]# workon crm # 进入到虚拟环境 (crm) [root@16:55 /project/CRM]# python3 manage.py runserver 0.0.0.0:8888 启动Django
wsgi介绍
WSGI是Web服务器网关接口。它是一个规范,描述了Web服务器如何与Web应用程序通信,以及Web应用程序如何链接在一起以处理一个请求,(接收请求,处理请求,响应请求) 基于wsgi运行的框架有bottle,DJango,Flask,用于解析动态HTTP请求 支持WSGI的服务器 wsgiref python自带的web服务器 Gunicorn 用于linux的 python wsgi Http服务器,常用于各种django,flask结合部署服务器。 mode_wsgi 实现了Apache与wsgi应用程序的结合 uWSGI C语言开发,快速,自我修复,开发人员友好的WSGI服务器,用于Python Web应用程序的专业部署和开发。 在部署python程序web应用程序时,可以根据性能的需求,选择合适的wsgi server,不同的wsgi server区别在于并发支持上,有单线程,多进程,多线程,协程的区别,其功能还是近似,无非是请求路由,执行对应的函数,返回处理结果。 Django部署 Django的主要部署平台是 WSGI,这是用于Web服务器和应用程序的Python标准。 Django的 startproject管理命令设置一个简单的默认WSGI配置,可以根据需要为您的项目进行调整,并指示任何符合WSGI的应用程序服务器使用。 application 使用WSGI部署的关键概念是应用程序服务器用于与代码通信的 application 可调用。它通常在服务器可访问的Python模块中作为名为 application 的对象提供。 startproject 命令创建包含这样的 application 可调用的文件 <project_name>/wsgi.py. ,它被Django的开发服务器和生产WSGI部署使用。 WSGI服务器从其配置中获取 application 可调用的路径。 Django的内置服务器,即 runserver 命令,从 WSGI_APPLICATION 设置读取它。
为什么要用nginx+uwsgi
1 首先nginx 是对外的服务接口,外部浏览器通过url访问nginx, 2nginx 接收到浏览器发送过来的http请求,将包进行解析,分析url,如果是静态文件请求就直接访问用户给nginx配置的静态文件目录,直接返回用户请求的静态文件, 如果不是静态文件,而是一个动态的请求,那么nginx就将请求转发给uwsgi,uwsgi 接收到请求之后将包进行处理,处理成wsgi可以接受的格式,并发给wsgi,wsgi 根据请求调用应用程序的某个文件,某个文件的某个函数,最后处理完将返回值再次交给wsgi,wsgi将返回值进行打包,打包成uwsgi能够接收的格式,uwsgi接收wsgi 发送的请求,并转发给nginx,nginx最终将返回值返回给浏览器。 3要知道第一级的nginx并不是必须的,uwsgi完全可以完成整个的和浏览器交互的流程,但是要考虑到某些情况 1 安全问题,程序不能直接被浏览器访问到,而是通过nginx,nginx只开放某个接口,uwsgi本身是内网接口,这样运维人员在nginx上加上安全性的限制,可以达到保护程序的作用。 2负载均衡问题,一个uwsgi很可能不够用,即使开了多个work也是不行,毕竟一台机器的cpu和内存都是有限的,有了nginx做代理,一个nginx可以代理多台uwsgi完成uwsgi的负载均衡。 3静态文件问题,用django或是uwsgi这种东西来负责静态文件的处理是很浪费的行为,而且他们本身对文件的处理也不如nginx好,所以整个静态文件的处理都直接由nginx完成,静态文件的访问完全不去经过uwsgi以及其后面的东西。
nginx和uwsgi的拟人化交互过程
Nginx:hello wsgi,我刚收到一个请求,你准备下然后让django来处理吧
WSGI:好的nginx,我马上设置环境变量,然后把请求交给django
Django:谢谢WSGI,我处理完请求马上给你响应结果
WSGI:好的,我在等着
Django:搞定啦,麻烦wsgi吧响应结果传递给nginx
WSGI:太棒了,nginx,响应结果请收好,已经按照要求传递给你了
nginx:好滴。我把响应交给用户。合作愉快
下载,安装uwsgi
(crm) [root@17:11 /project/CRM/superCRM/views]# pip3 install uwsgi
使用uwsgi来跑一个小demo测试
先来写一个函数来处理请求
(crm) [root@nginx-lb 01:46 /opt/env]# cat ./test.py def application(env, start_response): start_response('200 OK', [('Content-Type','text/html')]) return [b"Hello World"] # python3
使用uwsgi启动这个web程序
(crm) [root@nginx-lb 01:47 /opt/env]# uwsgi --http :8000 --wsgi-file ./test.py 启动命令
参数介绍:
--http: 使用的协议
:8000: ip+poet, 默认ip是本机地址
--wsgi-file: 执行的程序文件
启动结果
*** Starting uWSGI 2.0.17.1 (64bit) on [Tue Dec 11 01:49:14 2018] *** compiled with version: 4.8.5 20150623 (Red Hat 4.8.5-36) on 10 December 2018 17:36:33 os: Linux-3.10.0-862.el7.x86_64 #1 SMP Fri Apr 20 16:44:24 UTC 2018 nodename: nginx-lb machine: x86_64 clock source: unix pcre jit disabled detected number of CPU cores: 1 current working directory: /opt/env detected binary path: /root/Envs/crm/bin/uwsgi uWSGI running as root, you can use --uid/--gid/--chroot options *** WARNING: you are running uWSGI as root !!! (use the --uid flag) *** *** WARNING: you are running uWSGI without its master process manager *** your processes number limit is 1796 your memory page size is 4096 bytes detected max file descriptor number: 1024 lock engine: pthread robust mutexes thunder lock: disabled (you can enable it with --thunder-lock) uWSGI http bound on :8000 fd 4 spawned uWSGI http 1 (pid: 2141) uwsgi socket 0 bound to TCP address 127.0.0.1:43040 (port auto-assigned) fd 3 uWSGI running as root, you can use --uid/--gid/--chroot options *** WARNING: you are running uWSGI as root !!! (use the --uid flag) *** Python version: 3.6.5 (default, Nov 29 2018, 02:50:43) [GCC 4.8.5 20150623 (Red Hat 4.8.5-28)] *** Python threads support is disabled. You can enable it with --enable-threads *** Python main interpreter initialized at 0x15e3ba0 uWSGI running as root, you can use --uid/--gid/--chroot options *** WARNING: you are running uWSGI as root !!! (use the --uid flag) *** your server socket listen backlog is limited to 100 connections your mercy for graceful operations on workers is 60 seconds mapped 72920 bytes (71 KB) for 1 cores *** Operational MODE: single process *** WSGI app 0 (mountpoint='') ready in 0 seconds on interpreter 0x15e3ba0 pid: 2140 (default app) uWSGI running as root, you can use --uid/--gid/--chroot options *** WARNING: you are running uWSGI as root !!! (use the --uid flag) *** *** uWSGI is running in multiple interpreter mode ***
访问结果
uWsgi热加载python程序
热加载也就是在程序代码发生改变后, 自动重启程序
在启动命令后面加上参数
uwsgi --http :8088 --module mysite.wsgi --py-autoreload=1
使用uwsgi启动一个Django项目
uwsgi --http :8888 --module crm.wsgi --py-autoreload=1 --module: 其实是指定一个application 在crm的wsgi.py文件中是这样写的 os.environ.setdefault("DJANGO_SETTINGS_MODULE", "CRM.settings") application = get_wsgi_application() 其实uwsgi需要的是一个application 对象
使用uwsgi的配置文件方式启动一个项目
手动创建一个uwsgi.ini文件
(crm) [root@nginx-lb 02:19 /opt/env/CRM]# cat uwsgi.ini [uwsgi] #项目的绝对路径,定位到项目的第一层 chdir = /opt/env/CRM #指明项目中的wsgi文件路径, 上面已经指定了项目的根目录, 所以这里使用相对路径即可, 注意使用的是 . 而不是 / module = CRM.wsgi #指明你的虚拟解释器的第一层路径 home = /root/Envs/crm #指明通过uwsgi,启动多少个进程 processes = 1 #非常重要 #非常重要 #非常重要 #如果你已经配置了nginx(启动了nginx服务,配置了uwsgi_pass),请用这个socket连接, nginx在指定web服务器时纪要指定这个地址 #socket = 0.0.0.0:8000 #如果你没用nginx,想通过uwsgi直接启动web服务,指明http协议 http = 0.0.0.0:9999 #在退出uwsgi环境后,清空环境变量 vacuum = true
使用配置文件启动项目
看到了一个非常丑的页面, 不是因为我没写, 而是因为uwsgi不会解析Django的静态文件, 后面会吧这个静态文件放到nginx上, 还有一点
在项目的settings.py中DEBUG=True默认为True, 当静态文件还在应用服务器上的时候, 改为False也会到时静态文件请求不到的情况
(crm) [root@nginx-lb 02:27 /opt/env/CRM]# uwsgi --ini uwsgi.ini
这样就是用uwsgi启动了一个django项目
收集项目中的静态文件
上面说了静态文件在经过uwsgi后应用服务器上的静态文件是不能别解析的, 所以我问就需要将静态文件从应用服务器转移到nginx上
nginx处理静态文件这是一个很好的选择
先收集应用服务器中的静态文件, django提供了这样的功能, 只需要在配置文件中去添加以下配置
这个配置的意思其实就是指定收集的静态文件放在这个目录下
然后执行以下命令去收集
python3 manage.py collectstatic
配置nginx反向代理, 接受静态请求
配置nginx.conf
worker_processes 1; events { worker_connections 1024; } http { include mime.types; sendfile on; keepalive_timeout 65; upstream test { # 负载均衡池 server 127.0.0.1:8000; # 这个地址就是uwsgi.ini文件中socket配置的ip+port } server { listen 80; server_name localhost; location / { uwsgi_pass test; # 指定负载均衡池 include /opt/nginx1-12/conf/uwsgi_params; # 要指定一个uwsgi的配置文件, nginx有一个默认的, 见下图 } location /static { # 负责处理静态文件的请求 alias /opt/static; } } }
测试
现在的情况是动态请求nginx返回给django, 静态请求nginx自己就能够处理
静态资源也能加载出来了
看下我的页面吧, 当~当~当~
使用supervisor管理uwsgi
supervisor 是基于 python 的任务管理工具,用来自动运行各种后台任务,当然你也能直接利用 nohup 命令使任务自动后台运行,但如果要重启任务,每次都自己手动 kill 掉任务进程,这样很繁琐,而且一旦程序错误导致进程退出的话,系统也无法自动重载任务。
由于supervisor在python3下无法使用,因此只能用python2去下载!!!!!!
#注意此时已经退出虚拟环境了!!!!! yum install python-setuptools easy_install supervisor
生成默认的配置文件
配置文件解释
supervisord.conf配置文件参数解释 [program:xx]是被管理的进程配置参数,xx是进程的名称 [program:xx] command=/opt/apache-tomcat-8.0.35/bin/catalina.sh run ; 程序启动命令 autostart=true ; 在supervisord启动的时候也自动启动 startsecs=10 ; 启动10秒后没有异常退出,就表示进程正常启动了,默认为1秒 autorestart=true ; 程序退出后自动重启,可选值:[unexpected,true,false],默认为unexpected,表示进程意外杀死后才重启 startretries=3 ; 启动失败自动重试次数,默认是3 user=tomcat ; 用哪个用户启动进程,默认是root priority=999 ; 进程启动优先级,默认999,值小的优先启动 redirect_stderr=true ; 把stderr重定向到stdout,默认false stdout_logfile_maxbytes=20MB ; stdout 日志文件大小,默认50MB stdout_logfile_backups = 20 ; stdout 日志文件备份数,默认是10 ; stdout 日志文件,需要注意当指定目录不存在时无法正常启动,所以需要手动创建目录(supervisord 会自动创建日志文件) stdout_logfile=/opt/apache-tomcat-8.0.35/logs/catalina.out stopasgroup=false ;默认为false,进程被杀死时,是否向这个进程组发送stop信号,包括子进程 killasgroup=false ;默认为false,向进程组发送kill信号,包括子进程
进入supervisord.conf在末尾添加如下配置
上面command前面的 # 号是不需要的, 删除即可, 否则会报错
使用supervisord来启动uwsgi
[root@nginx-lb 05:16 ~/pip-9.0.1]# supervisord -c /etc/supervisord.conf # 启动supervisord [root@nginx-lb 05:16 ~/pip-9.0.1]# supervisorctl # 进入supervisord交互式命令行 mydjango RUNNING pid 4358, uptime 0:00:07 supervisor>
supervisorctl常用的交互式操作
一、添加好配置文件后 二、更新新的配置到supervisord supervisorctl update
三、重新启动配置中的所有程序 supervisorctl reload
四、启动某个进程(program_name=你配置中写的程序名称) supervisorctl start program_name
五、查看正在守候的进程 supervisorctl
六、停止某一进程 (program_name=你配置中写的程序名称) pervisorctl stop program_name
七、重启某一进程 (program_name=你配置中写的程序名称) supervisorctl restart program_name
八、停止全部进程 supervisorctl stop all 注意:显示用stop停止掉的进程,用reload或者update都不会自动重启。