全文共3315字，预计学习时长19分钟
图源：boby
开发一个出色的机器学习模型是一件棘手的事，但即使开发完成也不意味着工作的结束。在部署之前，它仍然毫无用处，他人可以轻易访问。
部署模型的方法有很多，笔者想谈一种适用于基本MVP的非常简单的解决方案——使用Flask为模型编写API，将Gunicorn用于软件服务器，将Nginx用于网站服务器，并将其包装在Docker中，以便更轻松地在其他机器(特别是AWS和GCP)上进行部署。
设置服务器
笔者更喜欢用专门为此租用的服务器，而不是使用私人或工作硬件对新配置进行实验。这样，即使某些东西被严重损毁，也无关紧要。
因此笔者建议使用Linode，笔者本人就是用其来进行实验的，它们的硬件使用感不错。只要在Ubuntu18.04 LTS上，就可以随心所欲使用其他任何服务。
这一部分适合使用Linides的人借鉴。导航到Linodes，然后单击“添加Linode”。有些东西需要填写。在发行版中，笔者建议选择Ubuntu18.04 LTS映像：
· 该区域——靠近你的区域(笔者用的是法兰克福，德国)
· Linode计划——Nanode(每月仅需5美元，就需求而言足够了)
· 根密码——你的密码
然后单击“创建”。大约几分钟后，可以转到“网络”，在这里能找到有关通过SSH访问服务器的信息。
下一步应连接服务器，并创建具有sudo特权的非根用户。这个操作背后的逻辑相当简单：你不想在服务器上把所有东西都作为根运行，因为这样更容易损坏东西。
adduser usernameusermod -aG sudousername最终，切换到新用户。
su — username创建应用容器
整个系统配置分为两部分：应用程序容器(Flask +Gunicorn)和Web容器(Nginx Web服务器)。
图源：unsplash
步骤0——安装Docker和Docker Compose
Docker和Docker-compose安装非常简单，分别在4行和2行内就能完成。
步骤1——创建FlaskApp和WSGI入口点
在主目录中创建flask app目录，并将以下文件放入其中。
from flask importFlask server =Flask(__name__) @server.route('/') defhello_world(): return'hello world!'这是最基础的Flask应用，几乎没有任何功能，不用加载任何模型，不添加任何GET /POST请求和内容(这些将在下文出现)。现在，我们只有一个主页上显示着“ helloworld”的应用程序。
这部分极为简单——只需为Gunicorn创建一个在端口8000上运行的单独文件。
步骤2——为Flask创建一个Docker映像
现在，我们需要创建一个将运用这些文件的Dockerfile，并创建一个稍后能运行的映像。
FROM python:3.6.7 WORKDIRusr/src/flask_app COPYrequirements.txt . RUN pip install--no-cache-dir -r requirements.txt COPY . .对于不熟悉Docker的人而言，此脚本的功能如下:
· 导入Python 3.6.7图像
· 设置所有文件的工作目录
· 复制包含Flask、Gunicorn和运行Flask应用程序需要的所有其他文件的需求文件。
然后，通过RUN命令安装所有必要安装包，最后将所有文件从flaskdir复制到容器内的usrscrflask 应用程序中。现在只需将此文件放在相同的flask_app目录中，并添加requirements.txt即可。
flask gunicorn请记住，如果你对目录和内容感到困惑，只需在文章结尾处检查完整的项目结构，或访问GitHub存储库。
步骤3——创建Nginx文件
图源：unsplash
为运行Nginx，需要配置一些内容。但在迈出下一步之前，请在主目录内创建nginx目录(与flask_app处于同一级别)。之后，我们需要的第一个文件是nginx.conf，该文件几乎包含所有基本的Nginx信息和变量。
来看一个Nginx基本设置：
# Define the user that will own and run theNginx server user nginx; # Define the number of worker processes;recommended value is the number of # cores that are being used by yourserver worker_processes 1; # Define the location on the file systemof the error log, plus the minimum # severity to log messages for error_log /var/log/nginx/error.log warn; # Define the file that will store theprocess ID of the main NGINX process pid /var/run/nginx.pid; # events blockdefines the parameters that affect connection processing. events { # Define themaximum number of simultaneous connections that can be opened by a workerproce$ worker_connections 1024; } # http blockdefines the parameters for how NGINX should handle HTTP web traffic http { # Include thefile defining the list of file types that are supported by NGINX include /etc/nginx/mime.types; # Define thedefault file type that is returned to the user default_type text/html; # Define theformat of log messages. log_format main '$remote_addr - $remote_user [$time_local] "$request" ' '$status$body_bytes_sent "$http_referer" ' '"$http_user_agent" "$http_x_forwarded_for"'; # Define thelocation of the log of access attempts to NGINX access_log /var/log/nginx/access.log main; # Define theparameters to optimize the delivery of static content sendfile on; tcp_nopush on; tcp_nodelay on; # Define thetimeout value for keep-alive connections with the client keepalive_timeout 65; # Define the usageof the gzip compression algorithm to reduce the amount of data to transmit #gzip on; # Includeadditional parameters for virtual host(s)/server(s) include/etc/nginx/conf.d/*.conf; }第二个文件——特定应用程序的配置。想要做到这一点有两种比较普遍的方法：
1.在/ etc /nginx / sites-available / your_project中创建一个配置文件，然后创建到/ etc /nginx / sites-enabled / your_project的符号链接。
2.只需在主要Nginx目录中创建一个project.conf。下述为第二种方法。
server { listen 80; server_name docker_flask_gunicorn_nginx; location / { proxy_pass http://flask_app:8000; # Do not change this proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For$proxy_add_x_forwarded_for; } location /static { rewrite ^/static(.*) /$1 break; root /static; } }有几点需要注意：首先，请看一下listen80,该命令指定应用将在哪个端口运行。作为默认端口，我们选择80。其次，服务器名称。你可以指定从Linode获得的IP地址，也可以只使用docker映像名称。
最后，proxy pass命令，该命令应将Nginx配置指向flask项目。由于flask容器的名称为flask_app(将在后面介绍)，因此只须使用容器的名称以及Flask项目中指定的端口。
步骤4——为Nginx创建一个Docker映像
该特定Docker映像非常简单。与Flask一样，它仅包含5行，且仅执行2件事：
FROM nginx:1.15.8 RUN rm/etc/nginx/nginx.conf COPY nginx.conf/etc/nginx/ RUN rm/etc/nginx/conf.d/default.conf COPY project.conf/etc/nginx/conf.d/导入nginx图片，复制文件，并将其替换为默认文件。
步骤5——将Dockerfiles与docker-compose结合
现在已有2个Dockerfile：
· 一个用于Flask + Gunicorn
· 另一个用于Nginx。
现在是时候让它们交互，并运行整个系统了。为完成这一点，要用到docker-compose。我们只需要在主目录中创建docker-compose.yml文件。
version: '3' services: flask_app: container_name: flask_app restart: always build: ./flask_app ports: - "8000:8000" command: gunicorn -w 1 -b 0.0.0.0:8000 wsgi:server nginx: container_name: nginx restart: always build: ./nginx ports: - "80:80" depends_on: - flask_app为了解其工作原理，我们来处理几个重要问题：
首先，docker-compose分为2部分(2个服务)：flask_app和nginx。正如从以下几行中看到的那样——flask_app容器执行运行Flask应用程序的Gunicorn，并用1个工作程序将其转换为8000端口。
第二个容器仅在80端口上运行Nginx。另外，请注意depends_on部分，该部分命令docker-compose首先启动flask_app容器，然后才是——-nginx，因为这两个容器相互依赖。
图源：unsplash
此外，还应添加一件事，以便更轻松运行此Docker设置。那就是run_docker.sh文件。
echo killing old dockerprocesses docker-compose rm -fs echo building dockercontainers docker-compose up --build -d该设置只是简单地运行docker-compose，但首先要确保此时旧的docker进程没有处于活动状态。
步骤6——将所有设置放在一起
当前的项目结构应如下所示：
.├── flask_app│ ├── app.py │ ├── wsgi.py│ └── Dockerfile├── nginx│ ├── nginx.conf │ ├── project.conf│ └── Dockerfile├── docker-compose.yml└── run_docker.sh在确保一切就绪之后，就能运行docker了。
bash run_docker.sh并通过导航到从Linode获得的IP，然后在浏览器中查看主页面：
步骤7——没有得出任何成果，我该怎么办？
先在Linode上租用一个服务器，安装docker和docker-compose，接着克隆git存储库，然后运行bash run_docker.sh。
确保成功运行后，开始更改内容。尝试使用Flask，Dockerfiles或docker-compose，直到出现故障。之后，尝试找出问题所在，并着手解决。
步骤8-下一步呢？
图源：unsplash
接下来要添加的是支持FlaskApp中的POST请求。这样，可以将请求发送到模型并获得响应。
需满足两点：一个可以处理请求的模型，以及POST请求能够自我支持。
from flask importFlask, request,jsonify server =Flask(__name__) defrun_request(): index =int(request.json['index']) list = ['red', 'green', 'blue', 'yellow', 'black'] return list[index] @server.route('/', methods=['GET', 'POST']) defhello_world(): if request.method =='GET': return'The model is up and running. Send a POST request' else: returnrun_request()为方便起见，在这种情况下，该模型仅返回颜色列表的第i个元素。但实际上，运行哪种模型都无关紧要，只需在所有方法上创建模型的实例(prettymuch where you have server = Flask(__name__))就可以了。
现在，如果导航到IP地址，将看到一条消息——“模型已启动，正在运行。发送POST请求”，因为只需转到IP就可将其视为GET请求。
但让我们试着使用包含模型索引的json文件发送POST请求。笔者使用Postman，但你可以视个人喜好而定(即Curl)。
行得通！现在，可以添加其它路径，以接收GET /POST请求。该想法背后的原因是可以通过加载多个模型，根据URL将请求发送到特定模型。
步骤9——进一步发展如何？
实际上，还有一个重要的步骤要做。为快速部署此Docker设置，将其部署在云空间是个不错的想法。这种方法的一个主要优势是：AWS将为群集管理基础架构提供保障。
你学会了吗？
留言点赞关注
我们一起分享AI学习与发展的干货
如转载，请后台留言，遵守转载规范
扫一扫
4096
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
