传统 Java 网站如何实现容器化？看看 Cars.com 如何玩转 Docker！

​

关注世界领先 DevOps 平台 JFrog

 

背景

 

 

Cars.com 是美国的汽车门户网站，为用户提供各种购车相关的信息和资讯，类似于国内的汽车之家。

 

他们之前的技术栈是比较传统的 Java Web 结构：Java 7,  Websphere/Weblogic, Oracle Linux, IBM 硬件，Oracle 数据库 。开发语言包含 Java，NodeJs，Go。随着网站宣传的投入，Cars.com 的流量也变大了。

 

·      3000万访问者 / 月

·      470万车辆信息

·      每天处理200万张图片请求

·      每天服务端处理1亿次请求

 

问题来了，流量变大之后，传统的架构显得力不从心。同时，软件交付流程也成为了瓶颈，来看看他们的痛点。

 

痛点

 

·      两套操作系统和中间件

操作系统和中间件的选型不同，各自分别包含Websphere, Weblogic, Oracle Linux, Redhat Linux, AIX等等。

 

·      每套运行环境需要5份

包含开发者环境，功能测试环境，集成测试环境，性能测试环境，生产环境。

 

·      10个 Web 应用，100多个服务需要部署。

 

由于环境的差异性，上线流程的复杂性，导致 Cars.com 的团队经常碰到的问题是：为什么代码在这个环境能运行，在另外一个环境不行？久而久之为团队带来大量重复的定位环境问题的工作，严重影响了开发进度。

 

 Cars.com 总结了他们的诉求 – 实现不可变基础设施

 

·      统一上线流程。

 

·      具备实时扩展的能力，应对高峰期流量。

 

·      当服务出现问题，能够自动回滚，自动恢复。

 

使用 Docker 实现不可变基础设施

 

为什么选择 Docker?

 

·      提供一致性，可预期的环境。

使用 Docker 可以屏蔽环境的差异，解决维护5份环境的痛点。

 

·      实现微服务部署。

Cars.com 底层有100多个服务，服务如果不能单独部署，会有造成构建时间长，上线周期长，排除问题困难等问题。 实现微服务的独立部署，可以加速软件上线速度，降低问题排除难度。

 

·      秒级故障恢复。

Docker 作为服务的载体，具备快速销毁，快速上线，快速回滚的能力。一旦线上服务出问题，可以快速回滚到上一个版本。

 

·      实现蓝绿部署，金丝雀发布。

快速发布环境，让一部分用户体验某些新功能，待功能被快速验证得到积极的反馈之后，再进行大面积部署。

 

构建一个通用 Docker 镜像

 

为什么需要构建通用的 Docker 镜像？

 

·      公司内部有很多镜像，当有新的环境需要搭建时，要把镜像从仓库一个一个都拷贝到开发者的机器。

 

·      多语言开发团队，包括 JavaScript，Java，Go 等等，每种语言打包的镜像体积过大，导致镜像构建，下载速度慢，影响开发效率。

 

经过一系列实践，Cars.com 总结出来了通用镜像的方案：

 

·      采用 Alpine Linux 作为基础镜像

Alpine Linux 系统的文件大小非常小，可以达到5MB。

 

·      轻量级的容器

 

    - 删除 Package Manager 里面的所有Source。

 

    - 在软件安装完之后，删除安装包，删除没有用到的依赖，删除临时文件。

 

    - 剪裁官方镜像。剪裁 Node 镜像，Node 官方镜像最新版达到了649MB，他们将这个镜像缩减到55MB。JDK 缩减到122MB，Tomcat 从357MB 缩减到181MB。

 

在裁剪镜像大小的实践中，Artifactory 中的 Docker info 提供了帮助，可以在 Docker info 中看到每次打包的镜像 Layer 的实际大小，通过裁剪每层 Layer 的大小，最终达到缩小镜像的目的。

 

 

仓库的需求

 

每个团队都有管理包的需求，开发者要管理 Jar，War，静态文件，系统 Admin 要管理不同的 Linux 发行版，每种语言都用不同的包管理系统，维护这5，6种二进制包仓库非常麻烦，他们使用了 Artifactory 作为一站式包管理平台。理由：

 

·      本地搭建的仓库

大大提升所有语言构建，打包的速度。

 

·      支持 NPM modules，Docker 注册中心，Maven，Go。

 

·      支持 Linux 的包管理工具（RPM，Debian）。

 

·      和 Jenkins/Bamboo/MSBuild/TFS 等工具集成，收集构建信息。

 

·      元数据支持，并且提供 Rest API。

 

Cars.com 通过为 Docker 镜像，War 包设置元数据，使得任何包都可以通过 Artifactory Query Language  根据元数据，过滤出符合上线条件的包，打包到镜像里，部署到环境上。

 

封装 Docker API – PowerTrain

 

      为什么要封装Docker API？

 

·      需要即时响应快速上线，回滚，支持滚动升级，动态绑定端口。

 

·      保证开发者环境里能跑的应用，在生产环境里也能跑，实现不可变基础设施。

 

·      声明式配置管理。

 

PowerTrain 的配置文件 powertrain.mk 解决的问题是将不同环境中变化的部分，作为变量，存在文件里，当需要生成某个环境时，只需将需要的变量传递给 PowerTrain，即可获取对应环境所需的依赖，实现按需搭建环境。

 

 

PowerTrain 也封装了一些 Docker 的常用操作，例如 Docker build，pull，push 等等，在这基础之上增加的一些定制化的信息，来适应灵活的镜像构建和部署。利用 Docker 的轻量级部署特性，实现快速搭建环境，快速上线服务。PowerTrain 的具体的实现可以在 Carsdotcom 的 Github 上找到源代码。

 

持续集成流水线

 

 

·      开发提交代码到 Bitbucket。

 

·      Commit 触发 Jenkins 的 Webhook， 执行构建。

 

·      Jenkins 执行 PowerTrain build。

 

·      从 Artifactory 找到对应的 War 文件，基础镜像，构建出新的镜像。

 

·      快速搭建测试环境，使用 Docker 作为载体运行 war 包，进行测试（功能，接口，性能) 。

 

持续交付流水线

 

 

·      镜像通过测试，会升级到 Artifactory 的生产仓库。

·      通过 Jenkins 触发 PowerTrain 命令，部署到生产环境。

 

要部署到不同的环境，只需要执行不同的 powertrain.mk 文件，就能拉取不同的依赖，部署到不同的环境。

 

总结

 

Cars.com 通过一系列的实践，完成了从传统  Java Web 应用到容器化的转型。得到的收获：

 

·      使用 Docker 屏蔽之前5份环境的差异，实现一次构建，处处运行，大大减少运维中的重复性工作。使用  PowerTrain 的配置文件，让上线流程脚本化，实现不可变基础设施。

 

·      使用 Artifactory 作为多语言的本地仓库，大大提高获取第三方依赖，和管理自研件的效率。

 

·      剪裁 Docker 镜像，实现轻量级镜像发布，在突发流量到来时能够实现动态扩容，以及快速故障恢复。

 

下载JFrog Artifactory 开源版（代替 Nexus）：

http://www.jfrogchina.com/open-source/

 

下载JFrog Artifactory 企业版(免费试用)：

https://www.jfrog.com/artifactory/free-trial/?lang=zh-hans#High-Availability

 

关于JFrog

世界领先DevOps平台

公司成立于2008年，在美国、以色列、法国、西班牙，以及中国北京市拥有超过200名员工。JFrog 拥有3000多个付费客户，其中知名公司包括如腾讯、谷歌、思科、Netflix、亚马逊、苹果等。连续两年，JFrog 被德勤评选为50家发展最快的技术公司之一，并被评为硅谷增长最快的私营企业之一。

 

联系我们：010-64700538