两年前在开始一个新的商业项目时我花了两个星期时间在项目开发流程中应用上了持续集成,随后一年又随着项目的发展和商用化做了很多改进。所以掌握了GitLab 持续集成这套方案在商业软件中完整的落地实践经验。文章最早发布在其他平台,当时引起了不少关注,内容虽然是对一个PHP项目持续集成的设置,但是整个持续集成是完全容器化的,这套方法论可以很方便的应用于任何编程语言的项目。
关注文章下方公众号,关键字回复CI可以获取完整的持续集成方案的编排文件和容器的Dockerfile 源码。
![b8384ec1ea1f7d46f6888a6da55ed858.png](https://i-blog.csdnimg.cn/blog_migrate/a43b44bf147131efc38d78d04ba03f85.jpeg)
GitLab CI/CD
Gitlab持续集成是Gitlab提供的一整套持续集成、持续交付解决方案。Gitlab自9.0版本开始增加了CI和CD功能,所以如果你的公司里的Gitlab上在Settings里找不到关于CI/CD的配置项那么你们确实该对公司的GitLab进行升级了。
我们公司之前项目部署一直在用一个叫瓦力的工具,虽然也能实现交付项目的功能但是也有不少弊端,比如:
- 前置任务和后置任务功能不够强大,需要专门写shell脚本来完成复杂的任务。
- build环境永远是一套,公司里有的php项目用的版本有5.6、7.0、7.1 ,java项目依赖的jdk版本不同,这些版本都会相互排斥,一旦一个版本的项目构建成功后必定会影响其他版本的项目。
- 构建过程和构建结果不够可视化。
后来公司有的项目陆陆续续开始使用GitLab CI,因为当时对这套解决方案研究不深不知道该如何在CI上进行代码回滚,如何管控生产环境的部署上线(比如只有权限高的人才能部署测试环境、构建完成后想手动部署生产环境而不是push后自动部署)所以只用来做构建和部署测试环境的代码。与此同时执行CI Jobs的机器仍然是一台物理机,上面需要全局安装了这些构建工具来完成项目构建工作,这仍然会遇到上面第二点项目代码版本依赖的冲突。
由于我自己现在在公司一个重点项目里做架构师,在项目开始之初就有打算将持续集成和持续交付这里好好梳理一下,解决上面这些比较突出的问题。最近由于这些问题爆发的越来越严重觉得有义务拿出一套比较好的解决方案来解决这些问题所以一直在研究解决这些问题的方案。
随着对Gitlab CI 这套方案理解的加深慢慢制定了如下的策略:
- 使用Docker来作为git runner 的executor(执行器),这样在每个Job完成后都会清理build环境。
- 应用不同的docker镜像来解决构建代码版本依赖的问题(php7的项目用php7的镜像起的容器来执行构建工作,5.6的就用php5.6 镜像起的容器去执行构建工作)
- 控制Git工作流,针对不同功能的代码分支分别写CI Job去执行构建、测试和部署的工作。并且master只接受合并请求不允许任何人push, 这样就能够控制发布正式环境的时间点了,而且部署操作除了push自动触发外也可以配置成在GitLab项目页面里手动点击按钮来部署。
我基本上是将CI分成build
, test
, deploy
三个阶段,build
里主要就是完成项目代码依赖包的安装(composer 和 npm install 之类的工作, 我们前后端是两个项目,前端项目事先需要针对不同环境配置不同的打包命令)。
build:
stage: build
image: kevinyan001/git-runner:php7.1-node10
script:
- /usr/local/bin/composer install
only:
- develop
- uat
tags:
- your-runner-tag
test
阶段会去执行项目中编写的测试用例:
test-dev:
stage: test
image: kevinyan001/git-runner:php7.1-node10
script:
- php artisan migrate --force
- ./vendor/bin/phpunit
only:
- develop
tags:
- your-runner-tag
deploy
阶段完成项目最后的部署和一些服务器reload操作最终将项目交付上线。
deploy-testing:
stage: deploy
script:
- rsync -az --delete --exclude=.git --exclude=.gitignore --exclude=.gitlab-ci.yml ./ $SERVER_TOKEN_TEST:$WEB_ROOT_TEST
- ssh $SERVER_TOKEN_TEST -t "chown -R www:www ${WEB_ROOT_TEST}"
environment:
name: test
url: http://test.example.com
only:
- develop
tags:
- your-runner-tag
说明: - 任务中的$SERVER_TOKEN_TEST
这些是提前在GitLab项目的Settings --> CI/CD Pilelines里定义的变量,执行任务时容器会在BASH SHELL中读入这些预先定义的变量。 - $SERVER_TOKEN_TEST
里设置的内容是user@server_ip
, ${WEB_ROOT_TEST}
里设置的是项目在服务端的路径。 - 我在容器的镜像里安装了ansible, 发布正式环境时使用ansible将项目部署到正式环境对应的多个主机上。
git runner会在每个Job的开始阶段通过镜像kevinyan001/git-runner:php7.1-node10
跑一个容器,在容器中执行这些操作,等Job执行完后容器会被停止并清理掉,这就需要我们在每次容器起来的时候在容器里执行一些预备工作,比如与目标服务器建立信任关系这些基础的工作,我是通过将SSH PRIVATE KEY注入到容器中,目标服务器事先放上对应的公钥来建立容器与目标主机的信任关系的:
before_script:
- mkdir -p ~/.ssh
- echo "$SSH_PRIVATE_KEY" | tr -d 'r' > /root/.ssh/id_rsa
- chmod -R 600 ~/.ssh
- echo "$SSH_KNOWN_HOSTS" > ~/.ssh/known_hosts
- chmod 644 ~/.ssh/known_hosts
- mkdir -p /etc/ansible
- echo 'xx.xx.xxx.xxx db_master' >> /etc/hosts #make container can connect to mysql server
- echo 'xx.xx.xxx.xxx db_slave' >> /etc/hosts
具体可以参考gitlab ci关于这一块的说明文档:https://docs.gitlab.com/ee/ci/ssh_keys/
由于GitLab CI的功能非常多,可配置像也很多所以具体某个配置的作用我就不细说了,贴几个我认为比较有用的说明文档出来节省大家的搜索时间。 https://docs.gitlab.com/runner/register/ https://docs.gitlab.com/ee/ci/ https://docs.gitlab.com/ee/ci/examples/laravel_with_gitlab_and_envoy/ https://docs.gitlab.com/ee/ci/yaml/#jobs https://docs.gitlab.com/ee/ci/environments.html
kevinyan001/git-runner:php7.1-node10是我做的一个专门用来跑CI任务的容器的镜像, 你可以针对你的需求制作其他的镜像。
Conclusion
GitLab CI/CD提供了一套通用的解决方案让你从最初的Coding开始到最后代码交付上线都能在它提供的工具集合中轻松完成,通过Git Runner的Executor执行不同阶段定制的任务进行代码build、集成测试、和部署上线。除此之外还可以帮我们完成API文档生成、代码检查、Wiki文档构建等工作,只要在Linux Bash Shell中能实现的任务它都能帮你实现。它支持用很多不同类型的Executor来执行CI Jobs,其中我最推荐使用的类型是Docker Executor,这样我们的build环境就不依赖于Git Runner宿主机上的环境,从而能够应用不同容器完成各种不同项目的构建工作。
![858abf40ce9e5b98b9666c4c9440fb98.png](https://i-blog.csdnimg.cn/blog_migrate/f2cf5f5dca8d3d89ec6567ee26bc8fc2.jpeg)