端到端 DevOps 项目：构建、部署和监控全栈应用程序

目录

1.  简介
2.  项目概述
3.  先决条件
4. 步骤 1：在 AWS 上设置基础设施

•  1.1 设置 VPC 和网络
•  1.2 配置 EC2 实例
•  1.3 设置 RDS 数据库

5. 步骤 2：安装和配置 Jenkins

•  2.1 Jenkins 安装
•  2.2 配置 Jenkins 以集成 GitHub
•  2.3 设置 Jenkins 管道

6. 步骤 3：使用 Docker 容器化应用程序

•  3.1 编写 Dockerfile
•  3.2 构建和推送 Docker 镜像
•  3.3 Docker Compose 本地开发

7. 步骤 4：部署到 Kubernetes（Amazon EKS）

•  4.1 设置 EKS 集群
•  4.2 创建 Kubernetes 清单
•  4.3 在 EKS 上部署应用程序

8. 步骤 5：使用 Prometheus 和 Grafana 实现持续监控

•  5.1 安装 Prometheus
•  5.2 配置 Grafana 仪表板
•  5.3 设置警报

9. 步骤 6：保护 CI/CD 管道

•  6.1 使用 Trivy 扫描漏洞
•  6.2 集成 SonarQube 进行代码质量检查

10. 步骤 7：使用 Terraform 自动化基础设施

•  7.1 编写 Terraform 脚本
•  7.2 作为代码管理基础设施
•  7.3 Terraform 状态管理

11. 步骤 8：实现蓝绿部署

•  8.1 设置蓝绿部署
•  8.2 自动化流量切换
•  8.3 回滚策略

12.  结论
13.  进一步阅读和资源

---

简介

DevOps 的目标是自动化流程，改善开发与运维团队之间的协作，并更快速可靠地部署软件。本项目将指导你使用业界标准工具创建一个全面的 CI/CD 流水线。你将使用 Jenkins、Docker、Kubernetes（Amazon EKS）、Prometheus、Grafana、Trivy、SonarQube 和 Terraform 在 AWS 上部署一个全栈应用程序。这一实践经验将帮助你掌握关键的 DevOps 概念和工具。

项目图示

登录后复制

+------------------------+
  |   开发者工作站         |
  |                        |
  |  - 代码仓库            |
  |  - 本地构建与测试      |
  +-----------+------------+
              |
              v
  +------------------------+
  |        Jenkins         |
  |                        |
  |  - CI/CD 流水线        |
  |  - 构建与测试          |
  |  - Docker 构建         |
  |  - 推送 Docker 镜像    |
  +-----------+------------+
              |
              v
  +------------------------+          +----------------------+
  |        Docker Hub      |          |        AWS EKS        |
  |                        |          |                      |
  |  - Docker 镜像         |          |  - Kubernetes 集群   |
  |                        |          |                      |
  +-----------+------------+          +-----------+----------+
              |                                    |
              v                                    |
  +------------------------+          +----------------------+
  |   Kubernetes 部署      |          |  Prometheus & Grafana|
  |                        |          |                      |
  |  - 部署                |          |  - 监控              |
  |  - 服务                |          |  - 仪表板            |
  |                        |          |                      |
  +------------------------+          +----------------------+
              |
              v
  +------------------------+
  |     Amazon RDS         |
  |                        |
  |  - MySQL 数据库        |
  |                        |
  +------------------------+

• 1.
• 2.
• 3.
• 4.
• 5.
• 6.
• 7.
• 8.
• 9.
• 10.
• 11.
• 12.
• 13.
• 14.
• 15.
• 16.
• 17.
• 18.
• 19.
• 20.
• 21.
• 22.
• 23.
• 24.
• 25.
• 26.
• 27.
• 28.
• 29.
• 30.
• 31.
• 32.
• 33.
• 34.
• 35.
• 36.
• 37.
• 38.
• 39.
• 40.
• 41.

项目概述

目标

• 基础设施设置： 配置 AWS 资源，包括 VPC、EC2 实例和 RDS 数据库。
• CI/CD 流水线： 使用 Jenkins 自动化构建、测试和部署过程。
• 容器化： 使用 Docker 对应用程序进行容器化。
• Kubernetes 部署： 在 Amazon EKS 上部署应用程序。
• 监控： 使用 Prometheus 和 Grafana 实现持续监控。
• 安全： 使用 Trivy 和 SonarQube 保护流水线。
• 基础设施即代码： 使用 Terraform 自动化基础设施管理。
• 蓝绿部署： 实现蓝绿部署策略。

工具和技术

• AWS： EC2、VPC、RDS、EKS。
• Jenkins： CI/CD 自动化。
• Docker： 容器化。
• Kubernetes： 容器编排。
• Prometheus 和 Grafana： 监控和可视化。
• Trivy 和 SonarQube： 安全性和代码质量检查。
• Terraform： 基础设施即代码。

先决条件

• AWS 账户： 用于云资源配置。
• 基础 Linux 知识： 管理 EC2 实例。
• Docker 和 Kubernetes 知识： 用于容器化和编排。
• CI/CD 了解： 理解基本的 CI/CD 概念。
• GitHub 账户： 用于版本控制和 Jenkins 集成。

步骤 1：在 AWS 上设置基础设施

1.1 设置 VPC 和网络

1. 创建 VPC：

登录后复制

aws ec2 create-vpc --cidr-block 10.0.0.0/16

• 1.

• 配置子网：

登录后复制

aws ec2 create-subnet --vpc-id <vpc-id> --cidr-block 10.0.1.0/24 --availability-zone us-east-1a

• 1.

• 设置互联网网关：

登录后复制

aws ec2 create-internet-gateway
 aws ec2 attach-internet-gateway --vpc-id <vpc-id> --internet-gateway-id <igw-id>

• 1.
• 2.

• 创建路由表并与子网关联：

登录后复制

aws ec2 create-route-table --vpc-id <vpc-id>
 aws ec2 create-route --route-table-id <rtb-id> --destination-cidr-block 0.0.0.0/0 --gateway-id <igw-id>
 aws ec2 associate-route-table --subnet-id <subnet-id> --route-table-id <rtb-id>

• 1.
• 2.
• 3.

1. 设置安全组：

• 创建安全组：

登录后复制

aws ec2 create-security-group --group-name MySecurityGroup --description "Security group for my app" --vpc-id <vpc-id>

• 1.

• 允许 SSH、HTTP 和 HTTPS：

登录后复制

aws ec2 authorize-security-group-ingress --group-id <sg-id> --protocol tcp --port 22 --cidr 0.0.0.0/0
 aws ec2 authorize-security-group-ingress --group-id <sg-id> --protocol tcp --port 80 --cidr 0.0.0.0/0
 aws ec2 authorize-security-group-ingress --group-id <sg-id> --protocol tcp --port 443 --cidr 0.0.0.0/0

• 1.
• 2.
• 3.

1.2 配置 EC2 实例

1. 启动 EC2 实例：

• 使用 AWS 管理控制台或 CLI：

登录后复制

aws ec2 run-instances --image-id ami-0abcdef1234567890 --count 1 --instance-type t2.micro --key-name MyKeyPair --security-group-ids <sg-id> --subnet-id <subnet-id>

• 1.

• 在 EC2 实例上安装 Docker 和 Jenkins：

登录后复制

sudo yum update -y
 sudo yum install docker -y
 sudo service docker start
 sudo usermod -a -G docker ec2-user

 # Jenkins
 sudo yum install java-1.8.0-openjdk -y
 wget -O /etc/yum.repos.d/jenkins.repo https://pkg.jenkins.io/redhat-stable/jenkins.repo
 rpm --import https://pkg.jenkins.io/redhat-stable/jenkins.io.key
 sudo yum install jenkins -y
 sudo systemctl start jenkins
 sudo systemctl enable jenkins

• 1.
• 2.
• 3.
• 4.
• 5.
• 6.
• 7.
• 8.
• 9.
• 10.
• 11.
• 12.

1.3 设置 RDS 数据库

1. 配置 RDS 实例：

• 创建 MySQL 实例：

登录后复制

aws rds create-db-instance --db-instance-identifier mydbinstance --db-instance-class db.t2.micro --engine mysql --master-username admin --master-user-password password --allocated-storage 20 --vpc-security-group-ids <sg-id>

• 1.

1. 连接应用程序：

• 更新应用程序配置以使用 RDS 端点：

登录后复制

jdbc:mysql://<rds-endpoint>:3306/mydatabase

• 1.

• 通过 MySQL 客户端测试连接确保连通性

登录后复制

mysql -h <rds-endpoint> -u admin -p

• 1.

步骤 2：安装和配置 Jenkins

2.1 Jenkins 安装

1. 安装 Jenkins：

• 已在 EC2 配置中覆盖。通过 <ec2-public-ip>:8080 访问 Jenkins。

2. 解锁 Jenkins：

• 获取初始管理员密码：

登录后复制

sudo cat /var/lib/jenkins/secrets/initialAdminPassword

• 1.

• 完成设置向导。

2.2 配置 Jenkins 与 GitHub 集成

1. 安装 GitHub 插件：

• 访问 管理 Jenkins -> 插件管理。
• 搜索 "GitHub" 并进行安装。

2. 生成 GitHub 令牌：

• 从 GitHub 生成个人访问令牌，并将其添加到 Jenkins 中：

• 管理 Jenkins -> 管理凭证 -> 添加凭证。

3. 创建新任务：

• 设置新的流水线任务并将其链接到你的 GitHub 仓库。

2.3 设置 Jenkins 流水线

1. 定义 Jenkinsfile：

• 在你的仓库中创建一个 Jenkinsfile：

登录后复制

pipeline {
   agent any
   stages {
     stage('Build') {
       steps {
         sh 'mvn clean install'
       }
     }
     stage('Test') {
       steps {
         sh 'mvn test'
       }
     }
     stage('Deploy') {
       steps {
         sh 'docker build -t myapp .'
         sh 'docker push myrepo/myapp'
       }
     }
   }
 }

• 1.
• 2.
• 3.
• 4.
• 5.
• 6.
• 7.
• 8.
• 9.
• 10.
• 11.
• 12.
• 13.
• 14.
• 15.
• 16.
• 17.
• 18.
• 19.
• 20.
• 21.

1. 触发流水线：

• 提交并推送 Jenkinsfile 到你的仓库。
• Jenkins 将自动触发构建。

步骤 3：使用 Docker 对应用程序进行容器化

3.1 编写 Dockerfile

1. 创建 Dockerfile：

• 在你的应用程序目录中：

登录后复制

FROM openjdk:8-jdk-alpine
 VOLUME /tmp
 ARG JAR_FILE=target/*.jar
 COPY ${JAR_FILE} app.jar
 ENTRYPOINT ["java","-jar","/app.jar"]

• 1.
• 2.
• 3.
• 4.
• 5.

1. 构建 Docker 镜像：

• 运行以下命令：

登录后复制

docker build -t myapp:latest .

• 1.

3.2 构建并推送 Docker 镜像

1. 标记并推送镜像：

• 使用适当的版本标记镜像：

登录后复制

docker tag myapp:latest myrepo/myapp:v1.0.0

• 1.

• 推送镜像到 Docker Hub：

登录后复制

docker push myrepo/myapp:v1.0.0

• 1.

3.3 Docker Compose 用于本地开发

1. 创建 docker-compose.yml 文件：

• 定义你的多容器应用程序：

登录后复制

version: '3'
 services:
   app:
     image: myrepo/myapp:v1.0.0
     ports:
       - "8080:8080"
   db:
     image: mysql:5.7
     environment:
       MYSQL_ROOT_PASSWORD: password
       MYSQL_DATABASE: mydatabase
     ports:
       - "3306:3306"

• 1.
• 2.
• 3.
• 4.
• 5.
• 6.
• 7.
• 8.
• 9.
• 10.
• 11.
• 12.
• 13.

1. 运行 Docker Compose：

• 本地启动应用程序：

登录后复制

docker-compose up

• 1.

步骤 4：部署到 Kubernetes（Amazon EKS）

4.1 设置 EKS 集群

1. 安装 kubectl 和 eksctl：

• 安装 kubectl：

登录后复制

curl -LO "https://dl.k8s.io/release/$(curl -L -s https://dl.k8s.io/release/stable.txt)/bin/linux/amd64/kubectl"
 chmod +x kubectl
 sudo mv kubectl /usr/local/bin/

• 1.
• 2.
• 3.

• 安装 eksctl：

登录后复制

curl --silent --location "https://github.com/weaveworks/eksctl/releases/download/0.110.0/eksctl_Linux_amd64.tar.gz" | tar xz -C /tmp
 sudo mv /tmp/eksctl /usr/local/bin

• 1.
• 2.

2. 创建 EKS 集群：

登录后复制

eksctl create cluster --name my-cluster --version 1.21 --region us-east-1 --nodegroup-name my-nodes --node-type t3.medium --nodes 3

• 1.

4.2 创建 Kubernetes 清单

1. 编写部署清单：

• 创建 deployment.yaml：

登录后复制

apiVersion: apps/v1
 kind: Deployment
 metadata:
   name: myapp-deployment
 spec:
   replicas: 3
   selector:
     matchLabels:
       app: myapp
   template:
     metadata:
       labels:
         app: myapp
     spec:
       containers:
       - name: myapp
         image: myrepo/myapp:v1.0.0
         ports:
         - containerPort: 8080

• 1.
• 2.
• 3.
• 4.
• 5.
• 6.
• 7.
• 8.
• 9.
• 10.
• 11.
• 12.
• 13.
• 14.
• 15.
• 16.
• 17.
• 18.
• 19.

4.3 在 EKS 上部署应用程序

1. 应用清单：

• 部署应用程序到 EKS：

登录后复制

kubectl apply -f deployment.yaml

• 1.

• 监控部署状态：

登录后复制

kubectl get pods

• 1.

2. 暴露应用程序：

• 创建服务以暴露应用程序：

登录后复制

apiVersion: v1
 kind: Service
 metadata:
   name: myapp-service
 spec:
   type: LoadBalancer
   selector:
     app: myapp
   ports:
     - protocol: TCP
       port: 80
       targetPort: 8080

• 1.
• 2.
• 3.
• 4.
• 5.
• 6.
• 7.
• 8.
• 9.
• 10.
• 11.
• 12.

• 应用服务：

登录后复制

kubectl apply -f service.yaml

• 1.

步骤 5：使用 Prometheus 和 Grafana 实现持续监控

5.1 安装 Prometheus

1. 部署 Prometheus：

• 使用 Helm 安装 Prometheus：

登录后复制

helm repo add prometheus-community https://prometheus-community.github.io/helm-charts
 helm repo update
 helm install prometheus prometheus-community/prometheus

• 1.
• 2.
• 3.

1. 配置 Prometheus：

• 编辑 values.yaml 文件以抓取应用程序的指标：

登录后复制

scrape_configs:
   - job_name: 'myapp'
     static_configs:
       - targets: ['myapp-service:8080']

• 1.
• 2.
• 3.
• 4.

5.2 配置 Grafana 仪表板

1. 部署 Grafana：

• 通过 Helm 安装 Grafana：

登录后复制

helm install grafana grafana/grafana

• 1.

1. 访问 Grafana：

• 获取管理员密码：

登录后复制

kubectl get secret --namespace default grafana -o jsonpath="{.data.admin-password}" | base64 --decode ; echo

• 1.

• 转发端口以访问 Grafana：

登录后复制

kubectl port-forward svc/grafana 3000:80

• 1.

1. 将 Prometheus 添加为数据源：

• 登录到 Grafana 并将 Prometheus 添加为数据源。

5.3 设置警报

1. 定义警报规则：

• 在 Prometheus 中创建用于关键指标的警报规则：

登录后复制

groups:
   - name: example
     rules:
     - alert: HighMemoryUsage
       expr: node_memory_Active_bytes > 1e+09
       for: 1m
       labels:
         severity: critical
       annotations:
         summary: "Instance {{ $labels.instance }} high memory usage"

• 1.
• 2.
• 3.
• 4.
• 5.
• 6.
• 7.
• 8.
• 9.
• 10.

1. 设置 Alertmanager：

• 配置 Alertmanager 以发送通知：

登录后复制

receivers:
   - name: 'email'
     email_configs:
       - to: 'your-email@example.com'

• 1.
• 2.
• 3.
• 4.

步骤 6：保护 CI/CD 流水线

6.1 使用 Trivy 扫描漏洞

1. 安装 Trivy：

• 在 Jenkins 服务器上安装 Trivy：

登录后复制

sudo apt-get install wget apt-transport-https gnupg lsb-release
 wget -qO - https://aquasecurity.github.io/trivy-repo/deb/public.key | sudo apt-key add -
 echo deb https://aquasecurity.github.io/trivy-repo/deb $(lsb_release -sc) main | sudo tee -a /etc/apt/sources.list.d/trivy.list
 sudo apt-get update
 sudo apt-get install trivy

• 1.
• 2.
• 3.
• 4.
• 5.

1. 将 Trivy 集成到 Jenkins：

• 在 Jenkins 流水线中添加 Trivy：

登录后复制

stage('Security Scan') {
   steps {
     sh 'trivy image myrepo/myapp:v1.0.0'
   }
 }

• 1.
• 2.
• 3.
• 4.
• 5.

6.2 集成 SonarQube 进行代码质量分析

1. 安装 SonarQube：

• 在 EC2 实例上安装 SonarQube：

登录后复制

sudo yum install java-11-openjdk-devel -y
 wget https://binaries.sonarsource.com/Distribution/sonarqube/sonarqube-8.9.6.50800.zip
 unzip sonarqube-*.zip
 sudo mv sonarqube-8.9.6.50800 /opt/sonarqube
 sudo chown -R sonar: /opt/sonarqube

• 1.
• 2.
• 3.
• 4.
• 5.

1. 配置 SonarQube：

• 修改 sonar.properties 文件以进行数据库集成：

登录后复制

sonar.jdbc.username=sonar
 sonar.jdbc.password=sonar
 sonar.jdbc.url=jdbc:postgresql://localhost/sonarqube

• 1.
• 2.
• 3.

1. 将 SonarQube 集成到 Jenkins：

• 在 Jenkins 中添加 SonarQube 分析：

登录后复制

stage('SonarQube Analysis') {
   steps {
     withSonarQubeEnv('My SonarQube Server') {
       sh 'mvn sonar:sonar'
     }
   }
 }

• 1.
• 2.
• 3.
• 4.
• 5.
• 6.
• 7.

结论

本项目指南提供了设置端到端 DevOps 流水线的详细步骤，包括 CI/CD、容器化、Kubernetes 部署、监控和安全。通过遵循此指南，您不仅可以获得实际经验，还可以创建一个生产就绪的流水线。请记住，掌握 DevOps 的关键是持续实践，并保持对最新工具和方法的关注。

原创作者: u_14991279 转载于: https://blog.51cto.com/u_14991279/11851115