Doscker Compose搭建consul集群环境
Compose概述
Compose 是用于定义和运行多容器 Docker 应用程序的工具。通过 Compose,您可以使用 YML 文件来配置应用程序需要的所有服务。然后,使用一个命令,就可以从 YML 文件配置中创建并启动所有服务
标题 Docker Compose容器编排
YAML是一种标记语言很直观的数据序列化格式
文件格式及编写注意事项:
不支持制表符tab键缩进,需要使用空格缩进
通常开头缩进2个空格
字符后缩进1个空格,如冒号、逗号、横杆
用#号注释
如果包含特殊字符用单引号弓|起来
布尔值必须用引号括起来
docker-compose常用字段
version # 指定 compose 文件的版本
services # 定义所有的 service 信息, services 下面的第一级别的 key 既是一个 service 的名称
build # 指定包含构建上下文的路径, 或作为一个对象,该对象具有 context 和指定的 dockerfile 文件以及 args 参数值
context # context: 指定 Dockerfile 文件所在的路径
dockerfile # dockerfile: 指定 context 指定的目录下面的 Dockerfile 的名称(默认为 Dockerfile)
args # args: Dockerfile 在 build 过程中需要的参数 (等同于 docker container build --build-arg 的作用)
cache_from # v3.2中新增的参数, 指定缓存的镜像列表 (等同于 docker container build --cache_from 的作用)
labels # v3.3中新增的参数, 设置镜像的元数据 (等同于 docker container build --labels 的作用)
shm_size # v3.5中新增的参数, 设置容器 /dev/shm 分区的大小 (等同于 docker container build --shm-size 的作用)
command # 覆盖容器启动后默认执行的命令, 支持 shell 格式和 [] 格式
configs # 不知道怎么用
cgroup_parent # 不知道怎么用
container_name # 指定容器的名称 (等同于 docker run --name 的作用)
credential_spec # 不知道怎么用
deploy # v3 版本以上, 指定与部署和运行服务相关的配置, deploy 部分是 docker stack 使用的, docker stack 依赖 docker swarm
endpoint_mode # v3.3 版本中新增的功能, 指定服务暴露的方式
vip # Docker 为该服务分配了一个虚拟 IP(VIP), 作为客户端的访问服务的地址
dnsrr # DNS轮询, Docker 为该服务设置 DNS 条目, 使得服务名称的 DNS 查询返回一个 IP 地址列表, 客户端直接访问其中的一个地址
labels # 指定服务的标签,这些标签仅在服务上设置
mode # 指定 deploy 的模式
global # 每个集群节点都只有一个容器
replicated # 用户可以指定集群中容器的数量(默认)
placement # 不知道怎么用
replicas # deploy 的 mode 为 replicated 时, 指定容器副本的数量
resources # 资源限制
limits # 设置容器的资源限制
cpus: “0.5” # 设置该容器最多只能使用 50% 的 CPU
memory: 50M # 设置该容器最多只能使用 50M 的内存空间
reservations # 设置为容器预留的系统资源(随时可用)
cpus: “0.2” # 为该容器保留 20% 的 CPU
memory: 20M # 为该容器保留 20M 的内存空间
restart_policy # 定义容器重启策略, 用于代替 restart 参数
condition # 定义容器重启策略(接受三个参数)
none # 不尝试重启
on-failure # 只有当容器内部应用程序出现问题才会重启
any # 无论如何都会尝试重启(默认)
delay # 尝试重启的间隔时间(默认为 0s)
max_attempts # 尝试重启次数(默认一直尝试重启)
window # 检查重启是否成功之前的等待时间(即如果容器启动了, 隔多少秒之后去检测容器是否正常, 默认 0s)
update_config # 用于配置滚动更新配置
parallelism # 一次性更新的容器数量
delay # 更新一组容器之间的间隔时间
failure_action # 定义更新失败的策略
continue # 继续更新
rollback # 回滚更新
pause # 暂停更新(默认)
monitor # 每次更新后的持续时间以监视更新是否失败(单位: ns|us|ms|s|m|h) (默认为0)
max_failure_ratio # 回滚期间容忍的失败率(默认值为0)
order # v3.4 版本中新增的参数, 回滚期间的操作顺序
stop-first #旧任务在启动新任务之前停止(默认)
start-first #首先启动新任务, 并且正在运行的任务暂时重叠
rollback_config # v3.7 版本中新增的参数, 用于定义在 update_config 更新失败的回滚策略
parallelism # 一次回滚的容器数, 如果设置为0, 则所有容器同时回滚
delay # 每个组回滚之间的时间间隔(默认为0)
failure_action # 定义回滚失败的策略
continue # 继续回滚
pause # 暂停回滚
monitor # 每次回滚任务后的持续时间以监视失败(单位: ns|us|ms|s|m|h) (默认为0)
max_failure_ratio # 回滚期间容忍的失败率(默认值0)
order # 回滚期间的操作顺序
stop-first # 旧任务在启动新任务之前停止(默认)
start-first # 首先启动新任务, 并且正在运行的任务暂时重叠
docker compose常用命令
docker-compose up -d nginx 构建建启动nignx容器
docker-compose exec nginx bash 登录到nginx容器中
docker-compose down 删除所有nginx容器,镜像
docker-compose ps 显示所有容器
docker-compose restart nginx 重新启动nginx容器
docker-compose run --no-deps --rm php-fpm php -v 在php-fpm中不启动关联容器,并容器执行php -v 执行完成后删除容器
docker-compose build nginx 构建镜像 。
docker-compose build --no-cache nginx 不带缓存的构建。
docker-compose logs nginx 查看nginx的日志
docker-compose logs -f nginx 查看nginx的实时日志
docker-compose config -q 验证(docker-compose.yml)文件配置,当配置正确时,不输出任何内容,当文件配置错误,输出错误信息。
docker-compose events --json nginx 以json的形式输出nginx的docker日志
docker-compose pause nginx 暂停nignx容器
docker-compose unpause nginx 恢复ningx容器
docker-compose rm nginx 删除容器(删除前必须关闭容器)
docker-compose stop nginx 停止nignx容器
docker-compose start nginx 启动nignx容器
Consul的概述
Consul是HashiCorp公司推出的开源工具, 用于实现分布式系统的服务发现与配置
Consul的特性:
支持健康检查,允许存储键值对
基于Golong语言,可移植性强
支持ACL访问控制
同时可与Docker等轻量级容器可无缝配合
Consul容器服务更新与发现
consul服务端:
consul template:通过变量定义模板;定义的内容就是upstream地址池,通过变量的形式,并在接收到指令的时候动态更新web_01中ng的配置文件
consul server:管理consul template
consul agent:获取服务发现的机制;UI界面也可以看到新更新的服务
compose:
consul registrator:监听;部署在server端上
过程:
设置registrator监控,监听服务端口,有新的端口监控会注册到agent,交给server端,把后端真实的容器和ip写入template模板内,模板更新到nginx.conf内,再重载配置文件,从而对外识别新加的服务后端的节点:docker服务器
compose部署
192.168.8.153 Docker-ce、compose、consul、consul-template、nginx
192.168.8.154 Docker-ce、registrator
首先2个节点安装docker、设置镜像加速
#先下载compose
curl -L https://github.com/docker/compose/releases/download/1.21.1/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
或者
上传docker_compose即可
chmod +x docker-compose ##加执行权限
cp -p docker-compose /usr/local/bin
mkdir /root/compose_nginx
cd compose_nginx/
mkdir nginx wwwroot
#编写nginx的dockerfile文件
cd nginx
上传nginx-1.12.2.tar.gz压缩包
vim Dockerfile ##编写文件
FROM centos:7
ADD nginx-1.12.2.tar.gz /mnt
WORKDIR /mnt/nginx-1.12.2
RUN yum install -y gcc pcre pcre-devel devel zlib-devel make &> /dev/null && \
yum clean all && \
sed -i 's/CFLAGS="$CFLAGS -g"/#CFLAGS="$CFLAGS -g"/g' auto/cc/gcc && \
./configure --prefix=/usr/local/nginx &> /dev/null && \
make &> /dev/null && make install &> /dev/null &&\
rm -rf /mnt/nginx-1.12.2
EXPOSE 80
VOLUME ["/usr/local/nginx/html"]
CMD ["/usr/local/nginx/sbin/nginx","-g","daemon off;"]
cd wwwroot
vim index.html ##创建nginx页面
happy
#编写docker-compose.yml文件
vim /root/compose_nginx/docker-compose.yml
version: '3'
services:
nginx:
hostname: nginx
build:
context: ./nginx
dockerfile: Dockerfile
ports:
- 1216:80
- 1217:443
networks:
- cluster
volumes:
- ./wwwroot:/usr/local/nginx/html
networks:
cluster:
[root@consul compose_nginx]# docker-compose -f docker-compose.yml up -d ##基于yml文件运行启动
[root@consul compose_nginx]# docker-compose ps ##使用Compose容器编排
#查看层级关系
[root@consul compose_nginx]# tree ./
./
├── docker-compose.yml //创建模板脚本
├── nginx
├── Dockerfile //创建容器脚本
├── nginx-1.15.9.tar.gz //复制源码包
└── wwwroot
└── index.html //站点
Consul部署
192.168.8.153 Docker-ce、 Compose 3、Consul、 Consul-template
192.168.8.154 Docker-ce、registrator
template 模更新
registrator 自动发现
registrator 控制consul 完成更新操作
consul template 模板 进行热更新
consul 自动发现、自动更新,为容器提供服务(添加、删除、生命周期
consul服务器:
mkdir consul
cd consul
上传consul_0.9.2_linux_amd64.zip压缩包
unzip consul_0.9.2_linux_amd64.zip ##解压
mv consul /usr/local/bin/
consul agent \
-server \ 服务端
-bootstrap \ 前端框架
-ui \ 可被访问的web界面
-data-dir=/var/lib/consul-data \
-bind=192.168.8.153 \
-client=0.0.0.0 \
-node=consul-server01 &> /var/log/consul.log &
[root@consul consul]# consul members ##查看集群信息
[root@web consul]# consul info | grep leader
leader = true
leader_addr = 192.168.8.153:8300
通过httpd api 获取集群信息:
curl 127.0.0.1:8500/v1/status/peers //查看集群server成员
curl 127.0.0.1:8500/v1/status/leader //集群 Raf leader
curl 127.0.0.1:8500/v1/catalog/services //注册的所有服务
curl 127.0.0.1:8500/v1/catalog/nginx //查看 nginx 服务信息
[root@consul consul]# curl 127.0.0.1:8500/v1/catalog/nodes //集群节点详细信息
[{"ID":"ac1937e8-8f21-bbc0-61d6-0a24ea946cee","Node":"consul-server01","Address":"192.168.8.153","Datacenter":"dc1","TaggedAddresses":{"lan":"192.168.8.153","wan":"192.168.8.153"},"Meta":{},"CreateIndex":5,"ModifyIndex":6}]
容器服务自动加入consul集群:
1. 安装 Gliderlabs/Registrator
可检查容器运行状态自动注册,还可注销 docker 容器的服务到服务配置中心。
目前支持 Consul、Etcd 和 SkyDNS2。
在 192.168.8.153节点,执行以下操作:
docker run -d \
--name=registrator \
--net=host \
-v /var/run/docker.sock:/tmp/docker.sock \
--restart=always \
gliderlabs/registrator:latest \
-ip=192.168.8.154 \
consul://192.168.8.153:8500
测试服务发现功能是否正常:
docker run -itd -p:83:80 --name test-01 -h test01 nginx
docker run -itd -p:84:80 --name test-02 -h test02 nginx
docker run -itd -p:88:80 --name test-03 -h test03 httpd
docker run -itd -p:89:80 --name test-04 -h test04 httpd
验证 http 和 nginx 服务是否注册到 consul:
浏览器输入 http://192.168.8.153:8500,“单击 NODES”,然后单击 “consurl-server01”,会出现 5 个服务
在consul服务器上查看:
[root@consul consul]# curl 127.0.0.1:8500/v1/catalog/services
{"consul":[],"httpd":[],"nginx":[]}
安装 consul-template
Consul-Template 是一个守护进程,用于实时查询 Consul 集群信息,并更新文件系统 上任意数量的指定模板,生成配置文件。更新完成以后,可以选择运行 shell 命令执行更新 操作,重新加载 Nginx。Consul-Template 可以查询 Consul 中的服务目录、Key、Key-values 等。
这种强大的抽象功能和查询语言模板可以使 Consul-Template 特别适合动态的创建配置文件。
例如:创建 Apache/Nginx Proxy Balancers、Haproxy Backends
准备 template nginx 模板文件:
在consul上操作
vim /root/consul/nginx.ctmpl ##c:concul;tmp:template
upstream http_backend {
{{range service "nginx"}}
server {{.Address}}:{{.Port}}; #此处引用的变量会指向后端的地址和端口(动态变化)
{{end}}
}
server {
listen 83; ##ngixn的监听端口
server_name localhost 192.168.8.153; #反向代理的IP地址(前端展示的NG服务的IP)
access_log /var/log/nginx/klj.cn-access.log;
index index.html index.php;
location / {
proxy_set_header HOST $host;
proxy_set_header X-Real-IP $remote_addr; #后端真实IP
proxy_set_header Client-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; #转发地址
proxy_pass http://http_backend;
}
}
编译安装nginx:
上传压缩包nginx-1.12.2.tar.gz
yum install gcc pcre-devel zlib-devel -y
tar zxvf nginx-1.12.2.tar.gz -C /opt
cd nginx-1.12.2
./configure --prefix=/usr/local/nginx
make && make install
配置 nginx:
vim /usr/local/nginx/conf/nginx.conf
http {
include mime.types; #默认存在的
include vhost/*.conf; ##添加虚拟主机目录为了让那个识别vhost/*.conf的文件(consul动态生成的配置文件就会放在这里)
default_type application/octet-stream;
mkdir /usr/local/nginx/conf/vhost ##创建虚拟主机目录
mkdir /var/log/nginx ##创建日志文件目录
ln -s /usr/local/nginx/sbin/nginx /usr/sbin
nginx ##启动nginx
配置并启动 template
上传解压:
上传 consul-template_0.19.3_linux_amd64.zip 包到/root 目录下
cp consul-template_0.19.3_linux_amd64.zip /root/
unzip consul-template_0.19.3_linux_amd64.zip ##解压
mv consul-template /usr/bin/
关联nginx 虚拟目录中的子配置文件操作:
consul-template -consul-addr 192.168.8.153:8500 \
-template "/root/consul/nginx.ctmpl:/usr/local/nginx/conf/vhost/klj.conf:/usr/local/nginx/sbin/nginx -s reload" \
--log-level=info ##日志级别:info
[root@consul ~]# cat /usr/local/nginx/conf/vhost/klj.conf ##另外打开一个终端查看生成配置文件
upstream http_backend {
server 192.168.8.154:84;
server 192.168.8.154:85;
}
server {
listen 83; server_name localhost 192.168.8.153;
access_log /var/log/nginx/klj.cn-access.log;
index index.html index.php;
location / {
proxy_set_header HOST $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header Client-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_pass http://http_backend;
}
}
测试增加/删除节点:
增加一个nginx容器节点
增加一个 nginx 容器节点,测试服务发现及配置更新功能
//在registrator服务端注册
[root@docker bin]# docker run -itd -p:86:80 --name test-06 -h test06 nginx
74d1a35d21e907dc58ba6cb0b258e26f4c56fec4f1da495b76d84907c0f0ad43
删除一个nginx容器节点:
[root@docker bin]# docker ps -a
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
74d1a35d21e9 nginx "/docker-entrypoint.…" About a minute ago Up About a minute 0.0.0.0:86->80/tcp, :::86->80/tcp test-06
688c5c1083f5 nginx "/docker-entrypoint.…" 22 hours ago Exited (255) 19 minutes ago 0.0.0.0:85->80/tcp, :::85->80/tcp test-05
107aa62fb5aa httpd "httpd-foreground" 24 hours ago Exited (255) 19 minutes ago 0.0.0.0:89->80/tcp, :::89->80/tcp test-04
6aeb8cbb2050 httpd "httpd-foreground" 24 hours ago Exited (255) 19 minutes ago 0.0.0.0:88->80/tcp, :::88->80/tcp test-03
b1e96f6388ec nginx "/docker-entrypoint.…" 24 hours ago Exited (255) 19 minutes ago 0.0.0.0:84->80/tcp, :::84->80/tcp test-02
403bf203b9e6 gliderlabs/registrator:latest "/bin/registrator -i…" 24 hours ago Up 5 minutes registrator
[root@docker bin]# docker rm -f 74d1a35d21e9 ##删除86端口的服务器
74d1a35d21e9