kubernetes 3

最新推荐文章于 2024-08-28 15:09:19 发布
最新推荐文章于 2024-08-28 15:09:19 发布
阅读量472 收藏
点赞数
分类专栏： docker kubernetes
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xiaoyuerp/article/details/84758596
版权

29.5 搭建kubernetes集群（ansible-playbook）
29.6 kubernetes集群备份和恢复

29.5 搭建kubernetes集群（ansible-playbook）

使用ansible以二进制方式安装kubernetes集群
具体问题 安装步骤等 本文档参考 https://github.com/gjmzj/kubeasz
扩展： 使用kubeadm部署集群 https://blog.frognew.com/2018/08/kubeadm-install-kubernetes-1.11.html
kubernetes官方github地址 https://github.com/kubernetes/kubernetes/releases

软硬件限制：
1）四台机器 cpu和内存 master：至少1核2g，推荐2c4g；node：至少1核2g
2）linux系统 内核版本至少3.10，推荐CentOS7/RHEL7
3）docker 至少1.9版本，推荐1.12+
4）etcd 至少2.0版本，推荐3.0+

高可用集群所需节点规划：
部署节点——x1 : 运行这份 ansible 脚本的节点
etcd节点——x3 : 注意etcd集群必须是1,3,5,7…奇数个节点
master节点—-x2 : 根据实际集群规模可以增加节点数，需要额外规划一个master VIP(虚地址)
lb节点——–x2 : 负载均衡节点两个，安装 haproxy+keepalived
node节点——x2 : 真正应用负载的节点，根据需要提升机器配置和增加节点数

机器规划图：

准备工作

四台机器，全部执行：

1
2
3
4
5

yum install -y epel-release 
yum update -y
systemctl stop firewalld
systemctl disable firewalld
setenforce 0

 

在kun01上
1) 安装ansible

1

yum install -y ansible

 

或者

1
2
3
4

yum install -y python-pip git
pip install pip --upgrade -i http://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com
pip install --no-cache-dir ansible -i http://mirrors.aliyun.com/pypi/simple/ --trusted-host
mirrors.aliyun.com

 

问题 安装ansible出错

1
2
3

python-httplib2-0.9.2-1.el7.no FAILED                                          
http://ftp.sjtu.edu.cn/centos/7.5.1804/extras/x86_64/Packages/python-httplib2-0.9.2-1.el7.noarch.rpm: [Errno -1] 软件包与预期下载的不符。建议：运行 yum --enablerepo=extras clean metadata
正在尝试其它镜像。

解决 手动下载python-httplib2 rpm包安装

1

rpm -ivh python-httplib2-0.9.2-1.el7.noarch.rpm

 

2) 生成密钥并发送给其他机器

1
2
3

ssh-keygen  ##生成密钥
for ip in 101 102 103 104; do ssh-copy-id 192.168.80.$ip; done
ssh-copy-id 将本机的公钥复制到远程机器

 

3) 下载kubeasz

1
2
3

git clone https://github.com/gjmzj/kubeasz.git
mv kubeasz/* /etc/ansible/
kubeasz目录里面包含所有安装的playbook

 

4) 下载二进制文件并解压
百度云盘地址 https://pan.baidu.com/s/1c4RFaA#list/path=%2F
tar包里面都是k8s docker的可执行文件
这里下载1-12的tar包并拷贝到kun01上

1
2

tar zxvf k8s.1-12-1.tar.gz
mv bin/* /etc/ansible/bin/

 

5.配置集群的参数

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27

cp /etc/ansible/example/hosts.m-masters.example /etc/ansible/hosts   ##拷贝模板

vim /etc/ansible/hosts

[deploy]
192.168.80.101 NTP_ENABLED=no

[etcd]
192.168.80.101 NODE_NAME=etcd1
192.168.80.102 NODE_NAME=etcd2
192.168.80.103 NODE_NAME=etcd3

[kube-master]
192.168.80.101
192.168.80.104

[lb]
192.168.80.101 LB_IF="ens33" LB_ROLE=master   #注意根据实际使用网卡设置
192.168.80.104 LB_IF="ens33" LB_ROLE=backup

[kube-node]
192.168.80.102
192.168.80.103

K8S_VER="v1.12"   ##版本

MASTER_IP="192.168.80.66"   ##指VIP

分步骤安装

1）创建证书和安装准备

1
2

cd /etc/ansible/
ansible-playbook 01.prepare.yml

 

2）安装etcd集群

1

ansible-playbook 02.etcd.yml

 

检查etcd节点健康状况：

1
2

bash   ##刚刚拷贝的执行文件还没生效
for ip in 101 102 103; do   ETCDCTL_API=3 etcdctl   --endpoints=https://192.168.80.${ip}:2379    --cacert=/etc/kubernetes/ssl/ca.pem   --cert=/etc/etcd/ssl/etcd.pem   --key=/etc/etcd/ssl/etcd-key.pem   endpoint health; done

3）安装docker

1

ansible-playbook 03.docker.yml

 

4）安装master节点

1

ansible-playbook 04.kube-master.yml

 

问题 连接不上vip

1

fatal: [192.168.80.101 -> 192.168.80.101]: FAILED! => {"attempts": 5, "changed": true, "cmd": ["/opt/kube/bin/kubectl", "get", "node"], "delta": "0:00:15.187609", "end": "2018-10-27 18:49:05.111291", "msg": "non-zero return code", "rc": 1, "start": "2018-10-27 18:48:49.923682", "stderr": "Unable to connect to the server: dial tcp 192.168.80.66:8443: connect: no route to host", "stderr_lines": ["Unable to connect to the server: dial tcp 192.168.80.66:8443: connect: no route to host"], "stdout": "", "stdout_lines": []}

解决 由于配置文件中的网卡写错导致节点上keepalived服务没起来

更改host文件

1
2

vim /etc/ansible/hosts
把LB_IF="eth33"改为LB_IF="ens33"

 

并在每个节点上修改keepalived配置并启动服务

1
2
3

vim /etc/keepalived/keepalived.conf
interface eth33改为interface ens33
systemctl start keepalived

 

查看集群状态

1

kubectl get cs

5）安装node节点

1

ansible-playbook 05.kube-node.yml

 

查看node节点

1

kubectl get no

6）部署集群网络

1

ansible-playbook 06.network.yml

 

查看kube-system namespace上的pod，从中可以看到flannel相关的pod

1

kubectl get pod -n kube-system

7）安装集群插件(dns, dashboard)

1

ansible-playbook 07.cluster-addon.yml

 

查看kube-system namespace下的服务

1

kubectl get svc -n kube-system

一步安装

1

ansible-playbook 90.setup.yml

 

查看集群信息

1

kubectl cluster-info

查看node/pod使用资源情况

1
2

kubectl top node 
kubectl top pod --all-namespaces

测试DNS

a）创建nginx service

1

kubectl run nginx --image=nginx --expose --port=80

 

b）创建busybox 测试pod

1
2
3
4
5
6

kubectl run busybox --rm -it --image=busybox /bin/sh //进入到busybox内部
nslookup nginx.default.svc.cluster.local //结果如下
Server: 10.68.0.2
Address: 10.68.0.2:53
Name: nginx.default.svc.cluster.local
Address: 10.68.9.156

 

增加node节点

1）deploy节点免密码登录node

1

ssh-copy-id 新node ip

 

2）修改/etc/ansible/hosts

1
2

[new-node]
172.7.15.117

 

3）执行安装脚本

1

ansible-playbook /etc/ansible/20.addnode.yml

 

4）验证

1
2

kubectl get node
kubectl get pod -n kube-system -o wide

 

5）后续工作
修改/etc/ansible/hosts，将new-node里面的所有ip全部移动到kube-node组里去

增加master节点

https://github.com/gjmzj/kubeasz/blob/master/docs/op/AddMaster.md

升级集群

1）备份etcd

1

ETCDCTL_API=3 etcdctl snapshot save backup.db

 

查看备份文件信息

1

ETCDCTL_API=3 etcdctl --write-out=table snapshot status backup.db

 

2）到本项目的根目录kubeasz

1

cd /dir/to/kubeasz

拉取最新的代码

1

git pull origin master

 

3）下载升级目标版本的kubernetes二进制包 百度网盘https://pan.baidu.com/s/1c4RFaA#list/path=%2F
解压，并替换/etc/ansible/bin/下的二进制文件

4）docker升级（略），除非特别需要，否则不建议频繁升级docker

5）如果接受业务中断，执行：

1

ansible-playbook -t upgrade_k8s,restart_dockerd 22.upgrade.yml

 

6）不能接受短暂中断，需要这样做：

1
2
3
4
5
6

ansible-playbook -t upgrade_k8s 22.upgrade.yml

到所有node上逐一：
kubectl cordon和kubectl drain //迁移业务pod
systemctl restart docker
kubectl uncordon //恢复pod

29.6 kubernetes集群备份和恢复

1）备份恢复原理：
备份，从运行的etcd集群中备份数据到磁盘文件
恢复，把etcd的备份文件恢复到etcd集群中，然后据此重建整个集群
2）如果使用kubeasz项目创建的集群，除了备份etcd数据外，还需要备份CA证书文件，以及ansible的hosts文件

手动操作步骤：

备份etcd数据和ca证书

1
2
3

mkdir -p /backup/k8s //创建备份目录
ETCDCTL_API=3 etcdctl snapshot save /backup/k8s/snapshot.db //备份etcd数据
cp /etc/kubernetes/ssl/ca* /backup/k8s/ //备份ca证书

 

模拟集群崩溃

1

ansible-playbook /etc/ansible/99.clean.yml

 

恢复步骤如下（在deploy节点）：

a）恢复ca证书

1
2

mkdir -p /etc/kubernetes/ssl
cp /backup/k8s/ca* /etc/kubernetes/ssl/

 

b）重建集群

1
2
3
4
5
6

cd /etc/ansible
ansible-playbook 01.prepare.yml
ansible-playbook 02.etcd.yml
ansible-playbook 03.docker.yml
ansible-playbook 04.kube-master.yml
ansible-playbook 05.kube-node.yml

 

c）恢复etcd数据
停止服务

1

ansible etcd -m service -a 'name=etcd state=stopped'

 

清空文件

1

ansible etcd -m file -a 'name=/var/lib/etcd/member/ state=absent'

 

登录所有的etcd节点，参照本etcd节点cat /etc/systemd/system/etcd.service的服务文件，替换如下中变量后执行

1
2

rsync -av /backup/ 192.168.80.102:/backup/
rsync -av /backup/ 192.168.80.103:/backup/

 

在kun01上

1
2
3
4
5
6
7

cd /backup/k8s/

ETCDCTL_API=3 etcdctl snapshot restore snapshot.db \
--name etcd1 \
--initial-cluster etcd1=https://192.168.80.101:2380,etcd2=https://192.168.80.102:2380,etcd3=https://192.168.80.103:2380 \
--initial-cluster-token etcd-cluster-0 \
--initial-advertise-peer-urls https://192.168.80.101:2380

 

在kun02上

1
2
3
4
5
6
7

cd /backup/k8s/

ETCDCTL_API=3 etcdctl snapshot restore snapshot.db \
--name etcd2 \
--initial-cluster etcd1=https://192.168.80.101:2380,etcd2=https://192.168.80.102:2380,etcd3=https://192.168.80.103:2380 \
--initial-cluster-token etcd-cluster-0 \
--initial-advertise-peer-urls https://192.168.80.102:2380

 

在kun03上

1
2
3
4
5
6
7

cd /backup/k8s/

ETCDCTL_API=3 etcdctl snapshot restore snapshot.db \
--name etcd3 \
--initial-cluster etcd1=https://192.168.80.101:2380,etcd2=https://192.168.80.102:2380,etcd3=https://192.168.80.103:2380 \
--initial-cluster-token etcd-cluster-0 \
--initial-advertise-peer-urls https://192.168.80.103:2380

 

执行上面的步骤后，/backup/k8s/里会生成etcd{1,2,3}.etcd目录并拷贝到/var/lib/etcd/下

在kun01上

1
2

cp -r etcd1.etcd/member /var/lib/etcd/
systemctl restart etcd

 

在kun02上

1
2

cp -r etcd2.etcd/member /var/lib/etcd/
systemctl restart etcd

 

在kun03上

1
2

cp -r etcd3.etcd/member /var/lib/etcd/
systemctl restart etcd

 

d）在deploy节点重建网络

1

ansible-playbook /etc/ansible/tools/change_k8s_network.yml

 

不想手动恢复，可以用ansible自动恢复

需要一键备份

1

ansible-playbook /etc/ansible/23.backup.yml

检查/etc/ansible/roles/cluster-backup/files目录下是否有文件

1
2
3
4
5
6
7
8
9
10
11
12
13
14

tree /etc/ansible/roles/cluster-backup/files/ //如下
├── ca # 集群CA 相关备份
│ ├── ca-config.json
│ ├── ca.csr
│ ├── ca-csr.json
│ ├── ca-key.pem
│ └── ca.pem
├── hosts # ansible hosts备份
│ ├── hosts # 最近的备份
│ └── hosts-201807231642
├── readme.md
└── snapshot # etcd 数据备份
├── snapshot-201807231642.db
└── snapshot.db # 最近的备份

 

模拟故障：

1

ansible-playbook /etc/ansible/99.clean.yml

 

修改文件/etc/ansible/roles/cluster-restore/defaults/main.yml，指定要恢复的etcd快照备份，如果不修改就是最新的一次

恢复操作

1
2

ansible-playbook /etc/ansible/24.restore.yml
ansible-playbook /etc/ansible/tools/change_k8s_network.yml
xiaoyuerp
关注
专栏目录
kubernetes系列3：核心概念详解
tilamisukaqibunuo的博客
08-23 389
kubernetes系列3：核心概念详解 1.master节点 Master节点是kubernetes集群中的控制节点，负责整个集群的管理和控制，master节点上运行着以下关键进程： kube-apiserver：提供了http REST接口的关键服务进程，是kubernetes里所有资源增删改查等操作的唯一入口，也是集群控制的入口进程。它是集群内各个功能模块之间数据交互和通信的中心枢纽，...
Kubernetes3——Pod生命周期、集群控制器
qwejiaji的博客
07-29 176
目录一、Pod生命周期二、init初始化三、存活探针livenessProbe四、就绪探针readinessProbe 一、Pod生命周期 和一个个独立的应用容器一样，Pod 也被认为是相对临时性（而不是长期存在）的实体。 Pod 会被创建、赋予一个唯一的 ID（UID），并被调度到节点，并在终止（根据重启策略）或删除之前一直运行在该节点。 如果一个节点死掉了，调度到该节点 的 Pod 也被计划在给定超时期限结束后删除。 Pod 自身不具有自愈能力。如果 Pod 被调度到某节点 而该节点之后失效，或者调度
Kubernetes 3 （Pod生命周期、探针、控制器）
qq_38664479的博客
09-27 252
目录一、Pod生命周期二、init初始化容器三、探针1.livenessProbe存活探针 一、Pod生命周期 简介： 1、Pod 可以包含多个容器，应用运行在这些容器里面，同时 Pod 也可以有一个或多个先于应用容器启动的 Init 容器。Init 容器与普通的容器非常像，除了如下两点： 它们总是运行到完成； Init 容器不支持 Readiness，因为它们必须在 Pod 就绪之前运行完成，每个 Init 容器必须运行成功，下一个才能够运行。 2、如果 Pod 的 Init 容器失败，Kubernete
【第一章】Kubernetes快速入门
最新发布
董坤的博客
08-28 938
Kubernetes是⼀个可移植、可扩展的 “分布式开源平台”，这个平台主要是⽤来管理我们运⾏的容器化应⽤，只不过这个平台它是⼀个分布式的，那Kubernetes这个分布式平台是如何实现的呢。Kubernetes是将多个OS节点组织在⼀起，构建出⼀个庞⼤的虚拟资源池，⽽后对⽤户提供操作该集群的接⼝，⽤户就可以通过Kubernetes提供的对应接⼝对容器进⾏增删查改等操作。所以对于⽤户⽽⾔，它⽆需关⼼Kubernetes底层是如何对容器进⾏的创建、⼜是如何调度到对应的节点。
kubernetes(3) kubernetes架构与工作流程介绍
迷途小书童的博客
08-17 576
kubernetes 组件 master k8s的master，也称为控制平面，用于控制整个k8s集群的整体运作状态。控制平面的唯一入口为API Server，它监听6443，接入api server的唯一入口就是api server主机的6443端口，为https协议。 Api server 默认情况下，需要做用户认证，而非客户端直接请求即可，而是需要双向认证：发送自己的证书给客户端验证，也要求客户端提供客户端证书，并且是api server自身信任的CA颁发的证书，才是api server认可的证书。
1.一键命令高级安装openshift的拍错总结
爱死亡机器人
01-10 3750
一．配置 [OSEv3:children] masters nodes etcd [OSEv3:vars] ansible_ssh_user=root # Ifansible_ssh_user is not root, ansible_become must be set to true #ansible_become=true openshift_deployment_type
Go-k3v作为专用的虚拟Kubernetes控制对面板运行
08-14
3. **RESTful API设计**：作为Web应用，k3v需要提供RESTful API供前端或者CLI工具调用。 4. **Web开发框架**：可能使用了如Gin、Echo等Go语言的Web框架来构建后端服务。 5. **模板引擎**：用于生成HTML页面，如...
kubernetes v1.23.3 源码包
02-17
Kubernetes v1.23.3 是一个重要的版本更新，它基于云原生技术，主要涉及容器编排、Docker 集成以及 Golang 实现。这个源码包提供了深入理解 Kubernetes 内部机制的机会，有助于开发者和运维人员优化集群管理、提升...
kubernetes rpm安装包
10-30
3. **kubectl**：这是Kubernetes的命令行接口，用于与集群进行交互，如创建、更新、删除资源对象（如Pods、Services、Deployments等）。 4. **apiserver**：作为Kubernetes API的服务器端实现，提供RESTful接口，...
Kubernetes圣经 THE KUBERNETES BIBLE 2023
04-17
2023年新出版的图书，全书680页主要详细讲述了使用多容器Pods和设计模式、使用ConfgMaps和Secrets设置你的Pods、使用服务展示您的Pods、管理Kubernetes中的命名空间、Kubernetes中的持久存储、运行生产级Kubernetes...
kubernetes
03-21
Kubernetes是一个开源的、用于自动部署、扩展和管理容器化应用程序的系统。它是由Google发起并捐赠给Cloud Native Computing Foundation（CNCF）来维护的。Kubernetes的主要目的是使部署容器化应用更加容易、快捷，...
python-httplib2-0.9.1-2.el7.noarch(2).rpm
12-04
官方离线安装包，亲测可用
python-httplib2-0.9.1-2.el7.noarch.rpm
12-04
官方离线安装包，亲测可用
openstack
weixin_34356555的博客
04-18 218
实验环境系统：CentOS-7-x86_64-DVD-1804实验环境：vmware hostname ip 功能 controller 192.168.80.100 管理节点 compute01 192.168.80.101 计算节点 一、环境设置 1、安装必要软件：yum install -y vim net-tools wget telnet 2、修改主机名...
Kubernetes 使用 Rancher 管理
低温热源的博客
08-20 875
Rancher 和 k8s 的区别 Rancher 和 k8s 都是用来作为容器的调度与编排系统。但是 rancher 不仅能够管理应用容器，更重要的一点是能够管理 k8s 集群。 Rancher2.x 底层基于 k8s 调度引擎，通过 Rancher 的封装，用户可以在不熟悉 k8s 概念的情况下轻松的通过 Rancher 来部署容器到k8s集群当中。Rancher 和 k8s 的区别 Rancher 和 k8s 都是用来作为容器的调度与编排系统。但是 rancher 不仅能够管理应用容器，更重要的一点是
etcd备份恢复原理详解及踩坑实录
东东儿的博客
06-23 4176
etcd备份恢复方案及原理介绍
kubeasz问题-FAILED - RETRYING: 轮询等待node达到Ready状态
大数据
04-17 1598
TASK [kube-node : 轮询等待kubelet启动] *********************************************************************************************************************************************************** FAILED - RETRYING: 轮询等待kubelet启动 (4 retries left). FAILED - RETRY..
kubelet 无法启动排查
weixin_44772835的博客
02-01 2871
kubelet 无法启动排查
CentOS7 AltArch aarch64环境kubeasz flannel : 轮询等待flannel 运行，视下载镜像速度而定
hknaruto的专栏
09-01 962
故障 TASK [flannel : 检查是否已下载离线flannel镜像] ****************************************************************************************************************** changed: [192.168.111.193] TASK [flannel : 尝试推送离线docker 镜像（若执行失败，可忽略）] ****************************
Kubernetes容器引擎详解
3. 控制面组件：Kubernetes的控制面负责管理和调度Pod，其中包括API服务器、etcd（持久化数据存储）、控制器和调度器等关键组件。 4. 工作节点：工作节点是实际运行Pod的机器，它们包含Kubelet（负责与控制面通信并...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值