service mysql k8s_Kubernetes部署MySQL主从服务

最新推荐文章于 2023-05-14 16:47:09 发布

沁蓝chen

最新推荐文章于 2023-05-14 16:47:09 发布

阅读量105

点赞数

文章标签： service mysql k8s

本文链接：https://blog.csdn.net/weixin_30019895/article/details/113999098

版权

原标题：Kubernetes部署MySQL主从服务

一般情况下Kubernetes可以通过ReplicaSet以一个Pod模板创建多个Pod副本，但是它们都是无状态的，任何时候它们都可以被一个全新的Pod替换。然而有状态的Pod需要另外的方案确保当一个有状态的Pod挂掉后，这个Pod实例需要在别的节点上重建，但是新的实例必须与被替换的实例拥有相同的名称、网络标识和状态。这就是StatefulSet管理Pod的手段。

对于容器集群，有状态服务的挑战在于，通常集群中的任何节点都并非100%可靠的，服务所需的资源也会动态地更新改变。当节点由于故障或服务由于需要更多的资源而无法继续运行在原有节点上时，集群管理系统会为该服务重新分配一个新的运行位置，从而确保从整体上看，集群对外的服务不会中断。若采用本地存储，当服务漂移后数据并不会随着服务转移到新的节点，重启服务就会出现数据丢失的困境。

本文目的是通过一个MySQL的主从集群搭建，深入了解Kubernetes的StatfulSet管理。为了降低实验的外部依赖，存储层面上，我采用的是本地存储，当然生产上不建议这样做，生产环境的存储推荐官方介绍到的的GCE、NFS、Ceph等存储方案，因为这些方案支持动态供给的特性，允许开发人员通过PVC的定义，快速实现数据有效存储，所以你绝不应该把一个宿主机上的目录当作PV使用，只是本文用于实验需要，采用Local Persistent Volume的手段，目的只是为了验证StatefulSet的状态管理功能。

实验环境

Kubernetes Master

Kubernetes Node (测试演示，所有的副本都会在其上运行)

Kubernetes DNS服务已开启

实验目的

搭建一个主从复制(Master-Slave)的MySQL集群

从节点可以水平扩展

所有的写操作只能在主节点上执行

读操作可以在主从节点上执行

从节点能同步主节点的数据

本地存储原理

为了快速搭建测试环境，我们这里使用了本地存储，也就是说，用户希望Kubernetes能够直接使用宿主机上的本地磁盘目录，而不依赖于远程存储服务，来提供持久化的容器Volume。不过这里有个难点：

我们把存储固定在一个节点上，但是Pod在调度的时候，是飘来飘去的，怎么能让Pod通过PVC也能固定在PVC上？

给这个Pod加上一个nodeAffinity行不行？

当然行，但是这变相破坏了开发人员对资源对象的定义规范了，开发人员应该不需要时刻考虑调度的细节。调度的改动应该交给运维就行。所以我们为了实现本地存储，我们采用了延迟绑定的方法。方法很简单，我们都知道StorageClass一般由运维人员设计，我们只需要在StorageClass指定no-provisioner。这是因为Local Persistent Volume目前尚不支持Dynamic Provisioning，所以它没办法在用户创建PVC的时候，就自动创建出对应的PV。与此同时，这个StorageClass还定义了一个volumeBindingMode=WaitForFirstConsumer的属性。它是Local Persistent Volume里一个非常重要的特性，即：延迟绑定。

kind: StorageClass

apiVersion: storage.k8s.io/v1

metadata:

provisioner: kubernetes.io/no-provisioner

volumeBindingMode: WaitForFirstConsumer

实验步骤

一、先在Node (实验用的Node节点IP是172.31.170.51 )节点上，预先分配几个PV(不建议在生产上这样操作)

01-persistentVolume-1.yaml

apiVersion: v1

kind: PersistentVolume

metadata:

spec:

capacity:

storage: 15Gi

volumeMode: Filesystem

accessModes:

- ReadWriteOnce

persistentVolumeReclaimPolicy: Delete

storageClassName: local-storage

local:

path: /data/svr/projects/mysql

nodeAffinity:

required:

nodeSelectorTerms:

- matchExpressions:

- key: kubernetes.io/hostname

operator: In

values:

- 172.31.170.51

01-persistentVolume-2.yaml

apiVersion: v1

kind: PersistentVolume

metadata:

spec:

capacity:

storage: 15Gi

volumeMode: Filesystem

accessModes:

- ReadWriteOnce

persistentVolumeReclaimPolicy: Delete

storageClassName: local-storage

local:

path: /data/svr/projects/mysql2

nodeAffinity:

required:

nodeSelectorTerms:

- matchExpressions:

- key: kubernetes.io/hostname

operator: In

values:

- 172.31.170.51

01-persistentVolume-3.yaml

apiVersion: v1

kind: PersistentVolume

metadata:

spec:

capacity:

storage: 15Gi

volumeMode: Filesystem

accessModes:

- ReadWriteOnce

persistentVolumeReclaimPolicy: Delete

storageClassName: local-storage

local:

path: /data/svr/projects/mysql3

nodeAffinity:

required:

nodeSelectorTerms:

- matchExpressions:

- key: kubernetes.io/hostname

operator: In

values:

- 172.31.170.51

记住，这是在生产上不推荐的做法，我只是实验用途才这样手动预先创建，正规的做法应该通过StorageClass采用Dynamic Provisioning，而不是Static Provisioning机制生产PV。

kubectl apply -f 01-persistentVolume-{1..3}.yaml

persistentvolume/example-mysql-pv1 created

persistentvolume/example-mysql-pv2 created

persistentvolume/example-mysql-pv3 created

二、创建StorageClass

02-storageclass.yaml

kind: StorageClass

apiVersion: storage.k8s.io/v1

metadata:

provisioner: kubernetes.io/no-provisioner

volumeBindingMode: WaitForFirstConsumer

执行创建：

kubectl apply -f 02-storageclass.yaml

storageclass.storage.k8s.io/ local-storage created

三、创建Namespace

03-mysql-namespace.yaml

apiVersion: v1

kind: Namespace

metadata:

labels:

app: mysql

执行创建：

kubectl apply -f 03-mysql-namespace.yaml

namespace/mysql created

四、使用ConfigMap为Master/Slave节点分配不同的配置文件

04-mysql-configmap.yaml

apiVersion: v1

kind: ConfigMap

metadata:

namespace: mysql

labels:

app: mysql

data:

master.cnf: |

# Master配置

[mysqld]

log-bin=mysqllog

skip-name-resolve

slave.cnf: |

# Slave配置

[mysqld]

super-read-only

skip-name-resolve

log-bin=mysql-bin

replicate-ignore-db=mysql

创建执行：

kubectl apply -f 04-mysql-configmap.yaml

configmap/mysql created

五、创建MySQL密码Secret

05-mysql-secret.yaml

创建执行：

kubectl apply -f 05-mysql-secret.yaml

secret/mysql-secret created

六、使用Service为MySQL提供读写分离

06-mysql-services.yaml

apiVersion: v1

kind: Service

metadata:

namespace: mysql

labels:

app: mysql

spec:

ports:

- name: mysql

port: 3306

clusterIP: None

selector:

app: mysql

---

apiVersion: v1

kind: Service

metadata:

namespace: mysql

labels:

app: mysql

spec:

ports:

- name: mysql

port: 3306

selector:

app: mysql

用户所有写请求，必须以DNS记录的方式直接访问到Master节点，也就是mysql-0.mysql这条DNS记录。

用户所有读请求，必须访问自动分配的DNS记录可以被转发到任意一个Master或Slave节点上，也就是mysql-read这条DNS记录。

kubectl apply -f 06-mysql-services.yaml

$ kubectl get svc -n mysql

NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE

mysql ClusterIP None 3306/TCP 20s

mysql-read ClusterIP 10.0.0.63 3306/TCP 20s

七、使用StatefulSet搭建MySQL主从集群

07-mysql-statefulset.yaml

整体的StatefulSet有两个Replicas，一个Master，一个Slave，然后使用init-mysql这个initContainers进行配置文件的初始化。接着使用clone-mysql这个initContainers进行数据的传输；同时使用xtrabackup这个sidecar容器进行SQL初始化和数据传输功能。

创建 StatefulSet：

kubectl apply -f 07-mysql-statefulset.yaml

$ kubectl get po -n mysql

NAME READY STATUS RESTARTS AGE

mysql-0 2/2 Running 0 70s

mysql-1 0/2 Pending 0 5s

可以看到，StatefulSet启动成功后，会有两个Pod运行。

接下来，我们可以尝试向这个MySQL集群发起请求，执行一些SQL操作来验证它是否正常。

服务验证

验证主从状态：

接下来，我们通过Master容器创建数据库和表、插入数据库。

然后，我们观察Slave节点是否都同步到数据了。