k8s部署有状态服务mysql_Kubernetes部署本地有状态mysql主从服务【转】

一般情况下Kubernetes可以通过ReplicaSet以一个Pod模板创建多个pod副本，但是它们都是无状态的，任何时候它们都可以被一个全新的pod替换。然而有状态的pod需要另外的方案确保当一个有状态的pod挂掉后，这个pod实例需要在别的节点上重建，但是新的实例必须与被替换的实例拥有相同的名称、网络标识和状态。这就是Statefulset管理pod的手段。

对于容器集群，有状态服务的挑战在于，通常集群中的任何节点都并非100%可靠的，服务所需的资源也会动态地更新改变。当节点由于故障或服务由于需要更多的资源而无法继续运行在原有节点上时，集群管理系统会为该服务重新分配一个新的运行位置，从而确保从整体上看，集群对外的服务不会中断。若采用本地存储，当服务漂移后数据并不会随着服务转移到新的节点，重启服务就会出现数据丢失的困境。

本文目的是通过一个mysql的主从集群搭建，深入了解kubernetes的statfulset管理。为了降低实验的外部依赖，存储层面上，我采用的是本地存储，当然生产上不建议这样做，生产环境的存储推荐官方介绍到的的gce、nfs、ceph等存储方案，因为这些方案支持动态供给的特性，允许开发人员通过pvc的定义，快速实现数据有效存储，所以你绝不应该把一个宿主机上的目录当作 PV 使用， 只是本文用于实验需要，采用Local Persistent Volume的手段，目的只是为了验证Statefulset的状态管理功能。

实验环境

kubernetes Master

kubernetes Node (测试演示，所有的副本都会在其上运行)

kubernetes DNS服务已开启

实验目的

搭建一个主从复制(Master-Slave)的MySQL 集群

从节点可以水平扩展

所有的写操作只能在主节点上执行

读操作可以在主从节点上执行

从节点能同步主节点的数据

本地存储原理

为了快速搭建测试环境，我们这里使用了本地存储，也就是说，用户希望 Kubernetes 能够直接使用宿主机上的本地磁盘目录，而不依赖于远程存储服务，来提供持久化的容器 Volume。不过这里有个难点：

我们把存储固定在一个节点上，但是pod在调度的时候，是飘来飘去的，怎么能让pod通过pvc也能固定在pv上？

给这个 Pod 加上一个 nodeAffinity 行不行？

当然行，但是这变相破坏了开发人员对资源对象的定义规范了，开发人员应该不需要时刻考虑调度的细节。调度的改动应该交给运维就行。所以我们为了实现本地存储，我们采用了 延迟绑定 的方法。方法很简单，我们都知道 storageclass 一般由运维人员设计，我们只需要在storageclass 指定 no-provisioner。这是因为 Local Persistent Volume 目前尚不支持 Dynamic Provisioning，所以它没办法在用户创建 PVC 的时候，就自动创建出对应的 PV。与此同时，这个 StorageClass 还定义了一个 volumeBindingMode=WaitForFirstConsumer 的属性。它是 Local Persistent Volume 里一个非常重要的特性，即：延迟绑定

kind: StorageClass

apiVersion: storage.k8s.io/v1

metadata:

name: local-storage

provisioner: kubernetes.io/no-provisioner

volumeBindingMode: WaitForFirstConsumer

实验步骤

一、先在node (实验用的node节点IP是172.31.170.51 )节点上，预先分配几个pv (不建议在生产上这样操作)

01-persistentVolume-1.yaml

apiVersion: v1

kind: PersistentVolume

metadata:

name: example-mysql-pv

spec:

capacity:

storage: 15Gi

volumeMode: Filesystem

accessModes:-ReadWriteOnce

persistentVolumeReclaimPolicy: Delete

storageClassName: local-storage

local:

path:/data/svr/projects/mysql

nodeAffinity:

required:

nodeSelectorTerms:-matchExpressions:- key: kubernetes.io/hostnameoperator: In

values:- 172.31.170.51

01-persistentVolume-2.yaml

apiVersion: v1

kind: PersistentVolume

metadata:

name: example-mysql-pv-2spec:

capacity:

storage: 15Gi

volumeMode: Filesystem

accessModes:-ReadWriteOnce

persistentVolumeReclaimPolicy: Delete

storageClassName: local-storage

local:

path:/data/svr/projects/mysql2

nodeAffinity:

required:

nodeSelectorTerms:-matchExpressions:- key: kubernetes.io/hostnameoperator: In

values:- 172.31.170.51

01-persistentVolume-3.yaml

记住，这是在生产上不推荐的做法，我只是实验用途才这样手动预先创建，正规的做法应该通过storageclass采用 Dynamic Provisioning， 而不是 Static Provisioning机制生产PV。

二、创建 StorageClass

02-storageclass.yaml

执行创建

三、创建Namespace

03-mysql-namespace.yaml

执行创建

四、使用 ConfigMap 为 Master/Slave 节点分配不同的配置文件

04-mysql-configmap.yaml

创建执行

五、创建mysql密码Secret

05-mysql-secret.yaml

创建执行

六、使用 Service 为 MySQL 提供读写分离

06-mysql-services.yaml

用户所有写请求，必须以 DNS 记录的方式直接访问到 Master 节点，也就是 mysql-0.mysql 这条 DNS 记录。

用户所有读请求，必须访问自动分配的 DNS 记录可以被转发到任意一个 Master 或 Slave 节点上，也就是 mysql-read 这条 DNS 记录

七、使用 StatefulSet 搭建 MySQL 主从集群

07-mysql-statefulset.yaml