Kubernetes 数据存储

容器生命周期可能很短，会被频繁的创建和销毁。销毁时，保存在容器中的数据也会被清除。为了持久化容器的数据，kubernetes引入了Volume的概念。

Volume是Pod中能够被多个容器访问的共享目录，它被定义在Pod上，然后被一个Pod里的多个容器挂载到具体的文件目录下，kubernetes通过Volume实现同一个Pod中不同容器之间的数据共享以及数据的持久化存储。Volume的生命容器不与Pod中的单个容器的生命周期相关，当容器终止挥着重启时，Volume中的数据也不会丢失。

kubernetes的Volume支持多种类型：

• 简单存储：EmptyDir、HostPath、NFS
• 高级存储：PV、PVC
• 配置存储：ConfigMap、Secret

EmptyDir

EmptyDir是最基础的Volume类型，一个EmptyDir就是Host上的一个空目录。

EmptyDir是在Pod分配到Node时创建的，他的初始内容为空，并且无须指定宿主机上对应的目录文件，因为kubernetes会自动分配一个目录，当Pod销毁时，EmptyDir中的数据也会被永久删除。EmptyDir的用途如下：

• 临时空间，例如用于某些应用程序运行时所需的临时目录，且无须永久保留。
• 一个容器需要从另一个容器中获取数据的目录（多容器共享目录）。

在一个pod中准备两个容器nginx和busybox，然后声明一个Volume分别挂在两个容器的目录中，然后nginx容器负责向Volume中写日志，busybox通过命令将日志内容读到控制台。

 创建一个volume-emptydir.yaml

apiVersion: v1
kind: Pod
metadata:
  name: volume-emptydir
  namespace: dev
spec:
  containers:
   - name: nginx
     image: nginx:1.17.1
     ports:
      - containerPort: 80
     volumeMounts:   #将logs-volume挂在nginx容器中，对应的目录为/var/log/nginx
      - name: logs-volume
        mountPath: /var/log/nginx
   - name: busybox
     image: busybox:1.30
     command: ["/bin/sh","-c","tail -f /logs/access.log"] #初始化命令，动态读取指定文件中内容
     volumeMounts:  #将logs-volume挂在busybox容器中，对应的目录为/logs
      - name: logs-volume
        mountPath: /logs
  volumes:    #声明volume，name为logs-volume，类型为emptyDir
    - name: logs-volume
      emptyDir: {}

 创建Pod

kubectl create -f volume-emptydir.yaml

查看pod

kubectl get podss volume-emptydir -n dev -o wide

通过kubectl logs查看指定容器的标准输出

kubectl logs -f volume-emptydir -n dev -c busybox

HostPath

EmptyDir中的数据不会被持久化，他会随着pod的结束而销毁，如果想简单的将数据持久化到主机中，可以选择HostPath。

HostPath就是将Node主机中的一个实际目录挂在Pod中，以供容器使用，这样的设计就可以保证Pod销毁了，但是数据可以存在Node主机上。

创建一个volume-hostpath.yaml

apiVersion: v1
kind: Pod
metadata:
  name: volume-emptydir
  namespace: dev
spec:
  containers:
   - name: nginx
     image: nginx:1.17.1
     ports:
      - containerPort: 80
     volumeMounts:   #将logs-volume挂在nginx容器中，对应的目录为/var/log/nginx
      - name: logs-volume
        mountPath: /var/log/nginx
   - name: busybox
     image: busybox:1.30
     command: ["/bin/sh","-c","tail -f /logs/access.log"] #初始化命令，动态读取指定文件中内容
     volumeMounts:  #将logs-volume挂在busybox容器中，对应的目录为/logs
      - name: logs-volume
        mountPath: /logs
  volumes:    #声明volume，name为logs-volume，类型为HostPath
    - name: logs-volume
      hostPath:
        path: /root/logs
        type: DirectoryOrCreate  #目录存在就使用，不存在就创建后使用

关于type的值的说明

DirectoryOrCreate：目录存在就使用，不存在就先创建后使用

Directory：目录必须存在

FileOrCreate：文件存在就使用，不存在就创建后使用

Socket：unix套接字必须存在

CharDevice：字符设备必须存在

BlockDevice：块设备必须存在

创建

kubectl create -f volume-hostpath.yaml

查看pod信息，查看pod所在的Node节点，请求pod资源查看是否有/root/logs下有文件生成

kubectl get pods volume-hostpath -n dev -o wide

删除pod，/root/logs路径下文件依然存在

kubectl delete -f volume-hostpath.yaml

NFS

HostPath可以解决数据持久化的问题，但是一旦Node节点故障了，Pod如果转移到了别的节点，又会出现问题了，此时需要准备单独的网络存储系统，比较常用的是NFS、CIFS

NFS是一个网络文件存储系统，可以搭建一台NFS服务器，然后将Pod中的存储直接连接到NFS系统上，这样的话，无论Pod在节点上怎么转移，只要Node跟NFS的对接没问题，数据就可以成功访问。

1.首先准备nfs服务器，这里用master当nfs服务器

#安装nfs-utils
yum install nfs-utils -y

#准备一个共享目录
mkdir /root/data/nfs -pv

#将共享目录以读写权限暴露给192.168.225.0/24网段中的所有主机
vim /etc/exports
#增加如下内容
/root/data/nfs  192.168.225.0/24(rw,no_root_squash)

#启动nfs服务
systemctl start nfs

 2.在每个node节点上都安装nfs，这样的目的是为了node节点上可以驱动nfs设备

yum install nfs-utils -y

3.编写volume-nfs.yaml 文件

apiVersion: v1
kind: Pod
metadata:
  name: volume-nfs
  namespace: dev
spec:
  containers:
   - name: nginx
     image: nginx:1.17.1
     ports:
      - containerPort: 80
     volumeMounts:   #将logs-volume挂在nginx容器中，对应的目录为/var/log/nginx
      - name: logs-volume
        mountPath: /var/log/nginx
   - name: busybox
     image: busybox:1.30
     command: ["/bin/sh","-c","tail -f /logs/access.log"] #初始化命令，动态读取指定文件中内容
     volumeMounts:  #将logs-volume挂在busybox容器中，对应的目录为/logs
      - name: logs-volume
        mountPath: /logs
  volumes:    #声明volume，name为logs-volume，类型为nfs
    - name: logs-volume
      nfs:
        server: 192.168.225.100 #nfs服务器地址
        path: /root/data/nfs #共享文件路径

4.运行pod

#创建pod
kubectl create -f volume-nfs.yaml
#查看pod信息
kubectl get pods volume-nfs -n dev -o wide

5.验证

查看/root/data/nfs路径下是否有文件

PV和PVC

由于NFS要求用户会搭建NFS系统，并且会在yaml配置nfs，kubernetes引入了PV和PVC两种资源对象。

PV（Persistent Volume）是持久化卷的意思，是对底层共享存储的一种抽象。一般情况下PV由kubernetes管理员进行创建和配置，它与底层具体的共享存储技术有关，并通过插件完成与共享存储的对象。

PVC（Persistent Volume Claim）是持久卷声明的意思，是用户对于存储需求的一种声明。PVC其实就是用户向kubernetes系统发出的一种资源需求申请。

使用了PV和PVC之后，工作可以得到进一步的细分：

• 存储：存储工程师维护
• PV：kubernetes管理员维护
• PVC：kubernetes用户维护

PV

PV是存储资源的抽象，下面是资源清单文件

apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv2
spec:
  nfs: #存储类型，与底层真正存储对应，有可能是其他类型CIFS或者其他的
  capacity:  #存储能力，目前只支持存储空间的设置
    storage: 20Gi
  accessModes:  #访问模式
  storageClassName:  #存储类别
  persistentVolumeReclaimPolicy: #回收策略

PV关键配置参数说明：

存储类型（storageClassName）

底层实际存储的类型，kubernetes支持多种存储类型，每种存储类型的配置都有所差异。

存储能力（capacity）

目前只支持存储空间的设置（storage=1Gi），不过未来可能会加入IOPS，吞吐量等指标的配置。

访问模式（accessModes）

用于描述用户应用对存储资源的访问权限，访问权限包括下面几种方式（底层不同的存储类型可能支持的访问模式不同）：

• ReadWriteOnce（RWO）：读写权限，但是只能被单个节点挂载
• ReadOnlyMany（ROX）：只读权限，可以被多个节点挂载
• ReadWriteMany（RWX）：读写权限，可以被多个节点挂载

回收策略（persistentVolumeReclaimPolicy）

当PV不再被使用了之后，对其的处理方式，目前支持三种策略（底层不同的存储类型可能支持的回收策略不同）：

• Retain（保留）：保留数据，需要管理员手工清理数据
• Recycle（回收）：清除PV中的数据，效果相当于执行rm -rf /thevolume/*
• Delete（删除）：与PV相连的后端存储完成volume的删除操作，当然这常见于云服务商的存储服务。

存储类型

PV 可以通过storageClassName参数指定一个存储类型：

• 具有特定类别的PV只能与请求了该类别的PVC进行绑定。
• 未设定类别的PV则只能与不请求任何类别的PVC进行绑定。

状态

一个PV的生命周期中，可能处于4种不同的阶段：

• Available（可用）：表示可用状态，还未被任何PVC绑定
• Bound（已绑定）：表示PV已经被PVC绑定
• Released（已释放）：表示PVC被删除，但是资源还未被集群重新声明
• Failed（失败）：表示该PV的自动回收失败

PV案例

使用NFS作为存储，来演示PV的使用，创建3个PV，对应NFS中的3个暴露的路径。

1.准备NFS环境

#创建目录
mkdir /root/data/{pv1,pv2,pv3} -pv

#暴露服务
vi /etc/exports
#增加如下内容
/root/data/pv1 192.168.225.0/24(rw,no_root_squash)
/root/data/pv2 192.168.225.0/24(rw,no_root_squash)
/root/data/pv3 192.168.225.0/24(rw,no_root_squash)

#重启服务
systemctl restart nfs

2.创建pv.yaml

apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv1
spec:
  capacity:  
    storage: 1Gi
  accessModes:  
    - ReadWriteMany
  persistentVolumeReclaimPolicy: Retain
  nfs:
    path: /root/data/pv1
    server: 192.168.225.100

---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv2
spec:
  capacity:  
    storage: 2Gi
  accessModes:  
    - ReadWriteMany
  persistentVolumeReclaimPolicy: Retain
  nfs:
    path: /root/data/pv2
    server: 192.168.225.100

---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv3
spec:
  capacity:  
    storage: 3Gi
  accessModes:  
    - ReadWriteMany
  persistentVolumeReclaimPolicy: Retain
  nfs:
    path: /root/data/pv3
    server: 192.168.225.100

3.创建pv

#创建pv
kubectl create -f pv.yaml

#查看pv
kubectl get pv -o wide

PVC

PVC作为存储资源申请，主要用来声明存储空间，访问模式、存储类别等关键信息。下面是资源清单文件：

apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: pvc
  namespace: dev
spec:
  accessModes: #访问模式
  selector: #采用标签对PV选择
  storageClassName： #存储类别
  resources: #请求空间
    requests:
      storage: 5Gi

PVC的关键配置参数说明：

访问模式（accessModes）

用于描述用户对存储资源的访问权限。

选择条件（selector）

通过Label Selector的设置，可使PVC对于系统中已存在的PV进行筛选。

存储类别（storageClassName）

PVC在定义时可以设定需要的后端存储的类别，只有设置了该class的pv才能被系统选出。

资源请求（resources）

描述对存储资源的请求。

PVC案例

1.创建pvc.yaml文件

apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: pvc1
  namespace: dev
spec:
  accessModes:
    - ReadWriteMany  
  resources: 
    requests:
      storage: 1Gi
---
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: pvc2
  namespace: dev
spec:
  accessModes:
    - ReadWriteMany  
  resources: 
    requests:
      storage: 1Gi
---
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: pvc3
  namespace: dev
spec:
  accessModes:
    - ReadWriteMany  
  resources: 
    requests:
      storage: 1Gi

2.创建pvc

#创建
kubectl create -f pvc.yaml

查看pvc信息
kubectl get pvc -n dev

3.创建pods.yaml文件，使用pv

apiVersion: v1
kind: Pod
metadata:
  name: pod1
spec:
  containers:
    - name: busybox
      image: busybox:1.30
      command: ["/bin/sh","-c","while true; do echo pod1 >> /root/out.txt; sleep 10; done;"]
      volumeMounts:
        - name: volume
          mountPath: /root/
   volumes:
     - name: volume
       persistentVolumeClaim:
          claimName: pvc1
          readOnly: false
---
apiVersion: v1
kind: Pod
metadata:
  name: pod2
spec:
  containers:
    - name: busybox
      image: busybox:1.30
      command: ["/bin/sh","-c","while true; do echo pod2 >> /root/out.txt; sleep 10; done;"]
      volumeMounts:
        - name: volume
          mountPath: /root/
   volumes:
     - name: volume
       persistentVolumeClaim:
          claimName: pvc2
          readOnly: false
---
apiVersion: v1
kind: Pod
metadata:
  name: pod3
spec:
  containers:
    - name: busybox
      image: busybox:1.30
      command: ["/bin/sh","-c","while true; do echo pod3 >> /root/out.txt; sleep 10; done;"]
      volumeMounts:
        - name: volume
          mountPath: /root/
   volumes:
     - name: volume
       persistentVolumeClaim:
          claimName: pvc3
          readOnly: false

4.创建pod

#创建
kubectl create -f pods.yaml

#查看pod信息
kubectl get pods -n dev

#最后查看NFS对应的路径是否存在文件
cd /root/data/pv1

PV和PVC的生命周期

PVC和PV是一一对应的，PV和PVC之间的相互作用遵循以下的生命周期：

资源供应：管理员手动创建底层存储和PV

资源绑定：用户创建PVC，kubernetes负责根据PVC的声明去寻找PV，并绑定在用户定义好PVC之后，系统将根据PVC对存储资源的请求在已存在的PV中选择一个满足条件的：

• 一旦找到，就将该PV与用户定义的PVC进行绑定，用户的应用就可以使用这个PVC了；
• 如果找不到，PVC则会无限期处于Pending状态，直到等到系统管理员创建了一个符合其要求的PV。

PV一旦绑定到某个PVC上，就会被这个PVC独占，不能再与其他的PVC进行绑定。

资源使用：用户可以再pod中像volume一样使用pvc。Pod使用Volume的定义，将PVC挂载到容器内的某个路径进行使用。

资源释放：用户删除pvc来释放pv。当存储资源使用完毕后，用户可以删除PVC，与该PVC绑定的PV将会被标记为已释放，但是不能立即与其他的PVC进行绑定，通过之前PVC写入的数据可能还被留在存储设备上，只有在清除之后该PV才能再次使用。

资源回收：kubernetes根据pv设置的回收策略进行资源回收。对于PV来说，管理员可以设定回收策略，用于设置与之绑定的PVC释放资源之后如何处理遗留数据的问题，只有PV的存储空间完成回收，才能供新的PVC绑定和使用。

ConfigMap

ConfigMap是一种比较特殊的存储卷，他的主要作用是用来存储配置信息的。

创建configmap.yaml，内容如下

apiVersion: v1
kind: ConfigMap
metadata:
  name: configmap
data:
  info:
    username: admin
    password: 123456

创建configmap

#创建configmap
kubectl create -f configmap.yaml

#查看configmap信息
kubectl describe cm configmap -n dev

创建一个pod-configmap.yaml 文件，将上面创建的configmap挂载进去

apiVersion: v1
kind: Pod
metadata:
  name: pod-config
spec:
  containers:
    - name: nginx
      image: nginx:1.17.1
      volumeMounts:
        - name: config
          mountPath: /configmap/config
   volumes:
     - name: config
       configMap:
         name: configmap

创建pod

kubectl create -f pod-configmap.yaml

查看pod

kubectl get pods pod-configmap -n dev

进入容器

kubectl exec -it pod-configmap /bin/sh

#查看挂载的目录是否存在了
cd /configmap/config

注意：configmap配置的key映射称文件名  value是文件的内容，如果更新configmap中的内容，容器中的值也会动态的更新。

Secret

和ConfigMap类似，主要用于存储敏感信息，如密码、密钥、证书等。

首先使用base64对数据进行编码

#准备username
echo -n 'admin' | base64
YWRtaW4=

#准备password
echo -n '123456' | base64
MTIzNDU2

编写secret.yaml文件，并创建Secret

apiVersion: v1
kind: Secret
metadata:
  name: secret
  namespace: dev
type: Opaque
data:
  username: YWRtaW4=
  password: MTIzNDU2

创建secret

kubectl create -f secret.yaml

查看secret信息

kubectl describe secret secret -n dev

创建pod-secret.yaml，将上面创建的secret挂载进去

apiVersion: v1
kind: Pod
metadata:
  name: pod-secret
spec:
  containers:
    - name: nginx
      image: nginx:1.17.1
      volumeMounts:
        - name: config
          mountPath: /secret/config
   volumes:
     - name: config
       secret:
         secretName: secret

 创建pod

kubectl create -f pod-secret.yaml

查看pod

kubectl get pods pod-secret -n dev

进入容器

kubectl exec -it pod-secret/bin/sh

#查看挂载的目录是否存在了
cd /secret/config

#查看secret信息，发现已经自动解码了
more username
admin

more password
123456