K8s（10）——kubernetes之存储管理-Volumes配置管理

---

前言

volumes参考链接

1、Volumes简介

• 容器中的文件在磁盘上是临时存放的，这给容器中运行的特殊应用程序带来一些问题。首先，当容器崩溃时，kubelet 将重新启动容器，容器中的文件将会丢失,因为容器会以干净的状态重建。其次，当在一个 Pod 中同时运行多个容器时，常常需要在这些容器之间共享文件。 Kubernetes 抽象出 Volume 对象来解决这两个问题。

• Kubernetes 卷具有明确的生命周期,与包裹它的 Pod 相同。 因此，卷比 Pod 中运行的任何容器的存活期都长，在容器重新启动时数据也会得到保留。 当然，当一个 Pod 不再存在时，卷也将不再存在。也许更重要的是，Kubernetes 可以支持许多类型的卷，Pod 也能同时使用任意数量的卷。

• 卷不能挂载到其他卷，也不能与其他卷有硬链接。 Pod 中的每个容器必须独立地指定每个卷的挂载位置。

• Kubernetes 支持下列类型的卷：
  awsElasticBlockStore 、azureDisk、azureFile、cephfs、cinder、configMap、csi
  downwardAPI、emptyDir、fc (fibre channel)、flexVolume、flocker
  gcePersistentDisk、gitRepo (deprecated)、glusterfs、hostPath、iscsi、local、
  nfs、persistentVolumeClaim、projected、portworxVolume、quobyte、rbd
  scaleIO、secret、storageos、vsphereVolume

2、emptyDir卷

2.1 emptyDir卷说明

当 Pod 分派到某个 Node 上时，emptyDir 卷会被创建，并且在 Pod 在该节点上运行期间，卷一直存在。 就像其名称表示的那样，卷最初是空的。 尽管 Pod 中的容器挂载 emptyDir 卷的路径可能相同也可能不同，这些容器都可以读写 emptyDir 卷中相同的文件。 当 Pod 因为某些原因被从节点上删除时，emptyDir 卷中的数据也会被永久删除。

说明： 容器崩溃并不会导致 Pod 被从节点上移除，因此容器崩溃期间 emptyDir 卷中的数据是安全的。
emptyDir 的一些用途：

• 缓存空间，例如基于磁盘的归并排序。
• 为耗时较长的计算任务提供检查点，以便任务能方便地从崩溃前状态恢复执行。
• 在 Web 服务器容器服务数据时，保存内容管理器容器获取的文件。

取决于你的环境，emptyDir 卷存储在该节点所使用的介质上；这里的介质可以是磁盘或 SSD 或网络存储。但是，你可以将 emptyDir.medium 字段设置为 “Memory”，以告诉 Kubernetes 为你挂载 tmpfs（基于 RAM 的文件系统）。 虽然 tmpfs 速度非常快，但是要注意它与磁盘不同。 tmpfs 在节点重启时会被清除，并且你所写入的所有文件都会计入容器的内存消耗，受容器内存限制约束。

说明： 当启用 SizeMemoryBackedVolumes 特性门控时， 你可以为基于内存提供的卷指定大小。 如果未指定大小，则基于内存的卷的大小为 Linux 主机上内存的 50％。

2.2 创建一个emptyDir卷

[root@server2 ~]# kubectl get pod
NAME    READY   STATUS    RESTARTS   AGE
mypod   1/1     Running   1          15h
[root@server2 ~]# kubectl  delete pod mypod --force    ##删除原有的保持实验环境干净

[root@server2 ~]# mkdir volumes
[root@server2 ~]# cd volumes/     ##创建相应文件夹
[root@server2 volumes]# vim emptydir.yaml
[root@server2 volumes]# cat emptydir.yaml    ##编写emptydir配置文件
apiVersion: v1
kind: Pod
metadata:
  name: vol1
spec:
  containers:
  - image: busyboxplus
    name: vm1
    stdin: true
    tty: true
    volumeMounts:
    - mountPath: /cache
      name: cache-volume
  - name: vm2
    image: myapp:v1
    volumeMounts:
    - mountPath: /usr/share/nginx/html
      name: cache-volume
  volumes:
  - name: cache-volume
    emptyDir:
      medium: Memory
      sizeLimit: 100Mi

[root@server2 volumes]# kubectl apply -f emptydir.yaml    ##应用
[root@server2 volumes]# kubectl get pod   
NAME   READY   STATUS    RESTARTS   AGE
vol1   2/2     Running   0          7s
[root@server2 volumes]# kubectl describe pod vol1    ##查看挂载详细信息

[root@server2 volumes]# kubectl attach vol1 -c vm1 -it    ##设置空卷中的信息
/ # cd cache/
/cache # echo www.westos.org > index.html
/cache # curl localhost
www.westos.org
/cache # Session ended, resume using 'kubectl attach vol1 -c vm1 -i -t' command when the pod is running
[root@server2 volumes]# kubectl  get pod -o wide
NAME   READY   STATUS    RESTARTS   AGE     IP               NODE      NOMINATED NODE   READINESS GATES
vol1   2/2     Running   1          3m49s   10.244.141.205   server3   <none>           <none>
[root@server2 volumes]# curl 10.244.141.205   ##访问信息
www.westos.org

2.3 如果文件超过sizelimit，pod会被驱逐（有时延，有风险会占用大内存）

[root@server2 volumes]# kubectl attach vol1 -c vm1 -it 
/ # cd cache/
/cache # ls
index.html
/cache # dd if=/dev/zero of=bigfile bs=1M count=200    ##设置超过限制的内存大小
200+0 records in
200+0 records out

[root@server2 volumes]# kubectl  get pod   ##查看是否转换成驱离状态
NAME   READY   STATUS    RESTARTS   AGE 
vol1   0/2     Evicted   0          7m34s

3、hostPath 卷

3.1 hostPath卷说明

hostPath 卷能将主机节点文件系统上的文件或目录挂载到你的 Pod 中。 虽然这不是大多数 Pod 需要的，但是它为一些应用程序提供了强大的逃生舱。

例如，hostPath 的一些用法有：

• 运行一个需要访问 Docker 内部机制的容器；可使用 hostPath 挂载 /var/lib/docker 路径。
• 在容器中运行 cAdvisor 时，以 hostPath 方式挂载 /sys。
• 允许 Pod 指定给定的 hostPath 在运行 Pod 之前是否应该存在，是否应该创建以及应该以什么方式存在。

除了必需的 path 属性之外，用户可以选择性地为 hostPath 卷指定 type。

支持的 type 值如下：

取值	行为
	空字符串（默认）用于向后兼容，这意味着在安装 hostPath 卷之前不会执行任何检查。
DirectoryOrCreate	如果在给定路径上什么都不存在，那么将根据需要创建空目录，权限设置为 0755，具有与 kubelet 相同的组和属主信息。
Directory	在给定路径上必须存在的目录。
FileOrCreate	如果在给定路径上什么都不存在，那么将在那里根据需要创建空文件，权限设置为 0644，具有与 kubelet 相同的组和所有权。
File	在给定路径上必须存在的文件。
Socket	在给定路径上必须存在的 UNIX 套接字。
CharDevice	在给定路径上必须存在的字符设备。
BlockDevice	在给定路径上必须存在的块设备。

当使用这种类型的卷时要小心，因为：

具有相同配置（例如基于同一 PodTemplate 创建）的多个 Pod 会由于节点上文件的不同 而在不同节点上有不同的行为。
下层主机上创建的文件或目录只能由 root 用户写入。你需要在 特权容器 中以 root 身份运行进程，或者修改主机上的文件权限以便容器能够写入 hostPath 卷。

3.2 创建一个hostPath卷

[root@server2 volumes]# kubectl  delete pod vol1   ##删除前一个实验pod

[root@server2 volumes]# cat hostpath.yaml 
apiVersion: v1
kind: Pod
metadata:
  name: test-pd
spec:
  containers:
  - image: myapp:v1
    name: vm1
    volumeMounts:
    - mountPath: /usr/share/nginx/html    ##将此路径挂载到/webdata
      name: test-volume
  volumes:
  - name: test-volume
    hostPath:
      path: /webdata
      type: DirectoryOrCreate    ##没有文件夹创建文件夹
[root@server2 volumes]# kubectl apply -f hostpath.yaml    ##应用
[root@server2 volumes]# kubectl  get pod       ##查看
[root@server2 volumes]# kubectl  get pod -o wide    ##查看挂载到哪个节点，这里是server3
NAME      READY   STATUS    RESTARTS   AGE   IP               NODE      NOMINATED NODE   READINESS GATES
test-pd   1/1     Running   0          56s   10.244.141.206   server3   <none> 

##查看server3上是否存在/webdata，并书写测试文件
[root@server3 ~]# cd /webdata/
[root@server3 webdata]# echo www.westos.org > index.html
[root@server3 webdata]# cat index.html 
www.westos.org

##测试
[root@server2 volumes]# curl 10.244.141.206
www.westos.org
[root@server2 volumes]# kubectl delete -f hostpath.yaml  ##删除之后server3上的/webdata文件仍然存在，所以称为逃生仓

4、nfs

4.1 nfs说明

nfs 卷能将 NFS (网络文件系统) 挂载到你的 Pod 中。 不像 emptyDir 那样会在删除 Pod 的同时也会被删除，nfs 卷的内容在删除 Pod 时会被保存，卷只是被卸载。 这意味着 nfs 卷可以被预先填充数据，并且这些数据可以在 Pod 之间共享。

注意： 在使用 NFS 卷之前，你必须运行自己的 NFS 服务器并将目标 share 导出备用。

4.2 创建一个nfs卷

1. 书写配置文件
[root@server2 volumes]# vim nfs.yaml 
[root@server2 volumes]# cat nfs.yaml   
apiVersion: v1
kind: Pod
metadata:
  name: nfs-pd
spec:
  containers:
  - image: myapp:v1
    name: vm1
    volumeMounts:
    - mountPath: /usr/share/nginx/html
      name: test-volume
  volumes:
  - name: test-volume
    nfs:
      server: 172.25.13.1
      path: /nfsdata

2. 172.25.200.1主机配置nfs
[root@server1 ~]# mkdir /nfsdata
[root@server1 ~]# cd /nfsdata/
[root@server1 harbor]# yum install nfs-utils -y   ##将server1作为nfs，需要下载nfs服务
[root@server1 harbor]# vim /etc/exports
[root@server1 harbor]# cat /etc/exports
/nfsdata	*(rw,no_root_squash)
[root@server1 harbor]# systemctl enable --now nfs
Created symlink from /etc/systemd/system/multi-user.target.wants/nfs-server.service to /usr/lib/systemd/system/nfs-server.service.
[root@server1 harbor]# showmount -e
Export list for server1:
/nfsdata *


3.查看分配到哪个节点，并在该节点安装nfs
[root@server2 volumes]# kubectl apply -f nfs.yaml 
[root@server2 volumes]# kubectl get pod -o wide 
NAME     READY   STATUS              RESTARTS   AGE   IP       NODE      NOMINATED NODE   READINESS GATES
nfs-pd   0/1     ContainerCreating   0          17s   <none>   server3   <none> 
[root@server3 webdata]# yum install nfs-utils -y 

[root@server2 volumes]# kubectl get pod -o wide    #安装之后运行成功
NAME     READY   STATUS    RESTARTS   AGE     IP               NODE      NOMINATED NODE   READINESS GATES
nfs-pd   1/1     Running   0          4m12s   10.244.22.5   server3   <none>           <none>

4. 测试
[root@server1 nfsdata]# echo www.haojin.com > index.html
[root@server2 volumes]# curl 10.244.22.5
www.westos.org