存储卷、PV、PVC

一、volume 存储卷

存储设备：GFS（中小公司）、CEPH（大型公司）、oss（没钱用阿里云）

容器崩溃时，kubelet重启容器，会以镜像最初状态重启，会数据丢失。所以容器间需要共享存储。Pod中的容器通过Pause基础容器共享Volume。

1、emptyDir存储卷（pod中容器数据共享）

通过emptyDir，实现pod中的容器 数据共享，emptyDir随着pod生命周期结束一起被删除。（不能初始化数据）

当Pod被分配给节点时，首先创建emptyDir卷，并且只要该Pod在该节点上运行，该卷就会存在。最初创建时是空的。Pod 中的容器可以读取和写入emptyDir卷中的相同文件，该卷可以挂载到每个容器中。从节点中删除 Pod 时，emptyDir中的数据将被永久删除。

YAML文件定义了一个 Pod，包含两个容器：myapp 和 busybox。

myapp 容器将 /usr/share/nginx/html/ 目录挂载到了名为 html 的 emptyDir 卷上。

busybox 容器将 /data/ 目录挂载到同一个 emptyDir 卷上。

busybox 容器运行一个命令，该命令每隔2秒向 /data/index.html 文件追加当前日期和时间。

mkdir /opt/volumes
cd /opt/volumes

vim pod-emptydir.yaml 
apiVersion: v1
kind: Pod
metadata:
  name: pod-emptydir
  namespace: default
  labels:
    app: myapp
    tier: frontend
spec:
  containers:           #两个容器myapp、busybox间 数据共享
  - name: myapp      #容器myapp
    image: ikubernetes/myapp:v1
    imagePullPolicy: IfNotPresent     #镜像拉取策略：仅当本地镜像缺失时才从仓库中拉取
    ports:
    - name: http
      containerPort: 80
    volumeMounts:       #定义容器挂载内容
    #使用的存储卷名称，如果跟下面volume字段name值相同，则表示使用volume的这个存储卷
    - name: yss               #存储卷名为 yss
      mountPath: /usr/share/nginx/html/       #挂载到容器myapp的 /usr/share/nginx/html/ 下
  - name: busybox           #容器busybox
    image: busybox:latest
    imagePullPolicy: IfNotPresent
    volumeMounts:
    - name: yss          #存储卷名为 yss
      mountPath: /data/          #挂载到容器busybox的 /data/ 下
    command: ['/bin/sh','-c','while true;do echo $(date) >> /data/index.html;sleep 2;done']

#每隔2秒向 /data/index.html 文件追加当前日期和时间
  #定义存储卷
  volumes:
  #定义存储卷名称  
  - name: yss
    #定义存储卷类型
    emptyDir: {}

kubectl apply -f pod-emptydir.yaml

kubectl get pods -o wide
NAME           READY   STATUS    RESTARTS   AGE   IP            NODE     NOMINATED NODE   READINESS GATES

pod-emptydir   2/2     Running   0          53s   10.244.2.29   node02   <none>

//在上面定义了2个容器，其中一个容器是输入日期到index.html中，然后验证访问nginx的html是否可以获取日期。以验证两个容器之间挂载的emptyDir实现共享。[root@master01 volumes]# curl 10.244.2.29
Sun Nov 10 14:25:44 UTC 2024
Sun Nov 10 14:25:46 UTC 2024
Sun Nov 10 14:25:48 UTC 2024
Sun Nov 10 14:25:50 UTC 2024

pod-emptydir中 容器busybox中的 /data/ ，和容器myapp中的 /usr/share/nginx/html/ 数据共享

[root@master01 volumes]# kubectl exec -it pod-emptydir -c busybox sh   

#进入pod-emptydir中的容器busybox。-c 指定pod中的容器

/ # cd /data/
/data # ls
index.html
/data # tail -f index.html 
Sun Nov 10 14:38:36 UTC 2024
Sun Nov 10 14:38:38 UTC 2024
Sun Nov 10 14:38:40 UTC 2024

[root@master01 volumes]# kubectl exec -it pod-emptydir -c myapp sh

#进入pod-emptydir中的容器myapp

/ # cd /usr/share/nginx/html/
/usr/share/nginx/html # ls
index.html
/usr/share/nginx/html # tail -f index.html 
Sun Nov 10 14:43:50 UTC 2024
Sun Nov 10 14:43:52 UTC 2024
Sun Nov 10 14:43:54 UTC 2024

2、hostPath存储卷（持久化，node节点挂载到容器，pod不能跨node共享数据）

实现持久化存储（存入磁盘），使用node节点的目录/文件挂载到容器，存储空间受node节点单机限制，node节点故障会导致数据丢失（master上容器挂了，node上数据依旧存在），pod不能跨node节点共享数据。

//在 node01 节点上创建挂载目录
mkdir -p /data/pod/volume1
echo 'node01.yss.com' > /data/pod/volume1/index.html

//在 node02 节点上创建挂载目录
mkdir -p /data/pod/volume1
echo 'node02.yss.com' > /data/pod/volume1/index.html

//创建 Pod 资源

vim pod-hostpath.yaml
apiVersion: v1
kind: Pod
metadata:
  name: pod-hostpath
  namespace: default
spec:
  containers:
  - name: myapp
    image: ikubernetes/myapp:v1
    volumeMounts:          #定义容器挂载内容
    #使用的存储卷名称，如果跟下面volume字段name值相同，则表示使用volume的这个存储卷
    - name: yss
      mountPath: /usr/share/nginx/html         #挂载到容器的/usr/share/nginx/html下
      readOnly: false             #读写挂载方式，默认为读写模式false
  #volumes字段定义了paues容器关联的宿主机或分布式文件系统存储卷
  volumes:
    - name: yss         #存储卷名称
      hostPath:               #路径，为宿主机存储路径
        path: /data/pod/volume1              #在宿主机（node）上的目录
        type: DirectoryOrCreate           #定义类型，这表示如果宿主机没有此目录则会自动创建

 

kubectl apply -f pod-hostpath.yaml

//访问测试[root@master01 volumes]# kubectl get pod -owide
NAME           READY   STATUS    RESTARTS   AGE   IP            NODE     NOMINATED NODE   READINESS GATES
pod-hostpath   1/1     Running   0          67s   10.244.1.14   node01   <none>           <none>
[root@master01 volumes]# curl 10.244.1.14
node01.yss.com

//在master上删除pod，再重建，验证是否依旧可以访问原来的内容

[root@master01 volumes]# kubectl delete -f hostpath.yaml 
pod "pod-hostpath" deleted
[root@master01 volumes]# kubectl apply -f hostpath.yaml 
pod/pod-hostpath created
[root@master01 volumes]# kubectl get pod -owide
NAME           READY   STATUS    RESTARTS   AGE   IP            NODE     NOMINATED NODE   READINESS GATES
pod-hostpath   1/1     Running   0          20s   10.244.1.15   node01   <none>           <none>
[root@master01 volumes]# curl 10.244.1.15
node01.yss.com

3、nfs共享存储卷（持久化，nfs挂载到容器，pod可跨node共享数据）

持久化存储，使用nfs将存储设备挂载到容器，pod可以跨node节点共享数据

//在stor01节点上安装nfs，并配置nfs服务

mkdir /data/volumes -p
chmod 777 /data/volumes

vim /etc/exports
/data/volumes 192.168.190.0/24(rw,no_root_squash)

systemctl start rpcbind
systemctl start nfs

showmount -e
Export list for stor01:
/data/volumes 192.168.190.0/24

//master节点操作

vim pod-nfs-vol.yaml

kind: Pod
apiVersion: v1
metadata:
  name: pod-vol-nfs
  namespace: default
spec:
  containers:
  - name: myapp
    image: ikubernetes/myapp:v1
    volumeMounts:
    - name: yss        #卷的名称，必须与 volumes 部分中的卷名称匹配
      mountPath: /usr/share/nginx/html      #卷挂载到容器的/usr/share/nginx/html下
  volumes:       #定义 Pod 中的卷
    - name: yss
      nfs:           #定义 NFS 卷
        path: /data/volumes       #NFS 服务器上的路径
        server: 192.168.190.40          #NFS 服务器的地址 。

注意：yaml文件中，server设置ip的话没问题；设置域名的话，要在/etc/hosts上做映射
kubectl get pod -owide     #查看在哪台node上，就在哪台node做映射

kubectl apply -f pod-nfs-vol.yaml

kubectl get pods -o wide
NAME                     READY     STATUS    RESTARTS   AGE       IP            NODE

pod-vol-nfs    0/1     ContainerCreating   0          5m45s   <none>        node01   <none>           <none>

没配域名解析，pod 运行不了

在master01、node02上的 /etc/hosts上 添加 stor01 的域名解析

[root@node02 ~]# echo 192.168.190.40 stor01 >> /etc/hosts

[root@master01 ~]# echo 192.168.190.40 stor01 >> /etc/hosts

[root@master01 volumes]# kubectl get pod -owide
NAME           READY   STATUS    RESTARTS   AGE     IP            NODE     NOMINATED NODE   READINESS GATES
pod-vol-nfs    1/1     Running   0          2m38s   10.244.2.31   node02   <none>           <none>

//在nfs服务器（stor01）上创建index.html

cd /data/volumes
echo "this is nfs stor01" > index.html

//master节点操作

[root@master01 volumes]# kubectl get pod -owide

pod-vol-nfs    1/1     Running   0          2m38s   10.244.2.31   node02   <none>     <none>

[root@master01 volumes]# curl 10.244.2.31
this is nfs stor01

[root@master01 volumes]# kubectl delete -f pod-nfs-vol.yaml  

#删除nfs相关pod，再重新创建，可以得到数据的持久化存储

[root@master01 volumes]# kubectl apply -f pod-nfs-vol.yaml

[root@master01 volumes]# kubectl get pod -owide
pod-vol-nfs    1/1     Running   0          3s     10.244.1.16   node01   <none>           <none>

 

4、PVC 和 PV（k8s存储）

pv（空间）：持久化存储资源（磁盘），定义存储卷

pvc（请求）：持久化存储请求，描述满足什么条件的pv存储

PVC 的使用逻辑：在 Pod 中定义一个存储卷（该存储卷类型为 PVC），定义的时候直接指定大小，PVC 必须与对应的 PV 建立关系，PVC 会根据配置的定义去 PV 申请，而 PV 是由存储空间创建出来的。PV 和 PVC 是 Kubernetes 抽象出来的一种存储资源。

PV和PVC模式是需要运维人员先创建好PV，然后开发人员定义好PVC进行一对一的Bond，但是如果PVC请求成千上万，那么就需要创建成千上万的PV，对于运维人员来说维护成本很高，Kubernetes提供一种自动创建PV的机制，叫StorageClass，它的作用就是创建PV的模板。

创建 StorageClass 需要定义 PV 的属性，比如存储类型、大小等；另外创建这种 PV 需要用到的存储插件，比如 Ceph 等。 有了这两部分信息，Kubernetes 就能够根据用户提交的 PVC，找到对应的 StorageClass，然后 Kubernetes 就会调用 StorageClass 声明的存储插件，自动创建需要的 PV 并进行绑定。

静态：手动创建pv

动态：
StorageClass（动态存储插件）：根据pvc请求动态创建pv资源（需要存储插件）

存储： 存储工程师运维
PV： k8s 管理员运维
PVC：  用户维护

PV是集群中的资源。 PVC是对这些资源的请求，也是对资源的索引检查。 

4.1 PV、PVC生命周期

PV和PVC之间的相互作用遵循这个生命周期：  ***
Provisioning（配置）---> Binding（绑定）---> Using（使用）---> Releasing（释放） ---> Recycling（回收）

●Provisioning（配置）：创建 PV，① 直接创建 PV（静态方式），② StorageClass 动态创建
●Binding（绑定）：将 PV 分配给 PVC
●Using（使用）：Pod 通过 PVC 使用该 Volume，并可以通过准入控制StorageProtection（1.9及以前版本为PVCProtection） 阻止删除正在使用的 PVC、
●Releasing（释放）：Pod 释放 Volume 并删除 PVC
●Reclaiming（回收）：回收 PV，可以保留 PV 以便下次使用，也可以直接从云存储中删除

4.2 PV状态***

根据这 5 个阶段，PV 的状态有以下 4 种：
●Available（可用）：可用状态，还未被任何 PVC 绑定
●Bound（已绑定）：PV 已经绑定到 PVC
●Released（已释放）：PVC 被删掉，但是资源尚未被集群回收
●Failed（失败）：PV 的自动回收失败

4.3 一个PV从创建到销毁的流程

1、一个PV创建完后状态会变成Available，等待被PVC绑定。
2、一旦被PVC邦定，PV的状态会变成Bound，就可以被定义了相应PVC的Pod使用。
3、Pod使用完后会释放PV，PV的状态变成Released。
4、变成Released的PV会根据定义的回收策略做相应的回收工作。有三种回收策略，Retain、Delete和Recycle。

4.4 回收策略 ***

Retain（保留）**：K8S集群什么也不做，等待用户手动去处理PV里的数据，处理完后，再手动删除PV。（默认模式）

Delete（删除）*：K8S自动删除该PV及里面的数据（不能恢复，安全性低）。

Recycle（回收）：K8S自动删除PV里的数据，然后把PV的状态变成Available，又可以被新的PVC绑定使用。（不推荐）

4.5 PV访问模式

    - ReadWriteOnce：（RWO）存储可读可写，1对1（只支持被单个 Pod 挂载）
    - ReadOnlyMany：（ROX）存储只读，1对多（被多个 Pod 挂载）
    - ReadWriteMany：（RWX）存储可读可写，1对多（被多个 Pod 挂载） 

kubectl explain pv    #查看pv的定义方式
FIELDS:
    apiVersion: v1
    kind: PersistentVolume
    metadata:    #由于 PV 是集群级别的资源，即 PV 可以跨 namespace 使用，所以 PV 的 metadata 中不用配置 namespace
      name: 
    spec
    
kubectl explain pv.spec    #查看pv定义的规格
spce:
  nfs:（定义存储类型）
    path:（定义挂载卷路径）
    server:（定义服（定义访问模型，务器名称）
  accessModes:有以下三种访问模型，以列表的方式存在，也就是说可以定义多个访问模式） * * *
    - ReadWriteOnce：（RWO）存储可读可写，1对1（只支持被单个 Pod 挂载）
    - ReadOnlyMany：（ROX）存储只读，1对多（被多个 Pod 挂载）
    - ReadWriteMany：（RWX）存储可读可写，1对多（被多个 Pod 挂载）        

注：官网nfs 支持全部三种；iSCSI 不支持 ReadWriteMany（iSCSI 就是在 IP 网络上运行 SCSI 协议的一种网络存储技术）；HostPath 不支持 ReadOnlyMany 和 ReadWriteMany。
  capacity:（定义存储能力，一般用于设置存储空间）
    storage: 2Gi （指定大小）
  storageClassName: （自定义存储类名称，此配置用于绑定具有相同类别的PVC和PV）
  persistentVolumeReclaimPolicy: Retain    #回收策略（Retain/Delete/Recycle） * * *
Retain（保留）：当删除与之绑定的PVC时候，这个PV被标记为released（PVC与PV解绑但还没有执行回收策略）且之前的数据依然保存在该PV上，但是该PV不可用，需要手动来处理这些数据并删除该PV。
Delete（删除）：删除与PV相连的后端存储资源（只有 AWS EBS, GCE PD, Azure Disk 和 Cinder 支持）
Recycle（回收）：删除数据，效果相当于执行了 rm -rf /thevolume/* （只有 NFS 和 HostPath 支持）

4.6 PV 存储空间不足怎么扩容 

1、编辑 PV 对象：

kube kubectl edit pvc

这将打开一个文本编辑器，显示 PV 的 YAML 配置。

2、修改容量：

 在编辑器中找到 capacity 字段，并将其值从 1Gi 修改为 2Gi

kubectl explain pvc   #查看PVC的定义方式
KIND:     PersistentVolumeClaim
VERSION:  v1
FIELDS:
   apiVersion    <string>
   kind    <string>  
   metadata    <Object>
   spec    <Object>

#PV和PVC中的spec关键字段要匹配，比如存储（storage）大小、访问模式（accessModes）、存储类名称（storageClassName）
kubectl explain pvc.spec
spec:
  accessModes: （定义访问模式，必须是PV的访问模式的子集）
  resources:
    requests:
      storage: （定义申请资源的大小）
  storageClassName: （定义存储类名称，此配置用于绑定具有相同类别的PVC和PV）

二、静态PV和PVC

静态pv使用过程

1、先准备存储设备、共享目录
2、创建pv资源配置 存储卷类型 访问模式 存储能力大小
3、创建pvc资源配置：请求的pv资源访问模式和存储大小，绑定pv（pv和pvc是一对一的绑定模式）
4、pv访问模式必须支持pvc请求访问模式

NFS使用PV和PVC  

1、配置nfs存储
mkdir v{1,2,3,4,5}

vim /etc/exports
/data/volumes/v1 192.168.10.0/24(rw,no_root_squash)
/data/volumes/v2 192.168.10.0/24(rw,no_root_squash)
/data/volumes/v3 192.168.10.0/24(rw,no_root_squash)
/data/volumes/v4 192.168.10.0/24(rw,no_root_squash)
/data/volumes/v5 192.168.10.0/24(rw,no_root_squash)

exportfs -arv

showmount -e

官方文档：https://kubernetes.io/zh-cn/docs/tasks/configure-pod-container/configure-persistent-volume-storage/#create-a-persistentvolume

2、定义PV
//这里定义5个PV，并且定义挂载的路径以及访问模式，还有PV划分的大小。
vim pv-demo.yaml
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv001
  labels:
    name: pv001
spec:
  nfs:
    path: /data/volumes/v1   server:stor01                                                                                                                                                                                        
    
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 1Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv002
  labels:
    name: pv002
spec:
  nfs:
    path: /data/volumes/v2
    server: stor01
  accessModes: ["ReadWriteOnce"]
  capacity:
    storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv003
  labels:
    name: pv003
spec:
  nfs:
    path: /data/volumes/v3
    server: stor01
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv004
  labels:
    name: pv004
spec:
  nfs:
    path: /data/volumes/v4
    server: stor01
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 4Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv005
  labels:
    name: pv005
spec:
  nfs:
    path: /data/volumes/v5
    server: stor01
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 5Gi

kubectl apply -f pv-demo.yaml

kubectl get pv
NAME      CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM     STORAGECLASS   REASON    AGE
pv001     1Gi        RWO,RWX        Retain           Available                                      7s
pv002     2Gi        RWO            Retain           Available                                      7s
pv003     2Gi        RWO,RWX        Retain           Available                                      7s
pv004     4Gi        RWO,RWX        Retain           Available                                      7s
pv005     5Gi        RWO,RWX        Retain           Available                                       7s

3、定义PVC
//这里定义了pvc的访问模式为多路读写，该访问模式必须在前面pv定义的访问模式之中。定义PVC申请的大小为2Gi，此时PVC会自动去匹配多路读写且大小为2Gi的PV，匹配成功获取PVC的状态即为Bound
vim pod-vol-pvc.yaml
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: mypvc
  namespace: default
spec:
  accessModes: ["ReadWriteMany"]
  resources:
    requests:
      storage: 2Gi
---
apiVersion: v1
kind: Pod
metadata:
  name: pod-vol-pvc
  namespace: default
spec:
  containers:
  - name: myapp
    image: ikubernetes/myapp:v1
    volumeMounts:
    - name: html
      mountPath: /usr/share/nginx/html
  volumes:
    - name: html
      persistentVolumeClaim:
        claimName: mypvc

kubectl apply -f pod-vol-pvc.yaml

kubectl get pv
NAME      CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS      CLAIM           STORAGECLASS   REASON    AGE
pv001     1Gi        RWO,RWX        Retain           Available                                            19m
pv002     2Gi        RWO            Retain           Available                                            19m
pv003     2Gi        RWO,RWX        Retain           Bound       default/mypvc                            19m
pv004     4Gi        RWO,RWX        Retain           Available                                            19m
pv005     5Gi        RWO,RWX        Retain           Available                                            19m

kubectl get pvc
NAME      STATUS    VOLUME    CAPACITY   ACCESS MODES   STORAGECLASS   AGE
mypvc     Bound     pv003     2Gi        RWO,RWX                       22s

4、测试访问
//在存储服务器上创建index.html，并写入数据，通过访问Pod进行查看，可以获取到相应的页面。
cd /data/volumes/v3/
echo "welcome to use pv3" > index.html

kubectl get pods -o wide
pod-vol-pvc             1/1       Running   0          3m        10.244.2.39   k8s-node02

curl  10.244.2.39
welcome to use pv3

三、动态pv和pvc

动态创建步骤

准备nfs共享服务器和共享目录
1、创建sa（ServiceAccount）服务账号，进行rbac资源操作权限授权
2、创建nfs-provisioner 存储插件（以pod形式运行），配置中要关联sa服务账号，使存储插件有相关资源操作权限
3、创建 storageclass资源，配置中要 关联存储插件的名称
------------------------完成以上3步后，只要创建PVC就可以生成动态PV资源----------------------
4、创建PVC资源，配置中关联storageclass资源名称，此时会在nfs服务器上生成PV共享目录，目录名以${namespace}-${pvcName}-${pvName} 格式命名
5、创建pod资源（应用）存储类型设置成persistentvolumeclaim，绑定PVC，在容器配置中配置存储卷挂载。

搭建 StorageClass + NFS，实现 NFS 的动态 PV 创建（nfs挂载到容器）

Kubernetes 本身支持的动态 PV 创建不包括 NFS，所以需要使用外部存储卷插件分配PV。详见：https://kubernetes.io/zh/docs/concepts/storage/storage-classes/

卷插件称为 Provisioner（存储分配器），NFS 使用的是 nfs-client，这个外部PV。
Provisioner：用于指定 Volume 插件的类型，包括内置插件（如 kubernetes.io/aws-ebs）和外部插件（如 exte卷插件会使用已经配置好的 NFS 服务器自动创建 rnal-storage 提供的 ceph.com/cephfs）。

1、在stor01节点上安装nfs，并配置nfs服务

mkdir /opt/k8s
chmod 777 /opt/k8s/

vim /etc/exports
/opt/k8s 192.168.190.0/24(rw,no_root_squash,sync)

systemctl restart nfs

2、master上 创建 Service Account，用来管理 NFS Provisioner 在 k8s 集群中运行的权限，设置 nfs-client 对 PV，PVC，StorageClass 等的规则

[root@master01 volumes]# vim nfs-client-rbac.yaml      #创建 Service Account 账户，用来管理 NFS Provisioner 在 k8s 集群中运行的权限
apiVersion: v1
kind: ServiceAccount
metadata:
  name: nfs-client-provisioner
---
#创建集群角色
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
  name: nfs-client-provisioner-clusterrole
rules:
  - apiGroups: [""]
    resources: ["persistentvolumes"]
    verbs: ["get", "list", "watch", "create", "delete"]
  - apiGroups: [""]
    resources: ["persistentvolumeclaims"]
    verbs: ["get", "list", "watch", "update"]
  - apiGroups: ["storage.k8s.io"]
    resources: ["storageclasses"]
    verbs: ["get", "list", "watch"]
  - apiGroups: [""]
    resources: ["events"]
    verbs: ["list", "watch", "create", "update", "patch"]
  - apiGroups: [""]
    resources: ["endpoints"]
    verbs: ["create", "delete", "get", "list", "watch", "patch", "update"]
---
#集群角色绑定，把服务账号和集群角色进行绑定，使得服务账号有资源操作权限
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
  name: nfs-client-provisioner-clusterrolebinding
subjects:
- kind: ServiceAccount
  name: nfs-client-provisioner
  namespace: default
roleRef:
  kind: ClusterRole
  name: nfs-client-provisioner-clusterrole
  apiGroup: rbac.authorization.k8s.io          #api接口

[root@master01 volumes]# kubectl apply -f nfs-client-rbac.yaml

[root@master01 volumes]# kubectl get ServiceAccount      或者    kubectl get sa
NAME                     SECRETS   AGE
default                  1         13d
nfs-client-provisioner   1         9s

3、使用 Deployment 来创建 NFS Provisioner
NFS Provisione(即 nfs-client)，有两个功能：①、NFS 共享目录下创建挂载点(volume)

                                                                        ②、将 PV 与 NFS 的挂载点建立关联

#由于 1.20 版本启用了 selfLink，所以 k8s 1.20+ 版本通过 nfs provisioner 动态生成pv会报错，解决方法如下：

vim /etc/kubernetes/manifests/kube-apiserver.yaml
spec:
  containers:
  - command:
    - kube-apiserver
    - --feature-gates=RemoveSelfLink=false       #添加行，关闭自动连接功能
    - --advertise-address=192.168.190.10
......

kubectl apply -f /etc/kubernetes/manifests/kube-apiserver.yaml
kubectl delete pods kube-apiserver -n kube-system 
kubectl get pods -n kube-system | grep apiserver

#创建 NFS Provisioner

vim nfs-client-provisioner.yaml
kind: Deployment
apiVersion: apps/v1
metadata:
  name: nfs-client-provisioner
spec:
  replicas: 1
  selector:
    matchLabels:
      app: nfs-client-provisioner
  strategy:
    type: Recreate
  template:
    metadata:
      labels:
        app: nfs-client-provisioner
    spec:
      serviceAccountName: nfs-client-provisioner         #指定Service Account账户
      containers:
        - name: nfs-client-provisioner
          image: quay.io/external_storage/nfs-client-provisioner:latest
          imagePullPolicy: IfNotPresent
          volumeMounts:
            - name: nfs-client-root         #name要和下面nfs数据卷名字一样
              mountPath: /persistentvolumes         #挂载路径（容器）
          env:
            - name: PROVISIONER_NAME
              value: nfs-storage       #配置provisioner的Name，确保该名称与StorageClass资源中的provisioner名称保持一致
            - name: NFS_SERVER
              value: stor01           #配置绑定的nfs服务器
            - name: NFS_PATH
              value: /opt/k8s          #配置绑定的nfs服务器目录
      volumes:              #nfs数据卷
        - name: nfs-client-root
          nfs:
            server: stor01          #或者ip地址，stor01的话要在对应node节点配置域名解析
            path: /opt/k8s
    
    

在node01、node02上添加 存储插件

[root@node01 ~]# vim /etc/resolv.conf     

stor01 192.168.190.40     #添加

[root@node01 ~]# cd /opt/            #添加存储插件 nfs-client-provisioner.tar
[root@node01 opt]# docker load -i nfs-client-provisioner.tar 

[root@node01 opt]# docker images

quay.io/external_storage/nfs-client-provisioner   latest     16d2f904b0d8   6 years ago     45.5MB

[root@node01 opt]# scp nfs-client-provisioner.tar node02:/opt/

[root@node02 ~]# vim /etc/resolv.conf     

stor01 192.168.190.40     #添加

[root@node02 ~]# cd /opt/

[root@node02 opt]# docker load -i nfs-client-provisioner.tar

[root@node02 opt]# docker images

[root@master01 volumes]# kubectl apply -f nfs-client-provisioner.yaml 

[root@master01 volumes]# kubectl get pod
NAME                                   READY   STATUS    RESTARTS   AGE

nfs-client-provisioner-5d7df8dcc8-bg8n4   1/1     Running   0          13m

4、创建 StorageClass，负责建立 PVC 并调用 NFS provisioner 进行预定的工作，并让 PV 与 PVC 建立关联

vim nfs-client-storageclass.yaml
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
  name: nfs-client-storageclass
provisioner: nfs-storage     #这里的名称要和provisioner配置文件中的环境变量PROVISIONER_NAME保持一致
parameters:
  archiveOnDelete: "false"      #false表示在删除PVC时删除数据，不会对数据进行存档
  
  
kubectl apply -f nfs-client-storageclass.yaml

kubectl get storageclass
NAME                      PROVISIONER   RECLAIMPOLICY   VOLUMEBINDINGMODE   ALLOWVOLUMEEXPANSION   AGE
nfs-client-storageclass   nfs-storage   Delete          Immediate           false                  43s

5、创建 PVC 和 Pod 测试（容器挂载到nfs服务器，实现持久化存储）

vim test-pvc-pod.yaml
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: test-nfs-pvc
spec:
  accessModes:
    - ReadWriteMany         #可读可写，1对多
  storageClassName: nfs-client-storageclass  # 关联StorageClass对象，确保与 StorageClass 的名称一致
  resources:
    requests:
      storage: 1Gi
---
apiVersion: v1
kind: Pod
metadata:
  name: test-storageclass-pod
spec:
  containers:
  - name: busybox
    image: busybox:latest
    imagePullPolicy: IfNotPresent
    command:
    - "/bin/sh"
    - "-c"
    args:
    - "sleep 3600"
    volumeMounts:
    - name: nfs-pvc           #name要和下面 volmes的那么一致
      mountPath: /mnt
  restartPolicy: Never
  volumes:
  - name: nfs-pvc
    persistentVolumeClaim:
      claimName: test-nfs-pvc      #与PVC名称保持一致
      
kubectl apply -f test-pvc-pod.yaml

//PVC 通过 StorageClass 自动申请到空间

[root@master01 volumes]# kubectl get pvc
NAME      STATUS     VOLUME        CAPACITY     ACCESS     MODES   STORAGECLASS           AGE

test-nfs-pvc   Bound    pvc-edaae1f2-eca4-47fe-ba03-6c7cd8f130da   1Gi        RWX            nfs-client-storageclass   24s

//查看 NFS 服务器上是否生成对应的目录，自动创建的 PV 会以${namespace}-${pvcName}-${pvName} 的目录格式放到 NFS 服务器上

ls /opt/k8s/

default-test-nfs-pvc-pvc-edaae1f2-eca4-47fe-ba03-6c7cd8f130da

//进入 Pod 在挂载目录 /mnt 下写一个文件，然后查看 NFS 服务器上是否存在该文件

kubectl exec -it test-storageclass-pod sh
/ # cd /mnt/

/mnt # echo "this is test-storageclass-pod" > index.html

//发现 NFS 服务器上存在，说明验证成功

[root@stor01 k8s]# cd /opt/k8s/
[root@stor01 k8s]# ls
default-test-nfs-pvc-pvc-edaae1f2-eca4-47fe-ba03-6c7cd8f130da
[root@stor01 k8s]# cd default-test-nfs-pvc-pvc-edaae1f2-eca4-47fe-ba03-6c7cd8f130da/
[root@stor01 default-test-nfs-pvc-pvc-edaae1f2-eca4-47fe-ba03-6c7cd8f130da]# ls
index.html
[root@stor01 default-test-nfs-pvc-pvc-edaae1f2-eca4-47fe-ba03-6c7cd8f130da]# cat index.html 
this is test-storageclass-pod

1、创建插件，连接 动态storageclass名称
2、关联 PVC和PV，连接PVC名称
3、应用（pod）连接pvc名称