Kubernetes 中的PVC（Persistent Volume Claim）和 PV（Persistent Volume）

一，k8s 中容器存储的短暂性问题以及 Volume（卷） 机制如何帮助解决这些问题

1.1 容器存储的短暂性

k8s中每个容器都有独立的文件系统 ，容器磁盘上的文件的生命周期是短暂的（临时的）。 当容器重启或崩溃时，容器会被以“干净的”状态（镜像初始状态）重新创建，这意味着原有的数据会丢失，文件系统会恢复成镜像的初始状态。

当容器重启或崩溃时，需要保存状态的数据（例如日志、配置文件、数据库文件等）会出现如下问题 ：

• 重启后数据丢失：如果容器崩溃并被重新启动，之前存储的数据将会丢失，导致容器无法保持原有的状态。
• 跨容器数据共享：在同一个 Pod 中可能运行多个容器，它们可能需要共享文件或数据，而容器的文件系统是独立的，容器间的数据共享变得困难。

1.2 Volume 机制

为了应对上述这些问题，K8s 引入了 Volume（卷） 的概念。Volume 是一种持久化的存储机制，可以跨容器和 Pod 的生命周期提供持久化的文件存储。

• 数据持久化：Volume 在容器重启后不会丢失数据，即使容器重新启动，Pod 中的 Volume 数据依然存在，容器可以再次访问之前的数据。
• 跨容器共享：在同一个 Pod 中，多个容器可以挂载同一个 Volume，从而实现数据共享。

1.3Pause 容器

在 Kubernetes 中，Pod 中的所有容器共享同一个网络和存储空间。Kubernetes 使用一个特殊的Pause 容器来实现这一点。每个 Pod 都有一个 Pause 容器，该容器用于提供网络和存储命名空间，其他业务容器都附加到这个 Pause 容器上，从而共享同一个 Volume。

二，存储卷

1.存储设备

• GFS
• CEPH
• oss
• san
• nas

2.emptydir存储卷

当Pod被分配给节点时，首先创建emptyDir卷，并且只要该Pod在该节点上运行，该卷就会存在。正如卷的名字所述，它最初是空的。Pod 中的容器可以读取和写入emptyDir卷中的相同文件，尽管该卷可以挂载到每个容器中的相同或不同路径上。当出于任何原因从节点中删除 Pod 时，emptyDir中的数据将被永久删除。

mkdir /opt/volumes
cd /opt/volumes

vim pod-emptydir.yaml 
apiVersion: v1
kind: Pod
metadata:
  name: pod-emptydir
  namespace: default
  labels:
    app: myapp
    tier: frontend
spec:
  containers:
  - name: myapp
    image: ikubernetes/myapp:v1
    imagePullPolicy: IfNotPresent
    ports:
    - name: http
      containerPort: 80
	#定义容器挂载内容
    volumeMounts:
	#使用的存储卷名称，如果跟下面volume字段name值相同，则表示使用volume的这个存储卷
    - name: html
	  #挂载至容器中哪个目录
      mountPath: /usr/share/nginx/html/
  - name: busybox
    image: busybox:latest
    imagePullPolicy: IfNotPresent
    volumeMounts:
    - name: html
	  #在容器内定义挂载存储名称和挂载路径
      mountPath: /data/
    command: ['/bin/sh','-c','while true;do echo $(date) >> /data/index.html;sleep 2;done']
  #定义存储卷
  volumes:
  #定义存储卷名称  
  - name: html
    #定义存储卷类型
    emptyDir: {}

kubectl apply -f pod-emptydir.yaml

kubectl get pods -o wide
定义了2个容器，其中一个容器是输入日期到index.html中，然后验证访问nginx的html是否可以获取日期。以验证两个容器之间挂载的emptyDir实现共享。
使用curl命令

进入容器busybox，时间信息每三秒打印一次在html上

进入myapp，也是一样

3.hostpath存储卷

hostPath卷将 node 节点的文件系统中的文件或目录挂载到集群中。

hostPath可以实现持久存储，但是在node节点故障时，也会导致数据的丢失。

在 node01 节点上创建挂载目录
mkdir -p /data/pod/volume1
echo 'node01.kgc.com' > /data/pod/volume1/index.html

在 node02 节点上创建挂载目录
mkdir -p /data/pod/volume1
echo 'node02.kgc.com' > /data/pod/volume1/index.html

创建 Pod 资源
vim pod-hostpath.yaml
apiVersion: v1
kind: Pod
metadata:
  name: pod-hostpath
  namespace: default
spec:
  containers:
  - name: myapp
    image: ikubernetes/myapp:v1
	#定义容器挂载内容
    volumeMounts:
	#使用的存储卷名称，如果跟下面volume字段name值相同，则表示使用volume的这个存储卷
    - name: html
	  #挂载至容器中哪个目录
      mountPath: /usr/share/nginx/html
	  #读写挂载方式，默认为读写模式false
	  readOnly: false
  #volumes字段定义了paues容器关联的宿主机或分布式文件系统存储卷
  volumes:
    #存储卷名称
    - name: html
	  #路径，为宿主机存储路径
      hostPath:
	    #在宿主机上目录的路径
        path: /data/pod/volume1
		#定义类型，这表示如果宿主机没有此目录则会自动创建
        type: DirectoryOrCreate


kubectl apply -f pod-hostpath.yaml

访问测试
kubectl get pods -o wide
使用curl命令

删除pod，再重建，验证是否依旧可以访问原来的内容
kubectl delete -f pod-hostpath.yaml  
kubectl apply -f pod-hostpath.yaml 

kubectl get pods -o wide

使用curl命令

不用创建挂载目录。yaml文件加了type会创建

删除yaml后容器挂了，再创建html内容还有

4.nfs存储

nfs挂载数据的存储卷文件一直存在，nfs不是存储设备，是共享存储服务

在stor01节点上安装nfs，并配置nfs服务
mkdir /data/volumes -p
chmod 777 /data/volumes

vim /etc/exports
/data/volumes 192.168.10.0/24(rw,no_root_squash)

systemctl start rpcbind
systemctl start nfs

showmount -e
Export list for stor01:
/data/volumes 192.168.10.0/24


在master节点操作
kind: Pod
vim pod-nfs-vol.yaml
apiVersion: v1
metadata:
  name: pod-vol-nfs
  namespace: default
spec:
  containers:
  - name: myapp
    image: ikubernetes/myapp:v1
    volumeMounts:
    - name: html
      mountPath: /usr/share/nginx/html
  volumes:
    - name: html
      nfs:
        path: /data/volumes
        server: stor01    #主机名或者ip


kubectl apply -f pod-nfs-vol.yaml

kubectl get pods -o wide

在nfs服务器上创建index.html
cd /data/volumes
vim index.html
<h1> nfs stor01</h1>

master节点操作
curl 10.244.2.38
<h1> nfs stor01</h1>

kubectl delete -f pod-nfs-vol.yaml   #删除nfs相关pod，再重新创建，可以得到数据的持久化存储

kubectl apply -f pod-nfs-vol.yaml


nas gfs  ceph san

总结

1.存储卷

存储设备 GFS CEPH OSS s3 san nas

**emptydir **

可以实现pod中的容器之间共享数据,且会随着pod生命周期结束而一起删除

hostpath

可以实现持久化存储,使用node节点的目录或者文件挂载到容器,但是存储空间会受到节点单机限制,

node节点故障数据会丢失,pod跨node节点不能共享数据

**nfs **

可以实现持久化存储,使用nfs将存储设备空间挂载到容器,pod可以跨node节点共享数据

当nfs server设置域名时，需要做映射如果设置IP就不需要了设置映射

三，pv与pvc

1.什么是pv和pvc

PV 全称叫做 Persistent Volume，持久化存储卷。它是用来描述或者说用来定义一个存储卷的，这个通常都是由运维工程师来定义。

PVC 的全称是 Persistent Volume Claim，是持久化存储的请求。它是用来描述希望使用什么样的或者说是满足什么条件的PV 存储

Kubernetes 中 PVC（Persistent Volume Claim） 和 PV（Persistent Volume） 的使用逻辑:

在 Pod 中定义一个存储卷（该存储卷类型为 PVC），定义的时候直接指定大小，PVC 必须与对应的 PV 建立关系，PVC 会根据配置的定义去 PV 申请，而 PV 是由存储空间创建出来的。PV 和 PVC 是 Kubernetes 抽象出来的一种存储资源。

PV和PVC模式需要运维人员先创建好PV，然后开发人员定义好PVC进行一对一的Bond，但是如果PVC请求成千上万，那么就需要创建成千上万的PV，对于运维人员来说维护成本很高，Kubernetes提供一种自动创建PV的机制，叫StorageClass，它的作用就是创建PV的模板。

创建 StorageClass 需要定义 PV 的属性，比如存储类型、大小等；另外创建这种 PV 需要用到的存储插件，比如 Ceph 等。 有了这两部分信息，Kubernetes 就能够根据用户提交的 PVC，找到对应的 StorageClass，然后 Kubernetes 就会调用 StorageClass 声明的存储插件，自动创建需要的 PV 并进行绑定。

存储： 存储工程师运维 oss工程师

PV： k8s 管理员运维

PVC： 用户来维护

PV是集群中的资源。 PVC是对这些资源的请求，也是对资源的索引检查。

2.Kubernetes 存储管理 中的 PV/PVC 生命周期管理（Kubernetes 中 PersistentVolume（PV） 和 PersistentVolumeClaim（PVC） 的相互作用过程 ）重点

（1）Provisioning（配置）：

PV 的创建，可以直接创建 PV（静态方式），也可以使用 StorageClass 动态创建

（2）Binding（绑定）：

将 PV 分配给 PVC

（3）Using（使用）：

Pod 通过 PVC 使用该 Volume，并可以通过准入控制

StorageProtection（1.9及以前版本为PVCProtection） 阻止删除正在使用的 PVC

（4）Releasing（释放）：

Pod 释放 Volume 并删除 PVC

（5）Recycling（回收）：

回收 PV，可以保留 PV 以便下次使用，也可以直接从云存储中删除

3.生命周期五个阶段的pv状态(重点）

• Available（可用）：表示可用状态，还未被任何 PVC 绑定
• Bound（已绑定）：表示 PV 已经绑定到 PVC
• Released（已释放）：表示 PVC 被删掉，但是资源尚未被集群回收
• Failed（失败）：表示该 PV 的自动回收失败

---

4.Kubernetes 中 PersistentVolume（PV）的回收策略（重点）

（1）Retain

K8S集群什么也不做，等待用户手动去处理PV里的数据，处理完后，再手动删除PV。

****适用于需要手动管理 PV 数据的情况，例如在重要数据需要备份或迁移之前，管理员希望保留数据的完整性。

（2）Delete

K8S会自动删除该PV及里面的数据， 资源和数据将直接从底层存储中清除。 适用于不需要保留数据的情况，通常是短期或临时的数据存储场景，数据一旦释放不再需要。

（3）Recycle

K8S会将PV里的数据删除，然后把PV的状态变成Available，又可以被新的PVC绑定使用。 适用于简单的回收场景，数据不敏感，且 PV 可以多次循环利用

4.1回收策略yaml格式

kubectl explain pv    #查看pv的定义方式
FIELDS:
	apiVersion: v1
	kind: PersistentVolume
	metadata:    #由于 PV 是集群级别的资源，即 PV 可以跨 namespace 使用，所以 PV 的 metadata 中不用配置 namespace
	  name: 
	spec

kubectl explain pv.spec    #查看pv定义的规格
spce:
  nfs:（定义存储类型）
    path:（定义挂载卷路径）
    server:（定义服（定义访问模型，务器名称）
  accessModes:有以下三种访问模型，以列表的方式存在，也就是说可以定义多个访问模式） * * *
    - ReadWriteOnce          #（RWO）存储可读可写，但只支持被单个 Pod 挂载
	- ReadOnlyMany           #（ROX）存储可以以只读的方式被多个 Pod 挂载
	- ReadWriteMany          #（RWX）存储可以以读写的方式被多个 Pod 共享
	
	nfs 支持全部三种；iSCSI 不支持 ReadWriteMany（iSCSI 就是在 IP 网络上运行 SCSI 协议的一种网络存储技术）；HostPath 不支持 ReadOnlyMany 和 ReadWriteMany。
  capacity:（定义存储能力，一般用于设置存储空间）
    storage: 2Gi （指定大小）
  storageClassName: （自定义存储类名称，此配置用于绑定具有相同类别的PVC和PV）
  persistentVolumeReclaimPolicy: Retain    #回收策略（Retain/Delete/Recycle） * * *
#Retain（保留）：当删除与之绑定的PVC时候，这个PV被标记为released（PVC与PV解绑但还没有执行回收策略）且之前的数据依然保存在该PV上，但是该PV不可用，需要手动来处理这些数据并删除该PV。
#Delete（删除）：删除与PV相连的后端存储资源（只有 AWS EBS, GCE PD, Azure Disk 和 Cinder 支持）
#Recycle（回收）：删除数据，效果相当于执行了 rm -rf /thevolume/* （只有 NFS 和 HostPath 支持）

kubectl explain pvc   #查看PVC的定义方式
KIND:     PersistentVolumeClaim
VERSION:  v1
FIELDS:
   apiVersion	<string>
   kind	<string>  
   metadata	<Object>
   spec	<Object>

#PV和PVC中的spec关键字段要匹配，比如存储（storage）大小、访问模式（accessModes）、存储类名称（storageClassName）
kubectl explain pvc.spec
spec:
  accessModes: （定义访问模式，必须是PV的访问模式的子集）
  resources:
    requests:
      storage: （定义申请资源的大小）
  storageClassName: （定义存储类名称，此配置用于绑定具有相同类别的PVC和PV）

5.nfs例子

5.1静态pv和pvc

配置nfs存储
mkdir v{1,2,3,4,5}

vim /etc/exports
/data/volumes/v1 192.168.10.0/24(rw,no_root_squash)
/data/volumes/v2 192.168.10.0/24(rw,no_root_squash)
/data/volumes/v3 192.168.10.0/24(rw,no_root_squash)
/data/volumes/v4 192.168.10.0/24(rw,no_root_squash)
/data/volumes/v5 192.168.10.0/24(rw,no_root_squash)

exportfs -arv

showmount -e

参考官网
https://kubernetes.io/zh-cn/docs/tasks/configure-pod-container/configure-persistent-volume-storage/#create-a-persistentvolume

定义PV
这里定义5个PV，并且定义挂载的路径以及访问模式，还有PV划分的大小。
vim pv-demo.yaml
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv001
  labels:
    name: pv001
spec:
  nfs:
    path: /data/volumes/v1   
    server:stor01                                                                                                                                                                                   
	accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 1Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv002
  labels:
    name: pv002
spec:
  nfs:
    path: /data/volumes/v2
    server: stor01
  accessModes: ["ReadWriteOnce"]
  capacity:
    storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv003
  labels:
    name: pv003
spec:
  nfs:
    path: /data/volumes/v3
    server: stor01
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv004
  labels:
    name: pv004
spec:
  nfs:
    path: /data/volumes/v4
    server: stor01
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 4Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: pv005
  labels:
    name: pv005
spec:
  nfs:
    path: /data/volumes/v5
    server: stor01
  accessModes: ["ReadWriteMany","ReadWriteOnce"]
  capacity:
    storage: 5Gi


kubectl apply -f pv-demo.yaml

kubectl get pv

定义PVC
定义了pvc的访问模式为多路读写，该访问模式必须在前面pv定义的访问模式之中。定义PVC申请的大小为2Gi，此时PVC会自动去匹配多路读写且大小为2Gi的PV，匹配成功获取PVC的状态即为Bound
vim pod-vol-pvc.yaml
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: mypvc
  namespace: default
spec:
  accessModes: ["ReadWriteMany"]
  resources:
    requests:
      storage: 2Gi
---
apiVersion: v1
kind: Pod
metadata:
  name: pod-vol-pvc
  namespace: default
spec:
  containers:
  - name: myapp
    image: ikubernetes/myapp:v1
    volumeMounts:
    - name: html
      mountPath: /usr/share/nginx/html
  volumes:
    - name: html
      persistentVolumeClaim:
        claimName: mypvc


kubectl apply -f pod-vol-pvc.yaml

kubectl get pv

kubectl get pvc

测试访问
在存储服务器上创建index.html，并写入数据，通过访问Pod进行查看，可以获取到相应的页面。
cd /data/volumes/v3/
echo "welcome to use pv3" > index.html

kubectl get pods -o wide

使用curl命令访问 

配置nfs存储

建pv

建pvc和pod

绑定了pvc和pv

在创建一个pvc,pod

pv003已经绑定了，新的pvc绑定了pv005

总结

pv k8s 在指定的存储设备空间中创建的课持久化的存储资源

pvc 是对pvc存储资源的请求和绑定

storageclass sc类(存储类)联动存储卷插件根据pvc请求动态创建pv资源

**静态的pv使用 过程 **

• 先准备存储设备和共享目录
• 创建pv 资源配置 存储卷类型 访问模式·存储能力大小
• 创建pvc资源配置,请求的pv资源,访问模式和存储大小绑定pv,pv和pvc是一对一的绑定关系
• pv访问模式必须支持pVC请求访问模式·请求的存储空间会优先选择相等的存储大小pv资源,如果没有回选择大于请求存储大小的pv资源

创建pod资源·存储类型设置成persistentVolumeClaim,在容器配置中配置存储卷挂载

5.2动态pv和pvc

搭建 StorageClass + NFS，实现 NFS 的动态 PV 创建

Kubernetes 本身支持的动态 PV 创建不包括 NFS，所以需要使用外部存储卷插件分配PV。参考官网https://kubernetes.io/zh/docs/concepts/storage/storage-classes/

** Kubernetes 存储插件支持的访问模式**

存储插件 (Volume Plugin)	ReadWriteOnce (RWO)	ReadOnlyMany (ROX)	ReadWriteMany (RWX)
AWSElasticBlockStore	✔️	❌	❌
AzureFile	✔️	✔️	✔️
CephFS	✔️	✔️	✔️
Cinder	✔️	❌	❌
FC (Fibre Channel)	✔️	❌	❌
FlexVolume	✔️	❌	❌
GCEPersistentDisk	✔️	❌	❌
Glusterfs	✔️	✔️	✔️
HostPath	✔️	❌	❌
iSCSI	✔️	✔️	❌
NFS	✔️	✔️	✔️
RBD (Ceph RBD)	✔️	✔️	❌
VsphereVolume	✔️	❌	❌

---

说明：

1. RWO (ReadWriteOnce): 单节点读写。常用于块存储（如 AWSElasticBlockStore、GCEPersistentDisk）。
2. ROX (ReadOnlyMany): 多节点只读。适用于共享文件系统的只读场景。
3. RWX (ReadWriteMany): 多节点读写。通常用于网络文件系统（如 NFS、CephFS、Glusterfs）。

卷插件称为 Provisioner（存储分配器），NFS 使用的是 nfs-client，这个外部PV。

Provisioner：用于指定 Volume 插件的类型，包括内置插件（如 kubernetes.io/aws-ebs）和外部插件（如 exte卷插件会使用已经配置好的 NFS 服务器自动创建 rnal-storage 提供的 ceph.com/cephfs）。

1、在stor01节点上安装nfs，并配置nfs服务
mkdir /opt/k8s
chmod 777 /opt/k8s/

vim /etc/exports
/opt/k8s 192.168.10.0/24(rw,no_root_squash,sync)

systemctl restart nfs

2、创建 Service Account，用来管理 NFS Provisioner 在 k8s 集群中运行的权限，设置 nfs-client 对 PV，PVC，StorageClass 等的规则

vim nfs-client-rbac.yaml
#创建 Service Account 账户，用来管理 NFS Provisioner 在 k8s 集群中运行的权限
apiVersion: v1
kind: ServiceAccount
metadata:
  name: nfs-client-provisioner
---
#创建集群角色，设置相关的资源权限规则
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
  name: nfs-client-provisioner-clusterrole
rules:
  - apiGroups: [""]
    resources: ["persistentvolumes"]
    verbs: ["get", "list", "watch", "create", "delete"]
  - apiGroups: [""]
    resources: ["persistentvolumeclaims"]
    verbs: ["get", "list", "watch", "update"]
  - apiGroups: ["storage.k8s.io"]
    resources: ["storageclasses"]
    verbs: ["get", "list", "watch"]
  - apiGroups: [""]
    resources: ["events"]
    verbs: ["list", "watch", "create", "update", "patch"]
  - apiGroups: [""]
    resources: ["endpoints"]
    verbs: ["create", "delete", "get", "list", "watch", "patch", "update"]
---
#集群角色绑定，将服务账号和集群角色进行绑定，使服务账号具有相应的资源操作权限
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
  name: nfs-client-provisioner-clusterrolebinding
subjects:
- kind: ServiceAccount
  name: nfs-client-provisioner
  namespace: default
roleRef:
  kind: ClusterRole
  name: nfs-client-provisioner-clusterrole
  apiGroup: rbac.authorization.k8s.io


kubectl apply -f nfs-client-rbac.yaml


3、使用 Deployment 来创建 NFS Provisioner
NFS Provisione(即 nfs-client)，有两个功能：一个是在 NFS 共享目录下创建挂载点(volume)，另一个则是将 PV 与 NFS 的挂载点建立关联。

#由于 1.20 版本启用了 selfLink，所以 k8s 1.20+ 版本通过 nfs provisioner 动态生成pv会报错，解决方法如下：
vim /etc/kubernetes/manifests/kube-apiserver.yaml
spec:
  containers:
  - command:
    - kube-apiserver
    - --feature-gates=RemoveSelfLink=false       #添加这一行
    - --advertise-address=192.168.10.19
......

kubectl apply -f /etc/kubernetes/manifests/kube-apiserver.yaml
kubectl delete pods kube-apiserver -n kube-system 
kubectl get pods -n kube-system | grep apiserver

#创建 NFS Provisioner
vim nfs-client-provisioner.yaml
kind: Deployment
apiVersion: apps/v1
metadata:
  name: nfs-client-provisioner
spec:
  replicas: 1
  selector:
    matchLabels:
      app: nfs-client-provisioner
  strategy:
    type: Recreate
  template:
    metadata:
      labels:
        app: nfs-client-provisioner
    spec:
      serviceAccountName: nfs-client-provisioner   	  #指定Service Account账户
      containers:
        - name: nfs-client-provisioner
          image: quay.io/external_storage/nfs-client-provisioner:latest
          imagePullPolicy: IfNotPresent
          volumeMounts:
            - name: nfs-client-root
              mountPath: /persistentvolumes
          env:
            - name: PROVISIONER_NAME
              value: nfs-storage       #配置provisioner的Name，确保该名称与StorageClass资源中的provisioner名称保持一致
            - name: NFS_SERVER
              value: stor01           #配置绑定的nfs服务器
            - name: NFS_PATH
              value: /opt/k8s          #配置绑定的nfs服务器目录
      volumes:              #申明nfs数据卷
        - name: nfs-client-root
          nfs:
            server: stor01
            path: /opt/k8s
	
	
kubectl apply -f nfs-client-provisioner.yaml 

kubectl get pod
NAME                                   READY   STATUS    RESTARTS   AGE
nfs-client-provisioner-cd6ff67-sp8qd   1/1     Running   0          14s


4、创建 StorageClass，负责建立 PVC 并调用 NFS provisioner 进行预定的工作，并让 PV 与 PVC 建立关联

vim nfs-client-storageclass.yaml
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
  name: nfs-client-storageclass
provisioner: nfs-storage     #这里的名称要和provisioner配置文件中的环境变量PROVISIONER_NAME保持一致
parameters:
  archiveOnDelete: "false"   #false表示在删除PVC时不会对数据进行存档，即删除数据
  
  
kubectl apply -f nfs-client-storageclass.yaml

kubectl get storageclass
NAME                      PROVISIONER   RECLAIMPOLICY   VOLUMEBINDINGMODE   ALLOWVOLUMEEXPANSION   AGE
nfs-client-storageclass   nfs-storage   Delete          Immediate           false                  43s


5、创建 PVC 和 Pod 测试

vim test-pvc-pod.yaml
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: test-nfs-pvc
spec:
  accessModes:
    - ReadWriteMany
  storageClassName: nfs-client-PROVISIONER    #关联StorageClass对象
  resources:
    requests:
      storage: 1Gi
---
apiVersion: v1
kind: Pod
metadata:
  name: test-storageclass-pod
spec:
  containers:
  - name: busybox
    image: busybox:latest
    imagePullPolicy: IfNotPresent
    command:
    - "/bin/sh"
    - "-c"
    args:
    - "sleep 3600"
    volumeMounts:
    - name: nfs-pvc
      mountPath: /mnt
  restartPolicy: Never
  volumes:
  - name: nfs-pvc
    persistentVolumeClaim:
      claimName: test-nfs-pvc      #与PVC名称保持一致
	  
	  
kubectl apply -f test-pvc-pod.yaml

PVC 通过 StorageClass 自动申请到空间
kubectl get pvc
NAME            STATUS   VOLUME                                     CAPACITY   ACCESS MODES   STORAGECLASS              AGE
test-nfs-pvc   Bound    pvc-11670f39-782d-41b8-a842-eabe1859a456   1Gi        RWX            nfs-client-storageclass   2s

查看 NFS 服务器上是否生成对应的目录，自动创建的 PV 会以 ${namespace}-${pvcName}-${pvName} 的目录格式放到 NFS 服务器上
ls /opt/k8s/
default-test-nfs-pvc-pvc-11670f39-782d-41b8-a842-eabe1859a456

进入 Pod 在挂载目录 /mnt 下写一个文件，然后查看 NFS 服务器上是否存在该文件
kubectl exec -it test-storageclass-pod sh
/ # cd /mnt/
/mnt # echo 'this is test file' > test.txt

发现 NFS 服务器上存在，说明验证成功
cat /opt/k8s/test.txt

配置nfs服务

创建 Service Account

client这个词少了i

使用 Deployment 来创建 NFS Provisioner

创建NFS Provisioner

client改过来了

kind ,apiversion同级顺序无所谓

传给node02

provisioner多个s改下名字

忘了这个加上

创建 StorageClass，负责建立 PVC 并调用 NFS provisioner 进行预定的工作，并让 PV 与 PVC 建立关联

创建 PVC 和 Pod

绑定上了pv002,因为pv002是2g ,RWX=ReadWriteMany

总结

动态

动态根据 存储 来定义存储插件

storageclass.动态·创建·pv·的过程

storageclass nfs-client-provisioner

动态创建步骤

1. 准备nfs共享服务器和共享目录
2. 创建 sa服务账号,进行rbac资源操作权限授
3. 创建nfs-provisioner

存储插件(以pod的形式来运行的),配置中要关联sa服务账号使得存储插件得相关资源操作权限。

4. 创建 storageclass·资源·,配置中要关联存储插件的名称配置。

以上述过程只需要创建一次，以后只需要创建PVC，就可生成动态PV资源。

5. 创建PVC资源,配置中关联·storageclass
6. 资源名称,此时会在nfs服务器上生成相关PV共享目录,目录名以$namespace-${pvcName}-${pvName}格式命名。
7. 创建Pod资源(应用)存储类型设置成persistentVolumeClaim,在容器配置中配置存储卷挂载。

6.pv的创建和销毁过程

1.一个PV创建完后状态会变成Available，等待被PVC绑定。

2.一旦被PVC邦定，PV的状态会变成Bound，就可以被定义了相应PVC的Pod使用。

3.Pod使用完后会释放PV，PV的状态变成Released。

4.变成Released的PV会根据定义的回收策略做相应的回收工作。

三种回收策略，Retain、Delete和Recycle。

• Retain是保留现场，K8S集群什么也不做，等待用户手动去处理PV里的数据，处理完后，再手动删除PV。
• Delete策略，K8S会自动删除该PV及里面的数据。
• Recycle方式，K8S会将PV里的数据删除，然后把PV的状态变成Available，又可以被新的PVC绑定使用。