前言:
-
器磁盘上的文件的生命周期是短暂的,这就使得在容器中运行重要应用时会出现一些问题。首先,当容器崩溃时,kubelet 会重启它,但是容器中的文件将丢失——容器以干净的状态(镜像最初的状态)重新启动。其次,在Pod中同时运行多个容器时,这些容器之间通常需要共享文件。Kubernetes 中的Volume抽象就很好的解决了这些问题。Pod中的容器通过Pause容器共享Volume。
环境
[root@master volumes]# kubectl get node -owide
NAME STATUS ROLES AGE VERSION INTERNAL-IP EXTERNAL-IP OS-IMAGE KERNEL-VERSION CONTAINER-RUNTIME
master Ready control-plane,master 518d v1.21.1 192.168.206.10 <none> CentOS Linux 7 (Core) 3.10.0-862.el7.x86_64 docker://19.3.15
slave01 Ready <none> 518d v1.21.1 192.168.206.11 <none> CentOS Linux 7 (Core) 3.10.0-862.el7.x86_64 docker://20.10.23
slave02 Ready <none> 518d v1.21.1 192.168.206.12 <none> CentOS Linux 7 (Core) 3.10.0-862.el7.x86_64 docker://20.10.23
原著:K8s存储_如何使用nfs实现pvc和pv-CSDN博客
1.emptyDir存储卷
-
当Pod被分配给节点时,首先创建emptyDir卷,并且只要该Pod在该节点上运行,该卷就会存在。正如卷的名字所述,它最初是空的。Pod 中的容器可以读取和写入emptyDir卷中的相同文件,尽管该卷可以挂载到每个容器中的相同或不同路径上。当出于任何原因从节点中删除 Pod 时,emptyDir中的数据将被永久删除。
vim pod-emptydir.yaml
apiVersion: v1
kind: Pod
metadata:
name: pod-emptydir
namespace: default
labels:
app: myapp
tier: frontend
spec:
containers:
- name: myapp
image: ikubernetes/myapp:v1
imagePullPolicy: IfNotPresent
ports:
- name: http
containerPort: 80
#定义容器挂载内容
volumeMounts:
#使用的存储卷名称,如果跟下面volume字段name值相同,则表示使用volume的这个存储卷
- name: html
#挂载至容器中哪个目录
mountPath: /usr/share/nginx/html/
- name: busybox
image: busybox:latest
imagePullPolicy: IfNotPresent
volumeMounts:
- name: html
#在容器内定义挂载存储名称和挂载路径
mountPath: /data/
command: ['/bin/sh','-c','while true;do echo $(date) >> /data/index.html;sleep 2;done']
#定义存储卷
volumes:
#定义存储卷名称
- name: html
#定义存储卷类型
emptyDir: {}
kubectl apply -f pod-emptydir.yaml
kubectl get pods -o wide
在上面定义了2个容器,其中一个容器是输入日期到index.html中,然后验证访问nginx的html是否可以获取日期。以验证两个容器之间挂载的emptyDir实现共享。
一般emptyDir模式一般用于这种,一个pod中定义好几个容器的服务。因为这种模式不支持存储空间共享,导致无法让两个容器之间的存储目录之间共享文件。而他们的数据也不是很重要。
查看存储位置
发现pod早slave01上
[root@master volumes]# kubectl get pod -owide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
pod-emptydir 2/2 Running 0 13m 172.7.1.175 slave01 <none> <none>
通过docker查看pod的信息
[root@slave01 ~]# docker ps -a |grep pod-emptydir
1e2f9a6828bc beae173ccac6 "/bin/sh -c 'while t…" 14 minutes ago Up 14 minutes k8s_busybox_pod-emptydir_default_0c6efc63-7991-475f-9c5b-3b4a72350090_0
76b57aaf9983 d4a5e0eaa84f "nginx -g 'daemon of…" 14 minutes ago Up 14 minutes k8s_myapp_pod-emptydir_default_0c6efc63-7991-475f-9c5b-3b4a72350090_0
4b9b84d73614 registry.aliyuncs.com/google_containers/pause:3.4.1 "/pause" 14 minutes ago Up 14 minutes k8s_POD_pod-emptydir_default_0c6efc63-7991-475f-9c5b-3b4a72350090_0
发现他们的名字都带default_0c6efc63-7991-475f-9c5b-3b4a72350090_0
故默认存储位置在
/var/lib/kubelet/pods/0c6efc63-7991-475f-9c5b-3b4a72350090/volumes/kubernetes.io~empty-dir/html/
2.hostPath存储卷
- hostPath卷将 node 节点的文件系统中的文件或目录挂载到集群中。
- hostPath可以实现持久存储,但是在node节点故障时,也会导致数据的丢失。
//在 slave01 节点上创建挂载目录
mkdir -p /data/pod/volume1
echo 'slave01' > /data/pod/volume1/index.html
//在 slave02 节点上创建挂载目录
mkdir -p /data/pod/volume1
echo 'slave02' > /data/pod/volume1/index.html
//创建 Pod 资源
vim pod-hostpath.yaml
apiVersion: v1
kind: Pod
metadata:
name: pod-hostpath
namespace: default
spec:
containers:
- name: myapp
image: ikubernetes/myapp:v1
#定义容器挂载内容
volumeMounts:
#使用的存储卷名称,如果跟下面volume字段name值相同,则表示使用volume的这个存储卷
- name: html
#挂载至容器中哪个目录
mountPath: /usr/share/nginx/html
#读写挂载方式,默认为读写模式false
readOnly: false
#volumes字段定义了paues容器关联的宿主机或分布式文件系统存储卷
volumes:
#存储卷名称
- name: html
#路径,为宿主机存储路径
hostPath:
#在宿主机上目录的路径
path: /data/pod/volume1
#定义类型,这表示如果宿主机没有此目录则会自动创建
type: DirectoryOrCreate
kubectl apply -f pod-hostpath.yaml
//访问测试
kubectl get pods -o wide
3.nfs共享存储卷
/在mster节点上安装nfs,并配置nfs服务
mkdir /data/volumes -p
chmod 777 /data/volumes
vim /etc/exports
/data/volumes 192.168.206.0/24(rw,no_root_squash)
systemctl start rpcbind
systemctl start nfs
showmount -e
Export list for stor01:
/data/volumes 192.168.206.0/24
//master节点操作
vim pod-nfs-vol.yaml
apiVersion: v1
kind: Pod
metadata:
name: pod-vol-nfs
namespace: default
spec:
containers:
- name: myapp
image: ikubernetes/myapp:v1
volumeMounts:
- name: html
mountPath: /usr/share/nginx/html
volumes:
- name: html
nfs:
path: /data/volumes
server: master # 写挂载点节点的名字(kubectl get node)
kubectl apply -f pod-nfs-vol.yaml
//在nfs服务器上创建index.html
cd /data/volumes
vim index.html
<h1> nfs master</h1>
//查看pod-vol-nfs的pod的IP,然后访问
curl 10.244.2.38
<h1> nfs master</h1>
4.PVC 和 PV
PV 全称叫做 Persistent Volume,持久化存储卷。它是用来描述或者说用来定义一个存储卷的,这个通常都是由运维工程师来定义。
PVC 的全称是 Persistent Volume Claim,是持久化存储的请求。它是用来描述希望使用什么样的或者说是满足什么条件的 PV 存储。
PVC 的使用逻辑:在 Pod 中定义一个存储卷(该存储卷类型为 PVC),定义的时候直接指定大小,PVC 必须与对应的 PV 建立关系,PVC 会根据配置的定义去 PV 申请,而 PV 是由存储空间创建出来的。PV 和 PVC 是 Kubernetes 抽象出来的一种存储资源。
PV是集群中的资源。 PVC是对这些资源的请求,也是对资源的索引检查。
PV和PVC之间的相互作用遵循这个生命周期:
- Provisioning(配置)---> Binding(绑定)---> Using(使用)---> Releasing(释放) ---> Recycling(回收)
- Provisioning,即 PV 的创建,可以直接创建 PV(静态方式),也可以使用 StorageClass 动态创建
- Binding,将 PV 分配给 PVC
- Using,Pod 通过 PVC 使用该 Volume,并可以通过准入控制StorageProtection(1.9及以前版本为PVCProtection) 阻止删除正在使用的 PVC
- Releasing,Pod 释放 Volume 并删除 PVC
- Reclaiming,回收 PV,可以保留 PV 以便下次使用,也可以直接从云存储中删除
根据这 5 个阶段,PV 的状态有以下 4 种
- Available(可用):表示可用状态,还未被任何 PVC 绑定
- Bound(已绑定):表示 PV 已经绑定到 PVC
- Released(已释放):表示 PVC 被删掉,但是资源尚未被集群回收
- Failed(失败):表示该 PV 的自动回收失败
一个PV从创建到销毁的具体流程如下
- 一个PV创建完后状态会变成Available,等待被PVC绑定。
- 一旦被PVC邦定,PV的状态会变成Bound,就可以被定义了相应PVC的Pod使用。
- Pod使用完后会释放PV,PV的状态变成Released。
-
变成Released的PV会根据定义的回收策略做相应的回收工作。有三种回收策略,Retain、Delete和Recycle。Retain就是保留现场,K8S集群什么也不做,等待用户手动去处理PV里的数据,处理完后,再手动删除PV。Delete策略,K8S会自动删除该PV及里面的数据。Recycle方式,K8S会将PV里的数据删除,然后把PV的状态变成Available,又可以被新的PVC绑定使用。
kubectl explain pv #查看pv的定义方式
FIELDS:
apiVersion: v1
kind: PersistentVolume
metadata: #由于 PV 是集群级别的资源,即 PV 可以跨 namespace 使用,所以 PV 的 metadata 中不用配置 namespace
name:
spec
kubectl explain pv.spec #查看pv定义的规格
spec:
nfs:(定义存储类型)
path:(定义挂载卷路径)
server:(定义服务器名称)
accessModes:(定义访问模型,有以下三种访问模型,以列表的方式存在,也就是说可以定义多个访问模式)
- ReadWriteOnce #(RWO)卷可以被一个节点以读写方式挂载。 ReadWriteOnce 访问模式也允许运行在同一节点上的多个 Pod 访问卷。
- ReadOnlyMany #(ROX)卷可以被多个节点以只读方式挂载。
- ReadWriteMany #(RWX)卷可以被多个节点以读写方式挂载。
#nfs 支持全部三种;iSCSI 不支持 ReadWriteMany(iSCSI 就是在 IP 网络上运行 SCSI 协议的一种网络存储技术);HostPath 不支持 ReadOnlyMany 和 ReadWriteMany。
capacity:(定义存储能力,一般用于设置存储空间)
storage: 2Gi (指定大小)
storageClassName: (自定义存储类名称,此配置用于绑定具有相同类别的PVC和PV)
persistentVolumeReclaimPolicy: Retain #回收策略(Retain/Delete/Recycle)
#Retain(保留):当用户删除与之绑定的PVC时候,这个PV被标记为released(PVC与PV解绑但还没有执行回收策略)且之前的数据依然保存在该PV上,但是该PV不可用,需要手动来处理这些数据并删除该PV。
#Delete(删除):删除与PV相连的后端存储资源。对于动态配置的PV来说,默认回收策略为Delete。表示当用户删除对应的PVC时,动态配置的volume将被自动删除。(只有 AWS EBS, GCE PD, Azure Disk 和 Cinder 支持)
#Recycle(回收):如果用户删除PVC,则删除卷上的数据,卷不会删除。(只有 NFS 和 HostPath 支持)
kubectl explain pvc #查看PVC的定义方式
KIND: PersistentVolumeClaim
VERSION: v1
FIELDS:
apiVersion <string>
kind <string>
metadata <Object>
spec <Object>
#PV和PVC中的spec关键字段要匹配,比如存储(storage)大小、访问模式(accessModes)、存储类名称(storageClassName)
kubectl explain pvc.spec
spec:
accessModes: (定义访问模式,必须是PV的访问模式的子集)
resources:
requests:
storage: (定义申请资源的大小)
storageClassName: (定义存储类名称,此配置用于绑定具有相同类别的PVC和PV)
NFS使用PV和PVC
1.配置nfs存储
cd /data/volumes
mkdir v{1,2,3,4,5}
chmod 777 -R /data/volumes
vim /etc/exports
/data/volumes/v1 192.168.206.0/24(rw,no_root_squash)
/data/volumes/v2 192.168.206.0/24(rw,no_root_squash)
/data/volumes/v3 192.168.206.0/24(rw,no_root_squash)
/data/volumes/v4 192.168.206.0/24(rw,no_root_squash)
/data/volumes/v5 192.168.206.0/24(rw,no_root_squash)
exportfs -arv
]# showmount -e
Export list for master:
/data/volumes/v5 192.168.206.0/24
/data/volumes/v4 192.168.206.0/24
/data/volumes/v3 192.168.206.0/24
/data/volumes/v2 192.168.206.0/24
/data/volumes/v1 192.168.206.0/24
2.定义PV
//这里定义5个PV,并且定义挂载的路径以及访问模式,还有PV划分的大小。
vim pv-demo.yaml
apiVersion: v1
kind: PersistentVolume
metadata:
name: pv001
labels:
name: pv001
spec:
nfs:
path: /data/volumes/v1
server: master
accessModes: ["ReadWriteMany","ReadWriteOnce"]
capacity:
storage: 1Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
name: pv002
labels:
name: pv002
spec:
nfs:
path: /data/volumes/v2
server: master
accessModes: ["ReadWriteOnce"]
capacity:
storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
name: pv003
labels:
name: pv003
spec:
nfs:
path: /data/volumes/v3
server: master
accessModes: ["ReadWriteMany","ReadWriteOnce"]
capacity:
storage: 2Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
name: pv004
labels:
name: pv004
spec:
nfs:
path: /data/volumes/v4
server: master
accessModes: ["ReadWriteMany","ReadWriteOnce"]
capacity:
storage: 4Gi
---
apiVersion: v1
kind: PersistentVolume
metadata:
name: pv005
labels:
name: pv005
spec:
nfs:
path: /data/volumes/v5
server: master
accessModes: ["ReadWriteMany","ReadWriteOnce"]
capacity:
storage: 5Gi
kubectl apply -f pv-demo.yaml
]# kubectl get pv
NAME CAPACITY ACCESS MODES RECLAIM POLICY STATUS CLAIM STORAGECLASS REASON AGE
pv001 1Gi RWO,RWX Retain Available 22h
pv002 2Gi RWO Retain Available 22h
pv003 2Gi RWO,RWX Retain Available 22h
pv004 4Gi RWO,RWX Retain Available 22h
pv005 5Gi RWO,RWX Retain Available 22h
3.定义PVC
- 这里定义了pvc的访问模式为多路读写,该访问模式必须在前面pv定义的访问模式之中。定义PVC申请的大小为2Gi,此时PVC会自动去匹配多路读写且大小为2Gi的PV,匹配成功获取PVC的状态即为Bound
vim pod-vol-pvc.yaml
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
name: mypvc
namespace: default
spec:
accessModes: ["ReadWriteMany"]
resources:
requests:
storage: 2Gi
---
apiVersion: v1
kind: Pod
metadata:
name: pod-vol-pvc
namespace: default
spec:
containers:
- name: myapp
image: ikubernetes/myapp:v1
volumeMounts:
- name: html
mountPath: /usr/share/nginx/html
volumes:
- name: html
persistentVolumeClaim:
claimName: mypvc
kubectl apply -f pod-vol-pvc.yaml
]# kubectl get pv
NAME CAPACITY ACCESS MODES RECLAIM POLICY STATUS CLAIM STORAGECLASS REASON AGE
pv001 1Gi RWO,RWX Retain Available 22h
pv002 2Gi RWO Retain Available 22h
pv003 2Gi RWO,RWX Retain Bound default/mypvc 22h
pv004 4Gi RWO,RWX Retain Available 22h
pv005 5Gi RWO,RWX Retain Available 22h
[root@master volumes]# kubectl get pvc
NAME STATUS VOLUME CAPACITY ACCESS MODES STORAGECLASS AGE
mypvc Bound pv003 2Gi RWO,RWX 22h
4.测试访问
//在存储服务器上创建index.html,并写入数据,通过访问Pod进行查看,可以获取到相应的页面。
cd /data/volumes/v3/
echo "welcome to use pv3" > index.html
kubectl get pods -o wide
pod-vol-pvc 1/1 Running 0 3m 172.7.1.175 slave01
curl 172.7.1.175
welcome to use pv3
5.搭建 StorageClass + nfs-client-provisioner ,实现 NFS 的动态 PV 创建
Kubernetes 本身支持的动态 PV 创建不包括 NFS,所以需要使用外部存储卷插件分配PV。详见:https://kubernetes.io/zh/docs/concepts/storage/storage-classes/
卷插件称为 Provisioner(存储分配器),NFS 使用的是 nfs-client,这个外部卷插件会使用已经配置好的 NFS 服务器自动创建 PV。
Provisioner:用于指定 Volume 插件的类型,包括内置插件(如 kubernetes.io/aws-ebs)和外部插件(如 external-storage 提供的 ceph.com/cephfs)。
1、在master节点上安装nfs,并配置nfs服务
mkdir /data/volumes/movepv
chmod 777 /data/volumes/movepv
vim /etc/exports
/data/volumes/movepv 192.168.206.0/24(rw,no_root_squash,sync)
systemctl restart nfs
2、创建 Service Account
用来管理 NFS Provisioner 在 k8s 集群中运行的权限,设置 nfs-client 对 PV,PVC,StorageClass 等的规则
vim nfs-client-rbac.yaml
#创建 Service Account 账户,用来管理 NFS Provisioner 在 k8s 集群中运行的权限
apiVersion: v1
kind: ServiceAccount
metadata:
name: nfs-client-provisioner
namespace: kube-system
---
#创建集群角色
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
name: nfs-client-provisioner-clusterrole
namespace: kube-system
rules:
- apiGroups: [""]
resources: ["persistentvolumes"]
verbs: ["get", "list", "watch", "create", "delete"]
- apiGroups: [""]
resources: ["persistentvolumeclaims"]
verbs: ["get", "list", "watch", "update"]
- apiGroups: ["storage.k8s.io"]
resources: ["storageclasses"]
verbs: ["get", "list", "watch"]
- apiGroups: [""]
resources: ["events"]
verbs: ["list", "watch", "create", "update", "patch"]
- apiGroups: [""]
resources: ["endpoints"]
verbs: ["create", "delete", "get", "list", "watch", "patch", "update"]
---
#集群角色绑定
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
name: nfs-client-provisioner-clusterrolebinding
subjects:
- kind: ServiceAccount
name: nfs-client-provisioner
namespace: kube-system
roleRef:
kind: ClusterRole
name: nfs-client-provisioner-clusterrole
apiGroup: rbac.authorization.k8s.io
]# kubectl apply -f nfs-client-rbac.yaml
serviceaccount/nfs-client-provisioner created
clusterrole.rbac.authorization.k8s.io/nfs-client-provisioner-clusterrole created
clusterrolebinding.rbac.authorization.k8s.io/nfs-client-provisioner-clusterrolebinding created
3、使用 Deployment 来创建 NFS Provisioner
NFS Provisioner(即 nfs-client),有两个功能:一个是在 NFS 共享目录下创建挂载点(volume),另一个则是将 PV 与 NFS 的挂载点建立关联。
#由于 1.20 版本启用了 selfLink,所以 k8s 1.20+ 版本通过 nfs provisioner 动态生成pv会报错,解决方法如下:
vim /etc/kubernetes/manifests/kube-apiserver.yaml
spec:
containers:
- command:
- kube-apiserver
- --feature-gates=RemoveSelfLink=false #添加这一行
- --advertise-address=192.168.206.10
......
kubectl apply -f /etc/kubernetes/manifests/kube-apiserver.yaml
kubectl delete pods kube-apiserver -n kube-system
kubectl get pods -n kube-system | grep apiserver
#创建 NFS Provisioner
vim nfs-client-provisioner.yaml
kind: Deployment
apiVersion: apps/v1
metadata:
name: nfs-client-provisioner
namespace: kube-system
spec:
replicas: 1
selector:
matchLabels:
app: nfs-client-provisioner
strategy:
type: Recreate
template:
metadata:
labels:
app: nfs-client-provisioner
spec:
serviceAccountName: nfs-client-provisioner #指定Service Account账户
containers:
- name: nfs-client-provisioner
image: quay.io/external_storage/nfs-client-provisioner:latest
imagePullPolicy: IfNotPresent
volumeMounts:
- name: nfs-client-root
mountPath: /persistentvolumes
env:
- name: PROVISIONER_NAME
value: nfs-storage #配置provisioner的Name,确保该名称与StorageClass资源中的provisioner名称保持一致
- name: NFS_SERVER
value: master #配置绑定的nfs服务器
- name: NFS_PATH
value: /data/volumes/movepv #配置绑定的nfs服务器目录
volumes: #申明nfs数据卷
- name: nfs-client-root
nfs:
server: master
path: /data/volumes/movepv
kubectl apply -f nfs-client-provisioner.yaml
]# kubectl get pod -n kube-system -owide
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
nfs-client-provisioner-6d5dc8d47d-cbwvz 1/1 Running 1 10h 172.7.0.229 master <none> <none>
4、创建 StorageClass
vim nfs-client-storageclass.yaml
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
name: nfs-client-storageclass
provisioner: nfs-storage #这里的名称要和provisioner配置文件中的环境变量PROVISIONER_NAME保持一致
parameters:
archiveOnDelete: "false" #false表示在删除PVC时不会对数据目录进行打包存档,即删除数据;为ture时就会自动对数据目录进行打包存档,存档文件以archived开头
kubectl apply -f nfs-client-storageclass.yaml
#] kubectl get StorageClass
NAME PROVISIONER RECLAIMPOLICY VOLUMEBINDINGMODE ALLOWVOLUMEEXPANSION AGE
nfs-client-storageclass nfs-storage Delete Immediate false 21h
5、创建 PVC 和 Pod 测试
vim test-pvc-pod.yaml
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
name: test-nfs-pvc
#annotations: volume.beta.kubernetes.io/storage-class: "nfs-client-storageclass" #另一种SC配置方式
spec:
accessModes:
- ReadWriteMany
storageClassName: nfs-client-storageclass #关联StorageClass对象
resources:
requests:
storage: 1Gi
---
apiVersion: v1
kind: Pod
metadata:
name: test-storageclass-pod
spec:
containers:
- name: busybox
image: busybox:latest
imagePullPolicy: IfNotPresent
command:
- "/bin/sh"
- "-c"
args:
- "sleep 3600"
volumeMounts:
- name: nfs-pvc
mountPath: /mnt
restartPolicy: Never
volumes:
- name: nfs-pvc
persistentVolumeClaim:
claimName: test-nfs-pvc #与PVC名称保持一致
kubectl apply -f test-pvc-pod.yaml
//PVC 通过 StorageClass 自动申请到空间
]# kubectl get pvc
NAME STATUS VOLUME CAPACITY ACCESS MODES STORAGECLASS AGE
test-nfs-pvc Bound pvc-86ee8ff4-b052-4cdc-a89a-90b1cc81f727 1Gi RWX nfs-client-storageclass 21h
//查看 NFS 服务器上是否生成对应的目录,自动创建的 PV 会以 ${namespace}-${pvcName}-${pvName} 的目录格式放到 NFS 服务器上
]# cd /data/volumes/movepv/
]# ll
drwxrwxrwx 2 root root 17 7月 2 22:25 default-test-nfs-pvc-pvc-86ee8ff4-b052-4cdc-a89a-90b1cc81f727
//进入 Pod 在挂载目录 /mnt 下写一个文件,然后查看 NFS 服务器上是否存在该文件
kubectl exec -it test-storageclass-pod sh
/ # cd /mnt/
/mnt # echo 'this is test file' > test.txt
//发现 NFS 服务器上存在,说明验证成功
cat /data/volumes/movepv/default-test-nfs-pvc-pvc-86ee8ff4-b052-4cdc-a89a-90b1cc81f727/test.txt
6.部署nfs server+实现 NFS 的动态 PV 创建
上述的nfs-server是用本地实现的,而现在将要把nfs-server迁移到pod中
nfs-server的pod的/nfs 目录挂载本地 /data/nfs,然后共享nfs-server的pod的/nfs
master 节点 mkdir /data/nfs
vim nfs-server.yaml #部署nfs server
apiVersion: apps/v1
kind: Deployment
metadata:
name: nfs-server
namespace: kube-system
spec:
replicas: 1
selector:
matchLabels:
role: nfs-server
template:
metadata:
labels:
role: nfs-server
spec:
containers:
- env:
- name: NFS_EXPORT_0
value: /nfs *(rw,sync,insecure,no_subtree_check,no_root_squash,no_all_squash,fsid=1)
image: jerry/nfs-server:latest
imagePullPolicy: IfNotPresent
name: nfs-server
securityContext:
capabilities:
add:
- SYS_ADMIN
- SYS_MODULE
privileged: true
volumeMounts:
- mountPath: /nfs
name: nfs-data-volume
- mountPath: /lib/modules
name: lib-modules
readOnly: true
nodeSelector:
kubernetes.io/hostname: master
restartPolicy: Always
volumes:
- hostPath:
path: /data/nfs
type: ""
name: nfs-data-volume
- hostPath:
path: /lib/modules
type: ""
name: lib-modules
kubectl allpy -f nfs-server.yaml
进入nfs-server容器查看状态,查看
cat /etc/exports
/nfs *(rw,sync,insecure,no_subtree_check,no_root_squash,no_all_squash,fsid=1)
showmount -e
Export list for stor01:
/nfs *
创建 svc 资源,因为需要用svc资源代理pod资源,pod的IP是会变化的,而svc的IP可以固定,或者使用svc.cluster.local
vim nfs-server-svc.yaml
apiVersion: v1
kind: Service
metadata:
name: nfs-server
namespace: kube-system
spec:
ports:
- name: tcp-2049
port: 2049
protocol: TCP
targetPort: 2049
- name: udp-2049
port: 2049
protocol: UDP
targetPort: 2049
- name: tcp-111
port: 111
protocol: TCP
targetPort: 111
- name: udp-111
port: 111
protocol: UDP
targetPort: 111
- name: tcp-32765
port: 32765
protocol: TCP
targetPort: 32765
- name: udp-32765
port: 32765
protocol: UDP
targetPort: 32765
- name: tcp-32767
port: 32767
protocol: TCP
targetPort: 32767
- name: udp-32767
port: 32767
protocol: UDP
targetPort: 32767
selector:
role: nfs-server
sessionAffinity: None
type: ClusterIP
kubectl apply -f nfs-server-svc.yaml
[root@master nfs]# kubectl get svc -n kube-system
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE
etcd-k8s ClusterIP None <none> 2379/TCP 2d23h
kube-controller-manager ClusterIP 10.103.221.155 <none> 10257/TCP 3d
kube-dns ClusterIP 10.96.0.10 <none> 53/UDP,53/TCP,9153/TCP 519d
kube-scheduler ClusterIP 10.102.85.153 <none> 10259/TCP 3d14h
kubelet ClusterIP None <none> 10250/TCP,10255/TCP,4194/TCP 5d12h
metrics-server ClusterIP 10.99.170.11 <none> 443/TCP 40h
nfs-server ClusterIP 10.104.50.108 <none> 2049/TCP,2049/UDP,111/TCP,111/UDP,32765/TCP,32765/UDP,32767/TCP,32767/UDP 3h10m
修改nfs-client-provisioner,使其让调用pod的nfs-server
kubectl edit deployment nfs-client-provisioner -n kube-system
apiVersion: apps/v1
kind: Deployment
metadata:
name: nfs-client-provisioner
namespace: kube-system
spec:
progressDeadlineSeconds: 600
replicas: 1
revisionHistoryLimit: 10
selector:
matchLabels:
app: nfs-client-provisioner
strategy:
type: Recreate
template:
metadata:
creationTimestamp: null
labels:
app: nfs-client-provisioner
spec:
containers:
- env:
- name: PROVISIONER_NAME
value: nfs-storage
- name: NFS_SERVER
value: nfs-server.kube-system.svc.cluster.local # 修改此处为svc的地址
- name: NFS_PATH
value: /nfs # 修改此处为nfs-server的共享地址
image: quay.io/external_storage/nfs-client-provisioner:latest
imagePullPolicy: IfNotPresent
name: nfs-client-provisioner
resources: {}
terminationMessagePath: /dev/termination-log
terminationMessagePolicy: File
volumeMounts:
- mountPath: /persistentvolumes
name: nfs-client-root
dnsPolicy: ClusterFirst
nodeSelector:
kubernetes.io/hostname: master
restartPolicy: Always
schedulerName: default-scheduler
securityContext: {}
serviceAccount: nfs-client-provisioner
serviceAccountName: nfs-client-provisioner
terminationGracePeriodSeconds: 30
volumes:
- name: nfs-client-root
nfs:
path: /nfs # 修改此处为nfs-server的共享地址
server: nfs-server.kube-system.svc.cluster.local # 修改此处为svc的地址
修改后发现pod起不来了
但是实际情况是,此地址nfs-server.kube-system.svc.cluster.local 是可以被访问的,在其他的pod中ping或者使用
解决方案:主要还是这块,server 后面跟着的是宿主机的域名解析,比如说我master节点是192.168.206.10 ,要在这个机器上做域名解析
- name: nfs-client-root
nfs:
path: /nfs # 修改此处为nfs-server的共享地址
server: nfs-server.kube-system.svc.cluster.local
最简单的方案是,
查看service的IP
[root@master nfs]# kubectl get svc -n kube-system |grep nfs-ser
nfs-server ClusterIP 10.104.50.108 <none> 2049/TCP,2049/UDP,111/TCP,111/UDP,32765/TCP,32765/UDP,32767/TCP,32767/UDP 3h21m
[root@master nfs]#
所有节点上
[root@master nfs]# cat /etc/hosts
127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4
::1 localhost localhost.localdomain localhost6 localhost6.localdomain6
192.168.206.10 master
192.168.206.11 slave01
192.168.206.12 slave02
199.232.68.133 raw.githubusercontent.com
10.104.50.108 nfs-server.kube-system.svc.cluster.local
或者将此域名做域名解析dns
此处k8s怎么样才能解解析的是集群的域名解析
验证:
vim test-pvc-pod.yaml
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
name: test-nfs-pvc1
#annotations: volume.beta.kubernetes.io/storage-class: "nfs-client-storageclass" #另一种SC配置方式
spec:
accessModes:
- ReadWriteMany
storageClassName: nfs-client-storageclass #关联StorageClass对象
resources:
requests:
storage: 1Gi
---
apiVersion: v1
kind: Pod
metadata:
name: test-storageclass-pod
spec:
containers:
- name: busybox
image: busybox:latest
imagePullPolicy: IfNotPresent
command:
- "/bin/sh"
- "-c"
args:
- "sleep 3600"
volumeMounts:
- name: nfs-pvc1
mountPath: /mnt
restartPolicy: Never
volumes:
- name: nfs-pvc1
persistentVolumeClaim:
claimName: test-nfs-pvc1 #与PVC名称保持一致
kubectl apply -f test-pvc-pod.yaml
最后修改svc的nfs-server,让svc的IP固定
kubectl edit vc nfs-server -n kubes-system
type: ClusterIP
clusterIP: 10.104.50.108
总结:
K8S存储卷 volumes(与containers字段同一层级)
- emptyDir:可实现Pod中的容器之间共享目录数据,但没有持久化数据的能力,存储卷会随着Pod生命周期结束而一起删除
- hostPath:将node节点上的目录或文件挂载到Pod容器中,有持久化数据的能力,但是只能在单个node节点上持久化数据,不能实现跨node节点的Pod共享数据
- nfs:将nfs服务的共享目录挂载到Pod容器中,有持久化数据的能力,且也能实现跨node节点的Pod共享数据
PV PVC
PV:K8S在指定的存储设备空间中逻辑划分创建出来的可持久化的存储资源对象
PVC:对PV存储资源对象的请求和绑定,也是Pod能够定义使用的一种存储卷类型
创建PV的方式
- 手动根据PV资源的配置模板静态的方式创建PV
- 根据PVC的配置模板通过引用StorageClass(简称SC)资源调用存储卷插件来动态的方式创建PV
PV的4个状态
- Available(可用):表示为可用状态,此时PV已经被创建出来了,但还未被PVC绑定
- Bound(已绑定):表示PV已经与PVC绑定了(PV与PVC是一对一的绑定关系),此时PVC可以被Pod使用
- Released(已释放):表示PVC被删除了,但PV还没被回收
- Failed(失败):表示PV被自动回收失败
静态创建PV的步骤
- 准备好存储设备和共享目录
- 准备创建PV资源的配置文件,定义访问模式(ReadWriteOnce、ReadOnlyMany、ReadWriteMany、ReadWriteOncePod)、存储空间大小、回收策略(Retain、Recycle、Delete)、存储设备类型、storageClassName等
- 准备创建PVC资源的配置文件,定义访问模式(必要条件,必须是PV支持的访问模式)、存储空间大小(默认就近选择大于等于指定大小的PV)、storageClassName等来绑定PV
- 创建Pod资源挂载PVC存储卷,定义卷类型为persistentVolumeClaim,并在容器配置中定义存储卷挂载点路径
动态创建PV的步骤
1)准备好存储设备和共享目录
2)如果是外置存储卷插件,需要先创建serviceaccount账户(Pod使用访问apiserver使用的账户)和RBAC授权(创建角色授予相关资源对象的操作权限,再将账户与角色绑定),使得serviceaccount账户具有对PV、PVC、StorageClass等资源的操作权限
3)准备创建外置存储插件Pod资源的配置文件,定义serviceaccount账户作为Pod的用户,并设置相关的环境变量(比如存储插件名称等)
4)创建StorageClass资源,provisioner要设置为存储插件名称
------------------------以上操作是一劳永逸的,之后只需要创建PVC资源引用StorageClass就可以自动调用存储卷插件动态创建PV资源------------------------
5)准备创建PVC资源的配置文件,定义访问模式、存储空间大小、storageClassName设置为StorageClass资源名称等来动态创建PV资源并绑定PV
6)创建Pod资源挂载PVC存储卷,定义卷类型为persistentVolumeClaim,并在容器配置中定义存储卷挂载点路径