k8s使用ceph实现动态持久化存储

最新推荐文章于 2024-08-25 04:59:06 发布
最新推荐文章于 2024-08-25 04:59:06 发布
阅读量379 收藏 1
点赞数
文章标签： java 数据库 运维
原文链接：https://yq.aliyun.com/articles/680042
版权

简介

本文章介绍如何使用ceph为k8s提供动态申请pv的功能。ceph 提供底层存储功能，cephfs方式支持k8s的pv的3种访问模式ReadWriteOnce，ReadOnlyMany ，ReadWriteMany ，RBD支持ReadWriteOnce，ReadOnlyMany两种模式

访问模式只是能力描述，并不是强制执行的，对于没有按pvc声明的方式使用pv，存储提供者应该负责访问时的运行错误。例如如果设置pvc的访问模式为ReadOnlyMany ，pod挂载后依然可写，如果需要真正的不可写，申请pvc是需要指定 readOnly: true 参数

部署

部署k8s

centos7使用kubeadm安装k8s-1.11版本

部署ceph

centos7安装ceph分布式存储集群

在k8s集群中配置使用ceph

使用Ceph RBD
使用kubeadm安装集群的额外配置
# 如果使用kubeadm部署的集群需要这些额外的步骤 # 由于使用动态存储时 controller-manager 需要使用 rbd 命令创建 image # 所以 controller-manager 需要使用 rbd 命令 # 由于官方controller-manager镜像里没有rbd命令 # 如果没使用如下方式会报错无法成功创建pvc # 相关 issue https://github.com/kubernetes/kubernetes/issues/38923
cat >external-storage-rbd-provisioner.yaml<<EOF
apiVersion: v1
kind: ServiceAccount
metadata:
 name: rbd-provisioner
 namespace: kube-system
---
kind: ClusterRole
apiVersion: rbac.authorization.k8s.io/v1
metadata:
 name: rbd-provisioner
rules:
 - apiGroups: [""]
 resources: ["persistentvolumes"]
 verbs: ["get", "list", "watch", "create", "delete"]
 - apiGroups: [""]
 resources: ["persistentvolumeclaims"]
 verbs: ["get", "list", "watch", "update"]
 - apiGroups: ["storage.k8s.io"]
 resources: ["storageclasses"]
 verbs: ["get", "list", "watch"]
 - apiGroups: [""]
 resources: ["events"]
 verbs: ["create", "update", "patch"]
 - apiGroups: [""]
 resources: ["endpoints"]
 verbs: ["get", "list", "watch", "create", "update", "patch"]
 - apiGroups: [""]
 resources: ["services"]
 resourceNames: ["kube-dns"]
 verbs: ["list", "get"]
---
kind: ClusterRoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:
 name: rbd-provisioner
subjects:
 - kind: ServiceAccount
 name: rbd-provisioner
 namespace: kube-system
roleRef:
 kind: ClusterRole
 name: rbd-provisioner
 apiGroup: rbac.authorization.k8s.io

---
apiVersion: rbac.authorization.k8s.io/v1
kind: Role
metadata:
 name: rbd-provisioner
 namespace: kube-system
rules:
- apiGroups: [""]
 resources: ["secrets"]
 verbs: ["get"]
---
apiVersion: rbac.authorization.k8s.io/v1
kind: RoleBinding
metadata:
 name: rbd-provisioner
 namespace: kube-system
roleRef:
 apiGroup: rbac.authorization.k8s.io
 kind: Role
 name: rbd-provisioner
subjects:
- kind: ServiceAccount
 name: rbd-provisioner
 namespace: kube-system

---
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
 name: rbd-provisioner
 namespace: kube-system
spec:
 replicas: 1
 strategy:
 type: Recreate
 template:
 metadata:
 labels:
 app: rbd-provisioner
 spec:
 containers:
 - name: rbd-provisioner
 image: "quay.io/external_storage/rbd-provisioner:v2.0.0-k8s1.11"
 env:
 - name: PROVISIONER_NAME
 value: ceph.com/rbd
 serviceAccount: rbd-provisioner
EOF
kubectl apply -f external-storage-rbd-provisioner.yaml

# 查看状态 等待running之后 再进行后续的操作
kubectl get pod -n kube-system
复制代码
配置 storageclass
# 在k8s集群中所有节点安装 ceph-common # 需要使用kubelet使用rdb命令map附加rbd创建的image
yum install -y ceph-common

# 创建 osd pool 在ceph的mon或者admin节点
ceph osd pool create kube 4096
ceph osd pool ls

# 创建k8s访问ceph的用户 在ceph的mon或者admin节点
ceph auth get-or-create client.kube mon 'allow r' osd 'allow class-read object_prefix rbd_children, allow rwx pool=kube' -o ceph.client.kube.keyring

# 查看key 在ceph的mon或者admin节点
ceph auth get-key client.admin
ceph auth get-key client.kube

# 创建 admin secret # CEPH_ADMIN_SECRET 替换为 client.admin 获取到的key export CEPH_ADMIN_SECRET='AQBBAnRbSiSOFxAAEZXNMzYV6hsceccYLhzdWw=='
kubectl create secret generic ceph-secret --type="kubernetes.io/rbd" \
--from-literal=key=$CEPH_ADMIN_SECRET \
--namespace=kube-system

# 在 default 命名空间创建pvc用于访问ceph的 secret # CEPH_KUBE_SECRET 替换为 client.kube 获取到的key export CEPH_KUBE_SECRET='AQBZK3VbTN/QOBAAIYi6CRLQcVevW5HM8lunOg=='
kubectl create secret generic ceph-user-secret --type="kubernetes.io/rbd" \
--from-literal=key=$CEPH_KUBE_SECRET \
--namespace=default

# 查看 secret
kubectl get secret ceph-user-secret -o yaml
kubectl get secret ceph-secret -n kube-system -o yaml

# 配置 StorageClass # 如果使用kubeadm创建的集群 provisioner 使用如下方式 # provisioner: ceph.com/rbd
cat >storageclass-ceph-rdb.yaml<<EOF
kind: StorageClass
apiVersion: storage.k8s.io/v1
metadata:
 name: dynamic-ceph-rdb
provisioner: ceph.com/rbd
# provisioner: kubernetes.io/rbd
parameters:
 monitors: 11.11.11.111:6789,11.11.11.112:6789,11.11.11.113:6789
 adminId: admin
 adminSecretName: ceph-secret
 adminSecretNamespace: kube-system
 pool: kube
 userId: kube
 userSecretName: ceph-user-secret
 fsType: ext4
 imageFormat: "2"
 imageFeatures: "layering"
EOF

# 创建
kubectl apply -f storageclass-ceph-rdb.yaml

# 查看
kubectl get sc
复制代码
测试使用
# 创建pvc测试
cat >ceph-rdb-pvc-test.yaml<<EOF
kind: PersistentVolumeClaim
apiVersion: v1
metadata:
 name: ceph-rdb-claim
spec:
 accessModes: 
 - ReadWriteOnce
 storageClassName: dynamic-ceph-rdb
 resources:
 requests:
 storage: 2Gi
EOF
kubectl apply -f ceph-rdb-pvc-test.yaml
 
# 查看
kubectl get pvc
kubectl get pv
 
# 创建 nginx pod 挂载测试
cat >nginx-pod.yaml<<EOF
apiVersion: v1
kind: Pod
metadata:
 name: nginx-pod1
 labels:
 name: nginx-pod1
spec:
 containers:
 - name: nginx-pod1
 image: nginx:alpine
 ports:
 - name: web
 containerPort: 80
 volumeMounts:
 - name: ceph-rdb
 mountPath: /usr/share/nginx/html
 volumes:
 - name: ceph-rdb
 persistentVolumeClaim:
 claimName: ceph-rdb-claim
EOF
kubectl apply -f nginx-pod.yaml
 
# 查看
kubectl get pods -o wide
 
# 修改文件内容
kubectl exec -ti nginx-pod1 -- /bin/sh -c 'echo Hello World from Ceph RBD!!! > /usr/share/nginx/html/index.html' # 访问测试
POD_ID=$(kubectl get pods -o wide | grep nginx-pod1 | awk '{print $(NF-1)}')
curl http://$POD_ID # 清理
kubectl delete -f nginx-pod.yaml
kubectl delete -f ceph-rdb-pvc-test.yaml
复制代码
使用 CephFS

linux内核需要4.10+，否则会出现无法正常使用的问题，详细issue信息 github.com/kubernetes-… centos7升级内核

在ceph集群创建CephFS
# 如下操作在ceph的mon或者admin节点 # CephFS需要使用两个Pool来分别存储数据和元数据
ceph osd pool create fs_data 128
ceph osd pool create fs_metadata 128
ceph osd lspools

# 创建一个CephFS
ceph fs new cephfs fs_metadata fs_data

# 查看
ceph fs ls
复制代码
部署cephfs-provisioner
# 官方没有cephfs动态卷支持 # 使用社区提供的cephfs-provisioner
cat >external-storage-cephfs-provisioner.yaml<<EOF
apiVersion: v1
kind: ServiceAccount
metadata:
 name: cephfs-provisioner
 namespace: kube-system
---
kind: ClusterRole
apiVersion: rbac.authorization.k8s.io/v1
metadata:
 name: cephfs-provisioner
rules:
 - apiGroups: [""]
 resources: ["persistentvolumes"]
 verbs: ["get", "list", "watch", "create", "delete"]
 - apiGroups: [""]
 resources: ["persistentvolumeclaims"]
 verbs: ["get", "list", "watch", "update"]
 - apiGroups: ["storage.k8s.io"]
 resources: ["storageclasses"]
 verbs: ["get", "list", "watch"]
 - apiGroups: [""]
 resources: ["events"]
 verbs: ["create", "update", "patch"]
 - apiGroups: [""]
 resources: ["endpoints"]
 verbs: ["get", "list", "watch", "create", "update", "patch"]
 - apiGroups: [""]
 resources: ["secrets"]
 verbs: ["create", "get", "delete"]
---
kind: ClusterRoleBinding
apiVersion: rbac.authorization.k8s.io/v1
metadata:
 name: cephfs-provisioner
subjects:
 - kind: ServiceAccount
 name: cephfs-provisioner
 namespace: kube-system
roleRef:
 kind: ClusterRole
 name: cephfs-provisioner
 apiGroup: rbac.authorization.k8s.io

---
apiVersion: rbac.authorization.k8s.io/v1
kind: Role
metadata:
 name: cephfs-provisioner
 namespace: kube-system
rules:
 - apiGroups: [""]
 resources: ["secrets"]
 verbs: ["create", "get", "delete"]
---
apiVersion: rbac.authorization.k8s.io/v1
kind: RoleBinding
metadata:
 name: cephfs-provisioner
 namespace: kube-system
roleRef:
 apiGroup: rbac.authorization.k8s.io
 kind: Role
 name: cephfs-provisioner
subjects:
- kind: ServiceAccount
 name: cephfs-provisioner
 namespace: kube-system

---
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
 name: cephfs-provisioner
 namespace: kube-system
spec:
 replicas: 1
 strategy:
 type: Recreate
 template:
 metadata:
 labels:
 app: cephfs-provisioner
 spec:
 containers:
 - name: cephfs-provisioner
 image: "quay.io/external_storage/cephfs-provisioner:v2.0.0-k8s1.11"
 env:
 - name: PROVISIONER_NAME
 value: ceph.com/cephfs
 command:
 - "/usr/local/bin/cephfs-provisioner"
 args:
 - "-id=cephfs-provisioner-1"
 serviceAccount: cephfs-provisioner
EOF
kubectl apply -f external-storage-cephfs-provisioner.yaml

# 查看状态 等待running之后 再进行后续的操作
kubectl get pod -n kube-system
复制代码

#####配置 storageclass

# 查看key 在ceph的mon或者admin节点
ceph auth get-key client.admin

# 创建 admin secret # CEPH_ADMIN_SECRET 替换为 client.admin 获取到的key # 如果在测试 ceph rbd 方式已经添加 可以略过此步骤 export CEPH_ADMIN_SECRET='AQBBAnRbSiSOFxAAEZXNMzYV6hsceccYLhzdWw=='
kubectl create secret generic ceph-secret --type="kubernetes.io/rbd" \
--from-literal=key=$CEPH_ADMIN_SECRET \
--namespace=kube-system

# 查看 secret
kubectl get secret ceph-secret -n kube-system -o yaml

# 配置 StorageClass
cat >storageclass-cephfs.yaml<<EOF
kind: StorageClass
apiVersion: storage.k8s.io/v1
metadata:
 name: dynamic-cephfs
provisioner: ceph.com/cephfs
parameters:
 monitors: 11.11.11.111:6789,11.11.11.112:6789,11.11.11.113:6789
 adminId: admin
 adminSecretName: ceph-secret
 adminSecretNamespace: "kube-system"
 claimRoot: /volumes/kubernetes
EOF

# 创建
kubectl apply -f storageclass-cephfs.yaml

# 查看
kubectl get sc
复制代码
测试使用
# 创建pvc测试
cat >cephfs-pvc-test.yaml<<EOF
kind: PersistentVolumeClaim
apiVersion: v1
metadata:
 name: cephfs-claim
spec:
 accessModes: 
 - ReadWriteOnce
 storageClassName: dynamic-cephfs
 resources:
 requests:
 storage: 2Gi
EOF
kubectl apply -f cephfs-pvc-test.yaml
 
# 查看
kubectl get pvc
kubectl get pv
 
# 创建 nginx pod 挂载测试
cat >nginx-pod.yaml<<EOF
apiVersion: v1
kind: Pod
metadata:
 name: nginx-pod1
 labels:
 name: nginx-pod1
spec:
 containers:
 - name: nginx-pod1
 image: nginx:alpine
 ports:
 - name: web
 containerPort: 80
 volumeMounts:
 - name: cephfs
 mountPath: /usr/share/nginx/html
 volumes:
 - name: cephfs
 persistentVolumeClaim:
 claimName: cephfs-claim
EOF
kubectl apply -f nginx-pod.yaml
 
# 查看
kubectl get pods -o wide
 
# 修改文件内容
kubectl exec -ti nginx-pod1 -- /bin/sh -c 'echo Hello World from CephFS!!! > /usr/share/nginx/html/index.html' # 访问测试
POD_ID=$(kubectl get pods -o wide | grep nginx-pod1 | awk '{print $(NF-1)}')
curl http://$POD_ID # 清理
kubectl delete -f nginx-pod.yaml
kubectl delete -f cephfs-pvc-test.yaml

本文转自掘金- k8s使用ceph实现动态持久化存储
weixin_34034261
关注
y47.第三章 Kubernetes从入门到精通 -- ceph 在k8s中的使用案例(二十)
Raymond的博客
06-25 272
7.1.7 通过secret 挂载rbd 将key 先定义为secret，然后再挂载至pod，每个k8s node 节点就不再需要保存keyring 文件。 7.1.7.1 创建secret 首先要创建secret，secret 中主要就是包含ceph 中被授权用户keyrin 文件中的key，需要将key 内容通过base64 编码后即可创secret。 #将key 进行编码 ceph@ceph-deploy:~/ceph-cluster$ ceph auth print-key client.kubeu
K8S使用ceph-csi持久化存储之cephfs部署验证快照
xiaxia2022的博客
09-13 4087
一、集群和组件版本 K8S集群：1.19.4+ Ceph集群：ceph version 15.2.13 (c44bc49e7a57a87d84dfff2a077a2058aa2172e2) octopus (stable) Ceph-CSI：release-v3.3 (csi版本要对应不然创建pvc要报错) Linue kernel：5.13.12-1.el7.elrepo.x86_64 （内核版本需要升级新版） 镜像版本： k8s.gcr.io/sig-storage/csi-provi
K8S学习笔记之k8s使用ceph实现动态持久化存储
dengxiangbao3167的博客
05-27 273
0x00 概述 本文章介绍如何使用ceph为k8s提供动态申请pv的功能。ceph提供底层存储功能，cephfs方式支持k8s的pv的3种访问模式ReadWriteOnce，ReadOnlyMany ，ReadWriteMany ，RBD支持ReadWriteOnce，ReadOnlyMany两种模式 访问模式只是能力描述，并不是强制执行的，对于没有按pvc声明的方式使...
K8S对接Ceph分布式存储
最新发布
秦子腾
08-25 1383
Ceph 是一个开源的分布式存储系统，用于提供高性能、高可靠性的对象存储、块存储和文件系统，它通过去中心化的架构，自动处理数据复制和恢复，旨在提供弹性扩展和容错能力。Ceph包含一下几种存储类型：（1）块存储(RBD)：用途： 提供了高性能的块级存储，类似于传统的磁盘驱动器。通常用于虚拟机的存储或数据库的存储。接口： 通过 Ceph 的 RADOS（Reliable Autonomic Distributed Object Store）接口提供块设备。
Ceph对接K8S
屈帅波的技术博客
01-02 2556
1.PV、PVC概述 管理存储是管理计算的一个明显问题。PersistentVolume子系统为用户和管理员提供了一个API，用于抽象如何根据消费方式提供存储的详细信息。于是引入了两个新的API资源：PersistentVolume和PersistentVolumeClaim PersistentVolume（PV）是集群中已由管理员配置的一段网络存储。 集群中的资源就像一个节点是一个集群资源。 ...
K8S 使用cephfs 作为持久化存储
LegendHonor的博客
04-14 703
1、查看ceph的key #进入ceph集群的管理主机 ceph auth get-key client.admin | base64 #得到这个串，下面使用 2、k8s里面添加一个密码 c at <<eof >ceph-secret.yaml apiVersion: v1 kind: Secret metadata: name: ceph-secret data: k...
k8s 使用ceph
discsthnew的博客
03-25 3784
简单使用 通过StorageClass动态分配 存储卷分配方式 静态分配 动态分配 踩坑 简单使用 关于k8s 简单实用ceph, 以下两篇文章给出了详细步骤和要注意的事项： https://github.com/kubernetes/kubernetes/tree/master/examples/volumes/cephfs http://tonybai.com/201...
kubernetes安装使用+ceph实现后端持久化存储
06-21
本文将详细介绍如何安装和使用Kubernetes，并利用Ceph来实现后端的持久化存储。 首先，Kubernetes是一个开源的容器编排系统，用于自动化容器应用的部署、扩展和管理。它的核心概念包括Pods（容器的逻辑分组）、...
五、K8s使用Ceph作为后端存储
09-26
总结来说，将Ceph集成到Kubernetes中作为后端存储，可以充分利用Ceph的分布式存储优势，为K8s应用提供高效、可靠的持久化存储服务。同时，K8s的自动化管理和Ceph的灵活性相结合，使得存储资源的管理变得更加便捷。在...
K8s使用Ceph作为后端存储
xinhuixu博客
07-27 1809
RGW（RADOS Gateway））：对象存储网关，接口与S3和Swift兼容。Ceph是一个开源的分布式存储系统，具有高扩展性、高性能、高可靠性等特点，提。是ceph的核心概念， 服务端数据均衡和恢复的最小粒度；Ceph目前最新版本16（P版），市面上应用最广泛的是12（L版）支持对象存储、块存储和文件系统。对象存储集群，Ceph核心，实现用户数据分配、故障转移等集群操作。ceph-deploy：ceph集群部署节点，负责集群整体部署，是存储对象的逻辑分区，它规定了数据冗余的类型和对应的副本。
⑤ K8s使用Ceph作为存储、监控、日常运维管理_ceph运维管理平台
2401_83974660的博客
04-18 768
1、创建pod时，kubelet需要使用rbd命令去检测和挂载pv对应的ceph image，所以要在所有的worker节点安装ceph客户端ceph-common。将ceph的ceph.client.admin.keyring和ceph.conf文件拷贝到master的/etc/ceph目录下。#3、创建k8s访问ceph的用户 在ceph的mon或者admin节点。#4、查看key 在ceph的mon或者admin节点和kube用户。#5、创建 admin secret(使用admin的key)
k8s指定ceph，实现动态持久化存储
a13568hki的博客
05-10 1135
三、使用持久化存储StorageClass（ceph挂载) 一、准备好ceph服务器 # 在k8s集群中所有节点安装 ceph-common # 需要使用kubelet使用rdb命令map附加rbd创建的image yum install -y ceph-common # 创建 osd pool 在ceph的mon或者admin节点 [root@bd-server-2 ~]# ceph osd pool create kube 128 pool 'ceph_rbd' created [root@bd-
k8s使用ceph存储
梵修
06-22 2286
另外keyring文件也可以保存在secret中，在pod中通过secret来引用keyring文件。k8s集群中的pod使用rbd时可以直接通过pod的volume进行挂载，也可以以pv形式挂载使用。ceph添加授权，需要创建两个用户，一个挂载rbd时使用，另一个挂载cephfs时使用。创建pod到集群中，等待pod就绪后可以进入pod验证。将pod创建到集群中，等待pod就绪后进入pod验证。将pod创建到集群中，等待pod就绪后进入pod验证。将pod创建到集群中，等待pod就绪后进入pod验证。
k8s使用ceph作为后端存储挂载
weixin_34324081的博客
01-30 411
一、在ceph集群上操作： 1、创建池（主要使用存储类来进行持久卷的挂载，其他的挂载方式不好使也太麻烦）：ceph osd pool create k8s 64 二、在k8s上操作： 1、安装客户端（客户端版本与ceph集群的版本最好一致，不然创建image的时候死活创建不了）： 给yum增加一个Ceph源(这里以网易源为例)。 tee /etc/yum.repos.d/ce...
【云原生】Ceph 在 k8s中应用
匠人精神，持之以恒！
01-07 3894
分布式存储系统 Ceph 介绍与环境部署分布式存储系统 Ceph 实战操作Kubernetes（k8s）最新版最完整版环境部署+master高可用实现（k8sV1.24.1+dashboard+harbor）Rook是一个开源的云原生存储编排工具，提供平台、框架和对各种存储解决方案的支持，以和云原生环境进行本地集成。Rook 将存储软件转变成自我管理、自我扩展和自我修复的存储服务，通过自动化部署、启动、配置、供应、扩展、升级、迁移、灾难恢复、监控和资源管理来实现。
k8s ceph
cyx199602的博客
04-04 250
cephfs 需要至少一个 mds（Ceph Metadata Server）服务用来存放 cepfs 服务依赖元数据信息，有条件的可以创建 2 个会自动成为主备。在“/etc/ceph”目录下自动生成的 ceph.conf 文件中配置网络 mon_host、public network、cluster network。需配置 ceph1 节点对所有 node 节点的免密（包括 ceph1 本身），在 ceph1 节点生成公钥，并发放到各个节点。在 Ceph 所有集群节点执行下列命令以配置 epel 源。
k8s挂载使用ceph集群
k8seasz的博客
05-22 3812
我们都知道ceph集群是一个开源的分布式存储系统，支持对象存储，块存储，文件系统。本篇文章就是要讲解下k8s下如何挂载使用ceph的块存储系统。 示意图 一：ceph集群创建存储池及存储镜像 #在ceph机器中创建名字为lilh-rbd-pool 的存储池 ceph osd pool create lilh-rbd-pool 9 9 #创建完成后查看ceph机器存储池信息 ceph osd pool ls #启用快存储 ceph osd pool applica...
9.云原生存储之ceph在k8s中应用及问题处理
热门推荐
野心与梦
01-11 1万+
云原生存储之ceph在k8s中应用及问题处理
K8s使用ceph-csi-rbd实现ceph集群资源连接与部署
资源摘要信息:"Kubernetes (K8s) 是一个开源的容器编排平台，负责自动化容器化应用的部署、扩展和管理。Ceph是一个开源的分布式存储系统，提供统一的存储解决方案，支持块设备、文件系统和对象存储接口。CSI...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值