Kubernetes 准备数据卷

概述

在 Docker 中就有数据卷的概念,当容器删除时,数据也一起会被删除,想要持久化使用数据,需要把主机上的目录挂载到 Docker 中去,在 K8S 中,数据卷是通过 Pod 实现持久化的,如果 Pod 删除,数据卷也会一起删除,k8s 的数据卷是 docker 数据卷的扩展,K8S 适配各种存储系统,包括本地存储 EmptyDir,HostPath, 网络存储(NFS,GlusterFS,PV/PVC)等。

我们以部署 MySQL8 为例,采用 NFS + PV/PVC 网络存储方案实现我们的 Kubernetes 数据持久化。

什么是 NFS

NFS 是 Network File System 的简写,即网络文件系统,NFS 是 FreeBSD 支持的文件系统中的一种。NFS 基于 RPC (Remote Procedure Call) 远程过程调用实现,其允许一个系统在网络上与它人共享目录和文件。通过使用 NFS,用户和程序就可以像访问本地文件一样访问远端系统上的文件。NFS 是一个非常稳定的,可移植的网络文件系统。具备可扩展和高性能等特性,达到了企业级应用质量标准。由于网络速度的增加和延迟的降低,NFS 系统一直是通过网络提供文件系统服务的有竞争力的选择 。

NFS 原理

NFS 使用 RPC (Remote Procedure Call) 的机制进行实现,RPC 使得客户端可以调用服务端的函数。同时,由于有 VFS 的存在,客户端可以像使用其它普通文件系统一样使用 NFS 文件系统。经由操作系统的内核,将 NFS 文件系统的调用请求通过 TCP/IP 发送至服务端的 NFS 服务。NFS 服务器执行相关的操作,并将操作结果返回给客户端。

NFS 服务主要进程

  • rpc.nfsd:最主要的 NFS 进程,管理客户端是否可登录
  • rpc.mountd:挂载和卸载 NFS 文件系统,包括权限管理
  • rpc.lockd:非必要,管理文件锁,避免同时写出错
  • rpc.statd:非必要,检查文件一致性,可修复文件

NFS 的关键工具

  • 主要配置文件:/etc/exports
  • NFS 文件系统维护命令:/usr/bin/exportfs
  • 共享资源的日志文件: /var/lib/nfs/*tab
  • 客户端查询共享资源命令: /usr/sbin/showmount
  • 端口配置: /etc/sysconfig/nfs

NFS 服务端配置

在 NFS 服务器端的主要配置文件为 /etc/exports 时,通过此配置文件可以设置共享文件目录。每条配置记录由 NFS 共享目录、NFS 客户端地址和参数这 3 部分组成,格式如下:

[NFS 共享目录] [NFS 客户端地址 1 (参数 1, 参数 2, 参数 3……)] [客户端地址 2 (参数 1, 参数 2, 参数 3……)]
  • NFS 共享目录:服务器上共享出去的文件目录
  • NFS 客户端地址:允许其访问的 NFS 服务器的客户端地址,可以是客户端 IP 地址,也可以是一个网段 (192.168.222.0/24)
  • 访问参数:括号中逗号分隔项,主要是一些权限选项

访问权限参数

序号选项描述
1ro客户端对于共享文件目录为只读权限。默认
2rw客户端对于共享文件目录具有读写权限

用户映射参数

序号选项描述
1root_squash使客户端使用 root 账户访冋时,服务器映射为服务器本地的匿名账号
2no_root_squash客户端连接服务端时如果使用的是 root,那么也拥有对服务端分享的目录的 root 权限
3all_squash将所有客户端用户请求映射到匿名用户或用户组(nfsnobody)
4no_all_squash与上相反。默认
5anonuid=xxx将远程访问的所有用户都映射为匿名用户,并指定该用户为本地用户(UID=xxx)
6anongid=xxx将远程访问的所有用户组都映射为匿名用户组账户,并指定该匿名用户组账户为本地用户组账户(GUI=xxx)

其它配置参数

序号选项描述
1sync同步写操作,数据写入存储设备后返回成功信息。默认
2async异步写提作,数据在未完全写入存储设备前就返回成功信息,实际还在内存,
3wdelay延迟写入选项,将多个写提请求合并后写入硬盘,减少 I/O 次数, NFS 非正常关闭数据可能丢失。默认
4no_wdelay与上相反,不与 async 同时生效,如果 NFS 服务器主要收到小且不相关的请求,该选项实际会降低性能
5subtree若输出目录是一个子目录,则 NFS 服务器将检查其父目录的权限。默认
6no_subtree即使输出目录是一个子目录, NFS 服务器也不检查其父目录的权限,这样可以提高效率
7secure限制客户端只能从小于 1024 的 TCP/IP 端口连接 NFS 服务器。默认
8insecure允许客户端从大于 1024 的 TCP/IP 端口连接服务器

安装 NFS 服务端

由于 NFS 是一套分布式文件系统,我们再创建一台独立的虚拟机作为我们 NFS 服务端,配置如下

主机名IP系统CPU/内存磁盘
kubernetes-volumes192.168.222.130Ubuntu Server 18.042 核 2G20G

配置 IP

编辑 vi /etc/netplan/50-cloud-init.yaml 配置文件,修改内容如下

network:
    ethernets:
        ens33:
          addresses: [192.168.222.130/24]
          gateway4: 192.168.222.2
          nameservers:
            addresses: [192.168.222.2]
    version: 2

使用 netplan apply 命令让配置生效

配置主机名

# 修改主机名
hostnamectl set-hostname kubernetes-volumes
# 配置 hosts
cat >> /etc/hosts << EOF
192.168.222.110 kubernetes-master
192.168.222.110 k8s.dawang.com
192.168.222.121 kubernetes-node-01
192.168.222.121 k8s1.dawang.com
192.168.222.122 kubernetes-node-02
192.168.222.122 k8s2.dawang.com
192.168.222.130 kubernetes-volumes
192.168.222.130 k8s3.dawang.com
EOF
  • 创建一个目录作为共享文件目录
mkdir -p /usr/local/kubernetes/volumes
  • 目录增加读写权限
chmod a+rw /usr/local/kubernetes/volumes
  • 装 NFS 服务端
apt-get update
apt-get install -y nfs-kernel-server
  • 置 NFS 服务目录,打开文件 vi /etc/exports,在尾部新增一行,内容如下
/usr/local/kubernetes/volumes *(rw,sync,no_subtree_check,no_root_squash)
  • /usr/local/kubernetes/volumes 作为服务目录向客户端开放
  • *表示任何 IP 都可以访问
  • rw: 读写权限
  • sync: 同步权限
  • no_subtree_check: 表示如果输出目录是一个子目录,NFS 服务器不检查其父目录的权限
  • no_root_squash: 客户端连接服务端时如果使用的是 root,那么也拥有对服务端分享的目录的 root 权限
  • 重启服务,使配置生效
/etc/init.d/nfs-kernel-server restart

装 NFS 客户端

安装客户端的目的是验证是否可以上传文件到服务端,安装命令如下

apt-get install -y nfs-common
  • 建 NFS 客户端挂载目录
mkdir -p /usr/local/kubernetes/volumes-mount
  •  NFS 服务器的 /usr/local/kubernetes/volumes 目录挂载到 NFS 客户端的 /usr/local/kubernetes/volumes-mount 目录
mount 192.168.222.130:/usr/local/kubernetes/volumes /usr/local/kubernetes/volumes-mount
  • 用 df 命令查看挂载信息

验证 NFS 服务

  • 测试文件上传
ip addr > /usr/local/kubernetes/volumes-mount/test.txt
  • 看 /usr/local/kubernetes/volumes 目录下是否有 test.txt 文件,有则表示成功

取消 NFS 客户端挂载

注意: 不要直接在挂载目录下执行,否则会报错

umount /usr/local/kubernetes/volumes-mount

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值