1.LVM的基本概念
场景:对于生产环境下的服务器来说,如果存储数据的分区磁盘空间不够了怎么办?
答:只能换一个更大的磁盘。 如果用了一段时间后, 空间又不够了,怎么办?再加一块更大的?换磁盘的过程中,还需要把数据从一个硬盘复制到另一个硬盘,过程太慢了。
解决方案:使用LVM在线动态扩容
1.1 LVM的工作原理
LVM( Logical Volume Manager)逻辑卷管理,是在磁盘分区和文件系统之间添加的一个逻辑层,来为文件系统屏蔽下层磁盘分区布局,提供一个抽象的盘卷,在盘卷上建立文件系统。管理员利用LVM可以在磁盘不用重新分区的情况下动态调整文件系统的大小,并且利用LVM管理的文件系统可以跨越磁盘,当服务器添加了新的磁盘后,管理员不必将原有的文件移动到新的磁盘上,而是通过LVM可以直接扩展文件系统跨越磁盘。
它就是通过将底层的物理硬盘封装起来,然后以逻辑卷的方式呈现给上层应用。在LVM中,其通过对底层的硬盘进行封装,当我们对底层的物理硬盘进行操作时,其不再是针对于分区进行操作,而是通过一个叫做逻辑卷的东西来对其进行底层的磁盘管理操作。
1.2 LVM常用的术语
物理存储介质(The physical media):LVM存储介质可以是磁盘分区,整个磁盘,RAID阵列或SAN磁盘,设备必须初始化为LVM物理卷,才能与LVM结合使用
物理卷PV(physical volume) :物理卷就是LVM的基本存储逻辑块,但和基本的物理存储介质(如分区、磁盘等)比较,却包含有与LVM相关的管理参数,创建物理卷它可以用硬盘分区,也可以用硬盘本身;
卷组VG(Volume Group) :类似于非LVM系统中的物理硬盘,一个LVM卷组由一个或多个物理卷组成 。
逻辑卷LV(logical volume) :类似于LVM系统中的分区,LV建立在VG之上,可以在LV之上建立文件系统
PE(physical extents) :PV物理卷中可以分配的最小存储单元,PE的大小是可以指定的,默认为4MB
LE(logical extent) : LV逻辑卷中可以分配的最小存储单元,在同一个卷组中,LE的大小和PE是相同的,并且一一对应
最小存储单位总结:
名称 最小存储单位
硬盘 扇区(512字节)
文件系统 block(1K或4K )# mkfs.ext4 -b 2048 /dev/sdb1 ,最大支持到4096
raid chunk (512K) #mdadm -C -v /dev/md5 -l 5 -n 3 -c 512 -x 1 /dev/sde{1,2,3,5}
LVM PE (4M) # vgcreate -s 4M vg1 /dev/sdb{1,2}
LVM主要元素构成:
总结:多个磁盘/分区/raid -》多个物理卷PV -》合成卷组VG -》从VG划出逻辑卷LV -》 格式化LV挂载使用
1.3 LVM优点
a. 使用卷组,使多个硬盘空间看起来像是一个大的硬盘
b. 使用逻辑卷,可以跨多个硬盘空间的分区 sdb1 sdb2 sdc1 sdd2 sdf
c. 在使用逻辑卷时,它可以在空间不足时动态调整它的大小
d. 在调整逻辑卷大小时,不需要考虑逻辑卷在硬盘上的位置,不用担心没有可用的连续空间
e. 可以在线对LV,VG 进行创建,删除,调整大小等操作。LVM上的文件系统也需要重新调整大小。
f. 允许创建快照,可以用来保存文件系统的备份。
RAID+LVM一起用:LVM是软件的卷管理方式,而RAID是磁盘管理的方法。对于重要的数据,使用RAID来保护物理的磁盘不会因为故障而中断业务,再用LVM用来实现对卷的良性的管理,更好的利用磁盘资源。
2.创建LVM的基本步骤
1) 物理磁盘被格式化为PV,(空间被划分为一个个的PE) #PV包含PE,pvcreate
2) 不同的PV加入到同一个VG中,(不同PV的PE全部进入到了VG的PE池内) #VG包含PV vgcreate
3) 在VG中创建LV逻辑卷,基于PE创建,(组成LV的PE可能来自不同的物理磁盘) #LV基于PE创建 lvcreate
4) LV直接可以格式化后挂载使用 #格式化挂载使用
5) LV的扩充缩减实际上就是增加或减少组成该LV的PE数量,其过程不会丢失原始数据
2.1 lvm常用的命令
功能 | PV管理命令 | VG管理命令 | LV管理命令 |
scan 扫描 | pvscan | vgscan | lvscan |
create 创建 | pvcreate | vgcreate | lvcreate |
display显示 | pvdisplay | vgdisplay | lvdisplay |
remove 移除 | pvremove | vgremove | lvremove |
extend 扩展 |
| vgextend | lvextend |
reduce减少 |
| vgreduce | lvreduce |
下面的操作会用的一些查看命令:
查看卷名 | 简单对应卷信息的查看 | 扫描相关的所有的对应卷 | 详细对应卷信息的查看 |
物理卷 | pvs | pvscan | pvdisplay |
卷组 | vgs | vgscan | vgdisplay |
逻辑卷 | lvs | lvscan | lvdisplay |
2.2 创建并使用LVM逻辑卷
2.2.1、 创建PV
添加一个sdb磁盘
~]# fdisk /dev/sdb #创建4个主分区,每个分区1G
~]# ls /dev/sdb*
/dev/sdb /dev/sdb1 /dev/sdb2 /dev/sdb3 /dev/sdb4
注:设定分区类型代码:fdisk /dev/sdb ===> t (接着输入l可以输出所有的分区号)===> 选择分区号 ====> 8e ====> w
(centos7以上版本)现在系统已经很智能了, 直接使用默认的 83 Linux分区,也可以创建pv的。
~]# pvcreate /dev/sdb{1,2,3,4} #创建pv
Physical volume "/dev/sdb1" successfully created.
Physical volume "/dev/sdb2" successfully created.
Physical volume "/dev/sdb3" successfully created.
Physical volume "/dev/sdb4" successfully created.
~]# pvdisplay /dev/sdb1 #查看物理卷信息
"/dev/sdb1" is a new physical volume of "1.00 GiB"
--- NEW Physical volume ---
PV Name /dev/sdb1
VG Name
PV Size 1.00 GiB
Allocatable NO
PE Size 0
Total PE 0
Free PE 0
Allocated PE 0
PV UUID SHKFwf-WsLr-kkox-wlee-dAXc-5eL0-hyhaTV
创建vg卷组:
语法: vgcreate vg名字 pv的名字 可以跟多个pv
~]# vgcreate vg01 /dev/sdb1
Volume group "vg01" successfully created
~]# vgs
VG #PV #LV #SN Attr VSize VFree
vg01 1 0 0 wz--n- 1020.00m 1020.00m
~]# vgdisplay vg01
--- Volume group ---
VG Name vg01
System ID
Format lvm2
Metadata Areas 1
Metadata Sequence No 1
VG Access read/write
VG Status resizable
MAX LV 0
Cur LV 0
Open LV 0
Max PV 0
Cur PV 1
Act PV 1
VG Size 1020.00 MiB
PE Size 4.00 MiB
Total PE 255
Alloc PE / Size 0 / 0
创建LV
lvcreate -n 指定新逻辑卷的名称 -L指定lv大小的SIZE(M,G) (-l:小l 指定LE的数量) vgname
~]# lvcreate -n lv01 -L 16M vg01
Logical volume "lv01" created.
~]# lvcreate -n lv02 -l 4 vg01
Logical volume "lv02" created.
~]# lvs
LV VG Attr LSize Pool Origin Data% Meta% Move Log Cpy%Sync Convert
lv01 vg01 -wi-a----- 16.00m
lv02 vg01 -wi-a----- 16.00m
~]# pvdisplay /dev/sdb1
--- Physical volume ---
PV Name /dev/sdb1
VG Name vg01
PV Size 1.00 GiB / not usable 4.00 MiB
Allocatable yes
PE Size 4.00 MiB
Total PE 255
Free PE 247
Allocated PE 8 # Allocated ['æləkeɪtɪd] 分配 ,已经使用了8个PE
~]# vgdisplay vg01
。。。
Alloc PE / Size 8 / 32.00 MiB #已经使用8个PE,32MB
Free PE / Size 247 / 988.00 MiB
2.3 文件系统格式与挂载
~]# mkdir /lv01
互动: lv01 逻辑卷的路径在哪?
即
~]# ls /dev/vg01/ #查看逻辑卷
lv01 lv02
~]# ll /dev/vg01/lv01 #其实lv01是dm-0的软链接
lrwxrwxrwx 1 root root 7 5月 18 19:02 /dev/vg01/lv01 -> ../dm-0
~]# mkfs.ext4 /dev/vg01/lv01 #格式化文件系统
~]# mount /dev/vg01/lv01 /lv01 #挂载
~]# df -Th /lv01
文件系统 类型 容量 已用 可用 已用% 挂载点
/dev/mapper/vg01-lv01 ext4 15M 268K 14M 2% /lv01
~]#echo "/dev/vg01/lv01 /lv01 ext4 defaults 0 0" >> /etc/fstab #设置开机自动挂载将挂载信息重定向到fstab文件
2.4 指定PE大小用
指定PE大小用的参数: -s 如果存储的数据都是大文件,那么PE尽量调大,读取速度快
~]# vgcreate -s 16M vg02 /dev/sdb2
Volume group "vg02" successfully created
PE的大小只有为2的幂数,且最大为512M
~]# vgdisplay vg02
--- Volume group ---
VG Name vg02
System ID
Format lvm2
Metadata Areas 1
Metadata Sequence No 1
VG Access read/write
VG Status resizable
MAX LV 0
Cur LV 0
Open LV 0
Max PV 0
Cur PV 1
Act PV 1
VG Size 1008.00 MiB
PE Size 16.00 MiB #已经是16MB
2.5 LV扩容
首先,确定一下是否有可用的扩容空间,因为空间是从VG里面创建的,并且LV不能跨VG扩容
~]# vgs
VG #PV #LV #SN Attr VSize VFree
vg01 1 2 0 wz--n- 1020.00m 988.00m
vg02 1 0 0 wz--n- 1008.00m 1008.00m
用的命令如下:
extend扩展 | vgextend | lvextend |
扩容逻辑卷
~]# lvextend -L +30m /dev/vg01/lv01
说明:在指定大小的时候,扩容30m和扩容到30m是不一样的写法
扩容30m ====> -L +30M
扩容到30m =====> -L 30M
~]# lvextend -L +30m /dev/vg01/lv01
Rounding size to boundary between physical extents: 32.00 MiB.
Size of logical volume vg01/lv01 changed from 16.00 MiB (4 extents) to 48.00 MiB (12 extents).
Logical volume vg01/lv01 successfully resized.
~]# lvs
LV VG Attr LSize Pool Origin Data% Meta% Move Log Cpy%Sync Convert
lv01 vg01 -wi-ao---- 48.00m #LV已经扩容成功
lv02 vg01 -wi-a----- 16.00m
~]# df -Th /lv01
文件系统 类型 容量 已用 可用 已用% 挂载点
/dev/mapper/vg01-lv01 ext4 15M 268K 14M 2% /lv01
注:可以看到LV虽然扩展了,但是文件系统大小还是原来的,下面开始扩容文件系统
ext4文件系统扩容使用命令语法: resize2fs 逻辑卷名称
xfs文件系统扩容使用命令语法: xfs_growfs 挂载点
resize2fs和xfs_growfs 两者的区别是传递的参数不一样的,xfs_growfs是采用的挂载点;resize2fs是逻辑卷名称,而且resize2fs命令不能对xfs类型文件系统使用
如下所示:
~]# resize2fs /dev/vg01/lv01
resize2fs 1.42.9 (28-Dec-2013)
Filesystem at /dev/vg01/lv01 is mounted on /lv01; on-line resizing required
old_desc_blocks = 1, new_desc_blocks = 1
The filesystem on /dev/vg01/lv01 is now 49152 blocks long.
~]# df -Th /lv01
文件系统 类型 容量 已用 可用 已用% 挂载点
/dev/mapper/vg01-lv01 ext4 46M (扩容成功)522K 43M 2% /lv01
~]# lvextend -L 80M -r /dev/vg01/lv01 #直接扩容到80M空间,一步到位,不用再扩文件系统了
~]# df -T /lv01/
文件系统 类型 1K-块 已用 可用 已用% 挂载点
/dev/mapper/vg01-lv01 ext4 78303 776 73761 2% /lv01
~]# df -Th /lv01/
文件系统 类型 容量 已用 可用 已用% 挂载点
/dev/mapper/vg01-lv01 ext4 77M 776K 73M 2% /lv01
2.6 VG扩容
~]# vgs
VG #PV #LV #SN Attr VSize VFree
vg01 1 2 0 wz--n- 1020.00m 924.00m
vg02 1 0 0 wz--n- 1008.00m 1008.00m
vg扩容的场景:vg卷组中的空间不了够,需要添加新的硬盘进来
~]# pvcreate /dev/sdb3 # 创建pv
~]# vgextend vg01 /dev/sdb3 #扩容成功
Volume group "vg01" successfully extended
~]# vgs
VG #PV #LV #SN Attr VSize VFree
vg01 2 2 0 wz--n- 1.99g <1.90g
vg02 1 0 0 wz--n- 1008.00m 1008.00m
2.7 LVM缩小
互动:LVM可以动态增加,可以动态缩小吗?
答:LVM可以动态增加,也可以动态缩小,但是XFS不支持动态缩小,所以我们无法实现基于xfs的动态缩小。btrfs文件系统支持在线缩小。
~]# lvreduce -L -20m /dev/vg01/lv01
WARNING: Reducing active and open logical volume to 60.00 MiB.
THIS MAY DESTROY YOUR DATA (filesystem etc.)
Do you really want to reduce vg01/lv01? [y/n]: y
Size of logical volume vg01/lv01 changed from 80.00 MiB (20 extents) to 60.00 MiB (15 extents).
Logical volume vg01/lv01 successfully resized. #缩小成功
但是文件系统没有缩小成功:
~]# df -h /lv01/
文件系统 容量 已用 可用 已用% 挂载点
/dev/mapper/vg01-lv01 77M 776K 73M 2% /lv01 #发现文件系统上空间没有变
而
~]# lvextend -L 10M -r /dev/vg01/lv01 #这两个命令也是不能执行成功的
~]# resize2fs /dev/vg01/lv01 #这两个命令也是不能执行成功的
VG的缩减,要保证你的物理卷是否被使用,是因为它无法缩减一个正在使用的PV
~]# vgs
VG #PV #LV #SN Attr VSize VFree
vg01 2 2 0 wz--n- 1.99g <1.92g
vg02 1 0 0 wz--n- 1008.00m 1008.00m
~]# pvs
PV VG Fmt Attr PSize PFree
/dev/sdb1 vg01 lvm2 a-- 1020.00m 944.00m
/dev/sdb2 vg02 lvm2 a-- 1008.00m 1008.00m
/dev/sdb3 vg01 lvm2 a-- 1020.00m 1020.00m
/dev/sdb4 lvm2 --- 1.00g 1.00g
~]# cp -r /boot/grub /lv01/ #复制一些测试数据
~]# vgreduce vg01 /dev/sdb1 #将sdb1移出失败,因sdb1正在被使用
Physical volume "/dev/sdb1" still in use
互动:如果sdb1是一个磁盘阵列,而这个磁盘阵列使用年代太久,我们必须移出怎么办?
移动数据:
~]# pvmove /dev/sdb1 /dev/sdb3 #将sdb1上数据移到新增加sdb3 pv 上
/dev/sdb1: Moved: 23.53%
/dev/sdb1: Moved: 76.47%
/dev/sdb1: Moved: 100.00%
~]# vgreduce vg01 /dev/sdb1 #移完数据再移出
Removed "/dev/sdb1" from volume group "vg01"
~]# pvs
PV VG Fmt Attr PSize PFree
/dev/sdb1 lvm2 --- 1.00g 1.00g
/dev/sdb2 vg02 lvm2 a-- 1008.00m 1008.00m
/dev/sdb3 vg01 lvm2 a-- 1020.00m 952.00m #vg01中只有sdb3了
2.8 LVM删除
创建LVM流程:
pvcreate创建pv -> vgcreate创建卷组 -> lvcreate创建逻辑卷 -> mkfs.xfs lv 格式化-> mount挂载
删除LVM流程:
umount卸载 -> lvremove lv移出卷组中所有逻辑卷-> vgremove vg移出卷组-> pvremove 移出pv
~]# umount /lv01
~]# lvremove /dev/vg01/lv01
Do you really want to remove active logical volume vg01/lv01? [y/n]: y
Logical volume "lv01" successfully removed
~]# lvs
LV VG Attr LSize Pool Origin Data% Meta% Move Log Cpy%Sync Convert
lv02 vg01 -wi-a----- 16.00m #已经看不到lv01
~]# vgremove vg01 #直接移出卷组
Do you really want to remove volume group "vg01" containing 1 logical volumes? [y/n]: y
Do you really want to remove active logical volume vg01/lv02? [y/n]: y
#如果卷组中还有lv,移出时,会提示,是否也移出,咱们这里直接移出
Logical volume "lv02" successfully removed
Volume group "vg01" successfully removed
~]# vgs
VG #PV #LV #SN Attr VSize VFree
vg02 1 0 0 wz--n- 1008.00m 1008.00m #没有vg01
移出pv sdb1
~]# pvs
PV VG Fmt Attr PSize PFree
/dev/sdb1 lvm2 --- 1.00g 1.00g
/dev/sdb2 vg02 lvm2 a-- 1008.00m 1008.00m
/dev/sdb3 lvm2 --- 1.00g 1.00g
/dev/sdb4 lvm2 --- 1.00g 1.00g
~]# pvremove /dev/sdb1 #已经移出
Labels on physical volume "/dev/sdb1" successfully wiped.
~]# pvs
PV VG Fmt Attr PSize PFree
/dev/sdb2 vg02 lvm2 a-- 1008.00m 1008.00m
/dev/sdb3 lvm2 --- 1.00g 1.00g
/dev/sdb4 lvm2 --- 1.00g 1.00g
3 使用SSM工具为公司的邮件服务器创建可动态扩容的存储池
安装SSM ssm工具
~]# yum -y install system-storage-manager
SSM:检查关于可用硬驱和LVM卷的信息。显示关于现有磁盘存储设备、存储池、LVM卷和存储快照的信息。
3.1 查看磁盘信息
列出设备信息
~]# ssm list dev
------------------------------------------------------------
Device Free Used Total Pool Mount point
------------------------------------------------------------
/dev/fd0 4.00 KB
/dev/sda 20.00 GB PARTITIONED
/dev/sda1 200.00 MB /boot
/dev/sda2 1.00 GB SWAP
/dev/sda3 10.00 GB /
/dev/sdb 20.00 GB
/dev/sdb1 1.00 GB
/dev/sdb2 1008.00 MB 0.00 KB 1.00 GB vg02
/dev/sdb3 1.00 GB
/dev/sdb4 1.00 GB
存储池信息
~]# ssm list pool
----------------------------------------------------
Pool Type Devices Free Used Total
----------------------------------------------------
vg02 lvm 1 1008.00 MB 0.00 KB 1008.00 MB
----------------------------------------------------
3.2 为公司的邮件服务器创建基于LVM的邮件存储
实战场景:公司要搭建一台邮件服务器,考虑到后期公司发展规模扩张,需要创建一个名为mail 的LVM存储池,并在其上创建一个名为mail-lv,初始大小为1G的lvm卷,格式化为xfs文件系统,并将其挂载/mail-lv目录下。此存储池中的空间后期要可以动态扩容。
将sdb上所有卷组信息删除:
~]# vgremove vg02
~]# pvremove /dev/sdb{1,2,3,4}
创建目录
~]# mkdir /mail-lv
用的命令如下:
ssm create -s lv大小 -n lv名称 --fstype lv文件系统类型 -p 卷组名 设备 挂载点
自动把设备变成pv,创建vg , lv ,格式化文件系统, 自动挂载
~]# ssm create -s 1G -n mail-lv --fstype xfs -p mail /dev/sdb[1-4] /mail-lv
Physical volume "/dev/sdb1" successfully created.
Physical volume "/dev/sdb2" successfully created.
Physical volume "/dev/sdb3" successfully created.
Physical volume "/dev/sdb4" successfully created.
Volume group "mail" successfully created
WARNING: ext4 signature detected on /dev/mail/mail-lv at offset 1080. Wipe it? [y/n]: y
Wiping ext4 signature on /dev/mail/mail-lv.
Logical volume "mail-lv" created.
meta-data=/dev/mail/mail-lv isize=512 agcount=4, agsize=65536 blks
= sectsz=512 attr=2, projid32bit=1
= crc=1 finobt=0, sparse=0
data = bsize=4096 blocks=262144, imaxpct=25
= sunit=0 swidth=0 blks
naming =version 2 bsize=4096 ascii-ci=0 ftype=1
log =internal log bsize=4096 blocks=2560, version=2
= sectsz=512 sunit=0 blks, lazy-count=1
realtime =none extsz=4096 blocks=0, rtextents=0
~]# df -h /mail-lv/
文件系统 容量 已用 可用 已用% 挂载点
/dev/mapper/mail-mail--lv 1014M 33M 982M 4% /mail-lv