我们机房用了各种五花八门的品牌机器,不同类型的阵列卡相关工具命令也不一样,做个简单介绍
一、LSI的阵列卡2008/3008
系统下用命令可以查看:lspci | grep -i sas
LSI Logic / Symbios Logic SAS3008 PCI-Express Fusion-MPT SAS-3
这类的阵列卡不带cachem模块的,是直通卡,使用的工具是 sas2ircu / sas3ircu,不用安装,直接放到系统下加个执行权限即可。2008的卡用sas2ircu,3008的卡用 sas3ircu,参数一样。
常用命令:
1、sas3ircu 0 display #查看控制器0下所有硬盘信息
2、sas3ircu 0 status #查看控制器0的状态
3、sas3ircu list #查看所有控制器
4、sas3ircu controller_id create RAIDlevel capacity enclosure_id:slot_id name noprompt #组raid
示例:sas3ircu 0 create RAID1 MAX 2:10 2:11 TEST noprompt
5、sas3ircu controller_id deletevolume volume_id noprompt #删除raid
示例:sas3ircu 0 deletevolume 322 noprompt
二、LSI SAS2108/2208/3108阵列卡
有两套工具:Megacli 和 Storcli,Megacli是早期使用的,两者相比前者命令参数要比后者复杂,一般常用storcli,dell的阵列卡工具命令perccli和 storcli仅名字不一样, 参数基本上一致
常用命令举例:
/opt/MegaRAID/storcli/storcli64 /c0 show all #显示硬盘控制器详细信息
/opt/MegaRAID/storcli/storcli64 /c0/e14/s0 start locate #点亮slot0位置硬盘的标识灯,一般是蓝色,主要用于硬盘位置的定位,机房换盘时需要用到
/opt/MegaRAID/storcli/storcli64 /c0/e14/s0 stop locate #关闭硬盘标识灯
/opt/MegaRAID/storcli/storcli64 /c0 add vd r10 size=all drives=252:2-5 pdperarray=2 wb ra cached strip=256 #做raid10
/opt/MegaRAID/storcli/storcli64 /c0 add vd r50 size=all drives=0:2-11 pdperarray=5 wb ra cached strip=256 #做raid50
做raid前先查看物理硬盘状态,有时候发现会有D状态的,解决办法如下:
在这里插入spin状态为D(DOWN),此状态硬盘此片处于不转动的状态,首先要UP起来
相关命令:/opt/MegaRAID/storcli/storcli64 /c0/e14/s6 spindown #先down下,不然直接up会失败
相关命令:/opt/MegaRAID/storcli/storcli64 /c0/e8/s3 spinup #up起来
参数介绍:
WB:Write Back with BBU,开启回写功能,表示数据先写入缓存,再经过缓存写入逻辑设备中,需要注意的是阵列卡电池故障或者cache故障的情况下,此功能失效)
WT: Write Through,直通模式,相当于3008直通卡,数据不经过缓存,直接写入逻辑设备中)
AWB: Always Write Back(不依赖于电池供电,阵列卡电池故障情况下,回写功能正常使用,但是异常掉电情况下有数据丢失的风险,一般不用这个)
ra: read ahead 开启预读功能
nora:no read ahead 不开启预读功能
案例一:换盘后磁盘状态正常,重组raid失败
/opt/MegaRAID/storcli/storcli64 /c0 show preservedcache #查询是否有cache逻辑卷信息
/opt/MegaRAID/storcli/storcli64 /c0/v1 delete preservedcache #删除missing的逻辑卷v1
案例二:更换之后硬盘逻辑状态异常,state状态为UBad,DG状态为F
/opt/MegaRAID/storcli/storcli64 /c0/e14/s0 set good force #强制将硬盘状态设置为good
/opt/MegaRAID/storcli/storcli64 /c0/fall import #导入foreign
/opt/MegaRAID/storcli/storcli64 /c0/fall delete #删除foreign
三、PMC卡的阵列卡命令
系统下执行下面命令,这种卡就是PMC的卡,专用命令是:arcconf
lspci | grep -i sas
#5e:00.0 RAID bus controller: Adaptec Series 8 12G SAS/PCIe 3 (rev 01)
/usr/sbin/arcconf getversion #获取FW,Driver等信息
arcconf slotconfig 1 all map #获取物理硬盘的的状态信息,这里需要注意的是Channel:Device这两个参数,后续的操作都需要这两个参数
Controllers found: 1
SLOT CONFIGURATION #0:
=======================
Enclosure ID : 0
Expander ID : 0
Vendor : MSCC
Model : SXP 36x12G
Firmware : RevB
Enclosure Logical Identifier : 590E710BB9B1E07E
Expander SAS Address : 590E710BB9B1E07F
Slot 0 : 0,8 (Channel:Device), S/N:18251D444E0C, State:Online
Slot 1 : 0,9 (Channel:Device), S/N:18251D444DEC, State:Online
Slot 2 : 0,10 (Channel:Device), S/N:18311E24F7B5, State:Online
Slot 3 : 0,11 (Channel:Device), S/N:18311E23FF9A, State:Online
Slot 4 : 0,12 (Channel:Device), S/N:18311E23FFC9, State:Online
Slot 5 : 0,13 (Channel:Device), S/N:18311E24F85D, State:Online
Slot 6 : 0,14 (Channel:Device), S/N:18311E24F6F4, State:Online
Slot 7 : 0,15 (Channel:Device), S/N:18311E24F7A9, State:Online
Slot 8 : 0,16 (Channel:Device), S/N:18311E24F6B4, State:Online
Slot 9 : 0,17 (Channel:Device), S/N:18311E24F714, State:Online
arcconf task start 1 device 0 8 initialize #初始化硬盘,非常重要,一般组raid前需要执行此步骤
arcconf task start 1 device 0 8 uninitialize #取消初始化
arcconf create 1 logicaldrive wcache wb max 50 0 10 0 11 0 12 0 13 0 14 0 15 0 16 0 17 noprompt #表示对slot2~9共8块盘做raid50,开启cache和预读
arcconf delete 1 logicaldrive 1 noprompt #删除编号为1的逻辑卷,高危操作!!
arcconf identify 1 device 0 15 #给硬盘slot7点灯,按任意键后结束
Controllers found: 1
The specified device(s) is/are blinking.
Press any key to stop the blinking.
四、HP机器的阵列卡工具命令
HP现在有两套工具hpssacli 和 ssacli,两套工具命令就名字不一样,参数基本一样,适用的阵列卡型号不一样而已,具体可以到HP官方查询就知道了,或者直接先安装试试就知道了
hpssacli ctrl all show status #查看raid卡信息(包括控制器状态、Cache状态、电池状态)
hpssacli ctrl slot=0 show config detail #查看slot0 位置的raid详细信息,有些是3
hpssacli ctrl slot=0 array A ld all show #查看逻辑卷A的信息
hpssacli ctrl slot=0 array A pd all show #查看逻辑卷A的物理盘信息
hpssacli ctrl slot=0 array B delete forced #删除raid,高危操作!!
HP ssd硬盘的机器做raid的时候需要注意开启cache,关闭ssdsmartpath, 笔者在生产环境就遇到过此类问题,开启阵列卡的caching后IO使用率里面下降20% 左右!所以建议打开
关闭固态硬件智能路径并打开写缓存示例
hpssacli ctrl slot=0 array b modify ssdsmartpath=disable
hpssacli ctrl slot=0 ld 2 modify caching=enable 在这里插入代码片
最后,附上阵列卡工具包下载链接:https://pan.baidu.com/s/11ZdmOGWH1cnvY_1Rdm2xoQ
提取码:bcnu