环境准备
test01:
网卡1、192.168.89.128
网卡2、192.168.206.128 内部通信
test02
网卡1、192.168.89.129
网卡2、192.168.206.129 内部通信
test03:
网卡1、192.168.89.130
网卡2、192.168.206.130 内部通信
1、挂载共享磁盘:/dev/sdb
磁盘分区但不格式化,只需要在一个节点分区即可
磁盘挂载所有节点均需要:
vi /etc/udev/rules.d/60-raw.rules
ACTION=="add", KERNEL=="sdb1", RUN+="/bin/raw /dev/raw/raw1 %N"
ACTION=="add", KERNEL=="sdb2", RUN+="/bin/raw /dev/raw/raw2 %N"
ACTION=="add", KERNEL=="sdb3", RUN+="/bin/raw /dev/raw/raw3 %N"
ACTION=="add", KERNEL=="sdb4", RUN+="/bin/raw /dev/raw/raw4 %N"
ACTION=="add", KERNEL=="raw[1-4]", OWNER="dmdba", GROUP="dinstall", MODE="660"
手动加载分区
/sbin/partprobe /dev/sdb
启动udev
systemctl status systemd-udevd.service
systemctl enable systemd-udevd.service
可以通过 blockdev --getsize64 /dev/raw/raw1 命令查看裸设备大小
安装数据库软件(方法与之前博文中一致),不初始化数据库
./DMInstall.bin -i
2、准备 dmdcr_cfg.ini 配置文件
每个服务器配的ASM的DCR_EP_SHM_KEY不能相同,只需在test01上配置
vi /dmdata/dmdcr_cfg.ini
DCR_N_GRP = 3#集群环境包含多少个group
DCR_VTD_PATH = /dev/raw/raw2 #voting disk路径
DCR_OGUID = 63635 #消息标识,dmcssm登录dmcss消息校验用
[GRP]
DCR_GRP_TYPE = CSS#组类型CSS ASM DB
DCR_GRP_NAME = GRP_CSS #组名,16字节,配置文件内不可重复
DCR_GRP_N_EP = 3#组内节点个数
DCR_GRP_DSKCHK_CNT = 60#磁盘心跳机制,容错时间,缺省60s
[GRP_CSS]#组名,与DCR_GRP_NAME对应
DCR_EP_NAME = CSS0#节点名
#节点IP,对应vip,配置了DCR_VIP才需要配置
#CSS中设置标识DMCSSM可通过此ip连接CSS,可不配置
DCR_EP_HOST = 192.168.206.128
#节点TCP监听端口,对应CSS/ASM/DB 的端口号
DCR_EP_PORT = 9341
[GRP_CSS]
DCR_EP_NAME = CSS1
DCR_EP_HOST = 192.168.206.129
DCR_EP_PORT = 9341
[GRP_CSS]
DCR_EP_NAME = CSS2
DCR_EP_HOST = 192.168.206.130
DCR_EP_PORT = 9341
[GRP]
DCR_GRP_TYPE = ASM
DCR_GRP_NAME = GRP_ASM
DCR_GRP_N_EP = 3
DCR_GRP_DSKCHK_CNT = 60
[GRP_ASM]
DCR_EP_NAME = ASM0
#共享内存标识ASM有效,初始化共享内存的标识符,大于0的4字节整数
DCR_EP_SHM_KEY = 93360
#共享内存大小,单位M,ASM有效
DCR_EP_SHM_SIZE = 20
DCR_EP_HOST =192.168.206.128
DCR_EP_PORT = 9349
#ASM磁盘扫描路劲
DCR_EP_ASM_LOAD_PATH = /dev/raw
[GRP_ASM]
DCR_EP_NAME = ASM1
DCR_EP_SHM_KEY = 93361
DCR_EP_SHM_SIZE = 20
DCR_EP_HOST = 192.168.206.129
DCR_EP_PORT = 9349
DCR_EP_ASM_LOAD_PATH = /dev/raw
[GRP_ASM]
DCR_EP_NAME = ASM2
DCR_EP_SHM_KEY = 93362
DCR_EP_SHM_SIZE = 20
DCR_EP_HOST = 192.168.206.130
DCR_EP_PORT = 9349
DCR_EP_ASM_LOAD_PATH = /dev/raw
[GRP]
DCR_GRP_TYPE = DB
DCR_GRP_NAME = GRP_DSC
DCR_GRP_N_EP = 3
DCR_GRP_DSKCHK_CNT = 60
[GRP_DSC]
DCR_EP_NAME = DSC0
DCR_EP_SEQNO = 0#组内序号,0~n_ep-1CSS和ASM不能配置,自动分配
DCR_EP_PORT = 5237
DCR_CHECK_PORT = 9741
[GRP_DSC]
DCR_EP_NAME = DSC1
DCR_EP_SEQNO = 1
DCR_EP_PORT = 5237
DCR_CHECK_PORT = 9741
[GRP_DSC]
DCR_EP_NAME = DSC2
DCR_EP_SEQNO = 2
DCR_EP_PORT = 5237
DCR_CHECK_PORT = 9741
3、使用 DMASMCMD 工具初始化
cd /home/dmdba/dmdbms/bin
dmasmcmd
create dcrdisk '/dev/raw/raw1' 'dcr'
create votedisk '/dev/raw/raw2' 'vote'
create asmdisk '/dev/raw/raw3' 'LOG0'
create asmdisk '/dev/raw/raw4' 'DATA0'
init dcrdisk '/dev/raw/raw1' from '/dmdata/dmdcr_cfg.ini' identified by 'abcd'
init votedisk '/dev/raw/raw2' from '/dmdata/dmdcr_cfg.ini'
或
asmcmd.txt 必须以“#asm script file”开头
dmasmcmd script_file=asmcmd.txt
4、准备DMASM的MAL配置文件
vim /dmdata/dmasvrmal.ini #使用DMASM的所有节点都要配置,配置内容一致
[MAL_INST1]
MAL_INST_NAME = ASM0
MAL_HOST = 192.168.206.128
MAL_PORT = 7236
[MAL_INST2]
MAL_INST_NAME = ASM1
MAL_HOST =192.168.206.129
MAL_PORT = 7236
[MAL_INST3]
MAL_INST_NAME = ASM2
MAL_HOST =192.168.206.130
MAL_PORT = 7236
5、准备dmdcr.ini配置文件
每个节点配置
vim /dmdata/dmdcr.ini
a、节点test01:
DMDCR_PATH = /dev/raw/raw1#dcr磁盘路径
DMDCR_MAL_PATH =/dmdata/dmasvrmal.ini #dmasmsvr 使用的 MAL 配置文件路径
DMDCR_SEQNO = 0#当前节点序号
#ASM 重启参数,命令行方式启动
#asm节点故障重启的时间间隔,0不会执行自动拉起,默认60s
DMDCR_ASM_RESTART_INTERVAL = 0
DMDCR_ASM_STARTUP_CMD = /home/dmdba/dmdbms/bin/dmasmsvr dcr_ini=/dmdata/dmdcr.ini
#DB 重启参数,命令行方式启动
DMDCR_DB_RESTART_INTERVAL = 0
DMDCR_DB_STARTUP_CMD = / home/dmdba/dmdbms/bin/dmserver path=/dmdata/dsc0_config/dm.ini dcr_ini=/dmdata/dmdcr.ini
b、节点test02:
DMDCR_PATH = /dev/raw/raw1
DMDCR_MAL_PATH =/dmdata/dmasvrmal.ini #dmasmsvr 使用的 MAL 配置文件路径
DMDCR_SEQNO = 1
#ASM 重启参数,命令行方式启动
DMDCR_ASM_RESTART_INTERVAL = 0
DMDCR_ASM_STARTUP_CMD = /home/dmdba/dmdbms/bin/dmasmsvr dcr_ini=/dmdata/dmdcr.ini
#DB 重启参数,命令行方式启动
DMDCR_DB_RESTART_INTERVAL = 0
DMDCR_DB_STARTUP_CMD = / home/dmdba/dmdbms/bin/dmserver path=/dmdata/dsc2_config/dm.ini dcr_ini=/dmdata/dmdcr.ini
c、节点test03
DMDCR_PATH = /dev/raw/raw1
DMDCR_MAL_PATH =/dmdata/dmasvrmal.ini #dmasmsvr 使用的 MAL 配置文件路径
DMDCR_SEQNO = 2
#ASM 重启参数,命令行方式启动
DMDCR_ASM_RESTART_INTERVAL = 0
DMDCR_ASM_STARTUP_CMD = /home/dmdba/dmdbms/bin/dmasmsvr dcr_ini=/dmdata/dmdcr.ini
#DB 重启参数,命令行方式启动
DMDCR_DB_RESTART_INTERVAL = 0
DMDCR_DB_STARTUP_CMD = / home/dmdba/dmdbms/bin/dmserver path=/dmdata/dsc2_config/dm.ini dcr_ini=/dmdata/dmdcr.ini
6、启动DMCSS、DMASM服务程序
启动test01节点:cd /home/dmdba/dmdbms/bin
./dmcss DCR_INI=/dmdata/dmdcr.ini
./dmasmsvr DCR_INI=/dmdata/dmdcr.ini
启动test02节点:cd /home/dmdba/dmdbms/bin
./dmcss DCR_INI=/dmdata/dmdcr.ini
./dmasmsvr DCR_INI=/dmdata/dmdcr.ini
启动test03节点:cd /home/dmdba/dmdbms/bin
./dmcss DCR_INI=/dmdata/dmdcr.ini
./dmasmsvr DCR_INI=/dmdata/dmdcr.ini
test03节点执行完后
test01节点显示如下
test02节点
7、使用dmasmtool工具创建DMASM磁盘组
选择test01节点,新开一个窗口
cd /home/dmdba/dmdbms/bin
./dmasmtool DCR_INI=/dmdata/dmdcr.ini
#创建日志磁盘组
create diskgroup 'DMLOG' asmdisk '/dev/raw/raw3'
#创建数据磁盘组
create diskgroup 'DMDATA' asmdisk '/dev/raw/raw4'
8、配置dminit.ini文件
vi /dmdata/dmini.ini
db_name = dsc
system_path = +DMDATA/data
system = +DMDATA/data/dsc/system.dbf
system_size = 128
roll = +DMDATA/data/dsc/roll.dbf
roll_size = 128
main = +DMDATA/data/dsc/main.dbf
main_size = 128
ctl_path = +DMDATA/data/dsc/dm.ctl
ctl_size = 8
log_size = 256
dcr_path = /dev/raw/raw1 #dcr 磁盘路径,目前不支持 asm,只能是裸设备
dcr_seqno = 0
auto_overwrite = 1
[DSC0] #inst_name 跟 dmdcr_cfg.ini 中 DB 类型 group 中 DCR_EP_NAME 对应
config_path = /dmdata/dsc0_config
port_num = 5237
mal_host = 192.168.206.128
mal_port = 9340
log_path = +DMLOG/log/dsc0_log01.log
log_path = +DMLOG/log/dsc0_log02.log
[DSC1] #inst_name 跟 dmdcr_cfg.ini 中 DB 类型 group 中 DCR_EP_NAME 对应
config_path = /dmdata/dsc1_config
port_num = 5237
mal_host = 192.168.206.129
mal_port = 9340
log_path = +DMLOG/log/dsc1_log01.log
log_path = +DMLOG/log/dsc1_log02.log
[DSC2] #inst_name 跟 dmdcr_cfg.ini 中 DB 类型 group 中 DCR_EP_NAME 对应
config_path = /dmdata/dsc1_config
port_num = 5237
mal_host = 192.168.206.130
mal_port = 9340
log_path = +DMLOG/log/dsc2_log01.log
log_path = +DMLOG/log/dsc2_log02.log
9、dminit初始化DB环境
在test01执行:
dminit 执行完成 后,会在 config_path 目录(/dmdata/dsc0_config 和 /dmdata/dsc1_config和/dmdata/dsc2_config)下生成配置文件 dm.ini 和 dmmal.ini
cd /home/dmdba/dmdbms/bin
./dminit control=/dmdata/dminit.ini
10、启动数据库服务器
将test01机器上/dmdata/dsc1_config目录和/dmdata/dsc 目录拷贝到 test02 机器相同目录
将test01机器上/dmdata/dsc2_config目录和/dmdata/dsc 目录拷贝到 test03 机器相同目录下。
然后,再分别启动 dmserver 即可完成 DMDSC 集群搭建
test01生成相关服务
cd /home/dmdba/dmdbms/script/root/
./dm_service_installer.sh -t dmcss -p CSS0 -dcr_ini /dmdata/dmdcr.ini
./dm_service_installer.sh -t dmasmsvr -p ASM0 -dcr_ini /dmdata/dmdcr.ini -y DmCSSServiceCSS0
./dm_service_installer.sh -t dmserver -p DSC0 -dm_ini /dmdata/dsc0_config/dm.ini -dcr_ini /dmdata/dmdcr.ini -y DmASMSvrServiceASM0
./dmserver /dmdata/dsc0_config/dm.ini dcr_ini=/dmdata/dmdcr.ini
test02生成相关服务
cd /home/dmdba/dmdbms/script/root/
./dm_service_installer.sh -t dmcss -p CSS1 -dcr_ini /dmdata/dmdcr.ini
#dmasmsvr服务创建依赖dmcss服务
./dm_service_installer.sh -t dmasmsvr -p ASM1 -dcr_ini /dmdata/dmdcr.ini -y DmCSSServiceCSS1
#dmserver服务创建依赖dmasmsvr服务
./dm_service_installer.sh -t dmserver -p DSC1 -dm_ini /dmdata/dsc1_config/dm.ini -dcr_ini /dmdata/dmdcr.ini -y DmASMSvrServiceASM1
test03生成相关服务
cd /home/dmdba/dmdbms/script/root/
./dm_service_installer.sh -t dmcss -p CSS2 -dcr_ini /dmdata/dmdcr.ini
#dmasmsvr服务创建依赖dmcss服务
./dm_service_installer.sh -t dmasmsvr -p ASM2 -dcr_ini /dmdata/dmdcr.ini -y DmCSSServiceCSS2
#dmserver服务创建依赖dmasmsvr服务
./dm_service_installer.sh -t dmserver -p DSC2 -dm_ini /dmdata/dsc2_config/dm.ini -dcr_ini /dmdata/dmdcr.ini -y DmASMSvrServiceASM2
启动test01:
./dmserver /dmdata/dsc0_config/dm.ini dcr_ini=/dmdata/dmdcr.ini
或/home/dmdba/dmdbms/bin/DmServiceDSC0 start
启动test02:./dmserver /dmdata/dsc1_config/dm.ini dcr_ini=/dmdata/dmdcr.ini
或/home/dmdba/dmdbms/bin/DmServiceDSC1 start
启动test03:
./dmserver /dmdata/dsc2_config/dm.ini dcr_ini=/dmdata/dmdcr.ini
或/home/dmdba/dmdbms/bin/DmServiceDSC2 start
11、测试数据
在DSC0节点:
创建表空间:
SQL> create tablespace tb_test datafile '+DMDATA/data/dsc/tb_test_01.dbf' size 128 autoextend off;
创建用户:
SQL> create user test identified by Dameng_88 default tablespace tb_test;
创建表并插入数据:
create table test.test01(c1 int not null,c2 varchar2(50)) storage (initial 5,minextents 5,next 2,on tb_test,fillfactor 85);
insert into test.test01 values (1,'AAA');
insert into test.test01 values (2,'BBB');
insert into test.test01 values (3,'CCC');
commit;
test02查看:test01 节点插入的数据可查询
test03查看:
12、服务名连接测试:
DMDSC2=(192.168.89.128:5237,192.168.89.129:5237,192.168.89.130:5237)
[DMDSC2]
SWITCH_TIMES=(60)
SWITCH_INTERVAL=(1000)
EP_SELECTOR=(1)
AUTO_RECONNECT=(1)
当前连接节点DSC0
停止节点test01 dmserver服务:
/home/dmdba/dmdbms/bin/DmServiceDSC0 stop
等待几秒连接重置成功
重新开启test01:
原连接不会切换回DSC0
关闭节点test01 & test02:
连接至test03节点:
DMDSC启动、关闭流程:
启动顺序:DMCSS—>DMASMSVR—>DMSERVICE
关闭顺序:DMSERVICE—>DMASMSVR—>DMCSS