2021-01-26

DM8MPP安装部署操作手册

一、 系统环境
(1)系统架构
DM8MPP采用了完全对等无共享体系架构,结合完全无共享体系的优点,在此基础上又前进了一步,不采用增加主控制节点来协调所有并行处理的主从式方法,而是各个节点完全对等,更进一步简化了体系的实现,消除除了系统可能存在的主节点瓶颈问题;系统架构图如下所示:
在这里插入图片描述

(2)主机规划

节点名称IP Addr数据版本
Red Hat MPP1192.168.175.164(内外网)dm8_20201103_x86_rh6_64_sec_8.1.1.144
Red Hat MPP2192.168.175.165(内外网)dm8_20201103_x86_rh6_64_sec_8.1.1.144

(3)系统规划

实例名MAL_INST_HOSTMAL_INST_PORTMAL_HOSTMAL端口MPP_SEQNO
EP01192.168.175.1645236192.168.175.16452690
EP02192.168.175.1655237192.168.175.16552701

二、搭建 2 节点 DM8MPP
(1)DM8数据库安装
在两节点分别进行DM8数据库安装和实例初始化,具体安装过程参考DM8安装操作手册。
(2)配置 dm.ini
节点EP01:
INSTANCE_NAME = EP01
PORT_NUM = 5236
MAL_INI = 1
MPP_INI = 1
如图所示:
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

节点EP02:
INSTANCE_NAME = EP02
PORT_NUM = 5237
MAL_INI = 1
MPP_INI = 1 如图所示:
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

(3)配置 dmmal.ini
节点EP01和节点EP01的dmmal.ini文件内容配置为一至!!!
配置内容:
[MAL_INST1]
MAL_INST_NAME = EP01
MAL_HOST = 192.168.175.164
MAL_PORT = 5269
MAL_INST_HOST = 192.168.175.164
MAL_INST_PORT = 5236
[MAL_INST2]
MAL_INST_NAME = EP02
MAL_HOST = 192.168.175.165
MAL_PORT = 5270
MAL_INST_HOST = 192.168.175.165
MAL_INST_PORT = 5237

如图所示:
在这里插入图片描述

在节点EP01配置,将配置好的dmmal.ini文件拷贝至EP02节点一样的目录,命令如下:

scp ./dmmal.ini dmdba@192.168.175.165:/home/dmdba/dmdbms/data/DAMENG/

(4)配置 dmmpp.ctl
1)dmmpp.ctl 是一个二进制文件,用户不能直接配置,需要在/home/dmdba/dmdbms/data/DAMENG路径下先配置dmmpp.ini。
配置dmmpp.ini内容如下:

[SERVICE_NAME1]
MPP_SEQ_NO = 0
MPP_INST_NAME = EP01
[SERVICE_NAME2]
MPP_SEQ_NO = 1
MPP_INST_NAME = EP02
如图:
在这里插入图片描述
2)在EP01节点使用 DM8 提供的工具dmctlcvt将dmmpp.ini转换成dmmpp.ctl;dmctlcvt工具在DM 安装目录的“bin”子目录中;转换生成的dmmpp.ctl需要放在与dm.ini同一个目录;下面的命令将dmmpp.ini转换为dmmpp.ctl,命令中的“TYPE=2”参数表示将文本文件转换成控制文件,也可以使用“TYPE=1”参数进行逆向转换;将生成的dmmpp.ctl拷贝至EP02,保证MPP系统中所有EP的dmmpp.ctl完全相同。
命令:

./dmctlcvt TYPE=2 SRC=/home/dmdba/dmdbms/data/DAMENG/dmmpp.ini DEST=/home/dmdba/dmdbms/data/DAMENG/dmmpp.ctl 

如图:
在这里插入图片描述

拷贝命令:

scp ./dmmpp.ctl dmdba@192.168.175.165:/home/dmdba/dmdbms/data/DAMENG/

(5)运行DM8MPP
经过前面四个步骤,DM8MPP环境已经配置完成了。分别启动EP01和EP02的DM8 数据库实例(顺序不分先后),DM8MPP系统即能正常运行,用户就可以登录任一执行节点(EP)进行数据库操作了。 本次搭建按顺序启动数据库服务:EP01 -> EP02
节点EP01:
在这里插入图片描述

节点EP02:
在这里插入图片描述

选择节点EP01进行登陆:

./disql SYSDBA/SYSDBA@192.168.175.164:5236  

注意:DM8数据库disql提供了登录参数 MPP_TYPE 用来指定使用全局连接或本地连接,“GLOBAL”表示全局连接,“LOCAL”表示本地连接,默认为全局连接!!!
在这里插入图片描述

至此,两节点DM8MPP系统搭建完成。

二、 DM8MPP使用
(1)建立分布表
在DM8MPP搭建完成后进行以下测试使用:
1)选择节点EP01全局登陆,创建哈希分布表T_HASH,分布列为 C1
CREATE TABLE T_HASH(C1 INT, C2 CHAR(10))DISTRIBUTED BY HASH (C1);
如图:
在这里插入图片描述

插入数据:
insert into t_hash(c1, c2) values (1, ‘aaa’);
commit;
如图:
在这里插入图片描述

节点EP02查询数据,可正常显示:
在这里插入图片描述

2)选择节点EP01全局登陆,创建随机分布表 T_RANDOM
CREATE TABLE T_RANDOM(C1 INT, C2 CHAR(10))DISTRIBUTED RANDOMLY;
如图:
在这里插入图片描述

节点EP02查询:
在这里插入图片描述

3)选择节点EP01全局登陆,创建复制分布表 T_FULLY
CREATE TABLE T_FULLY(C1 INT, C2 CHAR(10))DISTRIBUTED FULLY;
如图:
在这里插入图片描述

节点EP02查询:
在这里插入图片描述

4)选择节点EP01全局登陆,创建范围分布表 T_RANGE,分布列为 C1
CREATE TABLE T_RANGE (C1 INT, C2 CHAR(10))
DISTRIBUTED BY RANGE (C1) (VALUES EQU OR LESS THAN (100) ON EP01, VALUES LESS
THAN(MAXVALUE) ON EP02);
如图:
在这里插入图片描述

节点EP02查询:
在这里插入图片描述

5)选择节点EP01全局登陆,创建 LIST 分布表 T_LIST,分布列为 C1
CREATE TABLE T_LIST(C1 INT, C2 CHAR(10)) DISTRIBUTED BY LIST (C1) (VALUES(3) ON EP01,VALUES(4) ON EP02);
如图:
在这里插入图片描述

节点EP02查询:
在这里插入图片描述

6)选择节点EP01全局登陆,创建哈希分布表的范围水平分区表
CREATE TABLE T_HASH_RANGE_PARTITION
(C1 INT, C2 CHAR(10), C3 CHAR(10))
PARTITION BY RANGE(C1)
(
PARTITION PART_1 VALUES LESS THAN(0),
PARTITION PART_2 VALUES LESS THAN(10),
PARTITION PART_3 VALUES LESS THAN(100),
PARTITION PART_4 VALUES LESS THAN(MAXVALUE)
)
DISTRIBUTED BY HASH (C1);
如图:
在这里插入图片描述

节点EP02查询:
在这里插入图片描述

经过建表和查询,DM8MPP系统使用正常!!!
(2)快速数据装载
DM8MPP 适合于海量数据的存储和处理,因此在应用中常常面临将大量数据从某个或某些历史数据库中装载到MPP系统的需求;为了满足海量数据的快速装载需求,达梦数据库提供了快速装载工具dmfldr,能够对DM8单机版和MPP系统进行海量数据的快速装载;dmfldr为命令行工具,使用时必须指定必要的执行参数,具体可参看《DM8_dmfldr使用手册》;
dmfldr 支持 DM8MPP 环境下的两种数据加载模式:
1)客户端分发模式和本地分发模式,通过参数 MPP_CLIENT 进行设置。使用客户端分发模式时,数据在dmfldr客户端进行分发然后直接向指定EP发送数据;
2)使用本地分发模式时,每个EP对应一个dmfldr和一份数据,每个dmfldr只选择出对应本节点的数据并发送,不管其他节点的数据。默认使用客户端分发模式。
(3)停止DM8MPP系统
在需要停止DM8MPP系统的运行时,只需要停止每个执行节点(EP)的 DM8数据库实例即可,没有特别的顺序要求。若在DM8MPP系统的运行过程中,某一执行节点(EP)发生故障停机,则整个MPP系统将处于不能正常服务的状态,当前所有的用户会话会被系统断开,不能进行全局登录,只能进行本地登录。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
2021-03-26 20:54:33,596 - Model - INFO - Epoch 1 (1/200): 2021-03-26 20:57:40,380 - Model - INFO - Train Instance Accuracy: 0.571037 2021-03-26 20:58:16,623 - Model - INFO - Test Instance Accuracy: 0.718528, Class Accuracy: 0.627357 2021-03-26 20:58:16,623 - Model - INFO - Best Instance Accuracy: 0.718528, Class Accuracy: 0.627357 2021-03-26 20:58:16,623 - Model - INFO - Save model... 2021-03-26 20:58:16,623 - Model - INFO - Saving at log/classification/pointnet2_msg_normals/checkpoints/best_model.pth 2021-03-26 20:58:16,698 - Model - INFO - Epoch 2 (2/200): 2021-03-26 21:01:26,685 - Model - INFO - Train Instance Accuracy: 0.727947 2021-03-26 21:02:03,642 - Model - INFO - Test Instance Accuracy: 0.790858, Class Accuracy: 0.702316 2021-03-26 21:02:03,642 - Model - INFO - Best Instance Accuracy: 0.790858, Class Accuracy: 0.702316 2021-03-26 21:02:03,642 - Model - INFO - Save model... 2021-03-26 21:02:03,643 - Model - INFO - Saving at log/classification/pointnet2_msg_normals/checkpoints/best_model.pth 2021-03-26 21:02:03,746 - Model - INFO - Epoch 3 (3/200): 2021-03-26 21:05:15,349 - Model - INFO - Train Instance Accuracy: 0.781606 2021-03-26 21:05:51,538 - Model - INFO - Test Instance Accuracy: 0.803641, Class Accuracy: 0.738575 2021-03-26 21:05:51,538 - Model - INFO - Best Instance Accuracy: 0.803641, Class Accuracy: 0.738575 2021-03-26 21:05:51,539 - Model - INFO - Save model... 2021-03-26 21:05:51,539 - Model - INFO - Saving at log/classification/pointnet2_msg_normals/checkpoints/best_model.pth 我有类似于这样的一段txt文件,请你帮我写一段代码来可视化这些训练结果
02-06
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值