ClickHouse-分片集群

最新推荐文章于 2023-09-19 09:59:20 发布
最新推荐文章于 2023-09-19 09:59:20 发布
阅读量189 收藏
点赞数
文章标签： 分布式 java 数据库 开发语言 database
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_38304392/article/details/125301708
版权
副本虽然能够提高数据的可用性，降低丢失风险，但是每台服务器实际上必须容纳全量数据，对数据的横向扩容没有解决。
要解决数据水平切分的问题，需要引入分片的概念。通过分片把一份完整的数据进行切分，不同的分片分布到不同的节点上，再通过 Distributed 表引擎把数据拼接起来一同使用。
Distributed 表引擎本身不存储数据，有点类似于 MyCat 之于 MySql，成为一种中间件，通过分布式逻辑表来写入、分发、路由来操作多台节点不同分片的分布式数据。
注意：ClickHouse 的集群是表级别的，实际企业中，大部分做了高可用，但是没有用分
片，避免降低查询性能以及操作集群的复杂性。

1.集群写入流程(3 分片 2 副本共 6 个节点)
internal_replication:内部副本同步
true：由分片自己同步
false：由distribute表同步，压力大

2.集群读取流程(3 分片 2 副本共 6 个节点)

3 分片 2 副本共 6 个节点集群配置(供参考)

配置的位置还是在之前的/etc/clickhouse-server/config.d/metrika.xml，内容如下
注：也可以不创建外部文件，直接在 config.xml 的<remote_servers>中指定 
<yandex>
    <remote_servers>
        <fz_cluster> <!-- 集群名称-->
            <shard> <!--集群的第一个分片-->
                <internal_replication>true</internal_replication>
                <!--该分片的第一个副本-->
                <replica>
                    <host>node01</host>
                    <port>9000</port>
                </replica>
                <!--该分片的第二个副本-->
                <replica>
                    <host>node02</host>
                    <port>9000</port>
                </replica>
            </shard>
            <shard> <!--集群的第二个分片-->
                <internal_replication>true</internal_replication>
                <replica> <!--该分片的第一个副本-->
                    <host>node03</host>
                    <port>9000</port>
                </replica>
                <replica> <!--该分片的第二个副本-->
                    <host>node04</host>
                    <port>9000</port>
                </replica>
            </shard>
            <shard> <!--集群的第三个分片-->
                <internal_replication>true</internal_replication>
                <replica> <!--该分片的第一个副本-->
                    <host>node05</host>
                    <port>9000</port>
                </replica>
                <replica> <!--该分片的第二个副本-->
                    <host>node06</host>
                    <port>9000</port>
                </replica>
            </shard>
        </fz_cluster>
    </remote_servers>
</yandex>

4 .配置三节点版本集群及副本

4.1 集群及副本规划(2 个分片，只有第一个分片有副本)

4.2 配置步骤

1)在 Node01 的/etc/clickhouse-server/config.d 目录下创建 metrika-shard.xml 文件
vim /etc/clickhouse-server/config.d/metrika-shard.xml
注：也可以不创建外部文件，直接在 config.xml 的<remote_servers>中指定
 
<?xml version="1.0"?>
<yandex>
    <remote_servers>
        <gmall_cluster> <!-- 集群名称-->
            <shard> <!--集群的第一个分片-->
                <internal_replication>true</internal_replication>
                <replica> <!--该分片的第一个副本-->
                    <host>Node01</host>
                    <port>9000</port>
                    <user>default</user>
                    <password>1234qwer</password>
                </replica>
                <replica> <!--该分片的第二个副本-->
                    <host>Node02</host>
                    <port>9000</port>
                    <user>default</user>
                    <password>1234qwer</password>
                </replica>
            </shard>
            <shard> <!--集群的第二个分片-->
                <internal_replication>true</internal_replication>
                <replica> <!--该分片的第一个副本-->
                    <host>Node03</host>
                    <port>9000</port>
                    <user>default</user>
                    <password>1234qwer</password>
                </replica>
            </shard>
        </gmall_cluster>
    </remote_servers>
    <zookeeper-servers>
        <node index="1">
            <host>Node01</host>
            <port>2181</port>
        </node>
        <node index="2">
            <host>Node02</host>
            <port>2181</port>
        </node>
        <node index="3">
            <host>Node03</host>
            <port>2181</port>
        </node>
    </zookeeper-servers>
    <macros>
        <shard>01</shard> <!--不同机器放的分片数不一样-->
        <replica>rep_1_1</replica> <!--不同机器放的副本数不一样-->
    </macros>
</yandex>
2)将 Node01 的 metrika-shard.xml 同步到 Node02 和 Node03 
scp /etc/clickhouse-server/config.d/metrika-shard.xml root@Node02:/etc/clickhouse-server/config.d/
scp /etc/clickhouse-server/config.d/metrika-shard.xml root@Node03:/etc/clickhouse-server/config.d/
3)修改 Node02 和 Node03 中 metrika-shard.xml 宏的配置
(1)Node02
     
<macros>
        <shard>01</shard> <!--不同机器放的分片数不一样-->
        <replica>rep_1_2</replica> <!--不同机器放的副本数不一样-->
</macros>
(2)Node03 
<macros>
        <shard>02</shard> <!--不同机器放的分片数不一样-->
        <replica>rep_2_1</replica> <!--不同机器放的副本数不一样-->
</macros>
4)在 Node01 上修改/etc/clickhouse-server/config.xml 
 vim /etc/clickhouse-server/config.xml 
 
<zookeeper incl="zookeeper-servers" optional="true" />
<include_from>/etc/clickhouse-server/config.d/metrika-shard.xml</include_from>
5)同步/etc/clickhouse-server/config.xml 到 Node02 和 Node03 
scp /etc/clickhouse-server/config.xml root@Node02:/etc/clickhouse-server/
scp /etc/clickhouse-server/config.xml root@Node03:/etc/clickhouse-server/
6)重启三台服务器上的 ClickHouse 服务
sudo clickhouse restart
查看集群 
superset-BI :) show clusters;
SHOW CLUSTERS
Query id: 391735d2-bf74-43f5-aa86-b6d203c357cd
┌─cluster─────────────────────────────────────────┐
│ gmall_cluster                                   │
│ test_cluster_one_shard_three_replicas_localhost │
│ test_cluster_two_shards                         │
│ test_cluster_two_shards_internal_replication    │
│ test_cluster_two_shards_localhost               │
│ test_shard_localhost                            │
│ test_shard_localhost_secure                     │
│ test_unavailable_shard                          │
└─────────────────────────────────────────────────┘
8 rows in set. Elapsed: 0.002 sec. 
7)在 Node01 上执行建表语句
➢ 会自动同步到 Node02 和 Node03 上
➢ 集群名字要和配置文件中的一致
➢ 分片和副本名称从配置文件的宏定义中获取
create table st_fz_order_mt_01 on cluster gmall_cluster (
id UInt32,
sku_id String,
total_amount Decimal(16,2),
create_time Datetime
) engine
=ReplicatedMergeTree('/clickhouse/tables/{shard}/st_fz_order_mt_01','{replica}')
partition by toYYYYMMDD(create_time)
primary key (id)
order by (id,sku_id);
superset-BI :) create table st_fz_order_mt_01 on cluster gmall_cluster (
               id UInt32,
               sku_id String,
               total_amount Decimal(16,2),
               create_time Datetime
               ) engine
               =ReplicatedMergeTree('/clickhouse/tables/{shard}/st_fz_order_mt_01','{replica}')
               partition by toYYYYMMDD(create_time)
               primary key (id)
               order by (id,sku_id);
CREATE TABLE st_fz_order_mt_01 ON CLUSTER gmall_cluster
(
    `id` UInt32,
    `sku_id` String,
    `total_amount` Decimal(16, 2),
    `create_time` Datetime
)
ENGINE = ReplicatedMergeTree('/clickhouse/tables/{shard}/st_fz_order_mt_01', '{replica}')
PARTITION BY toYYYYMMDD(create_time)
PRIMARY KEY id
ORDER BY (id, sku_id)
Query id: b7818894-861b-443c-86e7-41832716eb34
┌─host────────┬─port─┬─status─┬─error─┬─num_hosts_remaining─┬─num_hosts_active─┐
│ Node1 │ 9000 │      0 │       │                   2 │                2 │
└─────────────┴──────┴────────┴───────┴─────────────────────┴──────────────────┘
┌─host────────┬─port─┬─status─┬─error─┬─num_hosts_remaining─┬─num_hosts_active─┐
│ Node2 │ 9000 │      0 │       │                   1 │                0 │
│ Node3 │ 9000 │      0 │       │                   0 │                0 │
└─────────────┴──────┴────────┴───────┴─────────────────────┴──────────────────┘
3 rows in set. Elapsed: 0.166 sec. 
等三个节点都完事儿即可。
在Node02和Node03上查看表是否创建成功
show tables;
8)在 Node02 上创建 Distribute 分布式表
date1002 :) create table st_fz_order_mt_all2 on cluster gmall_cluster
            (
            id UInt32,
            sku_id String,
            total_amount Decimal(16,2),
            create_time Datetime
            )engine = Distributed(gmall_cluster,default, st_fz_order_mt_01,hiveHash(sku_id));
CREATE TABLE st_fz_order_mt_all2 ON CLUSTER gmall_cluster
(
    `id` UInt32,
    `sku_id` String,
    `total_amount` Decimal(16, 2),
    `create_time` Datetime
)
ENGINE = Distributed(gmall_cluster, default, st_fz_order_mt_01, hiveHash(sku_id))
Query id: e447cdff-133f-4159-99bd-038d573ce8c8
┌─host────────┬─port─┬─status─┬─error─┬─num_hosts_remaining─┬─num_hosts_active─┐
│ Node2 │ 9000 │      0 │       │                   2 │                0 │
│ Node1 │ 9000 │      0 │       │                   1 │                0 │
│ Node3 │ 9000 │      0 │       │                   0 │                0 │
└─────────────┴──────┴────────┴───────┴─────────────────────┴──────────────────┘
3 rows in set. Elapsed: 0.131 sec. 
参数含义：
Distributed(集群名称，库名，本地表名，分片键)
分片键必须是整型数字，所以用 hiveHash 函数转换，也可以 rand()
9)在 Node01 上插入测试数据 
insert into st_order_mt_all2 values
(201,'sku_001',1000.00,'2020-06-01 12:00:00') ,
(202,'sku_002',2000.00,'2020-06-01 12:00:00'),
(203,'sku_004',2500.00,'2020-06-01 12:00:00'),
(204,'sku_002',2000.00,'2020-06-01 12:00:00'),
(205,'sku_003',600.00,'2020-06-02 12:00:00');
10)通过查询分布式表和本地表观察输出结果
(1)分布式表 
superset-BI :) select * From st_fz_order_mt_all2;
SELECT *
FROM st_fz_order_mt_all2
Query id: d8b676e9-c119-4483-8ca2-f0b5cd150a61
┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐
│ 202 │ sku_002 │         2000 │ 2020-06-01 12:00:00 │
│ 203 │ sku_004 │         2500 │ 2020-06-01 12:00:00 │
│ 204 │ sku_002 │         2000 │ 2020-06-01 12:00:00 │
└─────┴─────────┴──────────────┴─────────────────────┘
┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐
│ 205 │ sku_003 │          600 │ 2020-06-02 12:00:00 │
└─────┴─────────┴──────────────┴─────────────────────┘
┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐
│ 201 │ sku_001 │         1000 │ 2020-06-01 12:00:00 │
└─────┴─────────┴──────────────┴─────────────────────┘
(2)本地表 
Node1:
superset-BI :) select * From st_fz_order_mt_01;
SELECT *
FROM st_fz_order_mt_01
Query id: ddcb5176-e443-4253-9877-57fec8f57311
┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐
│ 202 │ sku_002 │         2000 │ 2020-06-01 12:00:00 │
│ 203 │ sku_004 │         2500 │ 2020-06-01 12:00:00 │
│ 204 │ sku_002 │         2000 │ 2020-06-01 12:00:00 │
└─────┴─────────┴──────────────┴─────────────────────┘
3 rows in set. Elapsed: 0.002 sec. 

Node2:

Node3:
date1001 :) select * From st_fz_order_mt_01;
SELECT *
FROM st_fz_order_mt_01
Query id: 7a336004-7040-4098-948e-1e7c5d983edb
┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐
│ 205 │ sku_003 │          600 │ 2020-06-02 12:00:00 │
└─────┴─────────┴──────────────┴─────────────────────┘
┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐
│ 201 │ sku_001 │         1000 │ 2020-06-01 12:00:00 │
└─────┴─────────┴──────────────┴─────────────────────┘
2 rows in set. Elapsed: 0.002 sec.

可以看到数据分布在Node1和Node3两个节点上。

嘣嘣嚓
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
clickhouse-22.2.2.1-2.x86_64.rpm离线安装包
04-26
clickhouse-22.2.2.1-2.rpm离线安装包包含clickhouse-common-static-22.2.2.1-2.x86_64.rpm,clickhouse-client-22.2....如果要组成集群只要分别安装单机之后再配置/etc/metrika.xml 指定相互间的分片和备份情况即可。
ClickHouse 分布式表实现数据同步
星瀚
09-24 3365
在多副本分布式 ClickHouse 集群中，通常需要使用 Distributed 表写入或读取数据，Distributed 表引擎自身不存储任何数据，它能够作为分布式表的一层透明代理，在集群内部自动开展数据的写入、分发、查询、路由等工作。 Distributed 表实现副本数据同步有两种方案： Distributed + MergeTree Distributed + ReplicateMergeTree | Distributed + MergeTree 在使用这种方案时 inter
Clickhouse internal_replication的配置
冰川的博客
02-19 4641
如果底层是非复制表，那么这个值设为false(默认)。表示insert分布式表时，会在分片的所有副本都写入一份。 如果底层是复制表，那么这个值配置为true。表示分布式表不会往所有副本都写入。仅写入到一个副本。 internal_replication这个参数是控制写入数据到分布式表时，分布式表会控制这个写入是否的写入到所有副本中。与复制表的同步是不一样的。为什么<2>中要设置为true，这就是为了避免和复制表的同步复制机制出现冲突，导致数据重复或者不一致。 因为如果既是复制表、intern.
ClickHouse和他的朋友们（13）ReplicatedMergeTree表引擎及同步机制
老叶茶馆
12-26 964
原文出处：https://bohutang.me/2020/09/13/clickhouse-and-friends-replicated-merge-tree/最后更新: 2020-0...
clickhouse分布式表实践和原理
HANG.NIAN
12-20 3172
分布式表 一个逻辑上的表, 可以理解为数据库中的视图, 一般查询都查询分布式表. 分布式表引擎会将我们的查询请求路由本地表进行查询, 然后进行汇总最终返回给用户. 本地表: 实际存储数据的表 1 多切片单副本分布式表 conf.xml中的开启远程连接 配置/etc/metrika.xml文件 <!-- Listen specified host. use :: (wildcard IPv6 address), if you want to accept ...
数据源管理（六）
huang714的专栏
09-28 316
OLAP查询引擎，ClickHouse集群化管理 原创知了一笑2020-05-18 07:20:00 一、列式库简介 ClickHouse是俄罗斯的Yandex公司于2016年开源的列式存储数据库（DBMS），主要用于OLAP在线分析处理查询，能够使用SQL查询实时生成分析数据报告。 列式存储 行式存储和列式存储，数据在磁盘上的组织结构有着根本不同，数据分析计算时，行式存储需要遍历整表，列式存储只需要遍历单个列，所以列式库更适合做大宽表，用来做数据分析计算。 絮叨一句：注意这里比较...
clickhouse集群部署说明-ck集群
04-17
clickhouse集群部署说明-ck集群，clickhouse 集群部署以及建表语句，分布式
ClickHouse数据库实战视频.zip
最新发布
04-11
13.ClickHouse分布式集群实战2（分片-副本复制） 14.ClickHouse分布式集群实战3-1-ZK集群1 15.ClickHouse分布式集群实战3-2-ZK集群2 16.ClickHouse分布式集群实战3-3（分片副本） 17.ClickHouse分布式集群实战3-4...
ansible-role-clickhouse:Ansible角色，用于安装和配置在Ansible广告资源模式之上构建的Clickhouse集群
05-23
该角色负责配置和安装具有N个分片和M个副本的Clickhouse集群。 apt和yum分子在Vagrant上进行了测试。 集群是基于ansible清单组（又称为清单模式）构建的，因此必须运行以下组才能运行集群： clickhouse ：包含...
大数据技术之ClickHouse视频教程
07-08
从入门级别的单机安装、分片集群部署、数据类型讲解、多样化表引擎介绍，以及不可或缺的SQL操作详细讲解；到深入级别的执行计划操作、建表优化、表参数调优、CPU参数调优、内存参数调优，以及多种语法优化规则讲解、...
ClickHouse（五）：Clickhouse客户端命令行参数
qq_32020645的博客
07-29 477
🏡个人主页：含各种IT体系技术,📌订阅：拥抱独家专题，你的订阅将点燃我的创作热情！✏️评论：留下心声墨迹，你的评论将是我努力改进的方向！我们可以通过clickhouse client来连接启动的clickhouse服务，连接服务时，我们可以指定以下参数，这里指定的参数会覆盖默认值和配置文件中的配置。--host, -h服务端的host名称, 默认是localhost。您可以选择使用host名称或者IPv4或IPv6地址。--port连接的端口，默认值：9000。
clickhouse高可用-节点宕机数据一致性方案-热扩容
zzy7075的专栏
05-17 1765
1. 集群节点及服务分配 说明： 1.1. 在每个节点上启动两个clickhouse服务(后面会详细介绍如何操作这一步)，一个数据分片，一个数据备份，为了确保宕机数据一致性，数据分片和数据备份不能同一节点，比如gawh201上的shard不能备份在gawh201的replica，如果这样做，当gawh201宕机了，该节点shard的数据是找不到的。 1.2. 基于a所以shard和replica必须错开，但不是随意错开就可以了。按照上图给的规律错开(后面会详细介绍超大节点的集群的shard和re.
深入理解ClickHouse-本地表和分布式表
热门推荐
DataFlow范式
09-12 2万+
在集群的每个机器上面建立本地表 这里需要谨记，在进行下面的操作前（使用ReplicatedMergeTree表引擎），必须保证集群配置中internal_replication=true且配置了zookeeper。 1. 先任选一台机器建个表插入数据(方便测试) CREATE TABLE IF NOT EXISTS bank (\ age UInt16, \ job String, \ marit...
ClickHouse分片和分区的理解
王卫东 博客
08-25 1892
OLAP数据库-ClickHouse，其中有个重要的概念就是分片(shard)。 分区是表的分区，具体的DDL操作关键词是 PARTITION BY，指的是一个表按照某一列数据（比如日期）进行分区，对应到最终的结果就是不同分区的数据会写入不同的文件中。 分片复用了数据库的分区，相当于在原有的分区下，作为第二层分区， 是在不同节点/机器上的体现。
ClickHouse数据迁移和迁移工具
互联网知识分享
09-19 1056
本文介绍了ClickHouse的数据迁移和迁移工具，包括和。这些工具可以帮助用户实现数据的迁移和同步，方便应用在不同环境中的部署和使用。用户可以根据实际需求选择合适的工具进行数据迁移。
clickhouse的副本机制
weixin_43628593的博客
03-14 1683
#1.Non-replicated tables, internal_replication=false. Data inserted into the Distributed table is inserted into both local tables and if there are no problems during inserts, the data on both local ta...
clickhouse集群安装中的一些问题
yuhui666666的博客
12-26 1295
每个节点一个本地表，分布式表是节点中本地表的视图，集群通过分布式表查所有集群中各个本地表 一个副本就是自己本身 副本需要创建副本表用的引擎都不一样--和zk一起达到同步 参看：https://clickhouse.yandex/docs/en/single/#Distributed 本地表-------------------业务表MergeTree引擎即可 分布表----------...
ClickHouse-集群部署以及副本和分片
clearlxj的博客
12-07 2951
副本 副本的目的主要是保障数据的高可用性,即使一台 ClickHouse 节点宕机,那么也可以从其他服务器获得相同的数据。 https://clickhouse.tech/docs/en/engines/table-engines/mergetree-family/replication/ 副本只支持合并数家族，支持的引擎如下： 副本写入流程 clickhouse集群没有主从之分 配置步骤 (1)启动 zookeeper 集群 (2)在 hadoop113 的/etc/clickhouse-server
ClickHouse副本表ReplicatedMergeTree实操
探索大数据世界 - 深入解析数据存储、分布式计算与人工智能
07-17 3105
ClickHouse副本表ReplicatedMergeTree实操
clickhouse 固定分片
05-23
ClickHouse 支持固定分片，也称为静态分片。在静态分片中，表数据被分成固定数量的分片，每个分片都被分配给一个特定的服务器。这种分片方式可以帮助优化查询性能，并确保数据在集群中的分布均匀。 静态分片需要在创建表时指定分片键以及分片数量。分片键是一个或多个列，用于确定如何将数据分配到分片中。分片数量表示表的数据将被分成的分片数。 静态分片的主要优点是它可以提高查询性能，因为查询只需要在一个分片上执行，而不需要扫描整个表。此外，静态分片还可以确保数据在集群中的分布均匀，从而减少数据倾斜的风险。 然而，静态分片也有一些缺点。例如，如果需要添加或删除服务器，则必须重新分配分片，并重新平衡数据。此外，静态分片可能会导致一些分片的负载过重，而另一些分片可能会过度闲置。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值