ClickHouse分片集群

ClickHouse分片集群
副本虽然能够提高数据的可用性，降低丢失风险，但是每台服务器实际上必须容纳全量数据，对数据的横向扩容没有解决。

要解决数据水平切分的问题，需要引入分片的概念。通过分片把一份完整的数据进行切分，不同的分片分布到不同的节点上，再通过 Distributed 表引擎把数据拼接起来一同使用。

Distributed 表引擎本身不存储数据，有点类似于 MyCat 之于 MySql，成为一种中间件，通过分布式逻辑表来写入、分发、路由来操作多台节点不同分片的分布式数据。

注意：ClickHouse 的集群是表级别的，实际企业中，大部分做了高可用，但是没有用分

片，避免降低查询性能以及操作集群的复杂性。

1.集群写入流程（3 分片 2 副本共 6 个节点）

internal_replication:内部副本同步

true：由分片自己同步

false：由distribute表同步，压力大

2.集群读取流程（3 分片 2 副本共 6 个节点）

3 分片 2 副本共 6 个节点集群配置（供参考）

配置的位置还是在之前的/etc/clickhouse-server/config.d/metrika.xml，内容如下

注：也可以不创建外部文件，直接在 config.xml 的<remote_servers>中指定
<yandex> <remote_servers> <fz_cluster>  <shard>  <internal_replication>true</internal_replication>  <replica> <host>node01</host> <port>9000</port> </replica>  <replica> <host>node02</host> <port>9000</port> </replica> </shard> <shard>  <internal_replication>true</internal_replication> <replica>  <host>node03</host> <port>9000</port> </replica> <replica>  <host>node04</host> <port>9000</port> </replica> </shard> <shard>  <internal_replication>true</internal_replication> <replica>  <host>node05</host> <port>9000</port> </replica> <replica>  <host>node06</host> <port>9000</port> </replica> </shard> </fz_cluster> </remote_servers> </yandex>
4 .配置三节点版本集群及副本

4.1 集群及副本规划（2 个分片，只有第一个分片有副本）

4.2 配置步骤

1）在 Node01 的/etc/clickhouse-server/config.d 目录下创建 metrika-shard.xml 文件

vim /etc/clickhouse-server/config.d/metrika-shard.xml

注：也可以不创建外部文件，直接在 config.xml 的<remote_servers>中指定
<?xml version="1.0"?>

<yandex>

    <remote_servers>

        <gmall_cluster> 

            <shard> 

                <internal_replication>true</internal_replication>

                <replica> 

                    <host>Node01</host>

                    <port>9000</port>

                  <user>default</user>

                  <password>1234qwer</password>

                </replica>

                <replica> 

                    <host>Node02</host>

                    <port>9000</port>

                  <user>default</user>

                  <password>1234qwer</password>

                </replica>

            </shard>

            <shard> 

                <internal_replication>true</internal_replication>

                <replica> 

                    <host>Node03</host>

                    <port>9000</port>

                  <user>default</user>

                  <password>1234qwer</password>

                </replica>

            </shard>

        </gmall_cluster>

    </remote_servers>



    <zookeeper-servers>

        <node index="1">

            <host>Node01</host>

            <port>2181</port>

        </node>

        <node index="2">

            <host>Node02</host>

            <port>2181</port>

        </node>

        <node index="3">

            <host>Node03</host>

            <port>2181</port>

        </node>

    </zookeeper-servers>

    <macros>

        <shard>01</shard> 

        <replica>rep_1_1</replica> 

    </macros>

</yandex>
2）将 Node01 的 metrika-shard.xml 同步到 Node02 和 Node03
scp /etc/clickhouse-server/config.d/metrika-shard.xml root@Node02:/etc/clickhouse-server/config.d/ scp /etc/clickhouse-server/config.d/metrika-shard.xml root@Node03:/etc/clickhouse-server/config.d/
3）修改 Node02 和 Node03 中 metrika-shard.xml 宏的配置

（1）Node02
<macros> <shard>01</shard>  <replica>rep_1_2</replica>  </macros>
（2）Node03
<macros> <shard>02</shard>  <replica>rep_2_1</replica>  </macros>
4）在 Node01 上修改/etc/clickhouse-server/config.xml
vim /etc/clickhouse-server/config.xml <zookeeper incl="zookeeper-servers" optional="true" /> <include_from>/etc/clickhouse-server/config.d/metrika-shard.xml</include_from>
5）同步/etc/clickhouse-server/config.xml 到 Node02 和 Node03
scp /etc/clickhouse-server/config.xml root@Node02:/etc/clickhouse-server/ scp /etc/clickhouse-server/config.xml root@Node03:/etc/clickhouse-server/
6）重启三台服务器上的 ClickHouse 服务

sudo clickhouse restart

查看集群
superset-BI :) show clusters; SHOW CLUSTERS Query id: 391735d2-bf74-43f5-aa86-b6d203c357cd ┌─cluster─────────────────────────────────────────┐ │ gmall_cluster │ │ test_cluster_one_shard_three_replicas_localhost │ │ test_cluster_two_shards │ │ test_cluster_two_shards_internal_replication │ │ test_cluster_two_shards_localhost │ │ test_shard_localhost │ │ test_shard_localhost_secure │ │ test_unavailable_shard │ └─────────────────────────────────────────────────┘
8 rows in set. Elapsed: 0.002 sec.
7）在 Node01 上执行建表语句

➢ 会自动同步到 Node02 和 Node03 上

➢ 集群名字要和配置文件中的一致

➢ 分片和副本名称从配置文件的宏定义中获取
create table st_fz_order_mt_01 on cluster gmall_cluster (

id UInt32,

sku_id String,

total_amount Decimal(16,2),

create_time Datetime

) engine

=ReplicatedMergeTree('/clickhouse/tables/{shard}/st_fz_order_mt_01','{replica}')

partition by toYYYYMMDD(create_time)

primary key (id)

order by (id,sku_id);
superset-BI :) create table st_fz_order_mt_01 on cluster gmall_cluster (

               id UInt32,

               sku_id String,

               total_amount Decimal(16,2),

               create_time Datetime

               ) engine

               =ReplicatedMergeTree('/clickhouse/tables/{shard}/st_fz_order_mt_01','{replica}')

               partition by toYYYYMMDD(create_time)

               primary key (id)

               order by (id,sku_id);

CREATE TABLE st_fz_order_mt_01 ON CLUSTER gmall_cluster

(

    `id` UInt32,

    `sku_id` String,

    `total_amount` Decimal(16, 2),

    `create_time` Datetime

)

ENGINE = ReplicatedMergeTree('/clickhouse/tables/{shard}/st_fz_order_mt_01', '{replica}')

PARTITION BY toYYYYMMDD(create_time)

PRIMARY KEY id

ORDER BY (id, sku_id)

Query id: b7818894-861b-443c-86e7-41832716eb34

┌─host────────┬─port─┬─status─┬─error─┬─num_hosts_remaining─┬─num_hosts_active─┐

│ Node1 │ 9000 │      0 │       │                   2 │                2 │

└─────────────┴──────┴────────┴───────┴─────────────────────┴──────────────────┘

┌─host────────┬─port─┬─status─┬─error─┬─num_hosts_remaining─┬─num_hosts_active─┐

│ Node2 │ 9000 │      0 │       │                   1 │                0 │

│ Node3 │ 9000 │      0 │       │                   0 │                0 │

└─────────────┴──────┴────────┴───────┴─────────────────────┴──────────────────┘

3 rows in set. Elapsed: 0.166 sec.
等三个节点都完事儿即可。

在Node02和Node03上查看表是否创建成功

show tables;

8）在 Node02 上创建 Distribute 分布式表
date1002 :) create table st_fz_order_mt_all2 on cluster gmall_cluster

            (

            id UInt32,

            sku_id String,

            total_amount Decimal(16,2),

            create_time Datetime

            )engine = Distributed(gmall_cluster,default, st_fz_order_mt_01,hiveHash(sku_id));

CREATE TABLE st_fz_order_mt_all2 ON CLUSTER gmall_cluster

(

    `id` UInt32,

    `sku_id` String,

    `total_amount` Decimal(16, 2),

    `create_time` Datetime

)

ENGINE = Distributed(gmall_cluster, default, st_fz_order_mt_01, hiveHash(sku_id))

Query id: e447cdff-133f-4159-99bd-038d573ce8c8

┌─host────────┬─port─┬─status─┬─error─┬─num_hosts_remaining─┬─num_hosts_active─┐

│ Node2 │ 9000 │      0 │       │                   2 │                0 │

│ Node1 │ 9000 │      0 │       │                   1 │                0 │

│ Node3 │ 9000 │      0 │       │                   0 │                0 │

└─────────────┴──────┴────────┴───────┴─────────────────────┴──────────────────┘

3 rows in set. Elapsed: 0.131 sec.
参数含义：

Distributed（集群名称，库名，本地表名，分片键）

分片键必须是整型数字，所以用 hiveHash 函数转换，也可以 rand()

9）在 Node01 上插入测试数据
insert into st_order_mt_all2 values (201,'sku_001',1000.00,'2020-06-01 12:00:00') , (202,'sku_002',2000.00,'2020-06-01 12:00:00'), (203,'sku_004',2500.00,'2020-06-01 12:00:00'), (204,'sku_002',2000.00,'2020-06-01 12:00:00'), (205,'sku_003',600.00,'2020-06-02 12:00:00');
10）通过查询分布式表和本地表观察输出结果

（1）分布式表
superset-BI :) select * From st_fz_order_mt_all2; SELECT * FROM st_fz_order_mt_all2 Query id: d8b676e9-c119-4483-8ca2-f0b5cd150a61 ┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐ │ 202 │ sku_002 │ 2000 │ 2020-06-01 12:00:00 │ │ 203 │ sku_004 │ 2500 │ 2020-06-01 12:00:00 │ │ 204 │ sku_002 │ 2000 │ 2020-06-01 12:00:00 │ └─────┴─────────┴──────────────┴─────────────────────┘ ┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐ │ 205 │ sku_003 │ 600 │ 2020-06-02 12:00:00 │ └─────┴─────────┴──────────────┴─────────────────────┘ ┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐ │ 201 │ sku_001 │ 1000 │ 2020-06-01 12:00:00 │ └─────┴─────────┴──────────────┴─────────────────────┘
（2）本地表
Node1: superset-BI :) select * From st_fz_order_mt_01; SELECT * FROM st_fz_order_mt_01 Query id: ddcb5176-e443-4253-9877-57fec8f57311 ┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐ │ 202 │ sku_002 │ 2000 │ 2020-06-01 12:00:00 │ │ 203 │ sku_004 │ 2500 │ 2020-06-01 12:00:00 │ │ 204 │ sku_002 │ 2000 │ 2020-06-01 12:00:00 │ └─────┴─────────┴──────────────┴─────────────────────┘ 3 rows in set. Elapsed: 0.002 sec. Node2: Node3: date1001 :) select * From st_fz_order_mt_01; SELECT * FROM st_fz_order_mt_01 Query id: 7a336004-7040-4098-948e-1e7c5d983edb ┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐ │ 205 │ sku_003 │ 600 │ 2020-06-02 12:00:00 │ └─────┴─────────┴──────────────┴─────────────────────┘ ┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐ │ 201 │ sku_001 │ 1000 │ 2020-06-01 12:00:00 │ └─────┴─────────┴──────────────┴─────────────────────┘ 2 rows in set. Elapsed: 0.002 sec.
可以看到数据分布在Node1和Node3两个节点上。
相关阅读:
单表查询
 多表查询
 (Redis基础教程之七)如何使用Redis中的Hashes
（Python基础教程之三）Python代码中添加注释
 （Python基础教程之二）在Sublime Editor中配置Python环境
 (Redis基础教程之六)如何使用Redis中的List
(Redis基础教程之五)如何在Redis中操作字符串
 （Redis基础教程之一）如何在Ubuntu 18.04上安装和保护Redis
Redis数据类型简介（十分钟快速学习Redis）
如何使用,操作Redis数据库
原文地址：https://www.cnblogs.com/EnzoDin/p/16142215.html

ClickHouse分片集群

1.集群写入流程（3 分片 2 副本共 6 个节点）

2.集群读取流程（3 分片 2 副本共 6 个节点）

3 分片 2 副本共 6 个节点集群配置（供参考）

4 .配置三节点版本集群及副本

4.1 集群及副本规划（2 个分片，只有第一个分片有副本）

4.2 配置步骤