MyCAT

一、海量数据的存储问题

　　如今随着互联网的发展，数据的量级也是呈指数的增长，从GB到TB到PB。对数据的各种操作也是愈加的困难，传统的关系性数据库已经无法满足快速查询与插入数据的需求。这个时候NoSQL的出现暂时解决了这一危机。它通过降低数据的安全性，减少对事务的支持，减少对复杂查询的支持，来获取性能上的提升。

　　但是，在有些场合NoSQL一些折衷是无法满足使用场景的，就比如有些使用场景是绝对要有事务与安全指标的。这个时候NoSQL肯定是无法满足的，所以还是需要使用关系性数据库。如果使用关系型数据库解决海量存储的问题呢？此时就需要做数据库集群，为了提高查询性能将一个数据库的数据分散到不同的数据库中存储。

1.1 什么是数据库分片

　　简单来说，就是指通过某种特定的条件，将我们存放在同一个数据库中的数据分散存放到多个数据库（主机）上面，以达到分散单台设备负载的效果。

　　数据的切分（Sharding）根据其切分规则的类型，可以分为两种切分模式。

　　　　(1) 一种是按照不同的表（或者Schema）来切分到不同的数据库（主机）之上，这种切可以称之为数据的垂直（纵向）切分

　　　　　　

　　　　(2)另外一种则是根据表中的数据的逻辑关系，将同一个表中的数据按照某种条件拆分到多台数据库（主机）上面，这种切分称之为数据的水平（横向）切分。

　　　　　　

1.2 如何实现数据库分片

 　　当数据库分片后，数据由一个数据库分散到多个数据库中。此时系统要查询时需要切换不同的数据库进行查询，那么系统如何知道要查询的数据在哪个数据库中？当添加一条记录时要向哪个数据库中插入呢？这些问题处理起来都是非常的麻烦。

　　这种情况下可以使用一个数据库中间件mycat来解决相关的问题。接下来了解一下什么是mycat。

二、Mycat介绍

2.1 什么是Mycat？

　　Mycat 背后是阿里曾经开源的知名产品——Cobar。Cobar 的核心功能和优势是 MySQL 数据库分片，此产品曾经广为流传，据说最早的发起者对 Mysql 很精通，后来从阿里跳槽了，阿里随后开源的 Cobar，并维持到 2013 年年初，然后，就没有然后了。

　　Cobar 的思路和实现路径的确不错。基于 Java 开发的，实现了 MySQL 公开的二进制传输协议，巧妙地将自己伪装成一个 MySQL Server，目前市面上绝大多数 MySQL 客户端工具和应用都能兼容。比自己实现一个新的数据库协议要明智的多，因为生态环境在哪里摆着。

 　　Mycat 是基于 cobar 演变而来，对 cobar 的代码进行了彻底的重构，使用 NIO 重构了网络模块，并且优化了 Buffer 内核，增强了聚合，Join 等基本特性，同时兼容绝大多数数据库成为通用的数据库中间件。

　　简单的说，MyCAT就是：

　　一个新颖的数据库中间件产品支持mysql集群，或者mariadb cluster，提供高可用性数据分片集群。你可以像使用mysql一样使用mycat。对于开发人员来说根本感觉不到mycat的存在。

　　

2.2 Mycat支持的数据库

　　

2.3 Mycat的分片策略

　　

• 逻辑库(schema) ：

　　前面讲到了数据库中间件，通常对实际应用来说，并不需要知道中间件的存在，业务开发人员只需要知道数据库的概念，所以数据库中间件可以被看做是一个或多个数据库集群构成的逻辑库。

• 逻辑表（table）：

　　既然有逻辑库，那么就会有逻辑表，分布式数据库中，对应用来说，读写数据的表就是逻辑表。逻辑表，可以是数据切分后，分布在一个或多个分片库中，也可以不做数据切分，不分片，只有一个表构成。

　　分片表：是指那些原有的很大数据的表，需要切分到多个数据库的表，这样，每个分片都有一部分数据，所有分片构成了完整的数据。 总而言之就是需要进行分片的表。

　　非分片表：一个数据库中并不是所有的表都很大，某些表是可以不用进行切分的，非分片是相对分片表来说的，就是那些不需要进行数据切分的表。

• 分片节点（dataNode）：

　　数据切分后，一个大表被分到不同的分片数据库上面，每个表分片所在的数据库就是分片节点（dataNode）。

• 节点主机（dataHost）：

　　数据切分后，每个分片节点（dataNode）不一定都会独占一台机器，同一机器上面可以有多个分片数据库，这样一个或多个分片节点（dataNode）所在的机器就是节点主机（dataHost）,为了规避单节点主机并发数限制，尽量将读写压力高的分片节点（dataNode）均衡的放在不同的节点主机（dataHost）。

• 分片规则(rule)：

　　前面讲了数据切分，一个大表被分成若干个分片表，就需要一定的规则，这样按照某种业务规则把数据分到某个分片的规则就是分片规则，数据切分选择合适的分片规则非常重要，将极大的避免后续数据处理的难度。

三、 Mycat的下载及安装

3.1 MySQL安装与启动

　　详细步骤见：Linux软件安装

3.2 MyCat安装及启动

【安装环境】

　　1、jdk：要求jdk必须是1.7及以上版本

　　2、Mysql：推荐mysql是5.5以上版本

　　3、Mycat：

• • Mycat的官方网站：http://www.mycat.org.cn/

  • Mycat的下载地址：https://github.com/MyCATApache/Mycat-download

【安装步骤】

　　Mycat有windows、linux多种版本。此处为linux安装步骤，windows基本相同。

第一步：下载Mycat-server-xxxx-linux.tar.gz
第二步：将压缩包解压缩。建议将mycat放到/usr/local/mycat目录下。
第三步：进入mycat目录，启动mycat（./mycat start）停止:（./mycat stop）
第四步:进入mycat的logs目录,使用tail -f mycat.logs车看mycat的启动状态

 　　mycat 支持的命令{ console | start | stop | restart | status | dump }

　　Mycat的默认端口号为：8066

　　第一次启动的时候遇到了一个问题：怎么启动都失败，这时候应该查看logs目录下的wrapper.log，发现了如下异常：

　　这里的原因是：/etc/hosts文件里没有主机名为：Centos，解决方法就是在hosts文件中加入Centos，修改后的hosts的文件是：

　

　　保存后，重启mycat后即可。

四、Mycat的分片

4.1 MyCat分片配置

（1）配置schema.xml

　　Schema.xml作为MyCat中重要的配置文件之一，管理着MyCat的逻辑库、表、分片规则、DataNode以及DataSource。弄懂这些配置，是正确使用MyCat的前提。这里就一层层对该文件进行解析。

　　schema 标签用于定义MyCat实例中的逻辑库

　　Table 标签定义了MyCat中的逻辑表

　　dataNode 标签定义了MyCat中的数据节点，也就是我们通常说所的数据分片。

　　dataHost标签在mycat逻辑库中也是作为最底层的标签存在，直接定义了具体的数据库实例、读写分离配置和心跳语句。

注意：若是LINUX版本的MYSQL，则需要设置为Mysql大小写不敏感，否则可能会发生表找不到的问题。
　　　在MySQL的配置文件中/etc/my.cnf [mysqld] 中增加一行
　    lower_case_table_names=1

　　此处可能会遇到的问题：安装完mysql后在/etc/目录下没有my.cnf文件，原因是我安装mysql5.6之前卸载了自带的mysql，这样也会卸载掉 /etc/my.cnf  里面的文件，即使安装了5.6版本的server和client，也不会生成my.cnf文件。
　　解决方法是：进入 /usr/share/mysql ，将my-default.cnf 移动到etc 并且改名为my.cnf（cp my-default.cnf /etc/my.cnf）,这里我在一台没有安装过mysql5.6的虚拟机上，将/etc目录的my.cnf内容复制过来，再修改：

[mysqld]
lower_case_table_names = 1
datadir=/var/lib/mysql
socket=/var/lib/mysql/mysql.sock
user=mysql
# Disabling symbolic-links is recommended to prevent assorted security risks
symbolic-links=0

[mysqld_safe]
log-error=/var/log/mysqld.log
pid-file=/var/run/mysqld/mysqld.pid

　　修改完后，需要重启mysql服务：service mysql restart

 

　　在服务器上创建3个数据库，分别是db1   db2   db3

　　修改schema.xml如下：

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://org.opencloudb/">

    <schema name="PINYOUGOUDB" checkSQLschema="false" sqlMaxLimit="100">
        <!-- auto sharding by id (long) -->
        <table name="tb_test" dataNode="dn1,dn2,dn3" rule="auto-sharding-long" />
    </schema>

    <dataNode name="dn1" dataHost="localhost1" database="db1" />
    <dataNode name="dn2" dataHost="localhost1" database="db2" />
    <dataNode name="dn3" dataHost="localhost1" database="db3" />
    
    <dataHost name="localhost1" maxCon="1000" minCon="10" balance="0"
        writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
        <heartbeat>select user()</heartbeat>
        <!-- can have multi write hosts -->
        <writeHost host="hostM1" url="192.168.25.129:3306" user="root"
            password="root">

        </writeHost>
    </dataHost>
</mycat:schema>

（2）配置server.xml

　　server.xml几乎保存了所有mycat需要的系统配置信息。最常用的是在此配置用户名、密码及权限。在system中添加UTF-8字符集设置，否则存储中文会出现问号。修改user的设置 ,  我们这里为 PINYOUGOUDB设置了两个用户

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE mycat:server SYSTEM "server.dtd">
<mycat:server xmlns:mycat="http://org.opencloudb/">
    <system>
    <property name="defaultSqlParser">druidparser</property>
    <property name="charset">utf8</property>
    </system>
    <user name="test">
        <property name="password">test</property>
        <property name="schemas">PINYOUGOUDB</property>
        <property name="readOnly">true</property>
    </user>

    <user name="root">
        <property name="password">root</property>
        <property name="schemas">PINYOUGOUDB</property>
    </user>

</mycat:server>

　　注意：修改完配置后记得要重启mycat：

[root@localhost mycat]# ./bin/mycat restart

（3）配置rule.xml

　　rule.xml里面就定义了我们对表进行拆分所涉及到的规则定义。我们可以灵活的对表使用不同的分片算法，或者对表使用相同的算法但具体的参数不同。这个文件里面主要有tableRule和function这两个标签。在具体使用过程中可以按照需求添加tableRule和function。

　　此配置文件可以不用修改，使用默认即可。

4.2 MyCat分片测试

　　配置完毕后，重新启动mycat。使用mysql客户端连接mycat，创建表。

　　

CREATE TABLE tb_test (
  id BIGINT(20) NOT NULL,
  title VARCHAR(100) NOT NULL ,
  PRIMARY KEY (id)
) ENGINE=INNODB DEFAULT CHARSET=utf8 

　　我们再查看MySQL的3个库，发现表都自动创建好啦！

　　接下来是插入表数据，注意，mycat中写INSERT语句时一定要写把字段列表写出来，否则会出现下列错误提示：

　　

　　我们试着插入一些数据：

INSERT INTO TB_TEST(ID,TITLE) VALUES(1,'goods1');
INSERT INTO TB_TEST(ID,TITLE) VALUES(2,'goods2');
INSERT INTO TB_TEST(ID,TITLE) VALUES(3,'goods3');

　　注意：在mycat中插入数据后，如果想查询插入的数据，不能直接双击Navicat的表查询，这样会报错（mysql不存在此问题）。应该写完整的sql查询语句，并且不能用select * ...，要把字段列表写出来：SELECT ID,TITLE FROM tb_test。

　　我们会发现这些数据被写入到第一个节点中了，那什么时候数据会写到第二个节点中呢？

　　我们插入下面的数据就可以插入第二个节点了

INSERT INTO TB_TEST(ID,TITLE) VALUES(5000001,'goods5000001');

　　因为我们采用的分片规则是每节点存储500万条数据，所以当ID大于5000000则会存储到第二个节点上。

【结论】

　　由于配置的分片规则为“auto-sharding-long”，所以mycat会根据此规则自动分片。每个datanode中保存一定数量的数据。根据id进行分片

　　经测试id范围为：

　　Datanode1：1~5000000

　　Datanode2：5000000~10000000

　　Datanode3：10000001~15000000

　　当15000000以上的id插入时报错：

 　　

　　此时需要添加节点了。

4.3 MyCat分片规则

　　rule.xml用于定义分片规则  ，我们这里讲解两种最常见的分片规则

【按主键范围分片rang-long】

　　在配置文件中我们找到

<tableRule name="auto-sharding-long">
    <rule>
        <columns>id</columns>
        <algorithm>rang-long</algorithm>
    </rule>
</tableRule>

　　tableRule 是定义具体某个表或某一类表的分片规则名称， columns用于定义分片的列，algorithm代表算法名称，我们接着找rang-long的定义

<function name="rang-long"
    class="org.opencloudb.route.function.AutoPartitionByLong">
    <property name="mapFile">autopartition-long.txt</property>
</function>

　　Function用于定义算法 mapFile 用于定义算法需要的数据，我们打开autopartition-long.txt

# range start-end ,data node index
# K=1000,M=10000.
0-500M=0
500M-1000M=1
1000M-1500M=2

【一致性哈希murmur】

　　当我们需要将数据平均分在几个分区中，需要使用一致性hash规则。

　　我们找到function的name为murmur 的定义，将count属性改为3，因为我要将数据分成3片

<function name="murmur"
    class="org.opencloudb.route.function.PartitionByMurmurHash">
    <property name="seed">0</property><!-- 默认是0 -->
    <property name="count">3</property><!-- 要分片的数据库节点数量，必须指定，否则没法分片 -->
    <property name="virtualBucketTimes">160</property><!-- 一个实际的数据库节点被映射为这么多虚拟节点，默认是160倍，也就是虚拟节点数是物理节点数的160倍 -->
    <!-- <property name="weightMapFile">weightMapFile</property> 节点的权重，没有指定权重的节点默认是1。以properties文件的格式填写，以从0开始到count-1的整数值也就是节点索引为key，以节点权重值为值。所有权重值必须是正整数，否则以1代替 -->
    <!-- <property name="bucketMapPath">/etc/mycat/bucketMapPath</property> 
        用于测试时观察各物理节点与虚拟节点的分布情况，如果指定了这个属性，会把虚拟节点的murmur hash值与物理节点的映射按行输出到这个文件，没有默认值，如果不指定，就不会输出任何东西 -->
</function>

　　我们在配置文件中可以找到表规则定义

<tableRule name="sharding-by-murmur">
    <rule>
        <columns>id</columns>
        <algorithm>murmur</algorithm>
    </rule>
</tableRule>

　　但是这个规则指定的列是id ,如果我们的表主键不是id ,而是order_id ,那么我们应该重新定义一个tableRule：

<tableRule name="sharding-by-murmur-order">
    <rule>
        <columns>order_id</columns>
        <algorithm>murmur</algorithm>
    </rule>
</tableRule>

　　在schema.xml中配置逻辑表时，指定规则为sharding-by-murmur-order

<table name="tb_order" dataNode="dn1,dn2,dn3" rule="sharding-by-murmur-order" />

五、Mycat读写分离

　　数据库读写分离对于大型系统或者访问量很高的互联网应用来说，是必不可少的一个重要功能。对于MySQL来说，标准的读写分离是主从模式，一个写节点Master后面跟着多个读节点，读节点的数量取决于系统的压力，通常是1-3个读节点的配置

　　 

　　Mycat读写分离和自动切换机制，需要mysql的主从复制机制配合。

5.1 Mysql的主从复制

　　

　　主从配置需要注意的地方：

1. 主DB server和从DB server数据库的版本一致

2. 主DB server和从DB server数据库数据名称一致

3. 主DB server开启二进制日志,主DB server和从DB server的server_id都必须唯一

5.2 Mysql主服务器配置

　　第一步：修改my.conf文件，在[mysqld]段下添加：

binlog-do-db=db1
binlog-ignore-db=mysql
#启用二进制日志
log-bin=mysql-bin
#服务器唯一ID，一般取IP最后一段
server-id=131

 　　第二步：重启mysql服务

service mysql restart

　　第三步：建立帐户并授权slave

mysql>GRANT FILE ON *.* TO 'backup'@'%' IDENTIFIED BY '123456';
mysql>GRANT REPLICATION SLAVE, REPLICATION CLIENT ON *.* to 'backup'@'%' identified by '123456'; 
#一般不用root帐号，“%”表示所有客户端都可能连，只要帐号，密码正确，此处可用具体客户端IP代替，如192.168.145.226，加强安全。

　　刷新权限

mysql> FLUSH PRIVILEGES;

　　查看mysql现在有哪些用户

mysql>select user,host from mysql.user;

　　第四步：查询master的状态

mysql> show master status;

5.3 Mysql从服务器配置

 　　第一步：修改my.conf文件

[mysqld]
server-id=132

 　　第二步：配置从服务器

mysql>change master to master_host='192.168.25.131',master_port=3306,master_user='backup',master_password='123456',master_log_file='mysql-bin.000001',master_log_pos=606;

　　注意语句中间不要断开，master_port为mysql服务器端口号(无引号)，master_user为执行同步操作的数据库账户，“606”无单引号(此处的606就是show master status 中看到的position的值，这里的mysql-bin.000001就是file对应的值)。

　　第三步：启动从服务器复制功能

Mysql>start slave; 

 　　第四步：检查从服务器复制功能状态：

mysql> show slave status;

　　

　　注：Slave_IO及Slave_SQL进程必须正常运行，即YES状态，否则都是错误的状态(如：其中一个NO均属错误)。

错误处理：
如果出现此错误：
Fatal error: The slave I/O thread stops because master and slave have equal MySQL server UUIDs; these UUIDs must be different for replication to work.
因为是mysql是克隆的系统所以mysql的uuid是一样的，所以需要修改。
--------------------------------------------------------------------------------------------------------------------------------------------------------
解决方法：
删除/var/lib/mysql/auto.cnf文件，重新启动服务。

5.4 Mycat配置

　　Mycat 1.4 支持MySQL主从复制状态绑定的读写分离机制，让读更加安全可靠，schema.xml的配置如下：

    <dataNode name="dn1" dataHost="localhost1" database="db1" />
    <dataNode name="dn2" dataHost="localhost2" database="db2" />
    <dataNode name="dn3" dataHost="localhost1" database="db3" />
    <dataHost name="localhost1" maxCon="1000" minCon="10" balance="1" writeType="0" 
　　　　　dbType="mysql" dbDriver="native" switchType="2"  slaveThreshold="100">
        <heartbeat>show slave status</heartbeat>
        <!-- can have multi write hosts -->
        <writeHost host="hostM1" url="192.168.25.131:3306" user="root"
            password="root">
            <!-- can have multi read hosts -->
        <readHost host="hostS" url="192.168.25.132:3306" user="root"
            password="root" />
        </writeHost>
    </dataHost>

• 设置 balance="1"与writeType="0"

　　　　Balance参数设置：

1. 1. balance=“0”, 所有读操作都发送到当前可用的writeHost上。

   2. balance=“1”，所有读操作都随机的发送到readHost。

   3. balance=“2”，所有读操作都随机的在writeHost、readhost上分发

　　　　WriteType参数设置：

1. 1. writeType=“0”, 所有写操作都发送到可用的writeHost上。

   2. writeType=“1”，所有写操作都随机的发送到readHost。

   3. writeType=“2”，所有写操作都随机的在writeHost、readhost分上发。

　　 “readHost是从属于writeHost的，即意味着它从那个writeHost获取同步数据，因此，当它所属的writeHost宕机了，则它也不会再参与到读写分离中来，即“不工作了”，这是因为此时，它的数据已经“不可靠”了。基于这个考虑，目前mycat 1.3和1.4版本中，若想支持MySQL一主一从的标准配置，并且在主节点宕机的情况下，从节点还能读取数据，则需要在Mycat里配置为两个writeHost并设置banlance=1。”

• 设置 switchType="2" 与slaveThreshold="100"

　　switchType 目前有三种选择：

　　　　-1：表示不自动切换

　　　　1 ：默认值，自动切换

　　　　2 ：基于MySQL主从同步的状态决定是否切换

　　“Mycat心跳检查语句配置为 show slave status ，dataHost 上定义两个新属性： switchType="2" 与slaveThreshold="100"，此时意味着开启MySQL主从复制状态绑定的读写分离与切换机制。Mycat心跳机制通过检测 show slave status 中的 "Seconds_Behind_Master", "Slave_IO_Running", "Slave_SQL_Running" 三个字段来确定当前主从同步的状态以及Seconds_Behind_Master主从复制时延。“