• 「从零单排HBase 05」核心特性region split


    HBase拥有出色的扩展性,其中最依赖的就是region的自动split机制。

    1.split触发时机与策略

    前面我们已经知道了,数据写入过程中,需要先写memstore,然后memstore满了以后,flush写入磁盘,形成新的HFile文件。

    当HFile文件数量不断累积,Region server就会触发compaction机制,把小文件合并为大的HFIle。

    当每次flush完成 或者 compaction完成后,regionSplitPolicy就会判断是否需要进行split。

    split触发时机简单来说,就是看一个region里面的最大store是否超过阈值。

    当然,hbase支持多种策略来设置这个阈值到底怎么计算,这就是触发策略。

    • 0.94版本前默认的策略是ConstantSizeRegionSplitPolicy,这个阈值时一个固定值。
    • 0.94-2.0版本的默认策略是IncreasingToUpperBoundRegionSplitPolicy。
    • 2.0版本的默认策略是SteppingSplitPolicy。这两种策略设置的阈值不是一个固定值,而是会和region所属表在当前regionserver上的region个数有关。只是在计算公式上稍有差异。

    另外,还有比如DisableSplitPolicy、KeyPrefixRegionSplitPolicy,DelimitedKeyPrefixRegionSplitPolicy等策略,就不一一介绍了。

    2.split流程

    一旦开始region split,那么就会创建两个daughter region。

    这时候不会立刻将所有数据写到新的region里面去,而是创建引用文件,叫做Reference files,指向parent region。

    reference文件作为一个数据规则文件,在split期间,新的查询会根据这个文件去父region的HStore上查询数据。当经过一次major compaction后,数据迁移到新的region中,reference文件会被删除,表示spilit真正完成。

    「从零单排HBase 05」核心特性region split

     

    具体过程如下:

    1)regionserver在zookeeper中创建一个新的znode在/hbase/region-in-transition/region-name目录下,状态为SPLITTING

    2)master通过watch zk上的region-in-transition目录,得知这个region处于split状态

    3)region server在HDFS的parent region目录下创建一个子目录叫做“.splits”

    4)region server关闭parent region,强制flush这个region下的cache数据,并且标记这个region为下线状态。这个时候,如果有客户端请求落在这个region上,就会抛出NotServingRegionException。

    5)Region server创建新的region在.spllits目录下,我们标记为daughter region A和daughter region B,同时创建必要的数据结构。然后就会创建两个Reference文件,指向parent region的那些存储文件。

    6)Region Server在HDFS中创建实际的region目录,并将daughterA和daughter B移动到HBase根目录下,形成两个新的region。

    7)Region server会发送put请求给.mete. table,然后把parent region设置为offline的状态,并且给新的region添加信息。

    8)region server 打开新的region接受读写请求

    9)region server将region A和B的信息添加到.meta.表,可以真正对外提供服务了。

    扫尾工作:

    1)客户端请求.meta.表,发现新的region信息,就会把本地缓存重新设置

    2)region server更新zk上/hbase/region-in-transition/region-name目录下的znode状态,改为SPLIT,然后master通过watch得知这个信息。如果有必要,负载均衡器可以选择将新的region分布到新的region server上。

    3)完成split工作后,meta和HDFS还是会保留reference文件到parent region。等到下次compaction时,会完成数据到新region的迁移,然后才会删除reference文件。

    3.pre-splitting

    当一张表被首次创建时,只会分配一个region给这个表。因此,在刚刚开始时,所有读写请求都会落在这个region所在的region server上,而不管你整个集群有多少个region server。不能充分地利用集群的分布式特性。

    主要原因跟split的机制有关,一开始的时候,系统无法判断你到底需要用哪个rowkey进行split。

    因此,hbase提供了工具让你能自己解决这个问题,叫做pre-splitting。

    你可以在创建表的时候,指定哪些split point将region分成几份。如果切分的好,那么自然就可以一开始就充分利用分布式的特性。但是需要注意,如果切分的不好,存在热点region,那么反而会影响读写性能。

    这里也没有一个特别好的原则来说到底pre split多少个region最合适,不过最好的方式,还是以region server数量的倍数(较小的倍数)来创建pre split的region数量,然后让集群本身去做自动的spliting。

    4.split的事务性保证

    2.0版本后,HBase会使用HLog存储单机事务(DDLSplitMove等)的中间状态,保证了即使事务过程中出现异常,也能安全地回滚或继续提交。

    看到这里了,原创不易,点个关注、点个赞吧,你最好看了~

    知识碎片重新梳理,构建Java知识图谱:https://github.com/saigu/JavaKnowledgeGraph(历史文章查阅非常方便)

    扫码关注我的公众号“阿丸笔记”,第一时间获取最新更新。同时可以免费获取海量Java技术栈电子书、各个大厂面试题。

    阿丸笔记

  • 相关阅读:
    axis2调用webservice
    JSON: Property 'xxx' has no getter method的解决办法
    JDK中工具类的使用
    Java权限讲解
    JSON的使用
    策略模式
    Tomcat虚拟目录的设置
    extends 与 implements 的区别
    利用正则表达式分割字符串
    给面板添加背景图片
  • 原文地址:https://www.cnblogs.com/awan-note/p/12489353.html
Copyright © 2020-2023  润新知