HBase简介
HBase基于Google的BigTable论文而来,是一个分布式海量列式非关系型数据库系统,可以提供大规模数据集的实时随机读写。
下面通过一个小场景认识HBase存储。同样的一个数据
用Mysql存储是这样的:
id | name | age | salary | job |
---|---|---|---|---|
1 | 小明 | 23 | 学生 | |
2 | 小红 | 1000 | 律师 |
如果是HBase的话,存储是类似这样列式存储的:
field1 | filed2 |
---|---|
rowkey:1 | name:小明 |
rowkey:1 | age:23 |
rowkey:1 | job:学生 |
rowkey:2 | name:小红 |
rowkey:2 | salary:1000 |
rowkey:2 | job:律师 |
HBase这样存储的优点是:
- 有空值字段的情况下,能减少存储空间占用
- 支持好多列
HBase的特点
- 海量存储:底层基于HDFS存储海量数据
- 列式存储:HBase表的数据是基于列族进行存储的,一个列族包含若干列
- 极易扩展:底层依赖HDFS,当磁盘空间不足的时候,只需要动态添加DataNode服务节点就行了
- 高并发:支持高并发的读写请求
- 稀疏性:稀疏主要是针对HBase列的灵活性,在列族中,你可以指定任意多的列,在列数据为空的情况下,是不会占用存储空间的。
- 数据的多版本:HBase表中的数据可以有多个版本值,默认情况下是根据版本号取区分,版本号就是插入数据的时间戳
- 数据类型单一:所有的数据在HBase中是以字节数组进行存储
HBase的应用
- 交通方面:船只GPS信息,每天都有成千上万的数据存储
- 金融方面:消费信息、贷款信息、信用卡还款信息
- 电商方面:电商网站的交易信息、物流信息、游览信息等
- 电信、移动等:通话信息
HBase的缺点
- HBase的有效性存在一定的问题,集群中一个节点宕机,这个节点的数据暂时就不能访问了,需要等待一定的时间进行同步处理。
- HBase的监控粒度太粗
- 查询简单,只能根据key扫描一条信息或者全部扫描
- 不支持交叉表、事务、连接查询
总结:HBase适合海量明细数据的存储,并且后期能有很好的查询性能(单表超千万、上亿,且并发要求高)
HBase数据模型
HBase逻辑结构
HBase物理存储
HBase存储的时候是以列族为单位进行存储的。
HBase模型描述
- NameSpace
命名空间,类似于关系型数据库的database概念。每个namespace下有多个表。HBase两个自带的namespace,分别是hbase和default,hbase中存放的是HBase内置的表,default表是用户默认使用的namespace。一个表可以自由选择是否有namespace,如果创建表的时候加了namespace,这个表名字以:作为区分
- Table
类似于关系型数据库的表的概念。不同的是,HBase定义表时只需要声明列族即可,数据属性:如超时时间、压缩算法等,都在列族的定义中定义,不需要声明具体的列
- Row
HBase表中的每行数据都由一个RowKey和多个Column列组成。一个行包含了多个列,这些列通过列族来分类,行中的数据所属列族只能从表所定义的列族中选取
- RowKey
Rowkey由用户指定的一串不重复的字符串定义,是一行的唯一标识。数据是按照Rowkey的字典顺序存储的,并且查询数据时只能根据Rowkey进行检索,所以Rowkey的设计十分重要。如果使用了之前已经定义的RowKey,那么会将之前的数据更新掉
- Column Family(列族)
列族是多个列的集合,一个列族可以动态灵活的定义多个列。表的相关属性大部分都定义在列族上,同一个表里的不同列族可以有完全不同的属性配置,但是同一个列族内的所有列都会有相同的属性。列族存在的意义是HBase会把相同列族的列尽量放在同一台机器上。
- Column Wualifier(列)
HBase中的列是可以随意定义的,一个行中的列不限名字、不限数量、只限定列族。因此列必须依赖于列族存在。列的名称前必须带着所属的列族
- TimeStamp(版本)
用于标识数据的不同版本,时间戳默认由系统指定,也可以用户显式指定。在读取数据的单元格时,版本号可以忽略,如果不指定,HBase默认会获取最后一个版本的数据返回
- Cell
一个列中可以存储多个版本的数据。而每个版本就称为一个单元格
- Region
HBase 将表中的数据基于RowKey的不同范围划分到不同Region上,每个Region都负责一定范围的数据存储和访问。每个表一开始只有一个Region,随着数据不断插入表,Region不断增大,当增大到一个阀值的时候,Region就会等分成两个新的Region。当table中的行不断增多,就会有越来越多的Region。
HBase整体架构
-
Zookeeper
- 实现了HMaster的高可用,保存了HBase的元数据信息,是所有HBase表的寻址入口
- 对HMaster和HRegionServer实现了监控
-
HMaster(Master)
- 为HRegionServer分配Region
- 维护整个集群的负载均衡
- 发现失效的Region,并将失效的Region分配到正常的HRegionServer上
-
HRegionServer(RegionServer)
- 负责管理Region
- 接受客户端的读写数据请求
- 切分在运行过程中变大的Region
-
Region
- 每个HRegion由多个Store构成
- 每个Store保存一个列族,表有几个列族,则有几个Store
- 每个Store由一个MemStore和多个StoreFile组成,MemStore是Store在内存中的内容,写到文件后就是StoreFile。StoreFile底层就是以HFile的格式保存。