1. 典型数据库架构设计与实践
1). 单库架构
2). 分组架构
什么是分组？
答：分组架构是最常见的一主多从，主从同步，读写分离数据库架构：
-
user-service：依旧是用户中心服务
-
user-db-M(master)：主库，提供数据库写服务
-
user-db-S(slave)：从库，提供数据库读服务
主和从构成的数据库集群称为“组”。
分组有什么特点？
答：同一个组里的数据库集群：
-
主从之间通过binlog进行数据同步
-
多个实例数据库结构完全相同
-
多个实例存储的数据也完全相同，本质上是将数据进行复制
分组架构究竟解决什么问题？
答：大部分互联网业务读多写少，数据库的读往往最先成为性能瓶颈，如果希望：
线性提升数据库读性能
-
通过消除读写锁冲突提升数据库写性能
-
通过冗余从库实现数据的“读高可用”
此时可以使用分组架构，需要注意的是，分组架构中，数据库的主库依然是写单点。
一句话总结，分组解决的是“数据库读写高并发量高”问题，所实施的架构设计。
3). 分片架构
什么是分片？
答：分片架构是大伙常说的水平切分(sharding)数据库架构：
-
user-service：依旧是用户中心服务
-
user-db1：水平切分成2份中的第一份
-
user-db2：水平切分成2份中的第二份
分片后，多个数据库实例也会构成一个数据库集群。
水平切分，到底是分库还是分表？
答：强烈建议分库，而不是分表，因为：
-
分表依然公用一个数据库文件，仍然有磁盘IO的竞争
-
分库能够很容易的将数据迁移到不同数据库实例，甚至数据库机器上，扩展性更好
水平切分，用什么算法？
答：常见的水平切分算法有“范围法”和“哈希法”：
范围法如上图：以用户中心的业务主键uid为划分依据，将数据水平切分到两个数据库实例上去：
-
user-db1：存储0到1千万的uid数据
-
user-db2：存储0到2千万的uid数据
哈希法如上图：也是以用户中心的业务主键uid为划分依据，将数据水平切分到两个数据库实例上去：
-
user-db1：存储uid取模得1的uid数据
-
user-db2：存储uid取模得0的uid数据
这两种方法在互联网都有使用，其中哈希法使用较为广泛。
分片有什么特点？
答：同一个分片里的数据库集群：
-
多个实例之间本身不直接产生联系，不像主从间有binlog同步
-
多个实例数据库结构，也完全相同
-
多个实例存储的数据之间没有交集，所有实例间数据并集构成全局数据
分片架构究竟解决什么问题？
答：大部分互联网业务数据量很大，单库容量容易成为瓶颈，此时通过分片可以：
-
线性提升数据库写性能，需要注意的是，分组架构是不能线性提升数据库写性能的
-
降低单库数据容量
一句话总结，分片解决的是“数据库数据量大”问题，所实施的架构设计。
4). 分组+分片架构
如果业务读写并发量很高，数据量也很大，通常需要实施分组+分片的数据库架构：
-
通过分片来降低单库的数据量，线性提升数据库的写性能
-
通过分组来线性提升数据库的读性能，保证读库的高可用
5). 垂直切分
除了水平切分，垂直切分也是一类常见的数据库架构设计，垂直切分一般和业务结合比较紧密。
还是以用户中心为例，可以这么进行垂直切分：
User(uid, uname, passwd, sex, age, …)
User_EX(uid, intro, sign, …)
-
垂直切分开的表，主键都是uid
-
登录名，密码，性别，年龄等属性放在一个垂直表（库）里
-
自我介绍，个人签名等属性放在另一个垂直表（库）里
如何进行垂直切分？
答：根据业务对数据进行垂直切分时，一般要考虑属性的“长度”和“访问频度”两个因素：
-
长度较短，访问频率较高的放在一起
-
长度较长，访问频度较低的放在一起
这是因为，数据库会以行(row)为单位，将数load到内存(buffer)里，在内存容量有限的情况下，长度短且访问频度高的属性，内存能够load更多的数据，命中率会更高，磁盘IO会减少，数据库的性能会提升。
垂直切分有什么特点？
答：垂直切分和水平切有相似的地方，又不太相同：
-
多个实例之间也不直接产生联系，即没有binlog同步
-
多个实例数据库结构，都不一样
-
多个实例存储的数据之间至少有一列交集，一般来说是业务主键，所有实例间数据并集构成全局数据
垂直切分解决什么问题？
答：垂直切分即可以降低单库的数据量，还可以降低磁盘IO从而提升吞吐量，但它与业务结合比较紧密，并不是所有业务都能够进行垂直切分的。
6). 总结
文章较长，希望至少记住这么几点：
-
业务初期用单库
-
读压力大，读高可用，用分组
-
数据量大，写线性扩容，用分片
-
属性短，访问频度高的属性，垂直拆分到一起
2. 1对多业务，数据库水平切分架构一次搞定
1). 在数据量较大，并发量较大的时候，通常通过元数据与索引数据分离的架构来满足不同类型的需求：
tid和uid上的查询需求，可以由tiezi-center从元数据读取并返回
其他类检索需求，可以由tiezi-search从索引数据检索并返回
2). 帖子中心元数据设计
数据库设计上，在业务初期，单库就能满足元数据存储要求，
在相关字段上建立索引，就能满足相关业务需求：
帖子记录查询，通过tid查询，约占读请求量90%
select * from t_tiezi where tid=$tid
帖子列表查询，通过uid查询其发布的所有帖子，约占读请求量10%
select * from t_tiezi where uid=$uid
3). 帖子中心水平切分-tid切分法
当数据量越来越大时，需要对帖子数据的存储进行线性扩展。
既然是帖子中心，并且帖子记录查询量占了总请求的90%，很容易想到通过tid字段取模来进行水平切分：
这个方法简单直接，
优点：
a.100%写请求可以直接定位到库
b.90%的读请求可以直接定位到库
缺点：一个用户发布的所有帖子可能会落到不同的库上，10%的请求通过uid来查询会比较麻烦
4). 帖子中心水平切分-uid切分法
有没有一种切分方法，确保同一个用户发布的所有帖子都落在同一个库上，而在查询一个用户发布的所有帖子时，不需要去遍历所有的库呢？
答：使用uid来分库可以解决这个问题。
新出现的问题：如果使用uid来分库，确保了一个用户的帖子数据落在同一个库上，那通过tid来查询，就不知道这个帖子落在哪个库上了，岂不是还需要遍历全库，需要怎么优化呢？
答：tid的查询是单行记录查询，只要在数据库（或者缓存）记录tid到uid的映射关系，就能解决这个问题。
新增一个索引库：
t_mapping(tid, uid);
这个库只有两列，可以承载很多数据
即使数据量过大，索引库可以利用tid水平切分
这类kv形式的索引结构，可以很好的利用cache优化查询性能
一旦帖子发布，tid和uid的映射关系就不会发生变化，cache的命中率会非常高
使用uid分库，并增加索引库记录tid到uid的映射关系之后，每当有uid上的查询：
可以通过uid直接定位到库。
每当有tid上的查询：
先查询索引表，通过tid查询到对应的uid
再通过uid定位到库
这个方法的优点：一个用户发布的所以帖子落在同一个库上; 10%的请求过过uid来查询列表，可以直接定位到库 ; 索引表cache命中率非常高，因为tid与uid的映射关系不会变
缺点：90%的tid请求，以及100%的修改请求，不能直接定位到库，需要先进行一次索引表的查询，当然这个查询非常块，通常在5ms内可以返回;
数据插入时需要操作元数据与索引表，可能引发潜在的一致性问题
5). 帖子中心水平切分-基因法
有没有一种方法，既能够通过uid定位到库，又不需要建立索引表来进行二次查询呢，这就是本文要叙述的“1对多”业务分库最佳实践，基因法。
什么是分库基因？
通过uid分库，假设分为16个库，采用uid%16的方式来进行数据库路由，这里的uid%16，其本质是uid的最后4个bit决定这行数据落在哪个库上，这4个bit，就是分库基因。
什么是基因法分库？
在“1对多”的业务场景，使用“1”分库，在“多”的数据id生成时，id末端加入分库基因，就能同时满足“1”和“多”的分库查询需求。
如上图所示，uid=666的用户发布了一条帖子（666的二进制表示为：1010011010）：
使用uid%16分库，决定这行数据要插入到哪个库中
分库基因是uid的最后4个bit，即1010
在生成tid时，先使用一种分布式ID生成算法生成前60bit（上图中绿色部分）
将分库基因加入到tid的最后4个bit（上图中粉色部分）
拼装成最终的64bit帖子tid（上图中蓝色部分） （怎么生成60bit分布式唯一ID，请参见《分布式ID生成算法》）
这般，保证了同一个用户发布的所有帖子的tid，都落在同一个库上，tid的最后4个bit都相同，于是：
通过uid%16能够定位到库
通过tid%16也能定位到库
潜在问题一：同一个uid发布的tid落在同一个库上，会不会出现数据不均衡？
答：只要uid是均衡的，每个用户发布的平均帖子数是均衡的，每个库的数据就是均衡的。
潜在问题二：最开始分16库，分库基因是4bit，未来要扩充成32库，分库基因变成了5bit，那怎么办？
答：需要提前做好容量预估，例如事先规划好5年内数据增长256库足够，就提前预留8bit基因。
6). 总结
将以“帖子中心”为典型的“1对多”类业务，在架构上，采用元数据与索引数据分离的架构设计方法：
帖子服务，元数据满足uid和tid的查询需求
搜索服务，索引数据满足复杂搜索寻求
对于元数据的存储，在数据量较大的情况下，有三种常见的切分方法：
tid切分法，按照tid分库，同一个用户发布的帖子落在不同的库上，通过uid来查询要遍历所有库
uid切分法，按照uid分库，同一个用户发布的帖子落在同一个库上，需要通过索引表或者缓存来记录tid与uid的映射关系，通过tid来查询时，先查到uid，再通过uid定位库
基因法，按照uid分库，在生成tid里加入uid上的分库基因，保证通过uid和tid都能直接定位到库
对于1对多的业务场景，分库架构不再是瓶颈。
3. 多对多业务，数据库水平切分架构一次搞定
文字较多，希望尽量记住如下几点：
-
好友业务是一个典型的多对多关系，又分为强好友与弱好友
-
数据冗余是一个常见的多对多业务数据水平切分实践
-
冗余数据的常见方案有三种
（1）服务同步冗余
（2）服务异步冗余
（3）线下异步冗余
-
数据冗余会带来一致性问题，高吞吐互联网业务，要想完全保证事务一致性很难，常见的实践是最终一致性
-
最终一致性的常见实践是，尽快找到不一致，并修复数据，常见方案有三种
（1）线下全量扫描法
（2）线下增量扫描法
（3）线上实时检测法
4. 多key业务，数据库水平切分架构一次搞定
任何复杂难题的解决，都是一个化繁为简，逐步击破的过程。
对于像订单中心一样复杂的“多key”类业务，在数据量较大，需要对数据库进行水平切分时，对于后台需求，采用“前台与后台分离”的架构设计方法：
前台、后台系统web/service/db分离解耦，避免后台低效查询引发前台查询抖动
采用前台与后台数据冗余的设计方式，分别满足两侧的需求
采用“外置索引”（例如ES搜索系统）或者“大数据处理”（例如HIVE）来满足后台变态的查询需求
对于前台需求，化繁为简的设计思路，将“多key”类业务，分解为“1对多”类业务和“多对多”类业务分别解决：
-
使用“基因法”，解决“1对多”分库需求：使用buyer_uid分库，在oid中加入分库基因，同时满足oid和buyer_uid上的查询需求
-
使用“数据冗余法”，解决“多对多”分库需求：使用buyer_uid和seller_uid来分别分库，冗余数据，满足buyer_uid和seller_uid上的查询需求
-
如果oid/buyer_uid/seller_uid同时存在，可以使用上述两种方案的综合方案，来解决“多key”业务的数据库水平切分难题。
数据冗余会带来一致性问题，高吞吐互联网业务，要想完全保证事务一致性很难，常见的实践是最终一致性。
内容转自公众号：架构师之路