• 数据库分库分表


    1. 对数据库进行分库分表的原因
      超大容量:
      数据表是超大表,数据库处理能力达到极限;
      数据库包含多个超大表。
      性能问题:
      单一服务器性能有限
      升级扩展:
      单一主库无法灵活地进行升级和扩展,无法满足业务快速发展的需求
      所有业务数据都放在同一个库中,存在单点故障风险。

    2. 数据库拆分
      将表按照业务拆分到不同的数据库服务器上,同时针对大表进行分表处理,从而解决单一数据库和数据表过大及IO服务连接数和IO读写上的瓶颈。
      常见的拆分方法有:垂直拆分、水平拆分、垂直水平拆分

    3. 垂直拆分
      垂直分库:根据业务耦合性,将关联度低的不同表存储在不同的数据库。做法与大系统拆分为多个小系统类似,按业务分类进行独立划分。与"微服务治理"的做法相似,每个微服务使用单独的一个数据库。
      垂直分表:基于数据库中的"列"进行,某个表字段较多,可以新建一张扩展表,将不经常用或字段长度较大的字段拆分出去到扩展表中。在字段很多的情况下(例如一个大表有100多个字段),通过"大表拆小表",更便于开发与维护,也能避免跨页问题,MySQL底层是通过数据页存储的,一条记录占用空间过大会导致跨页,造成额外的性能开销。另外数据库以行为单位将数据加载到内存中,这样表中字段长度较短且访问频率较高,内存能加载更多的数据,命中率更高,减少了磁盘IO,从而提升了数据库性能。
      优点:(1)解决业务系统层面的耦合。(2)业务清晰与微服务的治理类似,也能对不同业务的数据进行分级管理、维护、监控、扩展等。(3)高并发场景下,垂直切分一定程度的提升IO、数据库连接数、单机硬件资源的瓶颈。
      缺点:(1)部分表无法join,只能通过接口聚合方式解决,提升了开发的复杂度。(2)分布式事务处理复杂。(3)依然存在单表数据量过大的问题(需要水平切分)。

    4. 水平拆分
      水平切分分为库内分表和分库分表,是根据表内数据内在的逻辑关系,将同一个表按不同的条件分散到多个数据库或多个表中,每个表中只包含一部分数据,从而使得单个表的数据量变小,达到分布式的效果。
      优点:(1)不存在单库数据量过大、高并发的性能瓶颈,提升系统稳定性和负载能力.(2)应用端改造较小,不需要拆分业务模块。
      缺点:(1)跨分片的事务一致性难以保证.(2)跨库的join关联查询性能较差.(3)数据多次扩展难度和维护量极大。
      水平切分后同一张表会出现在多个数据库/表中,每个库/表的内容不同。几种典型的数据分片规则为:
      1)根据数值范围
      按照时间区间或ID区间来切分。例如:按日期将不同月甚至是日的数据分散到不同的库中;将userId为19999的记录分到第一个库,1000020000的分到第二个库,以此类推。某种意义上,某些系统中使用的"冷热数据分离",将一些使用较少的历史数据迁移到其他库中,业务功能上只提供热点数据的查询,也是类似的实践。
      这样的优点在于:(1)单表大小可控。(2)天然便于水平扩展,后期如果想对整个分片集群扩容时,只需要添加节点即可,无需对其他分片的数据进行迁移。(3)使用分片字段进行范围查找时,连续分片可快速定位分片进行快速查询,有效避免跨分片查询的问题。
      缺点:热点数据成为性能瓶颈。连续分片可能存在数据热点,例如按时间字段分片,有些分片存储最近时间段内的数据,可能会被频繁的读写,而有些分片存储的历史数据,则很少被查询。
      2)根据数值取模
      一般采用hash取模mod的切分方式,例如:将 Customer 表根据 cusno 字段切分到4个库中,余数为0的放到第一个库,余数为1的放到第二个库,以此类推。这样同一个用户的数据会分散到同一个库中,如果查询条件带有cusno字段,则可明确定位到相应库去查询。
      优点:数据分片相对比较均匀,不容易出现热点和并发访问的瓶颈
      缺点:(1)后期分片集群扩容时,需要迁移旧的数据(使用一致性hash算法能较好的避免这个问题)(2)容易面临跨分片查询的复杂问题。比如上例中,如果频繁用到的查询条件中不带cusno时,将会导致无法定位数据库,从而需要同时向4个库发起查询,再在内存中合并数据,取最小集返回给应用,分库反而成为拖累。

    5. 分库分表带来的问题

    6. 进行分表
      经过计算,将数据分到6个表中,保证在5~6年内不需要继续进行分表。
      分表后使用静态常量定义查询、插入等SQL语句,表名使用replace()方法进行替换
      设计开关,将开关状态存入redis中,通过改变状态控制读取旧表或者新表

  • 相关阅读:
    Windows 命令提示符
    力扣 ——Linked List Cycle II(环形链表 II) python实现
    力扣——Linked List Cycle(环形链表) python实现
    力扣——Copy List with Random Pointer(复制带随机指针的链表) python实现
    力扣——Reverse Nodes in k-Group(K 个一组翻转链表) python实现
    剑指offer-链表中倒数第k个结点
    剑指offer-调整数组顺序使奇数位于偶数前面
    剑指offer-数值的整数方
    剑指offer-二进制中1的个数
    剑指offer-矩形覆盖
  • 原文地址:https://www.cnblogs.com/tf-Y/p/9428703.html
Copyright © 2020-2023  润新知