• Azure SQL 数据库仓库Data Warehouse (1) 入门


      《Windows Azure Platform 系列文章目录

      在之前的项目中遇到了客户使用SQL数据仓库的场景,在这里记录一下

      

      1.什么是SQL 数据库仓库 (SQL DW)

      SQL DW是云端的企业级数据仓库,用来处理TB,甚至PB级别的关系型数据库的OLAP(联机分析处理)场景,主要用来做数据分析和查询

      2.什么是OLAP

      OLAP (Online Analysis Processing)联机分析处理。表示从多维数据集的多维结构来对数据进行聚合处理

      3.OLAP和OLTP的区别

      OLTP (Online Transaction Processing),联机事务处理。表示事务性非常高的系统,高频度的插入、读取、删除操作

      OLAP和OLTP的使用场景不一样

      4.SQL Data Warehouse不适合的场景

      SQL DW不适合OLTP的场景,不适合数据库的高频Insert/update/delete

      (1)OLTP工作负载

      (2)大量的小读写
      (3)多租户数据库
      (4)经常更改架构
      (5)逐行处理
      (6)JSON,XML数据和Spatial,Struct,Array和Map数据类型
      (7)Power BI直接查询需要仪表板性能
      (8)查询的高并发性(例如,数十万个并发查询)
      (9)小数据集(小于250GB)
      (10)通过严格的RPO和RTO进行灾难恢复

      5.SQL DW适合的场景

      SQL适合OLAP(联机分析处理)的场景,比如报告,统计,分析等场景

      6.SQL DW的设计模式

      (1)批量导入数据

      (2)将Table数据拆分为事实表和维度表

      (3)涉及多张表链接的复杂查询

      (4)针对某些维度的聚合查询

      7.什么叫做事实表和维度表

      (1)事实表,就是用来存储真实数据的表,包含数字信息。比如订单数据表,销售数据表等。事实表中的数据量一般很大

      (2)维度表,就是用来描述用户分析数据的角度。一般是事实表的外键表,比如年-月-日,大洲-国家-省份。

      一般来说,事实表就是要关注的内容,维度表就是进行统计的角度。

      8.SQL DW的使用场景

      (1)在过去1个月内,有多少客户订购了该产品,统计库存水平是否足够

      (2)一周内,哪一天客户从ATM取款最多

      (3)统计过去30天内,每天的销售额有多少

      9.Azure SQL DW采用了大规模并行处理(MPP)架构。

      作为微软云Azure的一种服务,Azure SQL DW由微软维护底层的硬件和软件,以保证SQL DW始终运行在Azure最新的硬件和软件上

      客户可以轻松的把数据加载到SQL DW并进行查询,在业务高峰时,可以横向扩展计算节点

      10.什么是大规模并行处理MPP架构

      MPP架构的角色分为头节点(Head Node)和工作节点(Work Node)。

      Head Node保存了数据表的源数据(Meta data),也就是说Head Node知道数据库的哪些数据,保存在哪些Work Node里

      用户的数据表分布在不同的Work Node里。

      当用户对SQL DW进行查询的时候,Head Node会把查询语句分解为很多子查询,根据需要进行数据移动,并且把这些子查询发送给Work Node以进行并行执行

      举个例子,假设1个班级有60个学生,当老师需要批改作业的时候,有两种方法:

      (1)老师一个人批改所有60个学生的试卷,速度会很慢

      (2)老师把学生分为6组,每组10个人。然后把全班的试卷平均的分配给这6组。由每个组各自批改试卷。这样批改作业就平行了

      显而易见,第二种方法的效率最高

      MPP架构,除了微软的SQL DW以外,还有Hadoop (Hive和Spark), Teradata, Amazon Redshift, Vertica等产品

      11.SMP架构

      与MPP相反架构,是SMP (Symmetric Multiprocessing),这就类似于传统的单一数据库。所有的业务逻辑都有1台服务器在处理

      比如传统的SQL Server, MySQL等,都属于SMP架构

       

      12.MPP架构和SMP架构,如何支撑更多的业务需求

      (1)在MPP架构里,计算节点是横向扩展的。比如从6个节点并行处理,横向扩展为20个节点并行处理。这种方式又被称为Scale-Out

      (2)在SMP架构里,计算节点和向上向下扩展的。比如从1台8Core/16GB的服务器,向上扩展为1台32Core/512GB的服务器。这种方式又被称为Scale-Up

      

      参考:https://blogs.msdn.microsoft.com/sqlcat/2017/09/05/azure-sql-data-warehouse-workload-patterns-and-anti-patterns/

  • 相关阅读:
    pytest_04
    pytest_03
    pytest_02
    CF 1416C XOR Trie
    CF 1413D
    ZOJ 3725 概率dp
    ZOJ 3726
    位运算
    CF1439C 线段树
    unordered_set
  • 原文地址:https://www.cnblogs.com/threestone/p/9414966.html
Copyright © 2020-2023  润新知