7.1 流计算概述

一、静态数据和流数据

　　很多企业为了支持决策分析而构建的数据仓库系统，其中存放的大量历史数据就是静态数据。技术人员可以利用数据挖掘和OLAP（On-Line Analytical Processing）分析工具从静态数据中找到对企业有价值的信息。

　　近年来，在Web应用、网络监控、传感监测等领域，兴起了一种新的数据密集型应用——流数据，即数据以大量、快速、时变的流形式持续到达。

　　实例：PM2.5检测、电子商务网站用户点击流

流数据具有如下特征：

1. 数据快速持续到达，潜在大小也许是无穷无尽的；
2. 数据来源众多，格式复杂；
3. 数据量大，但是不十分关注存储，一旦经过处理，要么被丢弃，要么被归档存储；
4. 注重数据的整体价值，不过分关注个别数据；
5. 数据顺序颠倒，或者不完整，系统无法控制将要处理的新到达的数据元素的顺序。

二、批量计算和实时计算

对静态数据和流数据的处理，对应着两种截然不同的计算模式：批量计算和实时计算

1. 批量计算：充裕时间处理静态数据，如Hadoop
2. 流数据不适合采用批量计算，因为流数据不适合用传统的关系模型建模
3. 流数据必须采用实时计算，响应时间为秒级
4. 数据量少时，不是问题，但是，在大数据时代，数据格式复杂、来源众多、数据量巨大，对实时计算提出了很大的挑战。因此，针对流数据的实时计算——流计算，应运而生 

三、流计算概念

流计算：实时获取来自不同数据源的海量数据，经过实时分析处理，获得有价值的信息

　　流计算秉承一个基本理念，即数据的价值随着时间的流逝而降低，如用户点击流。因此，当事件出现时就应该立即进行处理，而不是缓存起来进行批量处理。为了及时处理流数据，就需要一个低延迟、可扩展、高可靠的处理引擎。

对于一个流计算系统来说，它应达到如下需求：

1. 高性能：处理大数据的基本要求，如每秒处理几十万条数据；
2. 海量式：支持TB级甚至是PB级的数据规模；
3. 实时性：保证较低的延迟时间，达到秒级别，甚至是毫秒级别；
4. 分布式：支持大数据的基本架构，必须能够平滑扩展；
5. 易用性：能够快速进行开发和部署；
6. 可靠性：能可靠地处理流数据

四、流计算框架

1. 当前业界诞生了许多专门的流数据实时计算系统来满足各自需求。
2. 目前有三类常见的流计算框架和平台：商业级的流计算平台、开源流计算框架、公司为支持自身业务开发的流计算框架
   1. 商业级：
      1. IBM InfoSphere Streams
      2. IBM StreamBase
   2. 较为常见的是开源流计算框架，代表如下：
      1. Twitter Storm：免费、开源的分布式实时计算系统，可简单、高效、可靠地处理大量的流数据
      2. Yahoo! S4（Simple Scalable Streaming System）：开源流计算平台，是通用的、分布式的、可扩展的、分区容错的、可插拔的流式系统
   3. 公司为支持自身业务开发的流计算框架：
      1. Facebook Puma　　
      2. Dstream（百度）　　
      3. 银河流数据处理平台（淘宝）　　

五、流计算处理流程

1.概述

　　传统的数据处理流程，需要先采集数据并存储在关系数据库等数据管理系统中，之后由用户通过查询操作和数据管理系统进行交互。

传统的数据处理流程隐含了两个前提：

1. 存储的数据是旧的。存储的静态数据是过去某一时刻的快照，这些数据在查询时可能已不具备时效性了；
2. 需要用户主动发出查询来获取结果。

流计算的处理流程一般包含三个阶段：数据实时采集、数据实时计算、实时查询服务。

2.数据实时采集

1. 数据实时采集阶段通常采集多个数据源的海量数据，需要保证实时性、低延迟与稳定可靠；
2. 以日志数据为例，由于分布式集群的广泛应用，数据分散存储在不同的机器上，因此需要实时汇总来自不同机器上的日志数据；
3. 目前有许多互联网公司发布的开源分布式日志采集系统均可满足每秒数百MB的数据采集和传输需求，如： 
   1. Facebook的Scribe

   2. LinkedIn的Kafka

   3. 淘宝的Time Tunnel

   4. 基于Hadoop的Chukwa和Flume

3.数据实时计算

1. 数据实时计算阶段对采集的数据进行实时的分析和计算，并反馈实时结果；
2. 经流处理系统处理后的数据，可视情况进行存储，以便之后再进行分析计算。在时效性要求较高的场景中，处理之后的数据也可以直接丢弃。

4.实时查询服务

1. 实时查询服务：经由流计算框架得出的结果可供用户进行实时查询、展示或储存；
2. 传统的数据处理流程，用户需要主动发出查询才能获得想要的结果。而在流处理流程中，实时查询服务可以不断更新结果，并将用户所需的结果实时推送给用户；
3. 虽然通过对传统的数据处理系统进行定时查询，也可以实现不断地更新结果和结果推送，但通过这样的方式获取的结果，仍然是根据过去某一时刻的数据得到的结果，与实时结果有着本质的区别

可见，流处理系统与传统的数据处理系统有如下不同：

1. 流处理系统处理的是实时的数据，而传统的数据处理系统处理的是预先存储好的静态数据；
2. 用户通过流处理系统获取的是实时结果，而通过传统的数据处理系统，获取的是过去某一时刻的结果；
3. 流处理系统无需用户主动发出查询，实时查询服务可以主动将实时结果推送给用户。

参考文献：

【1】https://www.icourse163.org/learn/XMU-1205811805?tid=1206617233&from=study#/learn/content?type=detail&id=1211383867&sm=1