设计背景：
许多迭代式算法（比如机器学习、图算法等)和交互式数据挖掘工具，共同之处是，不同计算阶段之间会重用中间结果
目前的MapReduce框架都是把中间结果写入到HDFS中，带来大量的数据复制、磁盘I0和序列化开销
RDD就是为了满足这种需求而出现的，它提供了一个抽象的数据架构
我们不必担心底层数据的分布式特性，只需将具体的应用逻辑表达为一系列转换处理
不同RDD之间的转换操作形成依赖关系，可以实现管道化，避免中间数据存储
RDD概念：
一个RDD就是一个分布式对象集合，本质上是一个只读的分区记录集合，每个RDD可分成多个分区，每个分区就是一个数据集片段，并且一个RDD的不同分区可以被保存到集群中不同的节点上，从而可以在集群中的不同节点上进行并行计算
RDD提供了一种高度受限的共享内存模型，即RDD是只读的记录分区的集合,不能直接修改，只能基于稳定的物理存储中的数据集创建RDD，或者通过在其他RDD上执行确定的转换操作（如map、join和group by)而创建得到新的RDD
RDD操作：
表面上RDD的功能很受限、不够强大,实际上RDD已经被实践证明可以高效地表达许多框架的编程模型(（比如MapReduce、sQL、Pregel)
RDD提供了一组丰富的操作以支持常见的数据运算,分为“动作”(Action)和“转换”(Transformation)两种类型
RDD提供的转换接口都非常简单,都是类似map、filter. groupBy、 join等粗粒度的数据转换操作,而不是针对某个数据项的细粒度修改（不适合网页爬虫)
Spark用Scala语言实现了RDD的APl,程序员可以通过调用API实现对RDD的各种操作
RDD的执行过程：
RDD读入外部数据源进行创建
RDD经过一系列的转换（Transformation）操作每一次都会产生不同的RDD供给下一个转换操作使用
最后一个RDD经过“动作”操作进行转换并输出到外部数据源
这一系列处理称为一个Lineage(血缘关系），即DAG拓扑排序的结果
优点:惰性调用、管道化、避免同步等待、不需要保存中间结果、每次操作变得简单
RDD特性：
- 存放的数据可以是Java对象,避免了不必要的对象序列化和反序列化
- 高效的容错性
- 中间结果持久化到内存，数据在内存中的多个RDD操作之间进行传递,避免了不必要的读写磁盘开销
Spark采用RDD以后能够实现高效计算的原因：
现有容错机制:数据复制或者记录日志
RDD:血缘关系、重新计算丢失分区、无需回滚系统、重算过程在不同节点之间并行、只记录粗粒度的操作