• 开源分布式计算系统框架比较


    分布式计算在许多领域都有广泛需求,目前流行的分布式计算框架主要有 Hadoop MapReduce, Spark Streaming, Storm; 这三个框架各有优势,现在都属于 Apache 基金会下的顶级项目,下文将对三个框架的特点与适用场景进行分析,以便开发者能快速选择适合自己的框架进行开发。

    Hadoop MapReduce 是三者中出现最早,知名度最大的分布式计算框架,最早由 Google Lab 开发,使用者遍布全球(Hadoop PoweredBy);主要适用于大批量的集群任务,由于是批量执行,故时效性偏低,原生支持 Java 语言开发 MapReduce ,其它语言需要使用到 Hadoop Streaming 来开发。Spark Streaming 保留了 Hadoop MapReduce 的优点,而且在时效性上有了很大提高,中间结果可以保存在内存中,从而对需要迭代计算和有较高时效性要求的系统提供了很好的支持,多用于能容忍小延时的推荐与计算系统。Storm 一开始就是为实时处理设计,因此在实时分析/性能监测等需要高时效性的领域广泛采用,而且它理论上支持所有语言,只需要少量代码即可完成适配器。

    下面的表格是对三者部分特性的比较,描述时间为 2015-5-3,三个项目均处于快速迭代中,文中描述特性会随时产生变化,如果与官方文档产生出入以官方文档为准。

    比较项StormSpark StreamingHadoop MapReduce
    血统 Twitter UC Berkeley AMP lab Google Lab
    开源时间 2011.9.16 2011.5.24 2007.9.4
    当前版本 0.9.4 1.3.1 2.7.0
    相关资料 极多
    依赖环境 Zookeeper、Java、Python hadoop client、Scala Java、ssh
    技术语言 Java、Clojure Scala Java
    支持语言 Any Scala、Java、Python Java & Others
    延时 实时 秒级 较高
    网络带宽 一般 一般 一般
    硬盘IO 一般 较少
    集群支持 超过1000节点 数千个节点
    吞吐量 较好
    使用公司 淘宝、百度、Twitte、Groupon、雅虎 Intel、腾讯、淘宝、中移动、Google EBay、Facebook、Google、IBM
    适用场景 实时的小数据块的分析计算 较大数据块又需要高时效性的小批量计算 低时效性的大批量计算

    表格说明:

    • 开源时间以 github 上最早的 commit 或者官网上最早发布版本的时间为准。

    • 当前版本与特性描述截止 2015-5-3。

    • 相关资料量通过比较官方文档、搜索引擎、论坛等途径得出。

    • 部分比较数据来源于实践或相关文章(未找到出处)。

    本文会保持更新,如果数据发现有出入,欢迎指正。

    参考资料:


     

  • 相关阅读:
    Git和SourceTree配合使用
    hive中数据存储格式对比:textfile,parquent,orc,thrift,avro,protubuf
    hive 实现类似 contain 包含查询
    hive函数 parse_url的使用
    Spring中注解方式的默认beanName生成规则
    @Autowired 与@Resource的区别
    js通过html的url获取参数值
    mysql模糊查询多个字段
    java获取调用当前方法的方法名和行数
    阿里druid数据源配置及数据库密码加密
  • 原文地址:https://www.cnblogs.com/spinsoft/p/4481614.html
Copyright © 2020-2023  润新知