• spark生态体系了解学习(二)


    Spark的处理速度要比Hadoop快100倍以上。

    Spark在批处理和流式处理上都具有极佳的性能。这是因为Spark使用了一种叫DAG的最佳调度,以及查询优化和物理执行引擎。

    可以使用Java,Scala,Python,R,SQL快速写一个Spark应用。

    Spark提供了超过80中操作使它更容易生成平行化的应用。它也可以使用Scala,Python,R,SQL shell 进行交互操作。

    结合SQL,流处理,复杂的分析。

    Spark提供了一栈式集应用:SQL,数据框架,机器学习框架,Graphx图像处理以及Spark流处理。你可以结合这些应用无缝地在同一个应用上使用。

    Spark可以运行在Hadoop,Mesos,Kubernets,standalone或者云上。它可以畜栏里多种数据源。

    Map Reduce有以下缺点:
        代码繁琐;
        只能够支持map和reduce方法;
        执行效率低下;
        不适合迭代多次、交互式、流式的处理

    而Spark的优点正好弥补了MapReduce的缺点:
        批处理(离线):MapReduce、Hive、Pig
        流式处理(实时): Storm、JStorm
        交互式计算:Impala

  • 相关阅读:
    pytorch基础(4)-----搭建模型网络的两种方法
    Java
    Tools
    Maven
    Java
    DevOps
    Linux
    Java
    Java
    Nutch 使用总结
  • 原文地址:https://www.cnblogs.com/zhangzhongkun/p/12221468.html
Copyright © 2020-2023  润新知