微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

spark生态体系了解学习二

Spark的处理速度要比Hadoop快100倍以上。

Spark在批处理和流式处理上都具有极佳的性能。这是因为Spark使用了一种叫DAG的最佳调度,以及查询优化和物理执行引擎。

可以使用Java,Scala,Python,R,sql快速一个Spark应用。

Spark提供了超过80中操作使它更容易生成平行化的应用。它也可以使用Scala,Python,R,sql shell 进行交互操作。

结合sql,流处理,复杂的分析。

Spark提供了一栈式集应用:sql,数据框架,机器学习框架,Graphx图像处理以及Spark流处理。你可以结合这些应用无缝地在同一个应用上使用。

Spark可以运行在Hadoop,Mesos,Kubernets,standalone或者云上。它可以畜栏里多种数据源。

Map Reduce有以下缺点:
    代码繁琐;
    只能够支持map和reduce方法
    执行效率低下;
    不适合迭代多次、交互式、流式的处理

而Spark的优点正好弥补了MapReduce的缺点:
    批处理(离线):MapReduce、Hive、Pig
    流式处理(实时): Storm、JStorm
    交互式计算:Impala

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐