美文网首页大数据
(02)MapReduce与Spark的异同和优势比较

(02)MapReduce与Spark的异同和优势比较

作者: KyleHai | 来源:发表于2019-04-06 10:34 被阅读0次

MapReduce与Spark相比,有哪些异同点

    1、基本原理上:

        a) MapReduce:基于磁盘的大数据批量处理系统。

        b) Spark:基于RDD(Resilient Distributed Datasets,弹性分布式数据集)数据处理,显式的将RDD数据存储到磁盘和内存中。

   2、模型上:

        a) MapReduce:可以处理超大规模的数据,适合日志分析挖掘等较少的迭代的长任务需求;结合了数据的分布式的计算。

        b) Spark:适合数据的挖掘,机器学习等多轮迭代式计算任务。

    3、容错性上:

        a) 数据容错性

        b) 节点容错性

        Spark Lineage,在数据发生丢失时,可以从Lineage上重构数据结构。

相关文章

网友评论

    本文标题:(02)MapReduce与Spark的异同和优势比较

    本文链接:https://www.haomeiwen.com/subject/zttriqtx.html