Spark这是要一统江湖的节奏

作者: yoku酱 | 来源:发表于2018-12-28 12:11 被阅读26次

Spark创始人Matei最近在spark submmit上做了一次演讲,看了内容会发现spark这是要一统江湖的架势,一起来看看都介绍了什么内容。

Spark一直以来想做的一个事情就是统一整个大数据分析引擎,高层易用的API是核心竞争力。在这里我还是要推荐下我自己建的大数据学习交流qq裙:458345782, 裙 里都是学大数据开发的,如果你正在学习大数据 ,小编欢迎你加入,大家都是软件开发党,不定期分享干货(只有大数据开发相关的),包括我自己整理的一份2018最新的大数据进阶资料和高级开发教程,欢迎进阶中和进想深入大数据的小伙伴

随着2.2版本出来,看起来又更进了一步。2.2版本重点搞了下面三件事:

1) CBO:争抢数据仓库市场,解决性能问题。

2) 流引擎:支持毫秒级流处理,解决了原来只能通过mini batch方式支持流,直接PK flink。

3) 支持python api:python易上手的特点,在很多领域一直有应用,最新的机器学习领域用的最多的也是这个。

在spark的规划中,Spark未来会在两个地方发力:深度学习和流处理。

深度学习还处在很初级的阶段,主要是想在tensorflow、keras、bigdl等机器学习引擎的基础上提供更易用和高层的API。

为了可以处理深度学习,提供了一个深度学习库。https://github.com/databricks/spark-deep-learning

流处理相对成熟,已经具备生成环境的能力,在2.2会正式商用。

Event-time processing(flink是通过watermark机制来搞定)和支持Exactly once很有意思,回头看下具体是怎么实现的。

下图是spark的流API和kafka流代码对比,明显spark要比kafka好用。

在演进最后吹了个牛逼,这个牛逼吹的响:“最早的现在也是最快的”。终于脱掉了流处理不行的帽子了。

Spark还是相当有前途,好好学吧。

在这里我还是要推荐下我自己建的大数据学习交流qq裙:458345782, 裙 里都是学大数据开发的,如果你正在学习大数据 ,小编欢迎你加入,大家都是软件开发党,不定期分享干货(只有大数据开发相关的),包括我自己整理的一份2018最新的大数据进阶资料和高级开发教程,欢迎进阶中和进想深入大数据的小伙伴。

相关文章

  • Spark这是要一统江湖的节奏

    Spark创始人Matei最近在spark submmit上做了一次演讲,看了内容会发现spark这是要一统江湖的...

  • 这是要🔥的节奏啊

    2018年2月20日 星期二 天气:晴 吃过晚饭,和姐姐一家到院子外面的小路上放鞭炮。 这条路属于僻静小路,很少有...

  • 这是要分手的节奏?

    冷静已经解决不了问题了 反正我好像 只能听你的 你说分 咱就分 你说不分 就不分 我的心 已经承受不了这些了 顺...

  • 这是要胖的节奏

    今天再也不能“躺平”了,吃完饭走了将近1万2千步。 我发现自己在外面,总想着多尝一尝外面的美食,一方面自己长见识(...

  • 这是要老的节奏?

    看的小说多了,一本在手,高下立见。看到不入眼的,顿时感觉误入圈套,当即舍去,还忍不住吐槽几句:耽误了好多时间。 其...

  • 这是要瘦的节奏啊

    上午跟着儿子去玩儿蹦床,玩儿的那个开心啊,我还真是第一次玩儿,像个孩子似的,蹦了一上午,不出意外的话,应该还会再去...

  • 这是要中奖的节奏么?

    文/午言 这是要中奖的节奏吗 一个下午都是 这脑壳都是 晕晕乎乎 晃晃悠悠 浑身没有力气 只能疯狂的喝水 喝水 在...

  • 这是要留堂的节奏

    做过学生的都知道,留堂是什么滋味吧?放学时,别人都回家了,你却因为种种原因被留下来,背书,写作文,订正作业。我几乎...

  • 这是要提前避暑的节奏

    今天的天气还是好的不能再好,高温依旧,从太阳一出来就已经感受到了其的威力。 站在家门前的水泥地上,感觉地面都要冒烟...

  • 这是要集齐神兽的节奏

    今天整理置顶的时候无意间发现自己居然把科幻、犯罪、刑侦、黑帮、穿越、古装、家庭甚至魔幻都给写出来了。我还经常乱点鸳...

网友评论

    本文标题:Spark这是要一统江湖的节奏

    本文链接:https://www.haomeiwen.com/subject/eeeslqtx.html