美文网首页
为什么我不把业务系统全部迁移到Spark?(下)

为什么我不把业务系统全部迁移到Spark?(下)

作者: 日更专用小马甲 | 来源:发表于2019-04-27 20:36 被阅读0次

接上文。

在迁移之后,老板问我,有没有可能把所有业务都迁移到Spark上。说实话,有想过,但是,没有实施的主要原因是在spark上没办法用Spring框架。

其实这只是表象,如果业务不复杂,纯粹消耗计算资源,那完全没必要用什么框架。相反,以目前我对于Spark的了解,用它来实现业务逻辑基本上属于南辕北辙。

我希望放在Spark上的东西是纯粹的,没有业务属性的,或者说至少没有太多业务属性的。如果把后续代码迁移上去,首先是并不适合用RDD实现,即使做到了,后期维护成本也很高。其次是不利于后续架构继续演化。我一直期望的,是把系统的每一个环节用最合适的方式来实现,并且,对于拆分的颗粒度是1-2周内可以完成彻底重构。

比如,最近有个想法是通过ES完成基于标记结果的检索。如果全部迁移到Spark那这部分估计就没办法实现了。

相关文章

  • 为什么我不把业务系统全部迁移到Spark?(下)

    接上文。 在迁移之后,老板问我,有没有可能把所有业务都迁移到Spark上。说实话,有想过,但是,没有实施的主要原因...

  • 为什么我不把业务系统全部迁移到Spark?(上)

    之前的半年,把一部分业务从MySQL+Java改造成了类HDFS+Spark的形式。 这部分业务,主要是从数据集根...

  • 记录一次Oracle数据库迁移工作

    工作内容 将21地址下的oracle数据中的用户全部迁移到35数据库中。 保证jbpm和其余业务可以正常使用。 工...

  • Spark计算中的数据倾斜

    本文的讨论场景限定在spark计算引擎,但是并不局限于spark,相关的讨论可以迁移到其他的计算引擎Spark计算...

  • spark-天池O2O竞赛

    地址转移到 : spark-天池O2O竞赛

  • Spark Local模式安装

    因为想在自己的小本本的Linux系统下装spark。用一下章鱼平台上实验的Local模式下安装Spark。 实验来...

  • 用BI在库存管理中“淘金”

    随着ERP、WMS、SCM等这些业务系统的普及,企业管理者逐渐把目光转移到了商业智能系统这类决策支持系统上来。因此...

  • 关于协同的点滴思考

    协同OA系统将把组织业务全部贯穿(集成其他业务系统ERP、CRM、HR等),并打通组织所有数据(所有数据的汇聚地,...

  • 21

    为什么不把“你有男朋友吗?”直接说“我想追你”;为什么不把“你为什么还没有回家”直接说“我担心你”;为什么不把“你...

  • Hive with Spark 实战

    前言 由于我司的系统已存在稳定的Hive on Hadoop集群以及Spark集群,随着业务发展,需要打通这两者,...

网友评论

      本文标题:为什么我不把业务系统全部迁移到Spark?(下)

      本文链接:https://www.haomeiwen.com/subject/jnllnqtx.html