美文网首页
flink任务工程范例

flink任务工程范例

作者: 李征兵 | 来源:发表于2019-07-21 07:03 被阅读0次

flink是目前与spark抗衡的实时数据计算引擎,特别是在流处理上更胜一筹,本文就java实现flink数据计算的工程模板做一抛砖引玉的介绍,希望在工程规范方面给诸位一个示范。

开发环境准备

如果已经熟悉这部分的内容,请直接跳过

  1. 启动flink
    ./bin/start-cluster.sh
    
  2. 停止flink
    ./bin/stop-cluster.sh
    
  3. 在mac安装kafka
    brew install kafka
    
  4. 启动zookeeper
    zkServer start
    
  5. 启动kafka
    nohup kafka-server-start /usr/local/etc/kafka/server.properties &
    

基础架构

下面通过几张图形象的展示flink计算引擎及基于该引擎的任务编写核心理念。

  1. flink任务调度策略


    flink 任务调度策略
  2. flink计算层次模型


    flink 计算模型
  3. flink任务基本编程架构


    flink任务基本编程架构
  4. flink并行任务执行链


    flink并行任务执行链
  5. java实现flink任务的工程模板架构


    整体架构图

多任务工程模板

请参考本人写的另一篇文章(https://www.jianshu.com/p/23e20eed7ab5)。

相关文章

网友评论

      本文标题:flink任务工程范例

      本文链接:https://www.haomeiwen.com/subject/drzplctx.html