美文网首页
【flume2】Flume拦截器

【flume2】Flume拦截器

作者: bigdata张凯翔 | 来源:发表于2021-01-24 11:48 被阅读0次

    Flume拦截器

    1)拦截器注意事项
    项目中自定义了:ETL拦截器。
    采用两个拦截器的优缺点:优点,模块化开发和可移植性;缺点,性能会低一些

    2)自定义拦截器步骤
    (1)实现 Interceptor
    (2)重写四个方法

    • initialize 初始化
    • public Event intercept(Event event) 处理单个Event
    • public List<Event> intercept(List<Event> events) 处理多个Event,在这个方法中调用Event intercept(Event event)
    • close方法
      (3)静态内部类,实现Interceptor.Builder

    3)拦截器可以不用吗?

    可以不用;需要在下一级hive的dwd层和sparksteaming里面处理
    优势:只处理一次,轻度处理;
    劣势:影响性能,不适合做实时推荐这种对实时要求比较高的场景。

    相关文章

      网友评论

          本文标题:【flume2】Flume拦截器

          本文链接:https://www.haomeiwen.com/subject/shpycktx.html