美文网首页storm
Storm坑集锦

Storm坑集锦

作者: Magia | 来源:发表于2016-10-26 19:20 被阅读132次

KafkaSpout

1.poutConfig继承KafkaConfig,可以通过SpoutConfig设置kafkaSpout基本属性
spoutConfig.forceFromStart可以设置不从kafka初始位置消费,以免重复消费数据。
2.Config.TOPOLOGY_MAX_SPOUT_PENDING配置可以动态对kafka消费进行限流。

EsBolt

1)向Es发数据时发生了NullPointerException:
at org.codehaus.jackson.util.TextBuffer.findBuffer(TextBuffer.java:207)
refer

2)用户自定义esIndex

builder.setBolt("bolt1", new Bolt1(), 2).shuffleGrouping("bolt1");
builder.setBolt("testBolt", new EsBolt("{esIndex}/" + "test", conf), 2).shuffleGrouping("bolt2");

在Bolt1中定义esIndex

public class TimeBasedIndexNameBuilder {
    public static String build(String indexPrefix, Date collectTime) {
        return indexPrefix + "_" + new SimpleDateFormat("yyyy-MM-dd").format(collectTime);
    }
}
String esIndex = TimeBasedIndexNameBuilder.build("agentX", new Date());

如上,EsBolt就会传入agentX_2016-10-26/test,在ES服务器上生成index:agentX_2016-10-26,type:test

bolt继承多spout

现有bolt需要接受来自spout1和spout2的数据流,可通过getSourceComponent来判断数据流来自哪个spout,然后做进一步处理。

//spou1
builder.setSpout("spout1", new Spout1(spoutConfig), 2);
//spou2
builder.setSpout("spout2", new Spout2(), 2);
builder.setBolt("bolt1", new Bolt1(), 2).allGrouping("spout1").shuffleGrouping("spout2");

Bolt1部分代码如下:

@Override
public void execute(Tuple input) {
    //判断数据流来自Spout1
    if(input.getSourceComponent().equals("spout1")) {
        ...
    } else {
        ...
    }
}

相关文章

  • Storm坑集锦

    KafkaSpout 1.poutConfig继承KafkaConfig,可以通过SpoutConfig设置kaf...

  • SparkStreaming坑

    SparkStreaming坑 Kafka+CheckPoint的坑 在storm里面是通过ack和Trident...

  • 坑集锦

    FastJson泛型转换-指定范型类型,即使对类型不关心 Uri.getQueryParameter方法注意 因为...

  • logback日志写入kafka遇到的那些坑

    这两天在学习storm实时流的时候需要将logback日志写入kafka,这期间遇到了很多坑,这里把遇到的坑和解决...

  • Storm入门

    Storm 基本介绍 什么是 Storm 首先Storm是Apache顶级项目之一Storm 官网 Storm 是...

  • java大数据之storm

    一、Storm简介 1.1 Storm是什么 Apache Storm(http://storm.apache.o...

  • 小坑集锦

    呵呵哒我就 axios报错系列(ajax $http) 1.报错 Cannot read property ‘pr...

  • Apache Storm

    Apache Storm Apache Storm Use Cases Real Time Storm Proje...

  • Storm 性能优化

    目录 场景假设 调优步骤和方法 Storm 的部分特性 Storm 并行度 Storm 消息机制 Storm UI...

  • Storm(三) storm-starter

    原文链接storm-starter storm-starter就是Storm工程里边一个专门用来学习使用Storm...

网友评论

    本文标题:Storm坑集锦

    本文链接:https://www.haomeiwen.com/subject/izxjuttx.html