美文网首页
Flume的使用

Flume的使用

作者: 匪_3f3e | 来源:发表于2018-10-28 23:31 被阅读0次

1)编写example.conf文件(可以写在任意位置)

# example.conf: A single-node Flume configuration

# Name the components on this agent
#agent的名称.sources/sinks/channels = source_name/sink_mame/channel_name
a1.sources = r1
a1.sinks = k1
a1.channels = c1

# Describe/configure the sources
#agent_name.sources(多个sourse源).source_name(指定一个source).type(类型) 
a1.sources.r1.type = netcat
a1.sources.r1.bind = localhost
a1.sources.r1.port = 44444

# Describe the sink
#agent_name.sinks(多个sink源).sink_name(指定一个sink).type(类型) 
#logger:控制台
a1.sinks.k1.type = logger

# Use a channel which buffers events in memory
#agent_name.channels(多个channel源).channel_name(指定一个channel).type(类型) 
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100

# Bind the source and sink to the channel
#将sources、channels、sinks串联起来
#指定agent的source的channels
#指定agent的sink的channel
#注意单复数的问题,一个source可以对应多个channel,一个sink只能对应一个channel
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

2)启动flume

flume-ng agent \
 --name a1 \
--conf $FLUME_HOME/conf \
--conf-file $FLUME_HOME/conf/example.conf \
-Dflume.root.logger=INFO,console

说明:
agent:command值
--name:指定agent的名称(自定义)
--conf:指定flume配置文件的地址
--conf-file:自己编写的example.conf文件的地址
-Dflume.root.logger=INFO,console 输出到控制台

3)测试
在打开一个命令行窗口,输入:

telnet localhost 44444

输入任意参数,这里我输入的是hello,观察flume框架的日志输出

org.apache.flume.sink.LoggerSink.process(LoggerSink.java:94)] Event: { headers:{} body: 68 65 6C 6C 6F 0D                               hello. }

相关文章

  • 玩转大数据计算之Flume

    Flume版本:我们使用Flume最新的版本:Flume NG 1.7.0 Flume架构Flume是一个分布式的...

  • Flume Push方式整合Spark-Streaming

    Approach : Flume-style Push-based Approach Flume 可以使用push...

  • 基于Flume+Log4j+Kafka的日志采集架构方案

    本文将会介绍如何使用 Flume、log4j、Kafka进行规范的日志采集。 Flume 基本概念 Flume是一...

  • flume windows安装及读取日志

    使用版本flume1.9.0http://www.apache.org/dyn/closer.lua/flume/...

  • flume应用案例

    flume应用案例 1 flume用法 flume的使用非常简单,只需书写一个配置文件,在配置文件中描述sourc...

  • Flume的使用

    1)编写example.conf文件(可以写在任意位置) 2)启动flume 说明:agent:command值-...

  • flume实战1

    Flume实战: Flume的使用关键就是配置文件 A)配置source B)配置Channel C)配置SInk...

  • Flume 实战

    概述 Flume官网配置文档 使用Flume的关键就是写配置文件A) 配置SourceB) 配置ChannelC)...

  • Flume使用

    1、需求1:采集指定文件内容到HDFS 技术选型:exec --- memory --- hdfsagent的写法...

  • linux安装与kafka集成

    .1 kafka+zookeeper集群环境以安装 1.2 下载flume 本文使用flume1.7 下载地址:h...

网友评论

      本文标题:Flume的使用

      本文链接:https://www.haomeiwen.com/subject/rchvtqtx.html