美文网首页
flume复制并分流实现

flume复制并分流实现

作者: Anan9527 | 来源:发表于2017-12-27 19:35 被阅读0次

今天接到客户是咨询,要对现有的数据进行分流,虽然感觉flume实现没问题,但是心里总不踏实,要是出什么幺蛾子就打脸了,随后做了一个小测试,测试的结果也验证了我的想法,废话不多说,下面直接上配置:

#配置文件名为:flume-test.conf
# list the sources, sinks and channels in the agent
a1.sources= source_1
a1.sinks= fs_sink_local_file_1 fs_sink_local_file_2
a1.channels= fs_channel_memory_1 fs_channel_memory_2

# source from  spooldir
a1.sources.source_1.type = spooldir
a1.sources.source_1.spoolDir = /home/users/flume/data
a1.sources.source_1.fileHeader = true


#channel for source configure
a1.sources.source_1.channels= fs_channel_memory_1 fs_channel_memory_2

##sinks
#sink1
a1.sinks.fs_sink_local_file_1.channel = fs_channel_memory_1
a1.sinks.fs_sink_local_file_1.type = file_roll
a1.sinks.fs_sink_local_file_1.sink.directory = /home/users/flume/dataA
#sink2
a1.sinks.fs_sink_local_file_2.channel = fs_channel_memory_2
a1.sinks.fs_sink_local_file_2.type = file_roll
a1.sinks.fs_sink_local_file_2.sink.directory = /home/users/flume/dataB

###channels
#channels1
a1.channels.fs_channel_memory_1.type = memory
a1.channels.fs_channel_memory_1.capacity = 5000000
a1.channels.fs_channel_memory_1.transactionCapacity = 5000000
a1.channels.fs_channel_memory_1.byteCapacityBufferPercentage = 40
a1.channels.fs_channel_memory_1.byteCapacity = 8000000000
a1.channels.fs_channel_memory_1.keep-alive = 30

#channels2
a1.channels.fs_channel_memory_2.type = memory
a1.channels.fs_channel_memory_2.capacity = 5000000
a1.channels.fs_channel_memory_2.transactionCapacity = 5000000
a1.channels.fs_channel_memory_2.byteCapacityBufferPercentage = 40
a1.channels.fs_channel_memory_2.byteCapacity = 8000000000
a1.channels.fs_channel_memory_2.keep-alive = 30

可以直接拿去贴就可以跑的配置,启动命令如下:

flume-ng agent -n a1 -f /path/to/conf/flume-test.conf -Xmx100M

以上flume分流复制实现的功能为:把 /home/users/flume/data目录下的文件分别复制到/home/users/flume/dataA和/home/users/flume/dataB,既然这个功能能这样实现,那么扩展到其他source,sink和channel都是没问题的,
ok,今天就到这,
小小菜鸟,不喜勿喷

相关文章

  • flume复制并分流实现

    今天接到客户是咨询,要对现有的数据进行分流,虽然感觉flume实现没问题,但是心里总不踏实,要是出什么幺蛾子就打脸...

  • Linux安装flume并实现监控文件

    flume的安装 1.找到flume的安装包并复制到/usr目录下 sudo cp flume-ng-1.6.0-...

  • 在Windows下安装Flume1.8

    1、安装JDK并配置环境变量2、下载flume1.8并放到C盘中解压3、进入到conf目录下 5、复制一下代码到f...

  • 07 flume多路复制

    本小节将展示flume的多路复制。所谓多路复制,是指数据来自一个source,通过两个channel,进入到两个s...

  • flume将数据分流到hdfs报错

    在做flume分流到hdfs时,屏幕一直循环报错,各种错误满天飞,最终冷静下来发现了错误的根源是来自以下是信息 j...

  • hexo在右上角或者左上角实现fork me on github

    实现效果图 具体实现方法 点击这里或者这里挑选自己喜欢的样式,并复制代码。 例如,我是复制如下代码: 然后粘贴刚才...

  • 2020-04-1 记录mongdb(12)

    数据复制: 高可用性、数据安全、分流/分工 复制集: 主节点负责所有的写入请求; 副节点负责从主节点中复制数据; ...

  • Flume源码分析

    首先所有核心组件都会实现org.apache.flume.lifecycle.LifecycleAware接口: ...

  • Flink拆分流和复制流

    使用旁路输出(side output)来拆分和复制流  我们在处理数据的时候,有时候想对不同情况的数据进行不同的处...

  • 使用log4j将数据流入flume

    最近做了一个log抽取的项目,采用log4j+flume实现,在此分享记录一下。 准备 什么是flume? flu...

网友评论

      本文标题:flume复制并分流实现

      本文链接:https://www.haomeiwen.com/subject/dsqpgxtx.html