美文网首页
Flume简介

Flume简介

作者: RichurLiu | 来源:发表于2017-08-02 15:27 被阅读0次

1、概述

 Flume是一个分布式、可靠、高可用的海量日志采集、聚合和传输的系统。
 Flume可以采集文件,socket数据包等各种形式源数据,又可以将采集到的数据输出到HDFS、hbase、hive、kafka等众多外部存储系统中
 一般的采集需求,通过对flume的简单配置即可实现
 Flume针对特殊场景也具备良好的自定义扩展能力,因此,flume可以适用于大部分的日常数据采集场景

2、运行机制

1、 Flume分布式系统中最核心的角色是agent,flume采集系统就是由一个个agent所连接起来形成

2、 每一个agent相当于一个数据传递员,内部有三个组件:

 a) Source:采集源,用于跟数据源对接,以获取数据
 b) Sink:下沉地,采集数据的传送目的,用于往下一级agent传递数据或者往最终存储系统传递数据
 c) Channel:angent内部的数据传输通道,用于从source将数据传递到sink

相关文章

  • Flume入门

    Flume简介     Flume is a distributed, reliable, and availab...

  • Flume 学习之路(一)Flume 概述和基本架构

    作者:studytime原文:https://www.studytime.xin/ Flume 简介 Flume ...

  • java大数据之flume

    一、Flume简介 1.1 Flume的位置 1.2 Flume是什么 (1)Flume提供一种分布式的,可靠地,...

  • flume(一)、flume简介

    转载自csdn-blog 1. flume的背景 flume是由cloudera软件公司产出的可分布式日志收集系统...

  • 【Flume简介】

    1 介绍 flume是实时日志采集系统, 使用场景:监控目录的日志信息,控制台输入信息,端口信息,http发送的信...

  • Flume简介

    1、概述  Flume是一个分布式、可靠、高可用的海量日志采集、聚合和传输的系统。 Flume可以采集...

  • flume简介

    参考 Flume架构以及应用介绍 一.简介 Flume是Cloudera提供的一个高可用的,高可靠的,分布式的海量...

  • Flume 简介

    配置文件写法

  • Flume读取Tomcat日志文件传输到Kafka

    一、Flume简介 二、Flume架构 Flume架构主要有三个组件:Source、Channel和Sink。 W...

  • Flume实践

    Flume简介 flume 作为 cloudera 开发的实时日志收集系统,受到了业界的认可与广泛应用。Flume...

网友评论

      本文标题:Flume简介

      本文链接:https://www.haomeiwen.com/subject/tgtylxtx.html