美文网首页
尚硅谷大数据技术之Flume

尚硅谷大数据技术之Flume

作者: 尚硅谷教育 | 来源:发表于2018-12-04 14:29 被阅读21次

    3.2 实时读取本地文件到HDFS案例
    1)案例需求:实时监控Hive日志,并上传到HDFS中
    2)需求分析:

    image.png
    3)实现步骤:
    1.Flume要想将数据输出到HDFS,必须持有Hadoop相关jar包
    将commons-configuration-1.6.jar、
    hadoop-auth-2.7.2.jar、
    hadoop-common-2.7.2.jar、
    hadoop-hdfs-2.7.2.jar、
    commons-io-2.4.jar、
    htrace-core-3.1.0-incubating.jar
    拷贝到/opt/module/flume/lib文件夹下。
    2.创建flume-file-hdfs.conf文件
    创建文件
    [atguigu@hadoop102 job] image.png

    本教程由尚硅谷教育大数据研究院出品,如需转载请注明来源,欢迎大家关注尚硅谷公众号(atguigu)了解更多。

    相关文章

      网友评论

          本文标题:尚硅谷大数据技术之Flume

          本文链接:https://www.haomeiwen.com/subject/nvbmcqtx.html