美文网首页
Hive基本概念

Hive基本概念

作者: ssttIsme | 来源:发表于2021-09-05 18:10 被阅读0次

    Hive简介

    Hive:由Facebook开源用于解决海量结构化日志的数据统计工具。Hive是基于Hadoop的一个数据仓库工具,可以将结构化数据文件映射成为一张表,并提供类SQL查询功能。

    Hive本质:将HQL转化成MapReduce程序

    1Hive处理的数据存储在HDFS
    2Hive分析数据底层的实现是MapReduce
    3执行程序运行在yarn上

    Hive的优缺点

    优点

    1操作接口采用类SQL语法,提供快速开发的能力
    2避免去写MapReduce,减少开发人员的学习成本
    3Hive的执行延迟比较高,因此常用于数据分析,对实时性要求不高的场合
    4Hive的优势在于处理大数据,对于小数据没有优势,因为Hive的执行延迟比较高
    5Hive支持用户自定义函数,用户可以根据自己的需求来实现自己的函数

    缺点

    1Hive的HQL表达能力有限

    1迭代算法无法表达
    2数据挖掘方面不擅长,由于MapReduce数据处理流程的限制,效率更高的算法却无法实现

    2Hive的效率比较低

    1Hive自动生成的MapReduce作业,通常不够智能化
    2Hive调优比较困难,粒度较粗

    相关文章

      网友评论

          本文标题:Hive基本概念

          本文链接:https://www.haomeiwen.com/subject/zrnjwltx.html