美文网首页大数据应用
黑猴子的家:Hive 分区表基本操作

黑猴子的家:Hive 分区表基本操作

作者: 黑猴子的家 | 来源:发表于2018-09-29 09:18 被阅读50次

分区表实际上就是对应一个HDFS文件系统上的独立的文件夹,该文件夹下是该分区所有的数据文件。Hive中的分区就是分目录,把一个大的数据集根据业务需要分割成小的数据集。在查询时通过WHERE子句中的表达式选择查询所需要的指定的分区,这样的查询效率会提高很多。

1、引入分区表(需要根据日期对日志进行管理)

/user/hive/warehouse/log_partition/20180101/20180101.log
/user/hive/warehouse/log_partition/20180102/20180102.log
/user/hive/warehouse/log_partition/20180103/20180103.log

2、创建分区表语法

hive (default)> create table dept_partition(
                 deptno int, dname string, loc string
             )
             partitioned by (month string)
             row format delimited fields terminated by '\t';

3、加载数据到分区表中

hive (default)> load data local inpath '/opt/module/datas/dept.txt' into table default.dept_partition partition(month='201801');

hive (default)> load data local inpath '/opt/module/datas/dept.txt' into table default.dept_partition partition(month='201802');

hive (default)> load data local inpath '/opt/module/datas/dept.txt' into table default.dept_partition partition(month='201803');

4、查询分区表中数据

单分区查询

hive (default)> select * from dept_partition where month='201801';

多分区联合查询

hive (default)> select * from dept_partition where month='201801'
            union
            select * from dept_partition where month='201802'
            union
            select * from dept_partition where month='201803';

5、增加分区

创建单个分区

hive (default)> alter table dept_partition add partition(month='201804') ;

同时创建多个分区

hive (default)> alter table dept_partition add partition(month='201805') partition(month='201806');

6、删除分区

删除单个分区

hive (default)> alter table dept_partition drop partition (month='201804');

同时删除多个分区

hive (default)> alter table dept_partition drop partition (month='201805'), partition (month='201806');

7、查看分区表有多少分区

hive>show partitions dept_partition;

8、查看分区表结构

hive>desc formatted dept_partition;

相关文章

  • 黑猴子的家:Hive 分区表基本操作

    分区表实际上就是对应一个HDFS文件系统上的独立的文件夹,该文件夹下是该分区所有的数据文件。Hive中的分区就是分...

  • hive基础语法

    目录 Hive安装和启动 Hive表操作-分区表 Hive表操作-复杂类型操作 Hive 查询语句 Zepplin...

  • Spark读取hive数据文件

    spark 操作 hive[删除分区表] 1: 使用HiveServer 的方式 val tablename="h...

  • hive进阶学习

    创建hive表常用语句: 修改hive表名称: 内部表 vs 外部表: 创建分区表以及补充操作: hive中查询介...

  • 黑猴子的家:Python Anaconda 的基本操作

    1、查看安装的包 2、查看安装的环境 3、创建新的环境 4、同时安装必要的包 5、激活某个环境 6、退出某个环境 ...

  • hive基本操作之一

    1.hive表中的基本数据类型 2,hive创建分区表 2.1内部表 建表语句: create table...

  • Hive 分区表操作

    1.创建分区表 普通列和分区列是分开的,别写重复 2.插入数据 这只是插入单个数据. 需要指定分区位置. 批量导入...

  • 095-BigData-23Hive分区及DML操作

    上一篇:094-BigData-22Hive数据类型及操作 一、Hive分区 分区表实际上就是对应一个HDFS文件...

  • 2018-11-28

    针对spark-sql操作hive生成分区表,结果文件目录包含_success空文件,可以设置参数: mapred...

  • 黑猴子的家:HBase 与 Hive 集成

    1、Hive和HBase整合集成 https://www.jianshu.com/p/425df8dbca11 2...

网友评论

    本文标题:黑猴子的家:Hive 分区表基本操作

    本文链接:https://www.haomeiwen.com/subject/jacvoftx.html