美文网首页
hive 分区表

hive 分区表

作者: 后知不觉1 | 来源:发表于2023-03-11 20:01 被阅读0次

分区表创建

#单分区
create table test1(userid string, name string, age int) 
partitioned by (inc_day string); 

#多级分区
create table test2(userid string, name string, age int) 
partitioned by (inc_day string, hour string); 

插入数据

#单分区
insert into test partition (inc_day=20230310)  values ("tianzheao","tianzehao",30);

多分区

   insert into test partition (inc_day='20230310', hour='20:47')  values ("tianzheao","tianzehao",30);

查看分区

show partitions $tablename;
show partitions test;
image.png image.png

hdfs路径

正常的分区路径是 "分区字段=分区值",多级分区在目录下再有分区字段,最后是hdfs文件

image.png

修复分区

通过其他方式写入数据hdfs数据到目录,创建分区表后分区元数据是缺失的,这时候需要修复分区

修复分区方法有两个 msck ,alter

msck

使用msck 修复有一个前提,目录信息中包含分区信息,入股这个不满足,则无法使用
比如: test分区表,最后一层的上一层目录有分区字段。


image.png

如果是多级分区目录依次类推


image.png image.png
alter

alter添加分区没有限制

alter table default.testall add
partition(inc_day='20220905');

外部表删除分区

外部表删除分区只会删除元数据不会删除hdfs 数据文件,解决思路是外部表改为内部表,删除分区后在将内部表改外外部表

alter table `ods_blpt`.`year_his` set TBLPROPERTIES('EXTERNAL'='false');
alter table `ods_blpt`.`year_his` drop partition (ds <= '$[time(yyyyMMdd,-30d)]');
alter table `ods_blpt`.`year_his` set TBLPROPERTIES('EXTERNAL'='true');

相关文章

  • hive基础语法

    目录 Hive安装和启动 Hive表操作-分区表 Hive表操作-复杂类型操作 Hive 查询语句 Zepplin...

  • hive的严格模式和分区

    相比mysql,hive有严格模式存在,为了不错误扫描整个数据,hive的分区表会将数据分成几个分区。查询分区表中...

  • 坑合集

    Flume flume细节 Hive 数据倾斜Hive优化 Hive分区表新增字段为null的bug及解决方法 S...

  • hive分区表

    hive分区表 1 为什么出现分区表? 假设有海量的数据保存在hdfs的某一个hive表明对应的目录下,使用hiv...

  • 案例详解__HIVE中内部表、外部表、分区表和分桶表

    目录一、Hive建表语法二、内部表外部表三、分区表四、分桶表 Hive在建表时可指定内部表、外部表、分区表和分桶表...

  • Hive系列之分区表和桶

    为提升hive数据的查询和写入性能, hive提供了分区表机制。hive每个表格可以指定多个分区key, 这些分区...

  • hive进阶学习

    创建hive表常用语句: 修改hive表名称: 内部表 vs 外部表: 创建分区表以及补充操作: hive中查询介...

  • 大数据知识点总结

    Hive: 分区表有哪几类 Hive中追加导入数据的4种方式是什么? Hive中到处数据有几种方式?如何导出数据 ...

  • HiveSQL分区-DML

    分区 创建分区表 以性别分区;分区字段不可与表列名重复! 载入分区表数据 介绍load-data:Hive-DML...

  • Spark读取hive数据文件

    spark 操作 hive[删除分区表] 1: 使用HiveServer 的方式 val tablename="h...

网友评论

      本文标题:hive 分区表

      本文链接:https://www.haomeiwen.com/subject/wzcicdtx.html