美文网首页
Hive数据备份和恢复

Hive数据备份和恢复

作者: 麦子星星 | 来源:发表于2019-05-05 15:48 被阅读0次

本文说明如何通过把Hive中的数据备份到磁盘中,并从磁盘中恢复到Hive中。

1,把Hive中的表数据备份到磁盘中。 

备份示例:

use GRC_BIGDATA;insert overwrite local directory '/root/grc_bigdata/backup/src_companyinfo' ROWFORMAT DELIMITED FIELDS TERMINATEDBY'|'STOREDASTEXTFILEselect*fromsrc_companyinfo;

以上语句说明,把src_companyinfo表中的数据以‘|’为分隔符号,并备份到“/root/grc_bigdata/backup/src_companyinfo”目录中。 

备份之后的目录结构如下:

[root@cdh-node3src_companyinfo]#ll 总用量

11580-rw-r--r--1 root root 8482661 11月11 19:38 00

0000_0-rw-r--r--1 root root 2261124 11月11 19:38 00

0001_0-rw-r--r--1 root root 1109324 11月11 19:38 000002_0

在Hue中浏览的src_xtbillmx2013_st的目录结构如下: 

从以上结果可以看出,数据文件输出的个数与表在Hive中存储的文件个数不一定一致。

2,把磁盘中的文件恢复到Hive中。 

先在hive中执行建表脚本:

CREATE TABLE IFNOT EXIST Ssrc_xtbillmx2013_st (twbmoneyfdouble,  cxbzdouble,  paixudouble, ywlxid string,  swbzdouble)ROWFORMAT DELIMITED FIELDS TERMINATEDBY'|'STOREDASTEXTFILE;

然后在Hive中执行如下导入命令:

use GRC_BIGDATA;LOAD DATA LOCALINPATH'/root/grc_bigdata/backup/src_xtbill2013_st'OVERWRITEINTOTABLEsrc_xtbill2013_st;

3,在Hive中备份46个表、一共552GB的数据到Linux文件系统,一共耗时55386 秒,大概15.4个小时。 

从Linux文件系统中恢复以上数据,耗时41217秒,大概11.4个小时。

原文

相关文章

  • Hive数据备份和恢复

    本文说明如何通过把Hive中的数据备份到磁盘中,并从磁盘中恢复到Hive中。 1,把Hive中的表数据备份到磁盘中...

  • 数据备份与恢复产品技术介绍

    数据备份与恢复产品是指实现和管理信息系统数据备份和恢复过程的产品。 按照备份数据量,可以分为:完全备份、差异备份和...

  • gitlab 备份数据恢复

    在说gitlab数据备份数据恢复之前,前记录一个gitlab备份的命令 gitlab 服务的备份恢复,只能在和备份...

  • MySQL备份和恢复

    1、什么是备份和恢复? 备份:存储的数据副本;原始数据:持续改变;恢复:把副本应用到线上系统;仅能恢复至备份操作时...

  • 后端存储7(MySQL主备)

    备份和恢复数据库中的数据&实现数据库的高可用,避免宕机停服 如何更安全地做数据备份和恢复? 1,全量备份 在 My...

  • 数据备份和恢复

    数据备份是容灾的基础,是指为防止系统出现操作失误或系统故障导致数据丢失,而将全部或部分数据集合从应用主机的硬盘或阵...

  • 数据备份和恢复

    您一定会担心企业的数据安全问题?如果出现了安全问题,企业敏感数据遭受到重大破坏时,您会寻找备份数据进行恢复?备份和...

  • 5. MySQL 备份和恢复

    1 MySQL备份和恢复 1.1 备份类型 完全备份, 部分备份 完全备份: 整个数据集, 备份一整...

  • 锻骨境-第6层 k8s集群数据备份与恢复

    K8s 集群的数据备份和恢复确实主要就是etcd 数据库集群的备份和恢复 etcd集群用同一份snapshot恢复...

  • 备份恢复技巧

    苹果手机怎么备份和恢复数据

网友评论

      本文标题:Hive数据备份和恢复

      本文链接:https://www.haomeiwen.com/subject/ewlhoqtx.html