美文网首页
Sqoop往hive中导入导出数据的常用命令

Sqoop往hive中导入导出数据的常用命令

作者: guaren2009 | 来源:发表于2020-07-02 16:23 被阅读0次

一、导入hive的相关参数

sqoop help import可以拿到这些参数

二、导入数据常用命令

sqoop import \

--connect 'jdbc:mysql://192.168.228.128:3306/ruozedata?autoReconnect=true&useSSL=false&useUnicode=true&characterEncoding=UTF-8' \

--username root \

--password root \

--table sqoop_test \

--mapreduce-job-name mysql2hive \

--columns "name,age,sex" \

--fields-terminated-by '|' \

--null-string '' \

--null-non-string '0' \

--where  'id > 2' \

--target-dir /user/hadoop/sqoop_test_2_hive \

--delete-target-dir \

--hive-database sqoop \

--hive-table sqoop_test_from_mysql \

--hive-import \

-m 1

注意点:

可能出现以下报错信息

错误提示是HIVE_CONF_DIR没有正确设置,但其实是需要将hive目录下的lib目录下的所有jar包加入到环境变量HADOOP_CLASSPATH中去即可解决,参考:https://community.cloudera.com/t5/Support-Questions/Error-with-quot-Make-sure-HIVE-CONF-DIR-is-set-correctly/m-p/37865

[hadoop@hadoop ~]$ echo -e '# HADOOP_CLASSPATH\nexport HADOOP_CLASSPATH=$HADOOP_CLASSPATH:$HIVE_HOME/lib/*' >> ~/.bashrc

[hadoop@hadoop ~]$ source ~/.bashrc

没有将hive的lib下的jar包加入到HADOOP_CLASSPATH  中会报这个错

三、导出hive数据到mysql

这个与导出命令一致,参见https://www.jianshu.com/p/ce33543e533c

相关文章

  • Sqoop往hive中导入导出数据的常用命令

    一、导入hive的相关参数 二、导入数据常用命令 sqoop import \ --connect 'jdbc:m...

  • Sqoop安装

    Sqoop是Hadoop生态里,实现Hive、Hbase等大数据数据库与MySQL、Oracle导入导出的工具。其...

  • sqoop的导入命令详解

    sqoop的背景 sqoop是一个配合大数据hadoop做数据底层的导入导出操作,需要配合hive及分布式文件系统...

  • 51cto赵强HADOOP学习(十五)sqoop的导入导出

    使用sqoop导入关系型数据库中的数据 安装 导入导出

  • 137.如何进行离线计算-3

    137.1 数据导出 Sqoop可以对HDFS文件进行导入导出到关系型数据库 Sqoop 工作机制是将导入或导出命...

  • sqoop数据导入导出应用案例

    sqoop数据导入导出应用案例 1 sqoop导入数据 将RDBMS中的一个表数据导入到hdfs。表中的每一行被视...

  • Sqoop的简单使用案例

    导入数据 在Sqoop中,“导入”概念指:从非大数据集群(RDBMS)向大数据集群(HDFS,HIVE,HBASE...

  • Hive学习笔记2

    Hive 的数据导入: 可以使用Load命令导入,也可以使用Sqoop组件导入数据。 Hive不支持insert插...

  • 导入数据

    4.1、导入数据在Sqoop中,“导入”概念指:从非大数据集群(RDBMS)向大数据集群(HDFS,HIVE,HB...

  • Sqoop简单使用案例

    一.导入数据 在Sqoop中,“导入”概念指:从非大数据集群(RDBMS)向大数据集群(HDFS,HIVE,HBA...

网友评论

      本文标题:Sqoop往hive中导入导出数据的常用命令

      本文链接:https://www.haomeiwen.com/subject/wtprqktx.html