美文网首页
sqoop常用命令

sqoop常用命令

作者: Youngmon | 来源:发表于2019-12-14 18:15 被阅读0次

查看Mysql表

sqoop list-databases --connect jdbc:mysql://172.16.98.36:3306/erp_test4 --username admin --password 123456

sqoop list-tables  --connect jdbc:mysql://172.16.98.36:3306/erp_test4  --username admin  --password 123456

1.mysql to hdfs

sqoop import --connect jdbc:mysql://172.16.98.36:3306/erp_test4  --username admin  --password 123456  --table t_s_user --target-dir /user/hadoop/sqoop -delete-target-dir  -m 1

hdfs dfs -cat /user/hadoop/sqoop/part-m-00000
hdfs dfs -rm -R  /user/hadoop/mysqluser2  

2.把MySQL数据库中的表数据导入到Hive中

2.1 导入关系型数据到hive的过程是先导入到hdfs,后再 load 进入 hive(普通导入:数据存储在默认的default hive库中,表名就是对应的mysql的表名:)

sqoop import   \
--connect jdbc:mysql://172.16.98.36:3306/erp_test4  --username admin  --password 123456  --table t_s_base_user   \
-m 1

#1.2 查看文件
hadoop fs -cat /user/hive/warehouse/t_s_base_user/part-m-00000

把MySQL数据库中的表数据导入到Hive中


#t_s_base_user表导入
sqoop import  \
--connect jdbc:mysql://172.16.98.36:3306/erp_test4  --username admin  --password 123456  --table t_s_base_user   \
--fields-terminated-by "\t"  \
--lines-terminated-by "\n"  \
--hive-import  \
--map-column-hive signature=string \
-m 1
--hive-overwrite  \
--hive-table  \
--delete-target-dir \
--hive-database  myhive \
--map-column-hive <signature>  =String \
--create-hive-table   t_s_base_user   \
 
 
hdfs dfs -rm -R /user/hadoop/t_s_base_user
hdfs dfs -rm -R /user/hadoop/t_s_log



 
#t_s_log表导入
sqoop import  \
--connect jdbc:mysql://172.16.98.36:3306/erp_test4  --username admin  --password 123456  --table t_s_log   \
--fields-terminated-by "\t"  \
--lines-terminated-by "\n"  \
--hive-import  \
--map-column-hive note=string \
--map-column-hive logcontent=string \
 -m 1
--hive-overwrite  \
--create-hive-table  \
--delete-target-dir \
--create-hive-table   t_s_log   \
--map-column-hive <note>  =String \
--map-column-hive <logcontent>  =String \


 

/*指定栏位 signature为String*/
--map-column-hive signature=string
--hive-table  \
--create-hive-table  \

 

相关文章

网友评论

      本文标题:sqoop常用命令

      本文链接:https://www.haomeiwen.com/subject/vuqxnctx.html