美文网首页
Hive操作小细节

Hive操作小细节

作者: 辉格食品 | 来源:发表于2017-03-29 10:38 被阅读0次

5)将分析结果导入目标表,这里与mysql的"insert into table..."略有不同;hivesql是"insert

overwrite table...",overwrite表示覆盖重写文件

insert OVERWRITEtable tmp_qw2

selectresource_id,v

from tmp_qw1

order by v desc;

//这里使用order by是由于hive里面每一个Reduce都会有单独的输出文件;每个job里面会根据底层数据文件的划分生成多个map,map与reduce关系为N-N;此处不加order by时会有两个reduce生成两个文件,与我的需求有差;加一个order by后在原有的结果集reduce上再做一层map-reduce最终生成一个文件

6)查看文件:

hadoop dfs -ls/group/taobaodba/qianwei/hive/tmp_qw2

7)查看文件内容是否满足需求:

hadoop dfs -text/group/taobaodba/qianwei/hive/tmp_qw2/attempt_201107131247_1823525_r_000000_0

8)取文件到本地:

hadoop fs -get/group/taobaodba/qianwei/hive/tmp_qw2/attempt_201107131247_1824316_r_000000_0local

===============================================================

这其中还有一个弯路:

在mysql里面我们要把数据导出需要"select *into outfile 'file_path' from table_name"

相关文章

  • Hive操作小细节

    5)将分析结果导入目标表,这里与mysql的"insert into table..."略有不同;hivesql是...

  • hive基础语法

    目录 Hive安装和启动 Hive表操作-分区表 Hive表操作-复杂类型操作 Hive 查询语句 Zepplin...

  • 数据查询-Hive基础

    outline 什么是Hive 为什么需要Hive Hive的架构 Hive的常用操作 什么是Hive Hive由...

  • Hive基本操作

    在所有操作前先启动hdfs、yarn、historyserver。 hive操作 启动hivebin/hive 创...

  • hive

    hive官网:https://hive.apache.org/ hive操作指南:https://cwiki.ap...

  • 记录一次 hadoop+tornado 简单实践(二) -- h

    hive 数据库操作 hive 支持大部分的 sql 语法,因此熟悉 sql 可以很方便的上手 hive 操作 h...

  • HIVE

    基本操作 hive进入hive模式 exit; 退出hive模式 展示正则匹配表名hive> use ad_s...

  • Hive编程指南笔记整理

    hive编程指南阅读笔记 1.基础操作 1.1.启动hive HIVE_HOME$ bin/hive 1.2.1....

  • Hive sql常见操作

    基本sql操作 hive表操作 分区操作 Hive内置函数 (1)数学函数 常用的数学函数都有:round、flo...

  • 002 Impala | 安装要求

    操作系统 linux only Hive Metastore Impala能够交互操作hive中存储的数据,使用相...

网友评论

      本文标题:Hive操作小细节

      本文链接:https://www.haomeiwen.com/subject/sgdtottx.html