1. Hive引擎简介
Hive引擎包括：默认MR、tez、spark
Hive on Spark：Hive既作为存储元数据又负责SQL的解析优化，语法是HQL语法，执行引擎变成了Spark，Spark负责采用RDD执行。
Spark on Hive : Hive只作为存储元数据，Spark负责SQL解析优化，语法是Spark SQL语法，Spark负责采用RDD执行。
2. Hive on Spark配置
1）兼容性说明
注意：官网下载的Hive3.1.2和Spark3.0.0默认是不兼容的。因为Hive3.1.2支持的Spark版本是2.4.5，所以需要我们重新编译Hive3.1.2版本。
编译步骤：官网下载Hive3.1.2源码，修改pom文件中引用的Spark版本为3.0.0，如果编译通过，直接打包获取jar包。如果报错，就根据提示，修改相关方法，直到不报错，打包获取jar包。
2）在Hive所在节点部署Spark
如果之前已经部署了Spark，则该步骤可以跳过，但要检查SPARK_HOME的环境变量配置是否正确。
（1）Spark官网下载jar包地址：http://spark.apache.org/downloads.html
（2）上传并解压解压spark-3.0.0-bin-hadoop3.2.tgz
[root@bigdata101 src]# tar -zxvf spark-3.0.0-bin-hadoop3.2.tgz
（3）配置SPARK_HOME环境变量
[root@bigdata101 src]# vim /root/.bash_profile
添加如下内容
# SPARK_HOME
export SPARK_HOME=/usr/local/src/spark-3.0.0-bin-hadoop3.2
export PATH=$PATH:$SPARK_HOME/bin
source 使其生效
[root@bigdata101 spark-3.0.0-bin-hadoop3.2]# source /root/.bash_profile
３）在hive中创建spark配置文件并赋予权限
[root@bigdata101 spark-3.0.0-bin-hadoop3.2]# cd /usr/local/src/apache-hive-3.1.0-bin/conf/
[root@bigdata101 conf]# vim spark-defaults.conf
添加如下内容（在执行任务时，会根据如下参数执行）
spark.master yarn
spark.eventLog.enabled true
spark.eventLog.dir hdfs://bigdata101:9000/spark-history
spark.executor.memory 1g
spark.driver.memory 1g
[root@bigdata101 conf]# chmod 777 spark-defaults.conf
在HDFS创建如下路径，用于存储历史日志
[root@bigdata101 apache-hive-3.1.0-bin]# hadoop fs -mkdir /spark-history
４）向HDFS上传Spark纯净版jar包
说明1：由于Spark3.0.0非纯净版默认支持的是hive2.3.7版本，直接使用会和安装的Hive3.1.2出现兼容性问题。所以采用Spark纯净版jar包，不包含hadoop和hive相关依赖，避免冲突。
说明2：Hive任务最终由Spark来执行，Spark任务资源分配由Yarn来调度，该任务有可能被分配到集群的任何一个节点。所以需要将Spark的依赖上传到HDFS集群路径，这样集群中任何一个节点都能获取到。
（1）上传并解压spark-3.0.0-bin-without-hadoop.tgz
[root@bigdata101 src]# tar -zxvf spark-3.0.0-bin-without-hadoop.tgz
（2）上传Spark纯净版jar包到HDFS
[root@bigdata101 src]# hadoop fs -mkdir /spark-jars
[root@bigdata101 src]# hadoop fs -put spark-3.0.0-bin-without-hadoop/jars/* /spark-jars
５）修改hive-site.xml文件
[root@bigdata101 src]# vim apache-hive-3.1.0-bin/conf/hive-site.xml
添加如下内容
<!--Spark依赖位置（注意：端口号9000必须和namenode的端口号一致）-->
<property>
<name>spark.yarn.jars</name>
<value>hdfs://bigdata101:9000/spark-jars/*</value>
</property>
<!--Hive执行引擎-->
<property>
<name>hive.execution.engine</name>
<value>spark</value>
</property>
6）修改spark-env.sh文件
[root@bigdata101 conf]# pwd
/usr/local/src/spark-3.0.0-bin-hadoop3.2/conf
[root@bigdata101 conf]# mv spark-env.sh.template spark-env.sh
[root@bigdata101 conf]# vim spark-env.sh
然后在该文件中添加:
export SPARK_DIST_CLASSPATH=$(hadoop classpath)
3. Hive on Spark测试
（1）启动hive客户端
[root@bigdata101 spark-3.0.0-bin-hadoop3.2]# hive
（2）创建一张测试表
hive (default)> create table student(id int, name string);
（3）通过insert测试效果
hive (default)> insert into table student values(1,'abc');
填坑笔记1：spark客户端连接失败
报错详细日志如下：
解决方法：在hive-site.xml中添加如下属性增加连接客户端时长
[root@bigdata101 ~]# cd /usr/local/src/apache-hive-3.1.2-bin
[root@bigdata101 apache-hive-3.1.2-bin]# vim conf/hive-site.xml
<property>
<name>hive.spark.client.connect.timeout</name>
<value>90000ms</value>
</property>
填坑笔记2：执行数仓插入数据语句报错
报错具体日志如下：
报错原因：
执行hive语句，这个时候在hive的目录下回产生很多staging_hive文件，而且是操作哪个表，就在哪个表中产生。hive也会产生staging_hive，但是hive产生后会被移除，而spark执行引擎不会移除，所以我们需要手动处理这种情况。
解决方法：在hive-site.xml中修改如下属性
修改前：
<property>
<name>hive.exec.stagingdir</name>
<value>hive-staging</value>
</property>
修改后：
<property>
<name>hive.exec.stagingdir</name>
<value>/tmp/staging/hive-staging</value>
</property>
写shell脚本，定时去/tmp/hive/staging/staging目录下清除文件，注意，清除文件一定要清除昨天的，今天产生的有可能正好在用，如果被移除了，则会报错
网友评论