美文网首页
在idea里使用spark远程操作hive

在idea里使用spark远程操作hive

作者: 程序媛啊 | 来源:发表于2021-09-04 12:01 被阅读0次

1、将配置文件hive-site.xml复制到工程的resources下面
2、pom里添加spark-hive依赖

<dependency>
      <groupId>org.apache.spark</groupId>
      <artifactId>spark-hive_2.11</artifactId>
      <version>2.3.2</version>
</dependency>

3、在使用SparkSQL的时候需要创建一个SparkSession这样的入口点,而这个入口点是需要支持hive操作的

SparkSession ss = SparkSession.builder().master("local[2]").appName("the test of SparkSession").enableHiveSupport().getOrCreate()

相关文章

网友评论

      本文标题:在idea里使用spark远程操作hive

      本文链接:https://www.haomeiwen.com/subject/egrrbltx.html