美文网首页
CDH集群添加Spark2

CDH集群添加Spark2

作者: 糊涂蟲 | 来源:发表于2018-10-26 11:15 被阅读0次

1、安装前停掉集群和关闭Cloudera Management Service

2、上传CSD包到机器的/opt/cloudera/csd目录,并且修改文件的用户和组。注意如果本目录下有其他的jar包,把删掉或者移到其他目录(每台机器)

[root@hadoop001 ~]# cd /opt/cloudera/csd/

rz上传SPARK2_ON_YARN-2.2.0.cloudera1.jar

[root@hadoop001 csd]# chgrp cloudera-scm SPARK2_ON_YARN-2.2.0.cloudera1.jar

[root@hadoop001 csd]# ls -la

total 28

drwxr-xr-x 2 cloudera-scm cloudera-scm  4096 Oct 24 12:08 .

drwxr-xr-x 6 cloudera-scm cloudera-scm  4096 Oct 23 13:53 ..

-rw-r--r-- 1 root        cloudera-scm 17240 Oct 24 11:19 SPARK2_ON_YARN-2.2.0.cloudera1.jar

[root@hadoop001 csd]# chown cloudera-scm SPARK2_ON_YARN-2.2.0.cloudera1.jar

[root@hadoop001 csd]# ls -la

total 28

drwxr-xr-x 2 cloudera-scm cloudera-scm  4096 Oct 24 12:08 .

drwxr-xr-x 6 cloudera-scm cloudera-scm  4096 Oct 23 13:53 ..

-rw-r--r-- 1 cloudera-scm cloudera-scm 17240 Oct 24 11:19 SPARK2_ON_YARN-2.2.0.cloudera1.jar

3、上传parcel包到机器的/opt/cloudera/parcel-repo目录下。注意,。如果有其他的安装包,不用删除 ,但是如果本目录下有其他的重名文件比如manifest.json文件,把它重命名备份掉。然后把那3个parcel包的文件放在这里。

4、启动服务和集群

5、在parcels中添加spark

6、然后在添加服务中可以看到spark2,点击继续

7、巨坑

        由于spark2需要jdk版本是1.8以上,而之前安装的jdk为1.7,所以在安装spark2 之前需要将jdk升级(每台机器)

        升级完之后在集群中设置

1)选择主机-->所以主机-->配置

2)选择高级,设置java主目录后重启集群

8、安装完成

相关文章

  • CDH集群添加Spark2

    1、安装前停掉集群和关闭Cloudera Management Service 2、上传CSD包到机器的/opt/...

  • 114.Livy配置

    环境CDH集群 把Livy包上传至CDH集群的节点 解压livy.tar.gz包 添加livy用户 livy修改为...

  • CDH安装spark2

    Spark2安装 官方也提供了spark2的升级包,在CDH中spark1和spark2可以共存,但是由于scal...

  • CDH集群添加kafka

    一、下载kafka_parcels [root@hadoop001 html]# mkdir kafka_parc...

  • CentOS7 Cloudera Manager6 完全离线安装

    本文是在CentOS7.4 下进行CDH6集群的完全离线部署。CDH5集群与CDH6集群的部署区别比较大。 说明:...

  • MySQL to HBase over Kafka Connec

    组件说明 CDH 6.1.1 线上 Hadoop 集群最终采用了 CDH 发行版, 版本是 CDH 6.0.0, ...

  • cdh部署spark2

    不是完spark2不能启动 分配、激活parcel 磁盘太小 参考:ubuntu下添加硬盘,分区以及自动挂载 代理...

  • CDH集群中添加新主机

    1、新加机器环境配置 首先得在新的主机环境中安装JDK,关闭防火墙、修改selinux、NTP时钟与主机同步、修改...

  • CDH集群更换IP处理方法

    注:该文档适用于CDH集群中,节点Ip地址发生变化,集群无法正常启动的场景 首先停止CDH集群 在各个节点上,停止...

  • hbase集群同步

    由于当前阶段需要对生产集群(cdh5.14,)的hbase数据进行灾备(备份集群cdh6.1),开始调研hbase...

网友评论

      本文标题:CDH集群添加Spark2

      本文链接:https://www.haomeiwen.com/subject/kpdttqtx.html