美文网首页
spark2.1源码编译

spark2.1源码编译

作者: 匪_3f3e | 来源:发表于2018-10-31 00:06 被阅读0次

我的hadoop版本:hadoop-2.6.0-cdh5.7.0
我的scala版本:2.11.8
我的hive版本:hive-1.1.0-cdh5.7.0
hadoop下载地址:http://archive.cloudera.com/cdh5/cdh/5/hadoop-2.6.0-cdh5.7.0.tar.gz
hive下载路径:http://archive.cloudera.com/cdh5/cdh/5/hive-1.1.0-cdh5.7.0.tar.gz
spark下载地址:https://archive.apache.org/dist/spark/spark-2.1.0/spark-2.1.0.tgz

  1. 进入spark-2.1.0目录的根路径,修改pom.xml
#将以下语句增加到repositorties中,放在第二位
<repository>
  <id>cloudera</id>
  <url>https://repository.cloudera.com/artifactory/cloudera-repos</url>
</repository>
  1. 运行下面的命令:
./dev/make-distribution.sh \
--name 2.6.0-cdh5.7.0 \
--tgz  \
-Pyarn -Phadoop-2.6 \
-Phive \
-Phive-thriftserver \
-Dhadoop.version=2.6.0-cdh5.7.0

mac运行了大概30分钟,以前用虚拟机相同的方法也没有成功,配置不够大概是成功不了,网速也很重要。

  1. 编译成功后就得到我们的.tgz文件了,解压之后就可以使用了,别忘了在jars文件夹中添加mysql的jar

相关文章

  • 使用SBT编译Spark子项目

    前言 最近为了解决Spark2.1的Bug,对Spark的源码做了不少修改,需要对修改的代码做编译测试,如果编译整...

  • spark2.1源码编译

    我的hadoop版本:hadoop-2.6.0-cdh5.7.0我的scala版本:2.11.8我的hive版本:...

  • 编译移植Android ARM源码

    [TOC] 编译移植Android ARM源码 android源码编译的四个流程:1. 源码下载; 2. 构建编译...

  • lua 源码编译

    lua 源码编译 本文介绍了使用 Visual Studio 编译 lua 源码的方法。 下载源码 源码下载在 这...

  • WebRTC研究 (一) 编译源码

    @[TOC](WebRTC研究 (一) 编译源码) 1. WebRTC 源码编译 1.1 IOS平台编译 1.1....

  • python深入系列(一):python源码运行流程

    源码编译 要看懂源码,肯定要学会编译源码。先去官网下载源码文件,然后解压编译安装。linux环境下进解压目录依次运...

  • JVM内存模型与数据结构

    JAVA代码执行过程 JAVA源码编译由三个过程组成:源码编译机制、类加载机制、类执行机制。代码编译由JAVA源码...

  • WebRTC for Android-源码编译篇

    目录 编译环境搭建 代码同步 编译参数配置 源码编译 踩过的问题 总结 一、编译环境搭建 首先,WebRTC源码编...

  • ijkplayer(一) 编译

    源码获取 源码拉取 错误 解决 查看分支 分支切换 2 android 编译 2.1 源码编译 2.1.1 根目录...

  • 002-【Spring】源码编译

    Spring源码编译 1、理解编译过程 1)Spring源码依赖gradle进行编译 2)不同版本的Spring依...

网友评论

      本文标题:spark2.1源码编译

      本文链接:https://www.haomeiwen.com/subject/vofotqtx.html