美文网首页
编译hadoop2.6.0-cdh5.7.0支持压缩

编译hadoop2.6.0-cdh5.7.0支持压缩

作者: 喵星人ZC | 来源:发表于2019-04-19 23:06 被阅读0次

    一、下载以下软件

    软件 百度链接 提取码
    hadoop2.6.0-cdh5.7.0 https://pan.baidu.com/s/1pylcKbLDI8LmMyKO0yrxJA 2k7c
    protobuf-2.5.0.tar.gz https://pan.baidu.com/s/165KNdYfORcKDMoDVk1El7w 7c37
    repo.tar https://pan.baidu.com/s/1IrNJclLE52xwVRDbL7Tgmg 56t1

    二、安装依赖库

    [root@hadoop001 ~]# yum install -y svn ncurses-devel
    [root@hadoop001 ~]# yum install -y gcc gcc-c++ make cmake
    [root@hadoop001 ~]# yum install -y openssl openssl-devel svn ncurses-devel zlib-devel libtool
    [root@hadoop001 ~]# yum install -y snappy snappy-devel bzip2 bzip2-devel lzo lzo-devel lzop autoconf 
    

    三、安装JDK1.8及Maven3.3.9(自行百度安装)

    四、安装protobuf

    tar -zxvf protobuf-2.5.0.tar.gz -C ../../app/
    --------------------------------------------------------------------
    cd /home/hadoop/soul/app/protobuf-2.5.0
    --------------------------------------------------------------------
    ./configure  --prefix=/home/hadoop/soul/app/protobuf-2.5.0
    --------------------------------------------------------------------
     make && make install
    --------------------------------------------------------------------
    添加至环境变量
    --------------------------------------------------------------------
    查看版本显示以下内容即为配置成功
    [hadoop@hadoop000 protobuf-2.5.0]$ protoc --version
    libprotoc 2.5.0
    

    五、将依赖包解压至Maven的Repository
    解压的包都是编译Hadoop时需要去下载的,拷贝Repository后可以加快编译

    [hadoop@hadoop000 soft]$ tar -zxvf repo.tar.gz -C ../data/mvn_repo/
    

    六、编译

    [hadoop@hadoop000 source]$ tar -zxvf hadoop-2.6.0-cdh5.7.0-src.tar.gz
    --------------------------------------------------------------------
    进入加压后的源码目录
    [hadoop@hadoop000 source]$ cd hadoop-2.6.0-cdh5.7.0
    --------------------------------------------------------------------
    执行编译命令
    
    mvn clean package -Pdist,native -DskipTests -Dtar
    

    七、错误解决
    错误信息:


    image.png

    将JDK降级到1.7版本,重新编译。

    mvn clean package -Pdist,native -DskipTests -Dtar
    
    mvn clean validate -Denforcer.skip=true -DskipTests -Pdist,native -Dtar
    
    mvn clean package -Dmaven.javadoc.skip=true -Denforcer.skip=true -DskipTests -Pdist,native -Dtar
    

    相关文章

      网友评论

          本文标题:编译hadoop2.6.0-cdh5.7.0支持压缩

          本文链接:https://www.haomeiwen.com/subject/kjimwqtx.html