美文网首页我爱编程
大数据0基础-hadoop编译

大数据0基础-hadoop编译

作者: 秋水飘逸 | 来源:发表于2018-05-16 15:49 被阅读0次

1、jdk安装

创建/usr/java目录,注意必须要装在/usr/java下

#mkdir  /usr/java

上传jdk文件到/usr/java目录

#rz

解压

#tar -xzvf  jdk-8u45-linux-x64.gz  -C  /usr/java

设置环境变量

#vi   /etc/profile

文件末尾添加:export  JAVA_HOME=/usr/java/jdk1.8.0_45

export   PATH=$JAVA_HOME/bin:$PATH,保存退出

#source /etc/profile

测试

[root@zhuifeng ~]# java -version

java version "1.8.0_45"

Java(TM) SE Runtime Environment (build 1.8.0_45-b14)

Java HotSpot(TM) 64-Bit Server VM (build 25.45-b02, mixed mode)

2、Maven安装

说明

Maven项目对象模型(POM),可以通过一小段描述信息来管理项目的构建,报告和文档的软件项目管理工具。可以自动管理jar包依赖,且编译、发布。

解压到/software

#unzip  apache-maven-3.3.9-bin.zip

配置环境变量

#vi  /etc/profile

export  MAVEN_HOME=/software/apache-maven-3.3.9

export MAVEN_OPTS="-Xms256m -Xmx512m"

export PATH=$MAVEN_HOME/bin:$JAVA_HOME/bin:$PATH

测试

[root@zhuifeng ~]# mvn --version

Apache Maven 3.3.9 (bb52d8502b132ec0a5a3f4c09453c07478323dc5; 2015-11-11T00:41:47+08:00)

Maven home: /software/apache-maven-3.3.9

Java version: 1.8.0_45, vendor: Oracle Corporation

Java home: /usr/java/jdk1.8.0_45/jre

Default locale: en_US, platform encoding: UTF-8

OS name: "linux", version: "2.6.32-358.el6.x86_64", arch: "amd64", family: "unix"

仓库配置(因为受限于Maven下载jar包的速度太慢,所以提前备份了仓库,直接导入即可)

#cd  ~ //Maven默认的仓库路径是家目录下.m2/repository,所以在家目录解压即可

[root@zhuifeng ~]# pwd

/root

[root@zhuifeng ~]# tar -zxvf .m2.tar.gz

[root@zhuifeng repository]# pwd

/root/.m2/repository

3、Protobuf安装

说明

Google Protocol Buffer(简称 Protobuf)是一种轻便高效的结构化数据存储格式,平台无关、语言无关、可扩展,可用于通讯协议数据存储等领域。

解压

[root@zhuifeng software]# pwd

/software

[root@zhuifeng software]# tar -zxvf protobuf-2.5.0.tar.gz

编译安装

[root@zhuifeng protobuf-2.5.0]# ./configure --prefix=/usr/local/protobuf

[root@zhuifeng protobuf-2.5.0]# make && make install

配置环境变量

[root@zhuifeng protobuf-2.5.0]# vi /etc/profile

export PROTOC_HOME=/usr/local/protobuf

export PATH=$PROTOC_HOME/bin:$MAVEN_HOME/bin:$JAVA_HOME/bin:$PATH

[root@zhuifeng protobuf-2.5.0]# source /etc/profile

测试

[root@zhuifeng protobuf-2.5.0]# protoc --version

libprotoc 2.5.0

4、Findbugs安装

说明

FindBugs 是一个静态分析工具,它检查类或者 JAR 文件,将字节码与一组缺陷模式进行对比以发现可能的问题。有了静态分析工具,就可以在不实际运行程序的情况对软件进行分析

解压

[root@zhuifeng software]# unzip findbugs-1.3.9.zip

配置环境变量

[root@zhuifeng software]# vi /etc/profile

export FINDBUGS_HOME=/software/findbugs-1.3.9

export PATH=$FINDBUGS_HOME/bin:$MAVEN_HOME/bin:$JAVA_HOME/bin:$PATH

[root@zhuifeng software]# source /etc/profile

测试

[root@zhuifeng software]# findbugs -version

1.3.9

5、其他组件检查,如果没有就自己装,我这都有了

[root@zhuifeng software]# rpm -aq|grep openssl

openssl098e-0.9.8e-17.el6_2.2.x86_64

openssl-devel-1.0.0-27.el6.x86_64

openssl-1.0.0-27.el6.x86_64

krb5-pkinit-openssl-1.10.3-10.el6.x86_64

[root@zhuifeng software]# rpm -aq|grep svn

kmid-common-2.0-0.14.20080213svn.el6.noarch

kmid-2.0-0.14.20080213svn.el6.x86_64

libdvdread-4.1.4-0.3.svn1183.el6.x86_64

ltrace-0.5-23.45svn.el6.x86_64

eclipse-svnkit-1.3.0-3.el6.x86_64

mod_dav_svn-1.6.11-7.el6.x86_64

svnkit-1.3.0-3.el6.x86_64

matchbox-window-manager-1.2-6.20070628svn.1.el6.x86_64

[root@zhuifeng software]# rpm -aq|grep ncurses-devel

ncurses-devel-5.7-3.20090208.el6.x86_64

[root@zhuifeng software]# rpm -aq|grep zlib-devel

zlib-devel-1.2.3-29.el6.x86_64

[root@zhuifeng software]# rpm -aq|grep libtool

libtool-ltdl-2.2.6-15.5.el6.x86_64

libtool-2.2.6-15.5.el6.x86_64

6、编译hadoop源码

[root@zhuifeng software]# pwd

/software

[root@zhuifeng software]# tar -zxvf hadoop-2.8.1-src.tar.gz

[root@zhuifeng software]# cd hadoop-2.8.1-src

[root@zhuifeng hadoop-2.8.1-src]# mvn clean package -Pdist,native -DskipTests -Dtar

检查成功

[INFO] BUILD SUCCESS

[INFO] ------------------------------------------------------------------------

[INFO] Total time: 16:47 min

[INFO] Finished at: 2018-05-16T15:43:37+08:00

[INFO] Final Memory: 194M/494M

[INFO] ------------------------------------------------------------------------

[root@zhuifeng hadoop-2.8.1-src]#

最终生成可用的hadoop包在

[root@zhuifeng repository]# cd /software/hadoop-2.8.1-src/hadoop-dist/target/

[root@zhuifeng target]# ls -lhd hadoop-2.8.1.tar.gz

-rw-r--r-- 1 root root 186M May 16 15:42 hadoop-2.8.1.tar.gz

相关文章

网友评论

    本文标题:大数据0基础-hadoop编译

    本文链接:https://www.haomeiwen.com/subject/ltypdftx.html