美文网首页
亚马逊大数据组件安装(sqoop,mahout,oozie)

亚马逊大数据组件安装(sqoop,mahout,oozie)

作者: 似水之星 | 来源:发表于2018-05-08 00:10 被阅读0次

    在http://archive.cloudera.com/cdh5/cdh/5/找到对应Hadoop版本的大数据组件。

    一、安装sqoop

    1.1 下载sqoop

    在http://archive.cloudera.com/cdh5/cdh/5/上下载sqoop2-1.99.5-cdh5.8.2.tar.gz

    1.2 解压sqoop

    tar -zxvf sqoop2-1.99.5-cdh5.8.2.tar.gz

    mv sqoop2-1.99.5-cdh5.8.2 sqoop

    cd sqoop

    mkdir logs

    1.3 添加mysql-connector-java-5.1.45.jar包

    把mysql-connector-java-5.1.45.jar放到sqoop/server/lib文件夹。

    1.4 添加配置

    在/etc/profile里面添加如下配置:

     export SQOOP_HOME=/data/wlas/sqoop

    export PATH=$PATH:$SQOOP_HOME/bin

     export CATALINA_BASE=$SQOOP_HOME/server

     export LOGDIR=$SQOOP_HOME/logs/

    使配置生效

    source /etc/profile

    1.5 启动程序

    启动服务器:

    ./bin/sqoop.sh server start

    查看服务器是否启动:

    jps

    启动客户端:

    $SQOOP_HOME/bin/sqoop.sh client

    set server --host localhost 12000 --webapp sqoop

    show version --all

    报错,重启服务端:

    ./sqoop.sh server stop

    ./sqoop.sh server start


    二、安装mahout

    2.1 下载mahout

    在http://archive.cloudera.com/cdh5/cdh/5/上下载mahout-0.9-cdh5.8.2.tar.gz

    2.2 解压mahout

    tar -zxvf mahout-0.9-cdh5.8.2.tar.gz

    mv mahout-0.9-cdh5.8.2 mahout

    cd mahout

    mkdir logs




    email:526270285@qq.com

    相关文章

      网友评论

          本文标题:亚马逊大数据组件安装(sqoop,mahout,oozie)

          本文链接:https://www.haomeiwen.com/subject/ivvmxftx.html