美文网首页
安装Apache Storm

安装Apache Storm

作者: 软件测试小白 | 来源:发表于2022-02-08 19:32 被阅读0次

    Apache Storm是一个免费的开源分布式实时计算系统。Apache Storm使可靠地处理无界数据流变得容易,为实时处理做了Hadoop为批处理做的事情。Apache Storm很简单,可以和任何编程语言一起使用,使用起来很有趣!Apache Storm有很多用例:实时分析、在线机器学习、连续计算、分布式RPC、ETL等等。ApacheStorm速度很快:一个基准测试显示每个节点每秒处理超过一百万个元组。它是可扩展的,容错的,保证您的数据将被处理,并且易于设置和操作。

    Apache Storm集成了您已经使用的排队和数据库技术。Apache Storm拓扑消耗数据流,并以任意复杂的方式处理这些流,根据需要在计算的每个阶段之间重新划分这些流。阅读教程中的更多内容。

    1. 安装相关包

    /home/jerry#sudo  apt-get install libtool

    /home/jerry#sudo  apt-get install autoconf

    /home/jerry#sudo  apt-get install automake

    /home/jerry#sudo  apt-get install g++

    /home/jerry#sudo  apt-get install uuid

    /home/jerry#sudo  apt-get install python

    (一般ubuntu会自带Python,不需要下载)

    2. 安装Zeromq

    下载zeromq-4.0.10.zip,下载地址https://github.com/zeromq/zeromq4-x/releases/download/v4.0.10/zeromq-4.0.10.zip

    进入解压后的文件夹在/usr/local/zeromq/,依次执行:

    /usr/local/zeromq#./configure

    /usr/local/zeromq#apt  install make

    /usr/local/zeromq#make

    3. 安装jzmq

    jzmq是JNI封装的ZMQ的Java库,storm需要通过它来使用ZMQ,我下载的是3.1.0版本的。下载地址:https://github.com/zeromq/jzmq/archive/v3.1.0.zip

    进入解压后的文件夹在/usr/local/jzmq/,依次执行

    /usr/local/jzmq#apt-get  install libzmq3-dev

    /usr/local/jzmq#./autogen.sh

    /usr/local/jzmq#./configure

    /usr/local/jzmq#make

    4、启动zookeeper

    5、安装storm

    下载apache-storm-2.0.0-src.tar.gz,注意不要下载apache-storm-src-2.0.0-src.tar.gz

    /home/jerry#tar  -xzf apache-storm-2.0.0-src.tar.gz -C /usr/local

    /home/jerry#cd  /usr/local

    /usr/local#mv  apache-storm-2.0.0 storm

    /usr/local#gedit  ~/.bashrc

    exportSTORM_HOME=/usr/local/stormexportPATH=$PATH:$STORM_HOME/bin

    /usr/local#source  ~/.bashrc

    /usr/local#cd  storm

    /usr/local/storm#mkdir  stormlocaldir

    /usr/local/storm#gedit  conf/storm.yaml

    storm.zookeeper.servers:-"127.0.0.1"nimbus.host:"127.0.0.1"storm.local.dir: /usr/local/storm/stormlocaldirsupervisor.slots.ports: -6700 -6701 -6702 -6703

    6、启动storm

    1)启动zookeeper

    /usr/local/storm#zkServer.sh start

    2)启动storm numbus

    /usr/local/storm#bin/storm  nimbus &

    3)启动Storm supervisor

    /usr/local/storm#./storm  supervisor &

    7、检查

    /usr/local/storm#  jps

    61648  nimbus

    2864  JobHistoryServer

    2705  SecondaryNameNode

    2470  DataNode

    61846  Supervisor

    62135  Jps

    2327  NameNode

    3197  HQuorumPeer

    相关文章

      网友评论

          本文标题:安装Apache Storm

          本文链接:https://www.haomeiwen.com/subject/ixqikrtx.html