美文网首页
Zookeeper Kafka window环境集群配置

Zookeeper Kafka window环境集群配置

作者: 其实这个名字就叫这个名字 | 来源:发表于2020-05-11 18:45 被阅读0次

    1.集群规划

    在一台服务器上开启三个zookeeper服务zookeeper-server1,zookeeper-server2,zookeeper-server3,和三个Kafka服务kafka-server1,kafka-server2,kafka-server3集群

    本机IP:192.168.11.251

    Zookeeper默认端口是2181,设置对应的Zookeeper服务端口:

    zookeeper-server1->2181,

    zookeeper-server2->2182,

    zookeeper-server3->2183

    Zookeeper:

    格式: server.A = B:C:D**

    A:是一个数字,表示第几号服务器

    B:服务器IP地址

    C:是一个端口号,用来集群成员的信息交换,表示这个服务器与集群中的leader服务器交换信息的端口

    D:是在leader挂掉时专门用来进行选举leader所用的端口

    配置:

    server.1=192.168.11.251:7001:9001

    server.2=192.168.11.251:7002:9002

    server.3=192.168.11.251:7003:9003

    Kafka默认端口是9092,设置对应的Zookeeper服务端口:

    kafka-server1->9091,

    kafka-server2->9092,

    kafka-server3->9093

    2.zookeeper安装部署

    1.官网下载zookeeper,我用的是3.3.6版本:http://mirror.bit.edu.cn/apache/zookeeper/zookeeper-3.3.6/

    2.将解压后的zookeeper文件夹,复制三份,分别命名为server1,server2,server3;

    3.在当前目录下建立两个文件夹data和dataLog,整体结构如下:

    4.进入data文件夹下,创建三个文件夹对应三个zookeeper服务器,在dataLog文件夹中同样新建这三个文件夹

    5.分别进入data文件夹下的server1,server2,server3,新建文件myid(文件无后缀),在对应的myid文件中分别对应写如1,2,3,dataLog中的文件夹无此操作

    6.修改zookeeper-server1/conf/zoo.cfg,修改以下几处内容

    (1). dataDir: 修改为 dataDir=D:/kafka-cluster/zookeeper/data/server1

    (2).dataLogDir修改为:dataLogDir=D:/kafka-cluster/zookeeper/datalog/server1

    (3).clientPort,默认的端口是2181,修改server1端口:clientPort=2182

    (4).文件末尾加入三个server的地址

    #这里server.x含义,如server.1  这个 1 就是我们刚刚建立的myid文件 里面的文本1

    server.1=192.168.11.251:7001:9001​

    server.2=192.168.11.251:7002:9002​

    server.3=192.168.11.251:7003:9003

    其他两个服务下对应的zoo.cfg分别修改这三处为对应的地址,其中server2的端口修改为clientPort=2182,server3的端口修改为:clientPort=2183

    7.分别启动三个服务,只有当三个服务都正常启动时,每一个服务才不会报错。

    在每个zookeeper-server1/bin 目录下新建文件 start-zkServer.bat ,内容为:

       title zkServer-1

        zkServer.cmd

    复制该文件带其他两个server对应的目录下,修改title为对应的server即可,双击该文件即可启动对应的server

    注意:当启动第三个服务时会报 zkadmin端口8080被占用的问题,集群中我们可以禁用akadmin服务,

    "-Dzookeeper.admin.enableServer=false"

    修改每个server下的bin目录里面的zkServer.cmd 文件,如图所示

    2.kafka安装部署

    1.kafka官网下载kafkahttps://www.apache.org/dyn/closer.cgi?path=/kafka/2.5.0/kafka_2.12-2.5.0.tgz解压并且复制三分,分别重命名为kafka-server1,kafka-server2,kafka-server3,如图所示:

    新建文件夹kafkalogs,用来存储kafka日志文件,在里面新建三个文件夹,命名为server1,server2,server3

    2.进入kafka-server1/config,修改文件server.properties的配置:

    (1).修改broker.id为:broker.id=1

    (2).添加端口:port=9091

    (3).添加host.name:host.name=192.168.11.251

    (4).添加 # kafka集群的地 broker.list=192.168.11.251:9091,192.168.11.251:9092,192.168.11.251:9093

    (5).修改log.dirs:log.dirs=D:/kafka-cluster/kafka/kafkalogs/server1

    (6).修改zookeeper的集群地址:

    zookeeper.connect=192.168.11.251:2181,192.168.11.251:2182,192.168.11.251:2183

    然后复制该文件到其他两个server的目录中,修改以上内容为和server对应的内容,

    其中,server2的broker.id=2,端口为port=9092,log.dirs:log.dirs=D:/kafka-cluster/kafka/kafkalogs/server2,以此类推。

    3.在kafka-server1/bin/windows 下新建文件 start-kafka-server.bat,内容为:

    title kafka-server1

    kafka-server-start ../../config/server.properties

    复制该文件到其他两个server对应的文件夹下,修改title为对应的server即可,双击该文件即可启动对应的server。

    注意:要先启动zookeeper再启动kafk。

    相关文章

      网友评论

          本文标题:Zookeeper Kafka window环境集群配置

          本文链接:https://www.haomeiwen.com/subject/xilpnhtx.html