美文网首页
Kafka in OSX

Kafka in OSX

作者: SnarkyGoblin | 来源:发表于2017-08-31 17:44 被阅读0次

    简单说明什么是kafka

    Apache kafka是消息中间件的一种,我发现很多人不知道消息中间件是什么,在开始学习之前,我这边就先简单的解释一下什么是消息中间件,只是粗略的讲解,目前kafka已经可以做更多的事情。

    举个例子,生产者消费者,生产者生产鸡蛋,消费者消费鸡蛋,生产者生产一个鸡蛋,消费者就消费一个鸡蛋,假设消费者消费鸡蛋的时候噎住了(系统宕机了),生产者还在生产鸡蛋,那新生产的鸡蛋就丢失了。再比如生产者很强劲(大交易量的情况),生产者1秒钟生产100个鸡蛋,消费者1秒钟只能吃50个鸡蛋,那要不了一会,消费者就吃不消了(消息堵塞,最终导致系统超时),消费者拒绝再吃了,”鸡蛋“又丢失了,这个时候我们放个篮子在它们中间,生产出来的鸡蛋都放到篮子里,消费者去篮子里拿鸡蛋,这样鸡蛋就不会丢失了,都在篮子里,而这个篮子就是”kafka“。

    鸡蛋其实就是“数据流”,系统之间的交互都是通过“数据流”来传输的(就是tcp、http什么的),也称为报文,也叫“消息”。

    消息队列满了,其实就是篮子满了,”鸡蛋“ 放不下了,那赶紧多放几个篮子,其实就是kafka的扩容。

    各位现在知道kafka是干什么的了吧,它就是那个"篮子"。

    Apache Kafka is a highly-scalable publish-subscribe messaging system that can serve as the data backbone in distributed applications. With Kafka’s Producer-Consumer model it becomes easy to implement multiple data consumers that do live monitoring as well persistent data storage for later analysis.

    https://kafka.apache.org/

    名词解释


    producer:生产者,就是它来生产“鸡蛋”的。

    consumer:消费者,生出的“鸡蛋”它来消费。

    topic:你把它理解为标签,生产者每生产出来一个鸡蛋就贴上一个标签(topic),消费者可不是谁生产的“鸡蛋”都吃的,这样不同的生产者生产出来的“鸡蛋”,消费者就可以选择性的“吃”了。

    broker:就是篮子了。


    安装

    STEP 1

    $ brew search kafka

    $ brew installkafka

    STEP 2 启动 Zookeeper

    $ zkserver start


    STEP 3 启动 kafka

    $ cd /usr/local/Cellar/kafka/0.10.1.0/bin

    $ kafka-server-start  /usr/local/etc/kafka/server.properties

    STEP 4 消费消息

    Kafka也提供了一个消费消息的命令行工具,将存储的信息输出出来。

    $ kafka-console-consumer --zookeeper localhost:2181 --topic test --from-beginning

    STEP 5 发送消息

    Kafka提供了一个命令行的工具,可以从输入文件或者命令行中读取消息并发送给Kafka集群。每一行是一条消息。

    $ kafka-console-producer --broker-list localhost:9092 --topic test

    $ Sending a messageinKafka

    参考:

    https://kafka.apache.org/

    http://www.orchome.com/kafka/index

    相关文章

      网友评论

          本文标题:Kafka in OSX

          本文链接:https://www.haomeiwen.com/subject/mdbjmttx.html