Kafka相关的一些基础概念

0 小序

    在上一篇《HBase相关的一些基础概念》中就提到，星环的那次面试，面试官把我问懵了。除了HBase就是kafka了，所以今天总结下kafka的相关知识。

1 Kafka的定义

    Kafka是一个分布式的基于发布/订阅模式的消息队列（Message Queue），主要应用于大数据实时处理领域。

2 Kafka消息队列的两种模式

1.点对点模式（一对一，消费者主动拉取数据，收到消息后清除消息）

    消息的生产者生产消息，发送到队列中，然后消费者从队列中取出并消费消息。消息被消费后，队列中不再存储，所以消费者不可能消费到已经被已经被消费过的消息。队列支持存在多个消费者，但是对一个消息而言，只会被一个消费者消费。

2.发布/订阅模式（一对多，消费者消费数据之后不会清除消息）

    消息生产者（发布）将消息发布到topic中，同时有多个消费者订阅该消息。这与点对点模式不同，发布到topic中的消息会被所有订阅者消费。消费者主动拉取队列中的消息。

3 Kafka的基础架构

1. 生产者生产消息
2. kafka集群管理消息
3. 消费者消费消息
4. Zookeeper注册消息

4 Kafka的一些名词

1. Producer：消息生产者，向kafka发消息的客户端
2. Consumer：消息消费者，向kafka broker取消息的客户端。
3. Consumer Group（CG）：消费者组，由多个Consumer组成。消费者组内每个消费者负责消费不同分区的数据，一个分区只能由一个组内消费者消费，消费者组之间互不影响。任何一个消费者都属于某个消费者组，即消费者组是逻辑上的一个订阅者。
4. broker：一台kafka服务器就是一个broker。一个集群由多个broker组成。一个broker可以容纳多个topic。
5. topic：生产者和消费者面向的消息队列。、
6. Partition：为了实现扩展性，一个非常大的topic可以分布到多个broker（即服务器）上，一个topic可以分为多个partition，每个partition是一个有序的队列。
7. replica：副本，为保证集群中的某个节点发生故障，该节点上的partition数据不丢失，且kafka仍然能够继续工作，kafka提供了副本机制，一个topic的每个分区都有若干个副本，一个leader和若干个follower。
8. leader：每个分区多个副本的“主”。生产者发送数据的对象，以及消费者消费数据的对象。
9. follower：每个分区多个副本的“从”。实时从leader中同步数据，保持和leader数据的同步。leader发生故障时，某个follower会成为新的leader。