Kafka的安装与配置

安装前的环境准备

由于Kafka是用Scala语言开发的，运行在JVM上，因此在安装Kafka之前需要先安装JDK。

yum install java-1.8.0-openjdk* -y

kafka依赖zookeeper，所以需要先安装zookeeper

# 下载zookeeperwget https://archive.apache.org/dist/zookeeper/zookeeper-3.5.8/apache-zookeeper-3.5.8-bin.tar.gz

# 解压zookeeper到/usr/local/tar -zxvf apache-zookeeper-3.5.8-bin.tar.gz -C /usr/local/

# 打开zookeeper目录下复制一份配置文件cd  apache-zookeeper-3.5.8-bin
cp conf/zoo_sample.cfg conf/zoo.cfg

启动zookeeper

bin/zkServer.sh start

连接客户端

# 连接客户端
bin/zkCli.sh 

查看zk的根目录相关节点

# 查看zk的根目录相关节点ls /            

第一步：下载安装包

下载2.4.1 release版本，并解压：

# 下载kafka安装包wget https://archive.apache.org/dist/kafka/2.4.1/kafka_2.11-2.4.1.tgz  # 2.11是scala的版本，2.4.1是kafka的版本# 解压kafka安装到/usr/local/tar -xzf kafka_2.11-2.4.1.tgz -C /usr/local/
# 打开安装后的kafka目录cd /usr/local/kafka_2.11-2.4.1/

第二步：修改配置

修改配置文件config/server.properties:

vim config/server.properties

broker.id属性在kafka集群中必须要是唯一

# broker.id属性在kafka集群中必须要是唯一
broker.id=0

kafka的消息存储文件

# kafka的消息存储文件
log.dir=/usr/local/data/kafka-logs

kafka连接zookeeper的地址

# kafka连接zookeeper的地址
zookeeper.connect=192.168.130.124:2181

kafka部署的机器ip和提供服务的端口号

# kafka部署的机器ip和提供服务的端口号listeners=PLAINTEXT://192.168.130.124:9092   

第三步：启动服务

现在来启动kafka服务：
启动脚本语法：kafka-server-start.sh [-daemon] server.properties
可以看到，server.properties的配置路径是一个强制的参数，-daemon表示以后台进程运行，否则ssh客户端退出后，就会停止服务。(注意，在启动kafka时会使用linux主机名关联的ip地址，所以需要把主机名和linux的ip映射配置到本地host里，用vim /etc/hosts)

# 直接启动kafka
bin/kafka-server-start.sh config/server.properties

# 启动kafka，运行日志在logs目录的server.log文件里
bin/kafka-server-start.sh -daemon config/server.properties   #后台启动，不会打印日志到控制台
或者用
bin/kafka-server-start.sh config/server.properties &# 我们进入zookeeper目录通过zookeeper客户端查看下zookeeper的目录树
bin/zkCli.sh 
ls /        #查看zk的根目录kafka相关节点ls /brokers/ids    #查看kafka节点# 停止kafka
bin/kafka-server-stop.sh

server.properties核心配置详解：

PropertyDefaultDescriptionbroker.id0每个broker都可以用一个唯一的非负整数id进行标识；这个id可以作为broker的“名字”，你可以选择任意你喜欢的数字作为id，只要id是唯一的即可。log.dirs/tmp/kafka-logskafka存放数据的路径。这个路径并不是唯一的，可以是多个，路径之间只需要使用逗号分隔即可；每当创建新partition时，都会选择在包含最少partitions的路径下进行。listenersPLAINTEXT://192.168.130.124:9092server接受客户端连接的端口，ip配置kafka本机ip即可zookeeper.connectlocalhost:2181zooKeeper连接字符串的格式为：hostname:port，此处hostname和port分别是ZooKeeper集群中某个节点的host和port；zookeeper如果是集群，连接方式为 hostname1:port1, hostname2:port2, hostname3:port3log.retention.hours168每个日志文件删除之前保存的时间。默认数据保存时间对所有topic都一样。num.partitions1创建topic的默认分区数default.replication.factor1自动创建topic的默认副本数量，建议设置为大于等于2min.insync.replicas1当producer设置acks为-1时，min.insync.replicas指定replicas的最小数目（必须确认每一个repica的写数据都是成功的），如果这个数目没有达到，producer发送消息会产生异常delete.topic.enablefalse是否允许删除主题

第四步：创建主题

现在我们来创建一个名字为“test”的Topic，这个topic只有一个partition，并且备份因子也设置为1：

bin/kafka-topics.sh --create --zookeeper 192.168.130.124:2181 --replication-factor 1 --partitions 1 --topic test

现在我们可以通过以下命令来查看kafka中目前存在的topic

bin/kafka-topics.sh --list --zookeeper 192.168.130.124:2181

除了我们通过手工的方式创建Topic，当producer发布一个消息到某个指定的Topic，这个Topic如果不存在，就自动创建。

删除主题

bin/kafka-topics.sh --delete --topic test --zookeeper 192.168.130.124:2181

第五步：发送消息

kafka自带了一个producer命令客户端，可以从本地文件中读取内容，或者我们也可以以命令行中直接输入内容，并将这些内容以消息的形式发送到kafka集群中。在默认情况下，每一个行会被当做成一个独立的消息。
首先我们要运行发布消息的脚本，然后在命令中输入要发送的消息的内容：

# 如果主题不存在会自动创建主题
bin/kafka-console-producer.sh --broker-list 192.168.130.124:9092 --topic test>hello world
>

第六步：消费消息

对于consumer，kafka同样也携带了一个命令行客户端，会将获取到内容在命令中进行输出，默认是消费最新的消息：

bin/kafka-console-consumer.sh --bootstrap-server 192.168.130.124:9092 --topic test

如果想要消费之前的消息可以通过–from-beginning参数指定，如下命令：

bin/kafka-console-consumer.sh --bootstrap-server 192.168.130.124:9092 --from-beginning --topic test

如果你是通过不同的终端窗口来运行以上的命令，你将会看到在producer终端输入的内容，很快就会在consumer的终端窗口上显示出来。
以上所有的命令都有一些附加的选项；当我们不携带任何参数运行命令的时候，将会显示出这个命令的详细用法。