0


KAFKA (2.12-2.2.1)常用命令和kafka tool 工具使用

KAFKA (2.12-2.2.1)常用命令

查看topic

查看所有topic列表

#集群地址以逗号分隔如 ip1:9092, ip2:9092, ip3:9092

./kafka-topics.sh --list --bootstrap-server ip:9092

在这里插入图片描述

新建分区1副本1的topic

./kafka-topics.sh --bootstrap-server ip:9092 --create --topic demo0218 --partitions 1 --replication-factor 1

查看某个topic
./kafka-topics.sh --bootstrap-server ip:9092 --describe --topic demo0218

在这里插入图片描述
#修改demo0218分区为3(分区数建议只增不减,分区数据不好处理)

#分区内部消息有序,分区之间消息无序

./kafka-topics.sh --bootstrap-server ip:9092 --alter --topic demo0218 --partitions 3

在这里插入图片描述

生产消息

./kafka-console-producer.sh --broker-list ip:9092 --topic demo0218

在这里插入图片描述
在这里插入图片描述

消费消息

#–from-beginning :

#加上:会把topic中以往所有的数据都读取出来

#不加:此时只会消费最新的数据,原来topic中的数据不会被消费

./kafka-console-consumer.sh --bootstrap-server ip:9092 -from-beginning --topic demo0218 --group hik0218
在这里插入图片描述
查看指定消费者组的消费topic 的位置情况,查看消费是否存在积压(LAG)
./kafka-consumer-groups.sh --bootstrap-server ip:9092 --group hik0218 –describe
在这里插入图片描述

删除topic demo0228
./kafka-topics.sh --bootstrap-server ip:9092 --delete --topic demo0218

在这里插入图片描述

Kafka tool简介

Kafka tool为kafka 较为通用的客户端连接工具之一,通过连接kafka直接明了的查看kafka数据、创建删除topic,添加kafka数据完成简单流程验证、查看topic消费情况等功能

Kafka Tool 工具下载地址:

http://www.kafkatool.com/download.html
Kafka 连接配置
1)启动 Kafka Tool

在安装目录下,双击可执行文件 kafkatool.exe,启动 Kafka Tool
在这里插入图片描述
2)配置 Kafka 连接信息

File -> Add New Connection…

在这里插入图片描述
【注意】需要在 C:\Windows\System32\drivers\etc 下的 hosts 文件中,添加入 kafka 的集群域名(配置保存后,需要重启KafkaTools才能读取hosts文件中的内容)

例如:

在这里插入图片描述

查看 Kafka 数据

1)查看 Kafka 数据

选择一个Topic -> Data,点击查询即可看到数据(但是Key和Message是二进制的,不能直观的看到具体的消息信息,需要设置展示格式)

Messages选择Newest,表示查看最新的Kafka数据;

结果列表中的每列,通过点击表头,可以按照升序或者降序排序(一般用在时间字段排序,方便查看最新数据)。
在这里插入图片描述

2)设置 Kafka 数据展示格式

在Tools -> Settings -> Topics,将 Key 和 Message 均设置为String 保存。这样是全局设置,对所有 Topic 均生效。

在这里插入图片描述
在这里插入图片描述
如果只是想单独设置某个 Topic,可以选中某个 Topic,在 Properties -> Content Type 中,将显示格式设置为String,点击 Update -> Refresh 即可生效

在这里插入图片描述
设置后的数据列表如下

在这里插入图片描述

3)查看具体某一条消息

选中某一个message,点击“Message”查看详情,默认是“Text”格式(如果想看到JSON格式,只需要设置下“View Data As”即可)

在这里插入图片描述
在这里插入图片描述
“View Data As”设置为 JSON 后,消息信息格式如下

在这里插入图片描述
4)过滤查询 Kafka 消息
可以按照Offset(偏移量),Key(消息key),Message(消息主体),Regex(正则表达式)进行单个或者组合查询

在这里插入图片描述

使用 Kafka Tool 创建 Topic

1) 创建 Topic

步骤如下:

1、鼠标右键点击 “Topics” 文件夹图标 -> 选择 “Create Topic”,或者点击“Topics”,单击右侧页面中的“+”,会弹出“Add Topic”页面;

2、填写需要创建的Topic名称,分区数和备份数,点击“Add”添加,即可创建 topic。

效果如下:
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

2)查看创建的 Topic

创建的出来的 topic, 可以在 Topic 列表或者通过 Kafka topic 命令查看。
在这里插入图片描述

3)删除 Topic

如果因为失误导致创建的 topic 不是自己想要的,想进行删除,也可以通过 KafkaTool 进行界面化删除。

效果如下:
在这里插入图片描述

4)补充说明

如果通过 Kafka Tool 创建 topic 失败,请确认如下两点:

a)是否按照如下截图配置的Cluster Connection

(本次举例是单台机器,如果实际是集群,需要把 bootstrap servers进行集群配置,如3台集群配置:192.168.71.129:9092,192.168.71.130:9092,192.168.71.131:9092)

在这里插入图片描述
b)是否按照kafka连接配置的说明在hosts文件中配置了域名

在这里插入图片描述

使用 Kafka Tool 模拟发送 Messages

操作步骤如下:

点击“Topics” -> 选择一个 topic(如:topic01) -> 选择分区(如:Partition 0),点击右侧“Data”里的“+”,会弹出“Add Message”页面。

其中,Key 和 Message 均支持两种方式:From file 和 Enter Manually[Text]

From file:就是数据来源于文件,需要上传文件(个人建议上传txt格式文件)

Enter Manually[Text]:手动输入

二者可以混合搭配使用,并且 Key 和 Message 二者必须有值,否则会报错.
效果如下:

在这里插入图片描述

场景1:Key 和 Message 均选择手动输入

在这里插入图片描述

场景2:Key 和 Message 均选择来自文件

在这里插入图片描述

场景3:Key 和 Message 其中一个来自文件,一个来自手动输入

在这里插入图片描述
在这里插入图片描述
txt文件中内容如下:

在这里插入图片描述
消费者消费到的模拟数据
在这里插入图片描述
消费命令如下:

./kafka-console-consumer.sh --bootstrap-server 192.168.71.129:9092 --topic topic01

标签: kafka 分布式

本文转载自: https://blog.csdn.net/tian830937/article/details/129831509
版权归原作者 懒鸟一枚 所有, 如有侵权,请联系我们删除。

“KAFKA (2.12-2.2.1)常用命令和kafka tool 工具使用”的评论:

还没有评论