0


kafka开启JMX,EFAK要监控kafka服务器?

目录

先看看效果

首页

EFAK的 kafka os下的Memory 没有保留2位小数,但是有时候刷新又保留了2位小数,这里有点小bug
在这里插入图片描述

EFAK TV Monitor

在这里插入图片描述

kafka为啥开启JMX

监控kafka用到了EFAK,EFAK提供监控kafka的服务器信息,但是需要kfaka开启JMX,今天试了一下,其实也简单。

软件的版本号

  • kafka 版本:kafka_2.11-0.10.0.0
  • EFAK 版本:efak-web-3.0.1
  • zookeeper 版本:zookeeper-3.4.9

部署的服务器

我在3台机器上,部署了3台zookeeper,3台kafka,1台EFAK

当然EFAK也可以集群部署,我只是部署了一台

EFAK的配置文件(参考)

首先要说明EFAK的JMX我们不需修改,默认就是打开的,我这里把EFAK的配置文件放出来,就是给大家参考一下,因为这篇文章主要说的kafka开启JMX。

EFAK目录下config/system-config.properties配置

我这里使用mysql作为我的存储数据库,数据库的名称为ke
其实大部分都不用改,主要改zk 和 mysql

  1. ####################################### multi zookeeper & kafka cluster list# Settings prefixed with 'kafka.eagle.' will be deprecated, use 'efak.' instead######################################
  2. efak.zk.cluster.alias=cluster1
  3. cluster1.zk.list=node01:2181,node02:2181,node03:2181
  4. #cluster2.zk.list=xdn10:2181,xdn11:2181,xdn12:2181####################################### zookeeper enable acl######################################
  5. cluster1.zk.acl.enable=false
  6. cluster1.zk.acl.schema=digest
  7. cluster1.zk.acl.username=test
  8. cluster1.zk.acl.password=test123
  9. ####################################### broker size online list######################################
  10. cluster1.efak.broker.size=20
  11. ####################################### zk client thread limit######################################
  12. kafka.zk.limit.size=16
  13. ####################################### EFAK webui port######################################
  14. efak.webui.port=8048
  15. ####################################### EFAK enable distributed######################################
  16. efak.distributed.enable=false
  17. efak.cluster.mode.status=master
  18. efak.worknode.master.host=localhost
  19. efak.worknode.port=8085
  20. ####################################### kafka jmx acl and ssl authenticate######################################
  21. cluster1.efak.jmx.acl=false
  22. cluster1.efak.jmx.user=keadmin
  23. cluster1.efak.jmx.password=keadmin123
  24. cluster1.efak.jmx.ssl=false
  25. cluster1.efak.jmx.truststore.location=/data/ssl/certificates/kafka.truststore
  26. cluster1.efak.jmx.truststore.password=ke123456
  27. ####################################### kafka offset storage######################################
  28. cluster1.efak.offset.storage=kafka
  29. cluster2.efak.offset.storage=zk
  30. ####################################### kafka jmx uri######################################
  31. cluster1.efak.jmx.uri=service:jmx:rmi:///jndi/rmi://%s/jmxrmi
  32. ####################################### kafka metrics, 15 days by default######################################
  33. efak.metrics.charts=true
  34. efak.metrics.retain=15
  35. ####################################### kafka sql topic records max######################################
  36. efak.sql.topic.records.max=5000
  37. efak.sql.topic.preview.records.max=10
  38. ####################################### delete kafka topic token######################################
  39. efak.topic.token=keadmin
  40. ####################################### kafka sasl authenticate######################################
  41. cluster1.efak.sasl.enable=false
  42. cluster1.efak.sasl.protocol=SASL_PLAINTEXT
  43. cluster1.efak.sasl.mechanism=SCRAM-SHA-256
  44. cluster1.efak.sasl.jaas.config=org.apache.kafka.common.security.scram.ScramLoginModule required username="kafka" password="kafka-eagle";
  45. cluster1.efak.sasl.client.id=
  46. cluster1.efak.blacklist.topics=
  47. cluster1.efak.sasl.cgroup.enable=false
  48. cluster1.efak.sasl.cgroup.topics=
  49. cluster2.efak.sasl.enable=false
  50. cluster2.efak.sasl.protocol=SASL_PLAINTEXT
  51. cluster2.efak.sasl.mechanism=PLAIN
  52. cluster2.efak.sasl.jaas.config=org.apache.kafka.common.security.plain.PlainLoginModule required username="kafka" password="kafka-eagle";
  53. cluster2.efak.sasl.client.id=
  54. cluster2.efak.blacklist.topics=
  55. cluster2.efak.sasl.cgroup.enable=false
  56. cluster2.efak.sasl.cgroup.topics=
  57. ####################################### kafka ssl authenticate######################################
  58. cluster3.efak.ssl.enable=false
  59. cluster3.efak.ssl.protocol=SSL
  60. cluster3.efak.ssl.truststore.location=
  61. cluster3.efak.ssl.truststore.password=
  62. cluster3.efak.ssl.keystore.location=
  63. cluster3.efak.ssl.keystore.password=
  64. cluster3.efak.ssl.key.password=
  65. cluster3.efak.ssl.endpoint.identification.algorithm=https
  66. cluster3.efak.blacklist.topics=
  67. cluster3.efak.ssl.cgroup.enable=false
  68. cluster3.efak.ssl.cgroup.topics=
  69. ####################################### kafka sqlite jdbc driver address#######################################efak.driver=org.sqlite.JDBC#efak.url=jdbc:sqlite:/hadoop/kafka-eagle/db/ke.db#efak.username=root#efak.password=www.kafka-eagle.org####################################### kafka mysql jdbc driver address######################################
  70. efak.driver=com.mysql.cj.jdbc.Driver
  71. efak.url=jdbc:mysql://node03:3306/ke?useUnicode=true&characterEncoding=UTF-8&zeroDateTimeBehavior=convertToNull
  72. efak.username=root
  73. efak.password=123456

(重点)修改kafka的配置,开启JMX

修改kafka的bin/kafka-run-class.sh配置

我们调用kafka-server-start.sh或者kafka-server-stop.sh后,也是会调用kafka-run-class.sh中的内容。

主要修改【kafka-run-class.sh】2块内容,JMX settings 和 JMX port to use
我在3台机器中部署了三台kafka,所以三台kafka的kafka-run-class.sh都要修改。

至于这两个端口号,官方推荐的就是9999和9998,所以就不要乱改了,除非你的机器上已经用了这2个端口号,可以改成其他的,不管改还是不改端口,EFAK那边也不需要改配置。

JMX_PORT=9999
JMX_RMI_PORT=9998

  1. # JMX settingsif[-z "$KAFKA_JMX_OPTS"]; then
  2. KAFKA_JMX_OPTS="-Dcom.sun.management.jmxremote -Dcom.sun.management.jmxremote.local.only=false -Dcom.sun.management.jmxremote.authenticate=false -Dcom.sun.management.jmxremote.ssl=false "
  3. fi
  4. # JMX port to use#if [ $JMX_PORT ]; then# KAFKA_JMX_OPTS="$KAFKA_JMX_OPTS -Dcom.sun.management.jmxremote.port=$JMX_PORT "#fi
  5. JMX_PORT=9999
  6. JMX_RMI_PORT=9998
  7. ISKAFKASERVER="false"if[["$*" =~ "kafka.Kafka"]]; then
  8. ISKAFKASERVER="true"
  9. fi
  10. if[$JMX_PORT] && ["true" == "$ISKAFKASERVER"]; then
  11. KAFKA_JMX_OPTS="$KAFKA_JMX_OPTS -Dcom.sun.management.jmxremote.port=$JMX_PORT -Dcom.sun.management.jmxremote.rmi.port=$JMX_RMI_PORT "echoset KAFKA_JMX_PORT:$KAFKA_JMX_OPTS
  12. fi

把JMX port to user下面的原内容注释掉

  1. #if [ $JMX_PORT ]; then# KAFKA_JMX_OPTS="$KAFKA_JMX_OPTS -Dcom.sun.management.jmxremote.port=$JMX_PORT "#fi
标签: kafka java 分布式

本文转载自: https://blog.csdn.net/l848168/article/details/127302842
版权归原作者 技术武器库 所有, 如有侵权,请联系我们删除。

“kafka开启JMX,EFAK要监控kafka服务器?”的评论:

还没有评论