Kafka 动态配置

Kafka 动态配置

动态配置 : 修改参数后，无需重启 Broker 就能生效

Kafka 1.1 后的 Dynamic Update Mode 列 :

• read-only : 只有重启 Broker，才能生效
• per-broker : 动态参数，修改后，就能生效
• cluster-wide : 动态参数，修改后，整个集群范围内生效

动态 Broker :

• 动态调整 Broker 端各种线程池大小，实时应对突发流量
• 动态调整 Broker 端连接信息或安全配置信息
• 动态更新 SSL Keystore 有效期
• 动态调整 Broker 端 Compact 操作性能
• 实时变更 JMX 指标收集器 (JMX Metrics Reporter)

配置保存

Kafka 将动态 Broker 参数保存在 ZooKeeper 中

• changes : 实时监测动态参数变更的，不会保存参数值
• topics : 保存 Kafka 主题级别参数的。虽然它们不属于动态 Broker 端参数，但其实它们也是能够动态变更的
• users 和 clients 则是用于动态调整客户端配额（Quota）的 znode 节点。所谓配额，是指 Kafka 运维人员限制连入集群的客户端的吞吐量或者是限定它们使用的 CPU 资源

/config/brokers znode

保存动态 Broker 参数, 分两大类子节点 :

• < default > : 保存 cluster-wide 范围的动态参数
• broker.id : 保存特定 Broker 的 per-broker 范围参数

参数的优先级：

• per-broker > cluster-wide > static > Kafka 默认值

持久化节点 :

ephemeralOwner = 0x0

。ZooKeeper 重启，也不会丢失

配置

设置 cluster-wide 范围值 :

• 指定 entity-default

bin/kafka-configs.sh \
--bootstrap-server kafka-host:port \
--entity-type brokers \
--entity-default --alter --add-config unclean.leader.election.enable=true

设置 per-broker 范围参数 :

bin/kafka-configs.sh \
--bootstrap-server kafka-host:port \
--entity-type brokers \
--entity-name 1\
--alter --add-config unclean.leader.election.enable=false

删除 cluster-wide 范围参数 :

bin/kafka-configs.sh \
--bootstrap-server kafka-host:port \
--entity-type brokers \
--entity-default \
--alter --delete-config unclean.leader.election.enable

删除 per-broker 范围参数 :

bin/kafka-configs.sh \
--bootstrap-server kafka-host:port \
--entity-type brokers \
--entity-name 1\
--alter --delete-config unclean.leader.election.enable

查看 cluster-wide 范围参数 :

bin/kafka-configs.sh \
--bootstrap-server kafka-host:port \
--entity-type brokers \
--entity-default --describe

查看 per-broker 范围参数 :

bin/kafka-configs.sh \
--bootstrap-server kafka-host:port \
--entity-type brokers \
--entity-name 1 --describe

动态调整参数 :

• log.retention.ms : 修改日志留存时间
• num.io.threads : IO 处理线程数
• num.network.threads : 网络处理线程数
• ssl.keystore.type , ssl.keystore.location , ssl.keystore.password , ssl.key.password : 更新 Keystore
• num.replica.fetchers : Follower 副本拉取速度