0
0

Apache RocketMQ5.x使用代理proxy集群部署

前言

RocketMQ5.x版本新增了代理模式，之前双主双从部署RocketMQ5.x版本时，使用代理模式启动就会报错，一直未找到原因
并且关于代理的配置文件rmq-proxy.json的相关配置，官网与网上也并没有详细的说明。

img

本文介绍Local模式下双主双从与proxy部署，不多废话，直接上配置

proxy配置文件

路径：/data/service/rocketmq/rocketmq-all-5.1.4-bin-release/config/rmq-proxy.json

注意

  1. {// 集群名称 与broker一致"rocketMQClusterName":"test-dh-rocketmq-cluster",// 代理监听端口"remotingListenPort":9080,// gRPC服务器端口"grpcServerPort":9081,// 对应namesr的ip"namesrvAddr":"123.45.67.891:6789;198.76.54.321:6789"}

关键点就是namesrvAddr，增加了namesrvAddr后，即可正常启动

rmq-proxy的详解

  1. 1. 字段：rocketMQClusterName，代理服务器所属的RocketMQ集群名称，默认为"DefaultCluster"。 
  2. 2. 字段：proxyClusterName，代理服务器的集群名称，默认为"DefaultCluster"。 
  3. 3. 字段：proxyName，代理服务器的名称，默认为本地主机名。 
  4. 4. 字段：localServeAddr，代理服务器的本地服务地址，默认为空字符串。 
  5. 5. 字段：heartbeatSyncerTopicClusterName，心跳同步器的主题集群名称，默认为空字符串。 
  6. 6. 字段：heartbeatSyncerThreadPoolNums，心跳同步器的线程池大小，默认为4。 
  7. 7. 字段：heartbeatSyncerThreadPoolQueueCapacity，心跳同步器的线程池队列容量，默认为100。 
  8. 8. 字段：heartbeatSyncerTopicName，心跳同步器的主题名称，默认为"DefaultHeartBeatSyncerTopic"。 
  9. 9. 字段：enablePrintJstack，是否启用打印Jstack信息，默认为true。 
  10. 10. 字段：printJstackInMillis，打印Jstack信息的间隔时间，默认为60秒。 
  11. 11. 字段：printThreadPoolStatusInMillis，打印线程池状态的间隔时间，默认为3秒。 
  12. 12. 字段：namesrvAddr，NameServer的地址，默认从环境变量或系统属性中获取。 
  13. 13. 字段：namesrvDomain，NameServer的域名，默认为空字符串。 
  14. 14. 字段：namesrvDomainSubgroup，NameServer的子组名称，默认为空字符串。 
  15. 15. 字段：tlsTestModeEnable，是否启用TLS测试模式，默认为true。 
  16. 16. 字段：tlsKeyPath，TLS密钥的路径，默认为配置文件中的路径。 
  17. 17. 字段：tlsCertPath，TLS证书的路径，默认为配置文件中的路径。 
  18. 18. 字段：proxyMode，代理服务器的模式，默认为"CLUSTER"。 
  19. 19. 字段：grpcServerPort，gRPC服务器的端口号，默认为8081。 
  20. 20. 字段：grpcShutdownTimeSeconds，gRPC服务器关闭的超时时间，默认为30秒。 
  21. 21. 字段：grpcBossLoopNum，gRPC服务器的Boss线程数，默认为1。 
  22. 22. 字段：grpcWorkerLoopNum，gRPC服务器的Worker线程数，默认为处理器数量的2倍。 
  23. 23. 字段：enableGrpcEpoll，是否启用gRPC的Epoll模型，默认为false。 
  24. 24. 字段：grpcThreadPoolNums，gRPC服务器的线程池大小，默认为16 + 处理器数量的2倍。 
  25. 25. 字段：grpcThreadPoolQueueCapacity，gRPC服务器的线程池队列容量，默认为100000。 
  26. 26. 字段：brokerConfigPath，Broker配置文件的路径，默认为配置文件中的路径。 
  27. 27. 字段：grpcMaxInboundMessageSize，gRPC服务器接收的最大消息大小，默认为130MB。 
  28. 28. 字段：maxMessageSize，消息的最大大小，默认为4MB。 
  29. 29. 字段：maxUserPropertySize，用户属性的最大大小，默认为16KB。 
  30. 30. 字段：userPropertyMaxNum，用户属性的最大数量，默认为128。 
  31. 31. 字段：maxMessageGroupSize，消息组的最大大小，默认为64。 
  32. 32. 字段：defaultInvisibleTimeMills，消息弹出后的默认不可见时间，默认为60秒。 
  33. 33. 字段：minInvisibleTimeMillsForRecv，消息接收后的最小不可见时间，默认为10秒。 
  34. 34. 字段：maxInvisibleTimeMills，消息的最大不可见时间，默认为12小时。 
  35. 35. 字段：maxDelayTimeMills，消息的最大延迟时间，默认为1天。 
  36. 36. 字段：maxTransactionRecoverySecond，事务恢复的最大时间，默认为1小时。 
  37. 37. 字段：enableTopicMessageTypeCheck，是否启用主题消息类型的检查，默认为true。 
  38. 38. 字段：grpcClientProducerMaxAttempts，gRPC客户端生产者最大重试次数，默认为3。 
  39. 39. 字段：grpcClientProducerBackoffInitialMillis，gRPC客户端生产者退避初始间隔时间，默认为10毫秒。 
  40. 40. grpcClientProducerBackoffMaxMillis：设置gRPC客户端生产者在重试时的最大退避时间间隔为1秒。  
  41. 41. grpcClientProducerBackoffMultiplier：设置gRPC客户端生产者重试时退避时间的乘数因子为2，意味着每次失败后等待的时间将成倍增加。  
  42. 42. grpcClientConsumerMinLongPollingTimeoutMillis 和 grpcClientConsumerMaxLongPollingTimeoutMillis 分别设置了gRPC客户端消费者长轮询请求的最小和最大超时时间（分别为5秒和20秒）。  
  43. 43. grpcClientConsumerLongPollingBatchSize：设置gRPC客户端消费者进行长轮询请求时一次性拉取的消息批次大小为32条。  
  44. 44. grpcClientIdleTimeMills：设置gRPC客户端空闲超时时间为120秒，在这段时间内如果没有通信活动，则可能被关闭或回收资源。  
  45. 45. channelExpiredInSeconds 和 contextExpiredInSeconds 分别指定了连接通道和上下文的有效期（分别以秒为单位，分别是60秒和30秒）。  
  46. 46. rocketmqMQClientNum：设定RocketMQ客户端实例的数量为6个。  
  47. 47. grpcProxyRelayRequestTimeoutInSeconds：设置代理转发请求的超时时间为5秒。  
  48. 48. 后续一系列的 ThreadPoolNums 和 ThreadQueueCapacity 参数用于配置不同功能模块的线程池数量和队列容量，例如生产者、消费者、路由处理等，这些参数用于调整并发处理能力以及防止任务堆积。  
  49. 49. topicRouteServiceCache... 相关参数：用于缓存Topic路由信息的服务，包括缓存过期时间、刷新频率、缓存最大数量以及对应的线程池大小和队列容量。  
  50. 50. transactionHeartbeat... 相关参数：涉及事务心跳相关的线程池大小、队列容量、心跳周期、批量处理数目以及事务数据的过期扫描、清理等待时间和过期时间等，用以维护分布式事务的正确性和一致性。  
  51. 51. longPollingReserveTimeInMillis：长轮询预留时间（毫秒），可能是为了确保在处理长轮询请求时留出一定余量。  
  52. 52. invisibleTimeMillisWhenClear：当清除消息时，默认不可见时间（毫秒）。  这些配置参数共同决定了RocketMQ代理服务的性能、容错性、事务处理能力和资源利用率等方面的关键特性。

双主双从安装

1. 服务器环境

ip （外/内）角色架构模式123.45.67.891/192.168.0.162nameserver1:6789、broker-master1:12911、broker-slave2:13021Master1、Slave2198.76.54.321/192.168.0.128nameserver2:6789、broker-master2:12921、broker-slave1:13011Master2、Slave1

1.2.开通端口

每个服务器需开放七个端口，生产可以进行调整端口

namesrv

  • 6789

broker主节点

  • 12911、12909、12912

broker从节点

  • 13011、13009、13012

proxy

  • 9081、9082

端口规则说明：

namesrv默认端口：9876
假设broker配置的 ListenPort 端口：10911
则vip 通道端口为：ListenPort - 2 = 10909
则HA 通道端口为： ListenPort + 1 = 10912

2. 部署

本次在开发和测试环境部署rocketmq采用SYNC_MASTER 同步双写，ASYNC_FLUSH 异步刷盘进行

注：关于同步复制、异步复制、同步刷盘与异步刷盘区别，请看上一篇文章Apache RocketMQ5.x 介绍及单机&双主双从部署的8.5专项解释

2.1.host解析

  1. # 服务器123.45.67.891vim /etc/hosts
  2. # nameserver123.45.67.891   nameserver1 # 6789198.76.54.321   nameserver2 # 6789# broker123.45.67.891   broker-master1 # 12911123.45.67.891   broker-slave2 # 13021198.76.54.321   broker-master2 # 12921198.76.54.321   broker-slave1 # 13011# 配置完成后，重启网卡
  3. systemctl restart network
  4. service network restart
  5. # Centos 8 重启网卡
  6. nmcli c reload
  8. # 服务器198.76.54.321vim /etc/hosts
  9. # nameserver123.45.67.891   nameserver1 # 6789198.76.54.321   nameserver2 # 6789# broker123.45.67.891   broker-master1 # 12911123.45.67.891   broker-slave2 # 13021198.76.54.321   broker-master2 # 12921198.76.54.321   broker-slave1 # 13011# 配置完成后，重启网卡
  10. systemctl restart network
  11. # Centos 8 重启网卡
  12. nmcli c reload

2.2.安全组配置

为了安全只开放特定的端口号：6789（NameServer1 和 NameServer2）、12911（Master1）、12921（Master2）、13011（Slave1）、13021（Slave2）、9081（proxy1）、9082(proxy2)

2.3.创建消息存储路径

1号服务器：123.45.67.891

  1. mkdir-p /data/service/rocketmq/store/broker-a/commitlog
  3. mkdir-p /data/service/rocketmq/store/broker-a/consumequeue
  5. mkdir-p /data/service/rocketmq/store/broker-a/index
  7. mkdir-p /data/service/rocketmq/store/broker-b-s/commitlog
  9. mkdir-p /data/service/rocketmq/store/broker-b-s/consumequeue
  11. mkdir-p /data/service/rocketmq/store/broker-b-s/index

2号服务器 ：198.76.54.321

  1. mkdir-p /data/service/rocketmq/store/broker-b/commitlog
  3. mkdir-p /data/service/rocketmq/store/broker-b/consumequeue
  5. mkdir-p /data/service/rocketmq/store/broker-b/index
  7. mkdir-p /data/service/rocketmq/store/broker-a-s/commitlog
  9. mkdir-p /data/service/rocketmq/store/broker-a-s/consumequeue
  11. mkdir-p /data/service/rocketmq/store/broker-a-s/index

2.4. broker配置文件

分别在2台服务器上执行以下命令，编辑 broker.conf 文件，改成对应服务器的外网IP

  1. # 两台服务器同时执行# 服务器 123.45.67.891vim /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/broker.conf
  3. namesrvAddr=198.76.54.321:9876
  4. brokerIP=198.76.54.321
  6. # 服务器 198.76.54.321vim /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/broker.conf
  8. namesrvAddr=198.76.54.321:9876
  9. brokerIP=198.76.54.321
2.4.1. master1(服务器一)

服务器一：123.45.67.891、192.168.0.162

broker-a.properties
  1. # 修改同步复制配置文件vim /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/broker-a.properties
  3. #Broker服务地址brokerIP1=123.45.67.891
  4. brokerIP2=123.45.67.891
  5. #所属集群名字brokerClusterName=test-dh-rocketmq-cluster
  6. #broker名字，注意此处不同的配置文件填写的不一样brokerName=broker-a
  7. #0 表示 Master，>0 表示 SlavebrokerId=0#nameServer地址，分号分割namesrvAddr=123.45.67.891:6789;198.76.54.321:6789
  8. #在发送消息时，自动创建服务器不存在的topic，默认创建的队列数defaultTopicQueueNums=4#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭autoCreateTopicEnable=false
  9. #是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭autoCreateSubscriptionGroup=false
  10. #Broker 对外服务的监听端口listenPort=12911#删除文件时间点，默认凌晨 4点deleteWhen=04
  11. #文件保留时间，默认 48 小时fileReservedTime=120#commitLog每个文件的大小默认1GmapedFileSizeCommitLog=1073741824#ConsumeQueue每个文件默认存30W条，根据业务情况调整mapedFileSizeConsumeQueue=300000#destroyMapedFileIntervalForcibly=120000#redeleteHangedFileInterval=120000#检测物理文件磁盘空间diskMaxUsedSpaceRatio=88#存储路径storePathRootDir=/data/service/rocketmq/store/broker-a
  12. #commitLog 存储路径storePathCommitLog=/data/service/rocketmq/store/broker-a/commitlog
  13. #消费队列存储路径存储路径storePathConsumeQueue=/data/service/rocketmq/store/broker-a/consumequeue
  14. #消息索引存储路径storePathIndex=/data/service/rocketmq/store/broker-a/index
  15. #checkpoint 文件存储路径storeCheckpoint=/data/service/rocketmq/store/broker-a/checkpoint
  16. #abort 文件存储路径abortFile=/data/service/rocketmq/store/broker-a/abort
  17. #限制的消息大小maxMessageSize=65536#flushCommitLogLeastPages=4#flushConsumeQueueLeastPages=2#flushCommitLogThoroughInterval=10000#flushConsumeQueueThoroughInterval=60000#Broker 的角色#- ASYNC_MASTER 异步复制Master#- SYNC_MASTER 同步双写Master#- SLAVEbrokerRole=SYNC_MASTER
  18. #刷盘方式#- ASYNC_FLUSH 异步刷盘#- SYNC_FLUSH 同步刷盘flushDiskType=ASYNC_FLUSH
  19. #checkTransactionMessageEnable=false#发消息线程池数量#sendMessageThreadPoolNums=128#拉消息线程池数量#pullMessageThreadPoolNums=128
rmq-proxy-a.json
  1. # 创建代理配置文件
  2. vim /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/rmq-proxy-a.json
  3. {// 集群名称 与broker一致"rocketMQClusterName":"test-dh-rocketmq-cluster",// 代理监听端口"remotingListenPort":9080,// gRPC服务器端口"grpcServerPort":9081,// 对应namesr的ip"namesrvAddr":"123.45.67.891:6789;198.76.54.321:6789"}
2.4.2. slave2(服务器一)

服务器一：123.45.67.891、192.168.0.162

broker-b-s.properties
  1. # 修改同步复制配置文件vim /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/broker-b-s.properties
  3. #Broker服务地址brokerIP1=123.45.67.891
  4. #所属集群名字brokerClusterName=test-dh-rocketmq-cluster
  5. #broker名字，注意此处不同的配置文件填写的不一样brokerName=broker-b
  6. #0 表示 Master，>0 表示 SlavebrokerId=1#nameServer地址，分号分割namesrvAddr=123.45.67.891:6789;198.76.54.321:6789
  7. #在发送消息时，自动创建服务器不存在的topic，默认创建的队列数defaultTopicQueueNums=4#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭autoCreateTopicEnable=false
  8. #是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭autoCreateSubscriptionGroup=false
  9. #Broker 对外服务的监听端口listenPort=13021#删除文件时间点，默认凌晨 4点deleteWhen=04
  10. #文件保留时间，默认 48 小时fileReservedTime=120#commitLog每个文件的大小默认1GmapedFileSizeCommitLog=1073741824#ConsumeQueue每个文件默认存30W条，根据业务情况调整mapedFileSizeConsumeQueue=300000#destroyMapedFileIntervalForcibly=120000#redeleteHangedFileInterval=120000#检测物理文件磁盘空间diskMaxUsedSpaceRatio=88#存储路径storePathRootDir=/data/service/rocketmq/store/broker-b-s
  11. #commitLog 存储路径storePathCommitLog=/data/service/rocketmq/store/broker-b-s/commitlog
  12. #消费队列存储路径存储路径storePathConsumeQueue=/data/service/rocketmq/store/broker-b-s/consumequeue
  13. #消息索引存储路径storePathIndex=/data/service/rocketmq/store/broker-b-s/index
  14. #checkpoint 文件存储路径storeCheckpoint=/data/service/rocketmq/store/broker-b-s/checkpoint
  15. #abort 文件存储路径abortFile=/data/service/rocketmq/store/broker-b-s/abort
  16. #限制的消息大小maxMessageSize=65536#flushCommitLogLeastPages=4#flushConsumeQueueLeastPages=2#flushCommitLogThoroughInterval=10000#flushConsumeQueueThoroughInterval=60000#Broker 的角色#- ASYNC_MASTER 异步复制Master#- SYNC_MASTER 同步双写Master#- SLAVEbrokerRole=SLAVE
  17. #刷盘方式#- ASYNC_FLUSH 异步刷盘#- SYNC_FLUSH 同步刷盘flushDiskType=ASYNC_FLUSH
  18. #checkTransactionMessageEnable=false#发消息线程池数量#sendMessageThreadPoolNums=128#拉消息线程池数量#pullMessageThreadPoolNums=128
rmq-proxy-b-s.json
  1. # 创建代理配置文件
  2. vim /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/rmq-proxy-b-s.json
  3. {// 集群名称 与broker一致"rocketMQClusterName":"test-dh-rocketmq-cluster",// 代理监听端口"remotingListenPort":9083,// gRPC服务器端口"grpcServerPort":9082,// 对应namesr的ip"namesrvAddr":"123.45.67.891:6789;198.76.54.321:6789"}
2.4.3. master2(服务器二)

服务器一：198.76.54.321、192.168.0.128

broker-b.properties
  1. # 修改同步复制配置文件vim /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/broker-b.properties
  3. #Broker服务地址,设置broker节点所在服务器的ip地址（这个非常重要,主从模式下，从节点会根据主节点的brokerIP2来同步数据，#如果不配置，主从无法同步，brokerIP1设置为自己外网能访问的ip，服务器双网卡情况下必须配置，比如阿里云这$种，#主节点需要配置ip1和ip2，从节点只需要配置ip1即可）brokerIP1=198.76.54.321
  4. brokerIP2=198.76.54.321
  5. #所属集群名字brokerClusterName=test-dh-rocketmq-cluster
  6. #broker名字，注意此处不同的配置文件填写的不一样brokerName=broker-b
  7. #0 表示 Master，>0 表示 SlavebrokerId=0#nameServer地址，分号分割namesrvAddr=123.45.67.891:6789;198.76.54.321:6789
  8. #在发送消息时，自动创建服务器不存在的topic，默认创建的队列数defaultTopicQueueNums=4#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭autoCreateTopicEnable=false
  9. #是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭autoCreateSubscriptionGroup=false
  10. #Broker 对外服务的监听端口listenPort=12921#删除文件时间点，默认凌晨 4点deleteWhen=04
  11. #文件保留时间，默认 48 小时fileReservedTime=120#commitLog每个文件的大小默认1GmapedFileSizeCommitLog=1073741824#ConsumeQueue每个文件默认存30W条，根据业务情况调整mapedFileSizeConsumeQueue=300000#destroyMapedFileIntervalForcibly=120000#redeleteHangedFileInterval=120000#检测物理文件磁盘空间diskMaxUsedSpaceRatio=88#存储路径storePathRootDir=/data/service/rocketmq/store/broker-b
  12. #commitLog 存储路径storePathCommitLog=/data/service/rocketmq/store/broker-b/commitlog
  13. #消费队列存储路径存储路径storePathConsumeQueue=/data/service/rocketmq/store/broker-b/consumequeue
  14. #消息索引存储路径storePathIndex=/data/service/rocketmq/store/broker-b/index
  15. #checkpoint 文件存储路径storeCheckpoint=/data/service/rocketmq/store/broker-b/checkpoint
  16. #abort 文件存储路径abortFile=/data/service/rocketmq/store/broker-b/abort
  17. #限制的消息大小maxMessageSize=65536#flushCommitLogLeastPages=4#flushConsumeQueueLeastPages=2#flushCommitLogThoroughInterval=10000#flushConsumeQueueThoroughInterval=60000#Broker 的角色#- ASYNC_MASTER 异步复制Master#- SYNC_MASTER 同步双写Master#- SLAVEbrokerRole=SYNC_MASTER
  18. #刷盘方式#- ASYNC_FLUSH 异步刷盘#- SYNC_FLUSH 同步刷盘flushDiskType=ASYNC_FLUSH
  19. #checkTransactionMessageEnable=false#发消息线程池数量#sendMessageThreadPoolNums=128#拉消息线程池数量#pullMessageThreadPoolNums=128
rmq-proxy-b.json
  1. # 创建代理配置文件
  2. vim /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/rmq-proxy-b.json
  3. {// 集群名称 与broker一致"rocketMQClusterName":"test-dh-rocketmq-cluster",// 代理监听端口"remotingListenPort":9080,// gRPC服务器端口"grpcServerPort":9081,// 对应namesr的ip"namesrvAddr":"123.45.67.891:6789;198.76.54.321:6789"}
2.4.4. slave1(服务器二)

服务器一：198.76.54.321、192.168.0.128

broker-a-s.properties
  1. # 修改同步复制配置文件vim /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/broker-a-s.properties
  3. #所属集群名字brokerClusterName=test-dh-rocketmq-cluster
  4. #broker 名字，注意此处不同的配置文件填写的不一样brokerName=broker-a
  5. #0 表示 Master，>0 表示 SlavebrokerId=1#nameServer 地址，分号分割namesrvAddr=123.45.67.891:6789;198.76.54.321:6789
  6. #安装可视化界面使用，需要是IP，不能是host#设置broker节点所在服务器的ip地址（**这个非常重要,主从模式下，从节点会根据主节点的brokerIP2来同步数据，#如果不配置，主从无法同步，brokerIP1设置为自己外网能访问的ip，服务器双网卡情况下必须配置，比如阿里云这$种，#主节点需要配置ip1和ip2，从节点只需要配置ip1即可）brokerIP1=198.76.54.321
  7. #在发送消息时，自动创建服务器不存在的 topic，默认创建的队列数defaultTopicQueueNums=4#是否允许 Broker 自动创建 Topic，建议线下开启，线上关闭#进行发消息时，必须要指定topic，对于topic的设置有一个开关autoCreateTopicEnable，一#般在开发测试环境中会使用默认设置autoCreateTopicEnable = true，但是这样就会导致#topic的设置不容易规范管理，没有统一的审核。所以在正式环境中会在Broker启动时#设置参数autoCreateTopicEnable = false。这样当需要增加topic时就需要在web管理界面上#添加即可。autoCreateTopicEnable=false
  8. #是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭autoCreateSubscriptionGroup=false
  9. #Broker 对外服务的监听端口，如果从节点是单独服务器，则可以使用默认端口19011listenPort=13011#删除文件时间点，默认凌晨 4 点deleteWhen=04
  10. #文件保留时间，默认 48 小时fileReservedTime=120#commitLog 每个文件的大小默认 1GmapedFileSizeCommitLog=1073741824#ConsumeQueue 每个文件默认存 30W 条，根据业务情况调整mapedFileSizeConsumeQueue=300000#destroyMapedFileIntervalForcibly=120000#redeleteHangedFileInterval=120000#检测物理文件磁盘空间diskMaxUsedSpaceRatio=88#存储路径storePathRootDir=/data/service/rocketmq/store/broker-a-s
  11. #commitLog 存储路径storePathCommitLog=/data/service/rocketmq/store/broker-a-s/commitlog
  12. #消费队列存储路径存储路径storePathConsumeQueue=/data/service/rocketmq/store/broker-a-s/consumequeue
  13. #消息索引存储路径storePathIndex=/data/service/rocketmq/store/broker-a-s/index
  14. #checkpoint 文件存储路径storeCheckpoint=/data/service/rocketmq/store/broker-a-s/checkpoint
  15. #abort 文件存储路径abortFile=/data/service/rocketmq/store/broker-a-s/abort
  16. #限制的消息大小maxMessageSize=65536#flushCommitLogLeastPages=4#flushConsumeQueueLeastPages=2#flushCommitLogThoroughInterval=10000#flushConsumeQueueThoroughInterval=60000#Broker 的角色#- ASYNC_MASTER 异步复制 Master#- SYNC_MASTER 同步双写 Master#- SLAVEbrokerRole=SLAVE
  17. #刷盘方式#- ASYNC_FLUSH 异步刷盘#- SYNC_FLUSH 同步刷盘flushDiskType=ASYNC_FLUSH
  18. #checkTransactionMessageEnable=false#发消息线程池数量#sendMessageThreadPoolNums=128#拉消息线程池数量#pullMessageThreadPoolNums=128
rmq-proxy-a-s.json
  1. # 创建代理配置文件
  2. vim /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/rmq-proxy-a-s.json
  3. {// 集群名称 与broker一致"rocketMQClusterName":"test-dh-rocketmq-cluster",// 代理监听端口"remotingListenPort":9083,// gRPC服务器端口"grpcServerPort":9082,// 对应namesr的ip"namesrvAddr":"123.45.67.891:6789;198.76.54.321:6789"}

2.5.服务启动

2.5.1.启动NameServer集群

分别在服务器一和服务器二启动NameServer1 和 NameServer2

  1. # 两个服务器都需要操作#在rocketmq的conf目录下添加namesrv.properties文件，文件中添加端口配置listenPort=6789### 到安装目录下[admin@test-webapp-svr20 rocketmq]cd /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/bin
  2. ### 启动namesrv[admin@test-webapp-svr20 bin]nohupsh mqnamesrv -c../conf/namesrv.properties &### 验证namesrv是否启动成功[admin@test-webapp-svr20 bin]tail-f ~/logs/rocketmqlogs/namesrv.log
  3. The Name Server boot success...
2.5.2.启动Broker集群

启动顺序

注意：如果不使用代理proxy模式，启动命令不需要带 --enable-proxy 和-pc

1、在123.45.67.891 启动 master1

  1. ### 到安装目录下[admin@test-webapp-svr20 rocketmq]cd /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/bin
  2. ### 先启动broker [admin@test-webapp-svr20 bin]nohupsh mqbroker -c /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/broker-a.properties -pc /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/rmq-proxy-a.json --enable-proxy &### 验证broker是否启动成功, 比如, broker的ip是192.168.1.2 然后名字是broker-a[admin@test-webapp-svr20 bin]tail-1000f ~/logs/rocketmqlogs/proxy.log 
  3. The broker[broker-a,192.169.1.2:10911] boot success...

2、在198.76.54.321 启动 master2

  1. ### 到安装目录下[admin@test-webapp-svr20 rocketmq]cd /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/bin
  2. ### 先启动broker [admin@test-webapp-svr20 bin]nohupsh mqbroker -c /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/broker-b.properties -pc /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/rmq-proxy-b.json --enable-proxy &### 验证broker是否启动成功, 比如, broker的ip是192.168.1.2 然后名字是broker-a[admin@test-webapp-svr20 bin]tail-1000f ~/logs/rocketmqlogs/proxy.log 
  3. The broker[broker-a,192.169.1.2:10911] boot success...

3、在198.76.54.321 启动 slave1

  1. ### 到安装目录下[admin@test-webapp-svr20 rocketmq]cd /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/bin
  2. ### 先启动broker  第二步使用的是默认的proxy配置文件，第三步使用指定配置文件，对应的proxy的端口不一致[admin@test-webapp-svr20 bin]nohupsh mqbroker -c /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/broker-a-s.properties -pc /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/rmq-proxy-a-s.json --enable-proxy &### 验证broker是否启动成功, 比如, broker的ip是192.168.1.2 然后名字是broker-a[admin@test-webapp-svr20 bin]tail-1000f ~/logs/rocketmqlogs/proxy.log 
  3. The broker[broker-a,192.169.1.2:10911] boot success...

4、在123.45.67.891 启动 slave2

  1. ### 到安装目录下[admin@test-webapp-svr20 rocketmq]cd /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/bin
  2. ### 先启动broker [admin@test-webapp-svr20 bin]nohupsh mqbroker -c /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/broker-b-s.properties -pc /data/service/rocketmq/rocketmq-all-5.1.4-bin-release/conf/2m-2s-sync/rmq-proxy-b-s.json --enable-proxy &### 验证broker是否启动成功, 比如, broker的ip是192.168.1.2 然后名字是broker-a[admin@test-webapp-svr20 bin]tail-1000f ~/logs/rocketmqlogs/proxy.log 
  3. The broker[broker-a,192.169.1.2:10911] boot success...
2.5.3.查看状态
  1. # 分别在两个服务器执行命令
  2. jps
  3. 启动完成，分别在2台服务器查看集群信息：
  5.     sh mqadmin clusterlist -n123.45.67.891:6789
  6. sh mqadmin clusterlist -n198.76.54.321:6789
  8. 或者执行以下命令：
  9. sh mqadmin clusterlist -n localhost:6789
2.5.3.开通防火墙端口(防火墙关闭除外)

端口规则说明：

namesrv默认端口：9876
假设broker配置的 ListenPort 端口：10911
则vip 通道端口为：ListenPort - 2 = 10909
则HA 通道端口为： ListenPort + 1 = 10912

例如：198.76.54.321 本次部署了master2和slave1，对应broker配置的 ListenPort 为：12921、13011

根据端口规则，198.76.54.321需开通

master2：12921、12919、12922、9081

slave1：13011、13009、13012、9082

  1. # 开通端口，本次是在198.76.54.321服务器执行，所以开通12921、12919、12922、13011、13009、13012端口# 查看防火墙是否有此端口[root@test-webapp-svr20 ~]# firewall-cmd --zone=public --list-ports80/tcp 81/tcp 82/tcp 83/tcp 88/tcp 443/tcp 3000/tcp 3001/tcp 3306/tcp
  2. # 修改端口[root@test-webapp-svr20 ~]# firewall-cmd --zone=public --add-port=12921/tcp --permanent --add-port=12919/tcp --permanent --add-port=12922/tcp --permanent --add-port=13011/tcp --permanent  --add-port=13009/tcp --permanent --add-port=13012/tcp --permanent # 重启防火墙[root@test-webapp-svr20 ~]# firewall-cmd --reload# 123.45.67.891 同样操作

注意：此处开通防火墙，对应服务器安全组也需要开通，生产环境使用内网地址进行交互，则不需要开通

标签： apache 系统安全 rocketmq
本文转载自: https://blog.csdn.net/qq_43459099/article/details/137104191
版权归原作者 万物~ 所有， 如有侵权，请联系我们删除。
登录后发布评论

“Apache RocketMQ5.x使用代理proxy集群部署”的评论:

还没有评论
关于作者
...
overfit同步小助手
文章同步
相关阅读

网络安全法-网络运行安全

使用selenium/drissionpage时如何阻止chrome自动跳转http到https

docker desktop 里部署的Open WebUI 管理员密码忘记了的处理方法

在ubuntu20.04中搭建onsite比赛运行环境

利用开源的低代码表单设计器FcDesigner高效管理和渲染复杂表单结构

Kafka学习笔记

【前端】浏览器输入url到页面呈现发生了什么？