RocketMQ 平滑升级到主从切换(实战篇)

Stella981
• 阅读 913

本文主要介绍如何将 RocketMQ 集群从原先的主从同步升级到主从切换。

本文首先介绍与 DLedger 多副本即 RocketMQ 主从切换相关的核心配置属性,然后尝试搭建一个主从同步集群,最后将原先的 RocketMQ 集群平滑升级到 DLedger 集群的示例,并简单测试一下主从切换功能。

1、RocketMQ 主从切换核心配置参数详解


其主要的配置参数如下所示:

  • enableDLegerCommitLog
    是否启用 DLedger,即是否启用 RocketMQ 主从切换,默认值为 false。如果需要开启主从切换,则该值需要设置为 true 。

  • dLegerGroup
    节点所属的 raft 组,建议与 brokerName 保持一致,例如 broker-a。

  • dLegerPeers
    集群节点信息,示例配置如下:n0-127.0.0.1:40911;n1-127.0.0.1:40912;n2-127.0.0.1:40913,多个节点用英文冒号隔开,单个条目遵循   legerSlefId-ip:端口,这里的端口用作 dledger 内部通信。

  • dLegerSelfId
    当前节点id。取自 legerPeers 中条目的开头,即上述示例中的 n0,并且特别需要强调,只能第一个字符为英文,其他字符需要配置成数字。

  • storePathRootDir
    DLedger 日志文件的存储根目录,为了能够支持平滑升级,该值与 storePathCommitLog 设置为不同的目录。

2、搭建主从同步环境


首先先搭建一个传统意义上的主从同步架构,往集群中灌一定量的数据,然后升级到 DLedger 集群。

在 Linux 服务器上搭建一个 rocketmq 主从同步集群我想不是一件很难的事情,故本文就不会详细介绍按照过程,只贴出相关配置。

实验环境的部署结构采取 一主一次,其部署图如下:

RocketMQ 平滑升级到主从切换(实战篇)

下面我就重点贴一下 broker 的配置文件。

220 上的 broker 配置文件如下:

 1brokerClusterName = DefaultCluster 2brokerName = broker-a 3brokerId = 0 4deleteWhen = 04 5fileReservedTime = 48 6brokerRole = ASYNC_MASTER 7flushDiskType = ASYNC_FLUSH 8brokerIP1=192.168.0.220 9brokerIP2=192.168.0.22010namesrvAddr=192.168.0.221:9876;192.168.0.220:987611storePathRootDir=/opt/application/rocketmq-all-4.5.2-bin-release/store12storePathCommitLog=/opt/application/rocketmq-all-4.5.2-bin-release/store/commitlog13autoCreateTopicEnable=false14autoCreateSubscriptionGroup=false

221 上 broker 的配置文件如下:

 1brokerClusterName = DefaultCluster 2brokerName = broker-a 3brokerId = 1 4deleteWhen = 04 5fileReservedTime = 48 6brokerRole = SLAVE 7flushDiskType = ASYNC_FLUSH 8brokerIP1=192.168.0.221 9brokerIP2=192.168.0.22110namesrvAddr=192.168.0.221:9876;192.168.0.220:987611storePathRootDir=/opt/application/rocketmq-all-4.5.2-bin-release/store12storePathCommitLog=/opt/application/rocketmq-all-4.5.2-bin-release/store/commitlog13autoCreateTopicEnable=false14autoCreateSubscriptionGroup=false

相关的启动命令如下:

1nohup bin/mqnamesrv  /dev/null  2>&1 &2nohup bin/mqbroker -c conf/broker.conf  /dev/null  2>&1 &

安装后的集群信息如图所示:

RocketMQ 平滑升级到主从切换(实战篇)

3、主从同步集群升级到DLedger


3.1 部署架构

DLedger 集群至少需要3台机器,故搭建 DLedger 还需要再引入一台机器,其部署结构图如下:

RocketMQ 平滑升级到主从切换(实战篇)

从主从同步集群升级到 DLedger 集群,用户最关心的还是升级后的集群是否能够兼容原先的数据,即原先存储在消息能否能被消息消费者消费端,甚至于能否查询到。

为了方便后续验证,首先我使用下述程序向 mq 集群中添加了一篇方便查询的消息(设置消息的key)。

 1public class Producer { 2    public static void main(String[] args) throws MQClientException, InterruptedException { 3        DefaultMQProducer producer = new DefaultMQProducer("producer_dw_test"); 4        producer.setNamesrvAddr("192.168.0.220:9876;192.168.0.221:9876"); 5        producer.start(); 6        for(int i =600000; i < 600100; i ++) { 7            try { 8                Message msg = new Message("topic_dw_test_by_order_01",null , "m" + i,("Hello RocketMQ" + i ).getBytes(RemotingHelper.DEFAULT_CHARSET)); 9                SendResult sendResult = producer.send(msg);10               //System.out.printf("%s%n", sendResult);11            } catch (Exception e) {12                e.printStackTrace();13                Thread.sleep(1000);14            }15        }16        producer.shutdown();17        System.out.println("end");18    }19}

消息的查询结果示例如下:

RocketMQ 平滑升级到主从切换(实战篇)

3.2 升级步骤

Step1:将 192.168.0.220 的 rocketmq 拷贝到 192.168.0.222,可以使用如下命令进行操作。在 192.168.0.220 上敲如下命令:

1 scp -r rocketmq-all-4.5.2-bin-release/ root@192.168.0.222:/opt/application/rocketmq-all-4.5.2-bin-release

温馨提示:示例中由于版本是一样,实际过程中,版本需要升级,故需先下载最新的版本,然后将老集群中的 store 目录完整的拷贝到新集群的 store 目录。

Step2:依次在三台服务器的 broker.conf 配置文件中添加与 dledger 相关的配置属性。

192.168.0.220 broker配置文件如下:

 1brokerClusterName = DefaultCluster 2brokerId = 0 3deleteWhen = 04 4fileReservedTime = 48 5brokerRole = ASYNC_MASTER 6flushDiskType = ASYNC_FLUSH 7brokerIP1=192.168.0.220 8brokerIP2=192.168.0.220 9namesrvAddr=192.168.0.221:9876;192.168.0.220:987610storePathRootDir=/opt/application/rocketmq-all-4.5.2-bin-release/store11storePathCommitLog=/opt/application/rocketmq-all-4.5.2-bin-release/store/commitlog12autoCreateTopicEnable=false13autoCreateSubscriptionGroup=false14# 与 dledger 相关的属性15enableDLegerCommitLog=true16storePathRootDir=/opt/application/rocketmq-all-4.5.2-bin-release/store/dledger_store17dLegerGroup=broker-a18dLegerPeers=n0-192.168.0.220:40911;n1-192.168.0.221:40911;n2-192.168.0.222:4091119dLegerSelfId=n0

192.168.0.221 broker配置文件如下:

 1brokerClusterName = DefaultCluster 2brokerName = broker-a 3brokerId = 1 4deleteWhen = 04 5fileReservedTime = 48 6brokerRole = SLAVE 7flushDiskType = ASYNC_FLUSH 8brokerIP1=192.168.0.221 9brokerIP2=192.168.0.22110namesrvAddr=192.168.0.221:9876;192.168.0.220:987611storePathRootDir=/opt/application/rocketmq-all-4.5.2-bin-release/store12storePathCommitLog=/opt/application/rocketmq-all-4.5.2-bin-release/store/commitlog13autoCreateTopicEnable=false14autoCreateSubscriptionGroup=false15# 与dledger 相关的配置属性16enableDLegerCommitLog=true17storePathRootDir=/opt/application/rocketmq-all-4.5.2-bin-release/store/dledger_store18dLegerGroup=broker-a19dLegerPeers=n0-192.168.0.220:40911;n1-192.168.0.221:40911;n2-192.168.0.222:4091120dLegerSelfId=n1

192.168.0.222 broker配置文件如下:

 1brokerClusterName = DefaultCluster 2brokerName = broker-a 3brokerId = 0 4deleteWhen = 04 5fileReservedTime = 48 6brokerRole = ASYNC_MASTER 7flushDiskType = ASYNC_FLUSH 8brokerIP1=192.168.0.222 9brokerIP2=192.168.0.22210namesrvAddr=192.168.0.221:9876;192.168.0.220:987611storePathRootDir=/opt/application/rocketmq-all-4.5.2-bin-release/store12storePathCommitLog=/opt/application/rocketmq-all-4.5.2-bin-release/store/commitlog13autoCreateTopicEnable=false14autoCreateSubscriptionGroup=false15# 与 dledger 相关的配置16enableDLegerCommitLog=true17storePathRootDir=/opt/application/rocketmq-all-4.5.2-bin-release/store/dledger_store18dLegerGroup=broker-a19dLegerPeers=n0-192.168.0.220:40911;n1-192.168.0.221:40911;n2-192.168.0.222:4091120dLegerSelfId=n2

温馨提示:legerSelfId 分别为 n0、n1、n2。在真实的生产环境中,broker配置文件中的 storePathRootDir、storePathCommitLog 尽量使用单独的根目录,这样判断其磁盘使用率时才不会相互影响。

Step3:将 store/config 下的 所有文件拷贝到 dledger store 的 congfig 目录下。

1cd /opt/application/rocketmq-all-4.5.2-bin-release/store/2cp config/* dledger_store/config/3

温馨提示:该步骤按照各自按照时配置的目录进行复制即可。

Step4:依次启动三台 broker。

1nohup bin/mqbroker -c conf/broker.conf  /dev/null  2>&1 &

如果启动成功,则在 rocketmq-console 中看到的集群信息如下:

RocketMQ 平滑升级到主从切换(实战篇)

3.3 验证消息发送与消息查找

首先我们先验证升级之前的消息是否能查询到,那我们还是查找key 为 m600000 的消息,查找结果如图所示:

RocketMQ 平滑升级到主从切换(实战篇)

然后我们来测试一下消息发送。测试代码如下:

 1public class Producer { 2    public static void main(String[] args) throws MQClientException, InterruptedException { 3        DefaultMQProducer producer = new DefaultMQProducer("producer_dw_test"); 4        producer.setNamesrvAddr("192.168.0.220:9876;192.168.0.221:9876"); 5        producer.start(); 6        for(int i =600200; i < 600300; i ++) { 7            try { 8                Message msg = new Message("topic_dw_test_by_order_01",null , "m" + i,("Hello RocketMQ" + i ).getBytes(RemotingHelper.DEFAULT_CHARSET)); 9                SendResult sendResult = producer.send(msg);10                System.out.printf("%s%n", sendResult);11            } catch (Exception e) {12                e.printStackTrace();13                Thread.sleep(1000);14            }15        }16        producer.shutdown();17        System.out.println("end");18    }19}

执行结果如下:

RocketMQ 平滑升级到主从切换(实战篇)

再去控制台查询一下消息,其结果也表明新的消息也能查询到。

RocketMQ 平滑升级到主从切换(实战篇)

最后我们再来验证一下主节点宕机,消息发送是否会受影响。

在消息发送的过程中,去关闭主节点,其截图如下:

RocketMQ 平滑升级到主从切换(实战篇)

RocketMQ 平滑升级到主从切换(实战篇)

RocketMQ 平滑升级到主从切换(实战篇)

再来看一下集群的状态:

RocketMQ 平滑升级到主从切换(实战篇)

等待该复制组重新完成主服务器选举后,即可继续处理消息发送。

温馨提示:由于本示例是一主一从,故在选举期间,消息不可用,但在真实的生产环境上,其部署架构是多主主从,即一个复制组在 leader 选举期间,其他复制组可以接替该复制组完成消息的发送,实现消息服务的高可用。

与 DLedger 相关的日志,默认存储在 broker_default.log 文件中。

本文就介绍到这里了,如果觉得文章对您有帮助的话,还希望帮忙点个【在看】,谢谢。


推荐阅读:源码分析 RocketMQ DLedger 多副本即主从切换系列文章:

1、RocketMQ 多副本前置篇:初探raft协议

2、源码分析RocketMQ多副本之Leader选主

3、源码分析 RocketMQ DLedger 多副本存储实现

4、源码分析 RocketMQ DLedger(多副本) 之日志追加流程

5、源码分析 RocketMQ DLedger(多副本) 之日志复制-上篇

6、源码分析 RocketMQ DLedger(多副本) 之日志复制-下篇

7、基于 raft 协议的 RocketMQ DLedger 多副本日志复制设计原理

8、RocketMQ 整合 DLedger(多副本)即主从切换实现平滑升级的设计技巧

9、源码分析 RocketMQ DLedger 多副本即主从切换实现原理

更多文章请关注微信公众号:中间件兴趣圈。

RocketMQ 平滑升级到主从切换(实战篇)

本文分享自微信公众号 - 中间件兴趣圈(dingwpmz_zjj)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

点赞
收藏
评论区
推荐文章
blmius blmius
3年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
待兔 待兔
4个月前
手写Java HashMap源码
HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程22
Peter20 Peter20
3年前
Redis集群详解
Redis集群详解Redis有三种集群模式,分别是:主从模式Sentinel模式Cluster模式三种集群模式各有特点,关于Redis介绍可以参考这里:Redis官网:https://redis.io/,最新版本5.0.4主从模式主从模式介绍主从模式是三种模式中最简单的,在主从复制中,数据库分为两类:主数据库(master)和从数据库(sl
Stella981 Stella981
3年前
Redis Sentinel用法
1RedisSentinel1.1哨兵的作用1\.监控:监控主从是否正常2\.通知:出现问题时,可以通知相关人员3\.故障迁移:自动主从切换4\.统一的配置管理:连接者询问sentinel取得主从的地址1.2搭建redis主从
Stella981 Stella981
3年前
RocketMQ 平滑升级到主从切换(实战篇)
本文主要介绍如何将RocketMQ集群从原先的主从同步升级到主从切换。首先先介绍与DLedger多副本即RocketMQ主从切换相关的核心配置属性,然后尝试搭建一个主从同步集群,再从原先的RocketMQ集群平滑升级到DLedger集群的示例,并简单测试一下主从切换功能。1、RocketMQDLedger多副本即主从切换核心配
Wesley13 Wesley13
3年前
mysql主从
\toc\1\.主从简介1.1主从作用及条件作用:实时灾备,用于故障切换读写分离,提供查询服务备份,避免影响业务主从部署必要条件:主库开启binlog日志(设置logbin参数)主从serverid不同从库服务器能连通主库
Stella981 Stella981
3年前
RocketMQ 整合 DLedger(多副本)即主从切换实现平滑升级的设计技巧
源码分析RocketMQDLedger多副本系列已经进行到第8篇了,前面的章节主要是介绍了基于raft协议的选主与日志复制,从本篇开始将开始关注如何将DLedger应用到RocketMQ中。\摘要:详细分析了RocketMQDLedger多副本(主从切换)是如何整合到RocketMQ中,本文的行文思路首先结合已掌握的DLe
Stella981 Stella981
3年前
RocketMQ 升级到主从切换(DLedger、多副本)实战
本文主要介绍如何将RocketMQ集群从原先的主从同步升级到主从切换。首先先介绍与DLedger多副本即RocketMQ主从切换相关的核心配置属性,然后尝试搭建一个主从同步集群,再从原先的RocketMQ集群平滑升级到DLedger集群的示例,并简单测试一下主从切换功能。1、RocketMQDLedger多副本即主从切换核心配
Wesley13 Wesley13
3年前
MySQL主从配置
本文索引:MySQL主从介绍准备工作配置主配置从测试主从同步MySQL主从介绍MySQL主从又叫做Replication、AB复制。简单将就是A/B两个服务器做主从后,在A上写数据,B也会跟着写数据,两者数据是实时同步的。MySQL主从是基于binlog的,主服务器需要开启
Stella981 Stella981
3年前
Redis主从、哨兵
之前安装了redis,但是单节点redis不可靠,现在搭建redis主从,提高可用性。一、搭建一主二从  redis主从其实是读写分离,主节点写数据,从节点读数据。  1、准备三台redis机器。redis的密码需要一致,否则主从切换时会有问题。  2、选择两台,作为从机,编辑redis核心配置文件。vim/us