0


RabbitMQ-持久化

一、介绍
     如何保证RabbitMQ服务停掉以后生产者发送过来的消息不丢失。默认情况下RabbitMQ退出或由于某种原因崩溃时,他将忽视队列和消息,除非告知它不要这样做。确保消息不丢失需要做两件事情:将队列和消息都标记为持久化
二、队列持久化
    再声明队列的时候把durable参数改为true即可
boolean durable = true; //让队列持久化
channel.queueDeclare(TASK_QUEUE_NAME,durable,false,false,null);
    但是需要注意的是,如果之前声明的队列不是持久化的,需要把原先的队列先删除,或者重新创建一个持久化队列,不然会出现错误

    删除之后

   重启之后

三、消息持久化
     需要在消息生产者修改代码,MessageProperties.PERSISTENT_TEXT_PLAIN添加这个属性
channel.basicPublish("",QUEUE_NAME, MessageProperties.PERSISTENT_TEXT_PLAIN,message.getBytes());
    将消息标注为持久化并不能完全保证不会丢失消息,尽管它告诉RabbitMQ将消息保存到磁盘,但是依然存在当消息刚刚准备存储在磁盘的时候,但是还没有存储完,消息还在缓存的一个间隔点。此时并没有真正写入磁盘。持久性保证并不强,仅使用于简单任务队列。
四、不公平分发
     设置参数(在消费端)
 //设置不公平分发
int prefetchCount = 1;
channel.basicQos(prefetchCount);
五、预取值
//轮询
//int prefetchCount = 0;
//设置不公平分发
//int prefetchCount = 1;
//预取值
int prefetchCount = 2;
channel.basicQos(prefetchCount);
六、发布确认
 1、开启发布确认(默认没有开启)
//开启发布确认
channel.confirmSelect();
 2、单个确认发布

      这是一种简单的确认方式,它是一种同步确认发布的方式,也就是发布一个消息之后只有它被确认发布后,后续的消息才能继续发布,waitForConfirmsOrDie(long)这个方法只有在消息被确认的时候才返回,如果在指定时间范围内这个消息没有被确认那么它将抛出异常。

     缺点:发布速度特别慢,最多提供每秒不超过数百条发布消息的吞吐量。

3、批量确认发布

     单个确认发布非常慢,而与单个确认发布相比,先发布一批消息然后一起确认可以极大提高吞吐量,缺点就是:当发生故障导致发布出现问题时,无法确定哪个消息出现问题了。我们必须将整个批处理保存在内存中,以记录重要的消息后重新发布。当然这种方案仍然是同步的,一样阻塞消息的发布。

4、异步确认发布

     逻辑比较复杂,但性价比较高,可靠性和效率都比较好;是利用回调函数来达到消息可靠性传递的,这个中间件也是通过回调函数来保证是否投递成功。
/**
 * @author
 * @date 
 * 发布确认模式
 *     1、单个确认
 *     2、批量确认
 *     3、异步批量确认
 */
public class ConfirmMessage {

    public static final int MESSAGE_COUNT = 1000;

    public static void main(String[] args) throws Exception {
        //1、单个确认   558ms
        //publishMessageIndividually();
        //2、批量确认   121ms
        //publicMessageBatch();
        //3、异步发布确认   40ms
        publishMessageAsync();

    }
    //单个确认
    public static void publishMessageIndividually() throws Exception {
        Channel channel = RabbitMqUtil.getChannel();
        //队列声明
        String queueName = UUID.randomUUID().toString();
        channel.queueDeclare(queueName,true,false,false,null);
        //开启发布确认
        channel.confirmSelect();
        //开始时间
        long begin = System.currentTimeMillis();
        //批量发消息
        for (int i = 0; i < MESSAGE_COUNT; i++) {
            String message = i+"";
            channel.basicPublish("",queueName,null,message.getBytes());
            System.out.println();
            boolean flag = channel.waitForConfirms();
            if(flag){
                System.out.println("消息发送成功");
            }
        }
        //结束时间
        long end = System.currentTimeMillis();
        System.out.println("发布"+MESSAGE_COUNT+"个单独确认消息耗时"+(end-begin));
    }
    //批量发布确认
    public static void publicMessageBatch() throws Exception {
        Channel channel = RabbitMqUtil.getChannel();
        //队列声明
        String queueName = UUID.randomUUID().toString();
        channel.queueDeclare(queueName,true,false,false,null);
        //开启发布确认
        channel.confirmSelect();
        //开始时间
        long begin = System.currentTimeMillis();
        //批量确认消息大小
        int batchSize = 100;
        //批量发消息  批量发布确认
        for (int i = 1; i <= MESSAGE_COUNT; i++) {
            String message = i+"";
            channel.basicPublish("",queueName,null,message.getBytes());

            //判断达到100条消息的时候,批量确认一次
            if(i%batchSize == 0){
                //发布确认
                channel.waitForConfirms();
            }
        }
        //结束时间
        long end = System.currentTimeMillis();
        System.out.println("发布"+MESSAGE_COUNT+"个批量确认消息耗时"+(end-begin));
    }
    //异步发布确认
    public static void publishMessageAsync() throws Exception {
        Channel channel = RabbitMqUtil.getChannel();
        //队列声明
        String queueName = UUID.randomUUID().toString();
        channel.queueDeclare(queueName,true,false,false,null);
        //开启发布确认
        channel.confirmSelect();
        //开始时间
        long begin = System.currentTimeMillis();
        //消息确认成功 回调函数
        ConfirmCallback ackCallback = (deliveryTag, multiple) ->{
            System.out.println("确认的消息:"+deliveryTag);
        };
        //消息确认失败 回调函数
        /**
         * 1、消息的标识
         * 2、是否为批量确认
         */
        ConfirmCallback nackCallback = (deliveryTag, multiple) ->{
            System.out.println("未确认的消息:"+deliveryTag);
        };
        //准备消息的监听器 监听哪些消息发送成功了 哪些消息发送失败了、
        /**
         * 1、监听哪些消息确认成功了
         * 2、监听哪些消息确认失败了
         */
        channel.addConfirmListener(ackCallback,nackCallback);

        //批量发消息  异步发布确认
        for (int i = 0; i < MESSAGE_COUNT; i++) {
            String message = i+"";
            channel.basicPublish("",queueName,null,message.getBytes());
        }
        //结束时间
        long end = System.currentTimeMillis();
        System.out.println("发布"+MESSAGE_COUNT+"个异步确认消息耗时"+(end-begin));
    }
}
   5、如何处理异步未确认消息

        把未确认的消息放到一个基于内存的能被发布线程访问的队列,比如说用ConcurrentLinkedQueue这个队列在confirm callbacks与发布线程之间进行消息的传递

    //异步发布确认
    public static void publishMessageAsync() throws Exception {
        Channel channel = RabbitMqUtil.getChannel();
        //队列声明
        String queueName = UUID.randomUUID().toString();
        channel.queueDeclare(queueName,true,false,false,null);
        //开启发布确认
        channel.confirmSelect();
        /**
         * 线程安全有序的一个哈希表 适用于高并发情况
         * 1、轻松的将序号与消息进行关联
         * 2、轻松的批量删除条目 只要给到序号
         * 3、支持高并发
         */
        ConcurrentSkipListMap<Long,String> outstandingConfirm = new ConcurrentSkipListMap<>();
        //消息确认成功 回调函数
        ConfirmCallback ackCallback = (deliveryTag, multiple) ->{
            if(multiple){
                //2、删除已经确认的消息 剩下就是为确认的消息
                ConcurrentNavigableMap<Long, String> confirmed =
                        outstandingConfirm.headMap(deliveryTag);
                confirmed.clear();
            }else{
                outstandingConfirm.remove(deliveryTag);
            }

            System.out.println("确认的消息:"+deliveryTag);

        };
        //消息确认失败 回调函数
        /**
         * 1、消息的标识
         * 2、是否为批量确认
         */
        ConfirmCallback nackCallback = (deliveryTag, multiple) ->{
            //3、打印未确认的消息有哪些
            String message = outstandingConfirm.get(deliveryTag);

            System.out.println("未确认的消息:"+message+"未确认的消息标记:"+deliveryTag);
        };
        //准备消息的监听器 监听哪些消息发送成功了 哪些消息发送失败了、
        /**
         * 1、监听哪些消息确认成功了
         * 2、监听哪些消息确认失败了
         */
        channel.addConfirmListener(ackCallback,nackCallback);
        //开始时间
        long begin = System.currentTimeMillis();
        //批量发消息  异步发布确认
        for (int i = 0; i < MESSAGE_COUNT; i++) {
            String message = i+"";
            channel.basicPublish("",queueName,null,message.getBytes());
            //1、记录所有要发送的消息
            outstandingConfirm.put(channel.getNextPublishSeqNo(),message);
        }
        //结束时间
        long end = System.currentTimeMillis();
        System.out.println("发布"+MESSAGE_COUNT+"个异步确认消息耗时"+(end-begin));
    }

本文转载自: https://blog.csdn.net/weixin_43956692/article/details/128969133
版权归原作者 weixin_43956692 所有, 如有侵权,请联系我们删除。

“RabbitMQ-持久化”的评论:

还没有评论