时间轮算法理解、Kafka实现

概述

TimingWheel，时间轮，简单理解就是一种用来存储若干个定时任务的环状队列（或数组），工作原理和钟表的表盘类似。

关于环形队列，请参考环形队列。

时间轮由两个部分组成，一个环状数组，一个遍历环状数组的指针。

首先定义一个固定长度的环状数组，队列中的每一个元素代表一个时间格（可以精确到秒或毫秒。实际场景里，如Java或Linux下的cron定时任务，都是某一秒来触发。在实时处理领域，则一般用毫秒），一个时间格可存放若干个定时任务（真实业务开发场景下，同时触发多个任务），即任务列表。任务列表是一个环形的双向链表，链表中的每一项表示的都是定时任务项，其中封装真正的定时任务。

时间格代表时间轮的基本时间跨度或精度，假如一秒走一个时间格的话，则这个时间轮的精度就是1秒。当指针指向某个数组时，就会把这个数组中存储的任务取出来，然后遍历链表逐个运行里面的任务。

下图是一个有12个时间格的时间轮，转完一圈需要12s。当需要新建一个3s后执行的定时任务，只需要将定时任务放在下标为3的时间格中即可。

当需要创建一个15s后执行的定时任务怎么办呢？

此时可考虑引入圈数（也叫轮数）这一概念，即这个任务还是放在下标为3的时间格中，圈数为2。除增加圈数这种方法之外，还有种多层次时间轮，Kafka采用的就是这种方案。

时间轮的好处：

• 减少定时任务添加和删除的时间复杂度，提升性能；
• 可保证每次执行定时器任务都是O(1)复杂度，在定时器任务密集的情况下，性能优势非常明显

实现

在很多开源组件里可看到时间轮算法的实现：Kafka、Netty、Dubbo、Caffeine。

值得一提的是，网络上好多文章说ZooKeeper里也有时间轮算法的实现，并没有。

Kafka

Kafka中有很多延时操作，如耗时的网络请求（如Produce时等待ISR副本复制成功）会被封装成DelayOperation进行延迟处理操作，防止阻塞Kafka请求处理线程。

Kafka没有使用JDK自带的Timer和DelayQueue实现。底层都是个优先队列，即采用minHeap的数据结构，最快需要执行的任务排在队列第一个，不同的是Timer中有个线程去拉取任务执行，DelayQueue是个容器，需要配合其他线程工作。时间复杂度上这两者插入和删除操作都是

O(logn)

，不满足性能要求。

ScheduledThreadPoolExecutor是JDK提供定时线程池，也是DelayQueue + 池化线程的一个实现。

Kafka基于时间轮实现延时操作，时间轮算法的插入删除操作的时间复杂度都是

O(1)

，满足性能要求。

源码类为

org.apache.kafka.server.util.timer.TimingWheel

：

publicclassTimingWheel{privatefinallong tickMs;privatefinallong startMs;privatefinalint wheelSize;privatefinalAtomicInteger taskCounter;privatefinalDelayQueue<TimerTaskList> queue;privatefinallong interval;privatefinalTimerTaskList[] buckets;privatelong currentTimeMs;privatevolatileTimingWheel overflowWheel =null;}

几个核心参数：

• tickMs：时间跨度
• startMs：开始时间
• wheelSize：时间轮中bucket的个数
• interval：时间轮的整体时间跨度 = tickMs * wheelSize
• currentTimeMs：tickMs的整数倍，代表时间轮当前所处的时间。currentTimeMs可以将整个时间轮划分为到期部分和未到期部分，currentTimeMs当前指向的时间格也属于到期部分，表示刚好到期，需要处理此时间格所对应的TimerTaskList中的所有任务

整个时间轮的总体跨度是不变的，随着指针currentTimeMs的不断推进，当前时间轮所能处理的时间段也在不断后移，总体时间范围在currentTimeMs和currentTimeMs+interval之间。

Kafka采用多层次时间轮来支持大跨度的定时任务，参考手表。

上图时间轮，第1层的时间精度为1，第2层的时间精度为20，第3层的时间精度为400。假如需要添加一个350s后执行的任务A的话（当前时间是0s），这个任务会被放在第2层（第二层的时间跨度为20*20=400>350）的第350/20=17个时间格子。

当第一层转17圈之后，时间过去340s，第2层的指针此时来到第17个时间格子。此时第2层第17个格子的任务会被移动到第1层。任务A当前是10s之后执行，因此它会被移动到第1层的第10个时间格子。

在层与层之间的移动，叫做时间轮的升降级。时间轮比较适合任务数量比较多的定时任务场景，它的任务写入和执行的时间复杂度都是

O(1)

。

随着时间推进，也会有一个时间轮降级的操作，原本延时较长的任务会从高一层时间轮重新提交到时间轮中，然后会被放在合适的低层次的时间轮当中等待处理。

在Kafka中时间轮之间如何关联呢，如何展现这种高一层的时间轮关系？
一个内部对象的指针，指向自己高一层的时间轮对象。

如何推进时间轮的前进，让时间轮的时间往前走？
通过DelayQueue来推进，是一种空间换时间的思想；DelayQueue中保存着所有的TimerTaskList对象，根据时间来排序，这样延时越小的任务排在越前面。外部通过一个ExpiredOperationReaper线程从DelayQueue中获取超时的任务列表TimerTaskList，然后根据TimerTaskList的过期时间来精确推进时间轮的时间，这样就不会存在空推进的问题。

Kafka采用权衡的策略，把DelayQueue用在合适地方。DelayQueue只存放TimerTaskList，并不是所有的TimerTask，数量并不多，相比空推进带来的影响是利大于弊的。

总结

• Kafka使用时间轮来实现延时队列，因为其底层是任务的添加和删除是基于链表实现的，时间复杂度为O(1)，满足高性能的要求；
• 对于时间跨度大的延时任务，引入层级时间轮，能更好控制时间粒度，可以应对更加复杂的定时任务处理场景；
• 对于如何实现时间轮的推进和避免空推进影响性能，采用空间换时间的思想，通过DelayQueue来推进时间轮。

Netty

io.netty.util.HashedWheelTimer

Netty中的时间轮是通过工作线程按照固定的时间间隔tickDuration推进的，如果长时间没有到期任务，这种方案会带来空推进的问题，造成一定性能损耗；

Dubbo

org.apache.dubbo.common.timer.HashedWheelTimer

，和Netty的源码实现几乎一样。

Caffeine

com.github.benmanes.caffeine.cache.TimerWheel

内部类Sentinel代表当前任务，两个内部类AscendingIterator和DescendingIterator分别表示从时间轮取任务的两个方式，

参考

• Kafka时间轮算法设计
• HashedWheelTimer使用及源码分析
• 一个开源的时间轮算法介绍