20210329 2. RocketMQ 高级特性及原理

RocketMQ 高级特性及原理

消费发送

生产者向消息队列里写入消息，不同的业务场景需要生产者采用不同的写入策略。比如同步发送、异步发送、 Oneway 发送、延迟发送、发送事务消息等。默认使用的是 DefaultMQProducer 类，发送消息要经过五个步骤：

设置 Producer 的 GroupName
设置 InstanceName ，当一个 JVM 需要启动多个 Producer 的时候，通过设置不同的 InstanceName 来区分，不设置的话系统使用默认名称 DEFAULT
设置发送失败重试次数，当网络出现异常的时候，这个次数影响消息的重复投递次数。想保证不丢消息，可以设置多重试几次
设置 NameServer 地址
组装消息并发送

消息发生返回状态（ SendResult#SendStatus ，org.apache.rocketmq.client.producer.SendStatus ）有如下四种：

FLUSH_DISK_TIMEOUT
FLUSH_SLAVE_TIMEOUT
SLAVE_NOT_AVAILABLE
SEND_OK

不同状态在不同的刷盘策略和同步策略的配置下含义是不同的：

FLUSH_DISK_TIMEOUT ：表示没有在规定时间内完成刷盘（需要 Broker 的刷盘策略被设置成 SYNC_FLUSH 才会报这个错误）
FLUSH_SLAVE_TIMEOUT ：表示在主备方式下，并且 Broker 被设置成 SYNC_MASTER 方式，没有在设定时间内完成主从同步
SLAVE_NOT_AVAILABLE ：这个状态产生的场景和 FLUSH_SLAVE_TIMEOUT 类似，表示在主备方式下，并且 Broker 被设置成 SYNC_MASTER ，但是没有找到被配置成 Slave 的 Broker
SEND_OK ：表示发送成功，发送成功的具体含义是，比如消息是否已经被存储到磁盘？消息是否被同步到了 Slave 上？消息在 Slave 上是否被写入磁盘？需要结合所配置的刷盘策略、主从策略来定。这个状态还可以简单理解为，没有发生上面列出的三个问题状态就是 SEND_OK

写一个高质量的生产者程序，重点在于对发送结果的处理，要充分考虑各种异常，写清对应的处理逻辑。

// 生产者使用到的 API

public class MyProducer {
    public static void main(String[] args) throws MQClientException, RemotingException, InterruptedException, MQBrokerException {

        // 该producer是线程安全的，可以多线程使用。
        // 但是建议使用多个Producer实例发送
        // 实例化生产者实例，同时设置生产组名称
        DefaultMQProducer producer = new DefaultMQProducer("producer_grp_04");

        // 设置实例名称。一个JVM中如果有多个生产者，可以通过实例名称区分
        // 默认 DEFAULT
        producer.setInstanceName("producer_grp_04_01");

        // 设置同步发送重试的次数
        producer.setRetryTimesWhenSendFailed(2);

        // 设置异步发送的重试次数
        producer.setRetryTimesWhenSendAsyncFailed(2);

        // 设置nameserver的地址
        producer.setNamesrvAddr("node1:9876");

        // 对生产者进行初始化
        producer.start();

        // 组装消息
        Message message = new Message("tp_demo_04", "hello lagou 04".getBytes());

        // 同步发送消息，如果消息发送失败，则按照 setRetryTimesWhenSendFailed 设置的次数进行重试
        // Broker 中可能会有重复的消息，由应用的开发者进行处理
        final SendResult result = producer.send(message);

        producer.send(message, new SendCallback() {
            @Override
            public void onSuccess(SendResult sendResult) {
                // 发送成功的处理逻辑
            }

            @Override
            public void onException(Throwable e) {
                // 发送失败的处理逻辑
                // 重试次数耗尽，发生的异常
            }
        });

        // 将消息放到Socket缓冲区，就返回，没有返回值，不会等待broker的响应
        // 速度快，会丢消息
        // 单向发送
        // producer.sendOneway(message);

        final SendStatus sendStatus = result.getSendStatus();

    }
}

提升写入的性能

发送一条消息出去要经过三步：

客户端发送请求到服务器
服务器处理该请求
服务器向客户端返回应答

一次消息的发送耗时是上述三个步骤的总和。

在一些对速度要求高，但是可靠性要求不高的场景下，比如日志收集类应用，可以采用 Oneway 方式发送：Oneway 方式只发送请求不等待应答，即 将数据写入客户端的 Socket 缓冲区就返回 ，不等待对方返回结果。用这种方式发送消息的耗时可以缩短到 微秒级 。

另一种提高发送速度的方法是 增加 Producer 的并发量，使用多个 Producer 同时发送，我们不用担心多 Producer 同时写会降低消息写磁盘的效率， RocketMQ 引入了一个 并发窗口 ，在窗口内消息可以并发地写入 DirectMem 中，然后异步地将 连续一段无空洞的数据 刷入文件系统当中。

顺序写 CommitLog 可让 RocketMQ 无论在 HDD 还是 SSD 磁盘情况下都能 保持较高的写入性能 。

目前在阿里内部经过调优的服务器上，写入性能达到 90w+ 的 TPS ，我们可以参考这个数据进行系统优化。

在 Linux 操作系统层级进行调优，推荐使用 EXT4 文件系统， IO 调度算法使用 deadline 算法。

消息消费

简单总结消费的几个要点：

消息消费方式（ Pull 和 Push ）
消息消费的模式（广播模式和集群模式）
流量控制（可以结合 Sentinel 来实现）
并发线程数设置
消息的过滤（Tag、Key）

当 Consumer 的处理速度跟不上消息的产生速度，会造成越来越多的消息积压，这个时候首先查看消费逻辑本身有没有优化空间，除此之外还有三种方法可以提高 Consumer 的处理能力：

提高消费并行度
- 在 同一个 ConsumerGroup 下（ Clustering 方式），可以通过 增加 Consumer 实例的数量 来提高并行度
  - 通过加机器，或者在已有机器中启动多个 Consumer 进程都可以增加 Consumer 实例数
  - 注意：总的 Consumer 数量不要超过 Topic 下 Read Queue 数量，超过的 Consumer 实例接收不到消息
- 此外，通过提高 单个 Consumer 实例中的并行处理的线程数 ，可以在同一个 Consumer 内增加并行度来提高吞吐量（设置方法是修改 consumeThreadMin 和 consumeThreadMax ）。
以批量方式进行消费

某些业务场景下，多条消息同时处理的时间会大大小于逐个处理的时间总和，比如消费消息中涉及 update 某个数据库，一次 update 10 条的时间会大大小于十次 update 1 条数据的时间

可以通过批量方式消费来提高消费的吞吐量。实现方法是设置 Consumer 的 consumeMessageBatchMaxSize 这个参数，默认是 1 ，如果设置为 N ，在消息多的时候每次收到的是个长度为 N 的 消息链表
检测延时情况，跳过非重要消息

Consumer 在消费的过程中，如果发现由于某种原因发生严重的消息堆积，短时间无法消除堆积，这个时候可以选择 丢弃不重要的消息 ，使 Consumer 尽快追上 Producer 的进度

// 消费者使用到的 API

public class MyConsumer {

    public static void main(String[] args) throws MQClientException, RemotingException, InterruptedException, MQBrokerException {

        // 消息的拉取
        DefaultMQPullConsumer pullConsumer = new DefaultMQPullConsumer();

        // 消费的模式：集群
        pullConsumer.setMessageModel(MessageModel.CLUSTERING);
        // 消费的模式：广播
        // pullConsumer.setMessageModel(MessageModel.BROADCASTING);


        final Set<MessageQueue> messageQueues = pullConsumer.fetchSubscribeMessageQueues("tp_demo_05");

        for (MessageQueue messageQueue : messageQueues) {
            // 指定消息队列，指定标签过滤的表达式，消息偏移量和单次最大拉取的消息个数
            pullConsumer.pull(messageQueue, "TagA||TagB", 0L, 100);
        }

        // ----------------------------------------------------- //

        // 消息的推送
        DefaultMQPushConsumer pushConsumer = new DefaultMQPushConsumer();

        pushConsumer.setMessageModel(MessageModel.BROADCASTING);
        pushConsumer.setMessageModel(MessageModel.CLUSTERING);

        // 设置消费者的线程数
        pushConsumer.setConsumeThreadMin(1);
        pushConsumer.setConsumeThreadMax(10);

        // subExpression表示对标签的过滤：
        // TagA||TagB|| TagC    *表示不对消息进行标签过滤
        pushConsumer.subscribe("tp_demo_05", "*");

        // 设置消息批处理的一个批次中消息的最大个数
        pushConsumer.setConsumeMessageBatchMaxSize(10);

        // 在设置完之后调用start方法初始化并运行推送消息的消费者
        pushConsumer.start();
    }


}

消息存储

存储介质

关系型数据库 DB

Apache 下开源的另外一款 MQ — ActiveMQ （默认采用的 KahaDB 做消息存储）可选用 JDBC 的方式来做消息持久化，通过简单的 XML 配置信息即可实现 JDBC 消息存储。由于，普通关系型数据库（如 MySQL ）在单表数据量达到千万级别的情况下，其 IO 读写性能往往会出现瓶颈。在可靠性方面，该种方案非常依赖 DB ，如果一旦 DB 出现故障，则 MQ 的消息就无法落盘存储会导致线上故障

文件系统

目前业界较为常用的几款产品（ RocketMQ/Kafka/RabbitMQ ）均采用的是 消息刷盘 至所部署虚拟机 / 物理机的文件系统来做持久化（刷盘一般可以分为异步刷盘和同步刷盘两种模式）。

消息刷盘为消息存储提供了一种高效率、高可靠性和高性能的数据持久化方式。除非部署 MQ 机器本身或是本地磁盘挂了，否则一般是不会出现无法持久化的故障问题。

性能对比

文件系统 > 关系型数据库 DB

消息的存储和发送

消息存储

目前的高性能磁盘，顺序写速度可以达到 600MB/s ，超过了一般网卡的传输速度。

但是磁盘随机写的速度只有大概 100KB/s ，和顺序写的性能相差 6000 倍！

因为有如此巨大的速度差别，好的消息队列系统会比普通的消息队列系统速度快多个数量级。

RocketMQ 的消息用顺序写，保证了消息存储的速度。

存储结构

RocketMQ 消息的存储是由 ConsumeQueue 和 CommitLog 配合完成的，消息真正的物理存储文件是 CommitLog ， ConsumeQueue 是消息的逻辑队列，类似数据库的索引文件，存储的是指向物理存储的地址。每个 Topic 下的每个 Message Queue 都有一个对应的 ConsumeQueue 文件。

消息存储架构图中主要有下面三个跟消息存储相关的文件构成：

CommitLog
ConsumeQueue
IndexFile

CommitLog

CommitLog ：消息主体以及元数据的存储主体，存储 Producer 端写入的消息主体内容，消息内容不是定长的。单个文件大小默认 1G ，文件名长度为 20 位，左边补零，剩余为起始偏移量，比如 00000000000000000000 代表了第一个文件，起始偏移量为 0 ，文件大小为 1G = 1073741824 ；当第一个文件写满了，第二个文件为 00000000001073741824 ，起始偏移量为 1073741824 ，以此类推。消息主要是顺序写入日志文件，当文件满了，写入下一个文件；

[root@hwjlinux commitlog]# pwd
/root/store/commitlog
[root@hwjlinux commitlog]# ll
total 688
-rw-r--r--. 1 root root 1073741824 Mar 27 03:23 00000000000000000000

ConsumeQueue

ConsumeQueue ：消息消费队列，引入的目的主要是 提高消息消费的性能

RocketMQ 是基于主题 Topic的订阅模式，消息消费是针对主题进行，如果要遍历 CommitLog 文件根据 Topic 检索消息是非常低效，Consumer 即可根据 ConsumeQueue 来查找待消费的消息。

其中，ConsumeQueue（逻辑消费队列）作为消费消息的索引：

保存了指定 Topic 下的队列消息在 CommitLog 中的起始物理偏移量 offset
消息大小 size
消息 Tag 的 HashCode 值

ConsumeQueue 文件可以看成是基于 Topic 的 CommitLog 索引文件，所以 ConsumeQueue 文件夹的组织方式是：topic/queue/file 三层组织结构。

具体存储路径为：$HOME/store/consumequeue/{topic}/{queueId}/{fileName}

ConsumeQueue 文件采取定长设计，每个条目共 20 个字节，分别为：

8 字节的 CommitLog 物理偏移量
4 字节的消息长度
8 字节 Tag hashcode

单个文件由 30w 个条目组成，可以像数组一样随机访问每一个条目

每个 ConsumeQueue 文件大小约 5.72M

IndexFile

IndexFile ：IndexFile（索引文件）提供了一种可以通过 key 或时间区间来查询消息的方法。

Index 文件的存储位置是： $HOME/store/index/${fileName}
文件名 fileName 是以创建时的时间来命名的，例如 20210326180353474
固定的单个 IndexFile 文件大小约为 400M
一个 IndexFile 可以保存 2000w 个索引
IndexFile 的底层存储设计为在文件系统中实现 HashMap 结构，故 RocketMQ 的索引文件其底层实现为 hash 索引

过滤消息

RocketMQ 分布式消息队列的消息过滤方式有别于其它 MQ 中间件，是在 Consumer 端订阅消息时再做消息过滤的。

RocketMQ 这么做是在于其 Producer 端写入消息和 Consumer 端订阅消息采用分离存储的机制来实现的， Consumer 端订阅消息是需要通过 ConsumeQueue 这个消息消费的逻辑队列拿到一个索引，然后再从 CommitLog 里面读取真正的消息实体内容，所以说到底也是还绕不开其存储结构。

其 ConsumeQueue 的存储结构如下，可以看到其中有 8 个字节存储的 Message Tag 的哈希值，基于 Tag 的消息过滤正是基于这个字段值的：

主要支持如下 2 种的过滤方式：

Tag 过滤方式

Consumer 端在订阅消息时除了指定 Topic 还可以指定 Tag ，如果一个消息有多个 Tag ，可以用 || 分隔。
1. Consumer 端会将这个订阅请求构建成一个 SubscriptionData，发送一个 Pull 消息的请求给 Broker 端
2. Broker 端从 RocketMQ 的文件存储层 Store 读取数据之前，会用这些数据先构建一个 MessageFilter ，然后传给 Store
3. Store 从 ConsumeQueue 读取到一条记录后，会用它记录的消息 Tag hash 值去做过滤
4. 在服务端只是根据 hashcode 进行判断，无法精确对 Tag 原始字符串进行过滤，在消息消费端拉取到消息后，还需要对消息的原始 Tag 字符串进行比对，如果不同，则丢弃该消息，不进行消息消费
SQL92 的过滤方式

仅对 push 的消费者起作用

Tag 方式虽然效率高，但是支持的过滤逻辑比较简单。

SQL 表达式可以更加灵活的支持复杂过滤逻辑，这种方式的大致做法和上面的 Tag 过滤方式一样，只是在 Store 层的具体过滤过程不太一样

真正的 SQL expression 的构建和执行由 rocketmq-filter 模块负责的

每次过滤都去执行 SQL 表达式会影响效率，所以 RocketMQ 使用了 BloomFilter 避免了每次都去执行

SQL92 的表达式上下文为消息的属性

默认关闭，可通过配置 conf/broker.conf 开启：
1. 修改配置文件
```
enablePropertyFilter=true
```
2. 查看 Broker 属性
```
mqbroker -p | grep enablePropertyFilter
```
3. 重启 Broker
```
mqbroker -n localhost:9876 -c $ROCKET_HOME/conf/broker.conf -p | grep enablePropertyFilter
```
  启动日志中可以看到属性改变为 true
RocketMQ 仅定义了几种基本的语法，用户可以扩展：
1. 数字比较：> ， >= ， < ， <= ， BETWEEN ， =
2. 字符串比较： = , <> , IN ，IS NULL 或者 IS NOT NULL
3. 逻辑比较： AND , OR , NOT
4. 常量：
  - 数字如：123 , 3.1415
  - 字符串如：'abc'，必须是单引号引起来
  - 特殊常量 NULL
  - 布尔型如：TRUE ， FALSE
Filter Server 方式

这是一种比 SQL 表达式更灵活的过滤方式，允许用户自定义 Java 函数，根据 Java 函数的逻辑对消息进行过滤。

要使用 Filter Server ，首先要在启动 Broker 前在配置文件里加上 filterServer-Nums = 3 这样的配置， Broker 在启动的时候，就会在本机启动 3 个 Filter Server 进程。 Filter Server 类似一个 RocketMQ 的 Consumer 进程，它从本机 Broker 获取消息，然后根据用户上传过来的 Java 函数进行过滤，过滤后的消息再传给远端的 Consumer 。

这种方式会占用很多 Broker 机器的 CPU 资源，要根据实际情况谨慎使用。上传的 Java 代码也要经过检查，不能有申请大内存、创建线程等这样的操作，否则容易造成 Broker 服务器宕机。

零拷贝原理

PageCache

由内存中的物理 page 组成，其内容对应磁盘上的 block
page cache 的大小是动态变化的
backing store ： cache 缓存的存储设备
一个 page 通常包含多个 block ，而 block 不一定是连续的

读 Cache

当内核发起一个读请求时，先会检查请求的数据是否缓存到了 page cache 中
- 如果有，那么直接从内存中读取，不需要访问磁盘，此即 cache hit （缓存命中）
- 如果没有，就必须从磁盘中读取数据，然后内核将读取的数据再缓存到 cache 中，如此后续的读请求就可以命中缓存了
page 可以只缓存一个文件的部分内容，而不需要把整个文件都缓存进来

写 Cache

当内核发起一个写请求时，也是直接往 cache 中写入，后备存储中的内容不会直接更新
内核会将被写入的 page 标记为 dirty ，并将其加入到 dirty list 中
内核会周期性地将 dirty list 中的 page 写回到磁盘上，从而使磁盘上的数据和内存中缓存的数据一致

cache 回收

Page cache 的另一个重要工作是释放 page ，从而释放内存空间
cache 回收的任务是选择合适的 page 释放
如果 page 是 dirty 的，需要将 page 写回到磁盘中再释放

cache 和 buffer 的区别

Cache ：缓存区，是 高速缓存，是位于 CPU 和主内存之间的容量较小但速度很快的存储器，因为 CPU 的速度远远高于主内存的速度， CPU 从内存中读取数据需等待很长的时间，而 Cache 保存着 CPU 刚用过的数据或循环使用的部分数据，这时从 Cache 中读取数据会更快，减少了 CPU 等待的时间，提高了系统的性能。

Cache 并不是缓存文件的，而是缓存块的（块是 I/O 读写最小的单元）； Cache 一般会用在 I/O 请求上，如果多个进程要访问某个文件，可以把此文件读入 Cache 中，这样下一个进程获取 CPU 控制权并访问此文件直接从 Cache 读取，提高系统性能。
Buffer ：缓冲区，用于存储速度不同步的设备或优先级不同的设备之间传输数据 ；通过 buffer 可以减少进程间通信需要等待的时间，当存储速度快的设备与存储速度慢的设备进行通信时，存储慢的数据先把数据存放到 buffer ，达到一定程度存储快的设备再读取 buffer 的数据，在此期间存储快的设备 CPU 可以干其他的事情。

Buffer ：一般是用在写入磁盘的，例如：某个进程要求多个字段被读入，当所有要求的字段被读入之前已经读入的字段会先放到 buffer 中。

HeapByteBuffer 和 DirectByteBuffer

HeapByteBuffer ，是 在 JVM 堆上面一个 buffer ，底层的本质是一个数组，用类封装维护了很多的索引（ limit/position/capacity 等）
DirectByteBuffer ，底层的数据是维护 在操作系统的内存中，而不是 JVM 里， DirectByteBuffer 里维护了一个引用 address 指向数据，进而操作数据
HeapByteBuffer 优点：内容维护在 JVM 里，把内容写进 buffer 里速度快；更容易回收
DirectByteBuffer 优点：跟外设（ IO 设备）打交道时会快很多，因为外设读取 JVM 堆里的数据时，不是直接读取的，而是把 JVM 里的数据读到一个内存块里，再在这个块里读取的，如果使用 DirectByteBuffer ，则可以省去这一步，实现 zero copy （零拷贝）
外设之所以要把 JVM 堆里的数据 copy 出来再操作，不是因为操作系统不能直接操作 JVM 内存，而是因为 JVM 在进行 GC （垃圾回收）时，会对数据进行移动，一旦出现这种问题，外设就会出现数据错乱的情况

所有的通过 allocate 方法创建的 buffer 都是 HeapByteBuffer

堆外内存实现零拷贝

前者分配在 JVM 堆上（ ByteBuffer.allocate() ），后者分配在操作系统物理内存上（ ByteBuffer.allocateDirect() ， JVM 使用 C 库中的 malloc() 方法分配堆外内存）
DirectByteBuffer 可以减少 JVM 的 GC 压力，当然，堆中依然保存对象引用， Full GC 发生时也会回收直接内存，也可以通过 system.gc() 主动通知 JVM 回收，或者通过 cleaner.clean() 主动清理。 Cleaner.create() 方法需要传入一个 DirectByteBuffer 对象和一个 Deallocator （一个堆外内存回收线程）。 GC 发生时发现堆中的 DirectByteBuffer 对象没有强引用了，则调用 Deallocator 的 run() 方法回收直接内存，并释放堆中 DirectByteBuffer 的对象引用；
底层 I/O 操作需要连续的内存（ JVM 堆内存容易发生 GC 和对象移动），所以在执行 write 操作时需要将 HeapByteBuffer 数据拷贝到一个临时的（操作系统用户态）内存空间中，会多一次额外拷贝。而 DirectByteBuffer 则可以省去这个拷贝动作，这是 Java 层面的 零拷贝 技术，在 Netty 中广泛使用
MappedByteBuffer 底层使用了操作系统的 mmap 机制， FileChannel#map() 方法就会返回 MappedByteBuffer 。 DirectByteBuffer 虽然实现了 MappedByteBuffer ，不过 DirectByteBuffer 默认并没有直接使用 mmap 机制

缓冲 IO 和直接 IO

缓存 IO

缓存 I/O 又被称作标准 I/O ，大多数文件系统的默认 I/O 操作都是缓存 I/O 。在 Linux 的缓存 I/O 机制中，数据先从磁盘复制到内核空间的缓冲区，然后从内核空间缓冲区复制到应用程序的地址空间。

读操作：操作系统检查内核的缓冲区有没有需要的数据，如果已经缓存了，那么就直接从缓存中返回；否则从磁盘中读取，然后缓存在操作系统的缓存中。

写操作：将数据从用户空间复制到内核空间的缓存中。这时对用户程序来说写操作就已经完成，至于什么时候再写到磁盘中由操作系统决定，除非显示地调用了 sync 同步命令。

缓存 I/O 的优点：

在一定程度上分离了内核空间和用户空间，保护系统本身的运行安全
可以减少读盘的次数，从而提高性能

缓存 I/O 的缺点：在缓存 I/O 机制中， DMA 方式可以将数据直接从磁盘读到页缓存中，或者将数据从页缓存直接写回到磁盘上，而不能直接在应用程序地址空间和磁盘之间进行数据传输。数据在传输过程中就需要在 应用程序地址空间（用户空间）和缓存（内核空间）之间进行多次数据拷贝操作 ，这些数据拷贝操作所带来的 CPU 以及内存开销是非常大的。

直接 IO

直接 IO 就是应用程序直接访问磁盘数据，而不经过内核缓冲区，这样做的目的是减少一次从内核缓冲区到用户程序缓存的数据复制。比如说数据库管理系统这类应用，它们更倾向于选择它们自己的缓存机制，因为数据库管理系统往往比操作系统更了解数据库中存放的数据，数据库管理系统可以提供一种更加有效的缓存机制来提高数据库中数据的存取性能。

直接 IO 的缺点：如果访问的数据不在应用程序缓存中，那么每次数据都会直接从磁盘加载，这种直接加载会非常缓慢。通常直接 IO 与异步 IO 结合使用，会得到比较好的性能。

下图分析了写场景下的 DirectIO 和 BufferIO ：

内存映射文件（Mmap）

在 Linux 中我们可以 使用 mmap 用来在进程虚拟内存地址空间中分配地址空间，创建和物理内存的映射关系。

映射关系可以分为两种：

文件映射：磁盘文件映射进程的虚拟地址空间，使用文件内容初始化物理内存
匿名映射：初始化全为 0 的内存空间

而对于映射关系是否共享又分为

私有映射（ MAP_PRIVATE ）多进程间数据共享，修改不反应到磁盘实际文件，是一个 copy-on-write （写时复制）的映射方式
共享映射（ MAP_SHARED ）多进程间数据共享，修改反应到磁盘实际文件中

因此总结起来有 4 种组合：

私有文件映射，多个进程使用同样的物理内存页进行初始化，但是各个进程对内存文件的修改不会共享，也不会反应到物理文件中
私有匿名映射，mmap 会创建一个新的映射，各个进程不共享，这种使用主要用于分配内存（ malloc 分配大内存会调用 mmap ）。例如开辟新进程时，会为每个进程分配虚拟的地址空间，这些虚拟地址映射的物理内存空间各个进程间读的时候共享，写的时候会 copy-on-write
共享文件映射，多个进程通过虚拟内存技术共享同样的物理内存空间，对内存文件的修改会反应到实际物理文件中，他也是进程间通信（ IPC ）的一种机制
共享匿名映射，这种机制在进行 fork 的时候不会采用写时复制，父子进程完全共享同样的物理内存页，这也就实现了父子进程通信（ IPC ）

mmap 只是在虚拟内存分配了地址空间，只有在第一次访问虚拟内存的时候才分配物理内存。

在 mmap 之后，并没有在将文件内容加载到物理页上，只在虚拟内存中分配了地址空间。当进程在访问这段地址时，通过查找页表，发现虚拟内存对应的页没有在物理内存中缓存，则产生"缺页"，由内核的缺页异常处理程序处理，将文件对应内容，以页为单位（ 4096 ）加载到物理内存，注意是只加载缺页，但也会受操作系统一些调度策略影响，加载的比所需的多。

直接内存读取并发送文件的过程

Mmap 读取并发送文件的过程

Sendfile 零拷贝读取并发送文件的过程

零拷贝（zero copy）小结：

虽然叫零拷贝，实际上 sendfile 有 2 次数据拷贝的。第 1 次是从磁盘拷贝到内核缓冲区，第二次是从内核缓冲区拷贝到网卡（协议引擎）。如果网卡支持 SG-DMA （ The Scatter-GatherDirect Memory Access ）技术，就无需从 PageCache 拷贝至 Socket 缓冲区
之所以叫零拷贝，是从内存角度来看的，数据在内存中没有发生过拷贝，只是在内存和 I/O 设备之间传输。很多时候我们认为 sendfile 才是零拷贝， mmap 严格来说不算
Linux 中的 API 为 sendfile 、 mmap ， Java 中的 API 为 FileChanel.transferTo() 、 FileChannel.map() 等
Netty 、 Kafka （ sendfile ）、 RocketMQ （ mmap ）、 Nginx 等高性能中间件中，都有大量利用操作系统零拷贝特性

同步复制和异步复制

如果一个 Broker 组有 Master 和 Slave ，消息需要从 Master 复制到 Slave 上，有同步和异步两种复制方式。

同步复制
- 同步复制方式是等 Master 和 Slave 均写成功后才反馈给客户端写成功状态；
- 在同步复制方式下，如果 Master 出故障， Slave 上有全部的备份数据，容易恢复，但是同步复制会增大数据写入延迟，降低系统吞吐量；
异步复制
- 异步复制方式是只要 Master 写成功，即可反馈给客户端写成功状态；
- 在异步复制方式下，系统拥有较低的延迟和较高的吞吐量，但是如果 Master 出了故障，有些数据因为没有被写入 Slave ，有可能会丢失；

配置

同步复制和异步复制是通过 Broker 配置文件里的 brokerRole 参数进行设置的，这个参数可以被设置成 ASYNC_MASTER 、 SYNC_MASTER 、 Slave 三个值中的一个。

$ROCKET_HOME/conf/broker.conf 文件：Broker 的配置文件：

参数名	默认值	说明
listenPort	10911	接受客户端连接的监听端口
namesrvAddr	null	nameServer 地址
brokerIP1	网卡的 InetAddress	当前 broker 监听的 IP
brokerIP2	跟 brokerIP1 一样	存在主从 broker 时，如果在 broker 主节点上配置了 brokerIP2 属性， broker 从节点会连接主节点配置的 brokerIP2 进行同步
brokerName	null	broker 的名称
brokerClusterName	DefaultCluster	本 broker 所属的 Cluser 名称
brokerId	0	broker id，0 表示 master，其他的正整数表示 slave
storePathCommitLog	$HOME/store/commitlog/	存储 commit log 的路径
storePathConsumerQueue	$HOME/store/consumequeue/	存储 consume queue 的路径
mapedFileSizeCommitLog	1024 * 1024 * 1024(1G)	commit log 的映射文件大小
deleteWhen	04	在每天的什么时间删除已经超过文件保留时间的 commit log
fileReserverdTime	72	以小时计算的文件保留时间
brokerRole	ASYNC_MASTER	`SYNC_MASTER` 或者 `ASYNC_MASTER` 或者 `Slave` - `SYNC_MASTER` 表示当前 Broker 是一个同步复制的 Master `SYNC_MASTER` 或者 `ASYNC_MASTER` 或者 `Slave` - `ASYNC_MASTER` 表示当前 Broker 是一个异步复制的 Master - `Slave` 表示当前 borker 是一个 Slave
flushDiskType	ASYNC_FLUSH	`SYNC_FLUSH` / `ASYNC_FLUSH` - `SYNC_FLUSH` 模式下的 broker 保证在生产者收到确认之前将消息刷盘。 - `ASYNC_FLUSH` 模式下的 broker 则利用刷盘一组消息的模式，可以取得更好的性能

总结

实际应用中要结合业务场景，合理设置刷盘方式和主从复制方式，尤其是 SYNC_FLUSH 方式，由于频繁地触发磁盘写动作，会明显降低性能。通常情况下，应该把 Master 和 Save 配置成 ASYNC_FLUSH 的刷盘方式，主从之间配置成 SYNC_MASTER 的复制方式，这样即使有一台机器出故障，仍然能保证数据不丢，是个不错的选择。

高可用机制

RocketMQ 分布式集群是通过 Master 和 Slave 的配合达到高可用性的。

Master 和 Slave 的区别：

在 Broker 的配置文件中，参数 brokerId 的值为 0 表明这个 Broker 是 Master ，大于 0 表明这个 Broker 是 Slave
brokerRole 参数也说明这个 Broker 是 Master 还是 Slave （ SYNC_MASTER / ASYNC_MASTER / SALVE ）
Master 角色的 Broker 支持读和写， Slave 角色的 Broker 仅支持读
Consumer 可以连接 Master 角色的 Broker ，也可以连接 Slave 角色的 Broker 来读取消息

消息消费高可用

在 Consumer 的配置文件中，并不需要设置是从 Master 读还是从 Slave 读，当 Master 不可用或者繁忙的时候， Consumer 会被 自动切换 到从 Slave 读。

有了自动切换 Consumer 这种机制，当一个 Master 角色的机器出现故障后， Consumer 仍然可以从 Slave 读取消息，不影响 Consumer 程序。

这就达到了消费端的高可用性。

消息发送高可用

如何达到发送端的高可用性呢？

在创建 Topic 的时候，把 Topic 的多个 Message Queue 创建在多个 Broker 组上（相同 Broker 名称，不同 brokerId 的机器组成一个 Broker 组），这样既可以在性能方面具有扩展性，也可以降低主节点故障对整体上带来的影响，而且当一个 Broker 组的 Master 不可用后，其他组的 Master 仍然可用， Producer 仍然可以发送消息的。

RocketMQ 目前还不支持把 Slave 自动转成 Master ，如果机器资源不足，需要把 Slave 转成 Master ，操作方法如下：

手动停止 Slave 角色的 Broker
更改配置文件
用新的配置文件启动 Broker

这种早期方式在大多数场景下都可以很好的工作，但也面临一些问题。

比如，在需要保证消息严格顺序的场景下，由于在主题层面无法保证严格顺序，所以必须指定队列来发送消息，对于任何一个队列，它一定是落在一组特定的主从节点上，如果这个主节点宕机，其他的主节点是无法替代这个主节点的，否则就无法保证严格顺序。

在这种复制模式下，严格顺序和高可用只能选择一个。

RocketMQ 在 2018 年底迎来了一次重大的更新，引入 Dledger，增加了一种全新的复制方式。

RocketMQ 引入 Dledger，使用新的复制方式，可以很好地解决这个问题。

Dledger 在写入消息的时候，要求至少消息复制到半数以上的节点之后，才给客户端返回写入成功，并且它是支持通过选举来 动态切换主节点 的。

举例:

假如有3个节点，当主节点宕机的时候，2 个从节点会通过投票选出一个新的主节点来继续提供服务，相比主从的复制模式，解决了可用性的问题。

由于消息要至少复制到 2 个节点上才会返回写入成功，即使主节点宕机了，也至少有一个节点上的消息是和主节点一样的。

Dledger在选举时，总会把数据和主节点一样的从节点选为新的主节点，这样就保证了数据的一致性，既不会丢消息，还可以保证严格顺序。

存在问题:

当然，Dledger 的复制方式也不是完美的，依然存在一些不足：

比如，选举过程中不能提供服务
最少需要 3 个节点才能保证数据一致性，3 节点时，只能保证 1 个节点宕机时可用，如果 2 个节点同时宕机，即使还有 1 个节点存活也无法提供服务，资源的利用率比较低
另外，由于至少要复制到半数以上的节点才返回写入成功，性能上也不如主从异步复制的方式快

刷盘机制

RocketMQ 的所有消息都是持久化的，先写入系统 PageCache ，然后刷盘，可以保证内存与磁盘都有一份数据，访问时，直接从内存读取。消息在通过 Producer 写入 RocketMQ 的时候，有两种写磁盘方式，分布式同步刷盘和异步刷盘。

同步刷盘

同步刷盘与异步刷盘的唯一区别是异步刷盘写完 PageCache 直接返回，而同步刷盘需要等待刷盘完成才返回，同步刷盘流程如下：

写入 PageCache后，线程等待，通知刷盘线程刷盘
刷盘线程刷盘后，唤醒前端等待线程，可能是一批线程
前端等待线程向用户返回成功

异步刷盘

在有 RAID 卡，SAS 15000 转磁盘测试顺序写文件，速度可以达到 300M 每秒左右，而线上的网卡一般都为千兆网卡，写磁盘速度明显快于数据网络入口速度，那么是否可以做到写完内存就向用户返回，由后台线程刷盘呢？

由于磁盘速度大于网卡速度，那么刷盘的进度肯定可以跟上消息的写入速度
万一由于此时系统压力过大，可能堆积消息，除了写入 IO，还有读取 IO，万一出现磁盘读取落后情况，会不会导致系统内存溢出，答案是否定的，原因如下：
1. 写入消息到 PageCache 时，如果内存不足，则尝试丢弃干净的 PAGE，腾出内存供新消息使用，策略是 LRU 方式
2. 如果干净页不足，此时写入 PageCache 会被阻塞，系统尝试刷盘部分数据，大约每次尝试 32 个 PAGE , 来找出更多干净 PAGE
综上，内存溢出的情况不会出现。

负载均衡

RocketMQ 中的负载均衡都在 Client 端完成，具体来说的话，主要可以分为 Producer 端发送消息时候的负载均衡和 Consumer 端订阅消息的负载均衡。

Producer 的负载均衡

如图所示，5 个队列可以部署在一台机器上，也可以分别部署在 5 台不同的机器上，发送消息通过轮询队列的方式发送，每个队列接收平均的消息量。通过增加机器，可以水平扩展队列容量。另外也可以自定义方式选择发往哪个队列。

# 创建或更新主题
[root@node1 ~]# mqadmin updateTopic -n localhost:9876 -t tp_demo_02 -w 6 -b localhost:10911

// 消息发往指定队列

public class MyProducer {
    public static void main(String[] args) throws MQClientException, RemotingException, InterruptedException, MQBrokerException {
        DefaultMQProducer producer = new DefaultMQProducer("producer_grp_06_01");
        producer.setNamesrvAddr("node1:9876");

        producer.start();

        Message message = new Message("tp_demo_02", "hello lagou".getBytes());

        final SendResult result = producer.send(message, new MessageQueue("tp_demo_02", "hwjlinux", 5));
        System.out.println(result);

        producer.shutdown();

    }
}

// 消费指定队列消息

public class MyConsumer {
    public static void main(String[] args) throws InterruptedException, RemotingException, MQClientException, MQBrokerException {
        DefaultMQPullConsumer consumer = new DefaultMQPullConsumer("consumer_grp_06_01");
        consumer.setNamesrvAddr("node1:9876");

        consumer.start();

        final PullResult pullResult = consumer.pull(new MessageQueue("tp_demo_02", "hwjlinux", 5), "*", 0L, 10);

        System.out.println(pullResult);
        System.out.println("------------------------------------");

        pullResult.getMsgFoundList().forEach(messageExt -> {
            System.out.println(messageExt);
        });

        consumer.shutdown();

    }
}

Consumer 的负载均衡

如图所示，如果有 5 个队列， 2 个 Consumer ，那么第一个 Consumer 消费 3 个队列，第二个 Consumer 消费 2 个队列。这样即可达到平均消费的目的，可以水平扩展 Consumer 来提高消费能力。但是 Consumer 数量要小于等于队列数量，如果 Consumer 超过队列数量，那么多余的 Consumer 将不能消费消息 。

在 RocketMQ 中， Consumer 端的两种消费模式（ Push/Pull ）底层都是基于拉模式来获取消息的，而 Push 模式只是对 Pull 模式的一种封装，其本质实现为消息拉取线程在从服务器拉取到一批消息后，然后提交到消息消费线程池后，又“马不停蹄”的继续向服务器再次尝试拉取消息。

如果未拉取到消息，则延迟一下又继续拉取。

在两种基于拉模式的消费方式（ Push/Pull ）中，均需要 Consumer 端在知道从 Broker 端的哪一个消息队列中去获取消息。

因此，有必要在 Consumer 端来做负载均衡，即 Broker 端中多个 MessageQueue 分配给同一个 ConsumerGroup 中的哪些 Consumer 消费。

要做负载均衡，必须知道一些全局信息，也就是一个 ConsumerGroup 里到底有多少个 Consumer 。

知道了全局信息，才可以根据某种算法来分配，比如简单地平均分到各个 Consumer 。

在 RocketMQ 中，负载均衡或者消息分配是在 Consumer 端代码中完成的， Consumer 从 Broker 处获得全局信息，然后自己做负载均衡，只处理分给自己的那部分消息。

Pull Consumer 可以看到所有的 Message Queue ，而且从哪个 Message Queue 读取消息，读消息时的 Offset 都由使用者控制，使用者可以实现任何特殊方式的负载均衡。

DefaultMQPullConsumer 有两个辅助方法可以帮助实现负载均衡，一个是 registerMessageQueueListener 函数，一个是 MQPullConsumerScheduleService （使用这个 Class 类似使用 DefaultMQPushConsumer ，但是它把 Pull 消息的主动性留给了使用者）

public class MyQueueConsumer {
    public static void main(String[] args) throws MQClientException, RemotingException, InterruptedException, MQBrokerException {
        DefaultMQPullConsumer consumer = new DefaultMQPullConsumer("consumer_pull_grp_01");
        consumer.setNamesrvAddr("node1:9876");
        consumer.start();
        Set<MessageQueue> messageQueues = consumer.fetchSubscribeMessageQueues("tp_demo_02");
        for (MessageQueue messageQueue : messageQueues) {
            System.out.println("messageQueue :: " + messageQueue);
            // 指定从哪个MQ拉取数据
            PullResult result = consumer.pull(messageQueue, "*", 0L, 10);
            List<MessageExt> msgFoundList = result.getMsgFoundList();
            if (msgFoundList != null) {
                for (MessageExt messageExt : msgFoundList) {
                    System.out.println(messageExt);
                }
            }

        }
        consumer.shutdown();
    }
}

DefaultMQPushConsumer 的负载均衡过程不需要使用者操心，客户端程序会自动处理，每个 DefaultMQPushConsumer 启动后，会马上会触发一个 doRebalance 动作；而且在同一个 ConsumerGroup 里加入新的 DefaultMQPush-Consumer 时，各个 Consumer 都会被触发 doRebalance 动作。

负载均衡的分配粒度只到 Message Queue ，把 Topic 下的所有 Message Queue 分配到不同的 Consumer 中

具体的负载均衡算法有几种，默认用的是 AllocateMessageQueueAveragely 。

可以设置负载均衡的算法：

// 设置负载均衡算法
consumer.setAllocateMessageQueueStrategy(new AllocateMessageQueueAveragely());

以 AllocateMessageQueueAveragely 策略为例，如果创建 Topic 的时候，把 Message Queue 数设为 3 ，当 Consumer 数量为 2 的时候，有一个 Consumer 需要处理 Topic 三分之二的消息，另一个处理三分之一的消息；当 Consumer 数量为 4 的时候，有一个 Consumer 无法收到消息，其他 3 个 Consumer 各处理 Topic 三分之一的消息。

可见 Message Queue 数量设置过小不利于做负载均衡，通常情况下，应把一个 Topic 的 MessageQueue 数设置为 16 。

Consumer 端的心跳包发送

在 Consumer 启动后，它就会通过定时任务不断地向 RocketMQ 集群中的所有 Broker 实例发送心跳包（其中包含了消息消费分组名称、订阅关系集合、消息通信模式和客户端 id 的值等信息）。 Broker 端在收到 Consumer 的心跳消息后，会将它维护在 ConsumerManager 的本地缓存变量 - consumerTable ，同时并将封装后的客户端网络通道信息保存在本地缓存变量 - channelInfoTable 中，为之后做 Consumer 端的负载均衡提供可以依据的元数据信息。
Consumer 端实现负载均衡的核心类 - RebalanceImpl

在 Consumer 实例的启动流程中启动 MQClientInstance 实例的部分，会完成负载均衡服务线程— RebalanceService 的启动（每隔 20s 执行一次）。

通过查看源码可以发现， RebalanceService 线程的 run() 方法最终调用的是 RebalanceImpl 类的 rebalanceByTopic() 方法，该方法是实现 Consumer 端负载均衡的核心。rebalanceByTopic() 方法根据消费者通信类型为广播模式还是集群模式做不同的逻辑处理。

AllocateMessageQueueAveragely 是默认的 MQ 分配对象。

消息消费队列在同一消费组不同消费者之间的负载均衡，其核心设计理念是在一个消息消费队列在同一时间只允许被同一消费组内的一个消费者消费，一个消息消费者能同时消费多个消息队列。

消息重试

顺序消息的重试

对于顺序消息，当消费者消费消息失败后，消息队列 RocketMQ 会自动不断进行消息重试（每次间隔时间为 1 秒），这时，应用会出现消息消费被阻塞的情况。因此，在使用顺序消息时，务必保证应用能够及时监控并处理消费失败的情况，避免阻塞现象的发生。

DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("consumer_08_01");
consumer.setNamesrvAddr("node1:9876");

// 一次获取一条消息
consumer.setConsumeMessageBatchMaxSize(1);

// 订阅主题
consumer.subscribe("tp_demo_08", "*");

consumer.setMessageListener(new MessageListenerOrderly() {
    @Override
    public ConsumeOrderlyStatus consumeMessage(List<MessageExt> msgs, ConsumeOrderlyContext context) {

        for (MessageExt msg : msgs) {
            System.out.println(msg.getMsgId() + "	" + msg.getQueueId() + "	" + new String(msg.getBody()));
        }

        //                return ConsumeOrderlyStatus.SUCCESS;  // 确认消息
        //                return ConsumeOrderlyStatus.SUSPEND_CURRENT_QUEUE_A_MOMENT; // 引发重试
        return null; // 引发重试
    }
});


consumer.start();

无序消息的重试

对于无序消息（普通、定时、延时、事务消息），当消费者消费消息失败时，您可以通过设置返回状态达到消息重试的结果。

无序消息的重试只针对集群消费方式生效；广播方式不提供失败重试特性，即消费失败后，失败消息不再重试，继续消费新的消息。

重试次数

消息队列 RocketMQ 默认允许每条消息最多重试 16 次，每次重试的间隔时间如下：

第 N 次重试	与上次重试的间隔时间	第 N 次重试	与上次重试的间隔时间
1	10 秒	9	7 分钟
2	30 秒	10	8 分钟
3	1 分钟	11	9 分钟
4	2 分钟	12	10 分钟
5	3 分钟	13	20 分钟
6	4 分钟	14	30 分钟
7	5 分钟	15	1 小时
8	6 分钟	16	2 小时

如果消息重试 16 次后仍然失败，消息将不再投递。如果严格按照上述重试时间间隔计算，某条消息在一直消费失败的前提下，将会在接下来的 4 小时 46 分钟之内进行 16 次重试，超过这个时间范围消息将不再重试投递。

注意：一条消息无论重试多少次，这些重试消息的 Message ID 不会改变。

配置方式

消费失败后进行重试

集群消费方式下，消息消费失败后期望消息重试，需要在消息监听器接口的实现中明确进行配置（三种方式任选一种）：

返回 ConsumeConcurrentlyStatus.RECONSUME_LATER （推荐）
返回 Null
抛出异常

//方式1：返回 ConsumeConcurrentlyStatus.RECONSUME_LATER，消息将重试
return ConsumeConcurrentlyStatus.RECONSUME_LATER;
//方式2：返回 null，消息将重试
return null;
//方式3：直接抛出异常， 消息将重试
throw new RuntimeException("Consumer Message exceotion");

消费失败后不进行重试

集群消费方式下，消息失败后期望消息不重试，需要捕获消费逻辑中可能抛出的异常，最终返回 ConsumeConcurrentlyStatus.CONSUME_SUCCESS ，此后这条消息将不会再重试。

try {
    doConsumeMessage(msgs);
} catch (Throwable e) {
    //捕获消费逻辑中的所有异常，并返回 ConsumeConcurrentlyStatus.CONSUME_SUCCESS
    return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
} 
//消息处理正常，直接返回 ConsumeConcurrentlyStatus.CONSUME_SUCCESS
return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;

自定义消息最大重试次数

消息队列 RocketMQ 允许 Consumer 启动的时候设置最大重试次数，重试时间间隔将按照如下策略：

最大重试次数小于等于 16 次，则重试时间间隔同上表描述
最大重试次数大于 16 次，超过 16 次的重试时间间隔均为每次 2 小时

DefaultMQPushConsumer consumer = new
DefaultMQPushConsumer("consumer_grp_04_01");
// 设置重新消费的次数
// 共16个级别，大于16的一律按照2小时重试
consumer.setMaxReconsumeTimes(20);

消息最大重试次数的设置对相同 Group ID 下的所有 Consumer 实例有效。
如果只对相同 Group ID 下两个 Consumer 实例中的其中一个设置了 MaxReconsumeTimes，那么该配置对两个 Consumer 实例均生效。
配置采用覆盖的方式生效，即最后启动的 Consumer 实例会覆盖之前的启动实例的配置

获取消息重试次数

消费者收到消息后，可按照如下方式获取消息的重试次数：

for (MessageExt msg : msgs) {
    System.out.println(msg.getReconsumeTimes());
}

死信队列

RocketMQ 中消息重试超过一定次数后（默认 16 次）就会被放到死信队列中，在消息队列 RocketMQ 中，这种正常情况下无法被消费的消息称为死信消息（ Dead-Letter Message ），存储死信消息的特殊队列称为 死信队列（ Dead-Letter Queue ）。可以在控制台 Topic 列表中看到 DLQ 相关的 Topic ，默认命名是：

%RETRY%消费组名称（重试 Topic，例如 %RETRY%consumer_grp_08_03 ）
%DLQ%消费组名称（死信 Topic，例如 %DLQ%consumer_08_03 ）

死信队列也可以被订阅和消费，并且也会过期

可视化工具：rocketmq-console下载地址

# 编译打包
mvn clean package -DskipTests
# 运行工具
java -jar target/rocketmq-console-ng-1.0.0.jar

# 访问 localhost:8080

# 页面设置NameSrv地址即可。如果不生效，就直接修改项目的application.properties中的namesrv地址选项的值。

死信特性

死信消息具有以下特性：

不会再被消费者正常消费。
有效期与正常消息相同，均为 3 天，3 天后会被自动删除。因此，请在死信消息产生后的 3 天内及时处理。

死信队列具有以下特性：

一个死信队列对应一个消费组 Group ID，而不是对应单个消费者实例。
如果一个 Group ID 未产生死信消息，消息队列 RocketMQ 不会为其创建相应的死信队列。
一个死信队列包含了对应 Group ID 产生的所有死信消息，不论该消息属于哪个 Topic。

一条消息进入死信队列，意味着某些因素导致消费者无法正常消费该消息，因此，通常需要您对其进行特殊处理。排查可疑因素并解决问题后，可以在消息队列 RocketMQ 控制台重新发送该消息，让消费者重新消费一次

延迟消息

定时消息（延迟队列）是指消息发送到 Broker 后，不会立即被消费，等待特定时间投递给真正的 Topic 。 Broker 有配置项 messageDelayLevel ，默认值为【 1s 5s 10s 30s 1m 2m 3m 4m 5m 6m 7m 8m 9m 10m 20m 30m 1h 2h 】， 18 个 level 。可以配置自定义 messageDelayLevel 。注意， messageDelayLevel 是 Broker 的属性，不属于某个 Topic 。发消息时，设置 delayLevel 等级即可： msg.setDelayLevel(level) 。 level 有以下三种情况：

level == 0，消息为非延迟消息
1<=level<=maxLevel ，消息延迟特定时间，例如 level==1，延迟 1s
level > maxLevel ，则 level== maxLevel ，例如 level==20，延迟2h

定时消息会暂存在名为 SCHEDULE_TOPIC_XXXX 的 Topic 中，并根据 delayTimeLevel 存入特定的 queue ， queueId = delayTimeLevel – 1 ，即一个 queue 只存相同延迟的消息，保证具有相同发送延迟的消息能够顺序消费。 Broker 会调度地消费 SCHEDULE_TOPIC_XXXX ，将消息写入真实的 Topic 。

需要注意的是，定时消息会在第一次写入和调度写入真实 Topic 时都会计数，因此发送数量、 tps 都会变高。

查看 SCHEDULE_TOPIC_XXXX 主题信息：/root/store/consumequeue/SCHEDULE_TOPIC_XXXX

DefaultMQProducer producer = new DefaultMQProducer("producer_grp_10_01");
producer.setNamesrvAddr("node1:9876");
producer.start();

Message message = null;

for (int i = 0; i < 20; i++) {
    message = new Message("tp_demo_10", ("hello lagou - " + i).getBytes());
    // 设置延迟时间级别0,18,0表示不延迟，18表示延迟2h，大于18的都是2h
    message.setDelayTimeLevel(i);

    producer.send(message);

}

producer.shutdown();

顺序消息

顺序消息是指消息的消费顺序和产生顺序相同，在有些业务逻辑下，必须保证顺序。比如订单的生成、付款、发货，这 3 个消息必须按顺序处理才行。

顺序消息分为全局顺序消息和部分顺序消息：

全局顺序消息指某个Topic下的所有消息都要保证顺序；
部分顺序消息只要保证每一组消息被顺序消费即可，比如上面订单消息的例子，只要保证同一个订单ID的三个消息能按顺序消费即可。

在多数的业务场景中实际上只需要局部有序就可以了。

RocketMQ 在默认情况下不保证顺序，比如创建一个 Topic ，默认 8 个写队列，8 个读队列。这时候一条消息可能被写入任意一个队列里；在数据的读取过程中，可能有多个 Consumer ，每个 Consumer 也可能启动多个线程并行处理，所以消息被哪个 Consumer 消费，被消费的顺序和写入的顺序是否一致是不确定的。

要保证全局顺序消息，需要先把 Topic 的读写队列数设置为一，然后 Producer 和 Consumer 的并发设置也要是 1 。简单来说，为了保证整个 Topic 的全局消息有序，只能消除所有的并发处理，各部分都设置成单线程处理。

保证局部顺序消息的原理如下图：

要保证部分消息有序，需要发送端和消费端配合处理。在发送端，要做到把同一业务 ID 的消息发送到同一个 Message Queue ；在消费过程中，要做到从同一个 Message Queue 读取的消息不被并发处理，这样才能达到部分有序。消费端通过使用 MessageListenerOrderly 类来解决单 Message Queue 的消息被并发处理的问题。

Consumer 使用 MessageListenerOrderly 的时候，下面四个 Consumer 的设置依旧可以使用：

setConsumeThreadMin
setConsumeThreadMax
setPullBatchSize
setConsumeMessageBatchMaxSize

前两个参数设置 Consumer 的线程数；后两个参数中 pullBatchSize 指的是一次从 Broker 的一个 Message Queue 获取消息的最大数量，默认值是 32 ； consumeMessageBatchMaxSize 指的是这个 Consumer 的 Executor （也就是调用 MessageListener 处理的地方）一次传入的消息数（ List < MessageExt > msgs 这个链表的最大长度），默认值是 1 。

上述四个参数可以使用，说明 MessageListenerOrderly 并不是简单地禁止并发处理。在 MessageListenerOrderly 的实现中，为每个 Consumer Queue 加个锁，消费每个消息前，需要先获得这个消息对应的 Consumer Queue 所对应的锁，这样保证了同一时间，同一个 Consumer Queue 的消息不被并发消费，但不同 Consumer Queue 的消息可以并发处理。

部分有序

顺序消息的生产和消费：

# 创建主题，8写8读
mqadmin updateTopic -b node1:10911 -n localhost:9876 -r 8 -t tp_demo_11 -w 8
# 删除主题的操作：
mqadmin deleteTopic -c DefaultCluster deleteTopic -n localhost:9876 -t tp_demo_11
# 主题描述
mqadmin topicStatus -n localhost:9876 -t tp_demo_11

// 生产消息时，将相关的业务消息按顺序先后发送到相同的消息队列中

DefaultMQProducer producer = new DefaultMQProducer("producer_grp_11_01");

producer.setNamesrvAddr("node1:9876");

producer.start();

// 获取指定主题的MQ列表
final List<MessageQueue> messageQueues = producer.fetchPublishMessageQueues("tp_demo_11");

Message message = null;
MessageQueue messageQueue = null;
for (int i = 0; i < 100; i++) {
    // 采用轮询的方式指定MQ，发送订单消息，保证同一个订单的消息按顺序
    // 发送到同一个MQ
    messageQueue = messageQueues.get(i % 8);

    message = new Message("tp_demo_11", ("hello lagou order create - " + i).getBytes());
    producer.send(message, messageQueue);
    message = new Message("tp_demo_11", ("hello lagou order pay - " + i).getBytes());
    producer.send(message, messageQueue);
    message = new Message("tp_demo_11", ("hello lagou order ship - " + i).getBytes());
    producer.send(message, messageQueue);
}

producer.shutdown();

全局有序

# 创建主题，1写1读
mqadmin updateTopic -b node1:10911 -n localhost:9876 -r 1 -t tp_demo_11_01 -w 1
# 删除主题的操作：
mqadmin deleteTopic -c DefaultCluster deleteTopic -n localhost:9876 -t tp_demo_11_01
# 主题描述
mqadmin topicStatus -n localhost:9876 -t tp_demo_11_01

事务消息

RocketMQ 的事务消息，是指发送消息事件和其他事件需要同时成功或同时失败。比如银行转账， A 银行的某账户要转一万元到 B 银行的某账户。 A 银行发送 B 银行账户增加一万元这个消息，要和从 A 银行账户扣除一万元这个操作同时成功或者同时失败。

RocketMQ 采用 两阶段提交 的方式实现事务消息， TransactionMQProducer 处理上面情况的流程是，先发一个准备从 B 银行账户增加一万元的消息，发送成功后做从 A 银行账户扣除一万元的操作，根据操作结果是否成功，确定之前的准备从 B 银行账户增加一万元的消息是做 commit 还是 rollback ，具体流程如下：

发送方向 RocketMQ 发送待确认消息
RocketMQ 将收到的待确认消息持久化成功后，向发送方回复消息已经发送成功，此时第一阶段消息发送完成
发送方开始执行本地事件逻辑。
发送方根据本地事件执行结果向 RocketMQ 发送二次确认（ Commit 或是 Rollback ）消息， RocketMQ 收到 Commit 状态则 将第一阶段消息标记为可投递，订阅方将能够收到该消息；收到 Rollback 状态则 删除第一阶段的消息，订阅方接收不到该消息。
如果出现异常情况，步骤 4 提交的二次确认最终未到达 RocketMQ ，服务器在经过固定时间段后将对“待确认”消息发起回查请求。
发送方收到消息回查请求后（如果发送一阶段消息的 Producer 不能工作，回查请求将被发送到和 Producer 在同一个 Group 里的其他 Producer ），通过检查对应消息的本地事件执行结果返回 Commit 或 Rollback 状态。
RocketMQ 收到回查请求后，按照步骤 4 的逻辑处理。

上面的逻辑似乎很好地实现了事务消息功能，它也是 RocketMQ 之前的版本实现事务消息的逻辑。但是因为 RocketMQ 依赖将数据顺序写到磁盘这个特征来提高性能，步骤 4 却需要更改第一阶段消息的状态，这样会造成磁盘 Catch 的脏页过多，降低系统的性能。所以 RocketMQ 在 4.x 的版本中将这部分功能去除。系统中的一些上层 Class 都还在，用户可以根据实际需求实现自己的事务功能。

客户端有三个类来支持用户实现事务消息，第一个类是 LocalTransactionExecuter （~~已过期~~），用来实例化步骤 3 的逻辑，根据情况返回 LocalTransactionState.ROLLBACK_MESSAGE 或者 LocalTransactionState.COMMIT_MESSAGE 状态。第二个类是 TransactionMQProducer ，它的用法和 DefaultMQProducer 类似，要通过它启动一个 Producer 并发消息，但是比 DefaultMQProducer 多设置本地事务处理函数和回查状态函数。第三个类是 TransactionCheckListener ，实现步骤 5 中 MQ 服务器的回查请求，返回 LocalTransactionState.ROLLBACK_MESSAGE 或者 LocalTransactionState.COMMIT_MESSAGE

RocketMQ 事务消息流程概要

上图说明了事务消息的大致方案，其中分为两个流程：正常事务消息的发送及提交、事务消息的补偿流程。

1.事务消息发送及提交：
1. 发送消息（ half 消息）。
2. 服务端响应消息写入结果。
3. 根据发送结果执行本地事务（如果写入失败，此时 half 消息对业务不可见，本地逻辑不执行）。
4. 根据本地事务状态执行 Commit 或者 Rollback （ Commit 操作生成消息索引，消息对消费者可见）
补偿流程：
1. 对没有 Commit/Rollback 的事务消息（ pending 状态的消息），从服务端发起一次“回查”
2. Producer 收到回查消息，检查回查消息对应的本地事务的状态
3. 根据本地事务状态，重新 Commit 或者 Rollback

其中，补偿阶段用于解决消息 Commit 或者 Rollback 发生超时或者失败的情况。

RocketMQ 事务消息设计

事务消息在一阶段对用户不可见

在 RocketMQ 事务消息的主要流程中，事务消息相对普通消息最大的特点就是一阶段发送的消息对用户是不可见的。那么，如何做到写入消息但是对用户不可见呢？ RocketMQ 事务消息的做法是：如果消息是 half 消息，将备份原消息的主题与消息消费队列，然后改变主题为 RMQ_SYS_TRANS_HALF_TOPIC 。由于消费组未订阅该主题，故消费端无法消费 half 类型的消息。然后二阶段会显示执行提交或者回滚 half 消息（逻辑删除）。当然，为了防止二阶段操作失败， RocketMQ 会开启一个定时任务，从 Topic 为 RMQ_SYS_TRANS_HALF_TOPIC 中拉取消息进行消费，根据生产者组获取一个服务提供者发送回查事务状态请求，根据事务状态来决定是提交或回滚消息。

在 RocketMQ 中，消息在服务端的存储结构如下，每条消息都会有对应的索引信息， Consumer 通过 ConsumeQueue 这个二级索引来读取消息实体内容，其流程如下：

RocketMQ 的具体实现策略是：写入的如果是事务消息，对消息的 Topic 和 Queue 等属性进行替换，同时将原来的 Topic 和 Queue 信息存储到消息的属性中，正因为消息主题被替换，故消息并不会转发到该原主题的消息消费队列，消费者无法感知消息的存在，不会消费。其实改变消息主题是 RocketMQ 的常用“套路”，回想一下延时消息的实现机制。 RMQ_SYS_TRANS_HALF_TOPIC
Commit 和 Rollback 操作以及 Op 消息的引入

在完成一阶段写入一条对用户不可见的消息后，二阶段如果是 Commit 操作，则需要让消息对用户可见；如果是 Rollback 则需要撤销一阶段的消息。

先说 Rollback 的情况。对于 Rollback ，本身一阶段的消息对用户是不可见的，其实不需要真正撤销消息（实际上 RocketMQ 也无法去真正的删除一条消息，因为是顺序写文件的）。但是区别于这条消息没有确定状态（ Pending 状态，事务悬而未决），需要一个操作来标识这条消息的最终状态。 RocketMQ 事务消息方案中引入了 Op 消息 的概念，用 Op 消息标识事务消息已经确定的状态（ Commit 或者 Rollback ）。如果一条事务消息没有对应的 Op 消息，说明这个事务的状态还无法确定（可能是二阶段失败了）。引入 Op 消息后，事务消息无论是 Commit 或者 Rollback 都会记录一个 Op 操作。 Commit 相对于 Rollback 只是在写入 Op 消息前创建 Half 消息的索引。
Op 消息的存储和对应关系

RocketMQ 将 Op 消息写入到全局一个特定的 Topic 中，通过源码中的方法 - TransactionalMessageUtil.buildOpTopic() ；这个 Topic 是一个内部的 Topic （像 Half 消息的 Topic 一样），不会被用户消费。 Op 消息的内容为对应的 Half 消息的存储的 Offset ，这样通过 Op 消息能索引到 Half 消息进行后续的回查操作。
Half 消息的索引构建

在执行二阶段 Commit 操作时，需要构建出 Half 消息的索引。一阶段的 Half 消息由于是写到一个特殊的 Topic ，所以二阶段构建索引时需要读取出 Half 消息，并将 Topic 和 Queue 替换成真正的目标的 Topic 和 Queue ，之后通过一次普通消息的写入操作来生成一条对用户可见的消息。所以 RocketMQ 事务消息二阶段其实是利用了一阶段存储的消息的内容，在二阶段时恢复出一条完整的普通消息，然后走一遍消息写入流程。
如何处理二阶段失败的消息？

如果在 RocketMQ 事务消息的二阶段过程中失败了，例如在做 Commit 操作时，出现网络问题导致 Commit 失败，那么需要通过一定的策略使这条消息最终被 Commit 。 RocketMQ 采用了一种补偿机制，称为回查。 Broker 端对未确定状态的消息发起回查，将消息发送到对应的 Producer 端（同一个 Group 的 Producer ），由 Producer 根据消息来检查本地事务的状态，进而执行 Commit 或者 Rollback 。 Broker 端通过对比 Half 消息和 Op 消息进行事务消息的回查并且推进 CheckPoint （记录那些事务消息的状态是确定的）。

值得注意的是， RocketMQ 并不会无休止的的信息事务状态回查，默认回查 15 次，如果 15 次回查还是无法得知事务状态， RocketMQ 默认回滚该消息。

// 生产者发送事务消息

public class TxProducer {
    public static void main(String[] args) throws MQClientException {
        TransactionListener listener = new TransactionListener() {
            @Override
            public LocalTransactionState executeLocalTransaction(Message msg, Object arg) {
                // 当发送事务消息prepare(half)成功后，调用该方法执行本地事务
                System.out.println("执行本地事务，参数为：" + arg);

                try {
                    Thread.sleep(100000);
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
                return LocalTransactionState.ROLLBACK_MESSAGE;
                //                return LocalTransactionState.COMMIT_MESSAGE;
            }

            @Override
            public LocalTransactionState checkLocalTransaction(MessageExt msg) {
                // 如果没有收到生产者发送的Half Message的响应，broker发送请求到生产者回查生产者本地事务的状态
                // 该方法用于获取本地事务执行的状态。
                System.out.println("检查本地事务的状态：" + msg);
                return LocalTransactionState.COMMIT_MESSAGE;
                //                return LocalTransactionState.ROLLBACK_MESSAGE;
            }
        };

        TransactionMQProducer producer = new TransactionMQProducer("tx_producer_grp_12");
        // 设置事务的监听器
        producer.setTransactionListener(listener);
        producer.setNamesrvAddr("node1:9876");

        producer.start();

        Message message = null;

        message = new Message("tp_demo_12", "hello lagou - tx - 02".getBytes());
        // 发送事务消息
        producer.sendMessageInTransaction(message, "{"name":"zhangsan"}");

    }
}

消息查询

区别于消息消费：先尝后买，尝就是消息查询，买就是消息的消费

RocketMQ 支持按照下面两种维度（“按照 Message Id 查询消息”、“按照 Message Key 查询消息”）进行消息查询。

按照 MessageId 查询消息

MsgId 总共 16 字节，包含消息存储主机地址（ ip/port ），消息 Commit Log offset 。从 MsgId 中解析出 Broker 的地址和 Commit Log 的偏移地址，然后按照存储格式所在位置将消息 buffer 解析成一个完整的消息。

在 RocketMQ 中具体做法是： Client 端从 MessageId 中解析出 Broker 的地址（ IP 地址和端口）和 Commit Log 的偏移地址后封装成一个 RPC 请求后，通过 Remoting 通信层发送（业务请求码： VIEW_MESSAGE_BY_ID ）。 Broker 使用 QueryMessageProcessor ，使用请求中的 CommitLog offset 和 size 去 CommitLog 中找到真正的记录并解析成一个完整的消息返回。

按照 Message Key 查询消息

“按照Message Key查询消息”，主要是基于 RocketMQ 的 IndexFile 索引文件来实现的。 RocketMQ 的索引文件逻辑结构，类似 JDK 中 HashMap 的实现。索引文件的具体结构如下：

根据查询的 key 的 hashcode%slotNum 得到具体的槽的位置（ slotNum 是一个索引文件里面包含的最大槽的数目，例如图中所示 slotNum = 5000000 ）。
根据 slotValue（slot 位置对应的值）查找到索引项列表的最后一项（倒序排列，slotValue 总是指向最新的一个索引项）。
遍历索引项列表返回查询时间范围内的结果集（默认一次最大返回的 32 条记录）
Hash 冲突；
- 第一种，key 的 hash 值不同但模数相同，此时查询的时候会再比较一次 key 的 hash 值（每个索引项保存了 key 的 hash 值），过滤掉 hash 值不相等的项。
- 第二种，hash 值相等但 key 不等，出于性能的考虑冲突的检测放到客户端处理（key 的原始值是存储在消息文件中的，避免对数据文件的解析），客户端比较一次消息体的 key 是否相同。
存储；为了节省空间索引项中存储的时间是时间差值（存储时间 - 开始时间，开始时间存储在索引
文件头中），整个索引文件是定长的，结构也是固定的。

// 根据 msgId 查询消息

DefaultMQPullConsumer consumer = new DefaultMQPullConsumer("consumer_grp_09_01");
consumer.setNamesrvAddr("node1:9876");
consumer.start();
MessageExt message = consumer.viewMessage("tp_demo_12", "C0A8010306F018B4AAC291DF09BE0000");
System.out.println(message);
System.out.println(message.getMsgId());
consumer.shutdown();

消息优先级

有些场景，需要应用程序处理几种类型的消息，不同消息的优先级不同。 RocketMQ 是个先入先出的队列，不支持消息级别或者 Topic 级别的优先级。业务中简单的优先级需求，可以通过间接的方式解决，下面列举三种优先级相关需求的具体处理方法：

多个不同的消息类型使用同一个 Topic 时，由于某一个种消息流量非常大，导致其他类型的消息无法及时消费，造成不公平，所以把流量大的类型消息在一个单独的 Topic ，其他类型消息在另外一个 Topic ，应用程序创建两个 Consumer ，分别订阅不同的 Topic ，这样就可以了。
情况和第一种情况类似，但是不用创建大量的 Topic 。举个实际应用场景：一个订单处理系统，接收从 100 家快递门店过来的请求，把这些请求通过 Producer 写入 RocketMQ ；订单处理程序通过 Consumer 从队列里读取消息并处理，每天最多处理 1 万单。如果这 100 个快递门店中某几个门店订单量大增，比如门店一接了个大客户，一个上午就发出 2 万单消息请求，这样其他的 99 家门店可能被迫等待门店一的 2 万单处理完，也就是两天后订单才能被处理，显然很不公平。

这时可以创建一个 Topic ，设置 Topic 的 MessageQueue 数量超过 100 个， Producer 根据订单的门店号，把每个门店的订单写入一个 MessageQueue 。 DefaultMQPushConsumer 默认是采用循环的方式逐个读取一个 Topic 的所有 MessageQueue ，这样如果某家门店订单量大增，这家门店对应的 MessageQueue 消息数增多，等待时间增长，但不会造成其他家门店等待时间增长。

DefaultMQPushConsumer 默认的 pullBatchSize 是 32，也就是每次从某个 MessageQueue 读取消息的时候，最多可以读 32 个。在上面的场景中，为了更加公平，可以把 pullBatchSize 设置成 1 。
强制优先级

TypeA 、 TypeB 、 TypeC 三类消息。 TypeA 处于第一优先级，要确保只要有 TypeA 消息，必须优先处理； TypeB 处于第二优先级； TypeC 处于第三优先级。对这种要求，或者逻辑更复杂的要求，就要用户自己编码实现优先级控制，如果上述的三类消息在一个 Topic 里，可以使用 PullConsumer ，自主控制 MessageQueue 的遍历，以及消息的读取；如果上述三类消息在三个 Topic 下，需要启动三个 Consumer ，实现逻辑控制三个 Consumer 的消费。

底层网络通信 - Netty 高性能之道

RocketMQ 底层通信的实现是在 Remoting 模块里，因为借助了 Netty 而没有重复造轮子， RocketMQ 的通信部分没有很多的代码，就是用 Netty 实现了一个自定义协议的客户端 / 服务器程序：

自定义 ByteBuf 可以从底层解决 ByteBuffer 的一些问题，并且通过“内存池”的设计来提升性能
Reactor 主从多线程模型
充分利用了零拷贝，CAS/volatite 高效并发编程特性
无锁串行化设计
管道责任链的编程模型
高性能序列化框架的支持
灵活配置 TCP 协议参数

RocketMQ 消息队列集群主要包括 NameServer 、 Broker （ Master/Slave ）、 Producer 、 Consumer 4 个角色，基本通讯流程如下：

Broker 启动后需要完成一次将自己注册至 NameServer 的操作；随后每隔 30s 时间定时向 NameServer 上报 Topic 路由信息。
消息生产者 Producer 作为客户端发送消息时候，需要根据消息的 Topic 从本地缓存的 TopicPublishInfoTable 获取路由信息。如果没有则更新路由信息会从 NameServer 上重新拉取，同时 Producer 会默认每隔 30s 向 NameServer 拉取一次路由信息。
消息生产者 Producer 根据 2 中获取的路由信息选择一个队列（ MessageQueue ）进行消息发送； Broker 作为消息的接收者接收消息并落盘存储。
消息消费者 Consumer 获取路由信息，并在完成客户端的负载均衡后，选择其中的某一个或者某几个消息队列来拉取消息并进行消费。

从上面 1-3 中可以看出在消息生产者， Broker 和 NameServer 之间都会发生通信（这里只说了 MQ 的部分通信），因此如何设计一个良好的网络通信模块在 MQ 中至关重要，它将决定 RocketMQ 集群整体的消息传输能力与最终的性能。

rocketmq-remoting 模块是 RocketMQ 消息队列中负责网络通信的模块，它几乎被其他所有需要网络通信的模块（诸如 rocketmq-client、rocketmq-broker、rocketmq-namesrv ）所依赖和引用。为了实现客户端与服务器之间高效的数据请求与接收， RocketMQ 消息队列自定义了通信协议并在 Netty 的基础之上扩展了通信模块。

RocketMQ 中惯用的套路：

请求报文和响应都使用 RemotingCommand ，然后在 Processor 处理器中根据 RequestCode 请求码来匹配对应的处理方法。
处理器通常继承至 NettyRequestProcessor ，使用前需要先注册才行，注册方式 remotingServer.registerDefaultProcessor

网络通信核心的东西无非是：

线程模型
私有协议定义
编解码器
序列化/反序列化
…

既然是基于 Netty 的网络通信，当然少不了一堆自定义实现的 Handler ，例如继承至： SimpleChannelInboundHandler ， ChannelDuplexHandler

Remoting 通信类结构

协议设计与编解码

在 Client 和 Server 之间完成一次消息发送时，需要对发送的消息进行一个协议约定，因此就有必要自定义 RocketMQ 的消息协议。同时，为了高效地在网络中传输消息和对收到的消息读取，就需要对消息进行编解码。在 RocketMQ 中， RemotingCommand 这个类在消息传输过程中对所有数据内容的封装，不但包含了所有的数据结构，还包含了编码解码操作。

Header 字段	类型	Request 说明	Response 说明
code	int	请求操作码，应答方根据不同的请求码进行不同的业务处理	应答响应码。0表示成功，非0则表示各种错误
language	LanguageCode	请求方实现的语言	应答方实现的语言
version	int	请求方程序的版本	应答方程序的版本
opaque	int	相当于 requestId，在同一个连接上的不同请求标识码，与响应消息中的相对应	应答不做修改直接返回
flag	int	区分是普通 RPC 还是 onewayRPC 的标志	区分是普通 RPC 还是 onewayRPC 的标志
remark	String	传输自定义文本信息	传输自定义文本信息
extFields	HashMap<String, String>	请求自定义扩展信息	响应自定义扩展信息

可见传输内容主要可以分为以下 4 部分：

消息长度：总长度，四个字节存储，占用一个 int 类型；
序列化类型 & 消息头长度：同样占用一个 int 类型，第一个字节表示序列化类型，后面三个字节表示消息头长度；
消息头数据：经过序列化后的消息头数据；
消息主体数据：消息主体的二进制字节数据内容；

消息的通信方式和流程

在 RocketMQ 消息队列中支持通信的方式主要有同步（ sync ）、异步（ async ）、单向（ oneway ）三种。其中“单向”通信模式相对简单，一般用在发送心跳包场景下，无需关注其 Response 。这里，主要介绍 RocketMQ 的异步通信流程：

Reactor 主从多线程模型

RocketMQ 的 RPC 通信采用 Netty 组件作为底层通信库，同样也遵循了 Reactor 多线程模型，同时又在这之上做了一些扩展和优化。

上面的框图中可以大致了解 RocketMQ 中 NettyRemotingServer 的 Reactor 多线程模型。

一个 Reactor 主线程（ eventLoopGroupBoss ，即为上面的 1 ）负责监听 TCP 网络连接请求，建立好连接，创建 SocketChannel ，并注册到 selector 上。

RocketMQ 的源码中会自动根据 OS 的类型选择 NIO 和 Epoll ，也可以通过参数配置），然后监听真正的网络数据。

拿到网络数据后，再丢给 Worker 线程池（ eventLoopGroupSelector ，即为上面的 N ，源码中默认设置为 3 ），在真正执行业务逻辑之前需要进行 SSL 验证、编解码、空闲检查、网络连接管理，这些工作交给 defaultEventExecutorGroup （即为上面的 M1 ，源码中默认设置为 8 ）去做。

处理业务操作放在业务线程池中执行，根据 RomotingCommand 的业务请求码 code 去 processorTable 这个本地缓存变量中找到对应的 processor ，然后封装成 task 任务后，提交给对应的业务 processor 处理线程池来执行（ sendMessageExecutor ，以发送消息为例，即为上面的 M2 ）。

从入口到业务逻辑的几个步骤中线程池一直再增加，这跟每一步逻辑复杂性相关，越复杂，需要的并发通道越宽。

线程数	线程名	线程具体说明
1	NettyBoss_%d	Reactor 主线程
N	NettyServerEPOLLSelector%d%d	Reactor 线程池
M1	NettyServerCodecThread_%d	Worker线程池
M2	RemotingExecutorThread_%d

限流

RocketMQ 消费端中我们可以：

设置最大消费线程数
每次拉取消息条数等

同时：

PushConsumer 会判断获取但还未处理的消息个数、消息总大小、 Offset 的跨度
任何一个值超过设定的大小就隔一段时间再拉取消息，从而达到流量控制的目的。

在 Apache RocketMQ 中，当消费者去消费消息的时候，无论是通过 pull 的方式还是 push 的方式，都可能会出现大批量的 消息突刺 。如果此时要处理所有消息，很可能会导致系统负载过高，影响稳定性。但其实可能后面几秒之内都没有消息投递，若直接把多余的消息丢掉则没有充分利用系统处理消息的能力。我们希望可以把消息突刺均摊到一段时间内，让系统负载保持在消息处理水位之下的同时尽可能地处理更多消息，从而起到 削峰填谷 的效果：

上图中红色的部分代表超出消息处理能力的部分。我们可以看到消息突刺往往都是瞬时的、不规律的，其后一段时间系统往往都会有空闲资源。我们希望把红色的那部分消息平摊到后面空闲时去处理，这样既可以保证系统负载处在一个稳定的水位，又可以尽可能地处理更多消息。

Sentinel 介绍

Sentinel 是阿里中间件团队开源的，面向分布式服务架构的轻量级流量控制产品，主要以流量为切入点，从流量控制、熔断降级、系统负载保护等多个维度来帮助用户保护服务的稳定性。

Sentinel原理

Sentinel 专门为这种场景提供了匀速器的特性，可以把突然到来的大量请求以匀速的形式均摊，以固定的间隔时间让请求通过，以稳定的速度逐步处理这些请求，起到“削峰填谷”的效果，从而避免流量突刺造成系统负载过高。同时堆积的请求将会排队，逐步进行处理；当请求排队预计超过最大超时时长的时候则直接拒绝，而不是拒绝全部请求。

比如在 RocketMQ 的场景下配置了匀速模式下请求 QPS 为 5 ，则会每 200 ms 处理一条消息，多余的处理任务将排队；同时设置了超时时间为 5s ，预计排队时长超过 5s 的处理任务将会直接被拒绝。示意图如下图所示：

RocketMQ 用户可以根据不同的 group 和不同的 topic 分别设置限流规则，限流控制模式设置为匀速器模式（RuleConstant.CONTROL_BEHAVIOR_RATE_LIMITER），比如：

// 在消费端进行限流

public class MyConsumer {

    // 消费组名称
    private static final String GROUP_NAME = "consumer_grp_13_01";
    // 主题名称
    private static final String TOPIC_NAME = "tp_demo_13";
    // consumer_grp_13_01:tp_demo_13
    private static final String KEY = String.format("%s:%s", GROUP_NAME, TOPIC_NAME);
    // 使用map存放主题每个MQ的偏移量
    private static final Map<MessageQueue, Long> OFFSET_TABLE = new HashMap<MessageQueue, Long>();

    @SuppressWarnings("PMD.ThreadPoolCreationRule")
    // 具有固定大小的线程池
    private static final ExecutorService pool = Executors.newFixedThreadPool(32);

    private static final AtomicLong SUCCESS_COUNT = new AtomicLong(0);
    private static final AtomicLong FAIL_COUNT = new AtomicLong(0);

    public static void main(String[] args) throws MQClientException {
        // 初始化哨兵的流控
        initFlowControlRule();

        DefaultMQPullConsumer consumer = new DefaultMQPullConsumer(GROUP_NAME);
        consumer.setNamesrvAddr("node1:9876");
        consumer.start();

        Set<MessageQueue> mqs = consumer.fetchSubscribeMessageQueues(TOPIC_NAME);
        for (MessageQueue mq : mqs) {
            System.out.printf("Consuming messages from the queue: %s%n", mq);

            SINGLE_MQ:
            while (true) {
                try {
                    PullResult pullResult = consumer.pullBlockIfNotFound(mq, null, getMessageQueueOffset(mq), 32);
                    if (pullResult.getMsgFoundList() != null) {
                        for (MessageExt msg : pullResult.getMsgFoundList()) {
                            doSomething(msg);
                        }
                    }

                    long nextOffset = pullResult.getNextBeginOffset();
                    // 将每个mq对应的偏移量记录在本地HashMap中
                    putMessageQueueOffset(mq, nextOffset);
                    consumer.updateConsumeOffset(mq, nextOffset);
                    switch (pullResult.getPullStatus()) {
                        case NO_NEW_MSG:
                            break SINGLE_MQ;
                        case FOUND:
                        case NO_MATCHED_MSG:
                        case OFFSET_ILLEGAL:
                        default:
                            break;
                    }
                } catch (Exception e) {
                    e.printStackTrace();
                }
            }
        }

        consumer.shutdown();
    }

    /**
     * 对每个收到的消息使用一个线程提交任务
     *
     * @param message
     */
    private static void doSomething(MessageExt message) {
        pool.submit(() -> {
            Entry entry = null;
            try {
                // 应用流控规则
                ContextUtil.enter(KEY);
                entry = SphU.entry(KEY, EntryType.OUT);

                // 在这里处理业务逻辑，此处只是打印
                System.out.printf("[%d][%s][Success: %d] Receive New Messages: %s %n", System.currentTimeMillis(), Thread.currentThread().getName(), SUCCESS_COUNT.addAndGet(1), new String(message.getBody()));
            } catch (BlockException ex) {
                // Blocked.
                System.out.println("Blocked: " + FAIL_COUNT.addAndGet(1));
            } finally {
                if (entry != null) {
                    entry.exit();
                }
                ContextUtil.exit();
            }
        });
    }

    private static void initFlowControlRule() {
        FlowRule rule = new FlowRule();
        // 消费组名称:主题名称   字符串
        rule.setResource(KEY);
        // 根据QPS进行流控
        rule.setGrade(RuleConstant.FLOW_GRADE_QPS);
        // 1表示QPS为1，请求间隔1000ms。
        // 如果是5，则表示每秒5个消息，请求间隔200ms
        rule.setCount(1);
        rule.setLimitApp("default");

        // 调用使用固定间隔。如果qps为1，则请求之间间隔为1s
        rule.setControlBehavior(RuleConstant.CONTROL_BEHAVIOR_RATE_LIMITER);
        // 如果请求太多，就将这些请求放到等待队列中
        // 该队列有超时时间。如果等待队列中请求超时，则丢弃
        // 此处设置超时时间为5s
        rule.setMaxQueueingTimeMs(5 * 1000);
        // 使用流控管理器加载流控规则
        FlowRuleManager.loadRules(Collections.singletonList(rule));
    }

    // 获取指定MQ的偏移量
    private static long getMessageQueueOffset(MessageQueue mq) {
        Long offset = OFFSET_TABLE.get(mq);
        if (offset != null) {
            return offset;
        }

        return 0;
    }

    // 在本地HashMap中记录偏移量
    private static void putMessageQueueOffset(MessageQueue mq, long offset) {
        OFFSET_TABLE.put(mq, offset);
    }
}

相关阅读:
SpringMVC引入CSS等文件
 idea运行时默认显示的index.jsp修改方法
 Spring 中的 JDBCTemplate
Spring 错误 cvc-complex-type.2.4.c: The matching wildcard is strict, but no declaration can be found for element 'context:property-placeholder'.
Spring IOC 三种注入方式(构造器,setter,接口)
Java中的Object、T（泛型）、?区别
 DBUtils 笔记
 DBCP + C3P0 连接池
 Servlet+JSP 对外访问路径配置
 linux iptables使用
原文地址：https://www.cnblogs.com/huangwenjie/p/14593163.html