什么是消息队列(MQ)
消息是在不同应用间传递的数据。这里的消息可以非常简单,比如只包含字符串,也可以非常复杂,包含多个嵌套的对象。消息队列(Message Queue)简单来说就是一种应用程序间的通讯方式,消息发送后立即返回,然后由消息系统保证消息的可靠性传输,消息生产者只需要把消息发到 MQ 中就可以了,不需要关心消息的消费,同样,消息消费者只管从 MQ 中拉取消息而不管是谁生产的消息,通过这样的一个“互相不知道对象存在”模式,将消息的生产者和消息的消费者解耦了。
什么场景下考虑使用消息队列
从上面可以知道,消息队列是一种应用间的异步协作机制,那么我们什么时候需要用到 MQ 呢?以常见的订单系统为例,当用户点击「下单」后的业务逻辑可能包括:扣减库存、生成相应订单数据、发短信通知等。在项目和业务发展初期上面这些逻辑可能放在一起执行,随着业务的发展订单量的增加,需要提升系统服务的性能,此时就可以将一些不需要立即生效的操作拆分出来异步执行,比如发送短信通知等。这种场景下就可以使用 MQ ,在下单主流程(比如扣减库存、生成订单数据等)完成之后发送一条消息到 MQ 让主流程快速走完,然后由另外一个线程拉取 MQ 的消息,执行相应的业务逻辑。这里的例子主要是用消息队列来解耦。
RabbitMQ 的特点
RabbitMQ 是一个由 Relang 语言开发的 AMQP 的开源实现。AMQP(Advanced Message Queue:高级消息队列协议)它是应用层协议的一个开放标准,为面向消息的中间件设计,基于此协议的客户端与消息中间件可传递消息,并不受产品、开发语言等条件的限制。RabbitMQ 最初起源于消息系统,用于在分布式系统中存储转发消息,具体有如下一些特点:
- 可靠性: RabbitMQ 使用一些机制来保证可靠性,比如持久化、传输确认机制(ack)和发布确认等。
- 灵活的路由策略: 在消息进入队列之前,通过 Exchange 来路由消息,对于典型的路由功能,RabbitMQ 已经提供了一些内置的 Exchange 来实现。针对复杂的路由功能,可以将多个 Exchange 绑在一起,也通过插件机制实现自己的 Exchange。
- 消息集群: 多个 RabbitMQ 服务器可以组成一个集群,形成一个逻辑 Broker。
- 高可用: 队列可以在集群中的集群上进行镜像,使得在部分节点出问题的情况下队列仍然可用。
- 多种协议: RabbitMQ 支持多种消息队列协议,比如 STOMP、MQTT 等。
- 多语言客户端: RabbitMQ 几乎支持多有常用的语言,比如:Java、.NET 等
- 管理界面: RabbitMQ 提供了一个易用的用户界面,使得用户可以监控和管理消息 Broker 的许多方面。
RabbitMQ 安装(mac)和运行
1、安装
因为 RabbitMQ 依赖于 Erlang 语言,所以在安装 RabbitMQ 之前需要先安装 Erlang 环境,但是由于是 Mac 环境,可以使用 HomeBrew 安装,安装前先更新 brew:
brew update
接着安装 RabbitMQ 即可,安装过程中会自动安装其所依赖的 Erlang。
2、运行
RabbitMQ 的启动运行很简单,找到其安装目录后(使用 Homwbrew 安装的默认目录为:/usr/local/Cellar/rabbitmq),进入到目录的 sbin 目录下,可以看到有 6 个
以 rabbitmq 开头的可执行文件,直接执行 rabbitmq-server 即可。
启动正常的话可以看到启动过程的日志信息和最后的 completed with 6 plugins,这也说明启动的时候默认加载了 6 个插件。
此时通过浏览器访问 http://localhost:15672 可以看到其管理界面(默认用户名和密码都是 guest),可以在 admin 选项卡页面新增用户,管理界面如下:
PS: 以上方式不是后台启动,如果想让 RabbitMQ 后台守护进程的方式启动的话,可以在启动的时候加上 -detached 参数。
3、查询服务器状态
在安装目录的 sbin 下面有个可执行文件 rabbitmqctl ,它提供了 RabbitMQ 管理需要的几乎一站式解决方案,绝大部分的运维命令它都可以提供。查询 RabbitMQ 服务器的状态信息可以用参数 status。
RabbitMQ 中的基础概念
1、消息模型 几乎所有的 MQ 抽象来说都是一样的过程:消费者订阅某个队列,生产者生产消息,然后发布到队列中,最后将消息发送到监听该队列的消费者那里。如下图所示:
2、基本概念 上面上一个消息队列的抽象概述,具体到 RabbitMQ 有一些特有的概念,RabbitMQ 是 AMQP 协议的一个开源实现,其内部概念大都是 AMQP 协议的一些概念。
名称 | 描述 |
---|---|
Message 消息 | 消息是不具名的,它由消息头和消息体组成。消息体是不透明的,而消息头则是由一系列的可选属性组成,这些属性包括 routing-key(路由键)、priority(相对于其它消息的优先权)、delivery-mode(指出该消息可能需要持久性存储)等。 |
Publisher 消息生产者 | 一个向交换机发送消息的客户端应用程序。 |
Exchange 交换器 | 用来接收生产者发送过来的消息,并将这些消息发送给服务器中的队列。 |
Binding 绑定 | 用于消息队列和交换器之间的关联,一个绑定就是一个基于路由键将交换器和消息队列连接起来的路由规则,所以可以将交换器理解成一个由绑定构成的路由表。 |
Queue 消息队列 | 用来保存消息直到发送给消费者,它是消息的容器,也是消息的终点,一个消息可投入一个或多个队列,消息一直在队列里面,等待消费者连接到这个队列并将其取走。 |
Connection 网络连接 | 比如一个 TCP 连接。 |
Channel 信道 | 多路复用连接中的一条独立双向数据流通道,信道是建立在真实 TCP 连接内的虚拟连接,AMQP 命令都是通过信道发送出去的,不管是发布消息、订阅消息还是接收消息,这些动作都是通过信道完成的。因为对于操作系统来说建立和销毁 TCP 都是非常昂贵的开销,所以引入了信道的概念,以复用一条 TCP 连接。 |
Consumer 消息的消费者 | 一个从消息队列中获取消息的客户端应用程序。 |
Virtual Host 虚拟主机 | 表示一批交换器、消息队列和相关对象。虚拟主机是共享相同身份认证和加密环境的对服务器域。每个 vhost 本质上是一个 mini 版的 RabbitMQ 服务器,拥有自己的队列、交换器、绑定和权限机制。vhost 是 AMQP 概念的基础,必须在连接时指定,RabbitMQ 默认的 vhost 是 / 。 |
3、AMQP 中的消息路由 AMQP 中消息路由过程和 Java 开发者熟悉的 JMS 存在一些差别,AMQP 中增加了 Exchange 和 Binding 的角色。生产者把消息发送到 Exchange 上,消息最终到达队列并被消费者接收,而 Binding 决定交换器的消息应该发到哪个队列。
4、Exchange 类型 Exchange 分发消息时根据类型的不同分发策略略有区别,目前共有四种类型:direct、fanout、topic、headers。headers 匹配 AMQP 消息的 header 而不是路由键,此外 headers 交换器和 direct 交换器完全一致,但性能差很多,目前几乎用不到了,所以直接看另外三种类型即可。
4.1、direct 类型
消息中的路由键(routing key)如果和 Binding 中的 binding key 一致,交换器就将消息发到对应的队列中。路由键与队列名完全匹配,如果一个队列绑定到交换机要求路由键为 "dog",则只转发 routing key 标记为 “dog” 的消息,不会转发 "dog.puppy",也不会转发 "dog.guard" 等等。它是完全匹配、单播的模式。
4.2、fanout 类型
每个发到 fanout 类型交换机的消息都会发到所有绑定的队列上去。fanout 交换器不处理路由键,只是简单的将队列绑定到交换器上,每个发送到交换器的消息都会被转发到与该交换器绑定的所有队列上。很像子网广播,每台子网内的主机都获得一份复制的消息。fanout 类型转发消息是最快的。
3、topic 类型
topic 交换器通过模式匹配分配消息的路由键属性,将路由键和某个模式进行匹配,此时队列需要绑定到一个模式上,它将路由键和绑定的字符串切分成单词,这些单词之间用点隔开。它同样也识别两个通配符:符号 "#" 和符号 ""。# 符号匹配 0 个或多个单词, 符号匹配不多不少一个单词。
总结
本文主要讲了关于 RabbitMQ 的安装以及基础概念的相关介绍,由于它是基于 Erlang 语言开发,可能对于部分 Java 开发者想了解其底层实现细节以及排查比较复杂的问题时不是很友好。