一 什么是消息中间件?
消息中间件(MQ)的定义
其实并没有标准定义。一般认为,消息中间件属于分布式系统中一个子系统,关注于数据的发送和接收,利用高效可靠的异步消息传递机制对分布式系统中的其余各个子系统进行集成。
二 为什么要用消息中间件?
消息中间件主要解决分布式系统之间消息的传递,同时为分布式系统中其他子系统提供了伸缩性和扩展性。为系统带来了:
低耦合,不管是程序还是模块之间,使用消息中间件进行间接通信。
异步通信能力,使得子系统之间得以充分执行自己的逻辑而无需等待。
缓冲能力,消息中间件像是一个巨大的蓄水池,将高峰期大量的请求存储下来慢慢交给后台进行处理,对于秒杀业务来说尤为重要。
三 和RPC有何区别?
RPC和消息中间件的场景的差异很大程度上在于就是“依赖性”和“同步性”。
比如短信通知服务并不是事交易环节必须的,并不影响下单流程,不是强依赖,所以交易系统不应该依赖短信服务。比如一些数据分析程序可能需要在拿到一天的总销售量,这个就只需要销售中心提供接口在需要时调用即可。
消息中间件出现以后对于交易场景可能是调用库存中心等强依赖系统执行业务,之后发布一条消息(这条消息存储于消息中间件中)。像是短信通知服务、数据统计服务等等都是依赖于消息中间件去消费这条消息来完成自己的业务逻辑。
RPC方式是典型的同步方式,让远程调用像本地调用。消息中间件方式属于异步方式。消息队列是系统级、模块级的通信。RPC是对象级、函数级通信。
相同点:都是分布式下面的通信方式。
四 消息中间件有些什么使用场景?
1 异步处理
2 应用解耦
3 流量削峰
流量削峰也是消息队列中的常用场景,一般在秒杀或团抢活动中使用广泛。
应用场景:秒杀活动,一般会因为流量过大,导致流量暴增,应用挂掉。为解决这个问题,一般需要在应用前端加入消息队列:可以控制活动的人数;可以缓解短时间内高流量压垮应用。
用户的请求,服务器接收后,首先写入消息队列。假如消息队列长度超过最大数量,则直接抛弃用户请求或跳转到错误页面;秒杀业务根据消息队列中的请求信息,再做后续处理。
4 日志处理
日志处理是指将消息队列用在日志处理中,比如Kafka的应用,解决大量日志传输的问题。架构简化如下:
日志采集客户端,负责日志数据采集,定时写入Kafka队列:Kafka消息队列,负责日志数据的接收,存储和转发;日志处理应用:订阅并消费kafka队列中的日志数据;
5 消息通讯
消息通讯是指,消息队列一般都内置了高效的通信机制,因此也可以用在纯的消息通讯。比如实现点对点消息队列,或者聊天室等。
点对点通讯:客户端A和客户端B使用同一队列,进行消息通讯。
聊天室通讯:客户端A,客户端B,客户端N订阅同一主题,进行消息发布和接收。实现类似聊天室效果。
五 常见的消息中间件比较
如果一般的业务系统要引入MQ,怎么选型:
ActiveMQ: 用户访问量在ActiveMQ的可承受范围内,而且确实主要是基于解耦和异步来用的,可以考虑ActiveMQ,也比较贴近Java工程师的使用习惯。
RabbitMQ:但是确实erlang语言阻止了我们去深入研究和掌控,对公司而言,几乎处于不可控的状态,但是确实是开源的,有比较稳定的支持,活跃度也高。
RocketMQ:对自己公司技术实力有绝对自信的,可以用RocketMQ 。
所以中小型公司:技术实力较为一般,技术挑战不是特别高,用ActiveMQ、RabbitMQ是不错的选择;
大型公司: 基础架构研发实力较强,用RocketMQ是很好的选择
如果是大数据领域的实时计算、日志采集等场景: 用Kafka是业内标准的,绝对没问题,社区活跃度很高,几乎是全世界这个领域的事实性规范。
六 JMS和ActiveMQ
JMS(Java Messaging Service)是Java平台上有关面向消息中间件的技术规范,实际上是一套api,它便于消息系统中的Java应用程序进行消息交换,并且通过提供标准的产生、发送、接收消息的接口简化企业应用的开发,ActiveMQ而是这个规范的一个具体实现。
1 JMS规范
JMS对象模型
1)连接工厂。连接工厂负责创建一个JMS连接。
2)JMS连接。JMS连接(Connection)表示JMS客户端和服务器端之间的一个活动的连接,是由客户端通过调用连接工厂的方法建立的。
3)JMS会话。JMS会话(Session)表示JMS客户与JMS服务器之间的会话状态。JMS会话建立在JMS连接上,表示客户与服务器之间的一个会话线程。
4)JMS目的/ Broker。客户用来指定它生产的消息的目标和它消费的消息的来源的对象,一个消息中间件的实例。
5)JMS生产者和消费者。生产者(Message Producer)和消费者(Message Consumer)对象由Session对象创建,用于发送和接收消息。
消息的消费可以采用以下两种方法之一:
同步消费。通过调用 消费者的receive 方法从目的地中显式提取消息。receive 方法可以一直阻塞到消息到达。
异步消费。客户可以为消费者注册一个消息监听器,以定义在消息到达时所采取的动作。
JMS规范中的消息
JMS 消息由以下三部分组成:
消息头。每个消息头字段都有相应的getter 和setter 方法。
消息属性。如果需要除消息头字段以外的值,那么可以使用消息属性。
消息体。JMS 定义的消息类型有TextMessage、MapMessage、BytesMessage、
StreamMessage 和 ObjectMessage。ActiveMQ也有对应的实现。
JMS消息模型
1 Point-to-Point(P2P) / 点对点
每条消息通仅会传送给一个接受者。可能会有多个接受者在一个队列中侦听,但是每个队列中的消息只能被队列中的一个接受者消费。
每个消息只有一个消费者(Consumer)(即一旦被消费,消息就不再在消息队列中)
发送者发送了消息之后,不管接收者有没有正在运行,它不会影响到消息被发送到队列
接收者在成功接收消息之后需向队列应答成功
如果希望发送的每个消息都应该被成功处理的话,使用这个P2P模式。
2 Topic/ 主题(发布订阅(Pub/Sub) )
1、消息生产者(发布)将消息发布到topic中,同时有多个消息消费者(订阅)消费该消息。和点对点方式不同,发布到topic的消息会被所有订阅者消费。
3、如果你希望发送的消息可以不被做任何处理、或者被一个消息者处理、或者可以被多个消费者处理的话,那么可以采用topic模型
七 ActiveMQ安装、部署和运行
下载 Windows版 ActiveMQ,解压,运行bin目录下的activemq.bat即可。Linux下操作类似(进入bin目录运行./activemq start启动,./activemq stop关闭)。
下载地址:http://activemq.apache.org/activemq-580-release.html
运行后在浏览器中访问http://127.0.0.1:8161/admin,即可看到ActiveMQ的管理控制台
ActiveMQ中,61616为服务端口,8161为管理控制台端口。
使用ActiveMQ
原生API
Maven配置依赖
<dependency> <groupId>org.apache.activemq</groupId> <artifactId>activemq-all</artifactId> <version>5.8.0</version> </dependency>
生产者端
package cn.enjoyedu.usemq; import org.apache.activemq.ActiveMQConnection; import org.apache.activemq.ActiveMQConnectionFactory; import javax.jms.*; /** * 类说明:生产者端 */ public class JmsProducer { /*默认连接用户名*/ private static final String USERNAME = ActiveMQConnection.DEFAULT_USER; /* 默认连接密码*/ private static final String PASSWORD = ActiveMQConnection.DEFAULT_PASSWORD; /* 默认连接地址*/ private static final String BROKEURL = ActiveMQConnection.DEFAULT_BROKER_URL; private static final int SENDNUM = 3; public static void main(String[] args) { /* 连接工厂*/ ConnectionFactory connectionFactory; /* 连接*/ Connection connection = null; /* 会话*/ Session session; /* 消息的目的地*/ Destination destination; /* 消息的生产者*/ MessageProducer messageProducer; /* 实例化连接工厂*/ connectionFactory = new ActiveMQConnectionFactory(USERNAME, PASSWORD, BROKEURL); try { /* 通过连接工厂获取连接*/ connection = connectionFactory.createConnection(); /* 启动连接*/ connection.start(); /* 创建session * 第一个参数表示是否使用事务,第二次参数表示是否自动确认*/ session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE); /* 创建一个名为HelloWorld消息队列*/ //destination = session.createTopic("HelloActiveMq"); destination = session.createQueue("HelloActiveMqQueue"); /* 创建消息生产者*/ messageProducer = session.createProducer(destination); /* 循环发送消息*/ for (int i = 0; i < SENDNUM; i++) { String msg = "发送消息" + i + " " + System.currentTimeMillis(); TextMessage textMessage = session.createTextMessage(msg); System.out.println("标准用法:" + msg); messageProducer.send(textMessage); } } catch (Exception e) { e.printStackTrace(); } finally { if (connection != null) { try { connection.close(); } catch (JMSException e) { e.printStackTrace(); } } } } }
同步消费者端
package cn.enjoyedu.usemq; import org.apache.activemq.ActiveMQConnection; import org.apache.activemq.ActiveMQConnectionFactory; import javax.jms.*; /** * 类说明:消费者端-同步接收 */ public class JmsConsumer { /*默认连接用户名*/ private static final String USERNAME = ActiveMQConnection.DEFAULT_USER; /* 默认连接密码*/ private static final String PASSWORD = ActiveMQConnection.DEFAULT_PASSWORD; /* 默认连接地址*/ private static final String BROKEURL = ActiveMQConnection.DEFAULT_BROKER_URL; public static void main(String[] args) { /* 连接工厂*/ ConnectionFactory connectionFactory; /* 连接*/ Connection connection = null; /* 会话*/ Session session; /* 消息的目的地*/ Destination destination; /* 消息的消费者*/ MessageConsumer messageConsumer; /* 实例化连接工厂*/ connectionFactory = new ActiveMQConnectionFactory(USERNAME, PASSWORD, BROKEURL); try { /* 通过连接工厂获取连接*/ connection = connectionFactory.createConnection(); /* 启动连接*/ connection.start(); /* 创建session*/ session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE); /* 创建一个名为HelloWorld消息队列*/ //destination = session.createTopic("HelloActiveMq"); destination = session.createQueue("HelloActiveMqQueue"); /* 创建消息消费者*/ messageConsumer = session.createConsumer(destination); Message message; while ((message = messageConsumer.receive()) != null) { System.out.println(((TextMessage) message).getText()); } } catch (JMSException e) { e.printStackTrace(); } finally { if (connection != null) { try { connection.close(); } catch (JMSException e) { e.printStackTrace(); } } } } }
异步消费者端
package cn.enjoyedu.usemq; import org.apache.activemq.ActiveMQConnection; import org.apache.activemq.ActiveMQConnectionFactory; import javax.jms.*; /** * 类说明:消费者端-异步接收 */ public class JmsConsumerAsyn { /*默认连接用户名*/ private static final String USERNAME = ActiveMQConnection.DEFAULT_USER; /* 默认连接密码*/ private static final String PASSWORD = ActiveMQConnection.DEFAULT_PASSWORD; /* 默认连接地址*/ private static final String BROKEURL = ActiveMQConnection.DEFAULT_BROKER_URL; public static void main(String[] args) { /* 连接工厂*/ ConnectionFactory connectionFactory; /* 连接*/ Connection connection = null; /* 会话*/ Session session; /* 消息的目的地*/ Destination destination; /* 消息的消费者*/ MessageConsumer messageConsumer; /* 实例化连接工厂*/ connectionFactory = new ActiveMQConnectionFactory(USERNAME, PASSWORD, BROKEURL); try { /* 通过连接工厂获取连接*/ connection = connectionFactory.createConnection(); /* 启动连接*/ connection.start(); /* 创建session*/ session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE); /* 创建一个名为HelloWorld消息队列*/ //destination = session.createTopic("HelloActiveMq"); destination = session.createQueue("HelloActiveMqQueue"); /* 创建消息消费者*/ messageConsumer = session.createConsumer(destination); /* 设置消费者监听器,监听消息*/ messageConsumer.setMessageListener(new MessageListener() { public void onMessage(Message message) { try { System.out.println(((TextMessage) message).getText()); } catch (JMSException e) { e.printStackTrace(); } } }); } catch (JMSException e) { e.printStackTrace(); } } }
和Spring组合依赖
<!--ActiveMq--> <dependency> <groupId>org.springframework</groupId> <artifactId>spring-jms</artifactId> <version>4.3.11.RELEASE</version> </dependency>
和SpringBoot组合依赖
<dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-activemq</artifactId> </dependency> <dependency> <groupId>org.apache.activemq</groupId> <artifactId>activemq-pool</artifactId> </dependency>
八 嵌入式ActiveMQ
在自己的应用程序中嵌入一个消息队列
BrokerService brokerService = new BrokerService(); brokerService.setBrokerName("EmbedMQ"); brokerService.addConnector("tcp://localhost:62000"); brokerService.setManagementContext(new ManagementContext()); brokerService.start();
即可像普通队列一样使用,不过始终不适合于生产
九 消息存储的持久化
ActiveMQ的另一个问题就是只要是软件就有可能挂掉,挂掉不可怕,怕的是挂掉之后把信息给丢了,怎么办,可以进行消息的持久化,ActiveMQ提供了几种持久化方式:
- AMQ消息存储-基于文件的存储方式,它具有写入速度快和容易恢复的特点。消息存储在一个个文件中,文件的默认大小为32M,如果一条消息的大小超过了32M,那么这个值必须设置大一点。当一个存储文件中的消息已经全部被消费,那么这个文件将被标识为可删除,在下一个清除阶段,这个文件被删除。AMQ适用于ActiveMQ5.3之前的版本。
- KahaDB消息存储-提供了容量的提升和恢复能力,是现在的默认存储方式;KahaDB是基于文件的本地数据库储存形式,虽然没有AMQ的速度快,但是它具有强扩展性,恢复的时间比AMQ短,从5.4版本之后KahaDB做为默认的持久化方式。
- JDBC消息存储-消息基于JDBC存储的;
- Memory消息存储-基于内存的消息存储,由于内存不属于持久化范畴。所以内存存储不在讨论范围内。
KahaDB
由于KahaDB是默认的持久化存储方案。所以即使你不配置任何的KahaDB参数信息,ActiveMQ也会启动KahaDB。这种情况下,KahaDB文件所在位置是你的ActiveMQ安装路径下的/data/KahaDB子目录。
关系型数据库存储方案
从ActiveMQ 4+版本开始,ActiveMQ就支持使用关系型数据库进行持久化存储——通过JDBC实现的数据库连接。可以使用的关系型数据库囊括了目前市面的主流数据库。
使用JDBC的方式持久化
1、修改配置文件conf/activemq.xml:
将其中的这段配置: <persistenceAdapter> <kahaDB directory="${activemq.base}/data/kahadb"/> </persistenceAdapter> 修改为为: <persistenceAdapter> <jdbcPersistenceAdapter dataSource="#mysql-ds "/> </persistenceAdapter> 2、然后在</broker>标签后,增加数据源的配置: <bean id="mysql-ds" class="org.apache.commons.dbcp2.BasicDataSource" destroy-method="close"> <property name="driverClassName" value="com.mysql.jdbc.Driver"/> <property name="url" value="jdbc:mysql://localhost:3306/activemq?relaxAutoCommit=true&useUnicode=true&characterEncoding=utf-8&serverTimezone=UTC"/> <property name="username" value="root"/> <property name="password" value="123456"/> <property name="poolPreparedStatements" value="true"/> </bean>