一、消息中间件概述
1.1 消息中间件产生的背景
在客户端与服务器进行通讯时.客户端调用后,必须等待服务对象完成处理返回结果才能继续执行。
客户与服务器对象的生命周期紧密耦合,客户进程和服务对象进程都都必须正常运行;如果由于服务对象崩溃或者网络故障导致用户的请求不可达,客户会受到异常。
点对点通信: 客户的一次调用只发送给某个单独的目标对象。
1.2 什么是消息中间件
面向消息的中间件(Message Orlented Middleware MOM)较好的解决了以上问题。发送者将消息发送给消息服务器,消息服务器将消感存放在若干队列中,在合适的时候再将消息转发给接收者。
这种模式下,发送和接收是异步的,发送者无需等待; 二者的生命周期未必相同: 发送消息的时候接收者不一定运行,接收消息的时候发送者也不一定运行;一对多通信: 对于一个消息可以有多个接收者。
二、JMS介绍
2.1 什么是JMS
JMS(Java Message Service)是java的消息服务,JMS的客户端之间可以通过JMS服务进行异步的消息传输。
2.2 什么是消息模型
即点对点和发布订阅模型
Point-to-Point(P2P) --- 点对点
Publish/Subscribe(Pub/Sub)--- 发布订阅
2.3 P2P(点对点)
2.3.1 P2P模型图
2.3.2 涉及到的概念
1)消息队列(Queue)
2)发送者(Sender)
3)接收者(Receiver)
4)每个消息都被发送到一个特定的队列,接收者从队列中获取消息。队列保留着消息,直到他们被消费或超时。
2.3.3 P2P的特点
1)每个消息只有一个消费者(Consumer)(即一旦被消费,消息就不再在消息队列中)
2)发送者和接收者之间在时间上没有依赖性,也就是说当发送者发送了消息之后,不管接收者有没有正在运行,它不会影响到消息被发送到队列
3)接收者在成功接收消息之后需向队列应答成功
如果你希望发送的每个消息都应该被成功处理的话,那么你需要P2P模式。
2.4 Pub/Sub(发布订阅)
2.4.1 发布订阅模型图
2.4.2 涉及到的概念
1)主题(Topic)
2)发布者(Publisher)
3)订阅者(Subscriber)
客户端将消息发送到主题。多个发布者将消息发送到Topic,系统将这些消息传递给多个订阅者。
2.4.3 发布订阅的特点
1)每个消息可以有多个消费者
2)发布者和订阅者之间有时间上的依赖性。针对某个主题(Topic)的订阅者,它必须创建一个订阅者之后,才能消费发布者的消息,而且为了消费消息,订阅者必须保持运行的状态。
为了缓和这样严格的时间相关性,JMS允许订阅者创建一个可持久化的订阅。这样,即使订阅者没有被激活(运行),它也能接收到发布者的消息。
如果你希望发送的消息可以不被做任何处理、或者被一个消息者处理、或者可以被多个消费者处理的话,那么可以采用Pub/Sub模型
2.5 消息的消费
在JMS中,消息的产生和消息是异步的。对于消费来说,JMS的消息者可以通过两种方式来消费消息。
同步:订阅者或接收者调用receive方法来接收消息,receive方法在能够接收到消息之前(或超时之前)将一直阻塞
异步:订阅者或接收者可以注册为一个消息监听器。当消息到达之后,系统自动调用监听器的onMessage方法。
2.6 应用场景
如图:对于用户来说,缩短用户等待时间,提供体验。
三、MQ产品的分类
3.1 RabbitMQ
是使用Erlang编写的一个开源的消息队列,本身支持很多的协议:AMQP,XMPP, SMTP, STOMP,也正是如此,使的它变的非常重量级,更适合于企业级的开发。同时实现了一个经纪人(Broker)构架,这意味着消息在发送给客户端时先在中心队列排队。对路由(Routing),负载均衡(Load balance)或者数据持久化都有很好的支持。
3.2 Redis
是一个Key-Value的NoSQL数据库,开发维护很活跃,虽然它是一个Key-Value数据库存储系统,但它本身支持MQ功能,所以完全可以当做一个轻量级的队列服务来使用。对于RabbitMQ和Redis的入队和出队操作,各执行100万次,每10万次记录一次执行时间。测试数据分为128Bytes、512Bytes、1K和10K四个不同大小的数据。实验表明:入队时,当数据比较小时Redis的性能要高于RabbitMQ,而如果数据大小超过了10K,Redis则慢的无法忍受;出队时,无论数据大小,Redis都表现出非常好的性能,而RabbitMQ的出队性能则远低于Redis。
3.3 ZeroMQ
号称最快的消息队列系统,尤其针对大吞吐量的需求场景。ZMQ能够实现RabbitMQ不擅长的高级/复杂的队列,但是开发人员需要自己组合多种技术框架,技术上的复杂度是对这MQ能够应用成功的挑战。ZeroMQ具有一个独特的非中间件的模式,你不需要安装和运行一个消息服务器或中间件,因为你的应用程序将扮演了这个服务角色。你只需要简单的引用ZeroMQ程序库,可以使用NuGet安装,然后你就可以愉快的在应用程序之间发送消息了。但是ZeroMQ仅提供非持久性的队列,也就是说如果down机,数据将会丢失。其中,Twitter的Storm中使用ZeroMQ作为数据流的传输。
3.4 ActiveMQ
是Apache下的一个子项目。类似于ZeroMQ,它能够以代理人和点对点的技术实现队列。同时类似于RabbitMQ,它少量代码就可以高效地实现高级应用场景。RabbitMQ、ZeroMQ、ActiveMQ均支持常用的多种语言客户端 C++、Java、.Net,、Python、Php、 Ruby等。
3.5 Jafka/Kafka
Kafka是Apache下的一个子项目,是一个高性能跨语言分布式Publish/Subscribe消息队列系统,而Jafka是在Kafka之上孵化而来的,即Kafka的一个升级版。具有以下特性:快速持久化,可以在O(1)的系统开销下进行消息持久化;高吞吐,在一台普通的服务器上既可以达到10W/s的吞吐速率;完全的分布式系统,Broker、Producer、Consumer都原生自动支持分布式,自动实现复杂均衡;支持Hadoop数据并行加载,对于像Hadoop的一样的日志数据和离线分析系统,但又要求实时处理的限制,这是一个可行的解决方案。Kafka通过Hadoop的并行加载机制来统一了在线和离线的消息处理,这一点也是本课题所研究系统所看重的。Apache Kafka相对于ActiveMQ是一个非常轻量级的消息系统,除了性能非常好之外,还是一个工作良好的分布式系统。
四、ActiveMQ的使用
4.1 ActiveMQ的启动,登录
下载解压后,执行bin目录下的activemq.bat即可。而后可以打开地址:http://localhost:8161,默认密码admin/admin。之后即可看到ActiveMQ的控制台
4.2 ActiveMQ的控制台
Number Of Consumers 消费者 这个是消费者端的消费者数量
Number Of Pending Messages 等待消费的消息 这个是当前未出队列的数量。可以理解为总接收数-总出队列数
Messages Enqueued 进入队列的消息 进入队列的总数量,包括出队列的。 这个数量只增不减
Messages Dequeued 出了队列的消息 可以理解为是消费这消费掉的数量
4.3 实现点对点模式
引入pom文件
<dependencies> <dependency> <groupId>org.apache.activemq</groupId> <artifactId>activemq-core</artifactId> <version>5.7.0</version> </dependency> </dependencies>
生产者
public class Producter { public static void main(String[] args) throws JMSException { // ConnectionFactory:连接工厂,JMS 用它创建连接 ConnectionFactory connectionFactory = new ActiveMQConnectionFactory(ActiveMQConnection.DEFAULT_USER, ActiveMQConnection.DEFAULT_PASSWORD, "tcp://127.0.0.1:61616"); // JMS 客户端到JMS Provider 的连接 Connection connection = connectionFactory.createConnection(); connection.start(); // Session:一个发送或接收消息的线程 Session session = connection.createSession(Boolean.falst, Session.AUTO_ACKNOWLEDGE); // Destination :消息的目的地;消息发送给谁. // 获取session注意参数值my-queue是Query的名字 Destination destination = session.createQueue("my-queue"); // MessageProducer:消息生产者 MessageProducer producer = session.createProducer(destination); // 设置不持久化 producer.setDeliveryMode(DeliveryMode.NON_PERSISTENT); // 发送一条消息 for (inti = 1; i<= 5; i++) { sendMsg(session, producer, i); } session.commit(); connection.close(); } /** * 在指定的会话上,通过指定的消息生产者发出一条消息 * * @param session * 消息会话 * @param producer * 消息生产者 */ public static void sendMsg(Session session, MessageProducer producer, int i) throws JMSException { // 创建一条文本消息 TextMessage message = session.createTextMessage("Hello ActiveMQ!" + i); // 通过消息生产者发出消息 producer.send(message); } }
消费者
public class JmsReceiver { public static void main(String[] args) throws JMSException { // ConnectionFactory:连接工厂,JMS 用它创建连接 ConnectionFactory connectionFactory = new ActiveMQConnectionFactory(ActiveMQConnection.DEFAULT_USER, ActiveMQConnection.DEFAULT_PASSWORD, "tcp://127.0.0.1:61616"); // JMS 客户端到JMS Provider 的连接 Connection connection = connectionFactory.createConnection(); connection.start(); // Session:一个发送或接收消息的线程 Session session = connection.createSession(Boolean.TRUE, Session.AUTO_ACKNOWLEDGE); // Destination :消息的目的地;消息发送给谁. // 获取session注意参数值xingbo.xu-queue是一个服务器的queue,须在在ActiveMq的console配置 Destination destination = session.createQueue("my-queue"); // 消费者,消息接收者 MessageConsumer consumer = session.createConsumer(destination); while (true) { TextMessage message = (TextMessage) consumer.receive(); if (null != message) { System.out.println("收到消息:" + message.getText()); session.commit(); } else break; } session.close(); connection.close(); } }
4.4 JMS的消息可靠机制
ActiveMQ消息签收机制:客戶端成功接收一条消息的标志是一条消息被签收,成功应答。
消息的签收情形分两种:
1、带事务的session:如果session带有事务,并且事务成功提交,则消息被自动签收。如果事务回滚,则消息会被再次传送。
2、不带事务的session:不带事务的session的签收方式,取决于session的配置。
Activemq支持一下三種模式:
Session.AUTO_ACKNOWLEDGE 消息自动签收
Session.CLIENT_ACKNOWLEDGE 客戶端调用acknowledge方法手动签收,(textMessage.acknowledge();//手动签收)
Session.DUPS_OK_ACKNOWLEDGE 不是必须签收,消息可能会重复发送。
4.5 发布订阅模式
生产者
public class TOPSend { private static String BROKERURL = "tcp://127.0.0.1:61616"; private static String TOPIC = "my-topic"; public static void main(String[] args) throws JMSException { start(); } public static void start() throws JMSException { System.out.println("生产者已经启动...."); // 创建ActiveMQConnectionFactory会话工厂 ActiveMQConnectionFactory activeMQConnectionFactory = new ActiveMQConnectionFactory( ActiveMQConnection.DEFAULT_USER, ActiveMQConnection.DEFAULT_PASSWORD, BROKERURL); Connection connection = activeMQConnectionFactory.createConnection(); // 启动JMS 连接 connection.start(); Session session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE); MessageProducer producer = session.createProducer(null); producer.setDeliveryMode(DeliveryMode.PERSISTENT); send(producer, session); System.out.println("发送成功!"); connection.close(); } public static void send(MessageProducer producer, Session session) throwsJMSException { for (inti = 1; i<= 5; i++) { System.out.println("我是消息" + i); TextMessage textMessage = session.createTextMessage("我是消息" + i); Destination destination = session.createTopic(TOPIC); producer.send(destination, textMessage); } } }
消费者
public class TopReceiver { private static String BROKERURL = "tcp://127.0.0.1:61616"; private static String TOPIC = "my-topic"; public static void main(String[] args) throws JMSException { start(); } public static void start() throws JMSException { System.out.println("消费点启动..."); // 创建ActiveMQConnectionFactory会话工厂 ActiveMQConnectionFactory activeMQConnectionFactory = new ActiveMQConnectionFactory( ActiveMQConnection.DEFAULT_USER, ActiveMQConnection.DEFAULT_PASSWORD, BROKERURL); Connection connection = activeMQConnectionFactory.createConnection(); // 启动JMS 连接 connection.start(); // 不开消息启事物,消息主要发送消费者,则表示消息已经签收 Session session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE); // 创建一个队列 Topic topic = session.createTopic(TOPIC); MessageConsumer consumer = session.createConsumer(topic); // consumer.setMessageListener(new MsgListener()); while (true) { TextMessage textMessage = (TextMessage) consumer.receive(); if (textMessage != null) { System.out.println("接受到消息:" + textMessage.getText()); // textMessage.acknowledge();// 手动签收 // session.commit(); } else { break; } } connection.close(); } }
4.6 SpringBoot整合ActiveMQ
4.6.1 生产者
引入pom文件
<dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-activemq</artifactId> </dependency>
引入yml文件
server:
port: 8090
spring:
activemq:
broker-url: tcp://127.0.0.1:61616
user: admin
password: admin
queue: my-queue
创建QueueConfig
@Configuration public class QueueConfig { @Value("${queue}") private String queueName; @Bean public Queue queue() { System.out.println("queueName:" + queueName); return new ActiveMQQueue(queueName); }
创建Producer
@Component @EnableScheduling public class Producer { @Autowired private JmsMessagingTemplate jmsMessagingTemplate; @Autowired private Queue queue; private Integer age = 1; @Scheduled(fixedDelay = 13000) public void send() { age++; UserEntity userEntity = new UserEntity(System.currentTimeMillis(), UUID.randomUUID().toString(), age); String json = new JSONObject().toJSONString(userEntity); System.out.println("json:" + json); jmsMessagingTemplate.convertAndSend(queue, json); }
4.6.2 消费者
只需创建消费者类
@Component public class Consumer { @JmsListener(destination = "${queue}") public void receive(String msg) { System.out.println("msg:"+msg); JSONObject jsonObject = new JSONObject(); UserEntity userEntity = jsonObject.parseObject(msg, UserEntity.class); System.out.println(userEntity.getName() + "---" + userEntity.getId()); } }