程序员~高级~消息队列

一、什么是消息队列

    MQ (Message Quene) : 翻译为 消息队列 ,通过典型的 ⽣产者 和 消费者 模型,⽣产者不断向消息队列中⽣产消息,消费者不断的从队列中获取消息。因为消息的⽣产和消费都是异步的,⽽且只关⼼消息的发送和接收,没有业务逻辑的侵⼊,轻松的实现系统间解耦。别名为 消息中间件 通过利⽤⾼效可靠的消息传递机制进⾏平台⽆关的数据交流,并基于数据通信来进⾏分布式系统的集成。

二、为什么要使用MQ

1.解耦

现在我有一个系统A,系统A可以产生一个userId,然后,现在有系统B和系统C都需要这个userId去做相关的操作,可以写成如下操作

如果有一天,系统B的负责人告诉系统A的负责人,现在系统B的SystemBNeed2do(String userId)这个接口不再使用了,让系统A别去调它了。那么就需要从代码的基础上去修改了。这样紧密的耦合关系会导致很多麻烦,如果使用消息中间件就不会出现以上问题。

2.异步

我们再来看看下面这种情况:系统A还是直接调用系统B、C、D

假设系统A运算出userId具体的值需要50ms,调用系统B的接口需要300ms,调用系统C的接口需要300ms,调用系统D的接口需要300ms。那么这次请求就需要50+300+300+300=950ms

并且我们得知,系统A做的是主要的业务,而系统B、C、D是非主要的业务。比如系统A处理的是订单下单,而系统B是订单下单成功了,那发送一条短信告诉具体的用户此订单已成功,而系统C和系统D也是处理一些小事而已。

那么此时,为了提高用户体验和吞吐量,其实可以异步地调用系统B、C、D的接口。所以,我们可以弄成是这样的:

系统A执行完了以后,将userId写到消息队列中,然后就直接返回了(至于其他的操作,则异步处理)。

本来整个请求需要用950ms(同步)

现在将调用其他系统接口异步化,只需要100ms(异步)

3、削峰/限流

假设现在我们每个月要搞一次大促,大促期间的并发可能会很高的,比如每秒3000个请求。假设我们现在有两台机器处理请求,并且每台机器只能每次处理1000个请求。

那多出来的1000个请求,可能就把我们整个系统给搞崩了...所以,有一种办法,我们可以写到消息队列中:

系统B和系统C根据自己的能够处理的请求数去消息队列中拿数据,这样即便有每秒有8000个请求,那只是把请求放在消息队列中,去拿消息队列的消息由系统自己去控制,这样就不会把整个系统给搞崩。

三、常用的消息中间件

当今市⾯上有很多主流的消息中间件,如⽼牌的 ActiveMQ 、 RabbitMQ ,炙⼿可热的Kafka ,阿⾥巴巴⾃主开发 RocketMQ 等。

#1.ActiveMQ

ActiveMQ 是Apache出品,最流⾏的,能⼒强劲的开源消息总线。它是⼀个完全⽀持JMS规范的的消息中间件。丰富的API,多种集群架构模式让ActiveMQ在业界成为⽼牌的消息中间件,在中⼩型企业颇受欢迎!

# 2.Kafka

Kafka是LinkedIn开源的分布式发布-订阅消息系统,⽬前归属于Apache顶级项⽬。Kafka主要特点是基于Pull的模式来处理消息消费,追求⾼吞吐量,⼀开始的⽬的就是⽤于⽇志收集和传输。0.8版本开始⽀持复制,不⽀持事务,对消息的重复、丢失、错误没有严格要求,适合产⽣⼤量数据的互联⽹服务的数据收集业务。

# 3.RocketMQ

RocketMQ是阿⾥开源的消息中间件,它是纯Java开发,具有⾼吞吐量、⾼可⽤性、适合⼤规模分

布式系统应⽤的特点。RocketMQ思路起源于Kafka,但并不是Kafka的⼀个Copy,它

对消息的可靠传输及事务性做了优化,⽬前在阿⾥集团被⼴泛应⽤于交易、充值、流计算、消

息推送、⽇志流式处理、binglog分发等场景。

# 4.RabbitMQ

RabbitMQ⽐Kafka可靠,Kafka更适合IO⾼吞吐的处理,⼀般应⽤在⼤数据⽇志处理或对实时性(少量延迟),可靠性(少量丢数据)要求稍低的场景使⽤,⽐如ELK⽇志收集。

四、RabbitMQ

基于 AMQP 协议,erlang语⾔开发,是部署最⼴泛的开源消息中间件,是最受欢迎的开源消息中间件之⼀。

官⽹ :https://www.rabbitmq.com/

官⽅教程 :https://www.rabbitmq.com/#getstarted

1.AMQP 协议

AMQP(advanced message queuingprotocol)`在2003年时被提出,最早⽤于解决⾦融领不同平台之间的消息传递交互问题。顾名思义,AMQP是⼀种协议,更准确的说是⼀种binary wire-level protocol(链接协议)。这是其和JMS的本质差别,AMQP不从API层进⾏限定,⽽是直接定义⽹

络交换的数据格式。这使得实现了AMQP的provider天然性就是跨平台的。以下是AMQP协议模型:

2.RabbitMQ 的安装

下载地址:https://www.rabbitmq.com/download.html

注意:处理要下载rabbitmq的按转包外还要下载ellong环境

3.安装步骤

先安装安装Erlang,再安装rabbitmq.exe,直接下一步,傻瓜式安装,安装完成点击开始会出现这里会出现启动、停止、重新安装等

1.点击

2.输入命令:

rabbitmq-plugins enable rabbitmq_management

3.打开浏览器控制台

http://localhost:15672/

默认账号guest guest

如果不能访问,

文件夹为隐藏 需要再文件夹选项中把隐藏文件夹打开显示

C:\Users\XYH\AppData\Roaming\RabbitMQ\db里面的数据删除再次安装一下Rabbitmq.exe

然后执行

rabbitmq-plugins enable rabbitmq_management

就可以访问到了

五、web管理界⾯介绍

1.简介

connections:⽆论⽣产者还是消费者,都需要与RabbitMQ建⽴连接后才可以完成消息的⽣产和消费,在这⾥可以查看连接情况

channels:通道,建⽴连接后,会形成通道,消息的投递获取依赖通道。

Exchanges:交换机,⽤来实现消息的路由

Queues:队列,即消息队列,消息存放在队列中,等待消费,消费后被移除队列。

admin:用户

2.Admin⽤户和虚拟主机管理

a.添加用户

上⾯的Tags选项,其实是指定⽤户的⻆⾊,可选的有以下⼏个:

==》超级管理员(administrator):可登陆管理控制台,可查看所有的信息,并且可以对⽤户,策略(policy)进⾏操作。

==》监控者(monitoring):可登陆管理控制台,同时可以查看rabbitmq节点的相关信息(进程数,内存

使⽤情况,磁盘使⽤情况等)

==》策略制定者(policymaker):可登陆管理控制台, 同时可以对policy进⾏管理。但⽆法查看节点的相关信息(上图红框标识的部分)。

==》普通管理者(management):仅可登陆管理控制台,⽆法看到节点信息,也⽆法对策略进⾏理。

==》其他:⽆法登陆管理控制台,通常就是普通的⽣产者和消费者。

b.创建虚拟主机

虚拟主机:为了让各个⽤户可以互不⼲扰的⼯作,RabbitMQ添加了虚拟主机(Virtual Hosts)的概念。其实就是⼀个独⽴的访问路径,不同⽤户使⽤不同路径,各⾃有⾃⼰的队列、交换机,互相不会影响。

c、绑定虚拟主机

六、RabbitMQ 的第⼀个程序

a.AMQP协议

b、RabbitMQ⽀持的消息模型

c.引入依赖

com.rabbitmq

amqp-client

5.7.2

# 第⼀种模型(直连)

在上图的模型中,有以下概念:

P:⽣产者,也就是要发送消息的程序

C:消费者:消息的接受者,会⼀直等待消息到来。

queue:消息队列,图中红⾊部分。类似⼀个邮箱,可以缓存消息;⽣产者向其中投递消息,消费者从其中取出消息。

开发⽣产者

//创建连接工厂

ConnectionFactory connectionFactory = new ConnectionFactory();

//设置端ip号

connectionFactory.setHost("127.0.0.1");

//设置端口号

connectionFactory.setPort(5672);

//设置用户名和密码

connectionFactory.setUsername("xyh");

connectionFactory.setPassword("123");

//访问的虚拟通道

connectionFactory.setVirtualHost("/vhost");

//连接

Connection connection = connectionFactory.newConnection();

//创建通道

Channel channel = connection.createChannel();

//通道绑定对应的消息队列

//参数1: 是否持久化 参数2:是否独占队列 参

//数3:是否⾃动删除 参数4:其他属性

channel.queueDeclare("hello",false,false,false,null);

//发布消息

channel.basicPublish("","hello",null,"hello".getBytes());

channel.close();

connection.close();

消费者

//创建连接工厂

ConnectionFactory connectionFactory = new ConnectionFactory();

//设置端ip号

connectionFactory.setHost("127.0.0.1");

//设置端口号

connectionFactory.setPort(5672);

//设置用户名和密码

connectionFactory.setUsername("xyh");

connectionFactory.setPassword("123");

//访问的虚拟通道

connectionFactory.setVirtualHost("/vhost");

//连接

Connection connection = connectionFactory.newConnection();

//创建通道

Channel channel = connection.createChannel();

channel.queueDeclare("hello",false,false,false,null);

//消费消息

channel.basicConsume("hello",true,new DefaultConsumer(channel){

    @Override

    public void handleDelivery(String consumerTag, Envelope envelope, AMQP.BasicProperties properties, byte[] body) throws IOException {

        System.out.println(new String(body));

    }

});

七、springboot实现简单的rabbitmq

1.导入依赖

    org.springframework.boot

    spring-boot-starter-amqp

2.配置rabbitmq的配置信息

spring.application.name=rabbitmq-springboot

spring.rabbitmq.host=127.0.0.1

spring.rabbitmq.port=5672

spring.rabbitmq.username=dt87

spring.rabbitmq.password=123

spring.rabbitmq.virtual-host=/dt87

3.消息生产者

@Autowired

private RabbitTemplate rabbitTemplate;

@Test

public void test(){

    //直接获取rabbitmq的模板对象

    rabbitTemplate.convertAndSend("hello","hello world");

}

4、消息的消费者

@Component

@RabbitListener(queuesToDeclare = @Queue("hello"))

public class Consumer {

    //消费消息的方法

    @RabbitHandler

    public void test(String message){

        System.out.println(message);

    }

}

}

你可能感兴趣的:(程序员~高级~消息队列)