1. 介绍
RabbitMQ
Erlang编写的消息队列产品,企业级消息队列软件,支持消息负载均衡,数据持久化等。
ZeroMQ
saltstack软件使用此消息,速度最快。
Redis
key-value的系统,也支持队列数据结构,轻量级消息队列
Kafka
由Scala编写,目标是为处理实时数据提供一个统一、高通量、低等待的平台
2. 安装
1.下载centos源
wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.cloud.tencent.com/repo/centos7_base.repo
2.下载epel源
wget -O /etc/yum.repos.d/epel.repo http://mirrors.cloud.tencent.com/repo/epel-7.repo
3.清空yum缓存并且生成新的yum缓存
yum clean all
yum makecache
4.安装erlang 安装RabbitMQ
yum install erlang install rabbitmq-server -y
5.安装插件
rabbitmq-plugins enable rabbitmq_management
6.启动(无用户名密码):
systemctl start/stop/restart/status rabbitmq-server
7.访问(端口号固定)
10.0.0.100:15672
3. 设置rabbitmq账号密码,以及角色权限设置
# 设置新用户ymq 密码123
sudo rabbitmqctl add_user ymq 123
# 设置用户为administrator角色
sudo rabbitmqctl set_user_tags ymq administrator
# 设置权限,允许对所有的队列都有权限
sudo rabbitmqctl set_permissions -p "/" ymq ".*" ".*" ".*"
#重启服务生效设置
systemctl start/stop/restart/status rabbitmq-server
systemctl restart rabbitmq-server
4. rabbitmq相关命令
// 新建用户
rabbitmqctl add_user {用户名} {密码}
// 设置权限
rabbitmqctl set_user_tags {用户名} {权限}
// 查看用户列表
rabbitmqctl list_users
// 为用户授权
添加 Virtual Hosts :
rabbitmqctl add_vhost <vhost>
// 删除用户
rabbitmqctl delete_user Username
// 修改用户的密码
rabbitmqctl change_password Username Newpassword
// 删除 Virtual Hosts :
rabbitmqctl delete_vhost <vhost>
// 添加 Users :
rabbitmqctl add_user <username> <password>
rabbitmqctl set_user_tags <username> <tag> ...
rabbitmqctl set_permissions [-p <vhost>] <user> <conf> <write> <read>
// 删除 Users :
delete_user <username>
// 使用户user1具有vhost1这个virtual host中所有资源的配置、写、读权限以便管理其中的资源
rabbitmqctl set_permissions -p vhost1 user1 '.*' '.*' '.*'
// 查看权限
rabbitmqctl list_user_permissions user1
rabbitmqctl list_permissions -p vhost1
// 清除权限
rabbitmqctl clear_permissions [-p VHostPath] User
//清空队列步骤
rabbitmqctl reset
需要提前关闭应用rabbitmqctl stop_app ,
然后再清空队列,启动应用
rabbitmqctl start_app
此时查看队列rabbitmqctl list_queues
查看所有的exchange: rabbitmqctl list_exchanges
查看所有的queue: rabbitmqctl list_queues
查看所有的用户: rabbitmqctl list_users
查看所有的绑定(exchange和queue的绑定信息): rabbitmqctl list_bindings
查看消息确认信息:
rabbitmqctl list_queues name messages_ready messages_unacknowledged
查看RabbitMQ状态,包括版本号等信息:rabbitmqctl status
5. 连接客户端python操作
// rabbitmq官方推荐的python客户端pika模块
pip3 install pika==0.10.0
7. 队列
7.1 基本使用
生产者(pro.py)
#!/usr/bin/env python
import pika
# 创建凭证,使用rabbitmq用户密码登录
credentials = pika.PlainCredentials("ymq","123")
# 新建连接,这里localhost可以更换为服务器ip
connection = pika.BlockingConnection(pika.ConnectionParameters('10.0.0.100',credentials=credentials))
# 创建频道
channel = connection.channel()
# 新建一个hello队列,用于接收消息
channel.queue_declare(queue='我是队列的名字')
# 注意在rabbitmq中,消息想要发送给队列,必须经过交换(exchange),初学可以使用空字符串交换(exchange=''),它允许我们精确的指定发送给哪个队列(routing_key=''),参数body值发送的数据
channel.basic_publish(exchange='',
routing_key='我是队列的名字',
body='我是要发送的消息')
print("已经发送了消息")
# 程序退出前,确保刷新网络缓冲以及消息发送给rabbitmq,需要关闭本次连接
connection.close()
消费者 receive .py
import pika
# 建立与rabbitmq的连接
credentials = pika.PlainCredentials("ymq","123")
connection = pika.BlockingConnection(pika.ConnectionParameters('10.0.0.100',credentials=credentials))
channel = connection.channel()
channel.queue_declare(queue="我是队列的名字")
def callbak(ch,method,properties,body):
print("消费者接收到了任务:%r"%body.decode('utf-8'))
# 有消息来临,立即执行callbak,没有消息则夯住,等待消息 不确认机制 ,消费者拿走了数据,不需要给服务端确认,服务端直接标记消息清除
channel.basic_consume(callbak,queue="我是队列的名字",no_ack=True)
# 开始消费,接收消息
channel.start_consuming()
7.2 ACK机制
no_ack=True
不确认机制,不需要给服务端一个确认回复,服务端直接标记消息清除,有可能造成消息丢失
no_ack=Flase
确认机制,你消费走了数据,还得给服务端一个确认回复,让服务端可以正确的标记消息清除,保证数的不丢失
7.2.1 生产者.py 只负责发送数据即可
#!/usr/bin/env python
import pika
# 创建凭证,使用rabbitmq用户密码登录
credentials = pika.PlainCredentials("ymq","123")
# 新建连接,这里localhost可以更换为服务器ip
connection = pika.BlockingConnection(pika.ConnectionParameters('10.0.0.100',credentials=credentials))
# 创建频道
channel = connection.channel()
# 新建一个hello队列,用于接收消息
channel.queue_declare(queue='我是队列的名字')
# 注意在rabbitmq中,消息想要发送给队列,必须经过交换(exchange),初学可以使用空字符串交换(exchange=''),它允许我们精确的指定发送给哪个队列(routing_key=''),参数body值发送的数据
channel.basic_publish(exchange='',
routing_key='我是队列的名字',
body='我是要发送的消息')
print("已经发送了消息")
# 程序退出前,确保刷新网络缓冲以及消息发送给rabbitmq,需要关闭本次连接
connection.close()
7.2.2 消费者.py给与ack回复
no_ack=Flase
import pika
credentials = pika.PlainCredentials("ymq","123")
connection = pika.BlockingConnection(pika.ConnectionParameters('10.0.0.100',credentials=credentials))
channel = connection.channel()
# 声明一个队列(创建一个队列)
channel.queue_declare(queue='我是队列的名字')
def callback(ch, method, properties, body):
print("消费者接受到了任务: %r" % body.decode('utf-8'))
# int('asdfasdf')
# 我告诉rabbitmq服务端,我已经取走了消息
ch.basic_ack(delivery_tag=method.delivery_tag)
# 关闭no_ack,给与服务端ack回复
channel.basic_consume(callback,queue='我是队列的名字',no_ack=False)
channel.start_consuming()
7.3 队列的持久化
7.3.1 介绍
队列的持久化,默认队列不支持持久化,rabbitmq重启之后,所有队列丢失
消息的可靠性是RabbitMQ的一大特色,那么RabbitMQ是如何保证消息可靠性的呢——消息持久化。
为了保证RabbitMQ在退出或者crash等异常情况下数据没有丢失,需要将queue,exchange和Message都持久化。
7.3.2 持久化生产者.py
import pika
# 无密码
# connection = pika.BlockingConnection(pika.ConnectionParameters('123.206.16.61'))
# 有密码
credentials = pika.PlainCredentials("root","123")
connection = pika.BlockingConnection(pika.ConnectionParameters('123.206.16.61',credentials=credentials))
channel = connection.channel()
# 声明一个队列(创建一个队列)
# 默认此队列不支持持久化,如果服务挂掉,数据丢失
# durable=True 开启持久化,必须新开启一个队列,原本的队列已经不支持持久化了
channel.queue_declare(queue='music',durable=True)
channel.basic_publish(exchange='',
routing_key='music', # 消息队列名称
body='haohaio4',
# 支持数据持久化
properties=pika.BasicProperties(
delivery_mode=2,
)
)
connection.close()
7.3.3 消费者.py
import pika
credentials = pika.PlainCredentials("root","123")
connection = pika.BlockingConnection(pika.ConnectionParameters('123.206.16.61',credentials=credentials))
channel = connection.channel()
# 声明一个队列(创建一个队列)
channel.queue_declare(queue='music',durable=True)
def callback(ch, method, properties, body):
print("消费者接受到了任务: %r" % body)
# 模拟代码报错
# int('asdfasdf')
# 此处报错,没有给予回复,保证客户端挂掉,数据不丢失
# 告诉服务端,我已经取走了数据
# ch.basic_ack(delivery_tag=method.delivery_tag)
# 关闭no_ack,代表给与回复确认
channel.basic_consume(callback,queue='music',no_ack=False)
channel.start_consuming()