RocketMQ 集群架构与部署实践（二）

RocketMQ 部署实践

前期准备要充分

在进行 RocketMQ 的部署之前，我们需要做好一系列的准备工作，确保部署过程的顺利进行。

1. 环境要求：

• • 操作系统：推荐使用 64 位的 Linux 或 Unix 系统，如 CentOS 7+、Ubuntu 16.04 + 等，这些系统在稳定性和性能方面表现出色，能够为 RocketMQ 的运行提供良好的基础。

• • JDK：需要安装 64 位的 JDK 1.8 及以上版本，RocketMQ 是基于 Java 开发的，JDK 的版本直接影响到 RocketMQ 的兼容性和性能。可以从 Oracle 官方网站或 OpenJDK 官方网站下载并安装 JDK。

• • 其他：如果选择从源码编译安装，还需要安装 Maven 3.2.x 及以上版本，用于项目的构建和依赖管理。

1. 安装包下载：

• • 官方网站：可以从 Apache RocketMQ 的官方网站（https://rocketmq.apache.org/download/）下载最新版本的安装包。在下载页面，提供了二进制包和源码包两种选择。二进制包是已经编译好的，下载后可以直接使用；源码包则需要进行编译才能使用，适合对 RocketMQ 进行二次开发或定制的场景。

• • 镜像站点：为了提高下载速度，也可以选择从一些镜像站点下载，如清华大学开源软件镜像站（https://mirrors.tuna.tsinghua.edu.cn/apache/rocketmq/） 。在镜像站点中，同样可以找到 RocketMQ 的各个版本安装包。

单机部署轻松上手

下面以 CentOS 系统为例，介绍 RocketMQ 的单机部署步骤 ：

1. 下载安装包：使用wget命令从官方网站下载 RocketMQ 的二进制包，例如：

wget https://dist.apache.org/repos/dist/release/rocketmq/5.2.0/rocketmq-all-5.2.0-bin-release.zip

1. 解压安装包：下载完成后，使用unzip命令解压安装包到指定目录，如/opt/rocketmq：

unzip rocketmq-all-5.2.0-bin-release.zip -d /opt/rocketmq

1. 配置环境变量：编辑/etc/profile文件，添加 RocketMQ 的环境变量：

export ROCKETMQ_HOME=/opt/rocketmq/rocketmq-all-5.2.0-bin-release

export PATH=$PATH:$ROCKETMQ_HOME/bin

然后执行source /etc/profile使环境变量生效。

4. 启动 NameServer：在终端中执行以下命令启动 NameServer：

nohup mqnamesrv &

nohup命令用于在后台运行程序，&表示将程序放到后台执行。启动后，可以通过查看$ROCKETMQ_HOME/logs/rocketmqlogs/namesrv.log日志文件来确认 NameServer 是否启动成功。如果日志中出现The Name Server boot success字样，则表示 NameServer 启动成功。

5. 启动 Broker：在启动 Broker 之前，需要先设置NAMESRV_ADDR环境变量，指定 NameServer 的地址。然后执行以下命令启动 Broker：

export NAMESRV_ADDR=localhost:9876

nohup mqbroker -n $NAMESRV_ADDR &

同样，可以通过查看$ROCKETMQ_HOME/logs/rocketmqlogs/broker.log日志文件来确认 Broker 是否启动成功。如果日志中出现The broker[broker-a, 127.0.0.1:10911] boot success字样，则表示 Broker 启动成功。

集群部署实战演练

以双主双从异步刷盘集群为例，详细介绍 RocketMQ 的集群部署步骤 ：

1. 环境参数调优：在部署集群之前，需要对操作系统的参数进行调优，以提高 RocketMQ 的性能和稳定性。例如，可以调整文件描述符限制、内存分配等参数。在 CentOS 系统中，可以通过编辑/etc/security/limits.conf文件，增加以下内容：

* soft nofile 65536

* hard nofile 65536

* soft nproc 32000

* hard nproc 32000

1. 下载源码及编译：如果选择从源码编译安装 RocketMQ，首先需要安装 Git 和 Maven。然后从 GitHub 上克隆 RocketMQ 的源码仓库：

git clone https://github.com/apache/rocketmq.git

进入源码目录，使用 Maven 进行编译：

cd rocketmq

mvn -Prelease-all -DskipTests clean install -U

编译完成后，在distribution/target/rocketmq-{version}-bin-release目录下可以找到编译好的二进制包。

3. 配置 JDK 和 RocketMQ 环境参数：在集群中的每台机器上，都需要安装 JDK 并配置 RocketMQ 的环境变量，具体步骤与单机部署中的配置相同。

4. 配置互信登录：为了方便在集群中的机器之间进行通信和操作，需要配置 SSH 互信登录。在每台机器上执行以下命令生成密钥对：

ssh-keygen -t rsa

然后将公钥添加到其他机器的authorized_keys文件中，实现无密码登录。

5. 配置 broker.conf 文件：在$ROCKETMQ_HOME/conf/2m-2s-async目录下，有默认的集群配置文件。根据实际需求，修改broker-a.properties、broker-a-s.properties、broker-b.properties和broker-b-s.properties文件。例如，对于broker-a.properties文件，需要修改以下关键配置：

brokerClusterName=rocketmq-cluster

brokerName=broker-a

brokerId=0

namesrvAddr=192.168.1.10:9876;192.168.1.11:9876;192.168.1.12:9876

listenPort=10911

storePathRootDir=/app/rocketmq/store

storePathCommitLog=/app/rocketmq/store/commitlog

storePathConsumeQueue=/app/rocketmq/store/consumequeue

storePathIndex=/app/rocketmq/store/index

storeCheckpoint=/app/rocketmq/store/checkpoint

abortFile=/app/rocketmq/store/abort

brokerRole=ASYNC_MASTER

flushDiskType=ASYNC_FLUSH

其中，brokerClusterName指定集群名称，brokerName指定 Broker 名称，brokerId为 0 表示 Master，大于 0 表示 Slave，namesrvAddr指定 NameServer 的地址列表，listenPort指定 Broker 的监听端口，storePathRootDir等参数指定消息存储路径，brokerRole指定 Broker 角色为异步复制 Master，flushDiskType指定刷盘方式为异步刷盘。

6. 启动集群：按照以下顺序启动集群中的各个组件：

• 启动 NameServer：在每台 NameServer 所在的机器上，执行以下命令启动 NameServer：

nohup mqnamesrv &

• 启动 Master Broker：在 Master Broker 所在的机器上，分别执行以下命令启动 Master Broker：

nohup mqbroker -c $ROCKETMQ_HOME/conf/2m-2s-async/broker-a.properties &

nohup mqbroker -c $ROCKETMQ_HOME/conf/2m-2s-async/broker-b.properties &

• 启动 Slave Broker：在 Slave Broker 所在的机器上，分别执行以下命令启动 Slave Broker：

nohup mqbroker -c $ROCKETMQ_HOME/conf/2m-2s-async/broker-a-s.properties &

nohup mqbroker -c $ROCKETMQ_HOME/conf/2m-2s-async/broker-b-s.properties &

启动完成后，可以通过mqadmin clusterList -n {namesrvAddr}命令查看集群状态，确保所有节点都正常运行。

部署问题巧解决

在 RocketMQ 的部署过程中，可能会遇到各种问题，下面列举一些常见问题及解决方案 ：

1. 内存不足导致 Broker 启动失败：RocketMQ 默认的虚拟机内存较大，如果服务器内存有限，可能会导致 Broker 启动失败。解决方案是编辑runbroker.sh和runserver.sh文件，修改 JVM 内存参数。例如，将JAVA_OPT设置为-server -Xms256m -Xmx256m -Xmn128m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m，根据服务器实际内存情况进行调整。

1. 网络连接问题：

• • Producer 或 Consumer 无法连接到 NameServer：可能是网络配置错误、防火墙限制或 NameServer 地址配置错误。首先检查网络连接是否正常，可以使用ping命令测试网络连通性。然后检查防火墙设置，确保 NameServer 的监听端口（默认为 9876）没有被防火墙阻止。如果是地址配置错误，仔细检查producer或consumer的配置文件中namesrvAddr参数是否正确。

• • Broker 与 NameServer 之间通信异常：可能是 Broker 的 IP 地址配置错误或网络波动导致。如果是 IP 地址配置错误，在broker.conf文件中正确配置brokerIP1参数。对于网络波动问题，可以通过增加心跳检测频率、优化网络拓扑等方式来解决。

1. 配置文件错误：

• • 参数配置错误：在broker.conf、namesrv.properties等配置文件中，参数配置错误可能导致组件无法正常启动或运行异常。仔细检查配置文件中的参数，确保参数值符合要求。例如，brokerId参数，0 表示 Master，大于 0 表示 Slave；flushDiskType参数，可选ASYNC_FLUSH（异步刷盘）或SYNC_FLUSH（同步刷盘）。

• • 文件格式错误：配置文件的格式不正确也会导致问题。确保配置文件是正确的文本格式，没有多余的特殊字符或乱码。可以使用文本编辑器的格式校验功能进行检查。

1. 磁盘空间不足：如果服务器磁盘空间不足，Broker 在存储消息时可能会失败。定期检查服务器的磁盘空间，及时清理不必要的文件。可以设置消息的过期时间，定期清理过期的消息，释放磁盘空间。

1. 端口冲突：RocketMQ 的 NameServer 默认端口为 9876，Broker 默认端口为 10911 和 10909。如果这些端口被其他应用程序占用，会导致 RocketMQ 组件无法启动。使用netstat -tlnp命令查看端口占用情况，找到占用端口的应用程序并停止它，或者修改 RocketMQ 的端口配置。例如，在namesrv.properties文件中修改listenPort参数，在broker.conf文件中修改listenPort参数 。

总结与展望

RocketMQ 以其卓越的性能、高可靠性和丰富的功能，在分布式系统中占据着重要地位。其集群架构通过多个核心组件的协同工作，实现了消息的高效存储、传输和消费，为分布式应用提供了强大的消息处理能力 。多种集群模式满足了不同场景下对性能、可用性和数据可靠性的需求，使开发者能够根据实际业务情况灵活选择。

在部署实践中，从单机部署到集群部署，每一步都需要精心准备和操作，确保各个组件的正确配置和稳定运行。同时，对部署过程中可能出现的问题有清晰的认识和有效的解决方案，是保障 RocketMQ 集群顺利运行的关键。

随着分布式系统的不断发展和应用场景的日益丰富，RocketMQ 有望在更多领域发挥重要作用。未来，RocketMQ 可能会在云原生环境中进一步优化，与容器编排工具（如 Kubernetes）更好地集成，实现更加便捷的部署和管理 。在性能方面，将持续提升消息处理的吞吐量和降低延迟，以满足日益增长的大数据量和高并发场景的需求。在功能拓展上，可能会增加更多高级特性，如更灵活的消息过滤、更强大的事务支持等，为开发者提供更丰富的选择和更高效的开发体验 。