小工具知识网

当前位置: 首页 > 行业知识 > Apache Pulsar的分布式集群模式构建

行业知识

Apache Pulsar的分布式集群模式构建

2026-11-17 02:23:48 来源:互联网转载

1. 准备环境

6台带jdk8的Linux服务器(CentOS7为例)

()

ip分别为:

主机名IP地址
zookeeper1192.168.8.101
zookeeper2192.168.8.102
zookeeper3192.168.8.103
pulsar1192.168.8.108
pulsar2192.168.8.109
pulsar3192.168.8.110

2. 下载Pulsar最新安装包

下载地址:Apache Pulsar

()

3. 构建

搭建Pulsar集群全少需要3个组件:ZooKeeper集群、BookKeeper集群和broker集群(Broker是Pulsar的自身实例)。这

三人集群组件如下:

  • ZooKeeper集群(3个ZooKeeper节点组成)
  • bookie集群(也称为BookKeeper集群,3个BookKeeper节点组成)
  • broker集群(3个Pulsar节点组成)

    Pulsar的安装包已包含了搭建集群所需的各个组件库。无需单独下载ZooKeeper安装包和BookKeeper安装包。(在实际

    中,zookeeper我们并不仅仅应用在pulsar上,包括HBase等其他的组件也需要依赖,所以我们此处zookeeper使用外置zk集群环境)

    注意:如果是在内网测试环境搭建集群,为了避免防火墙造成端口开启繁琐,可以关闭服务器防火墙

    第一步: 将下载的pulsar安装包上传到linux服务器, 并解压

    cd /usr/local上传apache-pulsar-2.8.1-bin.tar.gztar -zxvf apache-pulsar-2.8.1-bin.tar.gzmv apache-pulsar-2.8.1 pulsar

    第二步: 修改bookkeeper集群配置文件

    cd /usr/local/pulsar/conf/vim bookkeeper.conf修改其第56行:修改本地ip地址(版本不一样位置可能不一样)advertisedAddress=pulsar1修改其39行:(版本不一样位置可能不一样)journalDirectory=/usr/local/pulsar/tmp/journal修改其389行:(版本不一样位置可能不一样)ledgerDirectories=/usr/local/pulsar/tmp/ledgers修改617行:(版本不一样位置可能不一样)zkServers=zookeeper1:2181,zookeeper2:2181,zookeeper3:2181

    第三步: 修改broker集群的配置文件

    cd /usr/local/pulsar/conf/vim broker.conf修改第98行:修改集群的名称(版本不一样位置可能不一样)clusterName=pulsar-cluster修改第23行:配置zookeeper地址(版本不一样位置可能不一样)zookeeperServers=zookeeper1:2181,zookeeper2:2181,zookeeper3:2181修改第26行:配置zookeeper地址(版本不一样位置可能不一样)configurationStoreServers=zookeeper1:2181,zookeeper2:2181,zookeeper3:2181修改第44行:更改为本地ip地址(版本不一样位置可能不一样)advertisedAddress=pulsar1

    第四步: 将配置好bookies目录和brokers目录发送到第二台和第三台

    cd /usr/localscp -r pulsar/ pulsar2:$PWDscp -r pulsar/ pulsar3:$PWD

    第五步: 修改第二台和第三台的broker的地址和bookies地址

    pulsar2:cd /usr/local/pulsar/conf/vim bookkeeper.conf修改其第56行:修改本地ip地址advertisedAddress=pulsar2vim broker.conf修改第44行:更改为本地ip地址advertisedAddress=pulsar2第三台节点:都更改为对应IP地址或者主机名即可

    4. 启动

    第一步: 首先启动zookeeper集群

    启动命令在zookeeper1启动脚本中,三个同时启动启动后注意查看状态,必须看到一个leader和两个follower才可以使用

    第二步: 初始化元数据(此操作, 仅需要初始化一次即可)

    此操作, 仅需要初始化一次即可

    首先初始化Pulsar集群元数据:cd /usr/local/pulsar/bin
    ./pulsar initialize-cluster-metadata \--cluster pulsar-cluster \--zookeeper zookeeper1:2181,zookeeper2:2181,zookeeper3:2181 \--configuration-store zookeeper1:2181,zookeeper2:2181,zookeeper3:2181 \--web-service-url http://pulsar1:8080,pulsar2:8080,pulsar3:8080 \--web-service-url-tls https://pulsar1:8443,pulsar2:8443,pulsar3:8443 \--broker-service-url pulsar://pulsar1:6650,pulsar2:6650,pulsar3:6650 \--broker-service-url-tls pulsar+ssl://pulsar1:6651,pulsar2:6651,pulsar3:6651

    接着初始化bookkeeper集群:若出现提示输入Y/N:请输入Y

    ./bookkeeper shell metaformat

    第三步: 启动bookkeeper服务

    cd /usr/local/pulsar/bin
    ./pulsar-daemon start bookie

    注意:三个节点都需要依次启动

    验证是否启动:可三台都检测

    ./bookkeeper shell bookiesanity

    提示:

    Bookie sanity test succeeded 认为启动成功

    第四步: 启动Broker

    cd /usr/local/pulsar/bin
    ./pulsar-daemon start broker

    注意:三个节点都需要依次启动

    检测是否启动:

    ./pulsar-admin brokers list pulsar-cluster

    提示:

    [root@node1 bin]# ./pulsar-admin brokers iist pulsar-cluster"node1.itcast.cn:8080""node2.itcast.cn:8080""node3.itcast.cn:8080"

    认为启动成功

    5. 测试

    在pulsar的bin目录下, 专门提供了一个pulsar-client的客户端工具, Pulsar-Clinet工具允许使用者在运行的集群中消费并发送消息到

    Pulsar Topic中

    1:模拟开启消费者监听数据

    ./pulsar-client consume persistent://public/default/test -s "consumer-test"

    2:模拟生产一条数据

    ./pulsar-client produce persistent://public/default/test --messages "hello-pulsa"

    6. Apache Pulsar的可视化监控部署

    第一步: 下载Pulsar-Manager

    下载地址:

    https://dist.apache.org/repos/dist/release/pulsar/pulsar-manager/pulsar-manager-0.3.0/apache-pulsar-manager-0.3.0-bin.tar.gz

    第二步: 上传到服务器, 并解压

    cd /usr/local上传apache-pulsar-manager-0.3.0-bin.tar.gz解压操作:tar -zxf apache-pulsar-manager-0.3.0-bin.tar.gzcd /usr/local/pulsar-manager接着再次解压:tar -xvf pulsar-manager.tar

    第三步: 拷贝dist包到 pulsar-manager目录下并更名为ui

    cd /usr/local/pulsar-manager/pulsar-managercp -r ../dist ui

    第四步: 启动Pulsar

    cd /usr/local/pulsar-manager/pulsar-manager./bin/pulsar-manager

    第五步: 初始化超级用户密码(只用执行一次)

    CSRF_TOKEN=$(curl http://192.168.8.108:7750/pulsar-manager/csrf-token)curl \   -H 'X-XSRF-TOKEN: $CSRF_TOKEN' \   -H 'Cookie: XSRF-TOKEN=$CSRF_TOKEN;' \   -H "Content-Type: application/json" \   -X PUT http://192.168.8.108:7750/pulsar-manager/users/superuser \   -d '{"name": "pulsar", "password": "pulsar", "description": "test", "email": "username@test.org"}'

    第六步: 访问Pulsar UI

    http://192.168.8.108:7750/ui/index.html

    用户名: pulsar

    密码: pulsar

    Apache Pulsar的可视化监控基本使用

    第一步: 点击 + new Enirconment 构建新环境,连接pulsar

    Environment Name

    pulsar-cluster

    Service URL

    http://192.168.8.108:8080

    Bookie URL

    http://192.168.8.108:6650

上一篇:揭秘rlike的神秘面纱,定义与功能解析

下一篇:关键词优化秘籍,提升内容吸引力,轻松提升点击率!