大数据培训之Zookeeper零基础-1

Zookeeper

概述

1. Zookeeper本身是Apache提供的一套开源的用于进行分布式管理和协调的机制/框架。官网：https://zookeeper.apache.org
2. Zookeeper本身提供了中心化服务，包含统一配置、统一命名、分布式锁服务、分布式组服务，更多的时候，Zookeeper充当了一个注册中心来使用
3. Zookeeper是Yahoo!仿照了Google的开发的后来贡献给了Apache的一套框架

安装

概述

1. 在大���据中，几乎所有的框架，它的安装都提供了三种模式
   1. 单机模式：在一台服务器上安装，往往能够启动这个框架的部分服务
   2. 伪分布式：在一台服务器上安装，但是利用多个线程模式分布式环境，能够启动这个框架的大部分甚至于服务
   3. 分布式：在集群上安装，能够启动这个框架的所有服务
2. 现阶段，先安装单机模式，搞定所有的概念之后，再到集群中安装

安装JDK

1. Centos7.9中可能自带了OpenJDK，需要卸载移除掉

   （）

   rpm -qa | grep -i jdk | xargs rpm -ev --nodeps

2. 上课的时候要求，所有的软件安装包放在/opt/presoftware下，将软件安装在/opt/software下

   cd /optmkdir presoftwaremkdir software

3. 进入presoftware下，将JDK安装包上传到这个目录下

   （）

   cd presoftware# 将安装包上传到这个路径下rz

4. 解压到software目录下

   tar -xvf jdk-8u371-linux-x64.tar.gz -C /opt/software/

5. 进入software目录下

   cd /opt/software/# 重命名mv jdk1.8.0_371/ jdk1.8

6. 在Linux中， 环境变量的配置有两个位置：/etc/profile和~/.bashrc。无论哪一个路径，默认都会扫描/etc/profile.d目录下的脚本文件，所以，配置环境变量一般是放在/etc/profile.d

   # 需要在/etc/profile.d来脚本文件touch /etc/profile.d/javahome.sh# 编辑脚本文件vim /etc/profile.d/javahome.sh# 在文件中添加export JAVA_HOME=/opt/software/jdk1.8export PATH=$PATH:$JAVA_HOME/bin# 保存退出，生效source /etc/profile.d/javahome.sh# 测试javac -version# 或者java -version

安装Zookeeper(单机模式)

1. 将安装包上传到Linux上

   cd /opt/presoftware/rz

2. 解压

   tar -xvf apache-zookeeper-3.9.1-bin.tar.gz -C /opt/software/

3. 重命名

   cd /opt/software/mv apache-zookeeper-3.9.1-bin/ zookeeper-3.9.1

4. 配置环境变量

   # 编辑文件vim /etc/profile.d/zookeeperhome.sh# 在文件中添加export ZOOKEEPER_HOME=/opt/software/zookeeper-3.9.1export PATH=$PATH:$ZOOKEEPER_HOME/bin# 保存退出，生效source /etc/profile.d/zookeeperhome.sh

5. 配置Zookeeper

   1. 进入Zookeeper的配置目录

      cd /opt/software/zookeeper-3.9.1/conf

   2. 修改配置

      # 复制文件 - 注意：Zookeeper启动的时候默认会使用zoo.cfg中的配置cp zoo_sample.cfg zoo.cfg# 编辑文件vim zoo.cfg# 修改dataDir属性的值dataDir=/opt/software/zookeeper-3.9.1/data

   3. 启动Zookeeper

      zkServer.sh start

   4. 检查Zookeeper的状态

      # 方式一：jps# 如果有QuorumPeerMain，那么表示Zookeeper在运行# 方式二：zkServer.sh status

   5. 进入Zookeeper的客户端

      zkCli.sh

技术点

特点

1. Zookeeper默认对外提供的客户端端口号是2181，可以通过zoo.cfg中的clientPort属性来修改，但是不建议
2. Zookeeper本身是一个树状结构，根节点是/
3. 不同于Linux的地方在于，Zookeeper中没有相对路径的说法，所有节点路径都必须从根节点开始计算
4. 当Zookeeper启动的时候，自动的添加一个节点/zookeeper，存放的是Zookeeper本身的集群信息
5. 在Zookeeper3.7及以前的版本中，要求每一个节点在创建的时候必须携带数据，这个数据可以是对节点的描述或者是配置信息
6. 每一个节点携带的数据默认是在内存以及磁盘上
   1. 维系在内存的目的是为了读写快
   2. 维系在磁盘的目的是为了持久化
7. 数据在磁盘上的存储路径默认由dataLogDir属性来控制，默认情况下，如果没有单独指定，dataLogDir的属性值和dataDir是一致的
8. 临时节点下不能挂载子节点！
9. Zookeeper会为每一次的写操作分配一个全局递增的编号，这个编号称之为事务id，简写为Zxid。一个节点刚被创建的时候，三个事务id是一致的

操作命令

节点类型

节点信息/属性

API操作:使用java远程连接并操作Zookeeper

public class Demo1 {    ZooKeeper zk;    @Before         //在所有@Test之前执行    public void connect() throws Exception {        /*CountDownLatch是一个同步工具类，它可以使一个或多个线程一直等待，直到其他线程的操作执行完为止。        在这段代码中，CountDownLatch的作用是等待ZooKeeper客户端连接到ZooKeeper服务器，直到连接事件被        触发并且状态为SyncConnected时，cdl.countDown() 被调用，才会继续往下执行。这可以保证在客户端连        接成功之前不会执行后续的操作，从而保证客户端在使用前已经处于连接的可用状态，有效避免操作失败的情况发生。*/      /*  在这段代码中，主要涉及到两个线程：主线程和ZooKeeper内部使用的事件处理线程。        主线程负责执行connect()方法。        当主线程执行到cdl.await()时，会进入阻塞状态，等待CountDownLatch的计数器减为0。        ZooKeeper客户端会在另一个线程内部处理连接操作，并执行Watcher中的process()方法。        当ZooKeeper客户端连接成功后，通过调用cdl.countDown()方法将CountDownLatch的计数器减1。        主线程检测到CountDownLatch的计数器为0后，解除阻塞状态，继续执行后续代码。        因此，在这段代码中，主线程会在连接成功之前一直阻塞，直到ZooKeeper客户端连接成功并调用cdl.countDown()后，主线程才会继续执行。这样可以保证在确保连接建立之后再执行后续操作，避免因为连接未建立就开始操作而导致错误        */        final CountDownLatch cdl = new CountDownLatch(1);        zk = new ZooKeeper("192.168.200.130:2181",                40000,                new Watcher() {                    public void process(WatchedEvent watchedEvent) {                        if (watchedEvent.getState() == Event.KeeperState.SyncConnected)                            System.out.println("success");                        cdl.countDown();                    }                });        cdl.await();    }    @Test    public void createNode() throws Exception {        //参数: 节点路径   数据   权限  类型        // 返回值是节点路径()  如果是非顺序节点,这个返回值就是第一个路径参数.如果是顺序节点,那么当重名时,就会给节点路径加上序号来返回        String path = zk.create("/big", "data Server".getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE,                CreateMode.PERSISTENT);    }    @Test    public void get() throws KeeperException, InterruptedException {        //节点信息对象        Stat stat = new Stat();        //参数: 路径  监控   信息        byte[] data = zk.getData("/big", null, stat);        System.out.println(new String(data));        //这里的时间信息是Long 时间戳        System.out.println(stat);    }    @Test    public void modify() throws KeeperException, InterruptedException {        //这个版本必须和dataversion一致        //KeeperException$BadVersionException: KeeperErrorCode = BadVersion for /java_api        //防止产生ABA问题(理解ABA问题),确保修改的是最新的数据        //忽略掉版本校验     -1        Stat stat = zk.setData("/java_api", "data modify".getBytes(), 0);        System.out.println(stat);    }    @Test    public void delete() throws KeeperException, InterruptedException {        //忽略掉版本校验     -1        zk.delete("/big", -1);    }    @Test    public void getChidren() throws KeeperException, InterruptedException {        //没用到watcher ,给null        List children = zk.getChildren("/", null);        for (String child : children) {            System.out.println(child);        }    }    @Test    public void exist() throws KeeperException, InterruptedException {        //忽略掉版本校验     -1        Stat stat = zk.exists("/java_api", null);        System.out.println(stat != null);    }    //监控节点是否发生改变    @Test    public void nodeDataChange() throws Exception {        CountDownLatch cdl = new CountDownLatch(1);     /*   zk.getData("/test",event ->{            if(event.getType() == Watcher.Event.EventType.NodeDataChanged)        })*/  /*      zk.getData("/test", event ->{            if(event.getType() == Watcher.Event.EventType.NodeDataChanged)                System.out.println("节点数据被修改");                cdl.countDown();        }, null);*/        zk.getData("/test", event -> {            if (event.getType() == Watcher.Event.EventType.NodeDataChanged)                System.out.println("节点数据被修改");            cdl.countDown();        }, null);        cdl.await();    }    @Test    public void nodeChildrenChange() throws Exception {        CountDownLatch cdl = new CountDownLatch(1);        zk.getChildren("/test", event -> {            if (event.getType() == Watcher.Event.EventType.NodeDataChanged)                System.out.println("节点数据被修改");            cdl.countDown();        });//        zk.getChildren("/test", new Watcher() {//            @Override//            public void process(WatchedEvent watchedEvent) {////            }//        })    }    @Test    public void nodeChange() throws Exception {        CountDownLatch cdl = new CountDownLatch(1);        zk.exists("/big", event -> {            if (event.getType() == Watcher.Event.EventType.NodeCreated)                System.out.println("节点被创建");            else if (event.getType() == Watcher.Event.EventType.NodeDeleted)                System.out.println("节点被删除");            cdl.countDown();        });        cdl.await();    }}