Board logo

标题: zookeeper原理解析-数据存储(4) [打印本页]

作者: look_w    时间: 2018-12-18 20:43     标题: zookeeper原理解析-数据存储(4)

7)ZKDatabase


ZKDatabase在内存中维护了zookeeper的sessions, datatree和commit logs集合。 当zookeeper server启动的时候会将txnlogs和snapshots从磁盘读取到内存中

6.1)loadDatabase: 跟 的启动类似zookeeper服务启动结合txnlogs和snapshot, snapshot是内存数据的某个点一份影像,takeSnapshot操作还是很耗时,为了性能根据某 (在同步处理器SyncRequestProcessor中据一定算法得出一个count,记录大于count就要takeSnapshot,算法是: 100000/2 + random.nextInt(100000/2),这个十万是一个默认值可配置)计算出一个点来异步做一次takeSnapShot操作,这个跟数据库实现原理上很类似, 但是这样在非正常关机情况下,最新有效的那个snapshot并不是内存中最新的数据,所以需要利用txnLogs来把没有生成snapshot的操作在内存重新执行一边来恢复到非正常关闭服务那一刻内存情况。

            下面我们来看一下loadDatabase的流程:

            6.1.1) 构建一个PlayBackListener对象

            6.1.2) snapshot的反序列,倒叙排目录下的snapshot文件,遍历查找出最新的那个有效snapshot文件进行反序列化到内存(具体流程查看snapshot那部分介绍),snapshot的反序列后我们会知道snapshot最新的zxid叫做lastProcessedZxid, 这个lastProcessedZxid之前的事务操作,都成功执行并序列到snapshot中可恢复到内存,lastProcessedZxid之后的操作只有事务日志,不能直接通过snapshot恢复。

            6.1.2) lastProcessedZxid+1从事务日志文件txnLog读取事务操作

                 FileTxnLog txnLog = newFileTxnLog(dataDir);

        TxnIterator itr =txnLog.read(dt.lastProcessedZxid+1);

遍历TxnIterator,执行processTransaction方法,就是把事务操作在内存中在执行一边把丢失的操作补回来

       同时将事务操作通过PlayBackListener添加到commitedLog集合,commitedLog的事务操作在服务恢复的时候会同步到其他leaner server, 因为很有可能其他leaner server也没有及时的takesnapshot

                 返回最后的事务日志zxid给database,作为ZKDatabase的最新事物id

     6.1.3) 在zookeeperServer成功loadDatabase后,会及时主动的做一次takesnapshot操作来得到一份最新的内存影像


8)数据存储小结

Zookeeper数据是以文件形式存储在硬盘上的,以snapshot为主,txnlog为辅。因为当对内存数据进行变更的时候,会保证将事务操作记入log日志,而snapshot只是内存某一个时刻影像,为了性能takeSnapshot生成snapshot并不是实时的,而是由后台线程根据一定规则处理的
来看看snapshot和txnlog在磁盘上的文件


文件名是以log.或者snapshot.加上一串long的16进制数字组成,这个long值就是zxid服务器端事务id
Snapshot文件名生成, FileTxnSnapLog.save方法中
         long lastZxid = dataTree.lastProcessedZxid;
    FilesnapshotFile = new File(snapDir, Util.makeSnapshotName(lastZxid));
如上代码创建一个新的snapshot文件,工具Util用来用来创建文件名
         public static String makeSnapshotName(long zxid) {
        return "snapshot." +Long.toHexString(zxid);
}

日志Log文件生成,在FileTxnLog.apend方法中,如果被执行了rollLog方法,那么文件输入流会被清空,这里会创建一个新的文件

    if (logStream==null) {

        logFileWrite = new File(logDir,("log." + Long.toHexString(hdr.getZxid())));

        fos = newFileOutputStream(logFileWrite);

            ………
         }
如上代码可以看出文件名是最新请求的zxid,这里snapshot和log文件都和zxid有关,那么下面我们来看看zxid。

Zxid
当客户端一个事务请求操作是leader的PrepRequestProcessor处理器会对请求进行预处理包括生成zxid设置到请求中去,zxid的生成是通过调用ZookeeperServer.getNextZxid生成

protected long hzxid = 0;

    synchronized long getNextZxid() {

        return ++hzxid;

}
它是hzxid一个自增的long值,有没有奇怪这个变量取名叫做hzixd多了一个h, h我的理解是high的缩写代表64位long的高32位。Zxid的分为两部分高32位用来存储每次选举的时代epoch,低32位用来存储事务请求的自增序列。所谓选举时代就是一个数值,标记代表一次选举,跟年份一样是自增的。每次服务器启动或者zookeeper异常导致重新选举都会在原来epoch值加一代表一个新的时代,工具类ZxidUtils用来操作前32或者后32位

public class ZxidUtils {

     static public long getEpochFromZxid(long zxid) {

         return zxid >> 32L;

     }

     static public long getCounterFromZxid(long zxid) {

         return zxid & 0xffffffffL;

     }

     static public long makeZxid(long epoch,long counter) {

         return (epoch << 32L) | (counter & 0xffffffffL);

     }

     static public String zxidToString(long zxid) {

         return Long.toHexString(zxid);

     }

}

比如现在epoch=4代表经历了4次选举,如果重新选举后epoch值为5,通过工具类的zxid=hzxid=ZxidUtils.makeZxid(5,0)= 21474836480,此时低32重新开始值为0, 如果这时来了新的请求值为zxid=21474836481=21474836480+ 1 = ZxidUtils.makeZxid(5, 1)






欢迎光临 电子技术论坛_中国专业的电子工程师学习交流社区-中电网技术论坛 (http://bbs.eccn.com/) Powered by Discuz! 7.0.0