CN112600690A - 一种配置数据同步方法、装置、设备及存储介质 - Google Patents

Abstract

本申请提供一种配置数据同步方法、装置、设备及存储介质，其中方法包括：获取集群配置数据和本地配置数据；将本地配置数据与集群配置数据进行一致性校验，并根据校验结果启动业务进程；在zookeeper集群中创建zookeeper临时节点，并创建监视器监听所述zookeeper临时节点的变化，以获得节点的网络状态；根据节点的网络状态，进行本地配置数据与集群配置数据的一致性校验与同步。本申请中，不会因为个别节点失败而导致整个配置操作失败，且通过zookeeper来监控节点的网络状态，无需设置单独的心跳检测进程，简化了配置操作。

Description

一种配置数据同步方法、装置、设备及存储介质

技术领域

本申请涉及通信技术领域，具体涉及一种配置数据同步方法、装置、设备及存储介质。

背景技术

分布式集群中存在若干台物理主机对外提供相关业务服务，物理主机上需要保存集群运行的配置数据，各物理主机的配置数据都要求保持一致。

当修改集群配置数据时，需要将请求下发给集群所有物理主机，各主机都完成修改操作后，整个操作才算成功，如果部分主机修改失败需要回滚其它主机上的配置数据，保证集群配置数据的一致性。

可见，现有技术中，分布式集群的任意主机下发配置失败都会导致集群配置修改失败，还需要回滚其它主机上的配置数据，现有技术在大规模集群下的弊端尤为突出，亟需解决。

发明内容

本申请的目的是提供一种配置数据同步方法、装置、设备及存储介质，以解决上述现有技术中存在的至少一个问题。

本申请第一方面提供一种配置数据同步方法，应用于分布式集群的节点，包括：

获取集群配置数据和本地配置数据；

将本地配置数据与集群配置数据进行一致性校验，并根据校验结果启动业务进程；

在zookeeper集群中创建zookeeper临时节点，并创建监视器监听所述zookeeper临时节点的变化，以获得分布式集群节点的网络状态；

根据分布式集群节点的网络状态，进行本地配置数据与集群配置数据的一致性校验与同步。

本申请第二方面提供一种配置数据同步装置，应用于分布式集群的节点，包括：

获取模块，用于获取集群配置数据和本地配置数据；

同步模块，用于将本地配置数据与集群配置数据进行一致性校验，并根据校验结果启动业务进程；

监听模块，用于在zookeeper集群中创建zookeeper临时节点，并创建监视器监听所述zookeeper临时节点的变化，以获得分布式集群节点的网络状态；

所述同步模块，还用于根据分布式集群节点的网络状态，进行本地配置数据与集群配置数据的一致性校验与同步。

本申请第三方面提供一种配置数据同步设备，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器运行所述计算机程序时执行以实现如第一方面中所述的方法。

本申请第四方面提供一种计算机可读存储介质，其上存储有计算机可读指令，所述计算机可读指令可被处理器执行以实现如第一方面中所述的方法。

相较于现有技术，本申请提供的配置数据同步方法、装置、设备及存储介质，获取集群配置数据和本地配置数据；将本地配置数据与集群配置数据进行一致性校验，并根据校验结果启动业务进程；可见，本申请中，当分布式集群节点的本地配置数据与集群配置数据不一致时，不会启动业务进程，因此管理平台下发配置数据到集群所有节点时不会因为个别节点失败而导致整个操作失败。在zookeeper集群中创建zookeeper临时节点，并创建监视器监听zookeeper临时节点的变化，以获得分布式集群节点的网络状态；根据分布式集群节点的网络状态，进行本地配置数据与集群配置数据的一致性校验与同步。可见，本申请中，通过zookeeper来监控分布式集群节点的网络状态，无需设置单独的心跳检测进程，简化了配置操作。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本申请的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了现有的一种配置数据管理平台的示意图；

图2示出了现有的一种配置数据同步方法的示意图；

图3示出了现有的一种通过心跳进程监控集群主机网络状态的示意图；

图4示出了本申请的一些实施方式所提供的一种配置数据同步方法的流程图；

图5示出了本申请的一些实施方式所提供的分布式存储Ceph集群的示意图；

图6示出了本申请的一些实施方式所提供的创建zookeeper临时节点的示意图；

图7示出了本申请的一些实施方式所提供的修改集群配置数据的场景示意图；

图8示出了本申请的一些实施方式所提供的一种配置数据同步装置的示意图；

图9示出了本申请的一些实施方式所提供的一种配置数据同步设备的示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施方式。虽然附图中显示了本公开的示例性实施方式，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施方式所限制。相反，提供这些实施方式是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

需要注意的是，除非另有说明，本申请使用的技术术语或者科学术语应当为本申请所属领域技术人员所理解的通常意义。

另外，术语“第一”和“第二”等是用于区别不同对象，而不是用于描述特定顺序。此外，术语“包括”和“具有”以及它们任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可选地还包括没有列出的步骤或单元，或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。

目前最常见的配置数据同步方式就是设置一个集中式的配置中心，如图1所示，配置中心的数据库里维护着集群的所有配置数据，集群所有主机都维护与配置中心数据库相同的配置数据。当需要修改配置数据时由配置管理模块下发请求到集群所有主机上，任意一个主机保存配置数据失败都会导致配置数据同步失败，并且需要回滚已下发成功主机上的配置数据，保证配置数据的一致性。

在回滚配置下发成功主机上的配置数据时，如果目标主机发生宕机、进程重启等非网络故障，将导致该主机与配置中心数据库中的数据不一致，通常会在主机恢复故障时从配置中心数据库中读取所有配置数据并进行一致性校验，如图2所示，集群主机N为故障主机，如果配置数据不一致则以配置中心数据库的数据为准进行同步，如果同步失败则一直重试，直到配置恢复到一致状态再启动故障主机的服务。

在回滚正常主机的配置数据时，如果目标主机又发生网络故障(进程不会重启)，同样会导致该主机与配置中心数据库中的数据不一致，通常会在主机上运行一个检测与配置中心网络连通性的心跳进程(发送心跳报文)，如图3所示，检测到网络故障恢复时(网络从不通变为连通)，从配置中心数据库中读取所有配置数据并进行一致性检查和同步。

可见，现有技术中，任意主机下发配置失败都会导致集群配置修改失败，在大规模集群下弊端尤为突出；使用集中式的配置中心数据库保存配置数据，配置数据的可靠性需要额外的高可用方法来实现，例如需要设置备份数据库；需要设置单独的心跳检测进程来监控网络是否恢复并进行一致性校验和同步，设置繁琐。

有鉴于此，本申请实施例提供一种配置数据同步方法及装置、一种配置数据同步设备及一种计算机可读存储介质，下面结合附图进行说明。

请参考图4，其示出了本申请的一些实施方式所提供的一种配置数据同步方法的流程图，该方法应用于分布式集群的节点，例如分布式存储系统中包括多个分布的存储节点，如图4所示，该方法具体可以包括以下步骤：

步骤S101：获取集群配置数据和本地配置数据；

具体的，集群配置数据可以被存储于分布式集群的数据库中。以分布式存储Ceph集群为例(如图5所示)，集群本身提供了一个分布式的K-V数据库(基于RocksDB实现，下文以DB命名)用来保存集群状态信息，并对外提供了数据库的增、删、改、查功能，集群内任意一个节点都可以调用命令行或其它外部接口操作该数据库。Ceph是一个分布式存储系统，是由多个RocksDB构成的分布式键值系统。

本实施例中，将集群所有的配置数据都以K-V的形式保存到该K-V数据库中，相比于现有技术，无需设置单独的配置中心数据库来存储集群配置数据，使用分布式集群自身提供的分布式数据库保存集群配置数据，无需额外的高可用方案，简化相应设置。

步骤S102：将本地配置数据与集群配置数据进行一致性校验，并根据校验结果启动业务进程；

具体的，若校验结果为两者一致，则启动业务进程；若两者不一致，则同步本地配置数据与集群配置数据，同步完成后启动业务进程。

实际应用中，集群各节点在业务进程启动时本地调用DB提供的命令行查询集群所有配置数据并与本地保存的配置数据进行一致性校验，如果不一致则进行配置同步，同步完成后再启动节点上业务对应的进程，即业务进程。

步骤S103：在zookeeper集群中创建zookeeper临时节点，并创建监视器监听zookeeper临时节点的变化，以获得分布式集群节点的网络状态；

具体的，步骤S103中，当监视器监听到zookeeper临时节点消失时，接收到zookeeper集群通知的网络暂停事件时，将分布式集群节点从网络连接状态设置为网络故障状态；当监视器接收到zookeeper集群通知的网络连接事件时，将分布式集群节点从网络故障状态设置为网络连接状态。

实际应用中，如图6所示，在业务进程启动的同时启动一个线程在zookeeper集群中创建zookeeper临时节点，如/network/nodeX，并创建watch监听临时节点/network/nodeX的变化，当nodeX出现网络故障时，临时节点/network/nodeX消失，节点上的zookeeper客户端收到网络暂停(suspend)事件，zookeeper客户端将节点从网络连接状态设置为网络故障状态；当nodeX网络恢复时，临时节点/network/nodeX重新生成，zookeeper客户端收到网络连接(connected)事件，zookeeper客户端将节点从网络故障状态设置为网络连接状态。

本实施例中，使用zookeeper的临时节点和事件通知机制实现网络故障和恢复事件通知。

步骤S104：根据分布式集群节点的网络状态，进行本地配置数据与集群配置数据的一致性校验与同步。

具体的，步骤S104中，当分布式集群节点从网络故障状态恢复为网络连接状态时，获取集群配置数据和本地配置数据；将本地配置数据与集群配置数据进行一致性校验；若一致，结束；若不一致，则同步所述本地配置数据与集群配置数据。

实际应用中，如图7所示，当需要修改配置数据时，由管理平台下发请求到集群所有节点(即集群中的主机)上，如果部分节点因宕机或进程重启等非网络的故障导致配置失败，其它已下发配置成功的节点无需进行回滚，通过在配置失败的节点故障恢复时(进程会重新启动)在节点本地调用DB命令行获取集群配置数据并进行一致性校验和同步，保证集群所有节点的配置一致性。

实际应用中，如图7所示，当需要修改配置数据时，由管理平台下发请求到集群所有节点上，如果部分节点因网络故障(进程不会重启)导致配置失败，其它已下发配置成功的节点也无需进行回滚，当节点监听到zookeeper集群通知的节点从网络故障状态恢复为网络连接状态时，在本地调用DB命令行获取集群配置数据并进行一致性校验和同步，保证集群所有节点的配置一致性。

本申请实施例提供的上述配置数据同步方法，使用zookeeper和分布式集群自身特性实现了配置数据的一致性校验和同步。一方面，当分布式集群节点的本地配置数据与集群配置数据不一致时，不会启动业务进程，因此管理平台下发配置数据到集群所有节点时不会因为个别节点失败而导致整个操作失败；另一方面，通过zookeeper来监控节点的网络状态，无需设置单独的心跳检测进程，简化了配置操作。

在上述的实施例中，提供了一种配置数据同步方法，与之相对应的，本申请还提供了一种配置数据同步装置。本申请实施例提供的配置数据同步装置可以实施上述配置数据同步方法。请参考图8，其示出了本申请的一些实施方式所提供的一种配置数据同步装置的示意图。由于装置实施例基本相似于方法实施例，所以描述得比较简单，相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。

如图8所示，配置数据同步装置10，可以包括：

获取模块101，用于获取集群配置数据和本地配置数据；

同步模块102，用于将本地配置数据与集群配置数据进行一致性校验，并根据校验结果启动业务进程；

具体的，若本地配置数据与集群配置数据一致，则启动业务进程；若不一致，则同步所述本地配置数据与集群配置数据，同步完成后启动业务进程。

监听模块103，用于在zookeeper集群中创建zookeeper临时节点，并创建监视器监听zookeeper临时节点的变化，以获得分布式集群节点的网络状态；

同步模块102，还用于根据分布式集群节点的网络状态，进行本地配置数据与集群配置数据的一致性校验与同步。

在本申请实施例的一些实施方式中，同步模块102，具体用于：

将本地配置数据与集群配置数据进行一致性校验；

若本地配置数据与集群配置数据一致，则启动业务进程；若不一致，则同步所述本地配置数据与集群配置数据，同步完成后启动业务进程。

在本申请实施例的一些实施方式中，监听模块103，具体用于：

当监视器监听到zookeeper临时节点消失时，接收到zookeeper集群通知的网络暂停事件时，将分布式集群节点从网络连接状态设置为网络故障状态；

当监视器接收到zookeeper集群通知的网络连接事件时，将分布式集群节点从网络故障状态设置为网络连接状态。

在本申请实施例的一些实施方式中，同步模块102，还具体用于：

当分布式集群节点从网络故障状态恢复为网络连接状态时，获取集群配置数据和本地配置数据；

将本地配置数据与集群配置数据进行一致性校验；

若一致，结束；若不一致，则同步所述本地配置数据与集群配置数据。

在本申请实施例的一些实施方式中，集群配置数据被存储于分布式集群的数据库中。

本申请的上述实施例提供的配置数据同步装置与本申请实施例提供的配置数据同步方法出于相同的发明构思，具有相同的有益效果。

本申请实施方式还提供一种与前述实施方式所提供的配置数据同步方法对应的配置数据同步设备，该设备可以是用于客户端的电子设备，例如手机、笔记本电脑、平板电脑、台式机电脑等，以执行上述配置数据同步方法。

请参考图9，其示出了本申请的一些实施方式所提供的一种配置数据同步设备的示意图。如图9所示，所述配置数据同步设备20包括：处理器200，存储器201，总线202和通信接口203，所述处理器200、通信接口203和存储器201通过总线202连接；所述存储器201中存储有可在所述处理器200上运行的计算机程序，所述处理器200运行所述计算机程序时执行本申请前述任一实施方式所提供的配置数据同步方法。

其中，存储器201可能包含高速随机存取存储器(RAM：Random Access Memory)，也可能还包括非不稳定的存储器(non-volatile memory)，例如至少一个磁盘存储器。通过至少一个通信接口203(可以是有线或者无线)实现该系统网元与至少一个其他网元之间的通信连接，可以使用互联网、广域网、本地网、城域网等。

总线202可以是ISA总线、PCI总线或EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。其中，存储器201用于存储程序，所述处理器200在接收到执行指令后，执行所述程序，前述本申请实施例任一实施方式揭示的所述配置数据同步方法可以应用于处理器200中，或者由处理器200实现。

处理器200可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器200中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器200可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现成可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器201，处理器200读取存储器201中的信息，结合其硬件完成上述方法的步骤。

本申请实施例提供的配置数据同步设备与本申请实施例提供的配置数据同步方法出于相同的发明构思，具有与其采用、运行或实现的方法相同的有益效果。

本申请实施方式还提供一种与前述实施方式所提供的配置数据同步方法对应的计算机可读存储介质，该计算机可读存储介质可以为光盘，其上存储有计算机程序(即程序产品)，所述计算机程序在被处理器运行时，会执行前述任意实施方式所提供的配置数据同步方法。

需要说明的是，所述计算机可读存储介质的例子还可以包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他光学、磁性存储介质，在此不再一一赘述。

本申请的上述实施例提供的计算机可读存储介质与本申请实施例提供的配置数据同步方法出于相同的发明构思，具有与其存储的应用程序所采用、运行或实现的方法相同的有益效果。

最后应说明的是：附图中的流程图和框图显示了根据本申请的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

以上各实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述各实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的范围，其均应涵盖在本申请的权利要求和说明书的范围当中。

Claims (10)

1.一种配置数据同步方法，其特征在于，应用于分布式集群的节点，包括：

获取集群配置数据和本地配置数据；

将本地配置数据与集群配置数据进行一致性校验，并根据校验结果启动业务进程；

在zookeeper集群中创建zookeeper临时节点，并创建监视器监听所述zookeeper临时节点的变化，以获得分布式集群节点的网络状态；

根据分布式集群节点的网络状态，进行本地配置数据与集群配置数据的一致性校验与同步。

2.根据权利要求1所述的方法，其特征在于，所述将本地配置数据与集群配置数据进行一致性校验，并根据校验结果启动业务进程，包括：

将本地配置数据与集群配置数据进行一致性校验；

若一致，则启动业务进程；若不一致，则同步所述本地配置数据与集群配置数据，同步完成后启动业务进程。

3.根据权利要求1所述的方法，其特征在于，所述创建监视器监听所述zookeeper临时节点的变化，以获得分布式集群节点的网络状态，包括：

当监视器监听到所述zookeeper临时节点消失，并接收到zookeeper集群通知的网络暂停事件时，将分布式集群节点从网络连接状态设置为网络故障状态；

当监视器接收到zookeeper集群通知的网络连接事件时，将分布式集群节点从网络故障状态设置为网络连接状态。

4.根据权利要求3所述的方法，其特征在于，所述根据分布式集群节点的网络状态，进行本地配置数据与集群配置数据的一致性校验与同步，包括：

当分布式集群节点从网络故障状态恢复为网络连接状态时，获取集群配置数据和本地配置数据；

将本地配置数据与集群配置数据进行一致性校验；

若一致，结束；若不一致，则同步所述本地配置数据与集群配置数据。

5.根据权利要求1至4中任一项所述的方法，其特征在于，所述集群配置数据被存储于所述分布式集群的数据库中。

6.一种配置数据同步装置，应用于分布式集群的节点，其特征在于，包括：

获取模块，用于获取集群配置数据和本地配置数据；

同步模块，用于将本地配置数据与集群配置数据进行一致性校验，并根据校验结果启动业务进程；

监听模块，用于在zookeeper集群中创建zookeeper临时节点，并创建监视器监听所述zookeeper临时节点的变化，以获得分布式集群节点的网络状态；

所述同步模块，还用于根据分布式集群节点的网络状态，进行本地配置数据与集群配置数据的一致性校验与同步。

7.根据权利要求6所述的装置，其特征在于，所述监听模块，具体用于：

当监视器监听到所述zookeeper临时节点消失时，并接收到zookeeper集群通知的网络暂停事件时，将分布式集群节点从网络连接状态设置为网络故障状态；

当监视器接收到zookeeper集群通知的网络连接事件时，将分布式集群节点从网络故障状态设置为网络连接状态。

8.根据权利要求7所述的装置，其特征在于，所述同步模块，具体用于：

当分布式集群节点从网络故障状态恢复为网络连接状态时，获取集群配置数据和本地配置数据；

将本地配置数据与集群配置数据进行一致性校验；

若一致，结束；若不一致，则同步所述本地配置数据与集群配置数据。

9.一种配置数据同步设备，其特征在于，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器运行所述计算机程序时执行以实现如权利要求1至5任一项所述的方法。

10.一种计算机可读存储介质，其特征在于，其上存储有计算机可读指令，所述计算机可读指令可被处理器执行以实现如权利要求1至5任一项所述的方法。

Images