CN115348277A - 一种多层消息机制分布式集群通信管理方法及系统 - Google Patents

Abstract

本发明公开了一种多层消息机制分布式集群通信管理方法及系统，涉及通信技术领域。该方法包括：构建多层消息环；获取并根据任务需求分别采用各层消息环按照预置的各层消息环传输包协议进行分布式集群中各工作节点之间的消息传输。本发明采用层级分明的多层消息机制，消息环之间也相互完成信号传递，解决了分布式集群的多消息层问题，大大提高了分布式集群消息传输效率，构建了以消息机制的集群方案。

Description

一种多层消息机制分布式集群通信管理方法及系统

技术领域

本发明涉及通信技术领域，具体而言，涉及一种多层消息机制分布式集群通信管理方法及系统。

背景技术

当前的分布式设备的消息通道比较单一，存在横向和纵向的消息存储隔离孤立现象，导致集群消息传输效率低下。因此，需要对不同层级不同经纬度的消息环进行消息传递和消息传输的速度进行有效改进。

发明内容

为了克服上述问题或者至少部分地解决上述问题，本发明实施例提供一种多层消息机制分布式集群通信管理方法及系统，采用层级分明的多层消息机制，消息环之间也相互完成信号传递，解决了分布式集群的多消息层问题，大大提高了分布式集群消息传输效率，构建了以消息机制的集群方案。

本发明的实施例是这样实现的：

第一方面，本发明实施例提供一种多层消息机制分布式集群通信管理方法，包括以下步骤：

构建多层消息环；

获取并根据任务需求分别采用各层消息环按照预置的各层消息环传输包协议进行分布式集群中各工作节点之间的消息传输。

为了解决现有技术中的问题，本发明采用多层消息环机制进行分布式集群存储计算节点之间的消息传输，大大提高了传输效率。单独层消息环的独立性和解耦性；层级消息环按照需求进行报文和数据的组合；本发明实现了集群消息高效率传输。采用层级分明的消息机制，消息环之间也可相互完成信号传递，解决了分布式集群的多消息层问题，大大提高了分布式集群消息传输效率，构建了以消息机制的集群方案。

基于第一方面，在本发明的一些实施例中，上述多层消息环包括第一层消息环、第二层消息环和第三层消息环，其中：

上述第一层消息环包括业务控制信息，用于与MPI分布式计算模型配合使用；

上述第二层消息环包括路由信息和触发信息，用于完成信令的路由转发、低层级执行模块之间的工作时序的触发和同步；

上述第三层消息环具有时序特征，用于实现低层级执行模块内部的工作时序和资源管理。

基于第一方面，在本发明的一些实施例中，该多层消息机制分布式集群通信管理方法还包括以下步骤：

各层消息环之间进行经度信令传递。

基于第一方面，在本发明的一些实施例中，该多层消息机制分布式集群通信管理方法还包括以下步骤：

每层消息环内部进行维度消息传递。

基于第一方面，在本发明的一些实施例中，上述预置的各层消息环传输包协议中的第一层消息环传输包协议包括帧头、有效通讯字节、备用码、协议类型、默认码、数据类型、请求ID+通信类型、信令内容、校验和高八位、校验和中八位、校验和第八位以及帧尾。

基于第一方面，在本发明的一些实施例中，上述预置的各层消息环传输包协议中的第二层消息环传输包协议包括CRC校验、信令以及包头、路由、源地址、目的端ID、触发类型和信号量类型。

基于第一方面，在本发明的一些实施例中，上述预置的各层消息环传输包协议中的第三层消息环传输包协议包括CRC校验、信令+数据流信息以及包头、源地址、目的端ID、执行器状态、互斥锁地址和互斥锁类型。

第二方面，本发明实施例提供一种多层消息机制分布式集群通信管理系统，包括：多层构建模块和层级传输模块，其中：

多层构建模块，用于构建多层消息环；

层级传输模块，用于获取并根据任务需求分别采用各层消息环按照预置的各层消息环传输包协议进行分布式集群中各工作节点之间的消息传输。

为了解决现有技术中的问题，本系统通过多层构建模块和层级传输模块配合，构建多层消息环，然后结合不同的任务需求基于预置的各层消息环传输包协议在不同消息环之间进行消息传输。采用多层消息环机制进行分布式集群存储计算节点之间的消息传输，大大提高了传输效率。单独层消息环的独立性和解耦性；层级消息环按照需求进行报文和数据的组合；本发明实现了集群消息高效率传输。采用层级分明的消息机制，消息环之间也可相互完成信号传递，解决了分布式集群的多消息层问题，大大提高了分布式集群消息传输效率，构建了以消息机制的集群方案。

第三方面，本申请实施例提供一种电子设备，其包括存储器，用于存储一个或多个程序；处理器。当一个或多个程序被处理器执行时，实现如上述第一方面中任一项的方法。

第四方面，本申请实施例提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上述第一方面中任一项的方法。

本发明实施例至少具有如下优点或有益效果：

本发明实施例提供一种多层消息机制分布式集群通信管理方法及系统，采用多层消息环机制进行分布式集群存储计算节点之间的消息传输，大大提高了传输效率。单独层消息环的独立性和解耦性；层级消息环按照需求进行报文和数据的组合；本发明实现了集群消息高效率传输。采用层级分明的消息机制，消息环之间也可相互完成信号传递，解决了分布式集群的多消息层问题，大大提高了分布式集群消息传输效率，构建了以消息机制的集群方案。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1为本发明实施例的分布式集群节点之间通过三层消息环传输数据的示意图；

图2为本发明实施例一种多层消息机制分布式集群通信管理方法的流程图；

图3为本发明实施例的各层消息环进行数据传输的逻辑关联的流程图；

图4为本发明实施例的第二层消息环传输包协议的组成示意图；

图5为本发明实施例的第三层消息环传输包协议的组成示意图；

图6为本发明实施例一种多层消息机制分布式集群通信管理系统的原理框图；

图7为本发明实施例提供的一种电子设备的结构框图。

附图标记说明：100、多层构建模块；200、层级传输模块；101、存储器；102、处理器；103、通信接口。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。

因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

在本发明实施例的描述中，需要说明的是，若出现术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，或者是该发明产品使用时惯常摆放的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。此外，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。

在本发明实施例的描述中，“多个”代表至少2个。

在本发明实施例的描述中，还需要说明的是，除非另有明确的规定和限定，若出现术语“设置”、“安装”、“相连”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。

实施例：

如图1-图5所示，第一方面，本发明实施例提供一种多层消息机制分布式集群通信管理方法，包括以下步骤：

S1、构建多层消息环；

进一步地，基于第一方面，在本发明的一些实施例中，上述多层消息环包括第一层消息环、第二层消息环和第三层消息环，其中：

上述第一层消息环包括业务控制信息，用于与MPI分布式计算模型配合使用；上述第二层消息环包括路由信息和触发信息，用于完成信令的路由转发、低层级执行模块之间的工作时序的触发和同步；上述第三层消息环具有时序特征，用于实现低层级执行模块内部的工作时序和资源管理。上述低层级执行模块包括指令执行器、执行管理单元、计算单元、传输单元等。

在本发明的一些实施例中，第一层消息环：不定长消息环，该消息环内部具有一定的业务控制信息，能够与MPI分布式计算模型配合使用。例如，对于使用多层消息的多服务器集群系统，该集群系统由传统服务器和从机设备端构成，具有多任务处理的特征，假设当前多服务器集群系统中有多任务(单一任务对应一个进程)之间的数据传输或者通信，第一层消息环的消息协议包既可以应用于传统服务器(维度传输)，也可以应用与传统服务器和从机设备端之间(经度传输)。

针对传统服务器的多任务，第一层消息环的处理函数将调用MPI分布式计算模型接口进行传输处理；

针对需要传统服务器和从机设备端配合使用的，除需要上述传输外，还增加传统服务器和从机设备端的消息传输。

第二层消息环：具有路由信息、源地址和目的地址信息，以及控制信息(触发类型和信号量类型)，能够完成信令的路由转发以及结合第三层消息环实现低层级执行模块的之间的工作时序的触发和同步。

第三层消息环，具有更加紧凑的时序特征，提供同步、互斥的特性，三级消息包中包含执行器状态、互斥锁地址以及类型、数据流信息，使用如上的信息，能够实现低层级执行模块内部的工作时序和资源管理。通过执行器状态和互斥锁，可以控制对应处理单元的启动和等待以及停止等状态，完成对低层级执行模块的工作时序的控制；结合数据流信息，还可以控制通信传输过程，从而实现多个任务(单一任务占用多个执行体)的资源调度。

进一步地，基于第一方面，在本发明的一些实施例中，该多层消息机制分布式集群通信管理方法还包括以下步骤：各层消息环之间进行经度信令传递。

进一步地，基于第一方面，在本发明的一些实施例中，该多层消息机制分布式集群通信管理方法还包括以下步骤：每层消息环内部进行维度消息传递。

消息环共分为三层，包括：第一层消息环、第二层消息环和第三层消息环，具有如下的特征：

第一层消息环和第二层消息环和第三层消息环之间能够进行消息传递，称为：经度信令传递。

第一层消息环内部的消息传递、第二层消息环内部的消息传递、第三层消息环内部的消息传递称为：维度消息传递。

各层消息环之间相互关联，主要包括各层协议包内容格式之间的关联和各层数据传输之间的逻辑关联，具体包括：

各层协议包之间的关联：第一层消息的信令内容是第二层消息包，第二层消息的消息内容是第三层消息包。

各层消息环进行数据传输的逻辑关联，如图3所示，包括：

A1、第一层消息包进入维度判断步骤：判断第一层消息包是否是维度传输，如果是，则进入第一层消息环中进行传输，否则，则进入经度传输，进入到第二层消息环中，并执行步骤A2；

A2、第二层消息包进入维度判断步骤：判断第二层消息包是否是维度传输，如果是，则进入第二层消息环中进行传输，否则，进入经度传输，进入到第三层消息环中；

A3、进入第三层消息环，则传输在最终处理单元。

S2、获取并根据任务需求分别采用各层消息环按照预置的各层消息环传输包协议进行分布式集群中各工作节点之间的消息传输。

进一步地，如表1所示(表1为第一层消息环传输包协议)，基于第一方面，在本发明的一些实施例中，上述预置的各层消息环传输包协议中的第一层消息环传输包协议包括帧头、有效通讯字节、备用码、协议类型、默认码、数据类型、请求ID+通信类型、信令内容、校验和高八位、校验和中八位、校验和第八位以及帧尾。

表1：

进一步地，如图4所示，基于第一方面，在本发明的一些实施例中，上述预置的各层消息环传输包协议中的第二层消息环传输包协议包括CRC校验、信令以及包头、路由、源地址、目的端ID、触发类型和信号量类型。

进一步地，如图5所示，基于第一方面，在本发明的一些实施例中，上述预置的各层消息环传输包协议中的第三层消息环传输包协议包括CRC校验、信令+数据流信息以及包头、源地址、目的端ID、执行器状态、互斥锁地址和互斥锁类型。

在本发明的一些实施例中，当构建完成对应的多层消息环后，各个分布式集群存储计算节点之间采用上述构建好的各层消息环路传递不同的数据，各个集群中不同层级的消息环一一对应，针对性的传输不同数据，各集群内的每层消息环之间还可以相互传递数据。基于本发明构建的三层消息环层层关联，且每层消息环还可独立传输数据，实现分布式集群的各个工作节点消息的高效传输。

为了解决现有技术中的问题，本发明采用多层消息环机制进行分布式集群存储计算节点之间的消息传输，大大提高了传输效率。单独层消息环的独立性和解耦性；层级消息环按照需求进行报文和数据的组合；本发明实现了集群消息高效率传输。本发明采用层级分明的消息机制，多层消息环协议解耦清楚，各层级消息包协议丰富，消息环之间也相互完成信号传递，解决了分布式集群的多消息层问题(多消息层的划分不明晰，以及消息层互侵的问题)，大大提高了分布式集群消息传输效率，构建了以消息机制的集群方案。

如图6所示，第二方面，本发明实施例提供一种多层消息机制分布式集群通信管理系统，包括：多层构建模块100和层级传输模块200，其中：

多层构建模块100，用于构建多层消息环；

层级传输模块200，用于获取并根据任务需求分别采用各层消息环按照预置的各层消息环传输包协议进行分布式集群中各工作节点之间的消息传输。

为了解决现有技术中的问题，本系统通过多层构建模块100和层级传输模块200配合，构建多层消息环，然后结合不同的任务需求基于预置的各层消息环传输包协议在不同消息环之间进行消息传输。采用多层消息环机制进行分布式集群存储计算节点之间的消息传输，大大提高了传输效率。单独层消息环的独立性和解耦性；层级消息环按照需求进行报文和数据的组合；本发明实现了集群消息高效率传输。采用层级分明的消息机制，消息环之间也可相互完成信号传递，解决了分布式集群的多消息层问题，大大提高了分布式集群消息传输效率，构建了以消息机制的集群方案。

如图7所示，第三方面，本申请实施例提供一种电子设备，其包括存储器101，用于存储一个或多个程序；处理器102。当一个或多个程序被处理器102执行时，实现如上述第一方面中任一项的方法。

还包括通信接口103，该存储器101、处理器102和通信接口103相互之间直接或间接地电性连接，以实现数据的传输或交互。例如，这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。存储器101可用于存储软件程序及模块，处理器102通过执行存储在存储器101内的软件程序及模块，从而执行各种功能应用以及数据处理。该通信接口103可用于与其他节点设备进行信令或数据的通信。

其中，存储器101可以是但不限于，随机存取存储器(Random Access Memory，RAM)，只读存储器(Read Only Memory，ROM)，可编程只读存储器(Programmable Read-OnlyMemory，PROM)，可擦除只读存储器(Erasable Programmable Read-Only Memory，EPROM)，电可擦除只读存储器(Electric Erasable Programmable Read-Only Memory，EEPROM)等。

处理器102可以是一种集成电路芯片，具有信号处理能力。该处理器102可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(NetworkProcessor，NP)等；还可以是数字信号处理器(Digital Signal Processing，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

在本申请所提供的实施例中，应该理解到，所揭露的方法及系统和方法，也可以通过其它的方式实现。以上所描述的方法及系统实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本申请的多个实施例的方法及系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

另外，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。

第四方面，本申请实施例提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器102执行时实现如上述第一方面中任一项的方法。所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random AccessMemory)、磁碟或者光盘等各种可以存储程序代码的介质。

以上仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

对于本领域技术人员而言，显然本申请不限于上述示范性实施例的细节，而且在不背离本申请的精神或基本特征的情况下，能够以其它的具体形式实现本申请。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本申请的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本申请内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。

Claims (10)

1.一种多层消息机制分布式集群通信管理方法，其特征在于，包括以下步骤：

构建多层消息环；

获取并根据任务需求分别采用各层消息环按照预置的各层消息环传输包协议进行分布式集群中各工作节点之间的消息传输。

2.根据权利要求1所述的一种多层消息机制分布式集群通信管理方法，其特征在于，所述多层消息环包括第一层消息环、第二层消息环和第三层消息环，其中：

所述第一层消息环包括业务控制信息，用于与MPI分布式计算模型配合使用；

所述第二层消息环包括路由信息和触发信息，用于完成信令的路由转发、低层级执行模块之间的工作时序的触发和同步；

所述第三层消息环具有时序特征，用于实现低层级执行模块内部的工作时序和资源管理。

3.根据权利要求1所述的一种多层消息机制分布式集群通信管理方法，其特征在于，还包括以下步骤：

各层消息环之间进行经度信令传递。

4.根据权利要求1所述的一种多层消息机制分布式集群通信管理方法，其特征在于，还包括以下步骤：

每层消息环内部进行维度消息传递。

5.根据权利要求2所述的一种多层消息机制分布式集群通信管理方法，其特征在于，所述预置的各层消息环传输包协议中的第一层消息环传输包协议包括帧头、有效通讯字节、备用码、协议类型、默认码、数据类型、请求ID+通信类型、信令内容、校验和高八位、校验和中八位、校验和第八位以及帧尾。

6.根据权利要求2所述的一种多层消息机制分布式集群通信管理方法，其特征在于，所述预置的各层消息环传输包协议中的第二层消息环传输包协议包括CRC校验、信令以及包头、路由、源地址、目的端ID、触发类型和信号量类型。

7.根据权利要求2所述的一种多层消息机制分布式集群通信管理方法，其特征在于，所述预置的各层消息环传输包协议中的第三层消息环传输包协议包括CRC校验、信令+数据流信息以及包头、源地址、目的端ID、执行器状态、互斥锁地址和互斥锁类型。

8.一种多层消息机制分布式集群通信管理系统，其特征在于，包括：多层构建模块和层级传输模块，其中：

多层构建模块，用于构建多层消息环；

层级传输模块，用于获取并根据任务需求分别采用各层消息环按照预置的各层消息环传输包协议进行分布式集群中各工作节点之间的消息传输。

9.一种电子设备，其特征在于，包括：

存储器，用于存储一个或多个程序；

处理器；

当所述一个或多个程序被所述处理器执行时，实现如权利要求1-7中任一项所述的方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现如权利要求1-7中任一项所述的方法。

Images