CN106878473A - 一种消息处理方法、服务器集群及系统 - Google Patents
一种消息处理方法、服务器集群及系统 Download PDFInfo
- Publication number
- CN106878473A CN106878473A CN201710262421.5A CN201710262421A CN106878473A CN 106878473 A CN106878473 A CN 106878473A CN 201710262421 A CN201710262421 A CN 201710262421A CN 106878473 A CN106878473 A CN 106878473A
- Authority
- CN
- China
- Prior art keywords
- server
- queue
- queue server
- message
- request message
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/55—Push-based network services
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer And Data Communications (AREA)
- Hardware Redundancy (AREA)
Abstract
本申请提供了一种消息处理方法、服务器集群及系统,该服务器集群包括多个队列服务器,目标队列服务器将第一客户端发送的请求消息写入目标日志文件时,触发服务器集群中的备份队列服务器同步该目标日志文件,在备份队列服务器将同步的请求消息推送至对应的备份消息队列,向目标队列服务器反馈备份完成信息,当目标队列服务器接收到第一预设数量的备份完成信息后,再将该请求消息推送至目标消息队列存储,并向第一客户端反馈针对该请求消息的成功响应信息,从而保证请求消息的生产可靠性以及存储可靠性;而且,由于本申请采用多副本机制,从而保证了目标队列服务器工作异常的情况下,系统的可靠性以及可用性。
Description
技术领域
本申请主要涉及消息处理应用领域,更具体地说是涉及一种消息处理方法、服务器集群及系统。
背景技术
在各领域应用中,客户端之间的消息传输已成为实现应用业务的基本过程,参照图1(a)所示,传统的消息传输通常是消息生产者与消息消费者进行一对一传输,很容易导致消息丢失,且往往无法实现消息复用,影响工作效率。
为了解决上述问题,如图1(b)所示,目前通常会在消息生产者与消息消费者之间设置开源消息队列中间件,用来存储消息生产者生成的消息,并根据需要转发至消息消费者,实现了消息复用,且避免了因突然产生大量消息而导致消息的丢失等问题。
然而,现有的开源消息队列中间件主要采用单击或主从结构,一旦其中的某一个节点发生故障,将会导致整个系统不可用,在此期间若有丢失的消息,将导致消息不可回溯,从而影响系统的可靠且稳定运行;而且,当调整开源消息队列中间件中节点数量时,将会引发全局的数据重新均衡,影响系统可用性。
发明内容
有鉴于此,本申请提供了一种消息处理方法、服务器集群及系统,采用多副本的备份机制,在目标队列服务器工作异常情况下,保证了系统的可靠性以及稳定性。
为了实现上述目的,本申请提供了以下技术方案:
本申请实施例提供了一种消息处理方法,应用于服务器集群,所述服务器集群包括多个队列服务器,所述方法包括:
目标队列服务器获得第一客户端发送的请求消息,所述目标队列服务器是所述多个队列服务器中的任意一个队列服务器,将所述多个队列服务器中的其他队列服务器作为备份队列服务器;
所述目标队列服务器将所述请求消息写入目标日志文件,并触发所述备份队列服务器同步所述目标日志文件;
所述备份队列服务器将同步的所述请求消息推送至对应的备份消息队列存储,并向所述目标队列服务器反馈备份完成信息;
所述目标队列服务器接收到第一预设数量的所述备份队列服务器反馈的所述备份完成信息,将所述请求消息推送至目标消息队列存储,并向所述第一客户端反馈针对所述请求消息的成功响应信息。
本申请实施例还提供了一种服务器集群,包括:一个目标队列服务器以及多个备份队列服务器,其中:
所述目标队列服务器,用于获得第一客户端发送的请求消息,并将所述请求消息写入目标日志文件,触发所述备份队列服务器同步所述目标日志文件;
所述备份队列服务器,用于将同步的所述请求消息推送至对应的备份消息队列存储,并向所述目标队列服务器反馈备份完成信息,以使所述目标队列服务器接收到第一预设数量的所述备份队列服务器反馈的所述备份完成信息,将所述请求消息推送至目标消息队列存储,并向所述第一客户端反馈针对所述请求消息的成功响应信息。
本申请实施例还提供了一种消息处理系统,其特征在于,所述系统包括:多个客户端以及至少一个如上所述的服务器集群。
由此可见,与现有技术相比,本申请提供了一种消息处理方法、服务器集群及系统,该服务器集群包括多个队列服务器,将其中任意一个队列服务器作为目标队列服务器,其他队列服务器作为备份队列服务器,目标队列服务器获得第一客户端发送的请求消息,并将其写入目标日志文件时,将触发该服务器集群中的备份队列服务器同步该目标日志文件,之后,备份队列服务器将同步的请求消息推送至对应的备份消息队列,并向目标队列服务器反馈备份完成信息,当目标队列服务器接收到第一预设数量的备份完成信息后,再将该请求消息推送至目标消息队列存储,并向第一客户端反馈针对该请求消息的成功响应信息,从而保证请求消息的生产可靠性以及存储可靠性;而且,由于本申请采用多副本机制,从而保证了目标队列服务器工作异常的情况下,系统的可靠性以及可用性。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1(a)和图1(b)为本申请提供的两种现有的消息处理方法的示意图;
图2为本申请实施例提供的一种消息处理方法的实现系统结构图;
图3为本申请实施例提供的一种消息处理方法的信令流程图;
图4为本申请实施例提供的一种消息处理方法的部分流程图;
图5为本申请实施例提供的一种消息复用应用示意图;
图6为本申请实施例提供的一种服务器集群的结构示意图;
图7为本申请实施例提供的一种服务器集群中的队列服务器的结构框图;
图8为本申请实施例提供的另一种服务器集群中的队列服务器的结构框图;
图9为本申请实施例提供的又一种服务器集群中的队列服务器的结构框图;
图10为本申请实施例提供的一种消息队列的系统应用示意图;
图11为本申请实施例提供的一种服务器集群中的队列服务器的硬件结构图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
为了使本申请的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本申请作进一步详细的说明。其中,为了方便理解本申请技术方案,将对下文实施例可能涉及到的技术术语进行解释说明,具体如下:
producer:消息生产者,负责生产消息;
consumer:消息消费者,负责消费消息,在本申请中,消息消费者和消息生产者可以是不同的客户端;
broker:消息中间件,负责消息的存储,转发,一般也称作队列服务器,即MQ(MessageQueue,消息队列)server;
queue:队列模型,生产者发送消息到broker的队列,消费者从broker队列消费消息。
leader:领导者,即下文描述的目标队列服务器,broker中引入replication(复制)机制,每个partition(分区)可能会有多个备份,因此需要在多个MQ server中选出一个leader,producer和consumer只与这个leader交互,其他的MQ server作为follower从leader中复制数据;
follower:跟随者,即下文描述的备份队列服务器,在本申请中,可以从leader中复制数据,保证系统可靠运行。
如图2所示,为本申请实施例提供的消息处理方法的实现系统架构图,该系统可以包括:多个客户端21以及至少一个服务器集群22,每个服务器集群可以包括多个队列服务器23。
其中,客户端21可以是装载在手机、平板电脑、笔记本电脑等用户设备上,在实际应用中,通过与队列服务器13建立通信连接,实现信息交互。
可选的,客户端21可以是从官方网站或应用中心等下载并安装到用户设备上的应用程序,也可以是以浏览器的形式存在,本申请对客户端21的存在形式不作限定。
在本申请实际应用中,客户端可以包括支付客户端、充值客户端以及实现订单查询等功能的业务客户端,具体可以根据实际业务需要确定,本申请对此不作限定。
队列服务器23可以作为消息队列中间件,在实际应用中,可以将多个队列服务器23组成的服务器集群作为一个Broker set,从而保证消息的可靠性和可用性。其中,在本申请提供的系统可以包括多个Broker set,具体可以根据实际需要确定。
在本申请中,队列服务器可以作为两个客户端之间进行消息交互的中间件,如客户端A将消息发送至队列服务器进行存储,以使客户端B根据需要从该队列服务器读取相应消息,从而避免客户端A发送大量消息至客户端B,客户端B无法及时读取所有消息,导致消息丢失等问题。
可选的,每个队列服务器可以包括存储请求消息、操作数据等日志文件内容的存储器、存储消息队列的状态机等,本申请对该队列服务器的具体结果不作限定,而且,本申请中各队列服务器的组合结构可以相同,从而保证各备份队列服务器能够同步目标队列服务器的操作。
其中,状态机由状态寄存器和组合逻辑电路构成,能够根据控制信号按照预先设定的状态进行状态转移,是协调相关信号动作、完成特定操作的控制中心。在本申请中,上述状态机可以称为MQ状态机,将接收到的消息写入相应的消息队列,以便其他客户端从该消息队列读取所需消息。
基于图2示出的系统架构,图3示出了本申请实施例提供的一种消息处理方法的信令流程图,该方法可以包括以下步骤:
步骤S31,第一客户端向目标队列服务器发送请求消息;
在本实施例中,第一客户端可以是消息队列的消息生产者,在工作过程中产生请求消息,可以主动发送至队列服务器,也可以是在接收到队列服务器周期发送的查询请求后,响应该查询请求,从而将产生的请求消息发送至队列服务器等。由此可见,目标队列服务器获得第一客户端生成的请求消息的方式并不局限于步骤S31所述的方式,可以根据实际需要确定。
步骤S32,目标队列服务器将该请求消息写入目标日志文件,并触发备份队列服务器同步该目标日志文件;
在本实施例中,系统中的每一个服务器集群可以包括多个队列服务器,在实际应用中,为了保证消息队列的一致性和唯一性,可以从多个队列服务器中选择一个队列服务器作为目标队列服务器,实现对第一客户端发送的请求消息的处理,同时将该服务器集群中的其他队列服务器作为备份队列服务器,实现对目标队列服务器操作的同步。
其中,关于从多个队列服务器中确定目标队列服务器的过程可以参照下文对应实施例的描述,本实施例在此不再详述。需要说明的是,同一时间内系统只有一个目标队列服务器。
如上所述,本申请可以采用多副本机制实现对第一客户端生成的请求消息的处理,也就是说,对于目标队列服务器对第一客户端生成的请求消息的操作,将会由多个备份队列服务器进行同步,具体可以包括复制目标队列服务器的目标日志文件等同步操作,以便备份队列服务器能够根据该目标日志文件替代目标服务器继续工作,从而保证系统工作稳定性。
可选的,在实际应用中,目标队列服务器接收到第一客户端发送的请求消息后,可以通过raft一致性模块按照请求顺序,将该请求消息写入目标日志文件,并将所得的最新日志文件按照预设顺序,通过网络依次发送至各备份队列服务器进行同步处理,从而保证服务器集群中各队列服务器中日志文件包含的请求消息与第一客户端发送的请求消息的顺序和内容一致。
其中,在备份队列服务器同步目标队列服务器的操作过程中,可以利用一致性算法保证所同步请求消息的严格一致,本申请对该一致性算法的具体内容不作限定。
步骤S33,备份队列服务器将同步的请求消息推送至对应的备份消息队列存储,向目标队列服务器反馈备份完成信息;
在本申请中,各队列服务器的结构相同,备份队列服务器完成请求消息的备份后,即实现对目标队列服务器的日志文件的复制等同步操作后,可以将所要备份的请求消息写入消息队列存储,之后,可以向目标队列服务器返备份完成信息,以使目标队列服务器得知当前有多少个备份队列服务器完成同步操作。
步骤S34,目标队列服务器判断接收到的备份完成信息的数量是否达到第一预设数量,如果是,进入步骤S35;如果否,返回步骤S32触发备份服务器继续同步目标日志文件;
其中,第一预设数量可以根据服务器集群包含的队列服务器的数量确定,本申请并不限定其具体数量,通常不小于该服务器集群包含的备份队列服务器的一半。
步骤S35,目标队列服务器将请求消息推送至目标消息队列存储;
在本实施例中,当目标队列服务器确定大部分备份队列服务器备份成功后,才会将所得到的请求消息写入消息队列,具体可以是先将请求消息提交至该目标队列服务器的MQ状态机,再由该MQ状态机将请求消息写入相应的消息队列中,从而保证消息队列对请求消息存储的可靠性。
需要说明的是,本申请对目标队列服务器将接收到的请求消息写入消息队列的具体实现过程不作限定。
步骤S36,目标队列服务器向第一客户端反馈针对请求消息的成功响应信息。
结合上述分析,为了保证第一客户端传输请求消息的可靠性,本申请目标队列服务器确定大多数备份队列服务器完成备份操作后,可以告知第一客户端即消息生产者这一处理结果。
可选的,若第一客户端在一定时间内没有接收到目标队列服务器反馈的针对请求消息的成功响应信息,可以重新向该目标队列服务器发送请求消息,从而确保该请求消息成功发送至目标队列服务器。
步骤S37,目标队列服务器接收第二客户端发送的消息读取请求;
在本申请中,该第二客户端可以作为消息队列中的消息消费者,其与产生请求消息的第一客户端不同。
步骤S38,目标队列服务器响应该消息读取请求,确定目标请求消息;
在实际应用中,第二客户端发送的消息读取请求中可以包括指示需要读取的目标请求消息的标识信息,如该目标请求消息的名称、代码、生产顺序等,以便目标队列服务器能够基于该消息读取请求,准确得知第二客户端需要读取的目标请求消息。
步骤S39,目标队列服务器将该目标请求消息发送至第二客户端;
在本申请中,消息生产者产生的一条请求消息可以被多种类型消息消费者订阅,如订单数据生产一次,对账、监控、统计模块都可以消费,且在请求消息有效期内,确保请求消息至少被成功消费或读取一次。可见,本申请达到了一次生产多次消费的技术效果。
而且,由于本申请采用消息队列的方式实现请求消息的存储,保证了请求消息的顺序性,且消费端能够根据实际需要从消息队列读取请求消息,不会造成请求消息的丢失。
步骤S310,目标队列服务器检测该请求消息的存储时间是否达到预设阈值,如果是,进入步骤S311;如果否,继续检测。
步骤S311,目标队列服务器删除消息队列存储的该请求消息。
在本申请中,消息队列可以应用发布/订阅模型,从而使该消息队列存储的请求消息能够被多次复用。而且,本申请针对存储的请求消息设置了最长存储时间即上述预设阈值,从请求消息进入消息队列开始计时,在其存储时间达到该预设阈值时,该消息队列将会自动删除该请求消息,从而下一个请求消息留出存储空间。
需要说明的是,关于删除消息队列中的请求消息的方式并不局限于上文列举的方式,还可以是在其他客户端从该消息队列读取所需请求消息后,触发目标队列服务器删除该消息队列中的请求消息,以保证该消息队列能够容纳后续接收到的请求消息。
下面将对从服务器集群中的多个队列服务器中重新选择目标队列服务器的实现过程进行说明。
如图4所示,为本申请实施例提供的另一种消息处理方法的部分流程图,该方法主要从服务器集群的角度进行描述,如上所述,该服务器集群可以包括多个队列服务器,则本实施例提供的该方法可以包括:
步骤S41,备份队列服务器判断第一预设时间内是否接收到目标队列服务器发送的续期信息;如果否,进入步骤S42;如果是,继续判断。
在本申请实际应用中,服务器集群中的目标队列服务器可以按照预设周期向该服务器集群中的其他队列服务器发送续期信息,以使其他队列服务器得知当前该服务器集群中有目标队列服务器,避免在该服务器集群中选定重复的目标队列服务器,即保证服务器集群中同一时间只有一个目标队列服务器。
基于此,由于对服务器集群初始化后,其包含的队列服务器可以作为备份队列服务器,而对于这些备份队列服务器来说,可以通过判断其在第一预设时间内是否接收到目标队列服务器发送的续期信息的方式,来获知该目标队列服务器是否故障,该服务器集群是否需要重选目标队列服务器。
需要说明的是,本申请的目标队列服务器和备份队列服务器之间是并列关系,而非主从关系,从而使本申请能够利用备份队列服务器实现对目标队列服务器的扩展,解决了现有的开源中间件因单机或主从结构,存在的单点问题以及请求消息的不可回溯等技术问题。
步骤S42,将该备份队列服务器确定为候选队列服务器,并向服务器集群中的其他队列服务器发送选举请求;
由于目标队列服务器出现宕机或者不可用等故障时,将会导致系统不可用,为了保证系统运行可靠性,本申请需要及时检测这一情况,并重新选择目标队列服务器,如上述分析,本实施例将通过备份队列服务器在第一预设时间内是否接收到目标队列服务器的续期信息的方式,判断该目标队列服务器是否正常工作,一旦备份队列服务器在第一预设时间内没有接收到目标队列服务器的续期信息,可以触发系统重新选择目标队列服务器。
在本申请中,可以将满足上述条件的备份队列服务器作为候选队列服务器,向所在服务器集群中的其他队列服务器发送选举请求,等待其他队列服务器的回复,以得知自己能否成为目标队列服务器。
步骤S43,候选队列服务器判断接收到的针对该选举请求的响应信息数量是否达到第二预设数量;如果是,执行步骤S45;如果否,进入步骤S44;
在本申请中,当候选队列服务器得到大部分队列服务器的选举,即接收到的大部分队列服务器反馈的响应信息后,才能成为目标队列服务器。由于服务器集群中的各队列服务器已知该服务器集群包含的队列服务器的总数量,所以,候选队列服务器能够根据接收到的响应信息数量以及该总数量,判断其能够成为目标队列服务器。
其中,需要说明的是,每一个队列服务器只能响应一个队列服务器发送的选举请求,从而保证在实际应用,当多个候选队列服务器发起选举请求的情况下,同一时间只有一个候选队列服务器得到大部分的投票,即大部分响应信息,此时,其他候选队列服务器将接收到新的目标队列服务器发送的续期信息后,重新转换为备份队列服务器。
基于此,第二预设数量可以大于服务器集群包含的队列服务器的总数量的一半数量,具体可以与上述第一预设数量相同,但并不局限于此。
步骤S44,候选队列服务器经第二预设时间向服务器集群中的其他队列服务器再次发送选举请求,并返回步骤S43;
其中,第二预设时间与第一预设时间可以相同,也可以不同,本申请对此不作限定。
步骤S45,候选队列服务器作为目标队列服务器向服务器集群中的其他队列服务器发送续期信息。
在本申请中,重新选定目标队列服务器后,将会及时告知所在服务器集群中的其他队列服务器,从而使当前的候选队列服务器转变为备份队列服务器,对新的目标队列服务器的操作进行同步。
综上所述,本申请采用备份机制,通过备份队列服务器对目标队列服务器接收到的请求消息以及操作进行同步复制,保证请求消息具有多个副本,且通过一致性算法保证了复制的日志文件的严格一致性,从而提高了系统的可靠性。而且,在目标队列服务器工作异常时,本申请能够及时选择一个新的目标队列服务器对客户端发送的请求消息进行处理,保证了系统的稳定性以及可用性。
基于上述实施例描述的消息处理方案,由于本申请仍采用队列服务器存储消息,从而使消息消费者能够根据实际情况选择所需消息,避免了在一段时间内接收到大量消息,如春节发红包场景中,因红包流量非常大,而服务器系统处理能力有限,很容易出现雪崩效应,导致服务器系统崩溃,本申请采用将各红包消息存储到队列服务器,达到缓解大流量带来的冲击,避免了消息的丢失。
另外,如上述分析,消息队列中的请求消息被读取后并不会直接消失,因此,终端其他应用仍可以继续读取,如图5所示,用户通过终端生成的交易或下单消息,写入队列服务器后,库存管理、物流管理、积分管理以及CRM(Customer Relationship Management,客户关系管理)等应用模块均可以作为消息消费者,读取消息队列中的交易或下单消息。也就是说,队列服务器中的请求消息是可以多次复用的。
当然,本申请也可以针对消息队列中的请求消息设置一个最长存储时间即预设阈值,若请求消息的存储时间超过该运输阈值,消息队列可以自动删除该请求消息;或者,消息消费者不再需要读取该请求消息后,可以主动向该消息队列发送相应的删除指令,来删除该请求消息,保证该消息队列能够容纳后续产生的数据,本申请对消息队列中请求消息的具体管理方式不作限定。
基于图2所示的系统架构,图6示出了本申请实施例提供的一种服务器集群的结构示意图,该服务器集群可以包括多个队列服务器,在本申请中可以将其中的一个队列服务器作为目标队列服务器61,并将其他队列服务器作为备份队列服务器62,其中:
目标队列服务器61,用于获得第一客户端发送的请求消息,并将所述请求消息写入目标日志文件,触发所述备份队列服务器同步所述目标日志文件;
在本实施例中,为了保证数据的严格一致性,目标队列服务器可以采用一致性算法将接收到的请求消息写入目标日志文件。其中,该一致性算法可以存在目标队列服务器的一致性模块中,基于上述分析可知,服务器集群中的每一个队列服务器都具有该一致性模块,从而保证任意一个队列服务器作为目标队列服务器进行消息处理过程中,数据的严格一致性。
备份队列服务器62,用于将同步的所述请求消息推送至对应的备份消息队列存储,并向所述目标队列服务器反馈备份完成信息,以使所述目标队列服务器41接收到第一预设数量的所述备份队列服务器反馈的所述备份完成信息,将所述请求消息推送至目标消息队列存储,并向所述第一客户端反馈针对所述请求消息的成功响应信息。
可选的,在实际应用中,备份队列服务器62还可以用于:检测到所述目标队列服务器工作异常,按照预设算法,重新选择所述服务器集群的目标队列服务器。
为了实现从服务器集群中选择目标队列服务器,如图7所示,备份队列服务器62可以包括:
时间判断模块621,用于判断第一预设时间内是否接收到所述目标队列服务器发送的续期信息;
选举请求发送模块622,用于在时间判断模块的判断结果为否时,将所述备份队列服务器转变为候选队列服务器,并向服务器集群中的其他队列服务器发送选举请求;
数量判断模块623,用于判断接收到的针对选举请求的响应信息数量是否达到第二预设数量;
续期信息发送模块624,用于在数量判断模块的判断结果为是,将所述候选队列服务器转变为新的目标队列服务器,并向所述服务器集群中的其他队列服务器发送所述续期信息;
选举请求发送模块622还用于在数量判断模块的判断结果为否,经第二预设时间向所述服务器集群中的其他队列服务器再次发送所述选举请求,直至接收到的所述响应信息数量达到所述第二预设数量,或者接收到新的目标队列服务器发送的续期信息。
需要说明的是,由于服务器集群中的备份队列服务器、候选队列服务器以及目标队列服务器是可以相互转化的,也就是说,对于同一个队列服务器来说,其在满足不同条件的情况下,可以是备份队列服务器,或者是候选队列服务器,或者是目标队列服务器,所以说,上图6所示的结构实际上是每一个队列服务器都可以具有的结构,只是其是在处于备份队列服务器的状态下实现上述功能。
另外,关于上文描述的确定服务器集群中的目标队列服务器的方法,并不局限于应用在目标队列服务器故障的情况下,还可以在服务器集群初始化,包含的均为备份队列服务器的情况下,按照上述方式选定目标队列服务器。
作为本申请另一实施例,在上述实施例的基础上,目标队列服务器还用于:检测所述目标消息队列存储的请求消息的存储时间是否达到预设阈值,基于检测结果,删除达到所述预设阈值的存储时间对应的请求消息,并触发所述备份队列服务器同步所述目标队列服务器的删除操作。
可选的,目标队列服务器还可以用于:响应第二客户端发送的消息读取请求,确定目标请求消息,并将所述目标请求消息发送至所述第二客户端,接收到所述第二客户端发送的消息读取完成信息,删除目标消息队列存储的所述目标请求消息;或者,将目标消息队列存储的请求消息推送至相应的第二客户端
参照图8,是从功能模块组成结构上说明队列服务器的结构,因此,当队列服务器作为目标队列服务器时,可以包括:
请求消息获得模块611,用于获得第一客户端发送的请求消息;
请求消息存储模块612,用于将所述请求消息写入目标日志文件,并触发所述备份队列服务器同步所述目标日志文件;
消息队列模块613,用于接收到第一预设数量的所述备份队列服务器反馈的所述备份完成信息,将所述请求消息推送至目标消息队列存储;
请求消息反馈模块614,用于向所述第一客户端反馈针对所述请求消息的成功响应信息。
需要说明的是,关于上述各功能模块的具体实现过程可以参照上述方法实施例对应部分的描述,本实施例在此不再详述。
可选的,在上述功能模块的结构基础上,如图9所示,目标队列服务器还可以包括:
时间检测模块615,用于检测所述目标消息队列存储的请求消息的存储时间是否达到预设阈值;
请求消息删除模块616,用于基于检测结果,删除达到所述预设阈值的存储时间对应的请求消息,并触发所述备份队列服务器同步所述目标队列服务器的删除操作。
可选的,在上述各实施例的基础上,目标队列服务器还可以包括:
读取请求获得模块,用于接收第二客户端发送的消息读取请求;
请求响应模块,用于响应第二客户端发送的消息读取请求,确定目标请求消息;
消息发送模块,用于将所述目标请求消息发送至所述第二客户端;
请求消息删除模块还可以用于接收到所述第二客户端发送的消息读取完成信息,删除目标消息队列存储的所述目标请求消息。
作为本申请另一实施例,目标队列服务器也可以将其目标消息队列存储的请求消息推送至相应的第二客户端,并不局限于上述第二客户端拉取请求消息的消息获得方式。
综上,本申请提供的服务器集群采用备份机制,在确定多个队列服务器中的一个队列服务器为目标队列服务器,其他为备份队列服务器后,将通过备份队列服务器对目标队列服务器接收到的请求消息以及操作进行同步复制,保证请求消息具有多个副本,且通过一致性算法保证了复制的日志文件的严格一致性,从而提高了系统的可靠性。而且,在目标队列服务器工作异常时,本申请能够及时选择一个新的目标队列服务器对客户端发送的请求消息进行处理,保证了系统的稳定性以及可用性。
结合上述对本申请提供的消息处理方案的分析,以及图10所示的系统结构图,但并不局限于图10所示的消息服务器集群所在系统的组成结构。在实际应用中,消息生产和消费均可以由目标队列服务器负责。
如图10所示,消息生产者与消息消费者工作过程中,相应的队列数据采集器会将采集业务数据或消息,并通过系统主节点发送至数据库存储,以便管理系统从中调取所需数据或消息。在实际应用中,系统监控器也可以通过对消息生产者和消息消费者的队列数据采集器进行监控,以获得队列数据采集器采集到的业务数据或消息等信息,并发送至数据库存储。并且,根据实际需要,管理系统可以通过该监控器实现对各队列数据采集器的控制,来控制队列数据采集器对特定业务数据或消息进行采集等等。
另外,消息生产者与消息消费者还可以通过各自的队列数据采集器,向队列服务器发送或获取请求消息,关于该队列服务器对接收到的请求消息的处理过程可以参照上述方法实施例的描述,本实施例在此不再赘述。其中,图10所示的队列服务器可以包括上述实施例描述的目标队列服务器以及备份队列服务器,以保证了消息队列的多副本机制,在遇到突发情况时,可以通过备份队列服务器来恢复服务。
下面将从硬件结构来说明服务器集群中的每一个队列服务器的结构。
如图11所示,为本申请实施例提供的一种队列服务器的硬件结构示意图,该队列服务器可以包括处理器111、通信接口112、存储器113以及通信总线114;
其中,处理器111、通信接口112、存储器113可以通过通信总线114完成相互间的通信;
可选的,通信接口112可以为通信模块的接口,如GSM模块的接口;
处理器111可能是一个中央处理器CPU,或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit),或者是被配置成实施本申请实施例的一个或多个集成电路。
存储器113可能包含高速RAM存储器,也可能还包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。
其中,处理器111具体用于:
目标队列服务器获得第一客户端发送的请求消息,所述目标队列服务器是所述多个队列服务器中的任意一个队列服务器,将所述多个队列服务器中的其他队列服务器作为备份队列服务器;
所述目标队列服务器将所述请求消息写入目标日志文件,并触发所述备份队列服务器同步所述目标日志文件;
所述备份队列服务器将同步的所述请求消息推送至对应的备份消息队列存储,并向所述目标队列服务器反馈备份完成信息;
所述目标队列服务器接收到第一预设数量的所述备份队列服务器反馈的所述备份完成信息,将所述请求消息推送至目标消息队列存储,并向所述第一客户端反馈针对所述请求消息的成功响应信息。
参照上图2,本申请实施例还提供了一种消息处理系统,该系统可以包括多个客户端21以及至少一个服务器集群22,每个服务器集群可以包括多个队列服务器23。
在本申请中,作为消息生产者的第一客户端生成的请求消息可以发送至服务器集群中的目标队列服务器进行处理,并由该服务器集群中的其他队列服务器即备份队列服务器对目标队列服务器的操作进行同步,从而保证目标队列服务器故障后,能够从备份队列服务器中重新选择一个目标队列服务器,对第一客户端发送的请求消息进行处理,从而保证系统的可靠性以及可用性。
需要说明的是,关于服务器集群实现上述功能的具体实现过程可以参照上述方法实施例对应部分的描述,本实施例在此不再详述。
最后,需要说明的是,关于上述各实施例中,诸如第一、第二等之类的关系术语仅仅用来将一个操作、单元或模块与另一个操作、单元或模块区分开来,而不一定要求或者暗示这些单元、操作或模块之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法或者系统中还存在另外的相同要素。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的服务器集群以及系统而言,由于其与实施例公开的方法对应,所以描述的比较简单,相关之处参见方法部分说明即可。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (12)
1.一种消息处理方法,其特征在于,应用于服务器集群,所述服务器集群包括多个队列服务器,所述方法包括:
目标队列服务器获得第一客户端发送的请求消息,所述目标队列服务器是所述多个队列服务器中的任意一个队列服务器,将所述多个队列服务器中的其他队列服务器作为备份队列服务器;
所述目标队列服务器将所述请求消息写入目标日志文件,并触发所述备份队列服务器同步所述目标日志文件;
所述备份队列服务器将同步的所述请求消息推送至对应的备份消息队列存储,并向所述目标队列服务器反馈备份完成信息;
所述目标队列服务器接收到第一预设数量的所述备份队列服务器反馈的所述备份完成信息,将所述请求消息推送至目标消息队列存储,并向所述第一客户端反馈针对所述请求消息的成功响应信息。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
检测到所述目标队列服务器工作异常,按照预设算法,重新选择所述服务器集群的目标队列服务器。
3.根据权利要求2所述的方法,其特征在于,所述检测到所述目标队列服务器工作异常,按照预设算法,重新选择所述服务器集群的目标队列服务器,包括:
所述备份队列服务器判断第一预设时间内是否接收到所述目标队列服务器发送的续期信息;
如果否,所述备份队列服务器转变为候选队列服务器,并向所述服务器集群中的其他队列服务器发送选举请求;
所述候选队列服务器判断接收到的针对所述选举请求的响应信息数量是否达到第二预设数量;
如果达到,所述候选队列服务器转变为新的目标队列服务器,并向所述服务器集群中的其他队列服务器发送所述续期信息;
如果未达到,所述候选队列服务器经第二预设时间向所述服务器集群中的其他队列服务器再次发送所述选举请求,直至接收到的所述响应信息数量达到所述第二预设数量,或者接收到新的目标队列服务器发送的续期信息。
4.根据权利要求1所述的方法,其特征在于,所述目标队列服务器将所述请求消息写入目标日志文件,包括:
所述目标队列服务器通过一致性算法将接收到的请求消息写入目标日志文件。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述目标队列服务器检测所述目标消息队列存储的请求消息的存储时间是否达到预设阈值;
基于检测结果,删除达到所述预设阈值的存储时间对应的请求消息,并触发所述备份队列服务器同步所述目标队列服务器的删除操作。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述目标队列服务器接收第二客户端发送的消息读取请求;
所述目标队列服务器响应所述消息读取请求,确定目标请求消息;
所述目标队列服务器将所述目标请求消息发送至所述第二客户端;
所述目标队列服务器接收到所述第二客户端发送的消息读取完成信息,删除目标消息队列存储的所述目标请求消息。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述目标队列服务器将目标消息队列存储的请求消息推送至相应的第二客户端。
8.一种服务器集群,其特征在于,包括:一个目标队列服务器以及多个备份队列服务器,其中:
所述目标队列服务器,用于获得第一客户端发送的请求消息,并将所述请求消息写入目标日志文件,触发所述备份队列服务器同步所述目标日志文件;
所述备份队列服务器,用于将同步的所述请求消息推送至对应的备份消息队列存储,并向所述目标队列服务器反馈备份完成信息,以使所述目标队列服务器接收到第一预设数量的所述备份队列服务器反馈的所述备份完成信息,将所述请求消息推送至目标消息队列存储,并向所述第一客户端反馈针对所述请求消息的成功响应信息。
9.根据权利要求8所述的服务器集群,其特征在于,所述备份队列服务器还用于:
检测到所述目标队列服务器工作异常,按照预设算法,重新选择所述服务器集群的目标队列服务器。
10.根据权利要求8所述的服务器集群,其特征在于,所述目标队列服务器还用于:
检测所述目标消息队列存储的请求消息的存储时间是否达到预设阈值,基于检测结果,删除达到所述预设阈值的存储时间对应的请求消息,并触发所述备份队列服务器同步所述目标队列服务器的删除操作。
11.根据权利要求8所述的服务器集群,其特征在于,所述目标队列服务器还用于:
响应第二客户端发送的消息读取请求,确定目标请求消息,并将所述目标请求消息发送至所述第二客户端,接收到所述第二客户端发送的消息读取完成信息,删除目标消息队列存储的所述目标请求消息;
或者,将目标消息队列存储的请求消息推送至相应的第二客户端。
12.一种消息处理系统,其特征在于,所述系统包括:多个客户端以及至少一个如权利要求8-11任意一项所述的服务器集群。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710262421.5A CN106878473B (zh) | 2017-04-20 | 2017-04-20 | 一种消息处理方法、服务器集群及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710262421.5A CN106878473B (zh) | 2017-04-20 | 2017-04-20 | 一种消息处理方法、服务器集群及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106878473A true CN106878473A (zh) | 2017-06-20 |
CN106878473B CN106878473B (zh) | 2021-03-30 |
Family
ID=59163575
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710262421.5A Active CN106878473B (zh) | 2017-04-20 | 2017-04-20 | 一种消息处理方法、服务器集群及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106878473B (zh) |
Cited By (51)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107479829A (zh) * | 2017-08-03 | 2017-12-15 | 杭州铭师堂教育科技发展有限公司 | 一种基于消息队列的Redis集群海量数据快速清理系统及方法 |
CN107659661A (zh) * | 2017-10-24 | 2018-02-02 | 宁波森浦信息技术有限公司 | 一种金融实时总线系统及其控制方法 |
CN108628688A (zh) * | 2018-03-30 | 2018-10-09 | 阿里巴巴集团控股有限公司 | 一种消息处理方法、装置及设备 |
CN108845867A (zh) * | 2018-07-16 | 2018-11-20 | 郑州云海信息技术有限公司 | 一种分布式事务管理方法、装置、系统及存储介质 |
CN109274604A (zh) * | 2018-09-29 | 2019-01-25 | 阿里巴巴集团控股有限公司 | 报文处理方法及系统 |
CN109391682A (zh) * | 2018-09-14 | 2019-02-26 | 联想(北京)有限公司 | 一种信息处理方法及服务器集群 |
CN109687994A (zh) * | 2018-11-30 | 2019-04-26 | 北京奇艺世纪科技有限公司 | 一种消息处理方法、系统、装置及设备 |
CN109739690A (zh) * | 2018-12-29 | 2019-05-10 | 平安科技(深圳)有限公司 | 备份方法及相关产品 |
CN109766347A (zh) * | 2017-07-21 | 2019-05-17 | 腾讯科技(深圳)有限公司 | 一种数据更新方法、装置、系统、计算机设备及存储介质 |
CN110032478A (zh) * | 2018-01-11 | 2019-07-19 | 中兴通讯股份有限公司 | 一种主备中心数据实时同步方法、装置、系统及存储介质 |
CN110224988A (zh) * | 2019-05-10 | 2019-09-10 | 视联动力信息技术股份有限公司 | 一种图像数据的处理方法、系统及装置和存储介质 |
CN110247808A (zh) * | 2019-06-27 | 2019-09-17 | 深圳前海微众银行股份有限公司 | 信息发送方法、装置、设备及可读存储介质 |
CN110262807A (zh) * | 2019-06-20 | 2019-09-20 | 北京百度网讯科技有限公司 | 集群创建进度日志采集系统、方法和装置 |
CN110413434A (zh) * | 2019-07-08 | 2019-11-05 | 合肥移瑞通信技术有限公司 | 服务器的异常识别方法及装置 |
CN110601903A (zh) * | 2019-09-25 | 2019-12-20 | 广州荔支网络技术有限公司 | 一种基于消息队列中间件的数据处理方法及装置 |
CN110661889A (zh) * | 2019-11-06 | 2020-01-07 | 杭州涂鸦信息技术有限公司 | 一种iOS端的推送消息同步与补偿方法及系统 |
CN110719311A (zh) * | 2018-07-13 | 2020-01-21 | 深圳兆日科技股份有限公司 | 分布式协调服务方法、系统及计算机可读存储介质 |
CN110780989A (zh) * | 2019-08-29 | 2020-02-11 | 腾讯科技(深圳)有限公司 | 一种过载保护方法、装置、设备及介质 |
CN111031094A (zh) * | 2019-11-06 | 2020-04-17 | 远景智能国际私人投资有限公司 | IoT系统中的数据传输方法、装置、设备及存储介质 |
CN111262923A (zh) * | 2020-01-14 | 2020-06-09 | 深圳壹账通智能科技有限公司 | 数据同步方法、装置、计算机设备及存储介质 |
CN111258822A (zh) * | 2020-01-15 | 2020-06-09 | 广州虎牙科技有限公司 | 数据处理方法、服务器和计算机可读存储介质 |
CN111352943A (zh) * | 2018-12-24 | 2020-06-30 | 华为技术有限公司 | 实现数据一致性的方法和装置、服务器和终端 |
CN111385327A (zh) * | 2018-12-28 | 2020-07-07 | 阿里巴巴集团控股有限公司 | 数据处理方法和系统 |
CN111400056A (zh) * | 2019-12-31 | 2020-07-10 | 远景智能国际私人投资有限公司 | 基于消息队列的消息传输方法、装置及设备 |
CN111464628A (zh) * | 2020-03-31 | 2020-07-28 | 中国工商银行股份有限公司 | 多路复用异步处理系统及方法 |
CN111538600A (zh) * | 2020-02-25 | 2020-08-14 | 远景智能国际私人投资有限公司 | 消息处理方法、装置、计算机设备及存储介质 |
CN111538602A (zh) * | 2020-04-17 | 2020-08-14 | 上海悦易网络信息技术有限公司 | 一种消息队列的消息转发方法及设备 |
CN111580998A (zh) * | 2020-06-12 | 2020-08-25 | 上海通联金融服务有限公司 | SaaS服务模式下多租户的RPC调用方法 |
CN111611090A (zh) * | 2020-05-13 | 2020-09-01 | 浙江创邻科技有限公司 | 分布式消息处理方法及系统 |
CN111782428A (zh) * | 2020-08-20 | 2020-10-16 | 支付宝(杭州)信息技术有限公司 | 数据调用系统以及方法 |
CN111800354A (zh) * | 2019-04-08 | 2020-10-20 | 中移(苏州)软件技术有限公司 | 消息处理方法及装置、消息处理设备及存储介质 |
CN111818112A (zh) * | 2019-04-11 | 2020-10-23 | 中国移动通信集团四川有限公司 | 一种基于Kafka系统的发送消息的方法和装置 |
CN112698965A (zh) * | 2020-12-25 | 2021-04-23 | 百度在线网络技术(北京)有限公司 | 用于实现消息队列的系统、方法及消息调度系统 |
CN113014608A (zh) * | 2019-12-19 | 2021-06-22 | 深圳云天励飞技术有限公司 | 一种流量分发控制方法、装置、电子设备及存储介质 |
CN113032492A (zh) * | 2021-04-21 | 2021-06-25 | 新奥数能科技有限公司 | 一种边缘端数据传输与存储的方法以及装置 |
CN113190371A (zh) * | 2021-05-18 | 2021-07-30 | 京东数科海益信息科技有限公司 | 一种任务补偿方法、装置、电子设备及可读存储介质 |
CN113259430A (zh) * | 2021-05-11 | 2021-08-13 | 京东数字科技控股股份有限公司 | 一种消息调用方法和装置、电子设备及存储介质 |
CN113360053A (zh) * | 2021-05-28 | 2021-09-07 | 富途网络科技(深圳)有限公司 | 显示的控制方法、电子设备以及存储介质 |
CN113360319A (zh) * | 2021-05-14 | 2021-09-07 | 山东英信计算机技术有限公司 | 一种数据备份方法和装置 |
WO2021174537A1 (zh) * | 2020-03-06 | 2021-09-10 | 深圳市欢太科技有限公司 | 数据传输方法及装置 |
CN113382065A (zh) * | 2021-06-08 | 2021-09-10 | 京东方科技集团股份有限公司 | 文件下载方法、装置、系统、设备及存储介质 |
CN113703954A (zh) * | 2020-05-21 | 2021-11-26 | 中移(苏州)软件技术有限公司 | 一种消息备份方法、装置、电子设备及计算机存储介质 |
CN113886329A (zh) * | 2021-10-13 | 2022-01-04 | 北京达佳互联信息技术有限公司 | 一种数据获取方法、装置、系统、设备及存储介质 |
CN114187999A (zh) * | 2022-02-17 | 2022-03-15 | 四川赛尔斯科技有限公司 | 一种医院统一支付管理平台及控制方法 |
CN114374705A (zh) * | 2022-01-06 | 2022-04-19 | 青岛海信智慧生活科技股份有限公司 | 服务集群和消息推送方法 |
CN114546956A (zh) * | 2022-02-21 | 2022-05-27 | 重庆紫光华山智安科技有限公司 | 海量小文件存储方法、装置、nfs服务节点和存储介质 |
CN114979233A (zh) * | 2022-07-19 | 2022-08-30 | 深圳市亿联无限科技有限公司 | 基于域套接字实现模块间同步和异步调用的方法和系统 |
CN114968611A (zh) * | 2021-07-13 | 2022-08-30 | 中移互联网有限公司 | 消息传输方法、消息服务器、终端及电子设备 |
CN115550361A (zh) * | 2022-09-20 | 2022-12-30 | 三未信安科技股份有限公司 | 一种基于消息队列的集群实现方法 |
CN116506450A (zh) * | 2023-06-27 | 2023-07-28 | 武汉吧哒科技股份有限公司 | 文件同步方法、装置、电子设备及存储介质 |
US11715366B2 (en) | 2019-08-06 | 2023-08-01 | Zhejiang Dahua Technology Co., Ltd. | Systems and methods for alarm processing |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102843310A (zh) * | 2012-07-17 | 2012-12-26 | 新浪网技术(中国)有限公司 | 基于流言协议的广域网中消息的发布、订阅方法和系统 |
CN103019866A (zh) * | 2012-10-24 | 2013-04-03 | 北京京东世纪贸易有限公司 | 基于消息队列的分布式方法和系统 |
CN103580906A (zh) * | 2012-08-09 | 2014-02-12 | 腾讯科技(深圳)有限公司 | 一种数据备份的方法、系统及服务器 |
CN104184756A (zh) * | 2013-05-21 | 2014-12-03 | 阿里巴巴集团控股有限公司 | 一种数据同步方法、装置及系统 |
US9009683B2 (en) * | 2012-03-28 | 2015-04-14 | Software Ag | Systems and/or methods for testing client reactions to simulated disruptions |
CN104753817A (zh) * | 2013-12-25 | 2015-07-01 | 中国移动通信集团公司 | 一种云计算消息队列服务本地模拟方法和系统 |
CN105141687A (zh) * | 2015-08-19 | 2015-12-09 | 焦点科技股份有限公司 | 一种生产消息的方法 |
-
2017
- 2017-04-20 CN CN201710262421.5A patent/CN106878473B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9009683B2 (en) * | 2012-03-28 | 2015-04-14 | Software Ag | Systems and/or methods for testing client reactions to simulated disruptions |
CN102843310A (zh) * | 2012-07-17 | 2012-12-26 | 新浪网技术(中国)有限公司 | 基于流言协议的广域网中消息的发布、订阅方法和系统 |
CN103580906A (zh) * | 2012-08-09 | 2014-02-12 | 腾讯科技(深圳)有限公司 | 一种数据备份的方法、系统及服务器 |
CN103019866A (zh) * | 2012-10-24 | 2013-04-03 | 北京京东世纪贸易有限公司 | 基于消息队列的分布式方法和系统 |
CN104184756A (zh) * | 2013-05-21 | 2014-12-03 | 阿里巴巴集团控股有限公司 | 一种数据同步方法、装置及系统 |
CN104753817A (zh) * | 2013-12-25 | 2015-07-01 | 中国移动通信集团公司 | 一种云计算消息队列服务本地模拟方法和系统 |
CN105141687A (zh) * | 2015-08-19 | 2015-12-09 | 焦点科技股份有限公司 | 一种生产消息的方法 |
Cited By (78)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109766347A (zh) * | 2017-07-21 | 2019-05-17 | 腾讯科技(深圳)有限公司 | 一种数据更新方法、装置、系统、计算机设备及存储介质 |
CN107479829B (zh) * | 2017-08-03 | 2020-04-17 | 杭州铭师堂教育科技发展有限公司 | 一种基于消息队列的Redis集群海量数据快速清理系统及方法 |
CN107479829A (zh) * | 2017-08-03 | 2017-12-15 | 杭州铭师堂教育科技发展有限公司 | 一种基于消息队列的Redis集群海量数据快速清理系统及方法 |
CN107659661A (zh) * | 2017-10-24 | 2018-02-02 | 宁波森浦信息技术有限公司 | 一种金融实时总线系统及其控制方法 |
CN110032478A (zh) * | 2018-01-11 | 2019-07-19 | 中兴通讯股份有限公司 | 一种主备中心数据实时同步方法、装置、系统及存储介质 |
CN108628688A (zh) * | 2018-03-30 | 2018-10-09 | 阿里巴巴集团控股有限公司 | 一种消息处理方法、装置及设备 |
CN108628688B (zh) * | 2018-03-30 | 2022-11-18 | 创新先进技术有限公司 | 一种消息处理方法、装置及设备 |
CN110719311B (zh) * | 2018-07-13 | 2022-03-18 | 深圳兆日科技股份有限公司 | 分布式协调服务方法、系统及计算机可读存储介质 |
CN110719311A (zh) * | 2018-07-13 | 2020-01-21 | 深圳兆日科技股份有限公司 | 分布式协调服务方法、系统及计算机可读存储介质 |
CN108845867A (zh) * | 2018-07-16 | 2018-11-20 | 郑州云海信息技术有限公司 | 一种分布式事务管理方法、装置、系统及存储介质 |
CN109391682A (zh) * | 2018-09-14 | 2019-02-26 | 联想(北京)有限公司 | 一种信息处理方法及服务器集群 |
CN109274604A (zh) * | 2018-09-29 | 2019-01-25 | 阿里巴巴集团控股有限公司 | 报文处理方法及系统 |
CN109274604B (zh) * | 2018-09-29 | 2021-12-07 | 创新先进技术有限公司 | 报文处理方法及系统 |
CN109687994A (zh) * | 2018-11-30 | 2019-04-26 | 北京奇艺世纪科技有限公司 | 一种消息处理方法、系统、装置及设备 |
CN111352943A (zh) * | 2018-12-24 | 2020-06-30 | 华为技术有限公司 | 实现数据一致性的方法和装置、服务器和终端 |
CN111385327A (zh) * | 2018-12-28 | 2020-07-07 | 阿里巴巴集团控股有限公司 | 数据处理方法和系统 |
CN111385327B (zh) * | 2018-12-28 | 2022-06-14 | 阿里巴巴集团控股有限公司 | 数据处理方法和系统 |
CN109739690A (zh) * | 2018-12-29 | 2019-05-10 | 平安科技(深圳)有限公司 | 备份方法及相关产品 |
CN109739690B (zh) * | 2018-12-29 | 2024-05-28 | 平安科技(深圳)有限公司 | 备份方法及相关产品 |
CN111800354B (zh) * | 2019-04-08 | 2022-06-14 | 中移(苏州)软件技术有限公司 | 消息处理方法及装置、消息处理设备及存储介质 |
CN111800354A (zh) * | 2019-04-08 | 2020-10-20 | 中移(苏州)软件技术有限公司 | 消息处理方法及装置、消息处理设备及存储介质 |
CN111818112A (zh) * | 2019-04-11 | 2020-10-23 | 中国移动通信集团四川有限公司 | 一种基于Kafka系统的发送消息的方法和装置 |
CN110224988B (zh) * | 2019-05-10 | 2023-04-07 | 视联动力信息技术股份有限公司 | 一种图像数据的处理方法、系统及装置和存储介质 |
CN110224988A (zh) * | 2019-05-10 | 2019-09-10 | 视联动力信息技术股份有限公司 | 一种图像数据的处理方法、系统及装置和存储介质 |
CN110262807A (zh) * | 2019-06-20 | 2019-09-20 | 北京百度网讯科技有限公司 | 集群创建进度日志采集系统、方法和装置 |
CN110262807B (zh) * | 2019-06-20 | 2023-12-26 | 北京百度网讯科技有限公司 | 集群创建进度日志采集系统、方法和装置 |
CN110247808B (zh) * | 2019-06-27 | 2024-04-09 | 深圳前海微众银行股份有限公司 | 信息发送方法、装置、设备及可读存储介质 |
CN110247808A (zh) * | 2019-06-27 | 2019-09-17 | 深圳前海微众银行股份有限公司 | 信息发送方法、装置、设备及可读存储介质 |
CN110413434A (zh) * | 2019-07-08 | 2019-11-05 | 合肥移瑞通信技术有限公司 | 服务器的异常识别方法及装置 |
US11715366B2 (en) | 2019-08-06 | 2023-08-01 | Zhejiang Dahua Technology Co., Ltd. | Systems and methods for alarm processing |
CN110780989B (zh) * | 2019-08-29 | 2023-03-24 | 腾讯科技(深圳)有限公司 | 一种过载保护方法、装置、设备及介质 |
CN110780989A (zh) * | 2019-08-29 | 2020-02-11 | 腾讯科技(深圳)有限公司 | 一种过载保护方法、装置、设备及介质 |
CN110601903B (zh) * | 2019-09-25 | 2022-04-01 | 广州荔支网络技术有限公司 | 一种基于消息队列中间件的数据处理方法及装置 |
CN110601903A (zh) * | 2019-09-25 | 2019-12-20 | 广州荔支网络技术有限公司 | 一种基于消息队列中间件的数据处理方法及装置 |
CN111031094B (zh) * | 2019-11-06 | 2022-07-12 | 远景智能国际私人投资有限公司 | IoT系统中的数据传输方法、装置、设备及存储介质 |
CN111031094A (zh) * | 2019-11-06 | 2020-04-17 | 远景智能国际私人投资有限公司 | IoT系统中的数据传输方法、装置、设备及存储介质 |
CN110661889A (zh) * | 2019-11-06 | 2020-01-07 | 杭州涂鸦信息技术有限公司 | 一种iOS端的推送消息同步与补偿方法及系统 |
CN113014608B (zh) * | 2019-12-19 | 2022-07-26 | 深圳云天励飞技术有限公司 | 一种流量分发控制方法、装置、电子设备及存储介质 |
CN113014608A (zh) * | 2019-12-19 | 2021-06-22 | 深圳云天励飞技术有限公司 | 一种流量分发控制方法、装置、电子设备及存储介质 |
CN111400056B (zh) * | 2019-12-31 | 2023-07-28 | 远景智能国际私人投资有限公司 | 基于消息队列的消息传输方法、装置及设备 |
CN111400056A (zh) * | 2019-12-31 | 2020-07-10 | 远景智能国际私人投资有限公司 | 基于消息队列的消息传输方法、装置及设备 |
CN111262923A (zh) * | 2020-01-14 | 2020-06-09 | 深圳壹账通智能科技有限公司 | 数据同步方法、装置、计算机设备及存储介质 |
CN111258822B (zh) * | 2020-01-15 | 2024-02-27 | 广州虎牙科技有限公司 | 数据处理方法、服务器和计算机可读存储介质 |
CN111258822A (zh) * | 2020-01-15 | 2020-06-09 | 广州虎牙科技有限公司 | 数据处理方法、服务器和计算机可读存储介质 |
CN111538600A (zh) * | 2020-02-25 | 2020-08-14 | 远景智能国际私人投资有限公司 | 消息处理方法、装置、计算机设备及存储介质 |
CN111538600B (zh) * | 2020-02-25 | 2023-09-12 | 远景智能国际私人投资有限公司 | 消息处理方法、装置、计算机设备及存储介质 |
WO2021174537A1 (zh) * | 2020-03-06 | 2021-09-10 | 深圳市欢太科技有限公司 | 数据传输方法及装置 |
CN111464628A (zh) * | 2020-03-31 | 2020-07-28 | 中国工商银行股份有限公司 | 多路复用异步处理系统及方法 |
CN111464628B (zh) * | 2020-03-31 | 2022-10-11 | 中国工商银行股份有限公司 | 多路复用异步处理系统及方法 |
CN111538602A (zh) * | 2020-04-17 | 2020-08-14 | 上海悦易网络信息技术有限公司 | 一种消息队列的消息转发方法及设备 |
CN111538602B (zh) * | 2020-04-17 | 2022-12-02 | 上海万物新生环保科技集团有限公司 | 一种消息队列的消息转发方法及设备 |
CN111611090A (zh) * | 2020-05-13 | 2020-09-01 | 浙江创邻科技有限公司 | 分布式消息处理方法及系统 |
CN111611090B (zh) * | 2020-05-13 | 2021-12-28 | 浙江创邻科技有限公司 | 分布式消息处理方法及系统 |
CN114138520A (zh) * | 2020-05-13 | 2022-03-04 | 浙江创邻科技有限公司 | 分布式消息处理方法及系统 |
CN113703954A (zh) * | 2020-05-21 | 2021-11-26 | 中移(苏州)软件技术有限公司 | 一种消息备份方法、装置、电子设备及计算机存储介质 |
CN111580998A (zh) * | 2020-06-12 | 2020-08-25 | 上海通联金融服务有限公司 | SaaS服务模式下多租户的RPC调用方法 |
CN111782428A (zh) * | 2020-08-20 | 2020-10-16 | 支付宝(杭州)信息技术有限公司 | 数据调用系统以及方法 |
CN111782428B (zh) * | 2020-08-20 | 2024-04-16 | 支付宝(杭州)信息技术有限公司 | 数据调用系统以及方法 |
CN112698965A (zh) * | 2020-12-25 | 2021-04-23 | 百度在线网络技术(北京)有限公司 | 用于实现消息队列的系统、方法及消息调度系统 |
CN112698965B (zh) * | 2020-12-25 | 2021-09-21 | 百度在线网络技术(北京)有限公司 | 用于实现消息队列的系统、方法及消息调度系统 |
CN113032492A (zh) * | 2021-04-21 | 2021-06-25 | 新奥数能科技有限公司 | 一种边缘端数据传输与存储的方法以及装置 |
CN113259430A (zh) * | 2021-05-11 | 2021-08-13 | 京东数字科技控股股份有限公司 | 一种消息调用方法和装置、电子设备及存储介质 |
CN113360319B (zh) * | 2021-05-14 | 2022-08-19 | 山东英信计算机技术有限公司 | 一种数据备份方法和装置 |
CN113360319A (zh) * | 2021-05-14 | 2021-09-07 | 山东英信计算机技术有限公司 | 一种数据备份方法和装置 |
CN113190371B (zh) * | 2021-05-18 | 2024-04-05 | 京东科技信息技术有限公司 | 一种任务补偿方法、装置、电子设备及可读存储介质 |
CN113190371A (zh) * | 2021-05-18 | 2021-07-30 | 京东数科海益信息科技有限公司 | 一种任务补偿方法、装置、电子设备及可读存储介质 |
CN113360053A (zh) * | 2021-05-28 | 2021-09-07 | 富途网络科技(深圳)有限公司 | 显示的控制方法、电子设备以及存储介质 |
CN113382065A (zh) * | 2021-06-08 | 2021-09-10 | 京东方科技集团股份有限公司 | 文件下载方法、装置、系统、设备及存储介质 |
CN114968611A (zh) * | 2021-07-13 | 2022-08-30 | 中移互联网有限公司 | 消息传输方法、消息服务器、终端及电子设备 |
CN114968611B (zh) * | 2021-07-13 | 2023-10-27 | 中移互联网有限公司 | 消息传输方法、消息服务器、终端及电子设备 |
CN113886329A (zh) * | 2021-10-13 | 2022-01-04 | 北京达佳互联信息技术有限公司 | 一种数据获取方法、装置、系统、设备及存储介质 |
CN114374705A (zh) * | 2022-01-06 | 2022-04-19 | 青岛海信智慧生活科技股份有限公司 | 服务集群和消息推送方法 |
CN114187999A (zh) * | 2022-02-17 | 2022-03-15 | 四川赛尔斯科技有限公司 | 一种医院统一支付管理平台及控制方法 |
CN114187999B (zh) * | 2022-02-17 | 2022-04-19 | 四川赛尔斯科技有限公司 | 一种医院统一支付管理平台及控制方法 |
CN114546956A (zh) * | 2022-02-21 | 2022-05-27 | 重庆紫光华山智安科技有限公司 | 海量小文件存储方法、装置、nfs服务节点和存储介质 |
CN114979233A (zh) * | 2022-07-19 | 2022-08-30 | 深圳市亿联无限科技有限公司 | 基于域套接字实现模块间同步和异步调用的方法和系统 |
CN115550361A (zh) * | 2022-09-20 | 2022-12-30 | 三未信安科技股份有限公司 | 一种基于消息队列的集群实现方法 |
CN116506450A (zh) * | 2023-06-27 | 2023-07-28 | 武汉吧哒科技股份有限公司 | 文件同步方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN106878473B (zh) | 2021-03-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106878473A (zh) | 一种消息处理方法、服务器集群及系统 | |
CN106406758B (zh) | 一种基于分布式存储系统的数据处理方法及存储设备 | |
CN104335159B (zh) | 用于间隔控制复制的方法、系统和设备 | |
CN106062717B (zh) | 一种分布式存储复制系统和方法 | |
CN107491343B (zh) | 一种基于云计算的跨集群资源调度系统 | |
CN103207867B (zh) | 处理数据块的方法、发起恢复操作的方法和节点 | |
CN107832138B (zh) | 一种扁平化的高可用namenode模型的实现方法 | |
CN109949111A (zh) | 电子票据标识分配方法、电子票据生成方法、装置及系统 | |
CN107769943B (zh) | 一种主备集群切换的方法和设备 | |
CN107870829A (zh) | 一种分布式数据恢复方法、服务器、相关设备及系统 | |
CN104079438B (zh) | Dns域名管理系统和方法 | |
CN109308227A (zh) | 故障检测控制方法及相关设备 | |
CN105955836A (zh) | 一种冷热备份自动演练多功能系统 | |
CN106484565A (zh) | 多数据中心间的数据同步方法及相关设备 | |
CN109614403B (zh) | 集群服务节点的数据一致性校验方法及装置 | |
CN111597197B (zh) | 数据库之间的数据对账方法和装置、存储介质及电子设备 | |
CN106302625B (zh) | 数据更新方法、装置及相关系统 | |
CN107623703A (zh) | 全局事务标识gtid的同步方法、装置及系统 | |
CN108762982B (zh) | 一种数据库恢复方法、装置及系统 | |
CN108600284A (zh) | 一种基于Ceph的虚拟机高可用实现方法及系统 | |
US20230004465A1 (en) | Distributed database system and data disaster backup drilling method | |
CN114760240B (zh) | 数据传输的方法、装置、电子设备及计算机可读存储介质 | |
CN106656522A (zh) | 跨数据中心的数据计算方法及系统 | |
CN113051428B (zh) | 一种摄像机前端存储备份的方法及装置 | |
CN111404737A (zh) | 一种容灾处理方法以及相关装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |