CN111459398B - 一种分布式系统的数据处理方法和装置 - Google Patents
一种分布式系统的数据处理方法和装置 Download PDFInfo
- Publication number
- CN111459398B CN111459398B CN201910058733.3A CN201910058733A CN111459398B CN 111459398 B CN111459398 B CN 111459398B CN 201910058733 A CN201910058733 A CN 201910058733A CN 111459398 B CN111459398 B CN 111459398B
- Authority
- CN
- China
- Prior art keywords
- data processing
- request
- type
- data
- shared storage
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 16
- 238000000034 method Methods 0.000 claims abstract description 37
- 238000007405 data analysis Methods 0.000 claims description 39
- 238000004590 computer program Methods 0.000 claims description 9
- 238000004458 analytical method Methods 0.000 claims description 5
- 230000003993 interaction Effects 0.000 abstract description 5
- 238000010586 diagram Methods 0.000 description 20
- 230000004044 response Effects 0.000 description 11
- 230000006870 function Effects 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 4
- 238000003491 array Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 239000010949 copper Substances 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000011022 operating instruction Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开涉及一种分布式系统的数据处理方法和装置。该方法包括:接收数据处理请求;确定所述数据处理请求的请求类型;将所述数据处理请求发送至与所述请求类型对应的数据处理节点。本公开可以隔离不同请求类型的数据处理请求对应的数据处理节点,避免不同请求类型的数据处理请求之间的相互影响。
Description
技术领域
本公开涉及计算机技术领域,尤其涉及一种分布式系统的数据处理方法和装置。
背景技术
基于分布式数据库进行数据处理时,由于不同数据处理请求面向的业务类型、调用频率、延迟要求,以及需要占用的资源大小等可能均不相同。例如,面向在线业务的实时查询,调用频次高,要求延迟低并且稳定;面向离线业务的复杂分析,调用频次低,对延迟要求不高。目前,基于分布式数据库进行数据处理时,对不同数据请求进行数据处理时可能会相互干扰,导致影响前端业务正常运行。因此,亟需一种有效的分布式系统的数据处理方法。
发明内容
有鉴于此,本公开提出了一种分布式系统的数据处理方法和装置,使得可以隔离不同请求类型的数据处理请求对应的数据处理节点,避免不同请求类型的数据处理请求之间的相互影响。
根据本公开的第一方面,提供了一种分布式系统的数据处理方法,包括:接收数据处理请求;确定所述数据处理请求的请求类型;将所述数据处理请求发送至与所述请求类型对应的数据处理节点。
在一种可能的实现方式中,所述请求类型包括:OLTP类型和OLAP类型;将所述数据处理请求发送至与所述请求类型对应的数据处理节点,包括:当所述请求类型为OLTP类型时,将所述数据处理请求发送至第一类数据处理节点;当所述请求类型为OLAP类型时,将所述数据处理请求发送至第二类数据处理节点。
在一种可能的实现方式中,所述方法还包括:在将所述数据处理请求发送至所述第一类数据处理节点以后,所述第一类数据处理节点响应所述数据处理请求,基于分布式共享存储数据库执行OLTP操作;在将所述数据处理请求发送至所述第二类数据处理节点以后,所述第二类数据处理节点响应所述数据处理请求,通过读取所述分布式共享存储数据库中的数据,执行OLAP操作。
在一种可能的实现方式中,所述数据处理请求为数据写入请求,所述数据写入请求的请求类型为OLTP类型;在将所述数据处理请求发送至所述第一类数据处理节点以后,所述第一类数据处理节点响应所述数据处理请求,基于分布式共享存储数据库执行OLTP操作,包括:在将所述数据写入请求发送至所述第一类数据处理节点以后,所述第一类数据处理节点响应所述数据写入请求,将与所述数据写入请求对应的数据写入所述分布式共享存储数据库。
在一种可能的实现方式中,所述数据处理请求为实时查询请求,所述实时查询请求的请求类型为OLTP类型;在将所述数据处理请求发送至所述第一类数据处理节点以后,所述第一类数据处理节点响应所述数据处理请求,基于分布式共享存储数据库执行OLTP操作,包括:在将所述实时查询请求发送至所述第一类数据处理节点以后,所述第一类数据处理节点响应所述实时查询请求,在所述分布式共享存储数据库中读取与所述实时查询请求对应的数据。
在一种可能的实现方式中,所述数据处理请求为数据分析请求,所述数据分析请求的请求类型为OLAP类型;在将所述数据处理请求发送至所述第二类数据处理节点以后,所述第二类数据处理节点响应所述数据处理请求,通过读取所述分布式共享存储数据库中的数据,执行OLAP操作,包括:在将所述数据分析请求发送至所述第二类数据处理节点以后,所述第二类数据处理节点响应所述数据分析请求,在所述分布式共享存储数据库中读取与所述数据分析请求对应的数据,对读取到的数据进行数据分析处理。
在一种可能的实现方式中,所述方法还包括:当待处理的OLAP类型的数据处理请求大于第一数目时,新增第二数目的第二类数据处理节点。
在一种可能的实现方式中,所述方法还包括:当所述待处理的OLAP类型的数据处理请求处理完成时,删除新增的所述第二数目的第二类数据处理节点。
在一种可能的实现方式中,确定所述数据处理请求的请求类型,包括:确定所述数据处理请求的处理优先级;根据所述处理优先级,确定所述请求类型。
根据本公开的第二方面,提供了一种分布式系统的数据处理装置,包括:接收模块,用于接收数据处理请求;确定模块,用于确定所述数据处理请求的请求类型;发送模块,用于将所述数据处理请求发送至与所述请求类型对应的数据处理节点。
在一种可能的实现方式中,所述请求类型包括:OLTP类型和OLAP类型;所述发送模块具体用于:当所述请求类型为OLTP类型时,将所述数据处理请求发送至第一类数据处理节点;当所述请求类型为OLAP类型时,将所述数据处理请求发送至第二类数据处理节点。
在一种可能的实现方式中,所述第一类数据处理节点,用于在接收到所述数据处理请求以后,响应所述数据处理请求,基于分布式共享存储数据库执行OLTP操作;所述第二类数据处理节点,用于在接收到所述数据处理请求以后,响应所述数据处理请求,通过读取所述分布式共享存储数据库中的数据,执行OLAP操作。
在一种可能的实现方式中,所述数据处理请求为数据写入请求,所述数据写入请求的请求类型为OLTP类型;所述第一类数据处理节点具体用于:在将所述数据写入请求发送至所述第一类数据处理节点以后,控制所述第一类数据处理节点响应所述数据写入请求,将与所述数据写入请求对应的数据写入所述分布式共享存储数据库。
在一种可能的实现方式中,所述数据处理请求为实时查询请求,所述实时查询请求的请求类型为OLTP类型;所述第一类数据处理节点模块具体用于:在接收到所述数据实时查询请求以后,响应所述实时查询请求,在所述分布式共享存储数据库中读取与所述实时查询请求对应的数据。
在一种可能的实现方式中,所述数据处理请求为数据分析请求,所述数据分析请求的请求类型为OLAP类型;所述第二类数据处理节点具体用于:在接收到所述数据分析请求以后,响应所述数据分析请求,在所述分布式共享存储数据库中读取与所述数据分析请求对应的数据,对读取到的数据进行数据分析。
在一种可能的实现方式中,所述装置还包括:节点扩展模块,用于当待处理的OLAP类型的数据处理请求大于第一数目时,新增第二数目的第二类数据处理节点。
在一种可能的实现方式中,所述节点扩展模块,还用于当所述待处理的OLAP类型的数据处理请求处理完成时,删除新增的所述第二数目的第二类数据处理节点。
在一种可能的实现方式中,所述确定模块包括:第一确定子模块,用于确定所述数据处理请求的处理优先级;第二确定子模块,用于根据所述处理优先级,确定所述请求类型。
根据本公开的第三方面,提供了一种分布式系统的数据处理装置,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为执行上述第一方面所述的分布式系统的数据处理方法。
根据本公开的第四方面,提供了一种非易失性计算机可读存储介质,其上存储有计算机程序指令,其中,所述计算机程序指令被处理器执行时实现上述第一方面所述的分布式系统的数据处理方法。
根据本公开的第五方面,提供了一种分布式系统的数据处理系统,包括:前端机、第一类数据处理节点、第二类数据处理节点和分布式共享存储数据库;所述前端机,用于接收数据处理请求,确定所述数据处理请求的请求类型,以及将所述数据处理请求发送至与所述请求类型对应的数据处理节点;所述第一类数据处理节点,用于在接收到所述数据处理请求以后,响应所述数据处理请求,基于所述分布式共享存储数据库执行OLTP操作;所述第二类数据处理节点,用于在接收到所述数据处理请求以后,响应所述数据处理请求,通过读取所述分布式共享存储数据库中的数据,执行OLAP操作。
在接收到数据处理请求之后,通过确定数据处理请求的请求类型,将数据处理请求发送至与请求类型对应的数据处理节点,使得可以隔离不同请求类型的数据处理请求对应的数据处理节点,避免不同请求类型的数据处理请求之间的相互影响。
根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面,并且用于解释本公开的原理。
图1示出本公开一实施例的分布式系统的数据处理方法的流程示意图;
图2示出本公开一实施例的分布式系统的数据处理系统的示意图;
图3示出本公开一实施例的分布式系统的数据处理方法的示意图;
图4示出本公开一实施例的分布式系统的数据处理装置的结构示意图;
图5示出本公开一实施例的电子设备的结构示意图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。所属领域技术人员可以理解,和/或表示所连接对象的至少其中之一。
另外,为了更好的说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
图1示出本公开一实施例的分布式系统的数据处理方法的流程示意图。如图1所示,该方法可以包括:
步骤S11,接收数据处理请求。
步骤S12,确定数据处理请求的请求类型。
步骤S13,将数据处理请求发送至与请求类型对应的数据处理节点。
在一种可能的实现方式中,请求类型包括:联机事务处理(OLTP,On-lineTransaction Processing)类型和联机分析处理(OLAP,On-Line Analytical Processing)类型;将数据处理请求发送至与请求类型对应的数据处理节点,包括:当请求类型为OLTP类型时,将数据处理请求发送至第一类数据处理节点;当请求类型为OLAP类型时,将数据处理请求发送至第二类数据处理节点。
在一种可能的实现方式中,还包括:在将数据处理请求发送至第一类数据处理节点以后,第一类数据处理节点响应数据处理请求,基于分布式共享存储数据库执行OLTP操作;在将数据处理请求发送至第二类数据处理节点以后,第二类数据处理节点响应数据处理请求,通过读取分布式共享存储数据库中的数据,执行OLAP操作。
实际应用中,数据处理大致可以分成两类:OLTP和OLAP。OLTP是传统的关系型数据库的主要应用,主要是基本的、日常的事务处理,例如,数据的增、删、改、查。OLTP一般应用于在线业务,调用频次高,要求延迟低且稳定。OLAP是数据仓库系统的主要应用,支持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果。OLAP一般应用于离线计算,调用频次低,对延迟要求不高。
目前,分布式多模型数据库系统可以兼具OLTP和OLAP的能力。但是,由于OLAP在执行时常常会占用大量资源,例如,内存和中央处理器(CPU,Central Processing Unit)。当系统中的某一数据处理节点同时执行OLTP和OLAP时,如果OLAP占用资源过多,将严重影响OLTP的正常执行。
根据数据请求的请求类型,将数据处理节点进行分类,第一类数据处理节点基于分布式共享存储数据库执行OLTP操作(与存储相关的增、删、改、查操作),利用分布式共享存储数据库的特性,可以确保第二类数据处理节点能够读取分布式共享存储数据库中的数据执行OLAP操作,而不需要单独进行数据存储,从而实现数据处理节点的分类隔离,使得不同请求类型的数据处理请求之间不会相互影响。
图2示出本公开一实施例的分布式系统的数据处理系统的示意图。如图2所示,该系统可以包括:前端机、第一类数据处理节点、第二类数据处理节点和分布式共享存储数据库;前端机,用于接收数据处理请求,确定数据处理请求的请求类型,以及将数据处理请求发送至与请求类型对应的数据处理节点;第一类数据处理节点,用于在接收到数据处理请求以后,响应数据处理请求,基于分布式共享存储数据库执行OLTP操作;第二类数据处理节点,用于在接收到数据处理请求以后,响应数据处理请求,通过读取分布式共享存储数据库中的数据,执行OLAP操作。
其中,前端机可以为分布式系统中的一组数据处理节点,仅用于接收应用程序发送的数据处理请求,以及确定数据处理请求的请求类型,进而将数据处理请求转发至第一类数据处理节点或第二类数据处理节点,而不执行数据处理操作。分布式共享存储数据库中包括多个用于存储数据的存储节点。
图3示出本公开一实施例的分布式系统的数据处理方法的示意图。如图3所示,该方法可以包括:
步骤S31,前端机接收用户通过应用程序发送的数据处理请求。
步骤S32,前端机对接收到的数据处理请求进行解析,判断数据处理请求的请求类型是否为OLAP类型。若否,则跳转执行步骤S33;若是,则跳转执行步骤S34。
步骤S33,前端机将数据处理请求发送至第一类数据处理节点,并跳转执行步骤S35。
步骤S34,前端机将数据处理请求发送至第二类数据处理节点,并跳转执行步骤S36。
步骤S35,第一类数据处理节点基于分布式共享存储数据库执行OLTP操作;
步骤S36,第二类数据处理节点通过读取分布式共享存储数据库中的数据,执行OLAP操作。
通过将数据处理节点划分为第一类数据处理节点和第二类数据处理节点,使得不同类数据处理节点执行与之对应的数据处理请求,从而可以避免不同请求类型的数据处理请求之间的相互影响。
在一种可能的实现方式中,数据处理请求为数据写入请求,数据写入请求的请求类型为OLTP类型;在将数据处理请求发送至第一类数据处理节点以后,第一类数据处理节点响应数据处理请求,基于分布式共享存储数据库执行OLTP操作,包括:在将数据写入请求发送至第一类数据处理节点以后,第一类数据处理节点响应数据写入请求,将与数据写入请求对应的数据写入分布式共享存储数据库。
例如,前端机接收到用户通过应用程序发送的第一数据处理请求,通过对第一数据处理请求进行解析,确定第一数据处理请求为用于执行数据写入操作的数据写入请求,数据写入请求的请求类型为OLTP类型,则前端机将数据写入请求发送至第一类数据处理节点,进而第一类数据处理节点响应数据写入请求,将与数据写入请求对应的数据写入分布式共享存储数据库。根据分布式共享存储数据库的特性,写入分布式共享存储数据库的数据,第一类数据处理节点和第二类数据处理节点均可查询访问。
在一种可能的实现方式中,数据处理请求为实时查询请求,实时查询请求的请求类型为OLTP类型;在将数据处理请求发送至第一类数据处理节点以后,第一类数据处理节点响应数据处理请求,基于分布式共享存储数据库执行OLTP操作,包括:在将实时查询请求发送至第一类数据处理节点以后,第一类数据处理节点响应实时查询请求,在分布式共享存储数据库中读取与实时查询请求对应的数据。
例如,前端机接收到用户通过应用程序发送的第二数据处理请求,通过对第二数据处理请求进行解析,确定第二数据处理请求为用于执行实时查询操作的实时查询请求,实时查询请求的请求类型为OLTP类型,则前端机将实时查询请求发送至第一类数据处理节点,进而第一类数据处理节点响应实时查询请求,在分布式共享存储数据库中读取与实时查询请求对应的数据,并将读取到的数据返回应用程序。
在一种可能的实现方式中,数据处理请求为数据分析请求,数据分析请求的请求类型为OLAP类型;在将数据处理请求发送至第二类数据处理节点以后,第二类数据处理节点响应数据处理请求,通过读取分布式共享存储数据库中的数据,执行OLAP操作,包括:在将数据分析请求发送至第二类数据处理节点以后,第二类数据处理节点响应数据分析请求,在分布式共享存储数据库中读取与数据分析请求对应的数据,对读取到的数据进行数据分析处理。
例如,前端机接收到用户通过应用程序发送的第三数据处理请求,通过对第三数据处理请求进行解析,确定第三数据处理请求为用于执行数据分析操作的数据分析请求,数据分析请求的请求类型为OLAP类型,则前端机将数据分析请求发送至第二类数据处理节点,进而第二类数据处理节点响应数据分析请求,在分布式共享存储数据库中读取与数据分析请求对应的数据,并对读取到的数据进行数据分析处理得到分析结果,进而将分析结果返回应用程序。
除了可以根据OLTP类型和OLAP类型,将数据处理节点划分为第一类数据处理节点和第二类数据处理节点之外,还可以采用其它划分方式,本公开对此不作具体限定。
在一种可能的实现方式中,确定数据处理请求的请求类型,包括:确定数据处理请求的处理优先级;根据处理优先级,确定请求类型。
前端机接收到数据处理请求之后,通过解析数据处理请求,可以确定该数据处理请求的处理优先级,进而根据其处理优先级,确定其请求类型。例如,第一优先级类型、第二优先级类型等。
在一种可能的实现方式中,还包括:当待处理的OLAP类型的数据处理请求大于第一数目时,新增第二数目的第二类数据处理节点。
在一种可能的实现方式中,还包括:当待处理的OLAP类型的数据处理请求处理完成时,删除新增的第二数目的第二类数据处理节点。
根据分布式系统中存储与计算分离的架构,当待处理的OLAP类型的数据处理请求较多(大于第一数目)时,可以按需动态扩展第二数目的第二类数据处理节点来执行OLAP操作,而无需在新增的第二类数据处理节点中进行数据复制,并在OLAP类型的数据处理请求执行完成之后,释放新增加的第二类数据处理节点,既可以实现计算资源的动态扩展,又可以节约增加存储资源的成本。本公开对第一数目和第二数目的具体取值不作限定。
在接收到数据处理请求以后,通过确定数据处理请求的请求类型,将数据处理请求发送至与请求类型对应的数据处理节点,使得可以隔离不同请求类型的数据处理请求对应的数据处理节点,避免不同请求类型的数据处理请求之间的相互影响。
图4为本公开一实施例的分布式系统的数据处理装置的结构示意图。装置40可以用于执行上述图1所示方法实施例的步骤,装置40包括:
接收模块41,用于接收数据处理请求;
确定模块42,用于确定数据处理请求的请求类型;
发送模块43,用于将数据处理请求发送至与请求类型对应的数据处理节点。
在一种可能的实现方式中,请求类型包括:OLTP类型和OLAP类型;
发送模块43具体用于:
当请求类型为OLTP类型时,将数据处理请求发送至第一类数据处理节点;
当请求类型为OLAP类型时,将数据处理请求发送至第二类数据处理节点。
在一种可能的实现方式中,第一类数据处理节点,用于在接收到数据处理请求以后,响应数据处理请求,基于分布式共享存储数据库执行OLTP操作;
第二类数据处理节点,用于在接收到数据处理请求以后,响应数据处理请求,通过读取分布式共享存储数据库中的数据,执行OLAP操作。
在一种可能的实现方式中,数据处理请求为数据写入请求,所述数据写入请求的请求类型为OLTP类型;
第一类数据处理节点具体用于:
在接收到数据写入请求以后,响应数据写入请求,将与数据写入请求对应的数据写入分布式共享存储数据库。
在一种可能的实现方式中,数据处理请求为实时查询请求,实时查询请求的请求类型为OLTP类型;
第一类数据处理节点具体用于:
在接收到实时查询请求以后,响应实时查询请求,在分布式共享存储数据库中读取与实时查询请求对应的数据。
在一种可能的实现方式中,数据处理请求为数据分析请求,数据分析请求的请求类型为OLAP类型;
第二类数据处理节点具体用于:
在接收到数据分析请求以后,响应数据分析请求,在分布式共享存储数据库中读取与数据分析请求对应的数据,对读取到的数据进行数据分析。
在一种可能的实现方式中,装置40还包括:
节点扩展模块,用于当待处理的OLAP类型的数据处理请求大于第一数目时,新增第二数目的第二类数据处理节点。
在一种可能的实现方式中,节点扩展模块,还用于当待处理的OLAP类型的数据处理请求处理完成时,删除新增的第二数目的第二类数据处理节点。
在一种可能的实现方式中,确定模块41包括:第一确定子模块,用于确定数据处理请求的处理优先级;第二确定子模块,用于根据处理优先级,确定请求类型。
本公开提供的装置40能够实现图1所示方法实施例中的各个步骤,并实现相同的技术效果,为避免重复,这里不再赘述。
图5示出本公开一实施例的电子设备的结构示意图。如图5所示,在硬件层面,该电子设备包括处理器,可选地还包括内部总线、网络接口、存储器。其中,存储器可能包含内存,例如高速随机存取存储器(Random-Access Memory,RAM),也可能还包括非易失性存储器(non-volatile memory),例如至少1个磁盘存储器等。当然,该电子设备还可能包括其他业务所需要的硬件。
处理器、网络接口和存储器可以通过内部总线相互连接,该内部总线可以是ISA(Industry Standard Architecture,工业标准体系结构)总线、PCI(PeripheralComponent Interconnect,外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture,扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图5中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
存储器,存放程序。具体地,程序可以包括程序代码,所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器,并向处理器提供指令和数据。
处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,在逻辑层面上形成分布式系统的数据处理装置。处理器,执行存储器所存放的程序,并具体执行图1所示方法实施例的步骤。
上述如图1所示方法可以应用于处理器中,或者由处理器实现。处理器可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(ApplicationSpecific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable GateArray,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本说明书实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本说明书实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法的步骤。
该电子设备可执行图1所示方法实施例执行的方法,并实现上述图1所示方法实施例的功能,本说明书实施例在此不再赘述。
本说明书实施例还提出了一种计算机可读存储介质,该计算机可读存储介质存储一个或多个程序,该一个或多个程序包括指令,该指令当被包括多个应用程序的电子设备执行时,能够使该电子设备执行图1所示实施例中的分布式系统的数据处理方法,并具体执行图1所示方法实施例的步骤。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (19)
1.一种分布式系统的数据处理方法,其特征在于,所述方法包括:
接收数据处理请求;
确定所述数据处理请求的请求类型;
将所述数据处理请求发送至与所述请求类型对应的数据处理节点,以使所述数据处理节点基于分布式共享存储数据库执行与所述数据处理请求相应的操作,其中,不同请求类型对应不同的数据处理节点,不同数据处理节点基于同一所述分布式共享存储数据库执行与数据处理请求相应的操作。
2.根据权利要求1所述的方法,其特征在于,所述不同请求类型包括:联机事务处理OLTP类型和联机分析处理OLAP类型;
将所述数据处理请求发送至与所述请求类型对应的数据处理节点,包括:
当所述请求类型为OLTP类型时,将所述数据处理请求发送至第一类数据处理节点,以使所述第一类数据处理节点基于分布式共享存储数据库,执行与所述数据处理请求相应的OLTP操作;
当所述请求类型为OLAP类型时,将所述数据处理请求发送至第二类数据处理节点,以使所述第二类数据处理节点通过读取所述分布式共享存储数据库中的数据,执行与所述数据处理请求相应的OLAP操作。
3.根据权利要求2所述的方法,其特征在于,所述数据处理请求为数据写入请求,所述数据写入请求的请求类型为OLTP类型;
所述第一类数据处理节点基于分布式共享存储数据库,执行与所述数据处理请求相应的OLTP操作,包括:
所述第一类数据处理节点将与所述数据写入请求对应的数据写入所述分布式共享存储数据库。
4.根据权利要求2所述的方法,其特征在于,所述数据处理请求为实时查询请求,所述实时查询请求的请求类型为OLTP类型;
所述第一类数据处理节点基于分布式共享存储数据库,执行与所述数据处理请求相应的OLTP操作,包括:
所述第一类数据处理节点在所述分布式共享存储数据库中读取与所述实时查询请求对应的数据。
5.根据权利要求2所述的方法,其特征在于,所述数据处理请求为数据分析请求,所述数据分析请求的请求类型为OLAP类型;
所述第二类数据处理节点通过读取所述分布式共享存储数据库中的数据,执行与所述数据处理请求相应的OLAP操作,包括:
所述第二类数据处理节点,在所述分布式共享存储数据库中读取与所述数据分析请求对应的数据,对读取到的数据进行数据分析处理。
6.根据权利要求2所述的方法,其特征在于,所述方法还包括:
当待处理的OLAP类型的数据处理请求大于第一数目时,新增第二数目的第二类数据处理节点。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
当所述待处理的OLAP类型的数据处理请求处理完成时,删除新增的所述第二数目的第二类数据处理节点。
8.根据权利要求1所述的方法,其特征在于,确定所述数据处理请求的请求类型,包括:
确定所述数据处理请求的处理优先级;
根据所述处理优先级,确定所述请求类型。
9.一种分布式系统的数据处理装置,其特征在于,包括:
接收模块,用于接收数据处理请求;
确定模块,用于确定所述数据处理请求的请求类型;
发送模块,用于将所述数据处理请求发送至与所述请求类型对应的数据处理节点,以使所述数据处理节点基于分布式共享存储数据库执行与对所述数据处理请求相应的操作,其中,不同请求类型对应不同的数据处理节点,不同数据处理节点基于同一所述分布式共享存储数据库执行与数据处理请求相应的操作。
10.根据权利要求9所述的装置,其特征在于,所述不同请求类型包括:OLTP类型和OLAP类型;
所述发送模块具体用于:
当所述请求类型为OLTP类型时,将所述数据处理请求发送至第一类数据处理节点,以使所述第一类数据处理节点基于分布式共享存储数据库,执行与所述数据处理请求相应的OLTP操作;
当所述请求类型为OLAP类型时,将所述数据处理请求发送至第二类数据处理节点,以使所述第二类数据处理节点通过读取所述分布式共享存储数据库中的数据,执行与所述数据处理请求相应的OLAP操作。
11.根据权利要求10所述的装置,其特征在于,所述数据处理请求为数据写入请求,所述数据写入请求的请求类型为OLTP类型;
所述第一类数据处理节点具体用于:将与所述数据写入请求对应的数据写入所述分布式共享存储数据库。
12.根据权利要求10所述的装置,其特征在于,所述数据处理请求为实时查询请求,所述实时查询请求的请求类型为OLTP类型;
所述第一类数据处理节点具体用于:在所述分布式共享存储数据库中读取与所述实时查询请求对应的数据。
13.根据权利要求10所述的装置,其特征在于,所述数据处理请求为数据分析请求,所述数据分析请求的请求类型为OLAP类型;
所述第二类数据处理节点具体用于:在所述分布式共享存储数据库中读取与所述数据分析请求对应的数据,对读取到的数据进行数据分析处理。
14.根据权利要求10所述的装置,其特征在于,所述装置还包括:
节点扩展模块,用于当待处理的OLAP类型的数据处理请求大于第一数目时,新增第二数目的第二类数据处理节点。
15.根据权利要求14所述的装置,其特征在于,
所述节点扩展模块,还用于当所述待处理的OLAP类型的数据处理请求处理完成时,删除新增的所述第二数目的第二类数据处理节点。
16.根据权利要求9所述的装置,其特征在于,所述确定模块包括:
第一确定子模块,用于确定所述数据处理请求的处理优先级;
第二确定子模块,用于根据所述处理优先级,确定所述请求类型。
17.一种分布式系统的数据处理装置,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行权利要求1-8任一项所述的分布式系统的数据处理方法。
18.一种非易失性计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1-8任一项所述的分布式系统的数据处理方法。
19.一种分布式系统的数据处理系统,其特征在于,包括:前端机、第一类数据处理节点、第二类数据处理节点和分布式共享存储数据库;
所述前端机,用于接收数据处理请求,确定所述数据处理请求的请求类型,以及将所述数据处理请求发送至与所述请求类型对应的数据处理节点,以使所述数据处理节点基于分布式共享存储数据库执行与所述数据处理请求相应的操作,其中,不同请求类型对应不同的数据处理节点,不同数据处理节点基于同一所述分布式共享存储数据库执行与数据处理请求相应的操作;
所述第一类数据处理节点,用于在接收到所述数据处理请求以后,基于所述分布式共享存储数据库,执行与所述数据处理请求相应的OLTP操作;
所述第二类数据处理节点,用于在接收到所述数据处理请求以后,通过读取所述分布式共享存储数据库中的数据,执行与所述数据处理请求相应的OLAP操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910058733.3A CN111459398B (zh) | 2019-01-22 | 2019-01-22 | 一种分布式系统的数据处理方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910058733.3A CN111459398B (zh) | 2019-01-22 | 2019-01-22 | 一种分布式系统的数据处理方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111459398A CN111459398A (zh) | 2020-07-28 |
CN111459398B true CN111459398B (zh) | 2024-04-02 |
Family
ID=71678905
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910058733.3A Active CN111459398B (zh) | 2019-01-22 | 2019-01-22 | 一种分布式系统的数据处理方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111459398B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016085488A1 (en) * | 2014-11-26 | 2016-06-02 | Hewlett Packard Enterprise Development Lp | Database transfer of changes |
CN107122371A (zh) * | 2016-02-25 | 2017-09-01 | 伊姆西公司 | 用于数据处理的方法和装置 |
CN108551478A (zh) * | 2018-03-29 | 2018-09-18 | 中国银联股份有限公司 | 一种事务处理方法、服务器及事务处理系统 |
CN108595451A (zh) * | 2017-12-04 | 2018-09-28 | 阿里巴巴集团控股有限公司 | 业务请求处理方法及装置 |
-
2019
- 2019-01-22 CN CN201910058733.3A patent/CN111459398B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016085488A1 (en) * | 2014-11-26 | 2016-06-02 | Hewlett Packard Enterprise Development Lp | Database transfer of changes |
CN107122371A (zh) * | 2016-02-25 | 2017-09-01 | 伊姆西公司 | 用于数据处理的方法和装置 |
CN108595451A (zh) * | 2017-12-04 | 2018-09-28 | 阿里巴巴集团控股有限公司 | 业务请求处理方法及装置 |
CN108551478A (zh) * | 2018-03-29 | 2018-09-18 | 中国银联股份有限公司 | 一种事务处理方法、服务器及事务处理系统 |
Non-Patent Citations (2)
Title |
---|
Knowledge Management in Distributed Data Source Environments;Manoj Manuja;IEEE;20090331;全文 * |
基于ODS的多遗留系统信息集成架构;夏秀峰;安云哲;周大海;刘启文;;沈阳航空工业学院学报;20070615(第03期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN111459398A (zh) | 2020-07-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108846749B (zh) | 一种基于区块链技术的分片化的交易执行系统及方法 | |
CN107070858B (zh) | 一种业务处理方法及装置 | |
CN109359118B (zh) | 一种数据写入方法及装置 | |
WO2016101659A1 (zh) | 一种业务数据查询方法及装置、数据库系统 | |
CN107480205B (zh) | 一种进行数据分区的方法和装置 | |
CN110019496B (zh) | 数据读写方法和系统 | |
US20200204688A1 (en) | Picture book sharing method and apparatus and system using the same | |
CN107528885B (zh) | 一种业务请求处理方法及装置 | |
CN111737564A (zh) | 一种信息查询方法、装置、设备及介质 | |
CN109815241B (zh) | 数据查询方法、装置、设备和存储介质 | |
CN110069217B (zh) | 一种数据存储方法及装置 | |
CN111694992B (zh) | 一种数据处理方法和装置 | |
CN109901991B (zh) | 一种分析异常调用的方法、装置和电子设备 | |
CN111459398B (zh) | 一种分布式系统的数据处理方法和装置 | |
CN113515576A (zh) | 数据处理方法、装置、电子设备和计算机可读介质 | |
US9747106B1 (en) | Allocating multiple operand data areas of a computer instruction within a program buffer | |
CN111722785B (zh) | 一种缓存更新方法和装置 | |
CN111460273B (zh) | 信息推送方法和装置 | |
CN111459411B (zh) | 数据迁移方法、装置、设备及存储介质 | |
CN106375426A (zh) | 获取信息的方法和系统 | |
US20210042334A1 (en) | Multi-cloud object store access | |
CN112953996A (zh) | 服务方法及其系统 | |
CN113760981B (zh) | 一种数据查询方法和装置 | |
CN112862554A (zh) | 一种订单数据的处理方法和装置 | |
CN116431523B (zh) | 一种测试数据管理方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |