CN113965563A - 基于模型的业务处理方法及装置、服务器 - Google Patents

Abstract

本申请公开了一种基于模型的业务处理方法及装置、服务器，该方法包括：转发服务节点通过接口服务节点获取业务终端的业务处理请求消息，业务处理请求消息中携带业务模型标识；转发服务节点从模型运行集群资源池中获取各个业务处理服务节点的节点信息，根据各个业务处理服务节点的节点信息，从各个业务处理服务节点中确定出目标业务处理服务节点；转发服务节点向目标业务处理服务节点转发业务处理请求消息；转发服务节点接收目标业务处理节点反馈的业务处理请求对应的业务处理结果，并通过接口服务节点向业务终端转发业务处理结果。采用本申请，可以提高模型运行集群资源池的资源利用率，提高业务处理效率。

Description

基于模型的业务处理方法及装置、服务器

技术领域

本申请涉及网络技术领域，尤其涉及一种基于模型的业务处理方法及装置、服务器。

背景技术

随着业务场景的不断增加，模型也随之增加，使得模型运行集群资源池管理成为重点关注问题。现有的大部分模型都是企业根据业务场景买一批应用或者设备，各个应用之间的设备与资源之间不连通，使得资源无法根据业务场景的变化实现动态调整。举例来说，当一个应用的现有资源无法满足其需求，即使其他应用的资源处于闲置状态，企业也只能通过继续购买新设备的方式去满足前者应用的资源需求，从而导致资源浪费和利用率低下的问题。此外，现有技术中往往采用旧的C端模型系统去运行模型，由于该系统中只有一个节点用来运行模型，并且节点庞大，容易出现由于单个节点故障导致整个系统不可用的情况。

发明内容

本申请提供一种基于模型的业务处理方法及装置、服务器、存储介质，可提高模型运行集群资源池的资源利用率，提高业务处理效率。

第一方面，本申请提供了一种基于模型的业务处理方法，包括：

转发服务节点通过接口服务节点获取业务终端的业务处理请求消息，上述业务处理请求消息中携带业务模型标识；

上述转发服务节点从模型运行集群资源池中获取各个业务处理服务节点的节点信息，根据上述各个业务处理服务节点的节点信息，从上述各个业务处理服务节点中确定出目标业务处理服务节点；

上述转发服务节点向上述目标业务处理服务节点转发上述业务处理请求消息，以通过上述目标业务处理节点确定上述业务模型标识所标识的目标业务模型并通过上述目标业务模型响应上述业务处理请求消息的业务处理请求；

上述转发服务节点接收上述目标业务处理节点反馈的上述业务处理请求对应的业务处理结果，并通过上述接口服务节点向上述业务终端转发上述业务处理结果。

结合第一方面，在一种可能的实施方式中，上述转发服务节点通过接口服务节点获取业务终端的业务处理请求消息，包括：

转发服务节点从消息队列中获取业务终端的业务处理请求消息，其中，上述业务处理请求消息由接口服务节点生成并存储至上述消息队列。

结合第一方面，在一种可能的实施方式中，上述各个业务处理服务节点的节点信息包括上述各个业务处理服务节点的业务处理请求处理进度；

上述根据上述各个业务处理服务节点的节点信息，从上述各个业务处理服务节点中确定出目标业务处理服务节点，包括：

上述转发服务节点根据上述各个业务处理服务节点的业务处理请求处理进度，从上述各个业务处理服务节点中确定出业务处理请求处理进度最快的业务处理服务节点作为目标业务处理服务节点。

结合第一方面，在一种可能的实施方式中，上述各个业务处理服务节点的节点信息包括上述各个业务处理服务节点的配置信息；

上述根据上述各个业务处理服务节点的节点信息，从上述各个业务处理服务节点中确定出目标业务处理服务节点，包括：

上述转发服务节点根据上述各个业务处理服务节点的配置信息确定上述各个业务处理服务节点的业务处理优先级；

将上述各个业务处理服务节点中业务处理优先级最高的业务处理服务节点确定为目标业务处理服务节点。

第二方面，本申请提供了一种基于模型的业务处理方法，包括：

接口服务节点接收业务终端的业务处理请求，上述业务处理请求中携带业务模型标识，上述业务模型标识用于标识响应上述业务处理请求的目标业务模型；

上述接口服务节点根据上述业务处理请求生成业务处理请求消息，上述业务处理请求消息中携带上述业务模型标识；

上述接口服务节点将上述业务处理请求消息存储至消息队列；

上述接口服务节点从上述消息队列中获取上述目标业务模型响应上述业务处理请求输出的业务处理结果，并向上述业务终端发送上述业务处理结果。

第三方面，本申请提供了一种基于模型的业务处理方法，包括：

业务处理服务节点从转发服务节点接收业务终端的业务处理请求消息，上述业务处理请求消息中携带业务模型标识；

上述业务处理服务节点从其内置的多个业务模型中确定出上述业务模型标识所标识的目标业务模型，并通过上述目标业务模型响应上述业务处理请求消息的业务处理请求；

上述业务处理服务节点获取上述目标业务模型输出的上述业务处理请求对应的业务处理结果，并向上述转发服务节点发送上述业务处理结果。

第四方面，本申请提供了一种基于模型的业务处理装置，包括：

获取模块，用于通过接口服务节点获取业务终端的业务处理请求消息，上述业务处理请求消息中携带业务模型标识；

获取确定模块，用于从模型运行集群资源池中获取各个业务处理服务节点的节点信息，根据上述各个业务处理服务节点的节点信息，从上述各个业务处理服务节点中确定出目标业务处理服务节点；

转发模块，用于向上述目标业务处理服务节点转发上述业务处理请求消息，以通过上述目标业务处理节点确定上述业务模型标识所标识的目标业务模型并通过上述目标业务模型响应上述业务处理请求消息的业务处理请求；

接收转发模块，用于接收上述目标业务处理节点反馈的上述业务处理请求对应的业务处理结果，并通过上述接口服务节点向上述业务终端转发上述业务处理结果。

结合第四方面，在一种可能的实施方式中，上述获取模块，用于从消息队列中获取业务终端的业务处理请求消息，其中，上述业务处理请求消息由接口服务节点生成并存储至上述消息队列。

结合第四方面，在一种可能的实施方式中，上述各个业务处理服务节点的节点信息包括上述各个业务处理服务节点的业务处理请求处理进度；

上述获取确定模块，用于根据上述各个业务处理服务节点的业务处理请求处理进度，从上述各个业务处理服务节点中确定出业务处理请求处理进度最快的业务处理服务节点作为目标业务处理服务节点。

结合第四方面，在一种可能的实施方式中，上述各个业务处理服务节点的节点信息包括上述各个业务处理服务节点的配置信息；

上述获取确定模块，用于根据上述各个业务处理服务节点的配置信息确定上述各个业务处理服务节点的业务处理优先级；将上述各个业务处理服务节点中业务处理优先级最高的业务处理服务节点确定为目标业务处理服务节点。

第五方面，本申请提供了一种基于模型的业务处理装置，包括：

接收模块，用于接收业务终端的业务处理请求，上述业务处理请求中携带业务模型标识，上述业务模型标识用于标识响应上述业务处理请求的目标业务模型；

生成模块，用于根据上述业务处理请求生成业务处理请求消息，上述业务处理请求消息中携带业务模型标识；

存储模块，用于将上述业务处理请求消息存储至消息队列；

获取发送模块，用于从上述消息队列中获取上述目标业务模型响应上述业务处理请求输出的业务处理结果，并向上述业务终端发送上述业务处理结果。

第六方面，本申请提供了一种基于模型的业务处理装置，包括：

接收模块，用于从转发服务节点接收业务终端的业务处理请求消息，上述业务处理请求消息中携带业务模型标识；

确定响应模块，用于从其内置的多个业务模型中确定出上述业务模型标识所标识的目标业务模型，并通过上述目标业务模型响应上述业务处理请求消息的业务处理请求；

发送模块，用于获取上述目标业务模型输出的上述业务处理请求对应的业务处理结果，并向上述转发服务节点发送上述业务处理结果。

第七方面，本申请提供了一种服务器，包括处理器、存储器和收发器，上述处理器、存储器和收发器相互连接，其中，上述存储器用于存储支持上述基于模型的业务处理装置执行上述基于模型的业务处理方法的计算机程序，上述计算机程序包括程序指令；上述处理器被配置用于调用上述程序指令，执行如上述本申请第一方面至第三方面中上述的基于模型的业务处理方法。

第四方面，本申请提供了一种计算机可读存储介质，上述计算机可读存储介质存储有计算机程序，上述计算机程序包括程序指令；上述程序指令当被处理器执行时使上述处理器执行如本申请第一方面至第三方面中上述的基于模型的业务处理方法。

在本申请中，转发服务节点通过接口服务节点获取业务终端的业务处理请求消息，并从模型运行集群资源池中获取各个业务处理服务节点的节点信息，根据各个业务处理服务节点的节点信息，从各个业务处理服务节点中确定出目标业务处理服务节点，进而向目标业务处理服务节点转发业务处理请求消息，以通过目标业务处理服务节点根据业务处理请求消息中携带的业务模型标识，从其内置的多个业务模型中确定出目标业务模型，并通过目标业务模型响应业务处理请求消息的业务处理请求。转发服务节点接收目标业务处理节点反馈的业务处理请求对应的业务处理结果，并通过接口服务节点向业务终端转发业务处理结果。采用本申请，可以提高模型运行集群资源池的资源利用率，提高业务处理效率。

附图说明

为了更清楚地说明本申请的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请提供的业务处理系统的架构示意图；

图2是本申请提供的基于模型的业务处理方法的一流程示意图；

图3a是本申请提供的基于模型的业务处理方法的另一流程示意图；

图3b是本申请提供的基于模型的业务处理方法的另一流程示意图；

图4是本申请提供的基于模型的业务处理装置的一结构示意图；

图5是本申请提供的基于模型的业务处理装置的另一结构示意图；

图6是本申请提供的基于模型的业务处理装置的又一结构示意图；

图7是本申请提供的服务器的一结构示意图。

具体实施方式

下面将结合本申请中的附图，对本申请中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

本申请提出一种基于模型的业务处理方法，转发服务节点通过接口服务节点获取业务终端的业务处理请求消息，从模型运行集群资源池中获取各个业务处理服务节点的节点信息，根据上述各个业务处理服务节点的节点信息，从各个业务处理服务节点中确定出目标业务处理服务节点，并向上述目标业务处理服务节点转发业务处理请求消息，从而使目标业务处理节点确定业务处理请求消息中携带的业务模型标识所标识的目标业务模型，并通过目标业务模型响应业务处理请求消息的业务处理请求，转发服务节点接收目标业务处理节点反馈的业务处理请求对应的业务处理结果，并通过接口服务节点向业务终端转发业务处理结果，从而避免了由于单个节点故障导致整个系统不可用的情况，提高了模型运行集群资源池的资源利用率。

本申请提供的基于模型的业务处理方法可适用于业务处理系统，该系统中可包括业务终端、接口服务节点、消息队列、转发服务节点、模型运行集群资源池、监控服务节点和业务处理服务节点集群，请参见图1，是本申请提供的业务处理系统的架构示意图。如图1所示，该构架示意图包括业务终端100、接口服务节点101、消息队列102、转发服务节点103、模型运行集群资源池104、监控服务节点105和业务处理服务节点集群106，其中，业务处理服务节点集群106中可以包括多个业务处理服务节点，如图1所示，具体可以包括业务处理服务节点106a、业务处理服务节点106b、业务处理服务节点106c、…、业务处理服务节点106n，目标业务处理服务节点可以为业务处理服务节点集群106中的一个业务处理服务节点，本申请以图1中的业务处理服务节点106a为目标业务处理服务节点进行说明。

其中，业务终端100、接口服务节点101、转发服务节点103、监控服务节点105和业务处理服务节点集群106中各个业务处理服务节点可以为计算机设备，包括手机、平板电脑、笔记本电脑、掌上电脑、移动互联网设备(MID，mobile internet device)、销售点(Point Of Sales，POS)机、可穿戴设备(例如智能手表、智能手环等)等。

在本申请提供的基于模型的业务处理方法中，业务终端100向接口服务节点101发送业务处理请求，该业务处理请求中携带业务模型标识，接口服务节点101根据接收到的业务处理请求生成业务处理请求消息，并将业务处理请求消息及其关联的消息主题(如业务处理请求主题)发送至消息队列102中存储。之后，转发服务节点103从消息队列102中获取消息主题为业务处理请求主题的业务处理请求消息，并从模型运行集群资源池104中获取业务处理服务节点集群106中各个业务处理服务节点的节点信息，进而基于各个业务处理服务节点的节点信息，从各个业务处理服务节点中确定出目标业务处理服务节点106a，并向目标业务处理服务节点106a转发业务处理请求消息。目标业务处理服务节点106a根据接收到的业务处理请求消息中携带的业务模型标识，从其内置的多个业务模型中确定出目标业务模型，并通过目标业务模型响应业务处理请求消息的业务处理请求。目标业务处理服务节点106a获取目标业务模型输出的业务处理请求对应的业务处理结果，并向转发服务节点103发送业务处理结果。转发服务节点103将接收到的业务处理结果及其关联的消息主题(如业务处理结果主题)发送至消息队列102中存储。之后，接口服务节点101从消息队列102中获取消息主题为业务处理结果主题的业务处理结果，并向业务终端100发送业务处理结果。

下面将结合图2至图7对本申请提高的基于模型的业务处理方法及装置进行示例说明。

参见图2，是本申请提供的基于模型的业务处理方法的一流程示意图。如图2所示，本申请提供的方法可适用于转发服务节点，该方法包括如下步骤：

S101，转发服务节点通过接口服务节点获取业务终端的业务处理请求消息。

在一些可行的实施方式中，在执行步骤S101之前，业务终端向接口服务节点发送业务处理请求，接口服务节点根据接收到的业务处理请求生成业务处理请求消息，并将业务处理请求消息及其关联的消息主题(如业务处理请求主题)发送至消息队列中存储。转发服务节点可从消息队列中获取消息主题为业务处理请求主题的业务处理请求消息。

S102，转发服务节点从模型运行集群资源池中获取各个业务处理服务节点的节点信息，根据各个业务处理服务节点的节点信息，从各个业务处理服务节点中确定出目标业务处理服务节点。

其中，模型运行集群资源池可为zookeeper集群，在本申请中用于存储各个业务处理服务节点的节点信息；各个业务处理服务节点均内置有多个业务模型；各个业务处理服务节点的节点信息可包括各个业务处理服务节点的业务处理请求处理进度。

在一些可行的实施方式中，转发服务节点从zookeeper集群中获取各个业务处理服务节点的业务处理请求处理进度，并根据各个业务处理服务节点的业务处理请求处理进度，将各个业务处理服务节点中业务处理请求处理进度最快的业务处理服务节点确定为目标业务处理服务节点。

其中，zookeeper集群中各个业务处理服务节点的业务处理请求处理进度可通过以下方式得到：转发服务节点可每隔第一预设时间段(如5分钟)，根据向每个业务处理服务节点转发的业务处理请求消息的总个数N，以及接收到的每个业务处理服务节点反馈的业务处理结果的个数n，确定每个业务处理服务节点的业务处理请求处理进度(n/N)*100％，并向Zookeeper集群发送业务处理服务节点的业务处理请求处理进度。同时，监控服务节点可每隔第二预设时间段向Zookeeper集群中每个业务处理服务节点发送节点状态确定信息，若监控服务节点在预设时长内接收到业务处理服务节点m返回的节点状态反馈信息，则将业务处理服务节点m的节点工作状态确定为正常状态；若监控服务节点在预设时长内没有接收到业务处理服务节点m返回的节点状态反馈信息，则重复向业务处理服务节点m发送节点状态确定信息，若重复发送次数达到预设重复次数(如3次)，监控服务节点仍未接收到业务处理服务节点m返回的节点状态反馈信息，则将业务处理服务节点m的节点工作状态确定为异常状态。监控服务在确定每个节点的节点工作状态后，将节点工作状态为正常状态的业务处理服务节点的节点标识上报至Zookeeper集群。Zookeeper集群接收转发服务发送的每个业务处理服务节点的业务处理请求处理进度，以及监控服务发送的节点工作状态为正常状态的业务处理服务节点的节点标识，从而得到至少一个业务处理服务节点(可用业务处理服务节点)的节点信息。

这里，监控服务节点在预设时长内没有接收到业务处理服务节点返回的节点状态反馈信息的情况下，采用重试机制向未在预设时间内正常返回节点状态反馈信息的业务处理节点发送节点状态确定信息，从而保证各个业务处理服务节点均能接收到节点状态确定信息。

S103，转发服务节点向目标业务处理服务节点转发业务处理请求消息。

在一些可行的实施方式中，转发服务节点向目标业务处理服务节点转发业务处理请求消息，目标业务处理服务节点在接收到业务处理请求消息后，根据业务处理请求消息中携带的业务模型标识，从其内置的多个业务模型中确定出该业务模型标识所标识的目标业务模型，通过目标业务模型响应业务处理请求消息的业务处理请求。之后，目标业务处理服务节点获取业务处理请求对应的业务处理结果，并向转发服务节点返回业务处理结果。

S104，转发服务节点接收目标业务处理节点反馈的业务处理请求对应的业务处理结果，并通过接口服务节点向业务终端转发业务处理结果。

在一些可行的实施方式中，转发服务节点接收目标业务处理节点反馈的业务处理请求对应的业务处理结果，并将该业务处理结果及其关联的消息主题(如业务处理结果主题)发送至消息队列中存储。之后，接口服务节点从消息队列中获取消息主题为业务处理结果主题的业务处理结果，并向业务终端发送业务处理结果。

在本申请中，转发服务节点通过接口服务节点获取业务终端的业务处理请求消息，从模型运行集群资源池中获取各个业务处理服务节点的节点信息，根据上述各个业务处理服务节点的节点信息，从各个业务处理服务节点中确定出目标业务处理服务节点，并向上述目标业务处理服务节点转发业务处理请求消息，从而使目标业务处理节点确定业务处理请求消息中携带的业务模型标识所标识的目标业务模型，并通过目标业务模型响应业务处理请求消息的业务处理请求，转发服务节点接收目标业务处理节点反馈的业务处理请求对应的业务处理结果，并通过接口服务节点向业务终端转发业务处理结果，从而避免了由于单个节点故障导致整个系统不可用的情况，提高了模型运行集群资源池的资源利用率。

为了便于描述，下面先将结合图3a对本申请实施例提供的基于模型的业务处理方法中模型运行集群资源池中可用业务处理服务节点的配置信息的获取进行示例说明。请参见图3a，是本申请提供的基于模型的业务处理方法的另一流程示意图。如图3a所示，本申请提供的方法可包括如下步骤：

S201，监控服务节点向业务处理服务节点发送节点配置信息获取请求。

在一些可行的实施方式中，业务处理服务节点可为业务处理服务节点集群中的各业务处理服务节点。监控服务节点可定时(如每隔1分钟)向业务处理服务节点集群中的各个业务处理服务节点发送节点配置信息获取请求以触发各业务处理服务节点反馈其配置信息。

S202，业务处理服务节点向监控服务节点发送可用业务处理服务节点的配置信息。

在一些可行的实施方式中，在预设时长内业务处理服务节点集群中任一业务处理服务节点(假设为业务处理服务节点m)可根据监控服务节点下发的节点配置信息获取请求向监控服务节点返回节点配置信息，监控服务节点接收业务处理服务节点m的配置信息，此时，监控服务节点可将业务处理服务节点m确定为可用业务处理服务节点。若监控服务节点在预设时长内没有接收到某一个业务处理服务节点(比如业务处理服务节点n)返回的节点配置信息，则可再次向业务处理服务节点n发送节点配置信息获取请求。若向业务处理服务节点n发送节点配置信息获取请求次数达到预设重复次数(如3次)，监控服务节点仍未接收到业务处理服务节点n返回的节点配置信息，则将业务处理服务节点n确定为不可用业务处理服务节点。

这里，监控服务节点在预设时长内未接收到业务处理请求节点返回的配置信息的情况下，采用重试机制向未在预设时间内返回配置信息的业务处理节点发送节点配置信息获取请求，从而保证各个业务处理服务节点均能接收到监控服务节点发送的节点配置信息获取请求。

S203，监控服务节点向模型运行集群资源池发送可用业务处理服务节点的配置信息。

在一些可行的实施方式中，监控服务节点确定了Zookeeper集群中的可用业务处理服务节点之后可向Zookeeper集群发送各个可用业务处理服务节点的配置信息。

在本申请中，监控服务节点可定时向业务处理服务节点集群中的每个业务处理服务节点发送节点配置信息获取请求，将返回节点配置信息的业务处理服务节点确定为可用业务处理服务节点，并向Zookeeper集群发送可用业务处理服务节点的配置信息，从而保证Zookeeper集群中存储有节点配置信息的节点均为可用业务处理服务节点。

接下来，本申请基于模型运行集群资源池存储有可用业务处理服务节点的配置信息的情况，对基于模型的业务处理方法进行介绍。请参见图3b，是本申请提供的基于模型的业务处理方法的另一流程示意图。如图3b所示，本申请提供的方法可包括如下步骤：

S204，业务终端向接口服务节点发送业务处理请求。

在一些可行的实施方式中，业务终端向接口服务节点发送业务处理请求，其中，业务处理请求中携带业务模型标识，业务模型标识用于标识响应业务处理请求的目标业务模型，从而提高处理业务处理请求的效率以及准确度。

S205，接口服务节点根据业务处理请求生成业务处理请求消息。

在一些可行的实施方式中，接口服务节点接收业务终端发送的业务处理请求，并根据业务处理请求生成业务处理请求消息，并确定该业务处理请求消息关联的消息主题，如业务处理请求主题。这里，业务处理请求主题可为消息生产者(比如接口服务节点)和消息消费者(比如转发服务节点)通过协议约定的主题，或者由消息生产者生成之后共享给消息消费者的主题，或者由消息消费者生成之后共享给消息生产者的主题，具体可根据实际应用场景确定，在此不做限制。

S206，接口服务节点向消息队列发送业务处理请求消息。

在一些可行的实施方式中，接口服务节点生成业务处理请求消息之后，可将业务处理请求消息及其关联的消息主题发送至消息队列中存储。

S207，转发服务节点从消息队列获取业务处理请求消息。

在一些可行的实施方式中，转发服务节点从消息队列中获取消息主题为业务处理请求主题的业务处理请求消息，以获取得到接口服务节点发送并存储至消息队列中的业务处理请求消息。

S208，转发服务节点从模型运行集群资源池获取可用业务处理服务节点的配置信息。

在一些可行的实施方式中，转发服务节点向Zookeeper集群发送可用业务处理服务节点的配置信息获取请求，Zookeeper集群根据可用业务处理服务节点的配置信息获取请求向转发服务节点返回可用业务处理服务节点的配置信息。

S209，转发服务节点确定出目标业务处理服务节点。

在一些可行的实施方式中，转发服务节点可根据可用业务处理服务节点的配置信息确定各个可用业务处理服务节点的业务处理优先级，将各个可用业务处理服务节点中业务处理优先级最高的可用业务处理服务节点确定为目标业务处理服务节点。

具体的，若各个可用业务处理服务节点的配置信息基本一致，则转发服务节点可随机确定各个可用业务处理服务节点的业务处理优先级，并令各个可用业务处理服务节点的业务处理请求额度相同；若各个可用业务处理服务节点的配置信息不一致，则转发服务节点按照配置信息越高业务处理优先级越高的原则，确定各个可用业务处理服务节点的业务处理优先级，并按照配置信息越高业务处理请求额度越高的原则，确定各个可用业务处理服务节点的业务处理请求额度。若业务处理优先级最高的可用业务处理服务节点的业务处理请求额度大于0，则将业务处理优先级最高的可用业务处理服务节点确定为目标业务处理服务节点；若业务处理优先级最高的可用业务处理服务节点的业务处理请求额度等于0，则将按照业务处理优先级从高到低排序后的各个可用业务处理服务节点中，业务处理优先级为第二的可用业务处理服务节点，确定为目标业务处理服务节点。

可以理解的，若各个可用业务处理服务节点的配置信息基本一致，则转发服务节点可按照顺序轮询策略从各个可用业务处理服务节点中确定出目标业务处理服务节点；若各个可用业务处理服务节点的配置信息不一致，则转发服务节点可按照加权轮询策略(节点的配置信息越高业务处理优先级越高)从各个可用业务处理服务节点中确定出目标业务处理服务节点。换句话说，转发服务节点根据负载均衡策略从各个可用业务处理服务节点中确定出目标业务处理服务节点，以通过目标业务处理服务节点处理业务处理请求，可以最大限度提高业务处理服务节点集群的资源利用率，保证所有节点的平均闲置时间是最短的。

S210，转发服务节点向目标业务处理服务节点发送业务处理请求消息。

S211，目标业务处理服务节点确定目标业务模型，通过目标业务模型响应业务处理请求，并获取业务处理请求对应的业务处理结果。

在一些可行的实施方式中，目标业务处理服务节点接收转发服务节点发送的业务处理请求消息，该业务处理请求消息中携带业务模型标识、模型输入数据以及模型运行参数。目标业务处理服务节点根据业务模型标识，从其内置的多个业务模型中确定出业务模型标识所标识的目标业务模型，向目标业务模型输入模型输入数据和模型运行参数，目标业务模型根据模型输入数据和模型运行参数运行，并输出业务处理请求消息的业务处理请求对应的业务处理结果，目标业务处理服务节点获取业务处理结果。

这里，目标业务处理服务节点可根据业务模型标识快速从其内置的多个业务模型中确定出目标业务模型，进而通过目标业务模型响应业务处理请求，提高了业务处理请求的处理效率。此外，目标业务处理服务节点可根据不同的业务场景确定出满足不同业务需求的目标业务模型，适用性强。

S212，目标业务处理服务节点向转发服务节点发送业务处理结果。

S213，转发服务节点向消息队列发送业务处理结果。

具体的，转发服务节点接收目标业务处理服务节点发送的业务处理结果，并将业务处理结果及其关联的消息主题(如业务处理结果主题)发送至消息队列中存储。

此外，若转发服务节点在向目标业务处理服务节点发送业务处理请求消息后的第一预设时长内均未收到目标业务处理服务节点返回的业务处理结果，则执行步骤S210，若在第一预设时长仍未接收到目标业务处理服务节点返回的业务处理结果，则重复执行步骤S210，若在第二预设时长内仍未收到目标业务处理服务节点返回的业务处理结果，则继续重复步骤S210，直至重试次数达到预设次数，如三次。其中，第一预设时长与第二预设时长可以相等，也可以成正比关系等等，这里，对此不做限定。

这里，转发服务节点在第一预设时长内没有接收到目标业务处理服务节点返回的业务处理结果的情况下，采用重试机制向目标业务处理服务节点发送业务处理请求消息，从而保证目标业务处理服务节点能接收到业务处理请求消息，进而保证业务处理请求消息的业务处理请求能被目标业务处理服务节点处理完成。

S214，接口服务节点从消息队列中获取业务处理结果。

具体的，接口服务节点从消息队列中获取消息主题为业务处理结果主题的业务处理结果。

S215，接口服务节点向业务终端发送业务处理结果。

在本申请中，接口服务节点在接收到业务终端发送的业务处理请求后，将根据业务处理请求生成的业务处理请求消息发送至消息队列即可通知业务终端，不用实时等待处理结果，缩短了一次请求的耗时时长，提高了并发效率。之后，转发服务节点从消息队列中获取业务处理请求消息，由于转发服务节点与接口服务节点通过消息队列隔离保证了业务处理服务节点的安全性，不会因为瞬间的大量请求导致内存溢出。进一步地，转发服务节点从Zookeeper集群获取各个可用业务处理服务节点的配置信息，并采用负载均衡策略，根据各个可用业务处理服务节点的配置信息从各个可用业务处理服务节点中确定出目标业务处理服务节点，并向目标业务处理服务节点转发业务处理请求消息，以通过目标业务处理服务节点处理业务处理请求消息的业务处理请求，从而提高了模型运行集群资源池的的资源利用率，并缩短了业务处理服务节点集群处理业务处理请求的整体耗时，提高了业务处理效率。

基于上述方法实施例的描述，本申请还提供了一种基于模型的业务处理装置，该基于模型的业务处理装置可以是上述方法实施例中的转发服务节点。请参见图4，是本申请提供的基于模型的业务处理装置的一结构示意图。如图4所示，该基于模型的业务处理装置4可以包括：获取模块41、获取确定模块42、转发模块43和接收转发模块44。

获取模块41，用于通过接口服务节点获取业务终端的业务处理请求消息，上述业务处理请求消息中携带业务模型标识；

获取确定模块42，用于从模型运行集群资源池中获取各个业务处理服务节点的节点信息，根据上述各个业务处理服务节点的节点信息，从上述各个业务处理服务节点中确定出目标业务处理服务节点；

转发模块43，用于向上述目标业务处理服务节点转发上述业务处理请求消息，以通过上述目标业务处理节点确定上述业务模型标识所标识的目标业务模型并通过上述目标业务模型响应上述业务处理请求消息的业务处理请求；

接收转发模块44，用于接收上述目标业务处理节点反馈的上述业务处理请求对应的业务处理结果，并通过上述接口服务节点向上述业务终端转发上述业务处理结果。

在一种可行的实施方式中，上述获取模块41，用于从消息队列中获取业务终端的业务处理请求消息，其中，上述业务处理请求消息由接口服务节点生成并存储至上述消息队列。

在一种可行的实施方式中，上述各个业务处理服务节点的节点信息包括上述各个业务处理服务节点的业务处理请求处理进度；

上述获取确定模块42，用于根据上述各个业务处理服务节点的业务处理请求处理进度，从上述各个业务处理服务节点中确定出业务处理请求处理进度最快的业务处理服务节点作为目标业务处理服务节点。

在一种可行的实施方式中，上述各个业务处理服务节点的节点信息包括上述各个业务处理服务节点的配置信息；

上述获取确定模块42，用于根据上述各个业务处理服务节点的配置信息确定上述各个业务处理服务节点的业务处理优先级；将上述各个业务处理服务节点中业务处理优先级最高的业务处理服务节点确定为目标业务处理服务节点。

可以理解的，该基于模型的业务处理装置4用于实现图2和图3a-图3b实施例中转发服务节点所执行的步骤。关于图4的基于模型的业务处理装置4包括的功能块的具体实现方式及相应的有益效果，可参考前述图2和图3a-图3b的实施例的具体介绍，这里不赘述。

基于上述方法实施例的描述，本申请还提供了一种基于模型的业务处理装置，该基于模型的业务处理装置可以是上述方法实施例中的接口服务节点。请参见图5，是本申请提供的基于模型的业务处理装置的另一结构示意图。如图5所示，该基于模型的业务处理装置5可以包括：接收模块51、生成模块52、存储模块53和获取发送模块54。

接收模块51，用于接收业务终端的业务处理请求，上述业务处理请求中携带业务模型标识，上述业务模型标识用于标识响应上述业务处理请求的目标业务模型；

生成模块52，用于根据上述业务处理请求生成业务处理请求消息，上述业务处理请求消息中携带业务模型标识；

存储模块53，用于将上述业务处理请求消息存储至消息队列；

获取发送模块54，用于从上述消息队列中获取上述目标业务模型响应上述业务处理请求输出的业务处理结果，并向上述业务终端发送上述业务处理结果。

可以理解的，该基于模型的业务处理装置5用于实现图2和图3a-图3b实施例中接口服务节点所执行的步骤。关于图5的基于模型的业务处理装置5包括的功能块的具体实现方式及相应的有益效果，可参考前述图2和图3a-图3b的实施例的具体介绍，这里不赘述。

基于上述方法实施例的描述，本申请还提供了一种基于模型的业务处理装置，该基于模型的业务处理装置可以是上述方法实施例中的目标业务处理服务节点。请参见图6，是本申请提供的基于模型的业务处理装置的又一结构示意图。如图6所示，该基于模型的业务处理装置6可以包括：接收模块61、确定响应模块62和发送模块63。

接收模块61，用于从转发服务节点接收业务终端的业务处理请求消息，上述业务处理请求消息中携带业务模型标识；

确定响应模块62，用于从其内置的多个业务模型中确定出上述业务模型标识所标识的目标业务模型，并通过上述目标业务模型响应上述业务处理请求消息的业务处理请求；

发送模块63，用于获取上述目标业务模型输出的上述业务处理请求对应的业务处理结果，并向上述转发服务节点发送上述业务处理结果。

可以理解的，该基于模型的业务处理装置6用于实现图2和图3a-图3b实施例中目标业务处理服务节点所执行的步骤。关于图6的基于模型的业务处理装置6包括的功能块的具体实现方式及相应的有益效果，可参考前述图2和图3a-图3b的实施例的具体介绍，这里不赘述。

上述图4-图6所示实施例中的基于模型的业务处理装置可以以图7所示的服务器700来实现，该基于模型的业务处理装置可运行于服务器中。请参见图7，是本申请提供的服务器的一结构示意图。如图7所示，上述服务器700可以包括：一个或多个处理器701、存储器702和收发器703。上述处理器701、存储器702和收发器703通过总线704连接。其中，上述收发器703用于接收或者发送数据，上述存储器702用于存储计算机程序，该计算机程序包括程序指令；

可选的，处理器701用于执行存储器702中存储的转发服务节点所执行的程序指令，执行如下操作：

通过接口服务节点获取业务终端的业务处理请求消息，上述业务处理请求消息中携带业务模型标识；

从模型运行集群资源池中获取各个业务处理服务节点的节点信息，根据上述各个业务处理服务节点的节点信息，从上述各个业务处理服务节点中确定出目标业务处理服务节点；

向上述目标业务处理服务节点转发上述业务处理请求消息，以通过上述目标业务处理节点确定上述业务模型标识所标识的目标业务模型并通过上述目标业务模型响应上述业务处理请求消息的业务处理请求；

接收上述目标业务处理节点反馈的上述业务处理请求对应的业务处理结果，并通过上述接口服务节点向上述业务终端转发上述业务处理结果。

在一些可行的实施方式中，上述处理器701通过接口服务节点获取业务终端的业务处理请求消息，具体执行以下操作：

从消息队列中获取业务终端的业务处理请求消息，其中，上述业务处理请求消息由接口服务节点生成并存储至上述消息队列。

在一些可行的实施方式中，上述各个业务处理服务节点的节点信息包括上述各个业务处理服务节点的业务处理请求处理进度；

上述处理器701根据上述各个业务处理服务节点的节点信息，从上述各个业务处理服务节点中确定出目标业务处理服务节点，具体执行以下操作：

根据上述各个业务处理服务节点的业务处理请求处理进度，从上述各个业务处理服务节点中确定出业务处理请求处理进度最快的业务处理服务节点作为目标业务处理服务节点。

在一些可行的实施方式中，上述各个业务处理服务节点的节点信息包括上述各个业务处理服务节点的配置信息；

上述处理器701根据上述各个业务处理服务节点的节点信息，从上述各个业务处理服务节点中确定出目标业务处理服务节点，具体执行以下操作：

根据上述各个业务处理服务节点的配置信息确定上述各个业务处理服务节点的业务处理优先级；

将上述各个业务处理服务节点中业务处理优先级最高的业务处理服务节点确定为目标业务处理服务节点。

可选的，处理器701用于执行存储器702中存储的接口服务节点所执行的程序指令，执行如下操作：

接收业务终端的业务处理请求，上述业务处理请求中携带业务模型标识，上述业务模型标识用于标识响应上述业务处理请求的目标业务模型；

根据上述业务处理请求生成业务处理请求消息，上述业务处理请求消息中携带上述业务模型标识；

将上述业务处理请求消息存储至消息队列；

从上述消息队列中获取上述目标业务模型响应上述业务处理请求输出的业务处理结果，并向上述业务终端发送上述业务处理结果。

可选的，处理器701用于执行存储器702中存储的业务处理服务节点所执行的程序指令，执行如下操作：

从转发服务节点接收业务终端的业务处理请求消息，上述业务处理请求消息中携带业务模型标识；

从其内置的多个业务模型中确定出上述业务模型标识所标识的目标业务模型，并通过上述目标业务模型响应上述业务处理请求消息的业务处理请求；

获取上述目标业务模型输出的上述业务处理请求对应的业务处理结果，并向上述转发服务节点发送上述业务处理结果。

此外，这里需要指出的是：本申请还提供了一种计算机可读存储介质，且上述计算机可读存储介质中存储有前文提及图4-图6所示实施例中基于模型的业务处理装置所执行的计算机程序，且上述计算机程序包括程序指令，当上述处理器执行上述程序指令时，能够执行前文图2或图3a-图3b对应实施例中对上述基于模型的业务处理方法的描述，因此，这里将不再进行赘述。另外，对采用相同方法的有益效果描述，也不再进行赘述。对于本申请所涉及的计算机可读存储介质实施例中未披露的技术细节，请参照本申请方法实施例的描述。作为示例，程序指令可被部署为在一个计算设备上执行，或者在位于一个地点的多个计算设备上执行，又或者，在分布在多个地点且通过通信网络互连的多个计算设备上执行，分布在多个地点且通过通信网络互连的多个计算设备可以组成区块链系统。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，上述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，上述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)或随机存储记忆体(Random AccessMemory，RAM)等。

本申请提供的方法及相关装置是参照本申请提供的方法流程图和/或结构示意图来描述的，具体可由计算机程序指令实现方法流程图和/或结构示意图的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。这些计算机程序指令可提供到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或结构示意图一个方框或多个方框中指定的功能的装置。这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或结构示意图一个方框或多个方框中指定的功能。这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或结构示意一个方框或多个方框中指定的功能的步骤。

以上所揭露的仅为本申请较佳实施例而已，当然不能以此来限定本申请之权利范围，因此依本申请权利要求所作的等同变化，仍属本申请所涵盖的范围。

Claims (10)

1.一种基于模型的业务处理方法，其特征在于，包括：

转发服务节点通过接口服务节点获取业务终端的业务处理请求消息，所述业务处理请求消息中携带业务模型标识；

所述转发服务节点从模型运行集群资源池中获取各个业务处理服务节点的节点信息，根据所述各个业务处理服务节点的节点信息，从所述各个业务处理服务节点中确定出目标业务处理服务节点；

所述转发服务节点向所述目标业务处理服务节点转发所述业务处理请求消息，以通过所述目标业务处理节点确定所述业务模型标识所标识的目标业务模型并通过所述目标业务模型响应所述业务处理请求消息的业务处理请求；

所述转发服务节点接收所述目标业务处理节点反馈的所述业务处理请求对应的业务处理结果，并通过所述接口服务节点向所述业务终端转发所述业务处理结果。

2.根据权利要求1所述的方法，其特征在于，所述转发服务节点通过接口服务节点获取业务终端的业务处理请求消息，包括：

转发服务节点从消息队列中获取业务终端的业务处理请求消息，其中，所述业务处理请求消息由接口服务节点生成并存储至所述消息队列。

3.根据权利要求1或2所述的方法，其特征在于，所述各个业务处理服务节点的节点信息包括所述各个业务处理服务节点的业务处理请求处理进度；

所述根据所述各个业务处理服务节点的节点信息，从所述各个业务处理服务节点中确定出目标业务处理服务节点，包括：

所述转发服务节点根据所述各个业务处理服务节点的业务处理请求处理进度，从所述各个业务处理服务节点中确定出业务处理请求处理进度最快的业务处理服务节点作为目标业务处理服务节点。

4.根据权利要求1或2所述的方法，其特征在于，所述各个业务处理服务节点的节点信息包括所述各个业务处理服务节点的配置信息；

所述根据所述各个业务处理服务节点的节点信息，从所述各个业务处理服务节点中确定出目标业务处理服务节点，包括：

所述转发服务节点根据所述各个业务处理服务节点的配置信息确定所述各个业务处理服务节点的业务处理优先级；

将所述各个业务处理服务节点中业务处理优先级最高的业务处理服务节点确定为目标业务处理服务节点。

5.一种基于模型的业务处理方法，其特征在于，包括：

接口服务节点接收业务终端的业务处理请求，所述业务处理请求中携带业务模型标识，所述业务模型标识用于标识响应所述业务处理请求的目标业务模型；

所述接口服务节点根据所述业务处理请求生成业务处理请求消息，所述业务处理请求消息中携带所述业务模型标识；

所述接口服务节点将所述业务处理请求消息存储至消息队列；

所述接口服务节点从所述消息队列中获取所述目标业务模型响应所述业务处理请求输出的业务处理结果，并向所述业务终端发送所述业务处理结果。

6.一种基于模型的业务处理方法，其特征在于，包括：

业务处理服务节点从转发服务节点接收业务终端的业务处理请求消息，所述业务处理请求消息中携带业务模型标识；

所述业务处理服务节点从其内置的多个业务模型中确定出所述业务模型标识所标识的目标业务模型，并通过所述目标业务模型响应所述业务处理请求消息的业务处理请求；

所述业务处理服务节点获取所述目标业务模型输出的所述业务处理请求对应的业务处理结果，并向所述转发服务节点发送所述业务处理结果。

7.一种基于模型的业务处理装置，其特征在于，包括：

获取模块，用于通过接口服务节点获取业务终端的业务处理请求消息，所述业务处理请求消息中携带业务模型标识；

获取确定模块，用于从模型运行集群资源池中获取各个业务处理服务节点的节点信息，根据所述各个业务处理服务节点的节点信息，从所述各个业务处理服务节点中确定出目标业务处理服务节点；

转发模块，用于向所述目标业务处理服务节点转发所述业务处理请求消息，以通过所述目标业务处理节点确定所述业务模型标识所标识的目标业务模型并通过所述目标业务模型响应所述业务处理请求消息的业务处理请求；

接收转发模块，用于接收所述目标业务处理节点反馈的所述业务处理请求对应的业务处理结果，并通过所述接口服务节点向所述业务终端转发所述业务处理结果。

8.一种基于模型的业务处理装置，其特征在于，包括：

接收模块，用于接收业务终端的业务处理请求，所述业务处理请求中携带业务模型标识，所述业务模型标识用于标识响应所述业务处理请求的目标业务模型；

生成模块，用于根据所述业务处理请求生成业务处理请求消息，所述业务处理请求消息中携带业务模型标识；

存储模块，用于将所述业务处理请求消息存储至消息队列；

获取发送模块，用于从所述消息队列中获取所述目标业务模型响应所述业务处理请求输出的业务处理结果，并向所述业务终端发送所述业务处理结果。

9.一种基于模型的业务处理装置，其特征在于，包括：

接收模块，用于从转发服务节点接收业务终端的业务处理请求消息，所述业务处理请求消息中携带业务模型标识；

确定响应模块，用于从其内置的多个业务模型中确定出所述业务模型标识所标识的目标业务模型，并通过所述目标业务模型响应所述业务处理请求消息的业务处理请求；

发送模块，用于获取所述目标业务模型输出的所述业务处理请求对应的业务处理结果，并向所述转发服务节点发送所述业务处理结果。

10.一种服务器，其特征在于，包括处理器、存储器和收发器，所述处理器、存储器和收发器相互连接，其中，所述收发器用于接收或发送数据，所述存储器用于存储程序代码，所述处理器用于调用所述程序代码，执行如权利要求1-6任一项所述的方法。

Images