CN107465627A - 过载保护方法、装置、电子设备及流量处理系统 - Google Patents
过载保护方法、装置、电子设备及流量处理系统 Download PDFInfo
- Publication number
- CN107465627A CN107465627A CN201710684978.8A CN201710684978A CN107465627A CN 107465627 A CN107465627 A CN 107465627A CN 201710684978 A CN201710684978 A CN 201710684978A CN 107465627 A CN107465627 A CN 107465627A
- Authority
- CN
- China
- Prior art keywords
- server
- overload protection
- data
- flow
- random number
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 44
- 238000005111 flow chemistry technique Methods 0.000 title abstract description 4
- 238000012545 processing Methods 0.000 claims abstract description 41
- 230000003862 health status Effects 0.000 claims description 15
- 238000004891 communication Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 11
- 238000011144 upstream manufacturing Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 9
- 230000000694 effects Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 230000036541 health Effects 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/12—Avoiding congestion; Recovering from congestion
- H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明实施例提供一种过载保护方法、装置、电子设备及流量处理系统，涉及负载均衡领域。其中，所述过载保护方法包括：获取服务器的指标数据，所述指标数据包括服务状态数据；根据所述服务器的指标数据和指标阈值判断所述服务器是否过载；如果确定所述服务器过载，则执行过载保护处理。本发明实施例提供的技术方案能够兼顾上下游状态进行过载保护处理，提高执行过载保护处理在时机方面的准确性，有利于在避免服务器资源浪费的同时充分利用服务器的资源。
Description
技术领域
本发明实施例涉及负载均衡领域，尤其涉及一种过载保护方法、装置、电子设备及流量处理系统。
背景技术
在负载均衡领域，以常用的七层负载均衡架构为例，将前端七层负载均衡作为通用统一入口，业务集群请求则基于统一接入层进行接入转发。
现有的负载均衡技术通常只根据业务集群自身的状态进行负载均衡处理，这种方式忽略了业务集群所在的环境，负载均衡处理的效果欠佳。
发明内容
本发明实施例提供一种过载保护方法、装置、电子设备及流量处理系统，用以解决现有技术负载均衡处理效果欠佳的问题。
第一方面，本发明实施例中提供了一种过载保护方法，包括：
获取服务器的指标数据，所述指标数据包括服务状态数据；
根据所述服务器的指标数据和指标阈值判断所述服务器是否过载；
如果确定所述服务器过载，则执行过载保护处理。
结合第一方面，本发明在第一方面的第一种实现方式中，所述指标数据还包括健康状态数据。
结合第一方面，本发明在第一方面的第二种实现方式中，所述服务状态数据包括以下任意一项或多项：
周期耗时比率、错误率、超时比例。
结合第一方面、第一方面的第一种实现方式或第一方面的第二种实现方式，本发明在第一方面的第三种实现方式中，所述为所述服务器执行过载保护处理，包括：
为待发送流量分配随机数；
根据所述随机数和设定的流量拒绝参数进行对比，判断是否向所述服务器转发所述待发送流量；
根据判断结果执行流量的转发或丢弃。
第二方面，本发明实施例提供了一种过载保护装置，包括：
数据获取模块，用于获取服务器的指标数据，所述指标数据包括服务状态数据；
过载判断模块，用于根据所述服务器的指标数据和指标阈值判断所述服务器是否过载；
过载保护模块，用于响应于所述过载判断模块确定所述服务器过载的判断结果，为所述服务器执行过载保护处理。
结合第二方面，本发明在第二方面的第一种实现方式中，所述指标数据还包括健康状态数据。
结合第二方面，本发明在第二方面的第二种实现方式中，所述服务状态数据包括以下任意一项或多项：
周期耗时比率、错误率、超时比例。
结合第二方面、第二方面的第一种实现方式或第二方面的第二种实现方式，本发明在第二方面的第三种实现方式中，所述过载保护模块包括：
随机数子模块，用于为待发送流量分配随机数；
判断子模块，用于根据所述随机数和设定的流量拒绝参数进行对比，确定是否向所述服务器转发所述待发送流量；
处理子模块，用于根据所述判断子模块的判断结果执行流量的转发或丢弃。
第三方面，本发明实施例提供了一种电子设备，包括：
存储器和控制器；其中，
所述存储器用于存储一条或多条计算机指令，所述一条或多条计算机指令供所述处理器调用执行；
所述处理器用于执行所述一条或多条计算机指令以实现以下处理：
获取服务器的指标数据，所述指标数据包括服务状态数据；
根据所述服务器的指标数据和指标阈值判断所述服务器是否过载；
如果确定所述服务器过载，则执行过载保护处理。
结合第三方面，本发明在第三方面的第一种实现方式中，所述指标数据还包括健康状态数据。
结合第三方面，本发明在第三方面的第二种实现方式中，所述服务状态数据包括以下任意一项或多项：
周期耗时比率、错误率、超时比例。
结合第三方面、第三方面的第一种实现方式或第三方面的第二种实现方式，本发明在第三方面的第三种实现方式中，为了为所述服务器执行过载保护处理，所述处理器执行所述计算机指令以实现以下处理：
为待发送流量分配随机数；
根据所述随机数和设定的流量拒绝参数进行对比，判断是否向所述服务器转发所述待发送流量；
根据判断结果执行流量的转发或丢弃。
第四方面，本发明实施例提供了一种计算机存储介质，所述计算机存储介质用于存储一条或多条计算机指令，所述一条或多条计算机指令被执行时实现如前所述的第一方面或其各种实现方式。
第五方面，本发明实施例提供一种流量处理系统，包括：
负载均衡设备，具有接入层；
与所述接入层通信连接的服务器集群；其中，
在所述接入层安装有如前所述的第二方面或其各种实现方式所提供的的过载保护装置。
其中，所述过载保护装置通过所述负载均衡设备获取所述服务器集群中至少部分服务器的指标数据，并针对所述至少部分服务器执行如第一方面或第一方面的各种实现方式的过载保护方法。
本发明实施例能够相对准确地进行过载保护。
本发明的这些方面或其他方面在以下实施例的描述中会更加简明易懂。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1示出了根据本发明一个实施例的过载保护方法的流程示意图；
图2示出了根据本发明另一个实施例的过载保护方法的流程示意图；
图3示出了根据本发明一个实施例的过载保护装置的框图；
图4示出了图3所示过载保护装置的过载保护模块的框图；
图5示出了根据本发明一个实施例的电子设备的框图；
图6示出了根据本发明一个实施例的流量处理系统的框图；
图7示出了根据本发明另一个实施例的流量处理系统的框图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。
在本发明的说明书和权利要求书及上述附图中的描述的一些流程中，包含了按照特定顺序出现的多个操作，但是应该清楚了解，这些操作可以不按照其在本文中出现的顺序来执行或并行执行，操作的序号如101、102等，仅仅是用于区分开各个不同的操作，序号本身不代表任何的执行顺序。另外，这些流程可以包括更多或更少的操作，并且这些操作可以按顺序执行或并行执行。需要说明的是，本文中的“第一”、“第二”等描述，是用于区分不同的消息、设备、模块等，不代表先后顺序，也不限定“第一”和“第二”是不同的类型。
首先，对本发明各实施例涉及或可能涉及的名词进行解释，本领域技术人员应当理解，这些解释意在用便于理解的方式解释本发明各种实施例，而不用于对本发明的保护范围构成限制。
后端：可以理解为上游，在一些场景下，本文所论述上游指的是由代理服务器(即，负载均衡设备)将用户访问的请求所转到的目标服务器。
过载保护：也称作熔断机制，出于保护后端服务的目的，对请求进行例如拒绝等处理，来保护后端服务器避免引发雪崩效应。
接入层：在七层负载均衡设备中，所有业务流量的统一入口，负责流量的调度、转发、负载均衡等功能。
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
图1是根据本发明实施例的一种过载保护方法的流程示意图，参照图1，所述方法包括：
100：获取服务器的指标数据。其中，所述指标数据包括服务状态数据。
可选地，在本实施例的一种实现方式中，由代理服务器或代理服务器中安装、配置的特定装置(例如，上游的业务服务器和下游的代理服务器)，周期性地从所述服务器获取其指标数据。
可选地，在本实施例的一种实现方式中，所述服务器为服务器集群中的服务器。换言之，本实施例提供的方法可以应用于服务器集群的场景下，获取每一个服务器的指标数据并执行后续处理。
102：判断服务器是否过载。具体而言，根据所述服务器的指标数据和指标阈值判断所述服务器是否过载。如果判断所述服务器过载，则执行处理104。
可选地，在本实施例的一种实现方式中，如图1中虚线框所示，如果判断未过载，则按正常流程向服务器转发流量。
可选地，在本实施例的一种实现方式中，由代理服务器或代理服务器中安装、配置的特定装置(例如，下文提及的电子设备或过载保护装置)读取预配置的配置文件，从而获取所述指标阈值，例如，下文提及的周期耗时比例和接口错误率。
可选地，在本实施例的一种实现方式中，在每一个周期获取计算确定的所述指标阈值(例如，下文所述的超时比例)。
可选地，在本实施例的一种实现方式中，由代理服务器或代理服务器中安装、配置的特定装置(例如，下文提及的电子设备或过载保护装置)判断服务器是否过载。
104：执行过载保护处理。
可选地，在本实施例的一种实现方式中，由代理服务器或代理服务器中安装、配置的特定装置(例如，下文提及的电子设备或过载保护装置)，针对所述服务器进行过载保护处理。
采用本实施例提供的过载保护方法，通过获取服务器的服务状态，能够更准确地反映上下游系统(例如，上游的业务服务器与下游的代理服务器)的真实状态，从而能够更准确地执行过载保护处理。进而，有利于在避免服务器资源浪费的同时充分利用服务器的资源。
可选地，在本实施例的一种实际应用中，所述服务器为服务器集群中的服务器，图1所示过载保护方法则在代理服务器上执行。例如，在七层负载均衡架构中的接入层实现图1所示过载保护方法。
可选地，在本实施例的一种实现方式中，所述指标数据除了服务状态(也可称作业务健康度指标)数据之外，还包括健康状态(系也可称作系统资源指标)数据。其中，示例性地，所述服务状态数据包括以下任意一项或多项：周期耗时比率、错误率、超时比例，这些指标不仅能反映服务器状态，还能反映上下游的状态；所述健康状态数据包括以下任意一项或多项：cpu使用率、内存使用率、磁盘IO(输入输出)使用率，网络IO使用率。
其中，周期耗时比例是指每个周期内超出耗时阀值的百分比数。计算方式如下：周期耗时比率＝(周期整体耗时时长-周期平均耗时时长)/周期平均耗时时长。耗时比率的统计可精细化到每个业务的接口，接口的耗时比率增加，触发了阀值，则启动过载保护。
其中，接口错误率＝周期内接口的错误总数/周期内接口的总请求量
周期内接口的错误总数＝周期接口的错误量*机器数
周期内接口的总请求量＝接口的请求量*机器数
错误率(即，接口的错误率)的指标是定义好的规则，采用不同的状态码标记来捕获计算。错误率的统计也是接口级别的，如果触发一样会启动过载保护。
其中，超时比例＝接口超时总量/周期内接口的总请求量
接口的超时总量＝(接口的耗时-接口超时阀值)*机器数
周期内接口的总请求量＝接口的请求量*机器数
可以在每个周期内计算出超时比例的阀值，并根据阀值进行匹配，确定是否启动过载保护模式。
在同时采用健康状态数据和服务状态数据的实现方式中，能够更加全面的兼顾上下游状态进行过载保护。
可选地，在本实施例的一种实现方式中，在处理104中，可以采用直接丢弃待转发流量、将待转发流量转发到其它环境(例如，服务器)、跳转到错误页面等多重处理方式。同时，可以设置流量控制的比例。例如只允许拒绝30％，则70％的流量则被放行。
可选地，在本实施例的一种实现方式中，在处理104中，为待发送流量分配随机数；根据所述随机数和设定的流量拒绝参数进行对比，判断是否向所述服务器转发所述待发送流量；根据判断结果执行流量的转发或丢弃(即，不转发)。
采用该实现方式，使得即使服务器过载，也可以部分地承担流量，不至于完全拒绝服务。
图2是根据本发明实施例的一种过载保护方法的流程示意图。参照图2，所述方法包括：
200：执行预处理。所述预处理包括：启动接入层工作；读取配置文件，其中配置有指标阈值、过载保护开关；开辟内存空间存储配置信息；内存初始化。
202：判断是否开启过载保护功能。具体而言，根据配置信息判断是否开启过载保护功能。如果未开启，则流量通过，即，针对流量(例如，请求)执行转发处理。如果开启，则执行处理204。
204：获取指标数据，写入内存。其中，所述指标数据包括服务状态数据。
可选地，在本实施例的一种实现方式中，所述服务状态数据包括以下任意一项或多项：周期耗时比率、错误率、超时比例。
可选地，在本实施例的一种实现方式中，所述指标数据还包括健康状态数据，所述健康状态数据包括以下任意一项或多项：cpu使用率、内存使用率、磁盘IO(输入输出)使用率，网络IO使用率。
206：判断是否过载。如果未过载，则流量通过；如果过载，则执行处理208。
可选地，在本实施例的一种实现方式中，由进程开启定时任务，在每个周期内，代理服务器通过接口主动探测以获取指标数据，将数据返回给接入层，并在接入层对比指标数据与配置文件中的阈值，以判断是否过载。
208：开启过载保护开关、获取流量拒绝参数(例如，流量拒绝百分比)，并将过载保护开关的开启状态、流量拒绝参数写入内存。
210：生成随机数。
212：执行流量处理。具体而言，将所述随机数与所述流量拒绝参数对比，如果随机数大于所述流量拒绝参数，则流量通过，否则，拒绝流量。
采用本实施例提供的过载保护方法，除了具有图1所示实施例的效果之外，通过在流量是否转发的场景中引入随机数和流量拒绝参数，能够兼顾服务器负荷使部分流量通过。在数次采用随机数和流量拒绝参数试验中，实验发起1000个请求测试，而误差率仅有2％左右。
可选地，在本实施例的一种实现方式中，采用随机数进行流量处理的代码如下：
图3是根据本发明实施例的一种过载保护装置的框图。参照图3，过载保护装置包括数据获取模块30、过载判断模块32和过载保护模块34，下面分别进行说明。
在本实施例中，数据获取模块30用于获取服务器的指标数据，所述指标数据包括服务状态数据。
可选地，在本实施例的一种实现方式中，所述服务状态数据包括以下任意一项或多项：周期耗时比率、错误率、超时比例。
可选地，在本实施例的一种实现方式中，所述指标数据还包括健康状态数据，所述健康状态数据包括以下任意一项或多项：cpu使用率、内存使用率、磁盘IO(输入输出)使用率，网络IO使用率。
在本实施例中，过载判断模块32用于根据所述服务器的指标数据和指标阈值判断所述服务器是否过载。
可选地，在本实施例的一种实现方式中，过载判断模块32读取配置文件获取指标阈值。
在本实施例中，过载保护模块34用于响应于所述过载判断模块确定所述服务器过载的判断结果，为所述服务器执行过载保护处理。
可选地，在本实施例的一种实现方式中，所述过载保护处理包括以下任意一种：丢弃待转发流量、将待转发流量转发到其它环境(例如，服务器)、跳转到错误页面。
可选地，在本实施例的一种实现方式中，如图4所示，过载保护模块34包括：随机数子模块342，用于为待发送流量分配随机数；判断子模块344，用于根据所述随机数和设定的流量拒绝参数进行对比，确定是否向所述服务器转发所述待发送流量；处理子模块346，用于根据所述判断子模块344的判断结果执行流量的转发或丢弃(即，不转发)。
采用本实施例提供的过载保护装置，通过获取服务器的服务状态，能够更准确地反映上下游系统(例如，上游的业务服务器和下游的代理服务器)的真实状态，从而能够更准确地执行过载保护处理。
图5是根据本发明实施例的一种电子设备的框图。参照图5，所述电子设备包括存储器50和控制器52。其中，所述存储器50用于存储一条或多条计算机指令，所述一条或多条计算机指令供所述处理器52调用执行。所述处理器52则用于执行所述一条或多条计算机指令以实现如前述图1或图2所示实施例所提供的过载保护方法。可选地，在本实施例的一种实现方式中，如图5中虚线框所示，电子设备还包括输入输出接口，用于进行通信、数据获取等处理。
本发明的一个实施例还提供一种计算机存储介质，其中存储一条或多条计算机指令，所述一条或多条计算机指令被执行时实现如图1或图2所示实施例所提供的过载保护方法。
图6是根据本发明实施例的一种流量处理系统的框图。参照图6，所述流量处理系统包括图3所示实施例提供的过载保护装置(或图5所示实施例提供的电子设备)和服务器。
图7是根据本发明实施例的一种流量处理系统的框图。参照图7，所述流量处理系统包括负载均衡设备和服务器集群。其中，在所述负载均衡设备的接入层安装有图3所示实施例提供的过载保护装置或图5所示实施例提供的电子设备。
可选地，在本实施例的一种实现方式中，流量处理过程如下：
步骤一：用户发起浏览请求，该请求经过接入层首先处理转发到上游业务集群，同时进行周期性探测以获取指标数据；
步骤二：业务逻辑的agent(代理)实时收集到本身指标数据，并反馈给下游的接入层集群。
步骤三：接入层集群收到前述agent采集的信息，开始判断上游机器的健康状态，如果获取的指标不符合预期，接入层开始启动过载保护，开始丢弃或者转发流量，保证后端的业务集群恢复到监控状态。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
本发明公开A1、一种过载保护方法，包括：
获取服务器的指标数据，所述指标数据包括服务状态数据；
根据所述服务器的指标数据和指标阈值判断所述服务器是否过载；
如果确定所述服务器过载，则执行过载保护处理。
A2、根据A1所述的方法，所述指标数据还包括健康状态数据。
A3、根据A1所述的方法，所述服务状态数据包括以下任意一项或多项：
周期耗时比率、错误率、超时比例。
A4、根据A1-A3中任一项所述的方法，所述为所述服务器执行过载保护处理，包括：
为待发送流量分配随机数；
根据所述随机数和设定的流量拒绝参数进行对比，判断是否向所述服务器转发所述待发送流量；
根据判断结果执行流量的转发或丢弃。
本发明还公开B5、一种过载保护装置，所述装置包括：
数据获取模块，用于获取服务器的指标数据，所述指标数据包括服务状态数据；
过载判断模块，用于根据所述服务器的指标数据和指标阈值判断所述服务器是否过载；
过载保护模块，用于响应于所述过载判断模块确定所述服务器过载的判断结果，为所述服务器执行过载保护处理。
B6、根据B5所述的装置，所述指标数据还包括健康状态数据。
B7、根据B5所述的装置，所述服务状态数据包括以下任意一项或多项：
周期耗时比率、错误率、超时比例。
B8、根据B5-B7中任一项所述的装置，所述过载保护模块包括：
随机数子模块，用于为待发送流量分配随机数；
判断子模块，用于根据所述随机数和设定的流量拒绝参数进行对比，确定是否向所述服务器转发所述待发送流量；
处理子模块，用于根据所述判断子模块的判断结果执行流量的转发或丢弃。
本发明还公开C9、一种电子设备，
所述电子设备包括存储器和控制器；其中，
所述存储器用于存储一条或多条计算机指令，所述一条或多条计算机指令供所述处理器调用执行；
所述处理器用于执行所述一条或多条计算机指令以实现以下处理：
获取服务器的指标数据，所述指标数据包括服务状态数据；
根据所述服务器的指标数据和指标阈值判断所述服务器是否过载；
如果确定所述服务器过载，则执行过载保护处理。
C10、如C9所述电子设备，所述指标数据还包括健康状态数据。
C11、如C9所述电子设备，所述服务状态数据包括以下任意一项或多项：
周期耗时比率、错误率、超时比例。
C12如C9-C11中任一项所述的电子设备，为了为所述服务器执行过载保护处理，所述处理器执行所述计算机指令以实现以下处理：
为待发送流量分配随机数；
根据所述随机数和设定的流量拒绝参数进行对比，判断是否向所述服务器转发所述待发送流量；
根据判断结果执行流量的转发或丢弃。
本发明还公开D13、一种计算机存储介质，所述计算机存储介质用于存储一条或多条计算机指令，所述一条或多条计算机指令被执行时实现如A1-A5中任一项所述的方法。
D14、如D13所述的计算机存储介质，所述指标数据还包括健康状态数据。
D15、如D13所述的计算机存储介质，所述服务状态数据包括以下任意一项或多项：
周期耗时比率、错误率、超时比例。
D16、如D13-D15中任一项所述的计算机存储介质，为了为所述服务器执行过载保护处理，所述计算机指令被执行时实现以下处理：
为待发送流量分配随机数；
根据所述随机数和设定的流量拒绝参数进行对比，判断是否向所述服务器转发所述待发送流量；
根据判断结果执行流量的转发或丢弃。
本发明还公开E17、一种流量处理系统，所述系统包括：
负载均衡设备，具有接入层；
与所述接入层通信连接的服务器集群；其中，
在所述接入层安装有如B5-B8中任一项所述的过载保护装置。
Claims (10)
1.一种过载保护方法，其特征在于，包括：
获取服务器的指标数据，所述指标数据包括服务状态数据；
根据所述服务器的指标数据和指标阈值判断所述服务器是否过载；
如果确定所述服务器过载，则执行过载保护处理。
2.根据权利要求1所述的方法，其特征在于，
所述指标数据还包括健康状态数据。
3.根据权利要求1所述的方法，其特征在于，所述服务状态数据包括以下任意一项或多项：
周期耗时比率、错误率、超时比例。
4.根据权利要求1-3中任一项所述的方法，其特征在于，所述为所述服务器执行过载保护处理，包括：
为待发送流量分配随机数；
根据所述随机数和设定的流量拒绝参数进行对比，判断是否向所述服务器转发所述待发送流量；
根据判断结果执行流量的转发或丢弃。
5.一种过载保护装置，其特征在于，所述装置包括：
数据获取模块，用于获取服务器的指标数据，所述指标数据包括服务状态数据；
过载判断模块，用于根据所述服务器的指标数据和指标阈值判断所述服务器是否过载；
过载保护模块，用于响应于所述过载判断模块确定所述服务器过载的判断结果，为所述服务器执行过载保护处理。
6.根据权利要求5所述的装置，其特征在于，
所述指标数据还包括健康状态数据。
7.根据权利要求5所述的装置，其特征在于，所述服务状态数据包括以下任意一项或多项：
周期耗时比率、错误率、超时比例。
8.根据权利要求5-7中任一项所述的装置，其特征在于，所述过载保护模块包括：
随机数子模块，用于为待发送流量分配随机数；
判断子模块，用于根据所述随机数和设定的流量拒绝参数进行对比，确定是否向所述服务器转发所述待发送流量；
处理子模块，用于根据所述判断子模块的判断结果执行流量的转发或丢弃。
9.一种电子设备，其特征在于，
所述电子设备包括存储器和控制器；其中，
所述存储器用于存储一条或多条计算机指令，所述一条或多条计算机指令供所述处理器调用执行；
所述处理器用于执行所述一条或多条计算机指令以实现如权利要求1-4中任一项所述的方法。
10.一种流量处理系统，其特征在于，所述系统包括：
负载均衡设备，具有接入层；
与所述接入层通信连接的服务器集群；其中，
在所述接入层安装有如权利要求5-8中任一项所述的过载保护装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710684978.8A CN107465627A (zh) | 2017-08-11 | 2017-08-11 | 过载保护方法、装置、电子设备及流量处理系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201710684978.8A CN107465627A (zh) | 2017-08-11 | 2017-08-11 | 过载保护方法、装置、电子设备及流量处理系统 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN107465627A true CN107465627A (zh) | 2017-12-12 |
Family
ID=60548870
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201710684978.8A Pending CN107465627A (zh) | 2017-08-11 | 2017-08-11 | 过载保护方法、装置、电子设备及流量处理系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN107465627A (zh) |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109274547A (zh) * | 2018-08-17 | 2019-01-25 | 中国平安人寿保险股份有限公司 | 基于网络安全的服务熔断方法、装置、设备及存储介质 |
| CN110460639A (zh) * | 2019-07-12 | 2019-11-15 | 口碑(上海)信息技术有限公司 | 服务器集群的熔断处理方法、装置及系统 |
| CN110519388A (zh) * | 2019-08-30 | 2019-11-29 | 北京东软望海科技有限公司 | 区块链请求的处理方法、装置、电子设备及可读存储介质 |
| CN110780989A (zh) * | 2019-08-29 | 2020-02-11 | 腾讯科技（深圳）有限公司 | 一种过载保护方法、装置、设备及介质 |
| CN111447272A (zh) * | 2020-03-26 | 2020-07-24 | 支付宝(杭州)信息技术有限公司 | 负载均衡方法及装置 |
| CN112242915A (zh) * | 2019-07-19 | 2021-01-19 | 诺基亚通信公司 | 用于对onu设备进行过载控制的方法与装置 |
| CN112988546A (zh) * | 2021-04-21 | 2021-06-18 | 福建天晴在线互动科技有限公司 | 一种支付系统防止服务雪崩的熔断方案及系统 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP1039720A2 (en) * | 1999-03-19 | 2000-09-27 | Hitachi, Ltd. | Service provision system and method |
| CN104142862A (zh) * | 2013-12-16 | 2014-11-12 | 腾讯科技（深圳）有限公司 | 服务器的过载保护方法及装置 |
| CN104182282A (zh) * | 2014-09-12 | 2014-12-03 | 五八同城信息技术有限公司 | 一种服务器过载保护系统及方法 |
| CN105471614A (zh) * | 2014-09-11 | 2016-04-06 | 腾讯科技（深圳）有限公司 | 过载保护方法、装置及服务器 |
-
2017
- 2017-08-11 CN CN201710684978.8A patent/CN107465627A/zh active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP1039720A2 (en) * | 1999-03-19 | 2000-09-27 | Hitachi, Ltd. | Service provision system and method |
| CN104142862A (zh) * | 2013-12-16 | 2014-11-12 | 腾讯科技（深圳）有限公司 | 服务器的过载保护方法及装置 |
| CN105471614A (zh) * | 2014-09-11 | 2016-04-06 | 腾讯科技（深圳）有限公司 | 过载保护方法、装置及服务器 |
| CN104182282A (zh) * | 2014-09-12 | 2014-12-03 | 五八同城信息技术有限公司 | 一种服务器过载保护系统及方法 |
Cited By (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109274547A (zh) * | 2018-08-17 | 2019-01-25 | 中国平安人寿保险股份有限公司 | 基于网络安全的服务熔断方法、装置、设备及存储介质 |
| CN110460639A (zh) * | 2019-07-12 | 2019-11-15 | 口碑(上海)信息技术有限公司 | 服务器集群的熔断处理方法、装置及系统 |
| CN112242915A (zh) * | 2019-07-19 | 2021-01-19 | 诺基亚通信公司 | 用于对onu设备进行过载控制的方法与装置 |
| CN112242915B (zh) * | 2019-07-19 | 2023-12-15 | 诺基亚通信公司 | 用于对onu设备进行过载控制的方法与装置 |
| CN110780989A (zh) * | 2019-08-29 | 2020-02-11 | 腾讯科技（深圳）有限公司 | 一种过载保护方法、装置、设备及介质 |
| CN110780989B (zh) * | 2019-08-29 | 2023-03-24 | 腾讯科技（深圳）有限公司 | 一种过载保护方法、装置、设备及介质 |
| CN110519388A (zh) * | 2019-08-30 | 2019-11-29 | 北京东软望海科技有限公司 | 区块链请求的处理方法、装置、电子设备及可读存储介质 |
| CN110519388B (zh) * | 2019-08-30 | 2022-04-19 | 望海康信(北京)科技股份公司 | 区块链请求的处理方法、装置、电子设备及可读存储介质 |
| CN111447272A (zh) * | 2020-03-26 | 2020-07-24 | 支付宝(杭州)信息技术有限公司 | 负载均衡方法及装置 |
| CN112988546A (zh) * | 2021-04-21 | 2021-06-18 | 福建天晴在线互动科技有限公司 | 一种支付系统防止服务雪崩的熔断方案及系统 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107465627A (zh) | 过载保护方法、装置、电子设备及流量处理系统 | |
| CN112162865B (zh) | 服务器的调度方法、装置和服务器 | |
| CA2849565C (en) | Method, apparatus, and system for scheduling processor core in multiprocessor core system | |
| US10318366B2 (en) | System and method for relationship based root cause recommendation | |
| US20040003077A1 (en) | System and method for the allocation of grid computing to network workstations | |
| US8868855B2 (en) | Request management system and method for dynamically managing prioritized requests | |
| US20140143777A1 (en) | Resource Scheduling Method and Device | |
| US20090037879A1 (en) | Method and system for integrating model-based and search-based automatic software configuration | |
| US10223536B2 (en) | Device monitoring policy | |
| WO2017112324A1 (en) | Ranking system | |
| CN108683605A (zh) | 一种服务调用的限流方法和装置 | |
| CN109117280A (zh) | 电子装置及其限制进程间通信的方法、存储介质 | |
| CN106375102A (zh) | 一种服务注册方法、使用方法及相关装置 | |
| CN109347982A (zh) | 一种数据中心的调度方法及装置 | |
| CN109117279A (zh) | 电子装置及其限制进程间通信的方法、存储介质 | |
| CN103634167B (zh) | 云环境中对目标主机进行安全配置检查的方法和系统 | |
| CN105045667A (zh) | 一种用于虚拟机vCPU调度的资源池管理方法 | |
| CN108200185B (zh) | 一种实现负载均衡的方法及装置 | |
| US8732718B2 (en) | Techniques to automatically classify processes | |
| CN106201711B (zh) | 一种任务处理方法及服务器 | |
| EP3246842A1 (en) | System and method of distributing files between virtual machines forming a distributed system for performing antivirus scans | |
| CN108664322A (zh) | 数据处理方法及系统 | |
| CN113364648B (zh) | 流量控制方法、系统、装置、服务设备及存储介质 | |
| US11003506B2 (en) | Technique for determining a load of an application | |
| CN115705244A (zh) | 网络资产的探测方法、装置和服务器 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20171212 |