CN111262791A - 一种流量管控方法、装置、电子设备及存储介质 - Google Patents
一种流量管控方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111262791A CN111262791A CN202010021139.XA CN202010021139A CN111262791A CN 111262791 A CN111262791 A CN 111262791A CN 202010021139 A CN202010021139 A CN 202010021139A CN 111262791 A CN111262791 A CN 111262791A
- Authority
- CN
- China
- Prior art keywords
- current
- current limiting
- index data
- service index
- limiting threshold
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/29—Flow control; Congestion control using a combination of thresholds
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本申请涉及一种流量管控方法、装置、电子设备及存储介质,属于计算机技术领域。方法包括:获取当前服务指标数据;根据当前服务指标数据计算第一限流阈值,以及根据当前服务指标数据之前的历史服务指标数据计算第二限流阈值;根据第一限流阈值和第二限流阈值,得到目标限流阈值,目标限流阈值用于限制访问服务器的访问请求的数量;将当前限流阈值设置为目标限流阈值;在接收到各访问请求时,统计访问请求的请求数量,在请求数量大于目标限流阈值时,进行限流操作。通过实时获取系统服务指标数,并分析出最优限流阈值,然后基于该最优限流阈值动态调整限流阈值,以解决现有方案不够自动化,不够智能化的问题。
Description
技术领域
本申请属于计算机技术领域,具体涉及一种流量管控方法、装置、电子设备及存储介质。
背景技术
近年来,随着网络带宽的提升,越来越多用户很在意APP(Application,应用程序)的响应速度,同时伴随着促销和广告的影响,公司对用户所提供的服务越来越重要;同时提高稳定性,尤其是应对突发流量,也愈发重要,为此就特别需要对服务进行流量控制,进行限流,超过系统处理阈值后直接决绝访问,保护系统和服务的稳定性。
限流技术作为一种可以较好地限制系统的输入和输出流量的方法,可以实现对于系统的保护。目前的方案中,通过人工预先设置一个预设流量阈值,将该预设流量阈值与在系统中实时采集到的当前流量数值进行比对,进而将系统的运行负载限制在预设流量阈值的范围内,也就实现了对于高并发系统的运行保护,防止并发量过大造成的服务器宕机。
发明内容
鉴于此,本申请的目的在于提供一种流量管控方法、装置、电子设备及存储介质,以改善现有限流方案需要过多人工干预的问题。
本申请的实施例是这样实现的:
第一方面,本申请实施例提供了一种流量管控方法,应用于服务器,所述方法包括:获取当前服务指标数据,所述当前服务指标数据用于表征服务器的运行情况;根据所述当前服务指标数据计算第一限流阈值,以及根据所述当前服务指标数据之前的历史服务指标数据计算第二限流阈值;根据所述第一限流阈值和所述第二限流阈值,得到目标限流阈值,所述目标限流阈值用于限制访问所述服务器的访问请求的数量;将当前限流阈值设置为所述目标限流阈值;在接收到各访问请求时,统计访问请求的请求数量,在所述请求数量大于所述目标限流阈值时,进行限流操作。本申请实施例中,通过获取系统服务指标数据,以及根据获取到的服务指标数据,结合历史服务指标数据确定出最优的目标限流阈值,然后基于该目标限流阈值动态调整限流阈值,以解决现有方案需要过多人工干预而导致的不够自动化、不够智能化的问题。
结合第一方面实施例的一种可能的实施方式,在根据所述当前服务指标数据计算第一限流阈值之前,所述方法还包括:基于预先设置的过滤规则对所述当前服务指标数据进行过滤;相应地,根据所述当前服务指标数据计算第一限流阈值,包括:基于过滤后的服务指标数据计算所述第一限流阈值。本申请实施例中,在基于当前服务指标数据计算第一限流阈值之前,先对当前服务指标数据进行过滤处理,以过滤掉无用的信息,再基于过滤后的数据计算第一限流阈值,以提高结算结果的准确性和加快计算流程。
结合第一方面实施例的一种可能的实施方式,根据所述当前服务指标数据之前的历史服务指标数据计算第二限流阈值,包括:根据所述当前服务指标数据和所述历史服务指标数据计算所述第二限流阈值。本申请实施例中,根据当前服务指标数据以及历史服务指标数据计算第二限流阈值,以更多的数据作支撑,以尽可能的保证计算结果的可靠性和准确性。
结合第一方面实施例的一种可能的实施方式,根据所述当前服务指标数据和所述历史服务指标数据计算所述第二限流阈值,包括:利用预设网络模型对所述当前服务指标数据和所述历史服务指标数据进行处理,得到所述第二限流阈值。本申请实施例中,通过采用具有自主学习能力的网络模型来对当前服务指标数据和历史服务指标数据进行处理,以尽可能的保证结果的可靠性和准确性。
结合第一方面实施例的一种可能的实施方式,根据所述第一限流阈值和所述第二限流阈值,得到目标限流阈值,包括:根据所述第一限流阈值、所述第二限流阈值及各自对应的权重系数,得到所述目标限流阈值,其中,所述第一限流阈值对应的权重系数小于所述第二限流阈值对应的权重系数。本申请实施例中,根据第一限流阈值以及第二限流阈值,并基于一定的占比计算出最优阈值,且第二限流阈值的占比大于第一限流阈值的占比,以尽可能的使最终确定的限流阈值最优。
结合第一方面实施例的一种可能的实施方式,获取当前服务指标数据,包括:获取通过的QPS、线程数、平均响应时间、拒绝的QPS、CPU使用率、负载值中的至少两个及两个以上的组合。本申请实施例中,通过获取通过的QPS、线程数、平均响应时间、拒绝的QPS、CPU使用率、负载值等这些比较典型的指标数据来表征服务器的运行情况,在保证方案的可行前提下,可以简化获取的数据粒度。
结合第一方面实施例的一种可能的实施方式,在获取当前服务指标数据之后,所述方法还包括:将所述当前服务指标数据写入至磁盘中,以供可视化展示使用。本申请实施例中,将当前服务指标数据写入至磁盘中,以便可视化展示使用,以改善用户的体验。
第二方面,本申请实施例还提供了一种流量管控装置,应用于服务器,所述装置包括:获取模块、分析模块、设置模块以及限流模块;获取模块,用于获取当前服务指标数据,所述当前服务指标数据用于表征服务器的运行情况;分析模块,用于根据所述当前服务指标数据计算第一限流阈值,以及根据所述当前服务指标数据之前的历史服务指标数据计算第二限流阈值;以及还用于根据所述第一限流阈值和所述第二限流阈值,得到目标限流阈值,所述目标限流阈值用于限制访问所述服务器的访问请求的数量;设置模块,用于将当前限流阈值设置为所述目标限流阈值;限流模块,用于在接收到各访问请求时,统计访问请求的请求数量,在所述请求数量大于所述目标限流阈值时,进行限流操作。
第三方面,本申请实施例还提供了一种电子设备,包括:存储器和处理器,所述存储器和所述处理器连接;所述存储器,用于存储程序;所述处理器,用于调用存储于所述存储器中的程序,以执行如上述第一方面实施例和/或结合第一方面实施例的任一种可能的实施方式提供的方法。
第四方面,本申请实施例还提供了一种存储介质,其上存储有计算机程序,所述计算机程序被计算机运行时执行如上述第一方面实施例和/或结合第一方面实施例的任一种可能的实施方式提供的方法。
本申请的其他特征和优点将在随后的说明书阐述,并且,部分地从说明书中变得显而易见,或者通过实施本申请实施例而了解。本申请的目的和其他优点可通过在所写的说明书以及附图中所特别指出的结构来实现和获得。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。通过附图所示,本申请的上述及其它目的、特征和优势将更加清晰。在全部附图中相同的附图标记指示相同的部分。并未刻意按实际尺寸等比例缩放绘制附图,重点在于示出本申请的主旨。
图1示出了本申请实施例提供的一种流量管控方法的流程示意图。
图2示出了本申请实施例提供的一种流量管控的流程示意图。
图3示出了本申请实施例提供的一种流量管控装置的模块框图。
图4示出了本申请实施例提供的一种电子设备的结构框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行描述。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。同时,在本申请的描述中诸如“第一”、“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
再者,本申请中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。
现在主流的限流方案是进行埋点统计,然后把统计数据进行存储,随后由用户根据该统计数据进行限流阈值配置,以便系统在接收到用户发起的访问请求时,统计访问请求的请求数量,在请求数量大于该限流阈值时,进行限流操作,进而将系统的运行负载限制在预设流量阈值的范围内。但是发明人在研究本申请的过程中发现,由于预设流量阈值是根据服务器之前的运行性能的预判而确定的数值,然而在实际运行环境中,服务器的运行性能是变化的,而设置的阈值是定值,不会根据系统的处理能力而变化的,若依旧以之前的预设流量阈值去进行限流,则得出的限流方案并不是最优的,不够智能化。其中,需要说明的是,针对以上方案所存在的缺陷,均是发明人在经过实践并仔细研究后得出的结果,因此,上述问题的发现过程以及下文中本申请实施例针对上述问题所提出的解决方案,都应该是发明人在本申请过程中对本申请做出的贡献。
鉴于此,为解决上述限流方案,在限流的过程中需要过多的人工干预,不够自动化,不够智能化的问题。本申请实施例提供了一种流量管控方法,通过实时获取用于表征服务器的运行情况的服务指标数据,以便对服务指标数据进行实时分析,进而确定出最优的目标限流阈值,然后基于该目标限流阈值修改当前的限流阈值,实现根据系统和服务动态调整限流阈值,以解决现有方案不够自动化,不够智能化的问题。如图1所示,为本申请实施例提供的一种流量管控方法,下面将结合图1和图2对其所包含的步骤进行说明。
步骤S101:获取当前服务指标数据,所述当前服务指标数据用于表征服务器的运行情况。
获取用于表征当前服务器的运行情况的当前服务指标数据。其中,获取的当前服务指标数据可以是获取通过的QPS(Queries Per Second,每秒查询率)、线程数、平均响应时间、拒绝的QPS、CPU(Central Processing Unit,中央处理器)使用率、负载值(load值)中的至少两个及两个以上的组合。
可以通过在服务器中部署SDK(Software Development Kit,软件开发工具包),进行数据统计,例如,部署两个SDK,一个是埋点统计SDK,另外一个是统计系统服务指标的SDK。内嵌到业务服务中的埋点统计SDK会作为一个独立的Agent(代理),当有流量经过时,会对经过的流量数据进行统计,同时会根据内存中的统计数据计算是否触发限流阈值,当请求数量大于预设的限流阈值时,进行限流操作。此外,作为一种实施方式,埋点统计SDK还会把内存中的统计数据写入到磁盘中,以供页面可视化展示使用,用户可通过可视化界面查询写入到磁盘中的数据、埋点SDK提供的接口、当前限流阈值以及新增配置规则等。
其中,写入到磁盘中的数据主要包括流量经过埋点对象的统计值,比如通过的QPS、平均响应时间、线程数、拒绝的QPS等数据,同时也会把业务服务全局维度的CPU使用率、load值写入到磁盘中。指标SDK会把当前服务指标数据(写入磁盘中的数据)投递到Kafka(为一个分布式的开源流处理平台,属于软件中间件)中,以供后续分析处理。
步骤S102:根据所述当前服务指标数据计算第一限流阈值,以及根据所述当前服务指标数据之前的历史服务指标数据计算第二限流阈值。
在获取到当前服务指标数据后,对当前服务指标数据实时分析计算,得到一个限流阈值(第一限流阈值),以及对当前服务指标数据之前的历史服务指标数据进行分析计算,得到一个限流阈值(第二限流阈值)。例如,指标SDK把当前服务指标数据投递到Kafka中后,分析模块(Analysis模块)会消费Kafka中的数据计算得到第一限流阈值,同时,该分析模块还会消费数据库(分析模块会把接收到的Kakfa数据存储到数据库)中存储的历史服务指标数据计算得到第二限流阈值。
其中,在根据当前服务指标数据计算第一限流阈值时,还可以是先基于预先设置的过滤规则对当前服务指标数据进行过滤,以过滤掉无用的信息,然后再基于过滤后的服务指标数据进行第一限流阈值计算。其中,指标SDK将当前服务指标数据投递到Kafka中,Clean(过滤)模块会消费Kafka中的数据,然后会根据用户在页面配置的解析数据模板过滤掉不需要的数据,提取需要的数据,然后再次投递到Kafka中。在这过程中,需要用户提前在页面配置业务服务所需的解析数据模板,Clean模块会根据服务名动态获取解析数据模板,进行动态的过滤数据,如果用户不配置,则不进行过滤。
其中,在根据所述当前服务指标数据之前的历史服务指标数据计算第二限流阈值时,还可以综合当前服务指标数据,也即可以是根据所述当前服务指标数据和所述历史服务指标数据计算第二限流阈值。作为一种实施方式,可以是利用预设网络模型来得到限流阈值,例如,利用具有自主学习能力的预设网络模型对当前服务指标数据以及历史服务指标数据进行处理,得到第二限流阈值,随着数据库中历史服务指标数据的增加,使得在基于网络模型对当前服务指标数据以及历史服务指标数据进行处理的过程中会不断的优化机器学习模型,使得其准确性会越来越高。其中,如何基于服务指标数据得到限流阈值的具体过程已经为本领域技术人员所熟知,为了避免累赘,此处不再介绍。
步骤S103:根据所述第一限流阈值和所述第二限流阈值,得到目标限流阈值,所述目标限流阈值用于限制访问所述服务器的访问请求的数量。
在基于当前服务指标数据计算得到第一限流阈值,以及基于历史服务指标数据计算得到第二限流阈值后,根据第一限流阈值和第二限流阈值计算目标限流阈值。其中,目标限流阈值用于限制访问服务器的访问请求的数量。
其中,根据所述第一限流阈值和所述第二限流阈值,得到目标限流阈值的过程可以是:根据第一限流阈值、第二限流阈值及各自对应的权重系数,得到目标限流阈值,也即目标限流阈值=第一限流阈值*权重系数1+第二限流阈值*权重系数2。其中,权重系数1小于权重系数2。分析模块根据当前服务指标数据分析出的第一限流阈值和基于历史服务指标数据分析出的第二限流阈值,然后基于一定的占比计算出最优阈值(目标限流阈值)后,将该最优阈值写入数据库中。
步骤S104:将当前限流阈值设置为所述目标限流阈值。
在得到目标限流阈值后,基于该目标限流阈值对当前限流阈值进行修改,将当前限流阈值设置为目标限流阈值。例如,设置模块定时轮询数据库,查询实时目标限流阈值而后调用业务服务侧埋点SDK的接口动态设置限流阈值。
步骤S105:在接收到各访问请求时,统计访问请求的请求数量,在所述请求数量大于所述目标限流阈值时,进行限流操作。
在对限流阈值进行动态调整后,当服务器在接收到各访问请求时,统计访问请求的请求数量,在请求数量大于所述目标限流阈值时,进行限流操作。
为了便于理解上述过程,可以参阅图2所示的流程示意图。其中,通过部署SDK来实时获取系统服务指标数据,以及根据获取到的服务指标数据,结合历史服务指标数据确定出最优的目标限流阈值,然后基于该目标限流阈值动态调整限流阈值,以解决现有方案不够自动化,不够智能化的问题。
本申请实施例还提供了一种应用于服务器中的流量管控装置100,如图3所示。该流量管控装置100包括:获取模块110、分析模块120、设置模块130和限流模块140。
获取模块110,用于获取当前服务指标数据,所述当前服务指标数据用于表征服务器的运行情况。
分析模块120,用于根据所述当前服务指标数据计算第一限流阈值,以及根据所述当前服务指标数据之前的历史服务指标数据计算第二限流阈值。可选地,该流量管控装置100包括还包括过滤模块,用于在分析模块120根据所述当前服务指标数据计算第一限流阈值之前,基于预先设置的过滤规则对所述当前服务指标数据进行过滤,相应地,分析模块120用于基于过滤后的服务指标数据计算所述第一限流阈值。
可选地,分析模块120用于根据所述当前服务指标数据和所述历史服务指标数据计算所述第二限流阈值,以及利用预设网络模型对所述当前服务指标数据和所述历史服务指标数据进行处理,得到所述第二限流阈值。
所述分析模块120,还用于根据所述第一限流阈值和所述第二限流阈值,得到目标限流阈值,所述目标限流阈值用于限制访问所述服务器的访问请求的数量。可选地,所述分析模块120,还用于根据所述第一限流阈值、所述第二限流阈值及各自对应的权重系数,得到所述目标限流阈值,其中,所述第一限流阈值对应的权重系数小于所述第二限流阈值对应的权重系数。
设置模块130,用于将当前限流阈值设置为所述目标限流阈值。
限流模块140,用于在接收到各访问请求时,统计访问请求的请求数量,在所述请求数量大于所述目标限流阈值时,进行限流操作。
本申请实施例所提供的流量管控装置100,其实现原理及产生的技术效果和前述方法实施例相同,为简要描述,装置实施例部分未提及之处,可参考前述方法实施例中相应内容。
如图4所示,图4示出了本申请实施例提供的一种电子设备200的结构框图。所述电子设备200包括:通信模块210、存储器220、通讯总线230以及处理器240。
所述通信模块210、所述存储器220、处理器240各元件相互之间直接或间接地电性连接,以实现数据的传输或交互。例如,这些元件相互之间可通过一条或多条通讯总线230或信号线实现电性连接。其中,通信模块210用于收发数据。存储器220用于存储计算机程序,如存储有图3中所示的软件功能模块,即流量管控装置100。其中,流量管控装置100包括至少一个可以软件或固件(firmware)的形式存储于所述存储器220中或固化在所述电子设备200的操作系统(operating system,OS)中的软件功能模块。所述处理器240,用于执行存储器220中存储的可执行模块,例如网络训练装置100包括的软件功能模块或计算机程序。例如,处理器240,用于获取当前服务指标数据,所述当前服务指标数据用于表征服务器的运行情况;以及还用于根据所述当前服务指标数据计算第一限流阈值,以及根据所述当前服务指标数据之前的历史服务指标数据计算第二限流阈值;以及还用于根据所述第一限流阈值和所述第二限流阈值,得到目标限流阈值,所述目标限流阈值用于限制访问所述服务器的访问请求的数量;以及还用于将当前限流阈值设置为所述目标限流阈值;以及还用于在接收到各访问请求时,统计访问请求的请求数量,在所述请求数量大于所述目标限流阈值时,进行限流操作。
其中,存储器220可以是,但不限于,随机存取存储器(Random Access Memory,RAM),只读存储器(Read Only Memory,ROM),可编程只读存储器(Programmable Read-OnlyMemory,PROM),可擦除只读存储器(Erasable Programmable Read-Only Memory,EPROM),电可擦除只读存储器(Electric Erasable Programmable Read-Only Memory,EEPROM)等。
处理器240可能是一种集成电路芯片,具有信号的处理能力。上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(NetworkProcessor,NP)等;还可以是数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(FieldProgrammable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器240也可以是任何常规的处理器等。
其中,上述的电子设备200,包括但不限于业务服务器、网络服务器、数据库服务器、云端服务器等。
本申请实施例还提供了一种非易失性计算机可读取存储介质(以下简称存储介质),该存储介质上存储有计算机程序,该计算机程序被计算机如上述的电子设备200运行时,执行上述方法实施例所示的流量管控方法所包含的步骤。
需要说明的是,本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
另外,在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,笔记本电脑,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应所述以权利要求的保护范围为准。
Claims (10)
1.一种流量管控方法,其特征在于,应用于服务器,所述方法包括:
获取当前服务指标数据,所述当前服务指标数据用于表征服务器的运行情况;
根据所述当前服务指标数据计算第一限流阈值,以及根据所述当前服务指标数据之前的历史服务指标数据计算第二限流阈值;
根据所述第一限流阈值和所述第二限流阈值,得到目标限流阈值,所述目标限流阈值用于限制访问所述服务器的访问请求的数量;
将当前限流阈值设置为所述目标限流阈值;
在接收到各访问请求时,统计访问请求的请求数量,在所述请求数量大于所述目标限流阈值时,进行限流操作。
2.根据权利要求1所述的方法,其特征在于,在根据所述当前服务指标数据计算第一限流阈值之前,所述方法还包括:
基于预先设置的过滤规则对所述当前服务指标数据进行过滤;相应地,根据所述当前服务指标数据计算第一限流阈值,包括:
基于过滤后的服务指标数据计算所述第一限流阈值。
3.根据权利要求1所述的方法,其特征在于,根据所述当前服务指标数据之前的历史服务指标数据计算第二限流阈值,包括:
根据所述当前服务指标数据和所述历史服务指标数据计算所述第二限流阈值。
4.根据权利要求3所述的方法,其特征在于,根据所述当前服务指标数据和所述历史服务指标数据计算所述第二限流阈值,包括:
利用预设网络模型对所述当前服务指标数据和所述历史服务指标数据进行处理,得到所述第二限流阈值。
5.根据权利要求1所述的方法,其特征在于,根据所述第一限流阈值和所述第二限流阈值,得到目标限流阈值,包括:
根据所述第一限流阈值、所述第二限流阈值及各自对应的权重系数,得到所述目标限流阈值,其中,所述第一限流阈值对应的权重系数小于所述第二限流阈值对应的权重系数。
6.根据权利要求1-5中任一项所述的方法,其特征在于,获取当前服务指标数据,包括:
获取通过的QPS、线程数、平均响应时间、拒绝的QPS、CPU使用率、负载值中的至少两个及两个以上的组合。
7.根据权利要求6所述的方法,其特征在于,在获取当前服务指标数据之后,所述方法还包括:
将所述当前服务指标数据写入至磁盘中,以供可视化展示使用。
8.一种流量管控装置,其特征在于,应用于服务器,所述装置包括:
获取模块,用于获取当前服务指标数据,所述当前服务指标数据用于表征服务器的运行情况;
分析模块,用于根据所述当前服务指标数据计算第一限流阈值,以及根据所述当前服务指标数据之前的历史服务指标数据计算第二限流阈值;以及还用于根据所述第一限流阈值和所述第二限流阈值,得到目标限流阈值,所述目标限流阈值用于限制访问所述服务器的访问请求的数量;
设置模块,用于将当前限流阈值设置为所述目标限流阈值;
限流模块,用于在接收到各访问请求时,统计访问请求的请求数量,在所述请求数量大于所述目标限流阈值时,进行限流操作。
9.一种电子设备,其特征在于,包括:存储器和处理器,所述存储器和所述处理器连接;
所述存储器,用于存储程序;
所述处理器,用于调用存储于所述存储器中的程序,以执行如权利要求1-7中任一项所述的方法。
10.一种存储介质,其特征在于,其上存储有计算机程序,所述计算机程序被计算机运行时执行如权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010021139.XA CN111262791A (zh) | 2020-01-08 | 2020-01-08 | 一种流量管控方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010021139.XA CN111262791A (zh) | 2020-01-08 | 2020-01-08 | 一种流量管控方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111262791A true CN111262791A (zh) | 2020-06-09 |
Family
ID=70950307
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010021139.XA Pending CN111262791A (zh) | 2020-01-08 | 2020-01-08 | 一种流量管控方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111262791A (zh) |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111767142A (zh) * | 2020-06-23 | 2020-10-13 | 中国工商银行股份有限公司 | 服务节点的限流阈值设置方法和服务端设备 |
CN111899858A (zh) * | 2020-07-29 | 2020-11-06 | 广州海鹚网络科技有限公司 | 一种医院流量的限制方法、装置、计算机设备和存储介质 |
CN112291158A (zh) * | 2020-10-30 | 2021-01-29 | 北京字节跳动网络技术有限公司 | 一种流量控制方法及装置 |
CN112333110A (zh) * | 2020-10-30 | 2021-02-05 | 深圳壹账通智能科技有限公司 | 基于漏斗限流模型的请求验证处理方法及相关设备 |
CN112769657A (zh) * | 2020-12-26 | 2021-05-07 | 上海优扬新媒信息技术有限公司 | 一种流量控制方法及装置 |
CN112804160A (zh) * | 2021-01-26 | 2021-05-14 | 北京嘀嘀无限科技发展有限公司 | 基于应用程序的限流方法、装置、设备、介质及产品 |
CN113037597A (zh) * | 2021-05-21 | 2021-06-25 | 北京每日优鲜电子商务有限公司 | 流量监控方法、装置、电子设备和计算机可读介质 |
CN113765817A (zh) * | 2020-11-20 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 上游系统限流方法和装置 |
CN113872876A (zh) * | 2021-09-23 | 2021-12-31 | 深圳市雷鸟网络传媒有限公司 | 请求限制方法、装置、电子设备和计算机可读存储介质 |
CN113872830A (zh) * | 2021-09-27 | 2021-12-31 | 重庆紫光华山智安科技有限公司 | 流量管理方法及相关装置 |
CN114006871A (zh) * | 2021-10-25 | 2022-02-01 | 北京有竹居网络技术有限公司 | 流量控制方法、装置、容器和存储介质 |
CN114338159A (zh) * | 2021-12-28 | 2022-04-12 | 中国电信股份有限公司 | 访问限制方法、装置、非易失性存储介质及处理器 |
CN114816770A (zh) * | 2022-04-29 | 2022-07-29 | 北京星汉未来网络科技有限公司 | 一种衡量计算机服务压力状态的通用系统及实现方法 |
CN115314439A (zh) * | 2022-08-11 | 2022-11-08 | 迈普通信技术股份有限公司 | 数据存储io请求的流控方法和相关装置 |
CN115412604A (zh) * | 2022-07-28 | 2022-11-29 | 中国电信股份有限公司 | 一种访问请求的处理方法和装置 |
CN115801685A (zh) * | 2022-12-21 | 2023-03-14 | 平安银行股份有限公司 | 应用服务限流方法、装置、设备和存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150188797A1 (en) * | 2013-12-27 | 2015-07-02 | Guy Satat | Adaptive admission control for on die interconnect |
CN106817424A (zh) * | 2017-01-23 | 2017-06-09 | 杭州云纪网络科技有限公司 | 用于控制访问流量的方法及系统 |
CN107222426A (zh) * | 2016-03-21 | 2017-09-29 | 阿里巴巴集团控股有限公司 | 控流的方法、装置及系统 |
CN108073465A (zh) * | 2017-12-29 | 2018-05-25 | 中国平安人寿保险股份有限公司 | 动态限流方法、Nginx服务器、存储介质及装置 |
CN109005125A (zh) * | 2018-08-24 | 2018-12-14 | 阿里巴巴集团控股有限公司 | 动态限流方法、装置及系统 |
CN109842565A (zh) * | 2018-12-15 | 2019-06-04 | 平安科技(深圳)有限公司 | 接口限流方法、装置、电子设备及存储介质 |
CN110661727A (zh) * | 2019-08-14 | 2020-01-07 | 平安普惠企业管理有限公司 | 数据传输优化方法、装置、计算机设备和存储介质 |
-
2020
- 2020-01-08 CN CN202010021139.XA patent/CN111262791A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150188797A1 (en) * | 2013-12-27 | 2015-07-02 | Guy Satat | Adaptive admission control for on die interconnect |
CN107222426A (zh) * | 2016-03-21 | 2017-09-29 | 阿里巴巴集团控股有限公司 | 控流的方法、装置及系统 |
CN106817424A (zh) * | 2017-01-23 | 2017-06-09 | 杭州云纪网络科技有限公司 | 用于控制访问流量的方法及系统 |
CN108073465A (zh) * | 2017-12-29 | 2018-05-25 | 中国平安人寿保险股份有限公司 | 动态限流方法、Nginx服务器、存储介质及装置 |
CN109005125A (zh) * | 2018-08-24 | 2018-12-14 | 阿里巴巴集团控股有限公司 | 动态限流方法、装置及系统 |
CN109842565A (zh) * | 2018-12-15 | 2019-06-04 | 平安科技(深圳)有限公司 | 接口限流方法、装置、电子设备及存储介质 |
CN110661727A (zh) * | 2019-08-14 | 2020-01-07 | 平安普惠企业管理有限公司 | 数据传输优化方法、装置、计算机设备和存储介质 |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111767142B (zh) * | 2020-06-23 | 2023-08-08 | 中国工商银行股份有限公司 | 服务节点的限流阈值设置方法和服务端设备 |
CN111767142A (zh) * | 2020-06-23 | 2020-10-13 | 中国工商银行股份有限公司 | 服务节点的限流阈值设置方法和服务端设备 |
CN111899858B (zh) * | 2020-07-29 | 2024-07-26 | 广州海鹚网络科技有限公司 | 一种医院流量的限制方法、装置、计算机设备和存储介质 |
CN111899858A (zh) * | 2020-07-29 | 2020-11-06 | 广州海鹚网络科技有限公司 | 一种医院流量的限制方法、装置、计算机设备和存储介质 |
CN112291158A (zh) * | 2020-10-30 | 2021-01-29 | 北京字节跳动网络技术有限公司 | 一种流量控制方法及装置 |
CN112333110A (zh) * | 2020-10-30 | 2021-02-05 | 深圳壹账通智能科技有限公司 | 基于漏斗限流模型的请求验证处理方法及相关设备 |
CN113765817A (zh) * | 2020-11-20 | 2021-12-07 | 北京沃东天骏信息技术有限公司 | 上游系统限流方法和装置 |
CN112769657A (zh) * | 2020-12-26 | 2021-05-07 | 上海优扬新媒信息技术有限公司 | 一种流量控制方法及装置 |
CN112769657B (zh) * | 2020-12-26 | 2022-07-26 | 度小满科技(北京)有限公司 | 一种流量控制方法及装置 |
CN112804160A (zh) * | 2021-01-26 | 2021-05-14 | 北京嘀嘀无限科技发展有限公司 | 基于应用程序的限流方法、装置、设备、介质及产品 |
CN112804160B (zh) * | 2021-01-26 | 2023-06-06 | 北京嘀嘀无限科技发展有限公司 | 基于应用程序的限流方法、装置、设备、介质及产品 |
CN113037597A (zh) * | 2021-05-21 | 2021-06-25 | 北京每日优鲜电子商务有限公司 | 流量监控方法、装置、电子设备和计算机可读介质 |
CN113872876A (zh) * | 2021-09-23 | 2021-12-31 | 深圳市雷鸟网络传媒有限公司 | 请求限制方法、装置、电子设备和计算机可读存储介质 |
CN113872830A (zh) * | 2021-09-27 | 2021-12-31 | 重庆紫光华山智安科技有限公司 | 流量管理方法及相关装置 |
CN113872830B (zh) * | 2021-09-27 | 2023-09-01 | 重庆紫光华山智安科技有限公司 | 流量管理方法及相关装置 |
CN114006871A (zh) * | 2021-10-25 | 2022-02-01 | 北京有竹居网络技术有限公司 | 流量控制方法、装置、容器和存储介质 |
CN114338159A (zh) * | 2021-12-28 | 2022-04-12 | 中国电信股份有限公司 | 访问限制方法、装置、非易失性存储介质及处理器 |
CN114816770A (zh) * | 2022-04-29 | 2022-07-29 | 北京星汉未来网络科技有限公司 | 一种衡量计算机服务压力状态的通用系统及实现方法 |
CN115412604A (zh) * | 2022-07-28 | 2022-11-29 | 中国电信股份有限公司 | 一种访问请求的处理方法和装置 |
CN115314439A (zh) * | 2022-08-11 | 2022-11-08 | 迈普通信技术股份有限公司 | 数据存储io请求的流控方法和相关装置 |
CN115314439B (zh) * | 2022-08-11 | 2023-10-24 | 迈普通信技术股份有限公司 | 数据存储io请求的流控方法和相关装置 |
CN115801685A (zh) * | 2022-12-21 | 2023-03-14 | 平安银行股份有限公司 | 应用服务限流方法、装置、设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111262791A (zh) | 一种流量管控方法、装置、电子设备及存储介质 | |
US11720467B2 (en) | Logging techniques for third party application data | |
CN109684162B (zh) | 设备状态预测方法、系统、终端及计算机可读存储介质 | |
US20140096146A1 (en) | Translating time-stamped events to performance indicators | |
CN110471821A (zh) | 异常变更检测方法、服务器及计算机可读存储介质 | |
CN113722177B (zh) | 时序指标异常检测方法、装置、系统、设备及存储介质 | |
CN105893224B (zh) | 一种资源度量方法及装置 | |
WO2019085754A1 (zh) | 应用清理方法、装置、存储介质及电子设备 | |
CN114490078A (zh) | 一种微服务的动态缩扩容方法、装置及设备 | |
CN110266555B (zh) | 用于分析网站服务请求的方法 | |
CN105471938B (zh) | 服务器负载管理方法及装置 | |
US20120054181A1 (en) | Online management of historical data for efficient reporting and analytics | |
US8549477B2 (en) | Mapping usage patterns using code features | |
CN107748711B (zh) | 自动优化Storm并行度的方法、终端设备及存储介质 | |
CN115981970A (zh) | 运维数据分析方法、装置、设备和介质 | |
CN115858291A (zh) | 一种系统指标的检测方法、装置、电子设备及其存储介质 | |
CN113726903B (zh) | 一种数据上传方法及装置 | |
US20230393962A1 (en) | Automatic diagnostics and mitigation for improving application responsiveness | |
CN118409882B (zh) | 业务数据处理方法、装置、计算机设备和可读存储介质 | |
CN116436919B (zh) | 云资源消耗优化方法、装置、电子设备及可读存储介质 | |
CN114710406B (zh) | 超时阈值的动态确定方法、装置、电子设备和介质 | |
CN113778727B (zh) | 数据处理方法及装置、电子设备和计算机可读存储介质 | |
WO2023235595A1 (en) | Automatic diagnostics and mitigation for improving application responsiveness | |
CN115907983A (zh) | 数据监控方法、装置、存储介质及处理器 | |
CN117221250A (zh) | 资源利用率的确定方法、装置和计算机设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200609 |
|
RJ01 | Rejection of invention patent application after publication |