CN118646690B - 一种性能指标评估方法、客户端、服务端、设备及介质 - Google Patents

Abstract

本申请提供一种性能指标评估方法、客户端、服务端、设备及介质。根据本申请的一个示例，该方法应用于客户端，该方法可以包括：向服务端发送SSE请求，以使服务端生成首条数据帧和首条数据帧对应的标识信息；其中，标识信息用于标识首条数据帧的响应时间，首条数据帧是SSE请求中的首条处理业务逻辑的数据帧；基于获取到的标识信息，获得首条数据帧的响应时间；根据SSE请求的数量和响应时间，评估SSE请求对应的SSE接口的性能指标。

Description

一种性能指标评估方法、客户端、服务端、设备及介质

技术领域

本申请涉及性能测试技术领域，尤其涉及一种性能指标评估方法、客户端、服务端、设备及介质。

背景技术

服务器发送事件（Server-Sent Events，SSE）是一种允许服务端向客户端发送流式消息的技术，而无需客户端的进一步请求。这种技术非常适合用于实现推送通知、实时更新和数据流等场景。

目前，在对接口进行性能测试时，会使用客户端从发送请求到接收到完整响应的耗时来评估接口的性能指标。但是，针对SSE接口的性能测试，如果使用该评估方法来评估SSE 接口的性能指标，会导致得到的性能指标不准确。

发明内容

为克服相关技术中存在的问题，本申请提供了一种性能指标评估方法、客户端、服务端、设备及介质。

根据本申请任一实施例的第一方面，提供了一种性能指标评估方法，所述方法应用于客户端，所述方法包括：

向服务端发送SSE请求，以使所述服务端生成首条数据帧和所述首条数据帧对应的标识信息；其中，所述标识信息用于标识所述首条数据帧的响应时间；所述首条数据帧是所述SSE请求中的首条处理业务逻辑的数据帧；

基于获取到的所述标识信息，获得所述首条数据帧的响应时间；

根据所述SSE请求的数量和所述响应时间，评估所述SSE请求对应的SSE接口的性能指标。

根据本申请任一实施例的第二方面，提供了一种性能指标评估方法，所述方法应用于服务端，所述方法包括：

接收客户端发送的SSE请求；

生成首条数据帧和所述首条数据帧对应的标识信息，以使所述客户端基于所述标识信息获得所述首条数据帧的响应时间，并根据所述SSE请求的数量和所述响应时间，评估所述SSE请求对应的SSE接口的性能指标；

其中，所述标识信息用于标识所述首条数据帧的响应时间；所述首条数据帧是所述SSE请求中的首条处理业务逻辑的数据帧。

根据本申请任一实施例的第三方面，提供了一种客户端，所述客户端包括：

请求发送模块，用于向服务端发送SSE请求，以使所述服务端生成首条数据帧和所述首条数据帧对应的标识信息；其中，所述标识信息用于标识所述首条数据帧的响应时间；所述首条数据帧是所述SSE请求中的首条处理业务逻辑的数据帧；

响应时间获取模块，用于基于获取到的所述标识信息，获得所述首条数据帧的响应时间；

指标评估模块，用于根据所述SSE请求的数量和所述响应时间，评估所述SSE请求对应的SSE接口的性能指标。

根据本申请任一实施例的第四方面，提供了一种服务端，所述服务端包括：

请求接收模块，用于接收客户端发送的SSE请求；

标识生成模块，用于生成首条数据帧和所述首条数据帧对应的标识信息，以使所述客户端基于所述标识信息获得所述首条数据帧的响应时间，并根据所述SSE请求的数量和所述响应时间，评估所述SSE请求对应的SSE接口的性能指标；

其中，所述标识信息用于标识所述首条数据帧的响应时间；所述首条数据帧是所述SSE请求中的首条处理业务逻辑的数据帧。

根据本申请任一实施例的第五方面，提供了一种电子设备，包括：

处理器；

用于存储处理器可执行指令的存储器；

其中，所述处理器通过运行所述可执行指令以实现如上述本申请任一实施例中由客户端执行的方法或由服务器执行的方法。

根据本申请任一实施例的第六方面，提供了一种计算机可读存储介质，其上存储有计算机指令，该指令被处理器执行时实现如上述本申请任一实施例中由客户端执行的方法或由服务器执行的方法。

根据本申请任一实施例的第七方面，提供了一种计算机程序产品，其上存储有计算机程序/指令，该计算机程序/指令被处理器执行时实现如上述本申请任一实施例中由客户端执行的方法或由服务器执行的方法。

本申请提供的技术方案可以包括以下有益效果：

根据上述实施例可知，通过向服务端发送SSE请求，以使服务端生成SSE请求中的首条数据帧和首条数据帧对应的标识信息，基于获取到的标识信息，获得首条数据帧的响应时间，根据SSE请求的数量和响应时间，评估SSE请求对应的SSE接口的性能指标，由于进行性能测试时使用的是SSE请求中的首条数据帧的响应时间，首条数据帧的响应时间可以直接地反映服务端对于SSE接口的处理能力和性能，避免使用SSE请求中多条流式消息的总耗时进行评估，从而得到SSE接口的准确的性能指标。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本申请。

附图说明

此处的附图被并入说明书中并构成本申请的一部分，示出了符合本申请的实施例，并与说明书一起用于解释本申请的原理。

图1是本申请根据一示例性实施例示出的一种SSE接口的通信场景的示意图；

图2是本申请根据一示例性实施例示出的一种性能指标评估方法的流程图；

图3是本申请根据一示例性实施例示出的另一种性能指标评估方法的流程图；

图4是本申请根据一示例性实施例示出的一种性能指标评估方法的交互图；

图5是本申请根据一示例性实施例示出的一种电子设备的结构示意图；

图6是本申请根据一示例性实施例示出的一种客户端的框图；

图7是本申请根据一示例性实施例示出的一种服务端的框图。

具体实施方式

这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。

在本申请使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。

应当理解，尽管在本申请可能采用术语第一、第二、第三等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本申请范围的情况下，第一信息也可以被称为第二信息，类似地，第二信息也可以被称为第一信息。取决于语境，如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。

基于SSE技术的SSE接口是一种实现服务器主动向客户端推送实时数据的机制。SSE技术利用了超文本传输协议（Hypertext Transfer Protocol，HTTP）的长连接特性，使得服务器能够在有数据更新时，实时地将数据推送到客户端，而无需客户端不断地发送请求来查询。

SSE 接口从客户端发出SSE请求后，服务端会向客户端发送多条消息，单个连接会持续很长时间，这种情况得到的单个SSE请求的耗时，其实是单个SSE请求中的多个消息的耗时的总和。

请参阅图1，图1示出了一种SSE接口的通信场景的示意图。客户端通过JavaScript的EventSource接口（SSE接口）向服务端发送连接请求，打开事件流（Event Stream）。

SSE接口使用标准的HTTP连接，一旦客户端连接到服务端，HTTP连接将保持打开状态，直到客户端或服务端明确关闭连接。

SSE请求使用特殊的Content-Type（text/event-stream）来标识通信过程中的数据流。客户端使用EventSource接口中的onMessage事件来接收服务端发送的消息（event），而服务端的实现则依赖于特定的服务器技术。

目前，在评估SSE 接口的测试指标时，使用单个SSE请求中的多个消息的总耗时，评估SSE 接口的性能测试的测试指标。

以每秒请求数（Requests Per Second，RPS）为例，在SSE请求的请求数不变的情况下，由于总耗时的增加，最终会导致 RPS 指标下降，无法评估出真实的每秒请求数，不能准确地反映服务端的处理能力。

为了解决上述的问题，本申请提出一种性能指标评估方法，为对本申请进行进一步说明，提供下列实施例：

请参阅图2，图2是本申请根据一示例性实施例示出的一种性能指标评估方法的流程图。该性能指标评估方法可以应用于web浏览器、应用程序（Application，App）等客户端，该性能指标评估方法可以包括如下步骤：

步骤202：向服务端发送SSE请求，以使服务端生成首条数据帧和首条数据帧对应的标识信息；其中，标识信息用于标识首条数据帧的响应时间；首条数据帧是SSE请求中的首条处理业务逻辑的数据帧。

本步骤中，客户端通过SSE接口向服务端发送SSE请求，并记录发送SSE请求的发送时间点。

服务端响应于接收到的SSE请求，打开客户端与服务端之间的HTTP连接。服务端可以先向客户端发送表示服务端正在执行中的信息帧。

在服务端向客户端发送信息帧之后，服务端开始处理SSE请求对应的业务，生成SSE请求中的处理业务逻辑的首条数据帧。

服务端通过判断数据帧是否为处理业务逻辑的数据、业务逻辑是否开始输出流式消息等方法，确定生成的数据帧是否为首条数据帧。

服务端还可以生成首条数据帧对应的标识信息，来标识首条数据帧的响应时间。

其中，SSE请求是利用其长连接特性向服务器发送的 HTTP 请求。信息帧中可以包括服务端的元信息，例如：服务版本号、接口信息等。数据帧中包括服务端的业务数据信息。

首条数据帧是SSE请求中的首条处理业务逻辑的数据帧。标识信息用于标识首条数据帧的响应时间。响应时间可以是服务端对SSE请求中的首条数据帧的处理时间，也可以是客户端从发送SSE请求到获取到标识信息的时间。

步骤204：基于获取到的标识信息，获得首条数据帧的响应时间。

本步骤中，客户端可以通过轮询查询标识信息、监听接收标识信息等方式，获取服务端的标识信息，得到首条数据帧的响应时间。

响应时间的获取方式，例如，可以是服务端在生成首条数据帧时，由服务端将接收到SSE请求的接收时间点到首条数据帧的响应时间点，作为首条数据帧的响应时间，将响应时间存储到标识信息中，以使客户端获取到响应时间。

还可以由客户端将从SSE请求的发送时间点到获取到标识信息的时间点，作为首条数据帧的响应时间，本申请实施例对此不做限制。

在计算完首条数据帧的响应时间后，服务端可以持续向客户端发送数据帧。客户端接收服务端后续发送的数据帧，但是后续的数据帧不计入到首条数据帧的响应时间中，无需使用后续的数据帧的耗时进行评估性能指标。

在一实施例中，客户端可以预先记录发送SSE请求的发送时间点。将获取到首条数据帧对应的标识信息的时间点，记录为首条数据帧的响应时间点。

计算从SSE请求的发送时间点到首条数据帧的响应时间点的时间，获得首条数据帧的响应时间。

其中，发送时间点是客户端向服务端发送SSE请求的时间点，可以是毫秒级的时间戳。响应时间点是客户端获取到首条数据帧对应的标识信息的时间点，可以是毫秒级的时间戳。

客户端可以根据如下的公式（1）计算首条数据帧的响应时间：

（1）

其中，t表示SSE请求中的首条数据帧的响应时间，表示首条数据帧的响应时间点，表示SSE请求的发送时间点，单位为毫秒。

如上所述的，通过记录发送SSE请求的发送时间点，将获取到标识信息的时间点，记录为首条数据帧的响应时间点，计算从发送时间点到响应时间点的响应时间，可以获取端到端的首条数据帧的响应时间，使得进行指标评估的响应时间更加接近于真实场景，进一步提高SSE接口的性能指标的准确性，精准的反映SSE接口在实际使用中的性能表现。

步骤206：根据SSE请求的数量和响应时间，评估SSE请求对应的SSE接口的性能指标。

本步骤中，首条数据帧的响应时间可以反映服务器处理新连接和启动数据流的效率，只要服务端能够处理SSE请求中的首条数据帧，就可以认为服务端有处理SSE接口的能力。

客户端可以根据SSE请求的数量和首条数据帧的响应时间，评估SSE请求对应的SSE接口的真实的每秒请求数、每秒查询数（Queries-per-second，QPS）等性能指标。性能指标用于反映服务端对于SSE接口的处理能力。

客户端还可以根据实际业务场景设定响应时间范围，将响应时间与响应时间范围进行比较，还可以分析响应时间分布，实现对于SSE接口的性能测试，本申请实施例对此不做限制。

示例性的，客户端可以根据如下的公式（2）计算每秒请求数：

（2）

其中，RPS表示每秒请求数，n表示SSE请求的数量，t表示SSE请求中的首条数据帧的响应时间。由于每秒请求数是针对每秒的性能参数，响应时间的单位为毫秒，需要将响应时间换算成以秒为单位的响应时间。

客户端还可以根据如下的公式（3）计算性能指标中的每秒查询数：

（3）

其中，QPS表示每秒查询数，n表示SSE请求的数量，t表示SSE请求中的首条数据帧的响应时间。由于每秒查询数是针对每秒的性能参数，响应时间的单位为毫秒，需要将响应时间换算成以秒为单位的响应时间。

本实施例的性能指标评估方法，通过向服务端发送SSE请求，以使服务端生成SSE请求中的首条数据帧和首条数据帧对应的标识信息，基于获取到的标识信息，获得首条数据帧的响应时间，根据SSE请求的数量和响应时间，评估SSE请求对应的SSE接口的性能指标，由于进行性能测试时使用的是SSE请求中的首条数据帧的响应时间，首条数据帧的响应时间可以直接地反映服务端对于SSE接口的处理能力和性能，避免使用SSE请求中多条流式消息的总耗时进行评估，从而得到SSE接口的准确的性能指标。

请参阅图3，图3是本申请根据一示例性实施例示出的另一种性能指标评估方法的流程图。该性能指标评估方法可以应用于服务端，该性能指标评估方法可以包括如下步骤：

步骤302：接收客户端发送的SSE请求。

本步骤中，服务端接收客户端发送的SSE请求，打开客户端与服务端之间的HTTP连接。服务端可以先向客户端发送信息帧。

步骤304：生成首条数据帧和首条数据帧对应的标识信息，以使客户端基于标识信息获得首条数据帧的响应时间，并根据SSE请求的数量和响应时间，评估SSE请求对应的SSE接口的性能指标；其中，标识信息用于标识首条数据帧的响应时间；首条数据帧是SSE请求中的首条处理业务逻辑的数据帧。

本步骤中，在服务端向客户端发送信息帧之后，服务端开始处理SSE请求对应的业务，生成SSE请求中的处理业务逻辑的首条数据帧。

服务端还可以生成首条数据帧对应的标识信息，以使客户端获取首条数据帧的响应时间。

客户端基于标识信息，获得首条数据帧的响应时间，并根据SSE请求的数量和响应时间，评估SSE请求对应的SSE接口的性能指标。

在一实施例中，服务端，包括：大语言模型的服务端。可以使用本申请实施例所述的性能指标评估方法，对大语言模型的服务端中的SSE接口评估性能指标。

其中，大语言模型可以是聊天生成预训练转换器（Chat Generative Pre-trainedTransformer，ChatGPT）、基于Transformer架构的自然语言处理模型（BidirectionalEncoder Representations from Transformers，BERT）等。

如上所述的，通过对大语言模型的服务端中的SSE接口评估性能指标，可以准确评估大语言模型的服务端的响应速度和处理效率。

本实施例的性能指标评估方法，通过接收客户端发送的SSE请求，生成首条数据帧和首条数据帧对应的标识信息，以使客户端基于标识信息获得首条数据帧的响应时间，并根据SSE请求的数量和响应时间，评估SSE请求对应的SSE接口的性能指标，由于进行性能测试时使用的是SSE请求中的首条数据帧的响应时间，首条数据帧的响应时间可以直接地反映服务端对于SSE接口的处理能力和性能，避免使用SSE请求中多条流式消息的总耗时进行评估，从而得到SSE接口的准确的性能指标。

在前述的实施例中，介绍了根据SSE请求的数量和首条数据帧的响应时间，对SSE请求对应的SSE接口评估性能指标。在下面的实施例中，将针对SSE接口的并发测试，进行详细的说明，并可以适用于如上的任一实施例。

在一实施例中，客户端可以通过Jmeter等测试工具模拟大量的并发用户，客户端向服务端发送SSE接口对应的多个并发的SSE请求。服务端对接收到的多个并发的SSE请求分别进行处理，生成每个并发的SSE请求对应的首条数据帧和标识信息。

客户端计算多个并发的SSE请求的总请求数量，并累计计算多个并发的SSE请求的首条数据帧的响应时间，得到多个并发的SSE请求的总响应时间。总请求数量是多个并发的SSE请求的总数。总响应时间是多个并发的SSE请求的首条数据帧的响应时间的总耗时。

示例性的，客户端可以根据如下的公式（4）计算总响应时间：

（4）

其中，s表示多个并发的SSE请求的总响应时间，表示每个SSE请求的首条数据帧的响应时间点，表示每个SSE请求的发送时间点，单位为毫秒。

客户端根据多个并发的SSE请求的总请求数量和总响应时间，计算SSE接口的性能指标。

示例性的，客户端可以根据如下的公式（5）计算并发场景下的每秒请求数：

（5）

其中，RPS表示每秒请求数，n表示多个并发的SSE请求的总请求数量，s表示多个并发的SSE请求的首条数据帧的总响应时间。由于每秒请求数是针对每秒的性能参数，总响应时间的单位为毫秒，需要将总响应时间换算成以秒为单位的总响应时间。

客户端还可以根据如下的公式（6）计算并发场景下的每秒查询数：

（6）

其中，QPS表示每秒查询数，n表示多个并发的SSE请求的总请求数量， s表示多个并发的SSE请求的首条数据帧的总响应时间。由于每秒查询数是针对每秒的性能参数，总响应时间的单位为毫秒，需要将总响应时间换算成以秒为单位的总响应时间。

如上所述的，通过获取SSE接口对应的多个并发的SSE请求的总请求数量和总响应时间，根据总请求数量和总响应时间，计算SSE接口的每秒请求数、每秒查询数等性能指标，通过累计多个并发的SSE请求的首条数据帧的响应时间，结合并发的总请求数量，可以计算出SSE接口的性能指标，从而全面准确地评估SSE接口在并发场景下的处理能力。

在前述的实施例中，介绍了根据并发的多个SSE请求的总请求数量和总响应时间，计算SSE接口的性能指标。在下面的实施例中，将针对标识信息的获取方式，进行更加详细的说明，并可以适用于如上的任一实施例。

在一实施例中，服务端通过首条数据帧中的预设的扩展参数，设置首条数据帧中携带标识信息，向客户端发送携带标识信息的首条数据帧。扩展参数用于携带标识信息。

客户端根据接收到服务端发送的首条数据帧，获取到首条数据帧中携带的标识信息。

如上所述的，通过由客户端根据接收到服务端发送的首条数据帧，获取首条数据帧中通过扩展参数携带的标识信息，使得客户端能够精确地获得从发送SSE请求到接收到首条数据帧之间的响应时间，进一步保证SSE接口的性能指标的准确性。

在一实施例中，客户端通过轮询的方式，周期性地发送请求给服务端，向服务端查询并获取首条数据帧对应的标识信息。

服务端还可以将生成的标识信息存储在数据库中，客户端通过轮询的方式，周期性地查询并获取数据库中的标识信息。

如上所述的，通过轮询的方式，由客户端向服务端查询标识信息，可以降低服务端的处理压力。

为了进一步介绍SSE接口的性能指标评估流程，图4示出了一种性能指标评估方法的交互图。该性能指标评估方法可以包括如下步骤：

步骤402：客户端向服务端发送SSE请求。

步骤404：客户端记录SSE请求的发送时间点。

步骤406：服务端建立与客户端之间的连接。

步骤408：服务端开始处理SSE请求。

本步骤中，服务端开始处理SSE请求，执行SSE请求的相关逻辑。

步骤410：服务端向客户端发送信息帧。

本步骤中，服务端向客户端发送服务版本号、接口信息等信息帧。客户端接收该信息帧的消息。

步骤412：服务端通过首条数据帧的扩展参数，设置首条数据帧中携带标识信息。

本步骤中，服务端开始处理SSE请求的业务逻辑，生成SSE请求中的首条数据帧。

以扩展参数为预设的键值对为例，其中，扩展参数中的键为flag，扩展参数中的值默认为false。首条数据帧中携带的标识信息为true。

服务端将首条数据帧的扩展参数设置为{“flag”：true}。

步骤414：服务端向客户端发送携带标识信息的首条数据帧。

本步骤中，服务端向客户端发送携带标识信息的首条数据帧，首条数据帧的扩展参数为{“flag”：true}。

当服务端向客户端发送信息帧和非首条的数据帧时，信息帧和非首条的数据帧中的扩展参数为{“flag”：false}。客户端对于扩展参数为{“flag”：false}的消息不进行计时处理。

步骤416：客户端将获取到首条数据帧中携带的标识信息的时间点，记录为响应时间点。

本步骤中，客户端根据首条数据帧的扩展参数{“flag”：true}，将接收到首条数据帧中携带的标识信息的时间点，记录为响应时间点。

步骤418：客户端计算从SSE请求的发送时间点到首条数据帧的响应时间点的响应时间。

步骤420：客户端根据SSE请求的数量和响应时间，评估SSE请求对应的SSE接口的性能指标。

本步骤中，客户端根据SSE请求的数量和响应时间，评估SSE请求对应的SSE接口的性能指标，计算SSE接口的每秒请求数、每秒查询数等性能指标。

客户端还可以计算多个并发的SSE请求的总请求数量和总响应时间，根据总请求数量和总响应时间，计算SSE接口在并发场景下的每秒请求数、每秒查询数等性能指标。

步骤422：服务端向客户端发送非首条的数据帧。

本步骤中，服务端保持SSE接口持续流式输出，服务端可以持续向客户端发送非首条的数据帧。

步骤424：服务端确定SSE请求执行结束，断开连接。

本步骤中，服务端处理完成SSE请求的业务逻辑，确定SSE请求执行结束，断开与客户端之间的连接。

图5是本申请根据一示例性实施例示出的一种电子设备的结构示意图。该电子设备例如可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，个人数字助理，服务器，智能家电，车机等。参考图5，在硬件层面，该电子设备包括处理器502、内部总线504、网络接口506、内存508以及非易失性存储器510，当然还可能包括其他业务所需要的硬件。处理器502从非易失性存储器510中读取对应的计算机程序到内存508中然后运行，在逻辑层面上形成客户端或服务端。当然，除了软件实现方式之外，本申请并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。

图6是本申请根据一示例性实施例示出的一种客户端的框图。参照图6，该客户端可以包括：请求发送模块602、响应时间获取模块604和指标评估模块606，其中：

所述请求发送模块602，用于向服务端发送SSE请求，以使所述服务端生成首条数据帧和所述首条数据帧对应的标识信息；其中，所述标识信息用于标识所述首条数据帧的响应时间；所述首条数据帧是所述SSE请求中的首条处理业务逻辑的数据帧；

所述响应时间获取模块604，用于基于获取到的所述标识信息，获得所述首条数据帧的响应时间；

所述指标评估模块606，用于根据所述SSE请求的数量和所述响应时间，评估所述SSE请求对应的SSE接口的性能指标。

在一个例子中，所述SSE请求，包括：所述SSE接口对应的多个并发的SSE请求；所述指标评估模块606，在用于根据所述SSE请求的数量和所述响应时间，评估所述SSE请求对应的SSE接口的性能指标时，包括：获取所述多个并发的SSE请求的总请求数量和总响应时间；其中，所述总响应时间是累计所述多个并发的SSE请求的首条数据帧的响应时间得到的；根据所述总请求数量和所述总响应时间，计算所述SSE接口的性能指标。

在一个例子中，所述响应时间获取模块604，在用于基于获取到的所述标识信息，获得所述首条数据帧的响应时间之前，还包括：记录发送所述SSE请求的发送时间点；所述响应时间获取模块604，在用于基于获取到的所述标识信息，获得所述首条数据帧的响应时间时，包括：将获取到所述标识信息的时间点，记录为所述首条数据帧的响应时间点；计算从所述发送时间点到所述响应时间点的所述响应时间。

在一个例子中，所述响应时间获取模块604，在用于基于获取到的所述标识信息，获得所述首条数据帧的响应时间之前，还包括：根据接收到所述服务端发送的所述首条数据帧，获取所述标识信息；其中，所述首条数据帧通过扩展参数携带所述标识信息。

在一个例子中，所述响应时间获取模块604，在用于基于获取到的所述标识信息，获得所述首条数据帧的响应时间之前，还包括：通过轮询的方式，获取所述标识信息。

图7是本申请根据一示例性实施例示出的一种服务端的框图。参照图7，该服务端可以包括：请求接收模块702和标识生成模块704，其中：

所述请求接收模块702，用于接收客户端发送的SSE请求；

所述标识生成模块704，用于生成首条数据帧和所述首条数据帧对应的标识信息，以使所述客户端基于所述标识信息获得所述首条数据帧的响应时间，并根据所述SSE请求的数量和所述响应时间，评估所述SSE请求对应的SSE接口的性能指标；

其中，所述标识信息用于标识所述首条数据帧的响应时间；所述首条数据帧是所述SSE请求中的首条处理业务逻辑的数据帧。

在一个例子中，所述标识生成模块704，在用于生成首条数据帧和所述首条数据帧对应的标识信息时，包括：通过所述首条数据帧的扩展参数，设置所述首条数据帧中携带所述标识信息；向所述客户端发送所述首条数据帧，以使所述客户端获取到所述标识信息。

在一个例子中，所述服务端，包括：大语言模型的服务端。

上述服务端和客户端中各个单元的功能和作用的实现过程具体详见上述方法中对应步骤的实现过程，在此不再赘述。

对于服务端和客户端的装置实施例而言，由于其基本对应于方法实施例，所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理模块，即可以位于一个地方，或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本申请方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。

在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器，上述指令可由处理器执行以实现如上述任一实施例中由客户端执行的方法或由服务器执行的方法。

其中，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器（RAM）、CD-ROM、磁带、软盘和光数据存储设备等，本申请并不对此进行限制。

在示例性实施例中，还提供了一种包括计算机程序/指令的计算机程序产品，上述计算机程序/指令可由处理器执行以实现如上述任一实施例中由客户端执行的方法或由服务器执行的方法。

上述对本申请特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

本领域技术人员在考虑说明书及实践这里申请的发明后，将容易想到本申请的其它实施方案。本申请并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。

以上所述仅为本申请的较佳实施例而已，并不用以限制本申请，凡在本申请的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本申请保护的范围之内。

Claims (12)

1.一种性能指标评估方法，其特征在于，所述方法应用于客户端，所述方法包括：

向服务端发送SSE请求，以使所述服务端生成首条数据帧和所述首条数据帧对应的标识信息；其中，所述标识信息用于标识所述首条数据帧的响应时间；所述首条数据帧是所述SSE请求中的首条处理业务逻辑的数据帧；

基于获取到的所述标识信息，获得所述首条数据帧的响应时间；

根据所述SSE请求的数量和所述响应时间，评估所述SSE请求对应的SSE接口的性能指标。

2.根据权利要求1所述的方法，其特征在于，所述SSE请求，包括：所述SSE接口对应的多个并发的SSE请求；

所述根据所述SSE请求的数量和所述响应时间，评估所述SSE请求对应的SSE接口的性能指标，包括：

获取所述多个并发的SSE请求的总请求数量和总响应时间；其中，所述总响应时间是累计所述多个并发的SSE请求的首条数据帧的响应时间得到的；

根据所述总请求数量和所述总响应时间，计算所述SSE接口的性能指标。

3.根据权利要求1所述的方法，其特征在于，在所述基于获取到的所述标识信息，获得所述首条数据帧的响应时间之前，所述方法还包括：

记录发送所述SSE请求的发送时间点；

所述基于获取到的所述标识信息，获得所述首条数据帧的响应时间，包括：

将获取到所述标识信息的时间点，记录为所述首条数据帧的响应时间点；

计算从所述发送时间点到所述响应时间点的所述响应时间。

4.根据权利要求1所述的方法，其特征在于，所述标识信息的获取方式，包括以下至少一项：

根据接收到所述服务端发送的所述首条数据帧，获取所述标识信息；其中，所述首条数据帧通过扩展参数携带所述标识信息；

通过轮询的方式，获取所述标识信息。

5.一种性能指标评估方法，其特征在于，所述方法应用于服务端，所述方法包括：

接收客户端发送的SSE请求；

生成首条数据帧和所述首条数据帧对应的标识信息，以使所述客户端基于所述标识信息获得所述首条数据帧的响应时间，并根据所述SSE请求的数量和所述响应时间，评估所述SSE请求对应的SSE接口的性能指标；

其中，所述标识信息用于标识所述首条数据帧的响应时间；所述首条数据帧是所述SSE请求中的首条处理业务逻辑的数据帧。

6.根据权利要求5所述的方法，其特征在于，所述生成首条数据帧和所述首条数据帧对应的标识信息，包括：

通过所述首条数据帧的扩展参数，设置所述首条数据帧中携带所述标识信息；

向所述客户端发送所述首条数据帧，以使所述客户端获取到所述标识信息。

7.根据权利要求5所述的方法，其特征在于，所述服务端，包括：大语言模型的服务端。

8.一种客户端，其特征在于，所述客户端包括：

请求发送模块，用于向服务端发送SSE请求，以使所述服务端生成首条数据帧和所述首条数据帧对应的标识信息；其中，所述标识信息用于标识所述首条数据帧的响应时间；所述首条数据帧是所述SSE请求中的首条处理业务逻辑的数据帧；

响应时间获取模块，用于基于获取到的所述标识信息，获得所述首条数据帧的响应时间；

指标评估模块，用于根据所述SSE请求的数量和所述响应时间，评估所述SSE请求对应的SSE接口的性能指标。

9.一种服务端，其特征在于，所述服务端包括：

请求接收模块，用于接收客户端发送的SSE请求；

标识生成模块，用于生成首条数据帧和所述首条数据帧对应的标识信息，以使所述客户端基于所述标识信息获得所述首条数据帧的响应时间，并根据所述SSE请求的数量和所述响应时间，评估所述SSE请求对应的SSE接口的性能指标；

其中，所述标识信息用于标识所述首条数据帧的响应时间；所述首条数据帧是所述SSE请求中的首条处理业务逻辑的数据帧。

10.一种电子设备，其特征在于，包括：

处理器；

用于存储处理器可执行指令的存储器；

其中，所述处理器通过运行所述可执行指令以实现如权利要求1-4任一所述的方法或权利要求5-7任一所述的方法。

11.一种计算机可读存储介质，其上存储有计算机指令，其特征在于，该指令被处理器执行时实现如权利要求1-4任一所述的方法或权利要求5-7任一所述的方法。

12.一种计算机程序产品，其上存储有计算机程序/指令，其特征在于，该计算机程序/指令被处理器执行时实现如权利要求1-4任一所述的方法或权利要求5-7任一所述的方法。