JP6615808B2 - Method, apparatus and program for predicting packet delay in server - Google Patents
Method, apparatus and program for predicting packet delay in server Download PDFInfo
- Publication number
- JP6615808B2 JP6615808B2 JP2017034959A JP2017034959A JP6615808B2 JP 6615808 B2 JP6615808 B2 JP 6615808B2 JP 2017034959 A JP2017034959 A JP 2017034959A JP 2017034959 A JP2017034959 A JP 2017034959A JP 6615808 B2 JP6615808 B2 JP 6615808B2
- Authority
- JP
- Japan
- Prior art keywords
- delay
- server
- throughput
- distribution
- reception
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
- Communication Control (AREA)
Description
本発明は、サーバにおけるパケットの遅延を予測する技術に関する。 The present invention relates to a technique for predicting packet delay in a server.
従来、ソフトウェアルータの処理モデルを再現し、トラフィックシミュレータを用いてそのパケット遅延を取得する技術がある(例えば非特許文献1参照)。この技術によれば、Linux(登録商標)OSのパケット処理プロセスを模擬したモデルを作成・実装し、ネットワークシミュレータと連結させている。これによって、任意のトラフィックパターンに対して、パケット処理遅延を予測することができる。
Conventionally, there is a technique for reproducing a processing model of a software router and acquiring the packet delay using a traffic simulator (see Non-Patent
また、遅延の揺らぎを時系列的に観測し、その観測結果に基づいてモデルを作成し、将来の遅延の揺らぎの状況を予測する技術もある(例えば特許文献1参照)。この技術によれば、遅延の揺らぎの時系列の測定結果から、2つの異なる方法に基づく時系列モデルを生成する。そして、それらモデル間の乖離に基づいて、生成時系列モデルを補正することによって、モデルの精度を高めている。 There is also a technique for observing delay fluctuations in time series, creating a model based on the observation results, and predicting the state of future delay fluctuations (see, for example, Patent Document 1). According to this technique, a time series model based on two different methods is generated from a measurement result of a delay fluctuation time series. Then, the accuracy of the model is improved by correcting the generated time series model based on the divergence between the models.
しかしながら、前述した非特許文献1及び特許文献1に記載の技術によれば、サーバの構成を、予め固定として設定することを前提としている。即ち、サーバの設定変更によって、遅延がどのように変化するか、を予測することまではできない。
仮に、非特許文献1及び特許文献1に基づいて、設定変更による遅延の変化を予測しようとした場合、設定変更毎に、モデルの生成及び補正が必要となる。即ち、多数の測定作業やキャリブレーションを行う必要が生じる。
However, according to the technologies described in Non-Patent
If it is attempted to predict a change in delay due to a setting change based on Non-Patent
そこで、本発明は、多回数の予備計測を行うことなく、サーバの設定変更に応じて、パケット転送の遅延を予測することができる方法、装置及びプログラムを提供することを目的とする。 Therefore, an object of the present invention is to provide a method, an apparatus, and a program capable of predicting a packet transfer delay according to a change in server settings without performing many preliminary measurements.
本発明によれば、サーバへパケットを入力し、当該サーバから出力されたパケットの測定結果によって、当該サーバのパケット転送遅延を予測する装置の遅延予測方法において、
装置は、
予備段階として、
サーバに対して受信ネットワークインタフェース数=1を設定し、第1のスループットλout(1)、遅延分布D及び単位時間当たりの受信キューのハードウェア割り込み数σを計測する第1のステップと、
サーバに対して受信ネットワークインタフェース数=Q(>1)を設定し、第2のスループットλout(Q)を計測する第2のステップと、
第1のスループットλout(1)及び第2のスループットλout(Q)を用いて、遅延分布D及び単位時間当たりの受信キューのハードウェア割り込み数σから、受信ネットワークインタフェース数q(>1)に応じた待ち時間の確率密度関数f(x)を算出する第3のステップと
を実行し、
確率密度関数f(x)のパラメータを用いて、当該サーバの受信ネットワークインタフェース数qに応じたパケット転送遅延を予測する
ことを特徴とする。
According to the present invention, in a delay prediction method for an apparatus that inputs a packet to a server and predicts a packet transfer delay of the server based on a measurement result of the packet output from the server.
The device
As a preliminary stage,
A first step of setting the number of reception network interfaces = 1 for the server, and measuring the first throughput λ out (1), the delay distribution D, and the number of hardware interrupts σ of the reception queue per unit time;
A second step of setting the number of received network interfaces = Q (> 1) for the server and measuring the second throughput λ out (Q);
Using the first throughput λ out (1) and the second throughput λ out (Q), the received network interface number q (> 1) from the delay distribution D and the hardware interrupt number σ of the reception queue per unit time. And a third step of calculating a probability density function f (x) of the waiting time according to
Using the parameter of the probability density function f (x), a packet transfer delay corresponding to the number q of received network interfaces of the server is predicted.
本発明の装置の遅延予測方法における他の実施形態によれば、
受信ネットワークインタフェース数qは、受信キュー数qであり、
確率密度関数f(x)は、遅延分布Dにアーラン分布(Erlang distribution)を近似させて算出されたパラメータに基づくものであり、
パケット転送遅延は、パラメータを用いて算出される
ことも好ましい。
According to another embodiment of the delay prediction method of the apparatus of the present invention,
The reception network interface number q is the reception queue number q.
The probability density function f (x) is based on a parameter calculated by approximating the Erlang distribution to the delay distribution D.
The packet transfer delay is also preferably calculated using parameters.
本発明の装置の遅延予測方法における他の実施形態によれば、
確率密度関数f(x)及び平均パケット転送遅延τは、パラメータk、β、γを用いて、以下のように表現される
k:分布の形状を表すパラメータ(正の整数)
β:分布の広がりを表すパラメータ(正の実数)
γ:遅延の原点からのズレ(位置)を表すパラメータ(正の実数)
ことも好ましい。
According to another embodiment of the delay prediction method of the apparatus of the present invention,
The probability density function f (x) and the average packet transfer delay τ are expressed as follows using the parameters k, β, and γ.
k: parameter representing the shape of the distribution (positive integer)
β: Parameter indicating the spread of the distribution (positive real number)
γ: Parameter indicating the deviation (position) from the origin of the delay (positive real number)
It is also preferable.
本発明の装置の遅延予測方法における他の実施形態によれば、
第1のステップで取得した、受信キュー数q=1における単位時間当たりの受信キューのハードウェア割込み数σを用いて、
キュー数qにおけるスループットλout(q)及びパラメータk、β、γは、以下のように表現される
Using the hardware interrupt number σ of the reception queue per unit time when the reception queue number q = 1 acquired in the first step,
The throughput λ out (q) and the parameters k, β, γ at the number of queues q are expressed as follows:
本発明によれば、サーバへパケットを入力し、当該サーバから出力されたパケットの測定結果によって、当該サーバのパケット転送遅延を予測する遅延予測装置において、
サーバに対して受信ネットワークインタフェース数=1を設定し、第1のスループットλout(1)、遅延分布D及び単位時間当たりの受信キューのハードウェア割り込み数σを計測する第1の予備計測手段と、
サーバに対して受信ネットワークインタフェース数=Q(>1)を設定し、第2のスループットλout(Q)を計測する第2の予備計測手段と、
第1のスループットλout(1)及び第2のスループットλout(Q)を用いて、遅延分布D及び単位時間当たりの受信キューのハードウェア割り込み数σから、受信ネットワークインタフェース数q(>1)に応じた待ち時間の確率密度関数f(x)を算出する確率分布算出手段と、
確率密度関数f(x)のパラメータを用いて、当該サーバの受信ネットワークインタフェース数qに応じたパケット転送遅延を予測する遅延予測手段と
を有することを特徴とする。
According to the present invention, in a delay prediction apparatus that inputs a packet to a server and predicts a packet transfer delay of the server based on a measurement result of the packet output from the server.
A first preliminary measurement unit configured to set the number of reception network interfaces = 1 for the server and measure the first throughput λ out (1), the delay distribution D, and the number of hardware interrupts σ of the reception queue per unit time; ,
A second preliminary measuring means for setting the number of received network interfaces = Q (> 1) for the server and measuring the second throughput λ out (Q);
Using the first throughput λ out (1) and the second throughput λ out (Q), the received network interface number q (> 1) from the delay distribution D and the hardware interrupt number σ of the reception queue per unit time. A probability distribution calculating means for calculating a probability density function f (x) of the waiting time according to
And a delay prediction unit that predicts a packet transfer delay according to the number q of received network interfaces of the server using a parameter of the probability density function f (x).
本発明によれば、サーバへパケットを入力し、当該サーバから出力されたパケットの測定結果によって、当該サーバのパケット転送遅延を予測する装置に搭載されたコンピュータを機能させるプログラムにおいて、
サーバに対して受信ネットワークインタフェース数=1を設定し、第1のスループットλout(1)、遅延分布D及び単位時間当たりの受信キューのハードウェア割り込み数σを計測する第1の予備計測手段と、
サーバに対して受信ネットワークインタフェース数=Q(>1)を設定し、第2のスループットλout(Q)を計測する第2の予備計測手段と、
第1のスループットλout(1)及び第2のスループットλout(Q)を用いて、遅延分布D及び単位時間当たりの受信キューのハードウェア割り込み数σから、受信ネットワークインタフェース数q(>1)に応じた待ち時間の確率密度関数f(x)を算出する確率分布算出手段と、
確率密度関数f(x)のパラメータを用いて、当該サーバの受信ネットワークインタフェース数qに応じたパケット転送遅延を予測する遅延予測手段と
してコンピュータを機能させることを特徴とする。
According to the present invention, in a program for inputting a packet to a server and causing a computer mounted on a device that predicts a packet transfer delay of the server to function based on a measurement result of the packet output from the server,
A first preliminary measurement unit configured to set the number of reception network interfaces = 1 for the server and measure the first throughput λ out (1), the delay distribution D, and the number of hardware interrupts σ of the reception queue per unit time; ,
A second preliminary measuring means for setting the number of received network interfaces = Q (> 1) for the server and measuring the second throughput λ out (Q);
Using the first throughput λ out (1) and the second throughput λ out (Q), the received network interface number q (> 1) from the delay distribution D and the hardware interrupt number σ of the reception queue per unit time. A probability distribution calculating means for calculating a probability density function f (x) of the waiting time according to
Using the parameter of the probability density function f (x), the computer is caused to function as a delay prediction unit that predicts a packet transfer delay according to the number q of received network interfaces of the server.
本発明の遅延予測方法、装置及びプログラムによれば、多回数の予備計測を行うことなく、サーバの設定変更に応じて、パケット転送の遅延を予測することができる方法、装置及びプログラムを提供することを目的とする。 According to the delay prediction method, apparatus, and program of the present invention, there are provided a method, apparatus, and program capable of predicting a packet transfer delay according to a change in server settings without performing many preliminary measurements. For the purpose.
以下、本発明の実施の形態について、図面を用いて詳細に説明する。 Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
図1は、本発明の遅延予測装置を含むシステム構成図である。 FIG. 1 is a system configuration diagram including a delay prediction apparatus according to the present invention.
本発明の遅延予測装置1は、測定対象サーバ2へ試験パケットを入力し、その測定対象サーバから出力されたパケットの測定結果によって、その測定対象サーバのパケット転送遅延を予測するものである。
The
図1(a)によれば、遅延予測装置1は、測定対象サーバ2の入力インタフェース及び出力インタフェースに、直接的に接続されている。遅延予測装置1自体が、測定対象サーバ2へ直接的に試験パケットを出力し、その測定対象サーバ2から測定パケットを受信する。パケット転送の遅延を測定するために、ネットワークの影響を全く受けることがない。
According to FIG. 1 (a), the
図1(b)によれば、測定対象サーバ2の入力インタフェースに、試験トラヒック送信装置101が接続され、測定対象サーバ2の出力インタフェースに、測定トラヒック受信装置102が接続されている。オペレータによって操作される遅延予測装置1は、ネットワークを介して、試験トラヒック送信装置101及び測定トラヒック受信装置102を制御する。試験トラヒック送信装置101及び測定トラヒック受信装置102は、試験用の専用装置であって、遅延予測装置1からAPI(Application Programming Interface)を介して制御される。
According to FIG. 1B, the test
遅延予測装置1は、ネットワークを介して、測定対象サーバ2の受信ネットワークインタフェース数qの設定を変更することができる。受信ネットワークインタフェース数qとは、具体的には受信リングバッファの受信キュー数qを意味する。
The
試験トラヒック送信装置101は、遅延予測装置1から計測開始指示を受信した際に、測定対象サーバ2の入力インタフェースへ試験トラヒックを送出する(例えば10Gbps)。
測定トラヒック受信装置102は、遅延予測装置1から計測開始指示を受信した際に、測定対象サーバ2の出力インタフェースから出力されるパケットの計測を開始する。測定トラヒック受信装置102は、具体的には以下の情報を計測し、その測定結果を遅延予測装置1へ送信する。
λ:スループット(単位時間当たりの受信パケット数)
D:パケットの遅延分布
When the test
When the measurement
λ: Throughput (number of received packets per unit time)
D: Packet delay distribution
また、遅延予測装置1は、測定対象サーバ2におけるパケット転送遅延の計測後に、測定対象サーバ2から、単位時間当たりの受信キュー(リングバッファ)のハードウェア割込み数σを取得する。
Further, the
図2は、測定対象サーバの機能構成図である。 FIG. 2 is a functional configuration diagram of the measurement target server.
測定対象サーバ2は、パケット処理の入力段及び出力段で、パケット遅延に起因する複数のバッファを構成している。図2によれば、Linuxにおけるパケット転送処理のフレームワークとなるアーキテクチャが表されている。
The
(S21)入力されたパケットは、q(≧1)個のNIC(Network Interface Controller)のインタフェースとしてのリングバッファに一時的に格納される。リングバッファは、q個の受信キューへ、ラウンドロビンによってパケットを出力する。
(S22)q個の受信キューに格納されたパケットは、受信ハードウェア割込みが発生する毎に、一定数(最大w個)ずつ、Linux OS上の受信バッファPoll_listへ出力される。
(S23)次に、受信ソフトウェア割込みが発生する毎に、受信バッファから一定数(最大B個)ずつ読み出され、それらパケットがパケット処理部へ入力される。
(S24)パケット処理部は、転送処理(宛先の特定やパケット更新等)のようなサーバとしての様々な処理を実行する。
(S25)パケット処理部から出力されたパケットは、送信バッファQdiscへ出力される。
(S26)送信ソフトウェア割込みが発生する毎に、送信バッファからパケットが読み出され、送信側NICインタフェースとしてのリングバッファTx-ringへ出力される。
(S27)そして、送信ハードウェア割込みが発生する毎に、リングバッファからパケットが読み出され、そのパケットが測定対象サーバ2から出力される。
(S21) The input packet is temporarily stored in a ring buffer as an interface of q (≧ 1) NICs (Network Interface Controllers). The ring buffer outputs packets to q reception queues by round robin.
(S22) Each time a reception hardware interrupt occurs, the packets stored in q reception queues are output to the reception buffer Poll_list on the Linux OS by a fixed number (maximum w).
(S23) Next, every time a reception software interrupt occurs, a certain number (maximum B) is read from the reception buffer, and these packets are input to the packet processing unit.
(S24) The packet processing unit executes various processes as a server such as transfer processing (destination identification, packet update, etc.).
(S25) The packet output from the packet processing unit is output to the transmission buffer Qdisc.
(S26) Each time a transmission software interrupt occurs, a packet is read from the transmission buffer and output to a ring buffer Tx-ring as a transmission-side NIC interface.
(S27) Each time a transmission hardware interrupt occurs, the packet is read from the ring buffer, and the packet is output from the
測定対象サーバ2から出力されるパケットは、ばらついた遅延によって出力される。そのために、測定対象サーバ2から時系列に出力されるパケット群を計測することによって、遅延分布Dを導出することができる。
The packet output from the
<パケット転送の観測事象>
第1に、最大スループットは、受信キュー数の増加に伴って単調に低下するが、平均パケット遅延は、受信キュー数に対し凸関数となる。
第2に、パケット転送の遅延分布Dは、アーラン分布と極めて類似している。
<Observed event of packet transfer>
First, the maximum throughput decreases monotonically as the number of reception queues increases, but the average packet delay is a convex function with respect to the number of reception queues.
Second, the packet transfer delay distribution D is very similar to the Erlang distribution.
<発明者らの着目点>
第1に、本願の発明者らは、パケット転送の遅延分布Dが、アーラン分布(Erlang distribution)に従っていることに着目した。
第2に、本願の発明者らは、当該アーラン分布を特徴付けるパラメータk、β、γが、スループットλと、NICの受信キュー数qと、単位時間当たりの受信ハードウェア割込み数σとに対して、強い相関を持つことに着目した。
発明者らは、アーラン分布に基づくパケット遅延の予測モデルを構築することによって、受信キュー数qに応じたパケット転送の遅延を予測することができる、と考えた。
<Inventors' attention points>
First, the inventors of the present application focused on the fact that the packet transfer delay distribution D follows an Erlang distribution.
Second, the inventors of the present application indicate that the parameters k, β, and γ that characterize the Erlang distribution correspond to the throughput λ, the NIC reception queue number q, and the reception hardware interrupt number σ per unit time. Focused on having a strong correlation.
The inventors considered that a packet transfer delay corresponding to the number of reception queues q can be predicted by constructing a packet delay prediction model based on the Erlang distribution.
図3は、本発明における遅延予測装置の機能構成図である。 FIG. 3 is a functional configuration diagram of the delay prediction apparatus according to the present invention.
図3によれば、遅延予測装置1は、第1の予備計測部11と、第2の予備計測部12と、確率分布算出部13と、遅延予測部14とを有する。これら機能構成部は、遅延予測装置に搭載されたコンピュータを機能させるプログラムを実行することによって実現できる。また、これら機能構成部の処理の流れは、装置の遅延予測方法としても理解できる。
According to FIG. 3, the
[第1の予備計測部11]
第1の予備計測部11は、測定サーバ2に対して、受信キュー数(受信ネットワークインタフェース数)q=1を設定し、第1のスループットλout(1)、遅延分布D及び単位時間当たりの受信キューのハードウェア割り込み数σを計測する。
[First preliminary measurement unit 11]
The first
第1の予備計測部11は、以下のステップを実行する。
(S110)第1の予備計測部11は、試験トラヒック送信装置101へ、試験トラフィックの情報を予め登録する。
(S111)次に、第1の予備計測部11は、測定対象サーバ2に対して、受信キュー数q=1として設定する。また、受信ハードウェア割込み数のOSカウンタをリセット(初期化)する。
(S112)次に、第1の予備計測部11は、測定トラヒック受信装置102に対して、受信パケット数カウンタ及び遅延分布記録の初期化を指示する。
(S113)そして、第1の予備計測部11は、試験トラヒック送信装置101へ、所定測定時間Tの試験トラヒックの送信開始を指示し、測定トラヒック受信装置102へ計測開始を指示する。
(S114)所定測定時間Tの経過後、第1の予備計測部11は、測定トラヒック受信装置102へ計測終了を指示する。
そして、第1の予備計測部11は、測定対象サーバ2のOSカウンタに基づいて、受信キュー数q=1における単位時間当たりの受信ハードウェア割込み数σを取得する。
また、第1の予備計測部11は、測定トラヒック受信装置102から、第1のスループットλout(1)と、遅延分布Dとを取得する。
λout(1):受信キュー数q=1における単位時間当たりの受信パケット数
The first
(S110) The first
(S111) Next, the first
(S112) Next, the first
(S113) Then, the first
(S114) After the elapse of the predetermined measurement time T, the first
Then, the first
Also, the first
λ out (1): Number of received packets per unit time when the number of receive queues q = 1
[第2の予備計測部12]
第2の予備計測部12は、測定対象サーバ2に対して受信キュー数(受信ネットワークインタフェース数)q=Q(>1)を設定し、第2のスループットλout(Q)を計測する。
[Second preliminary measurement unit 12]
The second
第2の予備計測部12は、以下のステップを実行する。
(S121)第2の予備計測部12は、測定対象サーバ2に対して、受信キュー数q=Q(>1)として設定する。
(S122)次に、第2の予備計測部12は、測定トラヒック受信装置102に対して、受信パケット数カウンタ及び遅延分布記録の初期化を指示する。
(S123)そして、第2の予備計測部12は、試験トラヒック送信装置101へ、所定測定時間Tの試験トラヒックの送信開始を指示し、測定トラヒック受信装置102へ計測開始を指示する。
(S124)所定測定時間Tの経過後、第2の予備計測部12は、測定トラヒック受信装置102へ計測終了を指示する。
そして、第2の予備計測部12は、測定トラヒック受信装置102から、第2のスループットλout(Q)を取得する。
λout(Q):受信キュー数q=Qにおける単位時間当たりの受信パケット数
The second
(S121) The second
(S122) Next, the second
(S123) Then, the second
(S124) After the predetermined measurement time T has elapsed, the second
Then, the second
λ out (Q): number of received packets per unit time when the number of reception queues q = Q
[確率分布算出部13]
確率分布算出部13は、第1のスループットλout(1)及び第2のスループットλout(Q)を用いて、遅延分布Dから、受信ネットワークインタフェース数q(>1)に応じた待ち時間の確率密度関数f(x)を算出する。
[Probability distribution calculation unit 13]
The probability
確率密度関数f(x)は、遅延分布Dにアーラン分布を近似させて算出されたパラメータk、β、γに基づくものである。
確率密度関数f(x)及びパラメータは、以下のように表現される
β:分布の広がりを表すパラメータ(正の実数)
γ:遅延の原点からのズレ(位置)を表すパラメータ(正の実数)
The probability density function f (x) is based on parameters k, β, and γ calculated by approximating the Erlang distribution to the delay distribution D.
The probability density function f (x) and parameters are expressed as follows:
β: Parameter indicating the spread of the distribution (positive real number)
γ: Parameter indicating the deviation (position) from the origin of the delay (positive real number)
本発明によれば、パケット転送の遅延分布を推定するために、アーランk曲線近似法(Erlang-k-based curve fitting method)を用いている。この方法は、平均パケット遅延を予測するためのものではなく、パラメータk、β、γの関係を明らかにするためのものである。 According to the present invention, an Erlang-k-based curve fitting method is used to estimate the delay distribution of packet transfer. This method is not for predicting the average packet delay, but for clarifying the relationship between the parameters k, β, and γ.
アーランk分布の確率密度関数は、平均k/β+γ、分散k/β2におけるf(x)によって定義される。パケット遅延分布に対してアーランk分布を近似させる問題は、測定結果と近似曲線間の最小二乗誤差を最小化するパラメータk、β、γを導出することである。近似によって得られた確率密度関数f(x)のパラメータk、β、γを用いて、受信キュー数qに応じたパケット転送の遅延を予測する。 The probability density function of the Erlang k distribution is defined by f (x) with mean k / β + γ and variance k / β 2 . The problem of approximating the Erlang k distribution with respect to the packet delay distribution is to derive parameters k, β, and γ that minimize the least square error between the measurement result and the approximate curve. Using the parameters k, β, and γ of the probability density function f (x) obtained by approximation, a packet transfer delay according to the number of reception queues q is predicted.
図4は、アーランk分布に基づく平均パケット遅延予測モデルの算出過程を表すフレームワークである。
図5は、確率密度関数のパラメータ毎に、受信キュー数に応じたパラメータを表すグラフである。
FIG. 4 is a framework showing the calculation process of the average packet delay prediction model based on the Erlang k distribution.
FIG. 5 is a graph showing parameters according to the number of reception queues for each parameter of the probability density function.
キュー数qにおけるスループットλout(q)及びパラメータk、β、γは、以下のように表現される
<スループットλout(q)の算出>
最初に、受信キュー数qに応じたスループットλout(q)の予測モデルを算出する。ここでは、異なるキュー数q=1,Q(>1)に設定して予備計測した、2つのスループットλout(1)及びλout(Q)を用いる。
第1のスループットλout(1):
第1の予備計測部11によって計測された、測定対象サーバに受信キュー数
q=1を設定した上で計測したスループット
第2のスループットλout(Q):
第2の予備計測部12によって計測された、測定対象サーバに受信キュー数
q=Q(>1)を設定した上で計測したスループット
予備計測されたλout(1)及びλout(Q)を用いて、λout(q)(1<q≦M(M:受信キュー数の最大値)、q≠Q)を、スループットλout(q)の予測モデルとして算出する。
<Calculation of throughput λ out (q)>
First, a prediction model of throughput λ out (q) corresponding to the number of reception queues q is calculated. Here, two throughputs λ out (1) and λ out (Q) that are preliminarily measured with different queue numbers q = 1, Q (> 1) are used.
First throughput λ out (1):
The number of reception queues in the measurement target server measured by the first
Throughput measured with q = 1 set Second throughput λ out (Q):
The number of reception queues measured by the second
Throughput measured after setting q = Q (> 1) Using λ out (1) and λ out (Q) measured in advance , λ out (q) (1 <q ≦ M (M: reception queue) (Maximum number), q ≠ Q) is calculated as a prediction model of the throughput λ out (q).
図5によれば、受信キュー数q毎に計測された遅延分布Dを、アーランk分布の式にフィッティングして算出されたk、β、γ、τの変化が表されている。
図5(a)は、受信キュー数q毎のパラメータkの変化を表すグラフである。
図5(b)は、受信キュー数q毎のパラメータβの変化を表すグラフである。
図5(c)は、受信キュー数q毎のパラメータγ、τの変化を表すグラフである。
FIG. 5 shows changes in k, β, γ, and τ calculated by fitting the delay distribution D measured for each reception queue number q to the Erlang k distribution equation.
FIG. 5A is a graph showing changes in the parameter k for each reception queue number q.
FIG. 5B is a graph showing changes in the parameter β for each reception queue number q.
FIG. 5C is a graph showing changes in the parameters γ and τ for each reception queue number q.
アーランk分布の3つのパラメータk、β、γは全て、受信キュー数qを用いた関数として表される。また、図5(c)によれば、γとτ(q)とにも相関関係がある。
平均パケット遅延の予測モデルは、最大スループットの予測モデルを参照する。アーランk分布のパラメータk、λ、γは、受信キュー数qの関数として、k(q)、λ(q)、γ(q)と定義する。
All three parameters k, β, and γ of the Erlang k distribution are expressed as a function using the reception queue number q. Further, according to FIG. 5C, there is also a correlation between γ and τ (q).
The average packet delay prediction model refers to the maximum throughput prediction model. The Erlang k distribution parameters k, λ, and γ are defined as k (q), λ (q), and γ (q) as a function of the number of reception queues q.
<パラメータk(q)の算出>
k(q)は、受信キュー数qに応じたアーランk分布に含まれる平均1/β(q)の指数分布の数に相当すると考えられる。
また、測定対象サーバの受信バッファpoll_list及び送信バッファQdiscについて、同じ受信ソフトウェア割込み及び送信ソフトウェア割込みの間に待機しているパケットは、同じ待機時間の特徴を持つと考えることができる。
<Calculation of parameter k (q)>
k (q) is considered to correspond to the number of exponential distributions with an average 1 / β (q) included in the Erlang k distribution according to the number of reception queues q.
Further, regarding the reception buffer poll_list and the transmission buffer Qdisc of the measurement target server, it can be considered that packets waiting during the same reception software interrupt and transmission software interrupt have the same characteristics of the waiting time.
k(1)は、遅延分布Dと確率密度関数f(x)とを、最小二乗法等で近似し導出されるものである。k(q)は、曲線近似から得られるk(1)を用いて算出される。
k(q)=floor(k(1)/q)
floor():床関数
k (1) is derived by approximating the delay distribution D and the probability density function f (x) by the least square method or the like. k (q) is calculated using k (1) obtained from curve approximation.
k (q) = floor (k (1) / q)
floor (): Floor function
<パラメータβ(q)の算出>
パケット遅延は、平均1/βの共通な指数分布を持つk個のランダム変数X1〜Xkの合算からなるランダム変数X(平均k/βのアーランk分布)に相当すると予測される。
受信バッファpoll_listで待機するパケットは、一定の処理時間の場合、同じ平均待機時間となり、パケット到着間隔は、その処理時間より十分短い。そのために、kは、受信ソフトウェア割込みの依存性が強い、と推測される。
また、1/βは、共通な指数分布の変数Xiの平均に相当する。変数の平均をスケールイン/アウトさせる要因は、パケットが、受信リングバッファで待機する時間である。そのため、βはσと関係があると推測される。
<Calculation of parameter β (q)>
The packet delay is predicted to correspond to a random variable X (an average k / β Erlang k distribution) that is a sum of k random variables X 1 to X k having an average 1 / β common exponential distribution.
Packets waiting in the reception buffer poll_list have the same average waiting time when the processing time is constant, and the packet arrival interval is sufficiently shorter than the processing time. For this reason, k is presumed to be highly dependent on the received software interrupt.
1 / β corresponds to the average of variables X i having a common exponential distribution. The factor that causes the variable average to scale in / out is the time that the packet waits in the receive ring buffer. Therefore, it is estimated that β is related to σ.
1/β(q)は、k個の指数分布の平均値に対応するために、受信キュー(Rxリングバッファ)でパケットが待機する時間に従って変化する。
1/β(1)=1/λout(1)×λout(1)/σ
=1/σ
1/λout(1):パケットが測定対象サーバ内に滞留する時間であり、
パケットが受信リングバッファで待機している平均時間
σ :受信キュー数q=1における単位時間あたりの受信ハード
ウェア割込み数
λout(1)/σ :受信キュー数q=1における、受信リングバッファから
受信バッファpoll_listへ移されるパケットの数
Since 1 / β (q) corresponds to the average value of k exponential distributions, 1 / β (q) changes according to the time that a packet waits in the reception queue (Rx ring buffer).
1 / β (1) = 1 / λ out (1) × λ out (1) / σ
= 1 / σ
1 / λ out (1): This is the time that the packet stays in the measurement target server.
Average time a packet is waiting in the receive ring buffer
σ: reception hardware per unit time when the number of reception queues q = 1
Wear interrupts
λ out (1) / σ: From the reception ring buffer when the number of reception queues q = 1
Number of packets moved to receive buffer poll_list
次に、q=Q(>1)の場合、パケットは、q個の受信キューに一様に分散される。そこで、各リングバッファに流入するトラフィックをマッピングすることで、σを活用する。即ち、各リングバッファに割り当てられるトラフィック負荷σに対して、以下のように対応付ける。
η(q)=λout(1)/σ
これにより、パケットの受信キューにおける平均待機時間は、以下のように算出される。
1/β(q)=q/λout(q)×qη(q)
=q2η(q)/λout(q)
β(q)=λout(q)/(q2η(q))
=λout(q)/(q2λout(1)/σ)
=σλout(q)/(q2λout(1))
このように、β(q)は、受信キュー数q=1におけるλout(1)及びσと、予測スループットλout(q)とを用いて算出する。
Next, when q = Q (> 1), the packet is uniformly distributed in q reception queues. Therefore, σ is utilized by mapping the traffic flowing into each ring buffer. That is, the traffic load σ assigned to each ring buffer is associated as follows.
η (q) = λ out (1) / σ
Thus, the average waiting time in the packet reception queue is calculated as follows.
1 / β (q) = q / λ out (q) × qη (q)
= Q 2 η (q) / λ out (q)
β (q) = λ out (q) / (q 2 η (q))
= Λ out (q) / (q 2 λ out (1) / σ)
= Σλ out (q) / (q 2 λ out (1))
As described above, β (q) is calculated using λ out (1) and σ when the number of reception queues q = 1 and the predicted throughput λ out (q).
<パラメータγ(q)の算出>
γ(q)は、パケットが、受信キューに滞留する最小時間を意味する。ここで、マッピング関数η(q)を用いて、以下のように算出される。
1/λout(q)×qη(q)
そして、分布の平均値1/(k(q)β(q))によってスケールし、以下のように算出される。
γ(q)=(1/λout(q))×qη(q)×(β(q)/k(q))
=(qη(q)β(q))/(λout(q)k(q))
=(q(λout(1)/σ)β(q))/(λout(q)k(q))
=(qλout(1)β(q))/(σλout(q)k(q))
このように、γ(q)の予測には、λout(q)、k(q)、β(q)を用いる。
<Calculation of parameter γ (q)>
γ (q) means the minimum time that a packet stays in the reception queue. Here, it is calculated as follows using the mapping function η (q).
1 / λ out (q) × qη (q)
Then, it is scaled by the
γ (q) = (1 / λ out (q)) × qη (q) × (β (q) / k (q))
= (Qη (q) β (q)) / (λ out (q) k (q))
= (Q (λ out (1) / σ) β (q)) / (λ out (q) k (q))
= (Qλ out (1) β (q)) / (σλ out (q) k (q))
Thus, λ out (q), k (q), and β (q) are used for prediction of γ (q).
[遅延予測部14]
遅延予測部14は、確率密度関数f(x)のパラメータk、β、γを用いて、測定対象サーバ2の受信キュー数(受信ネットワークインタフェース数)qに応じた平均パケット転送遅延τを予測する。
前述したように、確率密度関数f(x)の各パラメータk、β、γは、受信キュー数qの関数として表現されている。
平均パケット転送遅延τは、パラメータk、β、γを用いて、以下のように算出される。
τ=k/β+γ
即ち、受信キュー数qの設定に応じたパラメータを用いて、平均パケット転送遅延τを算出することができる。
[Delay Prediction Unit 14]
The
As described above, each parameter k, β, γ of the probability density function f (x) is expressed as a function of the reception queue number q.
The average packet transfer delay τ is calculated as follows using the parameters k, β, and γ.
τ = k / β + γ
That is, the average packet transfer delay τ can be calculated using a parameter corresponding to the setting of the reception queue number q.
図6は、受信キュー数に対するスループット及び平均パケット転送遅延を表すグラフである。 FIG. 6 is a graph showing the throughput and average packet transfer delay with respect to the number of reception queues.
図6(a)は、受信キュー数qに対するスループットλout(q)を表すグラフである。ここでは、受信キュー数q=1の場合に、スループットλout(1)が最大となることが理解できる。
一方で、図6(b)は、受信キュー数qに対する平均パケット転送遅延τを表すグラフである。ここでは、受信キュー数q=3の場合に、平均パケット転送遅延τが最小となることが理解できる。
FIG. 6A is a graph showing the throughput λ out (q) with respect to the number of reception queues q. Here, it can be understood that the throughput λ out (1) is maximized when the number of reception queues q = 1.
On the other hand, FIG. 6B is a graph showing the average packet transfer delay τ with respect to the reception queue number q. Here, it can be understood that the average packet transfer delay τ is minimized when the number of reception queues q = 3.
以上、詳細に説明したように、本発明の遅延予測方法、装置及びプログラムによれば、多回数の予備計測を行うことなく、サーバの設定変更に応じて、パケット転送の遅延を予測することができる。 As described above in detail, according to the delay prediction method, apparatus, and program of the present invention, it is possible to predict a packet transfer delay according to a change in server settings without performing many preliminary measurements. it can.
例えば、パケット転送遅延を最小化する、受信キュー数qを予測することができる。特に、Linuxサーバを用いた仮想化環境については、サービス・アプリケーションを柔軟に切り替えて稼働させることが想定される。本発明によって、各アプリケーションに対する適切なLinuxサーバに対する設定を導出することができる。 For example, the number of reception queues q that minimizes the packet transfer delay can be predicted. In particular, in a virtualized environment using a Linux server, it is assumed that services and applications are flexibly switched and operated. According to the present invention, a setting for an appropriate Linux server for each application can be derived.
前述した本発明の種々の実施形態について、本発明の技術思想及び見地の範囲の種々の変更、修正及び省略は、当業者によれば容易に行うことができる。前述の説明はあくまで例であって、何ら制約しようとするものではない。本発明は、特許請求の範囲及びその均等物として限定するものにのみ制約される。 Various changes, modifications, and omissions of the above-described various embodiments of the present invention can be easily made by those skilled in the art. The above description is merely an example, and is not intended to be restrictive. The invention is limited only as defined in the following claims and the equivalents thereto.
1 遅延予測装置
101 試験トラヒック送信装置
102 測定トラヒック受信装置
11 第1の予備計測部
12 第2の予備計測部
13 確率分布算出部
14 遅延予測部
2 測定対象サーバ
DESCRIPTION OF
Claims (6)
前記装置は、
予備段階として、
前記サーバに対して受信ネットワークインタフェース数=1を設定し、第1のスループットλout(1)、遅延分布D及び単位時間当たりの受信キューのハードウェア割り込み数σを計測する第1のステップと、
前記サーバに対して受信ネットワークインタフェース数=Q(>1)を設定し、第2のスループットλout(Q)を計測する第2のステップと、
第1のスループットλout(1)及び第2のスループットλout(Q)を用いて、前記遅延分布D及び前記単位時間当たりの受信キューのハードウェア割り込み数σから、受信ネットワークインタフェース数q(>1)に応じた待ち時間の確率密度関数f(x)を算出する第3のステップと
を実行し、
前記確率密度関数f(x)のパラメータを用いて、当該サーバの受信ネットワークインタフェース数qに応じたパケット転送遅延を予測する
ことを特徴とする装置の遅延予測方法。 In a delay prediction method for an apparatus that inputs a packet to a server and predicts a packet transfer delay of the server based on a measurement result of the packet output from the server.
The device is
As a preliminary stage,
A first step of setting the number of reception network interfaces = 1 for the server and measuring a first throughput λ out (1), a delay distribution D, and a hardware interrupt number σ of a reception queue per unit time;
A second step of setting the number of received network interfaces = Q (> 1) for the server and measuring a second throughput λ out (Q);
Using the first throughput λ out (1) and the second throughput λ out (Q), the number of received network interfaces q (>) from the delay distribution D and the number of hardware interrupts σ of the reception queue per unit time. 1) performing a third step of calculating a probability density function f (x) of the waiting time according to
A delay prediction method for an apparatus, wherein a packet transfer delay according to the number q of received network interfaces of the server is predicted using a parameter of the probability density function f (x).
前記確率密度関数f(x)は、前記遅延分布Dにアーラン分布(Erlang distribution)を近似させて算出されたパラメータに基づくものであり、
前記パケット転送遅延は、前記パラメータを用いて算出される
ことを特徴とする請求項1に記載の装置の遅延予測方法。 The reception network interface number q is the reception queue number q,
The probability density function f (x) is based on a parameter calculated by approximating the Erlang distribution to the delay distribution D;
The method of claim 1, wherein the packet transfer delay is calculated using the parameter.
k:分布の形状を表すパラメータ(正の整数)
β:分布の広がりを表すパラメータ(正の実数)
γ:遅延の原点からのズレ(位置)を表すパラメータ(正の実数)
ことを特徴とする請求項2に記載の装置の遅延予測方法。 The probability density function f (x) and the average packet transfer delay τ are expressed as follows using the parameters k, β, and γ.
k: parameter representing the shape of the distribution (positive integer)
β: Parameter indicating the spread of the distribution (positive real number)
γ: Parameter indicating the deviation (position) from the origin of the delay (positive real number)
The delay prediction method for an apparatus according to claim 2, wherein:
前記キュー数qにおけるスループットλout(q)及びパラメータk、β、γは、以下のように表現される
The throughput λ out (q) and the parameters k, β, γ in the queue number q are expressed as follows:
前記サーバに対して受信ネットワークインタフェース数=1を設定し、第1のスループットλout(1)、遅延分布D及び単位時間当たりの受信キューのハードウェア割り込み数σを計測する第1の予備計測手段と、
前記サーバに対して受信ネットワークインタフェース数=Q(>1)を設定し、第2のスループットλout(Q)を計測する第2の予備計測手段と、
第1のスループットλout(1)及び第2のスループットλout(Q)を用いて、前記遅延分布D及び前記単位時間当たりの受信キューのハードウェア割り込み数σから、受信ネットワークインタフェース数q(>1)に応じた待ち時間の確率密度関数f(x)を算出する確率分布算出手段と、
前記確率密度関数f(x)のパラメータを用いて、当該サーバの受信ネットワークインタフェース数qに応じたパケット転送遅延を予測する遅延予測手段と
を有することを特徴とする遅延予測装置。 In a delay prediction apparatus that inputs a packet to a server and predicts a packet transfer delay of the server based on a measurement result of the packet output from the server.
First preliminary measurement means for setting the number of reception network interfaces = 1 for the server and measuring the first throughput λ out (1), the delay distribution D, and the hardware interrupt number σ of the reception queue per unit time. When,
Second preliminary measurement means for setting the number of received network interfaces = Q (> 1) for the server and measuring a second throughput λ out (Q);
Using the first throughput λ out (1) and the second throughput λ out (Q), the number of received network interfaces q (>) from the delay distribution D and the number of hardware interrupts σ of the reception queue per unit time. A probability distribution calculating means for calculating a probability density function f (x) of the waiting time according to 1);
A delay prediction apparatus, comprising: a delay prediction unit that predicts a packet transfer delay according to the number q of received network interfaces of the server using a parameter of the probability density function f (x).
前記サーバに対して受信ネットワークインタフェース数=1を設定し、第1のスループットλout(1)、遅延分布D及び単位時間当たりの受信キューのハードウェア割り込み数σを計測する第1の予備計測手段と、
前記サーバに対して受信ネットワークインタフェース数=Q(>1)を設定し、第2のスループットλout(Q)を計測する第2の予備計測手段と、
第1のスループットλout(1)及び第2のスループットλout(Q)を用いて、前記遅延分布D及び前記単位時間当たりの受信キューのハードウェア割り込み数σから、受信ネットワークインタフェース数q(>1)に応じた待ち時間の確率密度関数f(x)を算出する確率分布算出手段と、
前記確率密度関数f(x)のパラメータを用いて、当該サーバの受信ネットワークインタフェース数qに応じたパケット転送遅延を予測する遅延予測手段と
してコンピュータを機能させることを特徴とするプログラム。
In a program for inputting a packet to a server and causing a computer mounted on a device that predicts a packet transfer delay of the server to function according to a measurement result of the packet output from the server,
First preliminary measurement means for setting the number of reception network interfaces = 1 for the server and measuring the first throughput λ out (1), the delay distribution D, and the hardware interrupt number σ of the reception queue per unit time. When,
Second preliminary measurement means for setting the number of received network interfaces = Q (> 1) for the server and measuring a second throughput λ out (Q);
Using the first throughput λ out (1) and the second throughput λ out (Q), the number of received network interfaces q (>) from the delay distribution D and the number of hardware interrupts σ of the reception queue per unit time. A probability distribution calculating means for calculating a probability density function f (x) of the waiting time according to 1);
A program that causes a computer to function as a delay prediction unit that predicts a packet transfer delay according to the number q of received network interfaces of the server using a parameter of the probability density function f (x).
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017034959A JP6615808B2 (en) | 2017-02-27 | 2017-02-27 | Method, apparatus and program for predicting packet delay in server |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017034959A JP6615808B2 (en) | 2017-02-27 | 2017-02-27 | Method, apparatus and program for predicting packet delay in server |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018142799A JP2018142799A (en) | 2018-09-13 |
JP6615808B2 true JP6615808B2 (en) | 2019-12-04 |
Family
ID=63528359
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017034959A Active JP6615808B2 (en) | 2017-02-27 | 2017-02-27 | Method, apparatus and program for predicting packet delay in server |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6615808B2 (en) |
-
2017
- 2017-02-27 JP JP2017034959A patent/JP6615808B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018142799A (en) | 2018-09-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3176981A1 (en) | Method and device for detecting type of network data flow | |
JP5212381B2 (en) | FEED FORWARD CONTROL METHOD, SERVICE PROVIDED QUALITY CONTROL DEVICE, SYSTEM, PROGRAM, AND ITS RECORDING MEDIUM | |
JP2013150134A5 (en) | ||
US20140188446A1 (en) | System performance prediction method, information processing device, and control program thereof | |
JP6558374B2 (en) | Scale number estimation apparatus, scale number management system, scale number estimation method, scale number management method, and computer program | |
US20170214598A1 (en) | Test device, network system, and test method | |
JPWO2015194182A1 (en) | Service chain management device, service chain management system, service chain management method, and program | |
US20220100548A1 (en) | Network performance assurance system and network performance assurance method | |
CN111143036A (en) | A Reinforcement Learning-Based Resource Scheduling Method for Virtual Machines | |
WO2017096837A1 (en) | Inter-node distance measurement method and system | |
JP6615808B2 (en) | Method, apparatus and program for predicting packet delay in server | |
Zinner et al. | A discrete-time model for optimizing the processing time of virtualized network functions | |
Gebert et al. | Performance modeling of softwarized network functions using discrete-time analysis | |
JP6390167B2 (en) | Communication throughput prediction apparatus, communication throughput prediction method, and program | |
JP6583048B2 (en) | Workload estimation method and workload estimation device | |
US20210274271A1 (en) | Remote control apparatus, remote control method, and program | |
CN109918275A (en) | It is a kind of to realize the method, apparatus and system that pressure test is carried out to server performance | |
JP6915562B2 (en) | Distributed processing system and distributed processing method | |
JP6847307B2 (en) | How to set up the network and equipment and communication network | |
US11700213B2 (en) | Method for measuring a transmission delay with control of degrees of contention applied to a data frame | |
US20120029961A1 (en) | Method, device and computer program product for service balancing in an electronic communications system | |
US12015537B2 (en) | Method for managing network failure in cloud environment and network failure management system | |
Begin et al. | High-level approach to modeling of observed system behavior | |
JP2015019159A (en) | Queue delay calculation device, queue delay calculation method and program | |
JP5779616B2 (en) | QoE evaluation apparatus, QoE evaluation method and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190201 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191028 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191105 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191106 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6615808 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |