JP5419925B2 - Passing object number measuring method, passing object number measuring apparatus, and program - Google Patents
Passing object number measuring method, passing object number measuring apparatus, and program Download PDFInfo
- Publication number
- JP5419925B2 JP5419925B2 JP2011110341A JP2011110341A JP5419925B2 JP 5419925 B2 JP5419925 B2 JP 5419925B2 JP 2011110341 A JP2011110341 A JP 2011110341A JP 2011110341 A JP2011110341 A JP 2011110341A JP 5419925 B2 JP5419925 B2 JP 5419925B2
- Authority
- JP
- Japan
- Prior art keywords
- movement amount
- image
- real space
- passing
- objects
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Analysis (AREA)
Description
本発明は、撮像装置(例えば、カメラ)で撮影された映像から、画像処理によりその場を通過する物体(物体、車輛等)の数を計測する通過物体数計測方法、通過物体数計測装置、及びプログラムに関する。 The present invention relates to a passing object number measuring method, a passing object number measuring apparatus, which measures the number of objects (objects, vehicles, etc.) passing through the place by image processing from a video taken by an imaging device (for example, a camera), And the program.
従来の技術として、時系列に連続したフレームで構成された映像から人物を検出しトラッキングすることにより、映像に映っている領域を通過する人物の数を計測する方法が知られている(例えば非特許文献1参照)。 As a conventional technique, there is known a method of measuring the number of persons passing through an area shown in a video by detecting and tracking a person from a video composed of time-sequential frames (for example, a non-image). Patent Document 1).
また、時系列に連続したフレームで構成された映像の各画素に実空間上の位置との対応によって重み付けをすることにより、個人を検出することなく各フレーム画像に映っている人物の数を推定する方法が知られている(例えば非特許文献2参照)。 Also, by estimating the number of people in each frame image without detecting individuals by weighting each pixel of video composed of time-sequential frames according to the correspondence with the position in the real space There is a known method (see, for example, Non-Patent Document 2).
しかしながら、非特許文献1の通過物体数計測方法では、人数計測の精度がトラッキングの性能に大きく影響を受け、特に混雑した状況では、十分な計測精度を得ることが難しいという問題がある。
However, the passing object number measuring method of Non-Patent
また、非特許文献2の人数測定方法では、画像に映っている人物の移動に関する情報を使用していないため、映像に映っている領域を通過した人物の数を測定することができないという問題がある。 In addition, the method for measuring the number of people in Non-Patent Document 2 does not use information related to the movement of a person shown in an image, and therefore cannot measure the number of people who have passed through an area shown in a video. is there.
本発明は、このような事情を考慮してなされたものであり、その目的は、映像に映っている物体の数と集団としての移動量(代表移動量)とを推定することで、映像に映っている領域の通過物体数を推定することができる通過物体数計測方法、通過物体数計測装置、及びプログラムを提供することにある。 The present invention has been made in view of such circumstances, and the purpose of the present invention is to estimate the number of objects shown in the image and the amount of movement (representative movement amount) as a group. An object of the present invention is to provide a passing object number measuring method, a passing object number measuring apparatus, and a program capable of estimating the number of passing objects in a reflected area.
上述した課題を解決するために、本発明は、映像中の所定の領域を通過する物体数を推定する通過物体数計測方法であって、部分画像生成手段が、時系列に連続して入力される映像フレームから部分画像を生成する部分画像生成ステップと、前景検出手段が、前記生成された部分画像における前景領域を検出するステップと、画像上移動量検出手段が、前記検出された前景領域において、画像上での局所移動量を検出するステップと、移動量座標変換・代表移動量算出手段が、前記検出された画像上での局所移動量から、画像上座標と実空間座標との関係を考慮し、各通過物体数計測方向に移動する物体群の全体としての代表移動量を算出するステップと、画像内物体数算出手段が、前記生成された部分画像に写っている特定の方向に移動する画像内物体数を推定するステップと、通過物体数算出手段が、前記代表移動量と前記画像内移動物体数とから映像中の所定の領域を通過する物体数を算出するステップとを含むことを特徴とする通過物体数計測方法である。 In order to solve the above-described problems, the present invention is a passing object number measuring method for estimating the number of objects passing through a predetermined area in a video, wherein partial image generation means is continuously input in time series. A partial image generation step of generating a partial image from the video frame, a step of foreground detection means detecting a foreground area in the generated partial image, and an on-image movement amount detection means in the detected foreground area The step of detecting the local movement amount on the image and the movement amount coordinate conversion / representative movement amount calculating means determine the relationship between the coordinates on the image and the real space coordinates from the detected local movement amount on the image. In consideration, the step of calculating the representative movement amount as a whole of the object group moving in each passing object number measurement direction, and the object number calculation means in the image move in a specific direction shown in the generated partial image. You A step of estimating the number of objects in the image, and a step of calculating the number of passing objects includes a step of calculating the number of objects passing through a predetermined area in the video from the representative movement amount and the number of moving objects in the image. This is a characteristic passing object number measuring method.
本発明は、上記の発明において、前記移動量座標変換・代表移動量算出手段によるステップは、前記算出した画像上の局所移動量それぞれについて、実空間座標上での移動方向を算出し、その方向と注目している通過物体数計測方向との差分が所定の閾値以下である画像上局所移動量を抽出する第1のステップと、前記抽出された各局所移動量について、実空間移動量絶対値を算出する第2のステップと、前記算出した各実空間移動量絶対値について、その通過物体数計測方向成分を算出する第3のステップと、前記実空間移動量絶対値を軸とした投票空間への投票処理を行うことにより、代表移動量を算出する第4のステップとを含むことを特徴とする。 According to the present invention, in the above invention, the step of the movement amount coordinate conversion / representative movement amount calculation means calculates a movement direction on the real space coordinates for each of the calculated local movement amounts on the image, And a first step of extracting a local movement amount on the image whose difference between the passing object number measurement direction of interest and a predetermined threshold value or less, and an absolute value of a real space movement amount for each of the extracted local movement amounts A second step of calculating a passing object number measurement direction component for each calculated real space movement amount absolute value, and a voting space with the real space movement amount absolute value as an axis And a fourth step of calculating a representative movement amount by performing a voting process on
本発明は、上記の発明において、前記第1のステップは、前記実空間移動量絶対値が物体の移動量として不適当である移動量を抽出対象から取り除くことを特徴とする。 The present invention is characterized in that, in the above-mentioned invention, the first step removes, from the extraction target, a movement amount whose absolute value of the real space movement amount is inappropriate as the movement amount of the object.
本発明は、上記の発明において、前記通過物体数算出手段によるステップは、更に、前記算出されたフレーム間通過物体数を、計測方向毎に累積加算することにより、各計測方向の累積通過物体数を算出することを特徴とする。 According to the present invention, in the above invention, the step by the passing object number calculating means further includes adding the calculated inter-frame passing object number for each measurement direction, so that the cumulative passing object number in each measurement direction is obtained. Is calculated.
本発明は、上記の発明において、前記画像内物体数算出手段によるステップは、通過物体数計測方向を複数設定している場合には、各計測方向に移動する物体数をそれぞれ算出することを特徴とする。 According to the present invention, in the above invention, the step by the object number calculation means in the image calculates the number of objects moving in each measurement direction when a plurality of passing object number measurement directions are set. And
また、上述した課題を解決するために、本発明は、映像中の所定の領域を通過する物体数を推定する通過物体数計測装置であって、部分画像生成手段が、時系列に連続して入力される映像フレームから部分画像を生成する部分画像生成部と、前記部分画像生成部により生成された部分画像における前景領域を検出する前景検出部と、前記前景検出部により検出された前景領域において、画像上での局所移動量を検出する画像上移動量検出部と、前記画像上移動量検出部により検出された画像上での局所移動量から、画像上座標と実空間座標との関係を考慮し、各通過物体数計測方向に移動する物体群の全体としての代表移動量を算出する移動量座標変換・代表移動量算出部と、前記部分画像生成部により生成された部分画像に写っている特定の方向に移動する画像内物体数を推定する画像内物体数算出部と、前記移動量座標変換・代表移動量算出部により算出された代表移動量と前記画像内物体数算出部により推定された画像内移動物体数とから映像中の所定の領域を通過する物体数を算出する通過物体数算出部とを備えることを特徴とする通過物体数計測装置である。 Further, in order to solve the above-described problem, the present invention is a passing object number measuring apparatus that estimates the number of objects passing through a predetermined area in a video, wherein the partial image generating means is continuously in time series. In a partial image generation unit that generates a partial image from an input video frame, a foreground detection unit that detects a foreground region in the partial image generated by the partial image generation unit, and a foreground region detected by the foreground detection unit The relationship between the on-image coordinates and the real space coordinates is calculated from the on-image movement amount detection unit for detecting the local movement amount on the image and the local movement amount on the image detected by the on-image movement amount detection unit. In consideration, the movement amount coordinate conversion / representation movement amount calculation unit for calculating the total movement amount of the object group moving in the passing object number measurement direction, and the partial image generated by the partial image generation unit Certain The number of objects in the image that estimates the number of objects in the image moving in the direction, the representative amount of movement calculated by the movement amount coordinate conversion / representative movement amount calculation unit, and the image estimated by the number of objects in the image A passing object number measuring apparatus comprising: a passing object number calculating unit that calculates the number of objects passing through a predetermined region in a video from the number of inner moving objects.
また、上述した課題を解決するために、本発明は、映像中の所定の領域を通過する物体数を推定する通過物体数計測装置のコンピュータに、部分画像生成手段が、時系列に連続して入力される映像フレームから部分画像を生成する部分画像生成機能、前記部分画像生成機能により生成された部分画像における前景領域を検出する前景検出機能、前記前景検出機能により検出された前景領域において、画像上での局所移動量を検出する前画像上移動量検出機能、前記画像上移動量検出機能により検出された画像上での局所移動量から、画像上座標と実空間座標との関係を考慮し、各通過物体数計測方向に移動する物体群の全体としての代表移動量を算出する移動量座標変換・代表移動量算出機能、前記部分画像生成機能により生成された部分画像に写っている特定の方向に移動する画像内物体数を推定する画像内物体数算出機能、前記移動量座標変換・代表移動量算出機能により算出された代表移動量と前記画像内物体数算出機能により推定された画像内移動物体数とから映像中の所定の領域を通過する物体数を算出する通過物体数算出機能を実行させることを特徴とするプログラムである。 In order to solve the above-described problem, the present invention provides a computer of a passing object number measuring apparatus that estimates the number of objects passing through a predetermined area in a video, and a partial image generating means is continuously provided in time series. A partial image generation function that generates a partial image from an input video frame, a foreground detection function that detects a foreground area in the partial image generated by the partial image generation function, and a foreground area detected by the foreground detection function In consideration of the relationship between the coordinates on the image and the real space coordinates from the movement amount detection function on the previous image for detecting the local movement amount on the image, and the local movement amount on the image detected by the movement amount detection function on the image. , A movement amount coordinate conversion / representation movement amount calculation function for calculating a representative movement amount as a whole of the group of objects moving in each passing object number measurement direction, and a partial image generated by the partial image generation function A function for calculating the number of objects in an image for estimating the number of objects in an image moving in a specific direction shown in FIG. 5, a representative movement amount calculated by the movement amount coordinate conversion / representative movement amount calculation function, and a function for calculating the number of objects in the image Is a program that executes a passing object number calculation function for calculating the number of objects that pass through a predetermined area in the video from the number of moving objects in the image estimated by the above.
この発明によれば、映像に映っている物体の数と集団としての移動量(代表移動量)とを推定することで、映像に映っている領域の通過物体数を推定することができる。 According to the present invention, it is possible to estimate the number of passing objects in the region shown in the video by estimating the number of objects shown in the video and the movement amount (representative movement amount) as a group.
本発明は、映像中の領域内にいる人数または通過人数を推定する技術に関するものである。本発明の特徴は、映像中の前景の複数の特徴点毎に設定した移動方向毎に、該特徴点が実空間で移動した量を投票してそのピークを求め、各移動方向の代表移動量とすることである。特徴点から求めた代表移動量を、撮像された物体集合の移動量とみなして移動方向毎のフレーム間移動物体数を算出することで、個々の物体を検出してトラッキングすることなく、映像中の所定の領域を通過する物体数を推定することができる。すなわち、本発明の目的は、映像に映っている任意の実空間領域を通過する物体数を測定することである。 The present invention relates to a technique for estimating the number of people or the number of people passing through an area in a video. The feature of the present invention is that, for each moving direction set for each of a plurality of feature points in the foreground in the video, the amount of movement of the feature points in real space is obtained to obtain the peak, and the representative moving amount in each moving direction It is to do. By calculating the number of moving objects between frames for each moving direction, assuming the representative moving amount obtained from the feature point as the moving amount of the captured object set, it is possible to detect each object in the video without tracking it. It is possible to estimate the number of objects that pass through the predetermined area. That is, an object of the present invention is to measure the number of objects that pass through an arbitrary real space region shown in an image.
以下、本発明の一実施形態を、図面を参照して説明する。 Hereinafter, an embodiment of the present invention will be described with reference to the drawings.
図1は、本発明の一実施形態による通過物体数計測方法を実現するためのハードウェア構成を示すブロック図である。本実施形態による通過物体数計測方法を実施するにあたり、ハードウェアとしては、映像を撮影するカメラなどの撮像装置1、画像処理を行う計算機2、画像処理結果を表示するモニタなどの画像表示装置3を用いて実現することができる。
FIG. 1 is a block diagram showing a hardware configuration for realizing a passing object number measuring method according to an embodiment of the present invention. In implementing the method of measuring the number of passing objects according to the present embodiment, the hardware includes an
撮像装置1は、所定の位置に固定されたカメラを用いる。計算機2は、キーボードや、マウス等からなる入力装置2−1、プログラムや、各種パラメータなどを記憶するROM2−2、上記プログラムを実行することにより所定の処理や、各部の動作制御などを行うCPU2−3、プログラム実行に伴う各種データなどを記憶するRAM2−4、撮像装置1により撮像される映像を取り込むI/F2−5、ハードディスクなどの外部記憶装置2−6、記録媒体2−8との間でのデータ書き込みや、データ読み込みなどを制御する記録媒体駆動装置2−7、フラッシュメモリなどの記録媒体2−8からなる。
The
画像処理を行う計算機2については、汎用の計算機、処理ロジックを実装したボード、チップなど様々なものが考えられるが、ここではそれを限定しない。 Various computers such as a general-purpose computer, a board on which processing logic is mounted, and a chip are conceivable as the computer 2 that performs image processing, but this is not limited here.
以下では、カメラ1で撮影された画像(フレーム画像)が時系列的に入力される状況(静止画系列や、映像ストリームなど。処理を実時間で行うか否かは限定しない)を想定して説明する。また、本技術を利用する場所では、物体の流れの方向がある程度定まっており、通過物体数を計測する際に、見る方向を事前に設定できるものとする。
In the following, it is assumed that images (frame images) captured by the
また、処理の簡易化のために、物体の形状モデルを導入し、計測対象の物体は、どの個体も高さH、横幅Wの矩形であるものとする。高さH、及び横幅Wは、事前に指定する値であり、処理の中で必要に応じて使用できるよう記憶されている。高さH、横幅Wの具体的な値としては、例えば、人物を計測対象とする場合には、H=1.7m、W=0.3mとすることができる。 Further, in order to simplify the processing, an object shape model is introduced, and each object to be measured is assumed to be a rectangle having a height H and a width W. The height H and the width W are values specified in advance, and are stored so that they can be used as necessary in the processing. As specific values of the height H and the width W, for example, when a person is to be measured, H = 1.7 m and W = 0.3 m can be set.
次に、上記のように構成された装置の主要な機能について説明する。
図2は、本実施形態による、通過物体数計測装置の機能構成を示すブロック図である。また、図3は、本実施形態による、通過物体数計測装置の機能構成への入出力データを示す概念図である。本実施形態による、通過物体数計測装置は、上述したように、図1に示す撮像装置1、計算機2、画像表示装置3を用いて実現される。図3に示す通過物体数計測装置の機能構成は、計算機2によるプログラム処理により実現される。
Next, main functions of the apparatus configured as described above will be described.
FIG. 2 is a block diagram illustrating a functional configuration of the passing object number measuring apparatus according to the present embodiment. FIG. 3 is a conceptual diagram showing input / output data to the functional configuration of the passing object number measuring apparatus according to the present embodiment. As described above, the passing object number measuring apparatus according to the present embodiment is realized using the
図2において、通過物体数計測装置は、部分画像生成部10、前景検出部11、画像上移動量検出部12、移動量座標変換・代表移動量算出部13、画像内人数算出部14、及び通過人数算出部15からなる。部分画像生成部10は、時間的に連続した画像系列から、予め設定された範囲を抽出した部分画像を生成する。前景検出部11は、抽出された部分画像において前景領域を検出し、前景領域を表す前景画像を生成する。画像上移動量検出部12は、検出した前景領域において、映像の現在フレームと1つ前のフレームの間で、画像上での局所的な移動量を検出する。
In FIG. 2, the passing object number measuring device includes a partial
移動量座標変換・代表移動量算出部13は、検出した画像上での局所的な移動量から、画像上座標と実空間の床面座標(以下、単に実空間座標)との関係を考慮した方法(後述)により、各通過物体数計測方向に移動する物体群の全体としての移動量(代表移動量)を算出する。画像内人数算出部14は、設定した部分画像の前景画像に関して、映っている物体の数(画像内人数)を推定する。通過人数算出部15は、代表移動量と各計測方向の移動物体数とから、各計測方向におけるフレーム間通過物体数(通過人数)を算出する。
The movement amount coordinate conversion / representative movement
図3において、部分画像生成部10では、「時間的に連続した画像系列」が入力され、「部分画像」が出力される。前景検出部11では、「部分画像」が入力され、「前景画像」が出力される。画像上移動量検出部12では、「前景画像」が入力され、「画面上移動量」が出力される。移動量座標変換・代表移動量算出部13では、「画面上移動量」が入力され、「代表移動量」が出力される。画像内人数算出部14では、「前景画像」が入力され、「画像内人数」が出力される。そして、通過人数算出部15では、「実空間画像」が入力され、「領域内人数」が出力される。
In FIG. 3, the “partial image” is output to the partial
図4は、本実施形態による通過物体数計測方法の処理を説明するためのフローチャートである。まず、部分画像生成部10は、カメラ1からの現在の入力画像から、予め設定された範囲を抽出した部分画像を生成する(ステップS1)。抽出する範囲の決定方法は、例えば、入力画像のうち、物体数をカウントしたい実空間上の位置と対応しうる部分とを抽出する範囲とする方法、あるいは、物体が写らないことが明らかである部分(壁や、固定の設備など)を除いた部分を抽出する範囲とする方法、などが考えられる。また、この範囲は、入力画像全体であっても良い。抽出処理を適用する実際の方法は、ここでは限定しないが、例えば、入力画像と同じサイズであり、抽出対象とする領域の画素値を「1」、その他の画素値を「0」とした2値画像を使用し、マスキングによって処理範囲を限定する方法が考えられる。
FIG. 4 is a flowchart for explaining processing of the passing object number measuring method according to the present embodiment. First, the partial
次に、前景検出部11は、抽出された部分画像における前景領域を検出し、該前景領域を表す前景画像を生成する(ステップS2)。ここで、前景領域とは、部分画像において移動物体が存在する領域を表し、前景画像とは、部分画像中の前景である点を「1」、そうでない点、すなわち背景である点を「0」とした画像である。前景領域の検出方法は、様々な方法(例えば、参考文献1:波部斉,和田俊和,松山隆司,“照明変化に対して頑健な背景差分法”,情報処理学会研究報告(1998-CVIM115),Vol.1999,No.29,pp.17-24, 1999.、参考文献2:Kedar A. Patwardhan, Guillermo Sapiro, Vassilios Morellas, “Robust Foreground Detection in Video Using Pixel Layers”, IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. 30, No. 4, April 2008など)が知られているが、ここでは、その方法を限定しない。
Next, the
次に、画像上移動量検出部12は、ステップS2で検出した前景領域において、映像の現在フレームと1つ前のフレームとの間で、画像上での局所的な移動量を検出する(ステップS3)。すなわち、フレーム画像上の座標と、その座標における画像上でのフレーム間移動量[pixel]との組を検出する。移動量を検出する点数は、任意であり、前景領域の画素すべてについて検出する必要は無いが、多くの点数を検出するほど、精度よい通過物体数の計測が期待できる。
Next, the on-image movement
移動量の検出方法は、ここでは限定しないが、シーンの条件や、処理のフレームレートによって安定に検出方法を選択するのが好ましい。例えば、SIFT(参考文献3:D. G. Lowe, “Object recognition from local scale-invariant features”, Proc. of IEEE International Conference on Computer Vision (ICCV), pp. 1150-1157, 1999.)や、SURF(参考文献4:H. Bay, A. Ess, T. Tuytelaars, and L.V. Gool, “Speeded-up robust features (SURF),” Elsevier, pp.346-359, 2008.)などによる特徴点の対応付けによる方法が考えられる。この方法を用いると、フレームレートが低かったり、混雑度が高い場合でも、信頼できる局所移動量の取得が期待できる。また、フレームレートが十分高い場合には、オプティカルフローを用いる方法も有効である。 The detection method of the movement amount is not limited here, but it is preferable to select the detection method stably according to the scene conditions and the processing frame rate. For example, SIFT (Reference 3: DG Lowe, “Object recognition from local scale-invariant features”, Proc. Of IEEE International Conference on Computer Vision (ICCV), pp. 1150-1157, 1999.), SURF (Reference 4: H. Bay, A. Ess, T. Tuytelaars, and LV Gool, “Speeded-up robust features (SURF),” Elsevier, pp.346-359, 2008.) Conceivable. If this method is used, reliable acquisition of the local movement amount can be expected even when the frame rate is low or the degree of congestion is high. In addition, when the frame rate is sufficiently high, a method using an optical flow is also effective.
次に、移動量座標変換・代表移動量算出部13は、ステップS3で検出した画像上での局所移動量から、画像上座標と実空間の床面座標(以下、単に実空間座標)との関係を考慮した方法(後述)により、各通過物体数計測方向に移動する物体群の全体としての移動量(代表移動量)を算出する(ステップS4)。
Next, the movement amount coordinate conversion / representative movement
移動量の座標変換は、例えば、検出した各移動量に関して移動の始点と終点との画像上座標を求め、それらの画像上座標を実空間座標に変換し、実空間座標の差分を取ることによって実現することが考えられる。画像上座標(x,y)から、その点が実空間上で高さhに位置しているとした場合の実空間座標(Xh,Yh)への変換は、次式(1)で実現できる(非特許文献2の(12)式において、TX=TY=0、Z=hとすることで導出される)。 The coordinate conversion of the movement amount is, for example, by obtaining the coordinates on the image of the start point and the end point of the movement for each detected movement amount, converting the coordinates on the image into real space coordinates, and taking the difference between the real space coordinates. It can be realized. Conversion from the coordinates (x, y) on the image to the real space coordinates (X h , Y h ) when the point is located at the height h in the real space is expressed by the following equation (1). (It is derived by setting T X = T Y = 0 and Z = h in the expression (12) of Non-Patent Document 2).
図6は、実空間上高さと移動量との関係を説明するための概念図である。fはカメラの焦点距離、TZは床面からカメラまでの高さである。また、Rは回転行列であり、カメラの光軸周りの回転角θと水平方向からの俯角φのみに依存する値である。このとき、座標変換する点の実空間上での高さhは、画像上の局所移動量から特定することはできない。 FIG. 6 is a conceptual diagram for explaining the relationship between the real space height and the movement amount. f is the focal length of the camera, T Z is the floor surface to the camera height. R is a rotation matrix, and is a value that depends only on the rotation angle θ around the optical axis of the camera and the depression angle φ from the horizontal direction. At this time, the height h in the real space of the point to be coordinate-converted cannot be specified from the local movement amount on the image.
図7(a)、(b)は、座標変換する点の実空間上での高さhを人物を例にとって説明する概念図である。図7(a)に示すように、実空間上での高さhがHである場合、移動量は小となり、図7(b)に示すように、実空間上での高さhが「0」の場合、移動量は大となる。これにより、検出された画像上局所移動量から考えうる実空間移動量は、一意に定まらず、一定の幅を持つ。代表移動量を算出する際には、このことを踏まえた処理を行う必要がある。 FIGS. 7A and 7B are conceptual diagrams for explaining the height h in the real space of the point to be coordinate-transformed by taking a person as an example. As shown in FIG. 7A, when the height h in the real space is H, the movement amount is small, and as shown in FIG. 7B, the height h in the real space is “ In the case of “0”, the movement amount becomes large. Thereby, the real space movement amount that can be considered from the detected local movement amount on the image is not uniquely determined but has a certain width. When calculating the representative movement amount, it is necessary to perform processing based on this fact.
上記実空間移動量の不定性を踏まえると、以下で述べる代表移動量の算出方法が考えられる。以下で述べる処理を、全ての通過物体数計測方向について行うことによって、各計測方向における代表移動量を算出する。 Considering the above indefiniteness of the real space movement amount, the representative movement amount calculation method described below can be considered. The representative movement amount in each measurement direction is calculated by performing the processing described below for all the passing object number measurement directions.
図5は、本実施形態による、代表移動量算出手順を示すフローチャートである。まず、ステップS3で算出した画像上の局所移動量それぞれについて、実空間座標上での移動方向を算出し、その方向と注目している通過物体数計測方向との差分がある閾値以下である画像上局所移動量を抽出する(ステップS41)。 FIG. 5 is a flowchart showing a representative movement amount calculation procedure according to the present embodiment. First, for each local movement amount on the image calculated in step S3, the movement direction on real space coordinates is calculated, and the difference between that direction and the passing object number measurement direction of interest is below a certain threshold value. The upper local movement amount is extracted (step S41).
移動の始点と終点における実空間座標の差分を(ΔXh,ΔYh)とすると、移動量の実空間座標上での方向は、例えば、実空間座標のX軸を基準とする場合、d=tan−1(ΔYh/ΔXh)とすることができるが、数式(1)より、この値は、hの値によらず一定であるため、任意のhを設定することによって算出できる。また、前述した方向の差分の閾値は、通過物体数計測方向がどのように設定されているかを考慮し、1つの局所移動量が複数の通過物体数計測方向に関して抽出されることが無いように設定する。例えば、+X、−X、+Y、−Yの4方向について通過物体数を計測している場合には、閾値を±45°とすることができる。また、物体の移動方向の変化の少なさや、誤って検出される局所移動量の影響を考慮し、必要に応じてより小さい閾値を設定しても良い。 If the difference between the real space coordinates at the start point and the end point of the movement is (ΔX h , ΔY h ), the direction of the movement amount on the real space coordinates is, for example, d = Although tan −1 (ΔY h / ΔX h ) can be set, from Equation (1), this value is constant regardless of the value of h, and can be calculated by setting an arbitrary h. In addition, the threshold value of the difference between the directions described above considers how the passing object number measurement direction is set so that one local movement amount is not extracted for a plurality of passing object number measurement directions. Set. For example, when the number of passing objects is measured in four directions of + X, −X, + Y, and −Y, the threshold value can be set to ± 45 °. In addition, a smaller threshold may be set as necessary in consideration of the small change in the moving direction of the object and the influence of the amount of local movement detected in error.
なお、このとき、実空間移動量の絶対値rh=(ΔXh 2+ΔYh 2)1/2が物体の移動量として不適当である移動量を抽出対象から取り除いても良い。例えば、処理のフレームレートが5[fps]であるときに、物体の移動速さとして許容する最大値を9[km/h]と設定した場合、フレーム間の実空間移動量として許容される最大値は、0.5[m]となる。この場合、h=Hであるとき(このとき、実空間移動量は考えうる最小値をとる)の実空間移動量の絶対値が0.5を超える局所移動量は、抽出対象から除外することができる。これにより、誤って検出した局所移動量の影響を低減することができる。 At this time, the movement amount in which the absolute value r h = (ΔX h 2 + ΔY h 2 ) 1/2 of the real space movement amount is inappropriate as the movement amount of the object may be removed from the extraction target. For example, when the processing frame rate is 5 [fps] and the maximum value allowed for the moving speed of the object is set to 9 [km / h], the maximum allowable real space movement amount between frames is set. The value is 0.5 [m]. In this case, when h = H (in this case, the real space movement amount takes a minimum possible value), the local movement amount whose absolute value of the real space movement amount exceeds 0.5 is excluded from the extraction target. Can do. Thereby, the influence of the amount of local movement detected accidentally can be reduced.
次に、ステップS41で抽出された各局所移動量について、実空間上での高さがh=Hであった場合とh=0であった場合との実空間移動量絶対値RH,R0を算出する(ステップS42)。これらの値は、それぞれ特徴点が物体の上端に由来する場合と下端に由来する場合とに相当する。すなわち、該局所移動量における実空間移動量として考えうる最小値と最大値とを表す。 Next, for each local movement amount extracted in step S41, the absolute value R H , R of the real space movement amount when the height in the real space is h = H and when h = 0. 0 is calculated (step S42). These values correspond to the case where the characteristic points are derived from the upper end and the lower end of the object, respectively. That is, it represents the minimum value and the maximum value that can be considered as the real space movement amount in the local movement amount.
次に、ステップS42で算出した各実空間移動量絶対値RH,R0について、その通過物体数計測方向成分RD,H,RD,0を算出する(ステップS43)。この値は、RD,h=Rhcos ddifの関係から算出することができる。ここで、ddifは、該移動量における実空間上での移動方向と注目している通過物体数計測方向との差分である。 Next, the passing object number measurement direction component RD, H , RD, 0 is calculated for each real space movement amount absolute value RH , R0 calculated in step S42 (step S43). This value can be calculated from the relationship R D, h = R h cos d dif . Here, d dif is the difference between the moving direction in the real space and the passing object number measuring direction of interest.
次に、移動量絶対値を軸とした投票空間への投票処理により、代表移動量を算出する(ステップS44)。すなわち、ステップS41で抽出された各局所移動量について、その移動量におけるRD,H〜RD,0の範囲に投票する。 Next, the representative movement amount is calculated by voting processing to the voting space with the movement amount absolute value as an axis (step S44). That is, each local movement amount extracted in step S41 is voted in the range of R D, H to R D, 0 in the movement amount.
図8は、本実施形態による、投票処理の一例(人物の場合)を示す概念図である。上述した方法で投票すると、図8に示すように、投票数が実際の実空間移動量でピークを持つことが期待できる。そこで、投票数が最も多かった移動量絶対値を、注目している通過物体数計測方向の代表移動量とする。なお、投票空間の座標の刻み幅は、許容する代表移動量の誤差に応じて決定する。例えば、許容誤差を±0.1[m]とする場合、投票空間の刻み幅は0.2[m]とすることができる。 FIG. 8 is a conceptual diagram showing an example (in the case of a person) of voting processing according to the present embodiment. When voting is performed by the above-described method, as shown in FIG. 8, it can be expected that the number of votes has a peak in the actual real space movement amount. Therefore, the absolute value of the movement amount having the largest number of votes is set as the representative movement amount in the passing object number measurement direction of interest. Note that the step size of the coordinates of the voting space is determined according to an error in the allowable representative movement amount. For example, when the allowable error is ± 0.1 [m], the step size of the voting space can be 0.2 [m].
ここで、数式(1)による系に基づいた処理をする場合、RD,0/RD,H=TZ/(TZ−H)が成り立つ。そのため、投票空間を移動量方向に関して対数スケールとして考えると、各移動量におけるlog(RD,H)に相当する座標に対して投票した後、移動量絶対値方向の長さがlogTZ/(TZ−H)、各係数が「1」のフィルタを投票空間に適用することによって投票処理が実現できる。 Here, when the processing based on the system according to Equation (1) is performed, R D, 0 / R D, H = T Z / (T Z −H) holds. Therefore, when the voting space is considered as a logarithmic scale with respect to the movement amount direction, after voting for coordinates corresponding to log (R D, H ) in each movement amount, the length in the movement amount absolute value direction is logT Z / ( T Z −H), the voting process can be realized by applying a filter whose coefficient is “1” to the voting space.
通常の投票処理にかかる計算時間が(特徴点の組の数)×(投票空間の大きさ)のオーダーで表せるのに対し、対数スケールを用いた投票処理のオーダーは(投票空間の大きさ)×(フィルタの長さ)で表すことができる。ここで、投票空間の大きさ、フィルタの長さは、いずれも投票空間の刻みの細かさに置き換えることができる。したがって、特徴点の組の数と投票空間の刻みの細かさとを考慮し、より高速に処理できる投票方法を選択することが望ましい。その後、図4に示すメインルーチンに戻る。 The calculation time required for normal voting processing can be expressed in the order of (number of feature point pairs) x (voting space size), whereas the voting processing order using the logarithmic scale is (voting space size). X (filter length). Here, both the size of the voting space and the length of the filter can be replaced with fine voting space. Therefore, it is desirable to select a voting method that can be processed at higher speed in consideration of the number of sets of feature points and the fineness of the voting space. Thereafter, the process returns to the main routine shown in FIG.
次に、図4に戻ると、画像内人数算出部14は、ステップS1で生成した部分画像に関して、映っている物体の数(画像内人数)を推定する(ステップS5)。物体数の推定方法は、ここでは限定しないが、例えば、非特許文献2の技術を用いると、混雑時でも安定に部分画像内の物体数を推定することができる。非特許文献2は、計測対象を人物に限定して記述されているが、人物モデルを適当な物体の形状モデルに置き換えることによって、任意の矩形物体に適用することができる。
Next, returning to FIG. 4, the number-of-
このとき、通過物体数計測方向を複数設定している場合には、各計測方向に移動する物体数をそれぞれ算出する必要がある。その方法は、ここでは限定しないが、例えば、局所移動量は、どの計測方向に移動する集団についても均等に取得されるという仮定を置いたときに成立する次式(2)によって求めることができる。 At this time, when a plurality of passing object number measurement directions are set, it is necessary to calculate the number of objects moving in each measurement direction. Although the method is not limited here, for example, the local movement amount can be obtained by the following equation (2) that is established when it is assumed that the group moving in any measurement direction is evenly acquired. .
ここで、iは通過物体数計測方向のインデックスであり、Niはi番目の計測方向に移動している物体の数である。Nは本ステップの前段で算出される部分画像内の全体物体数である。Miはi番目の計測方向に関してステップS3で抽出された局所移動量の数である。 Here, i is an index of the passing object counting direction, N i is the number of the moving object to the i-th measurement direction. N is the total number of objects in the partial image calculated in the previous stage of this step. M i is the number of local movements extracted in step S3 with respect to the i-th measurement direction.
次に、通過人数算出部15は、ステップS4で算出された代表移動量とステップS5で算出された各計測方向の移動物体数(画像内人数)とから、各計測方向におけるフレーム間通過物体数を算出する(ステップS6)。フレーム間通過物体数の算出方法は、ここでは限定しないが、例えば次式(3)で算出することができる。
Next, the passing
ここで、添字のiは、その値がi番目の通過物体数計測方向に関するものであることを示す。Cは求めるフレーム間通過物体数である。v、Sはそれぞれ、代表移動量、部分画像に映るエリア(計測エリア)の実空間上面積である。Wiは、i番目の計測方向と垂直な方向とにおける計測エリアの実空間上長さの指標である。ここで、計測エリアの形状によっては、当該方向における計測エリアの長さが一意に定まらない場合がる。その場合のWi決定方法は、例えば当該エリア長さの平均値を取る方法が考えられる。エリアの長さが一意に定まる場合には、その値をWiとすることができる。 Here, the subscript i indicates that the value relates to the i-th passing object number measurement direction. C is the number of inter-frame passing objects to be obtained. v and S are the real movement area of the area (measurement area) shown in the representative movement amount and the partial image, respectively. Wi is an index of the real space length of the measurement area in the direction perpendicular to the i-th measurement direction. Here, depending on the shape of the measurement area, the length of the measurement area in the direction may not be uniquely determined. As a Wi determination method in this case, for example, a method of taking an average value of the area lengths can be considered. If the length of the area is uniquely determined, it is possible to the value and W i.
次に、通過人数算出部15は、計測方向毎にフレーム間通過物体数を累積加算することにより、各計測方向の累積通過物体数とする(ステップS7)。累積通過物体数は、処理を開始したフレームから現在フレームまでの間に映像内を各計測方向に通過した物体の数となる。
Next, the passing
次に、終了条件を満たしているか否かを判定し(ステップS8)、終了条件を満たしていない場合には、次のフレームへ移行し(ステップS9)、ステップS1に戻り、上述した処理を繰り返す。以後、終了条件を満たすまで、次のフレームへ移行しながら上述した処理を繰り返す。そして、終了条件を満たすと、当該処理を終了する。 Next, it is determined whether or not the end condition is satisfied (step S8). If the end condition is not satisfied, the process proceeds to the next frame (step S9), returns to step S1, and repeats the above-described processing. . Thereafter, the above-described processing is repeated while moving to the next frame until the end condition is satisfied. When the end condition is satisfied, the process is ended.
上述した実施形態によれば、映像に映っている個々の物体を追跡することなしに通過物体数を計測することができる。これにより、個々の物体を追跡することが困難な状況でも通過物体数の計測を実現することができる。 According to the above-described embodiment, the number of passing objects can be measured without tracking individual objects shown in the video. This makes it possible to measure the number of passing objects even in situations where it is difficult to track individual objects.
1 撮像装置
2 計算機
2−1 入力装置
2−2 ROM
2−3 CPU
2−4 RAM
2−5 I/F
2−6 外部記憶装置
2−7 記録媒体駆動装置
2−8 記録媒体
3 画像表示装置
10 部分画像生成部
11 前景検出部
12 画像上移動量検出部
13 移動路湯座標変換・代表移動量算出部
14 画像内人数検出部
15 通過人数算出部
DESCRIPTION OF
2-3 CPU
2-4 RAM
2-5 I / F
2-6 External Storage Device 2-7 Recording Medium Drive Device 2-8
Claims (5)
部分画像生成手段が、時系列に連続して入力される映像フレームから部分画像を生成する部分画像生成ステップと、
前景検出手段が、前記生成された部分画像における前景領域を検出するステップと、
画像上移動量検出手段が、前記検出された前景領域において、画像上での局所移動量を検出するステップと、
移動量座標変換・代表移動量算出手段が、前記検出した画像上の局所移動量それぞれについて、実空間座標上での移動方向を算出し、その方向と注目している通過物体数計測方向との差分が所定の閾値以下である画像上局所移動量を抽出するステップと、
移動量座標変換・代表移動量算出手段が、前記抽出された各局所移動量について、実空間移動量絶対値を算出するステップと、
移動量座標変換・代表移動量算出手段が、前記算出した各実空間移動量絶対値について、その通過物体数計測方向成分を算出するステップと、
移動量座標変換・代表移動量算出手段が、前記実空間移動量絶対値の座標軸を有し、許容する移動量誤差に基づいて設定された座標の刻み幅である投票空間において、実空間の物体の上端から下端までに対応する範囲に対して、算出した前記実空間移動量絶対値それぞれに対応する前記投票空間の座標に投票処理を行い、投票が最も多かった前記実空間移動量絶対値を移動する物体群の全体としての代表移動量として出力するステップと、
画像内物体数算出手段が、前記生成された部分画像に写っている特定の方向に移動する画像内移動物体数を推定するステップと、
通過物体数算出手段が、前記代表移動量と前記所定の領域の実空間上長さと前記画像内移動物体数とを乗算した結果を前記所定の領域の実空間上面積で除算した値を前記映像中の前記所定の領域を通過する物体数として算出するステップと
を含むことを特徴とする通過物体数計測方法。 A method for measuring the number of passing objects for estimating the number of objects passing through a predetermined area in a video,
A partial image generation step in which the partial image generation means generates a partial image from video frames that are continuously input in time series;
A foreground detecting means detecting a foreground region in the generated partial image;
A step of detecting a movement amount on the image in the detected foreground region, a local movement amount on the image;
The moving amount coordinate conversion / representative moving amount calculating means calculates the moving direction on the real space coordinates for each of the detected local moving amounts on the image, and the direction and the passing object number measuring direction of interest are calculated. Extracting a local movement amount on the image whose difference is equal to or less than a predetermined threshold;
A step of calculating a movement amount coordinate conversion / representative movement amount calculation means for each of the extracted local movement amounts, an absolute value of a real space movement amount;
A step of calculating a passing object number measurement direction component for each of the calculated real space movement amount absolute values by a movement amount coordinate conversion / representative movement amount calculation unit;
An object in the real space in the voting space, in which the movement coordinate conversion / representative movement amount calculation means has a coordinate axis of the absolute value of the real space movement amount and is a step size of coordinates set based on the allowable movement amount error. Voting processing is performed on the coordinates of the voting space corresponding to each of the calculated absolute values of the real space movement amount in a range corresponding to the upper end to the lower end of the real space movement amount, and the absolute value of the real space movement amount having the most votes is obtained. Outputting as a representative amount of movement of the entire moving object group;
A step of estimating the number of moving objects in the image, wherein the number of objects in the image calculating means moves in a specific direction shown in the generated partial image;
A passing object number calculation means divides the result obtained by multiplying the representative movement amount, the real space length of the predetermined area by the number of moving objects in the image, and the real space area of the predetermined area by the image. And calculating as the number of objects passing through the predetermined region .
時系列に連続して入力される映像フレームから部分画像を生成する手段と、
前記生成された部分画像における前景領域を検出する手段と、
前記検出された前景領域において、画像上での局所移動量を検出する手段と、
前記検出した画像上の局所移動量それぞれについて、実空間座標上での移動方向を算出し、その方向と注目している通過物体数計測方向との差分が所定の閾値以下である画像上局所移動量を抽出する手段と、
前記抽出された各局所移動量について、実空間移動量絶対値を算出する手段と、
前記算出した各実空間移動量絶対値について、その通過物体数計測方向成分を算出する手段と、
前記実空間移動量絶対値の座標軸を有し、許容する移動量誤差に基づいて設定された座標の刻み幅である投票空間において、実空間の物体の上端から下端までに対応する範囲に対して、算出した前記実空間移動量絶対値それぞれに対応する前記投票空間の座標に投票処理を行い、投票が最も多かった前記実空間移動量絶対値を移動する物体群の全体としての代表移動量として出力する手段と、
前記生成された部分画像に写っている特定の方向に移動する画像内移動物体数を推定する手段と、
前記代表移動量と前記所定の領域の実空間上長さと前記画像内移動物体数とを乗算した結果を前記所定の領域の実空間上面積で除算した値を前記映像中の前記所定の領域を通過する物体数として算出する手段と
を備えることを特徴とする通過物体数計測装置。 A passing object number measuring device for estimating the number of objects passing through a predetermined area in a video,
It means for generating a partial image from the image frame input in succession in time series,
It means for detecting a foreground region before Kisei made partial image,
In the foreground area issued before dangerous, it means for detecting a local amount of movement in the image,
For each of the detected local movement amounts on the image, the movement direction on the real space coordinates is calculated, and the difference between the direction and the passing object number measurement direction of interest is below a predetermined threshold value. Means for extracting the quantity;
Means for calculating an absolute value of a real space movement amount for each of the extracted local movement amounts;
Means for calculating the passing object number measurement direction component for each calculated real space movement absolute value;
In the voting space having the coordinate axis of the real space movement amount absolute value and the step size of the coordinates set based on the allowable movement amount error, the range corresponding to the upper end to the lower end of the object in the real space The voting process is performed on the coordinates of the voting space corresponding to each of the calculated absolute values of the real space movement amount, and the real space movement amount absolute value having the largest number of votes is used as the representative movement amount of the object group as a whole. Means for outputting;
It means for estimating the image moving objects number moving in a certain direction that is reflected in the front Kisei made partial image,
A value obtained by multiplying the representative movement amount, the real space length of the predetermined area by the number of moving objects in the image, and the area of the predetermined area in the real space is defined as the predetermined area in the video. And a means for calculating the number of passing objects.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011110341A JP5419925B2 (en) | 2011-05-17 | 2011-05-17 | Passing object number measuring method, passing object number measuring apparatus, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011110341A JP5419925B2 (en) | 2011-05-17 | 2011-05-17 | Passing object number measuring method, passing object number measuring apparatus, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012242947A JP2012242947A (en) | 2012-12-10 |
JP5419925B2 true JP5419925B2 (en) | 2014-02-19 |
Family
ID=47464628
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011110341A Active JP5419925B2 (en) | 2011-05-17 | 2011-05-17 | Passing object number measuring method, passing object number measuring apparatus, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5419925B2 (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6276519B2 (en) * | 2013-05-22 | 2018-02-07 | 株式会社 日立産業制御ソリューションズ | Person counting device and human flow line analyzing device |
JP7321221B2 (en) * | 2021-09-06 | 2023-08-04 | ソフトバンク株式会社 | Information processing device, program, determination method, and system |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3664892B2 (en) * | 1998-09-30 | 2005-06-29 | 松下電器産業株式会社 | Stereo image processing method and apparatus and intruding object monitoring system |
JP4247720B2 (en) * | 2005-05-20 | 2009-04-02 | 株式会社Ihi | Passing number detection device and method |
JP2007241960A (en) * | 2006-03-13 | 2007-09-20 | Fuji Electric Device Technology Co Ltd | Mobile object counter |
JP2007257316A (en) * | 2006-03-23 | 2007-10-04 | Oki Electric Ind Co Ltd | Object counter |
JP2010136113A (en) * | 2008-12-04 | 2010-06-17 | Nippon Telegr & Teleph Corp <Ntt> | Device, method and program for adjusting imaging parameter, and recording medium |
JP2010250571A (en) * | 2009-04-16 | 2010-11-04 | Mitsubishi Electric Corp | Person counting device |
-
2011
- 2011-05-17 JP JP2011110341A patent/JP5419925B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2012242947A (en) | 2012-12-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10212324B2 (en) | Position detection device, position detection method, and storage medium | |
JP6525453B2 (en) | Object position estimation system and program thereof | |
JP5976198B2 (en) | Number counting device and number counting method | |
US10872262B2 (en) | Information processing apparatus and information processing method for detecting position of object | |
JP3944647B2 (en) | Object measuring apparatus, object measuring method, and program | |
JP4766495B2 (en) | Object tracking device and object tracking method | |
JP2013089252A (en) | Video processing method and device | |
KR20150027291A (en) | Optical flow tracking method and apparatus | |
JP6551226B2 (en) | INFORMATION PROCESSING SYSTEM, INFORMATION PROCESSING METHOD, AND PROGRAM | |
CN107221005B (en) | Object detection method and device | |
KR101051389B1 (en) | Adaptive background-based object detection and tracking device and method | |
WO2020217368A1 (en) | Information processing device, information processing method, and information processing program | |
US20220366574A1 (en) | Image-capturing apparatus, image processing system, image processing method, and program | |
JP5177030B2 (en) | Target tracking device | |
JP5478520B2 (en) | People counting device, people counting method, program | |
JP5419925B2 (en) | Passing object number measuring method, passing object number measuring apparatus, and program | |
JP2015507736A (en) | System and method for estimating target size | |
JP7215569B2 (en) | Object feature quantity extraction device, object feature quantity extraction method and program | |
JP4918615B2 (en) | Object number detection device and object number detection method | |
JP4628860B2 (en) | Image sensor | |
JP4751871B2 (en) | Imaging object detection apparatus and method | |
JPWO2018179119A1 (en) | Video analysis device, video analysis method, and program | |
Qin et al. | Gesture recognition from depth images using motion and shape features | |
KR101438451B1 (en) | Method of providing fast detection of moving objects from non-stationary camera video by dual-mode SGM, and computer-readable recording medium for the same | |
CN107273801B (en) | Method for detecting abnormal points by video multi-target tracking |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20130606 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130607 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20130726 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130827 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131023 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131112 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131119 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5419925 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |