[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP5031419B2 - Encoder - Google Patents

Encoder Download PDF

Info

Publication number
JP5031419B2
JP5031419B2 JP2007079619A JP2007079619A JP5031419B2 JP 5031419 B2 JP5031419 B2 JP 5031419B2 JP 2007079619 A JP2007079619 A JP 2007079619A JP 2007079619 A JP2007079619 A JP 2007079619A JP 5031419 B2 JP5031419 B2 JP 5031419B2
Authority
JP
Japan
Prior art keywords
quantization
turning
unit
quantization table
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007079619A
Other languages
Japanese (ja)
Other versions
JP2008244624A (en
Inventor
正 大槻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2007079619A priority Critical patent/JP5031419B2/en
Publication of JP2008244624A publication Critical patent/JP2008244624A/en
Application granted granted Critical
Publication of JP5031419B2 publication Critical patent/JP5031419B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

この発明は、例えば旋回式カメラの画像を符号化する符号化装置に関するものである。   The present invention relates to an encoding device that encodes, for example, an image of a turning camera.

ネットワークの普及、記録メディアのデジタル化に伴い、例えば監視を主目的とするカメラシステムにおいても、画像をデジタル化して圧縮し、遠隔地に配信したり、長時間記録可能なデジタルメディアに記録したりするようになっている。
この配信,記憶等に用いる圧縮された画像データは、帯域の制限された伝送路で伝送したり、有限である記憶媒体に記録したりするため、データ量が一定であることが望ましい。したがって画像を圧縮する際は、データ量を一定に保つため、符号量制御と呼ばれる処理が行われている。
With the spread of networks and the digitalization of recording media, for example, even in camera systems whose main purpose is surveillance, images are digitized and compressed, distributed to remote locations, or recorded on digital media that can be recorded for a long time. It is supposed to be.
The compressed image data used for distribution, storage, etc. is preferably transmitted in a transmission path with a limited bandwidth or recorded on a finite storage medium, so that the data amount is preferably constant. Therefore, when the image is compressed, a process called code amount control is performed in order to keep the data amount constant.

符号量制御と呼ばれる処理には、1パス形式と呼ばれる方法や2パス形式と呼ばれる方法がある。1パス形式では、動画像は時間方向にある程度の同一性が保たれていることを基本に、前フレームの符号化結果に基づき次フレームの符号化パラメータを決定し、符号量制御を行う方法である。   Processing called code amount control includes a method called a 1-pass format and a method called a 2-pass format. In the 1-pass format, based on the fact that moving images have a certain degree of identity in the time direction, the encoding parameter of the next frame is determined based on the encoding result of the previous frame, and the code amount control is performed. is there.

2パス形式では、画像データに対し少なくとも2回の処理パスによって符号量を制御する方法である。1回目の処理パスでは、圧縮する画像の特徴量や複雑性に関する情報が収集される。2回目の処理パスの前に、これらの情報に基づき目標とする符号量に近づけるための符号化パラメータが決定される。例えばJPEGにおいては量子化テーブルを最適化することである。そして2回目のパスでは同じ画像に対し新たに決定された符号化パラメータによって符号化を行う方法である。   The 2-pass format is a method of controlling the code amount by at least two processing passes for image data. In the first processing pass, information on the feature amount and complexity of the image to be compressed is collected. Before the second processing pass, an encoding parameter for approaching the target code amount is determined based on these pieces of information. For example, in JPEG, the quantization table is optimized. In the second pass, the same image is encoded with newly determined encoding parameters.

従来、例えばMPEGでの符号量制御の方法として特許文献1や、JPEGでの符号量制御の方法として特許文献2がある。
具体的には、特許文献1では、1回目の処理パスとして、まず入力動画像信号を時間的に連続した少なくとも一つのフレームからなるシーンに分割して、シーン毎に統計的特徴量を算出し、この統計的特徴量に基づいてシーンの内容を推定し、さらに、2回目の処理パスとして、目標ビットレートに対してバッファにある程度の余裕をもたせることができる場合、シーン内容に応じて符号化ビットレートをユーザが設定した上限・下限内で配分し、平均ビットレートがあらかじめ指定されたビットレートを満たすような効率の良い符号化パラメータを決定し、この符号化パラメータを用いて入力画像信号を符号化する。
Conventionally, for example, there is Patent Document 1 as a code amount control method in MPEG, and Patent Document 2 as a code amount control method in JPEG.
Specifically, in Patent Document 1, as a first processing pass, an input moving image signal is first divided into scenes composed of at least one frame that is temporally continuous, and a statistical feature amount is calculated for each scene. The scene content is estimated based on this statistical feature, and if the buffer can have a certain margin for the target bit rate as the second processing pass, encoding is performed according to the scene content. The bit rate is allocated within the upper and lower limits set by the user, and an efficient coding parameter is determined so that the average bit rate satisfies the bit rate specified in advance, and the input image signal is determined using this coding parameter. Encode.

特開2001−245303号公報(段落0012)JP 2001-245303 A (paragraph 0012) 特開平9−130802号公報(段落0012)Japanese Patent Laid-Open No. 9-130802 (paragraph 0012)

従来の符号化装置は以上のように構成され、2パス形式は精度よく符号量を一定にすることができるという特徴を持っている反面、処理の複雑化、バッファの使用量の増加などコストアップの要因となるという課題があった。   The conventional encoding device is configured as described above, and the two-pass format has the feature that the code amount can be made constant with high precision, but the cost increases due to complicated processing and increased buffer usage. There was a problem of becoming a factor.

この発明は上記のような課題を解決するためになされたもので、精度よく符号量を一定にするとともに、処理を単純化し、バッファの使用量等を抑え、コストアップの要因を少なくすることができる符号化装置を得ることを目的とする。   The present invention has been made to solve the above-described problems, and it is possible to make the code amount constant with high accuracy, simplify the processing, suppress the buffer usage amount, and reduce the cost increase factor. An object of the present invention is to obtain an encoding device that can be used.

この発明に係る符号化装置は、カメラからの入力画像を量子化する量子化部と、旋回動作開始と旋回動作終了とに各々適した複数の量子化テーブルと、カメラの旋回動作開始の場合に、複数の量子化テーブルから旋回動作開始に適した量子化テーブルを量子化部で用いる量子化テーブルとして選択し、カメラの旋回動作終了の場合に、複数の量子化テーブルから旋回動作終了に適した量子化テーブルを量子化部で用いる量子化テーブルとして選択する符号制御部とを備え、複数の量子化テーブルは、量子化部の量子化結果として出力される符号量が一定になる量子化特性値を記憶するものである。 Coding apparatus according to the present invention includes a quantization unit for quantizing input image images from the camera, and a plurality of quantization tables, each suited to the turning operation start and turning operation end and, when the turning operation start of the camera In addition, a quantization table suitable for starting the turning operation is selected from a plurality of quantization tables as a quantization table used in the quantization unit, and when the turning operation of the camera is finished, it is suitable for completing the turning operation from the plurality of quantization tables. painting Bei a code controller you select a quantization table using a quantization table by the quantization unit, the plurality of quantization tables, quantum code amount is output as the quantization result of the quantization unit is constant also of the a storing of characteristic values.

この発明によれば、精度よく符号量を一定にするとともに、処理を単純化し、バッファの使用量等を抑え、コストアップの要因を少なくするという効果を奏する。   According to the present invention, there is an effect that the code amount is made constant with high accuracy, the processing is simplified, the amount of use of the buffer is suppressed, and the cost increase factor is reduced.

以下、この発明の実施の一形態を説明する。
図1は、この発明の実施の形態1による旋回式カメラシステムの構成図であり、図1で示すように、旋回式カメラ101から配信されたデジタル化された画像データが、ネットワーク102を経由して送信され、操作PC103は画像データを用いて監視し、レコーダ装置104は画像データを記録する。
An embodiment of the present invention will be described below.
FIG. 1 is a configuration diagram of a revolving camera system according to Embodiment 1 of the present invention. As shown in FIG. 1, digitized image data distributed from a revolving camera 101 is transmitted via a network 102. The operation PC 103 monitors using the image data, and the recorder device 104 records the image data.

図2は、この発明の実施の形態1による符号化装置のブロック図である。
符号化装置は旋回式カメラ101内にあり、旋回式カメラ101は、カメラ部1(カメラ)と、符号化部10と、旋回部30とにより構成されている。符号化部10は、メモリ11と、DCT部12と、量子化テーブル(第1の量子化テーブル)13と、量子化部14と、可変長符号化部15と、バッファ16と、スケールファクタ決定部17と、符号制御部18と、量子化テーブル(第3の量子化テーブル)19と、量子化テーブル(第2の量子化テーブル)20により構成され、旋回部30は、旋回制御部31と、パンモータ32と、チルトモータ33により構成されている。

FIG. 2 is a block diagram of an encoding apparatus according to Embodiment 1 of the present invention.
The encoding device is in the revolving camera 101, and the revolving camera 101 includes a camera unit 1 (camera), an encoding unit 10, and a revolving unit 30. The encoding unit 10 includes a memory 11, a DCT unit 12, a quantization table (first quantization table) 13, a quantization unit 14, a variable length encoding unit 15, a buffer 16, and a scale factor determination. Unit 17, code control unit 18, quantization table (third quantization table) 19, and quantization table (second quantization table) 20. The pan motor 32 and the tilt motor 33 are configured.

ここでメモリ11はカメラ部1からの非圧縮画像データである入力画像を一旦記録し、DCT部12はメモリ11から入力した画像を離散コサイン変換(Discrete Cosine Transform;DCT)し、量子化部14はDCT部12から入力したDCT後のデータを、量子化テーブル13を用いて量子化する。可変長符号化部15は量子化部14から入力した量子化後のデータを可変長符号化し、バッファ16は可変長符号化部15から入力した符号化後のデータを外部へ送信する。   Here, the memory 11 temporarily records an input image which is uncompressed image data from the camera unit 1, and the DCT unit 12 performs a discrete cosine transform (DCT) on the image input from the memory 11, and a quantization unit 14. Quantizes the data after DCT input from the DCT unit 12 using the quantization table 13. The variable length encoding unit 15 performs variable length encoding on the quantized data input from the quantization unit 14, and the buffer 16 transmits the encoded data input from the variable length encoding unit 15 to the outside.

スケールファクタ決定部17は、カメラからの入力画像の量子化結果として出力される符号量が一定になるように、先に入力した画像の量子化結果として出力される符号量に基づき、次の画像の量子化に用いる量子化テーブルを算出するためのスケールファクタを決定する。   The scale factor determination unit 17 determines the next image based on the code amount output as the quantization result of the previously input image so that the code amount output as the quantization result of the input image from the camera becomes constant. A scale factor for calculating a quantization table to be used for quantization is determined.

量子化テーブル13はカメラ部1からの入力画像の量子化結果として出力される符号量が一定になる量子化特性値を記憶している。量子化特性値は量子化に用いる値であり、個別に設定される。   The quantization table 13 stores a quantization characteristic value that makes a code amount output as a quantization result of an input image from the camera unit 1 constant. The quantization characteristic value is a value used for quantization, and is set individually.

符号制御部18は、カメラ部1の旋回動作時に、旋回部30の旋回制御部31から旋回制御の状態の情報を提供され、その情報に基づいて、複数の量子化テーブル19の中からカメラ部1の旋回の種類及び旋回速度に対応した量子化テーブル19を選択し、選択した量子化テーブル19を量子化テーブル13に設定する。また符号制御部18は、予め決められたカメラ部1の旋回動作のプリセット動作時に、プリセット動作に対応した量子化テーブル20を量子化テーブル13に設定する。   The sign control unit 18 is provided with information on the state of turning control from the turning control unit 31 of the turning unit 30 during the turning operation of the camera unit 1, and the camera unit is selected from the plurality of quantization tables 19 based on the information. The quantization table 19 corresponding to the turning type and turning speed of 1 is selected, and the selected quantization table 19 is set in the quantization table 13. Further, the code control unit 18 sets the quantization table 20 corresponding to the preset operation in the quantization table 13 at the time of the preset operation of the turning operation of the camera unit 1 determined in advance.

量子化テーブル19は、カメラ部1の旋回の種類及び旋回速度に対応して、カメラ部1からの入力画像の量子化結果として出力される符号量が一定になる量子化特性値を記憶しているテーブルであり、量子化テーブル20は、予め決められたカメラ部1の旋回動作のプリセット動作に対応して、カメラ部1からの入力画像の量子化結果として出力される符号量が一定になる量子化特性値を記憶しているテーブルである。量子化テーブル19や量子化テーブル20は不揮発性メモリ等に記憶されている。   The quantization table 19 stores a quantization characteristic value that makes the code amount output as a quantization result of the input image from the camera unit 1 constant corresponding to the type of rotation and the rotation speed of the camera unit 1. The quantization table 20 has a constant code amount output as a quantization result of the input image from the camera unit 1 in accordance with a predetermined preset operation of the turning operation of the camera unit 1. It is a table which memorize | stores the quantization characteristic value. The quantization table 19 and the quantization table 20 are stored in a nonvolatile memory or the like.

旋回部30はカメラ部1の旋回を制御するものであり、旋回制御部31は、外部から旋回制御コマンドが入力した場合、旋回制御コマンドを解析し、パンモータ32、チルトモータ33を動作させ、同時に符号制御部18に旋回動作が開始されたことと旋回動作に関する情報を通知する。パンモータ32とチルトモータ33は、旋回制御部31の指示に従い、カメラ部1を回転させる。   The turning unit 30 controls turning of the camera unit 1. When a turning control command is input from the outside, the turning control unit 31 analyzes the turning control command and operates the pan motor 32 and the tilt motor 33. The sign control unit 18 is notified of the start of the turning motion and information related to the turning motion. The pan motor 32 and the tilt motor 33 rotate the camera unit 1 in accordance with instructions from the turning control unit 31.

次に動作について説明する。
カメラ部1は画像が符号化部10に入力されると、メモリ11は入力画像を一旦記録し、DCT部12はメモリ11から入力した画像を離散コサイン変換し、量子化部14はDCT部12から入力したDCT後のデータを、量子化テーブル13を用いて量子化し、可変長符号化部15は量子化部14から入力した量子化後のデータを可変長符号化し、バッファ16は可変長符号化部15から入力した符号化後のデータを、バッファ16からネットワーク102を経由して、操作PC103やレコーダ装置104に送信する。
そして、量子化部14は量子化結果として出力される符号量をスケールファクタ決定部17に出力し、スケールファクタ決定部17は、量子化部14から入力した符号量に基づき、カメラからの入力画像の量子化結果として出力される符号量が一定になるように、次の画像の量子化に用いる量子化テーブルを算出するためのスケールファクタを決定する。量子化テーブル13はスケールファクタ決定部17により決定されたスケールファクタによる量子化特性値を記憶し、量子化部14に出力する。そして、量子化部14は次の量子化で使用する量子化テーブル13として用いる。
Next, the operation will be described.
When an image is input to the encoding unit 10 in the camera unit 1, the memory 11 temporarily records the input image, the DCT unit 12 performs discrete cosine transform on the image input from the memory 11, and the quantization unit 14 includes the DCT unit 12. The data after DCT input from Quantize is quantized using the quantization table 13, the variable length encoding unit 15 performs variable length encoding on the quantized data input from the quantization unit 14, and the buffer 16 stores the variable length code. The encoded data input from the encoding unit 15 is transmitted from the buffer 16 to the operation PC 103 and the recorder device 104 via the network 102.
Then, the quantization unit 14 outputs the code amount output as the quantization result to the scale factor determination unit 17, and the scale factor determination unit 17 inputs the input image from the camera based on the code amount input from the quantization unit 14. The scale factor for calculating the quantization table used for the quantization of the next image is determined so that the amount of code output as the quantization result of is constant. The quantization table 13 stores the quantization characteristic value based on the scale factor determined by the scale factor determination unit 17 and outputs the quantization characteristic value to the quantization unit 14. The quantization unit 14 is used as a quantization table 13 used in the next quantization.

ここで、旋回制御部31は外部からカメラ部1の旋回するための旋回制御コマンドが入力すると、入力した旋回制御コマンドを解析してパンモータ32、チルトモータ33を動作させて旋回動作を開始する。それと同時に旋回制御部31は符号制御部18に旋回動作が開始されたことと旋回動作に関する情報を通知する。旋回動作に関する情報には、旋回の種類(パン動作,チルト動作,プリセット動作等)、旋回速度などの情報が含まれている。   Here, when a turning control command for turning the camera unit 1 is input from the outside, the turning control unit 31 analyzes the input turning control command and operates the pan motor 32 and the tilt motor 33 to start the turning operation. At the same time, the turning control unit 31 notifies the code control unit 18 of the start of the turning operation and information related to the turning operation. The information related to the turning operation includes information such as the type of turning (pan operation, tilt operation, preset operation, etc.) and the turning speed.

これらの旋回動作に関する情報を得た符号制御部18は複数の量子化テーブル19から旋回動作に合った量子化テーブル19を選択し呼び出し、量子化テーブル13に設定する。したがって旋回動作開始時は、パンモータ32、チルトモータ33が動作することによってカメラ部1から符号化部10に入力される画像は前の画像より、符号量に影響する解像度等が、大きく変化しているが、メモリ11、DCT部12を介して、量子化部14で量子化される際、選択された量子化テーブル19が量子化テーブル13に設定されているため、従来の2パス形式ではなく、量子化結果として出力される符号量は一定に保たれることになる。
また予め量子化テーブル20にプリセット動作に連動して旋回速度等に最も適した量子化テーブルをあらかじめ登録し、符号制御部18はプリセット動作時にプリセット番号に連動して被写体に最も適した量子化テーブル20を呼び出すことができる。
The code control unit 18 that has obtained the information about the turning motion selects and calls the quantization table 19 suitable for the turning motion from the plurality of quantization tables 19 and sets the quantization table 19 in the quantization table 13. Therefore, at the start of the turning operation, the panning motor 32 and the tilting motor 33 are operated, so that the resolution and the like affecting the code amount of the image input from the camera unit 1 to the encoding unit 10 change significantly from the previous image. However, since the selected quantization table 19 is set in the quantization table 13 when quantized by the quantization unit 14 via the memory 11 and the DCT unit 12, the conventional two-pass format is not used. The code amount output as a quantization result is kept constant.
In addition, a quantization table most suitable for the turning speed or the like is previously registered in the quantization table 20 in conjunction with the preset operation, and the code control unit 18 is most suitable for the subject in conjunction with the preset number during the preset operation. 20 can be called.

さらに旋回動作が終了する際、旋回制御部31はパンモータ32、チルトモータ33を停止させると同時に、旋回動作が停止する情報を符号制御部18に通知する。旋回停止に関する情報を得た符号制御部18は複数の量子化テーブル19から旋回していないときに適した量子化テーブル19を選択して呼び出し、量子化テーブル13に設定する。またプリセット動作時は旋回動作後の被写体が決まっているので、量子化テーブル20にプリセット番号に連動して被写体に最も適した量子化テーブルをあらかじめ登録し、符号制御部18はその量子化テーブル20を呼び出すことができる。
したがって旋回動作終了時も、カメラ部1から符号化部10に入力される画像は前の画像に比べ解像度等が大きく変化しているが、選択された量子化テーブル19が量子化テーブル13に設定されているため、従来の2パス形式ではなく、符号量は一定に保たれることになる。
Further, when the turning operation is finished, the turning control unit 31 stops the pan motor 32 and the tilt motor 33 and simultaneously notifies the code control unit 18 of information on the stop of the turning operation. The code control unit 18 that has obtained the information about the turning stop selects and calls the quantization table 19 suitable when the turn is not made from the plurality of quantization tables 19, and sets the quantization table 19 in the quantization table 13. In addition, since the subject after the turning motion is determined during the preset operation, a quantization table most suitable for the subject is registered in advance in the quantization table 20 in conjunction with the preset number, and the code control unit 18 stores the quantization table 20. Can be called.
Therefore, at the end of the turning motion, the resolution of the image input from the camera unit 1 to the encoding unit 10 is greatly changed compared to the previous image, but the selected quantization table 19 is set in the quantization table 13. Therefore, the code amount is kept constant rather than the conventional two-pass format.

図3はこの発明の実施の形態1によるカメラ部1のパン動作の画像であり、パン動作前画像301、パン動作中画像302、パン動作後画像303で表示されている。またパン動作とはカメラ部1を水平方向に移動させる動作である。
パン動作前画像301は被写体がハッキリとした解像度の高い画像であり、パン動作中画像302はカメラ部1がパン動作した場合の図であり、水平方向に残像が発生し、輪郭のハッキリしない解像度の低い画像となる。パン動作後画像303は、その後旋回式カメラがパン動作を終了したときの図であり、パン動作前画像301と同じく解像度の高い画像となる。
図3ではパン動作での画像の一例を示しているが、カメラ部1を垂直方向に移動させる動作、いわゆるチルト動作の場合であっても同様であり、一連の旋回動作の中では、解像度の高い画像、解像度の低い画像、そしてまた解像度の高い画像になることになる。また旋回の種類とは、パン動作、チルト動作以外に、あらかじめ登録しておいた画角にカメラ部1を移動させるプリセット動作などがある。
FIG. 3 is an image of the pan operation of the camera unit 1 according to Embodiment 1 of the present invention, and is displayed as an image 301 before pan operation, an image 302 during pan operation, and an image 303 after pan operation. The pan operation is an operation for moving the camera unit 1 in the horizontal direction.
The pre-pan operation image 301 is a high-resolution image in which the subject is clear, and the in-pan operation image 302 is a diagram when the camera unit 1 performs a pan operation. The after-image is generated in the horizontal direction and the contour is not clear. The image becomes low. The post-pan operation image 303 is a diagram when the revolving camera finishes the pan operation thereafter, and is an image with a high resolution like the pre-pan operation image 301.
FIG. 3 shows an example of an image in the pan operation. However, the same applies to an operation of moving the camera unit 1 in the vertical direction, that is, a so-called tilt operation. The result is a high image, a low resolution image, and a high resolution image. In addition to the pan operation and tilt operation, the types of turning include a preset operation for moving the camera unit 1 to a pre-registered angle of view.

図4は、カメラ部1からの入力画像の量子化結果として出力される符号量と時間との対応図であり、図4(a)が従来の1パス形式の符号量と時間との対応図であり、図4(b)が実施の形態1における符号量と時間との対応図である。
一連の旋回動作で得られる入力画像の量子化結果として出力される符号量の従来の1パス形式の例について図4(a)を使って説明する。旋回動作前の状態においては、前の画像と次の画像とに、符号量に影響する解像度等において、大きな差はない。そのため前の画像の量子化結果から得られたスケールファクタから量子化テーブル13を算出し、次の画像の量子化に用いても実際の符号量401は目標符号量402に近い値となる。次にカメラ部1が旋回動作を開始した場合、解像度の高い前の画像(例えば図3の301)から得られたスケールファクタから量子化テーブル13が算出され、解像度の低い次の画像(例えば図3の302)の量子化に用いられるため、実際の符号量401は旋回動作開始403のように目標符号量402より小さくなってしまう。
FIG. 4 is a correspondence diagram between the code amount output as the quantization result of the input image from the camera unit 1 and time, and FIG. 4A is a correspondence diagram between the code amount and time in the conventional one-pass format. FIG. 4B is a correspondence diagram between code amount and time in the first embodiment.
An example of a conventional one-pass format of the code amount output as a quantization result of an input image obtained by a series of turning operations will be described with reference to FIG. In the state before the turning operation, there is no significant difference between the previous image and the next image in the resolution that affects the code amount. Therefore, even if the quantization table 13 is calculated from the scale factor obtained from the quantization result of the previous image and used for the quantization of the next image, the actual code amount 401 becomes a value close to the target code amount 402. Next, when the camera unit 1 starts a turning motion, the quantization table 13 is calculated from the scale factor obtained from the previous image with high resolution (for example, 301 in FIG. 3), and the next image with low resolution (for example, FIG. Therefore, the actual code amount 401 becomes smaller than the target code amount 402 as in the turning motion start 403.

さらに、旋回動作中は解像度の低い画像(例えば図3の302)が続くため、前の画像と次の画像とに、符号量に影響する解像度等において、大きな差はなく、実際の符号量401は目標符号量402に近い値となるが、カメラ部1が旋回動作を終了した場合、今度は解像度の低い前の画像(例えば図3の302)から得られたスケールファクタから量子化テーブル13が算出され、解像度の高い次の画像(例えば図3の303)の量子化に用いられるため、実際の符号量401は旋回動作終了404のように目標符号量402より大きくなってしまう。   Furthermore, since a low-resolution image (for example, 302 in FIG. 3) continues during the turning operation, there is no significant difference in resolution and the like that affect the code amount between the previous image and the next image, and the actual code amount 401 Is a value close to the target code amount 402, but when the camera unit 1 finishes the turning operation, the quantization table 13 is calculated from the scale factor obtained from the previous image (for example, 302 in FIG. 3) having a low resolution. Since it is calculated and used for quantization of the next image with high resolution (for example, 303 in FIG. 3), the actual code amount 401 becomes larger than the target code amount 402 as in the turning operation end 404.

この発明の実施の形態1における一連の旋回動作によって得られる入力画像の量子化結果として出力される符号量の一例は図4(b)のようになる。旋回動作開始413、および旋回動作終了414においても、選択された量子化テーブル19が量子化テーブル13に設定されているため、実際の符号量411は、目標符号量412に近い値となる。   An example of a code amount output as a result of quantization of an input image obtained by a series of turning operations in Embodiment 1 of the present invention is as shown in FIG. Also in the turning operation start 413 and the turning operation end 414, the selected quantization table 19 is set in the quantization table 13, so the actual code amount 411 becomes a value close to the target code amount 412.

実施の形態1の符号化部10は、旋回開始時、または旋回終了時の前の画像と次の画像の差が大きい画像に対し、前の画像から得た量子化テーブル13ではなく、旋回動作に合わせた量子化テーブル19を使って量子化を行い、符号量を一定に保つことができるように構成したので、ネットワークに配信する場合はネットワークトラフィックを一定に保つことができ、配信帯域が制限されている場合においてもコマ落ちは発生しなく、記録時にはデータサイズが変動したことによる記録メディアの容量不足が防げる。   The encoding unit 10 according to Embodiment 1 performs a turning operation on an image having a large difference between the previous image and the next image at the start of turning or at the end of turning, instead of the quantization table 13 obtained from the previous image. Quantization is performed using a quantization table 19 tailored to the above, and the code amount can be kept constant. Therefore, when distributing to a network, network traffic can be kept constant, and the distribution bandwidth is limited. Even when the recording is performed, frame dropping does not occur, and it is possible to prevent a shortage of recording media due to a change in data size during recording.

図5は、この発明の実施の形態1による符号制御部18のプログラムの動作についてのフローチャート図である。
符号制御部18は、ステップST1にてスタートした後、ステップST2において旋回制御部31からの情報により旋回動作開始の有無を判断し、旋回動作開始がない場合は、再びステップST2に戻り、旋回動作開始がある場合は、ステップST3に進む。符号制御部18は、ステップST3において旋回動作に関する情報(旋回の種類(パン、チルト、プリセット)や速度など)を解析し、ステップST4において、予め記憶されていたカメラ部1の旋回の種類及び旋回速度に対応した複数の量子化テーブル19の中から、その旋回動作に適した量子化テーブル19を読み出す。例えば、旋回速度が速い場合は、画面の残像量が多くなるので、解像度が低い画像でも符号量を大きくとれる量子化テーブルAを選択し、旋回速度が遅い場合は、画面の残像量が少ないので、量子化テーブルAよりは符号量が小さく取れる量子化テーブルCを選択すればよい。ステップST4で読み出した量子化テーブル19は、ステップST5で量子化テーブル13に設定されるため、旋回動作開始時の符号量の変動が抑えられる。
FIG. 5 is a flowchart showing the program operation of the code control unit 18 according to the first embodiment of the present invention.
After starting in step ST1, the sign control unit 18 determines whether or not the turning operation is started based on the information from the turning control unit 31 in step ST2. If the turning operation does not start, the code control unit 18 returns to step ST2 again to turn the turning operation. If there is a start, the process proceeds to step ST3. In step ST3, the code control unit 18 analyzes information related to the turning operation (turning type (pan, tilt, preset), speed, etc.), and in step ST4, the type and turning of the camera unit 1 stored in advance are stored. The quantization table 19 suitable for the turning motion is read out from the plurality of quantization tables 19 corresponding to the speed. For example, if the turning speed is fast, the amount of afterimage on the screen increases. Therefore, select the quantization table A that can take a large amount of code even for an image with low resolution. If the turning speed is slow, the amount of afterimage on the screen is small. The quantization table C that can be obtained with a smaller code amount than the quantization table A may be selected. Since the quantization table 19 read in step ST4 is set in the quantization table 13 in step ST5, fluctuations in the code amount at the start of the turning motion can be suppressed.

旋回動作中は、通常どおりスケールファクタ決定部17が前の画像の量子化結果からスケールファクタを決定し、量子化テーブル13にスケールファクタを掛け合わせ新たに量子化テーブル13を生成し、量子化部14が新たに生成した量子化テーブル13で次の画像を量子化する。符号制御部18は、ステップST6において旋回制御部31より旋回動作終了の情報を得たか否かを判断し、旋回動作終了した場合はステップ7に進み、旋回動作終了が終了してない場合はステップST6に戻る。   During the turning operation, the scale factor determination unit 17 determines the scale factor from the quantization result of the previous image as usual, multiplies the quantization table 13 by the scale factor to generate a new quantization table 13, and the quantization unit 14 quantizes the next image with the newly generated quantization table 13. In step ST6, the sign control unit 18 determines whether or not the turning operation end information has been obtained from the turning control unit 31, and proceeds to step 7 when the turning operation is finished, and step when the turning operation is not finished. Return to ST6.

次に符号制御部18は、ステップST7において旋回動作終了に関する情報を解析し、ステップST8において複数の量子化テーブル19から、その旋回動作終了に適した量子化テーブル19を読み出す。ステップST8で読み出した量子化テーブル19は、ステップST9で量子化テーブル13に設定されるため、旋回動作終了時の符号量の変動が抑えられる。   Next, the code control unit 18 analyzes information related to the end of the turning motion in step ST7, and reads the quantization table 19 suitable for the end of the turning motion from the plurality of quantization tables 19 in step ST8. Since the quantization table 19 read in step ST8 is set in the quantization table 13 in step ST9, fluctuations in the code amount at the end of the turning motion can be suppressed.

以上のように、実施の形態1によれば、この発明に係る符号化部10は、カメラ部1からの入力画像の量子化結果として出力される符号量が一定になる量子化特性値を記憶している量子化テーブル13と、カメラ部1の旋回の種類及び旋回速度に対応して、カメラ部1からの入力画像の量子化結果として出力される符号量が一定になる量子化特性値を記憶している複数の量子化テーブル19と、カメラ部1の旋回動作時に、複数の量子化テーブル19の中からカメラの旋回の種類及び旋回速度に対応した量子化テーブル19を選択し、選択した量子化テーブル19を量子化テーブル13に設定する符号制御部18を備えることにより、精度よく符号量を一定にするとともに、処理を単純化し、バッファの使用量等を抑え、コストアップの要因を少なくするという効果を奏する。   As described above, according to the first embodiment, the encoding unit 10 according to the present invention stores the quantization characteristic value that makes the code amount output as the quantization result of the input image from the camera unit 1 constant. Corresponding to the quantization table 13 and the rotation type and the rotation speed of the camera unit 1, the quantization characteristic value at which the code amount output as the quantization result of the input image from the camera unit 1 becomes constant When the plurality of quantization tables 19 stored and the turning operation of the camera unit 1 are selected, the quantization table 19 corresponding to the type and turning speed of the turning of the camera is selected from the plurality of quantization tables 19 and selected. By providing the code control unit 18 that sets the quantization table 19 in the quantization table 13, the code amount is made constant with high accuracy, the processing is simplified, the amount of use of the buffer is suppressed, and the cost increase factor The effect is to reduce.

また実施の形態1によれば、予め決められたカメラの旋回動作のプリセット動作に対応して、カメラ部1からの入力画像の量子化結果として出力される符号量が一定になる量子化特性値を記憶している量子化テーブル20と、カメラ部1のプリセット動作時に、プリセット動作に対応した量子化テーブル20を量子化テーブル13に設定する符号制御部18を備えるにより、精度よく符号量を一定にするとともに、処理を単純化し、バッファの使用量等を抑え、コストアップの要因を少なくするという効果を奏する。   Further, according to the first embodiment, the quantization characteristic value in which the code amount output as the quantization result of the input image from the camera unit 1 is constant corresponding to the preset preset operation of the turning operation of the camera. And a code control unit 18 that sets the quantization table 20 corresponding to the preset operation in the quantization table 13 at the time of the preset operation of the camera unit 1, the code amount is fixed with high accuracy. In addition, the process is simplified, the amount of buffer used is suppressed, and the cost increase factor is reduced.

また従来は2回の処理パスを通す時間を必要とするため処理の遅延が発生していたが、実施の形態1によれば、2回の処理パスに比べ処理の遅延を防止するという効果を奏する。   Conventionally, processing delay occurs because it requires time to pass two processing passes. However, according to the first embodiment, the processing delay can be prevented as compared with two processing passes. Play.

また実施の形態1によれば、従来の1回の処理パスの装置に比べ、精度よく符号量が一定にすることができるという効果を奏する。   Further, according to the first embodiment, there is an effect that the code amount can be made constant with high accuracy as compared with the conventional one-pass processing device.

実施の形態2.
図6は、この発明の実施の形態2による符号化装置のブロック図である。
実施の形態2の旋回式カメラ101は、カメラ部1(カメラ)と、符号化部10と、旋回部30とにより構成されている。符号化部10は、メモリ11と、DCT部12と、量子化テーブル613と、量子化部14と、可変長符号化部15と、バッファ16と、スケールファクタ決定部17と、符号制御部618より構成され、旋回部30は、旋回制御部31と、パンモータ32と、チルトモータ33により構成されている。
Embodiment 2. FIG.
FIG. 6 is a block diagram of an encoding apparatus according to Embodiment 2 of the present invention.
A revolving camera 101 according to the second embodiment includes a camera unit 1 (camera), an encoding unit 10, and a revolving unit 30. The encoding unit 10 includes a memory 11, a DCT unit 12, a quantization table 613, a quantization unit 14, a variable length encoding unit 15, a buffer 16, a scale factor determination unit 17, and a code control unit 618. The turning unit 30 includes a turning control unit 31, a pan motor 32, and a tilt motor 33.

実施の形態1では、旋回動作開始時、または終了時に量子化テーブル13を最適化するため、量子化テーブル13自体を変更していた。実施の形態2では、次の画像のための量子化テーブル613が算出されるときに掛け合わされるスケールファクタ決定部17のスケールファクタを制御することにより、旋回動作開始時、および終了時の符号量の変動を抑えている。   In the first embodiment, the quantization table 13 itself is changed in order to optimize the quantization table 13 at the start or end of the turning motion. In Embodiment 2, by controlling the scale factor of the scale factor determination unit 17 to be multiplied when the quantization table 613 for the next image is calculated, the code amount at the start and end of the turning motion The fluctuation of the is suppressed.

旋回部30は外部から旋回制御コマンドが入力されると、旋回制御部31が旋回制御コマンドに従いパンモータ32、チルトモータ33を動作させて旋回動作を開始し、それと同時に符号制御部618に旋回動作の開始と旋回動作に関する情報を通知する。旋回動作の開始と旋回動作に関する情報を得た符号制御部618は、カメラ部1の旋回の種類及び旋回速度に基づいて、入力画像の量子化結果として出力される符号量が一定になるスケールファクタを決定するようにスケールファクタ決定部17に指示する。スケールファクタは値が小さいほど符号量が大きくとれ、値が大きいほど符号量が小さく取れるので、例えば旋回速度が速く、残像が多い解像度の低い入力画像が予想される場合は、スケールファクタを小さくすれば良い。量子化テーブル613は、スケールファクタ決定部17により決定されたスケールファクタによる量子化特性値を記憶している。旋回動作開始時、カメラ部1から符号化部10に入力される画像は前の画像より大きく変化しているが、量子化テーブル613が旋回動作に対応して設定されているため、量子化部14で量子化される際、量子化結果として出力される符号量は一定に保たれることになる。旋回動作終了時も、同様な動作にて、符号量は一定に保たれることになる。   When a turning control command is input from the outside to the turning unit 30, the turning control unit 31 starts the turning operation by operating the pan motor 32 and the tilt motor 33 according to the turning control command. Notify information about start and turn motion. The code control unit 618 that has obtained information on the start of the turning operation and the turning operation is a scale factor that makes the code amount output as the quantization result of the input image constant based on the type of turning and the turning speed of the camera unit 1. Is instructed to determine the scale factor determination unit 17. The smaller the value of the scale factor, the larger the amount of code, and the larger the value, the smaller the amount of code.For example, if an input image with a high turning speed and a large amount of afterimage is expected, the scale factor should be reduced. It ’s fine. The quantization table 613 stores a quantization characteristic value based on the scale factor determined by the scale factor determination unit 17. At the start of the turning operation, the image input from the camera unit 1 to the encoding unit 10 changes more greatly than the previous image, but since the quantization table 613 is set corresponding to the turning operation, the quantization unit When quantization is performed at 14, the code amount output as the quantization result is kept constant. At the end of the turning operation, the code amount is kept constant by the same operation.

実施の形態1では量子化テーブル13自体を変更しているので、それまでカメラが撮影していた被写体状況に関係なく量子化テーブル13を変更している。実施の形態2ではスケールファクタを変更し、前の画像まで使用している量子化テーブル613に掛け合わせるので、それまでカメラ部1が撮影していた被写体状況を考慮に入れた量子化テーブル613となる。したがって、実際の符号量がより目標符号量に近い値となることが期待できる。また、実施の形態2では量子化テーブル19や量子化テーブル20を記憶しておく必要がないため、量子化テーブル19や量子化テーブル20が不要となりH/Wコストの削減もできる。   Since the quantization table 13 itself is changed in the first embodiment, the quantization table 13 is changed regardless of the subject situation that has been taken by the camera until then. In the second embodiment, the scale factor is changed and multiplied to the quantization table 613 used up to the previous image. Therefore, the quantization table 613 taking into consideration the subject situation that the camera unit 1 has taken until then, Become. Therefore, it can be expected that the actual code amount becomes closer to the target code amount. In the second embodiment, since it is not necessary to store the quantization table 19 and the quantization table 20, the quantization table 19 and the quantization table 20 are unnecessary, and the H / W cost can be reduced.

以上のように、実施の形態2によれば、この発明に係る符号化装置10は、カメラ部1らの入力画像の量子化結果として出力される符号量が一定になるように、先に入力した画像の量子化結果として出力される符号量に基づき、次の画像の量子化に用いる量子化テーブルを算出するためのスケールファクタを決定するスケールファクタ決定部17と、スケールファクタ決定部により決定されたスケールファクタによる量子化特性値を記憶している量子化テーブル613と、カメラ部1の旋回動作時に、カメラ部1の旋回の種類及び旋回速度に基づいて、入力画像の量子化結果として出力される符号量が一定になるスケールファクタを決定するようにスケールファクタ決定部17に指示する符号制御部618を備えることにより、精度よく符号量を一定にするとともに、処理を単純化し、バッファの使用量等を抑え、コストアップの要因を少なくするという効果を奏する。   As described above, according to the second embodiment, the encoding apparatus 10 according to the present invention first inputs the code amount output as the quantization result of the input image from the camera unit 1 and the like so as to be constant. The scale factor determination unit 17 determines a scale factor for calculating a quantization table used for quantization of the next image based on the code amount output as the quantization result of the image, and the scale factor determination unit determines the scale factor. The quantization table 613 that stores the quantization characteristic values based on the scale factor and the rotation result of the camera unit 1 are output as the quantization result of the input image based on the type of rotation and the rotation speed of the camera unit 1. A code control unit 618 for instructing the scale factor determination unit 17 to determine a scale factor for which the code amount to be constant is determined. While a constant, processing simplify, suppressing the use amount of the buffer, an effect that reduces the cost increase.

この発明の実施の形態1による旋回式カメラシステムの構成図である。1 is a configuration diagram of a revolving camera system according to Embodiment 1 of the present invention. FIG. この発明の実施の形態1による符号化装置のブロック図である。It is a block diagram of the encoding apparatus by Embodiment 1 of this invention. この発明の実施の形態1によるパン動作の画像である。It is an image of the pan operation | movement by Embodiment 1 of this invention. この発明の実施の形態1によるカメラ部からの入力画像の量子化結果として出力される符号量と時間との対応図である。FIG. 6 is a correspondence diagram between a code amount output as a result of quantization of an input image from the camera unit according to Embodiment 1 of the present invention and time. この発明の実施の形態1による符号制御部のプログラムの動作についてのフローチャート図である。It is a flowchart figure about operation | movement of the program of the code | symbol control part by Embodiment 1 of this invention. この発明の実施の形態2による符号化装置のブロック図である。It is a block diagram of the encoding apparatus by Embodiment 2 of this invention.

符号の説明Explanation of symbols

1 カメラ部、10 符号化部、11 メモリ、12 DCT部、13,613 量子化テーブル、14 量子化部、15 可変長符号化部、16 バッファ、17 スケールファクタ決定部、18,618 符号制御部、19,20 量子化テーブル、30 旋回部、31 旋回制御部、32 パンモータ、33 チルトモータ、101 旋回式カメラ、102 ネットワーク、 103 操作PC、104 レコーダ装置、301 パン動作前画像、302 パン動作中画像、303 パン動作後画像、401,411 実際の符号量、402,412 目標符号量、403,413 旋回動作開始、404,414 旋回動作終了。   DESCRIPTION OF SYMBOLS 1 Camera part, 10 encoding part, 11 Memory, 12 DCT part, 13,613 Quantization table, 14 Quantization part, 15 Variable length encoding part, 16 Buffer, 17 Scale factor determination part, 18,618 Code control part , 19, 20 Quantization table, 30 swivel unit, 31 swivel control unit, 32 pan motor, 33 tilt motor, 101 swivel camera, 102 network, 103 operation PC, 104 recorder device, 301 image before pan operation, 302 pan operation in progress Image, 303 Image after pan operation, 401, 411 Actual code amount, 402, 412 Target code amount, 403, 413 Start of turning operation, 404, 414 End of turning operation.

Claims (2)

カメラからの入力画像を量子化する量子化部と、
前記カメラの旋回動作開始と旋回動作終了とに各々適した複数の量子化テーブルと
前記カメラの旋回動作開始の場合に、前記複数の量子化テーブルから旋回動作開始に適した量子化テーブルを前記量子化部で用いる量子化テーブルとして選択し、前記カメラの旋回動作終了の場合に、前記複数の量子化テーブルから旋回動作終了に適した量子化テーブルを前記量子化部で用いる量子化テーブルとして選択する符号制御部とを備え、
前記複数の量子化テーブルは、前記量子化部の量子化結果として出力される符号量が一定になる量子化特性値を記憶する
号化装置。
A quantization unit for quantizing input image images from the camera,
A plurality of quantization tables each suitable for the start and end of the turning motion of the camera ;
In the case of starting the turning operation of the camera, a quantization table suitable for starting the turning operation is selected from the plurality of quantization tables as a quantization table used in the quantization unit, and in the case of the end of the turning operation of the camera, e Bei a selection to that code controller a quantization table suitable for pivoting operation end from said plurality of quantization tables as the quantization table used in the quantization unit,
The plurality of quantization tables store quantization characteristic values at which a code amount output as a quantization result of the quantization unit is constant.
It marks Goka apparatus.
前記複数の量子化テーブルは、旋動作の種類及び旋回速度に適した複の量子化テーブルを含み、
前記符号制御部は、前記カメラの旋回動作開始の場合に、前記複の量子化テーブルから旋動作の種類及び旋回速度に適した量子化テーブルを前記量子化部で用いる量子化テーブルとして択する
とを特徴とする請求項1記載の符号化装置。
It said plurality of quantization tables includes a multiple quantization table suitable for the type and the turning speed of the swivel operation,
The code control unit, when the turning operation start of the camera, using a quantization table suitable for the type and the turning speed of the swivel operation from the multiple quantization table in the quantization unit It is selected as the quantization table
Encoding apparatus according to claim 1, wherein the this.
JP2007079619A 2007-03-26 2007-03-26 Encoder Expired - Fee Related JP5031419B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007079619A JP5031419B2 (en) 2007-03-26 2007-03-26 Encoder

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007079619A JP5031419B2 (en) 2007-03-26 2007-03-26 Encoder

Publications (2)

Publication Number Publication Date
JP2008244624A JP2008244624A (en) 2008-10-09
JP5031419B2 true JP5031419B2 (en) 2012-09-19

Family

ID=39915451

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007079619A Expired - Fee Related JP5031419B2 (en) 2007-03-26 2007-03-26 Encoder

Country Status (1)

Country Link
JP (1) JP5031419B2 (en)

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06292168A (en) * 1993-03-30 1994-10-18 Canon Inc Encoder
JP3581935B2 (en) * 1993-10-18 2004-10-27 三菱電機株式会社 High efficiency coding device
JP3632995B2 (en) * 1994-09-01 2005-03-30 松下電器産業株式会社 Image encoding / decoding device
JPH0884327A (en) * 1994-09-13 1996-03-26 Matsushita Electric Ind Co Ltd Image communication device and method thereof
JPH08256318A (en) * 1995-03-17 1996-10-01 Fujitsu Ltd Camera controller for video conference system
JP2003018586A (en) * 2001-06-29 2003-01-17 Toshiba Corp Adjustment system for video resolution by video compression distribution on turning camera
JP4194479B2 (en) * 2003-11-20 2008-12-10 キヤノン株式会社 Image processing apparatus and method, computer program, and computer-readable storage medium
JP2006332914A (en) * 2005-05-24 2006-12-07 Matsushita Electric Ind Co Ltd Photographing apparatus and image data transfer method

Also Published As

Publication number Publication date
JP2008244624A (en) 2008-10-09

Similar Documents

Publication Publication Date Title
US8223836B2 (en) Constant-quality rate control system and algorithm for regions of interest
JP3773585B2 (en) Image encoding device
US6895054B2 (en) Dynamic bit rate control process
JP2005065291A (en) Method of controlling encoding rate of video encoder, method of transmitting video data, encoding rate controller for video encoder, and video data transmission system
JP7015183B2 (en) Image coding device and its control method and program
KR20000023504A (en) Variable bit rate coding apparatus
JPH10164577A (en) Dynamic image encoder
JP4724639B2 (en) Imaging device
JP3815665B2 (en) Variable bit rate video encoding apparatus and recording medium
JP5031419B2 (en) Encoder
JP2007306370A (en) Image coding recorder
JP2000261799A (en) Variable rate moving image encoding device
EP1434443B1 (en) Video encoding for low bitrates
JP2005045736A (en) Method and device for encoding image signal, encoding controller, and program
JPH09261638A (en) Image coder
JP3660514B2 (en) Variable rate video encoding method and video editing system
KR100677128B1 (en) Rate control apparatus and method in video encoder
JP2005151485A (en) Video signal coding device and video signal recording device
JP4759360B2 (en) Image processing device
JP4423216B2 (en) Image processing device
JP6985899B2 (en) Image coding device and its control method and program
JP4207098B2 (en) Encoding control apparatus, encoding control method, encoding apparatus, and encoding method
JP4423214B2 (en) Image processing device
JP4423215B2 (en) Image processing device
JPH07236139A (en) Data compressing device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110111

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110816

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120104

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120223

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120619

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120627

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150706

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees