[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP3907422B2 - Data multiplexing transmission method and apparatus - Google Patents

Data multiplexing transmission method and apparatus Download PDF

Info

Publication number
JP3907422B2
JP3907422B2 JP2001089230A JP2001089230A JP3907422B2 JP 3907422 B2 JP3907422 B2 JP 3907422B2 JP 2001089230 A JP2001089230 A JP 2001089230A JP 2001089230 A JP2001089230 A JP 2001089230A JP 3907422 B2 JP3907422 B2 JP 3907422B2
Authority
JP
Japan
Prior art keywords
data
predetermined information
information
signal
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001089230A
Other languages
Japanese (ja)
Other versions
JP2002290363A (en
Inventor
光晴 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ikegami Tsushinki Co Ltd
Original Assignee
Ikegami Tsushinki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ikegami Tsushinki Co Ltd filed Critical Ikegami Tsushinki Co Ltd
Priority to JP2001089230A priority Critical patent/JP3907422B2/en
Publication of JP2002290363A publication Critical patent/JP2002290363A/en
Application granted granted Critical
Publication of JP3907422B2 publication Critical patent/JP3907422B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Time-Division Multiplex Systems (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、映像信号等に文字信号やネットキュー信号等の外部データを多重化して伝送するデータ多重化伝送方法及びその装置に関し、詳しくは、番組素材伝送等の映像信号を可変長符号化し、その可変長符号化データを固定長符号化する際に、スタッフバイト(同期語をバイトアライメントするために挿入した同期調整用符号)を極力少なくするように制御して、文字やネットキュー信号等の外部データを効率的に重畳するパケット方式のデータ多重化伝送方法及びその装置に関するものである。
【0002】
【従来の技術】
現在、放送局から送出される信号には、カメラなどの映像信号や音声信号の他に文字信号やネットキュー信号等の情報信号を多重化した信号が含まれている。文字信号は、映像信号の垂直ブランキング(垂直帰線消去期間)に文字発生器より発生する文字データを重畳して送出されている。ネットキュー信号は、マイクロネットを利用して民放番組の本篇のみをキー局から全国の系列局に送出し、キー局からCM(Commercial Message )挿入直前に、受局のCMに差し替えるためのタイミングを知らせる情報信号であって、ローカルスポンサーのCMをそれぞれの受局で挿入するセミネットにおいて効果的であり、殊に生放送番組の際のCMの挿入に有効である。この情報信号は、文字信号と同様に、映像信号の垂直ブランキング期間に挿入されている。
【0003】
一方、近年では、放送機器のデジタル化が急速に進行しており、番組或いはCM等の画像や映像素材を圧縮して伝送することが日常的となりつつある。このような技術的環境下において、これらの素材や番組を圧縮して伝送する方式とし、MPEG(Moving Picture Experts Group)2規格(ISO/IEC(International Organization for Standardization/International Electrotechnical Commission:国際標準化機構/国際電気標準会議)13818−1〜3)に準拠したデジタル処理システムが伝送システムの標準となりつつある。因みに、動画像の高能率圧縮方式をMPEGと称しており、MPEG1,MPEG2,MPEG4等の圧縮方式がある。MPEG1は1.5Mbit/sで映像再生が可能であり、MPEG2は十数〜100Mbit/s程度で映像再生が可能である。
【0004】
しかし、MPEG2等の画像符号化技術では、映像信号を符号化処理する際に、冗長度削減の観点から垂直ブランキングを含まないように符号化処理する場合がある。従って、上記符号化処理する前に文字信号等を垂直ブランキングに重畳した映像信号を作製して、この映像信号を符号化器に入力して符号化処理したとしても、その送出側には文字信号等が符号化されずに送出されて、文字信号等は消失してしまう欠点があった。
【0005】
そこで、従来は、映像信号や音声信号の符号化処理したデータと同時に文字信号やネットキュー信号等の情報信号を送出する場合、符号化処理した画像データや音声データに加えて、文字信号やネットキュー信号等の情報信号をデータ変換した外部データを多重化処理して送出していた。その構成としては、例えば、図3に示したMPEG2システムのTS(トランスポート・ストリーム)方式がある。同図において、TSパケットの1パケットは、188バイトの固定長で構成されている。そのストリーム構成は、4バイトのTSヘッダー(0x47等)と、mバイトのAF(アダプテーションフィールド)と、nバイトのPL(ペイロード)とからなり、AFとPLとの総和(m+n)は、184バイトであれば良く、両者の割合は自由に設定できる。
【0006】
【発明が解決しようとする課題】
しかし、文字信号やネットキュー信号等の外部データは、画像データや音声データに比べてデータ量が少ない。そのために、上記TS方式による固定長符号化処理して伝送すると、図4(a)にTSパケットの構成図を示したように、外部データが挿入される領域であるペイロード領域(同図のデータの領域)は、ごくわずかな領域となり、後の大半が無駄なスタッフバイトを多重しなければならないという問題があった。なお、スタッフバイトは、TSパケットの同期語をバイトアライメントするために挿入した同期調整用の符号である。特に、映像1フィールド間に入力された64kbps以下の低速データを伝送する際に、無駄なスタッフバイトを多重することによる伝送効率の悪化をもたらす現象が顕著となる。
【0007】
本発明は、上記のような課題に鑑みなされたものであり、固定長符号化処理で伝送する際にスタッフバイトをできるだけ少なくし、伝送効率を向上し得るパケット方式のデータ多重化伝送方法及びその装置を提供することを目的とするものである。
【0008】
【課題を解決するための手段】
本発明は、上述の課題を解決するためになされたものであり、請求項1の発明は、番組素材等の映像信号又は画像信号及び音声信号を符号化処理した画像データや音声データと、前記映像信号又は画像信号に同期した所定情報とを多重化して伝送するデータ多重化伝送方法において、
前記映像信号又は画像信号に同期した所定情報を二値化処理により二値化データに変換して前記所定情報を時系列順に送出し、先に送出した二値化データの所定情報と次に送出した二値化データの所定情報との情報量を加算して、該加算された情報量と所定閾値とを閾値比較し、該加算された情報量が所定閾値より小さい情報量である場合、前記先の所定情報と次の所定情報とを一つの情報として1パケットを生成し、前記画像データや音声データのパケットとともに多重化して伝送することを特徴としたデータ多重化伝送方法である。
【0009】
請求項1の発明では、番組素材等の映像信号又は画像信号及び音声信号を符号化処理し、前記映像信号又は画像信号に同期した所定情報を多重化して1パケットとして伝送する際に、文字信号やネットキュー信号等の情報信号(外部データ)を所定のフォーマットにデータ変換して所定情報を時系列順に送出し、先に送出される所定情報と次に送出される所定情報との情報量を加算し、加算された情報量が所定閾値より小さい情報量である場合、先に送出される所定情報と次の所定情報との間に識別符号を挟んで一つの情報として1パケットを生成し、画像データや音声データのパケットとともに多重化して伝送するデータ多重化伝送方法である。また、加算された情報量が所定閾値より大きい場合は、1周期の所定情報と、符号化処理した画像データや音声データとを多重化して、1パケットとして伝送する。このデータ多重化伝送方法によれば、外部データのデータ量が小さい場合にスタッフバイトの領域を低減することができるので、伝送効率が向上する作用を有する。なお、識別符号は、2周期又はそれ以上の周期のデータが圧縮されていることを示すコードとして利用する。
【0010】
また、請求項2の発明では、番組素材等の映像信号又は画像信号及び音声信号を多重化するデータ多重化伝送装置において、
前記映像信号又は画像信号を符号化処理する画像符号化手段と、
前記音声信号を符号化処理する音声符号化手段と、
前記映像信号又は画像信号に同期した所定情報を二値化データに圧縮処理する二値データ変換手段と、
前記データ変換手段からの前記二値化データである所定情報を一時的に保持する複数記憶手段と、
前記複数記憶手段に保持した所定情報のデータ量の総和を演算するデータ量算出手段と、
前記複数記憶手段に保持された所定情報のデータ量の総和が所定閾値を越えない場合、前記複数記憶手段に保持された複数の前記二値化データの所定情報を一つの情報として作成するデータ作成手段と、
を具備することを特徴とするデータ多重化伝送装置である。
【0011】
請求項2の発明では、画像符号化手段で映像信号又は画像信号を符号化処理し、音声符号化手段で音声信号を符号化処理し、文字信号やネットキュー信号等の情報信号(外部データ)をデータ変換手段で所定のフォーマットに変換し、前記データ変換手段からの所定情報を複数記憶手段に一時的に保持し、前記複数記憶手段に保持した所定情報のデータ量の総和をデータ量算出手段で演算し、前記複数記憶手段に保持された所定情報のデータ量の総和が所定閾値を越えない場合、データ作成手段で前記複数記憶手段に保持された所定情報間に識別符号を挟むように処理して1パケットを生成し、画像データと音声データとのパケットとともに多重化処理して伝送するデータ多重化伝送装置である。
【0012】
また、発明では、前記データ作成手段が、前記複数記憶手段からの所定情報間に識別符号発生器からの識別符号を挟むように入力端を切り替える第1切替手段と、前記第1切替手段からのデータを一時的に保持する一時記憶手段と、前記一時記憶手段のデータ又は前記複数記憶手段に保持された所定情報を多重化するために入力端を切り替える第2切替手段とからな
【0013】
発明では、データ作成手段が、第1切替手段と一時記憶手段と第2切替手段とで構成され、前記データ量算出手段による加算されたデータ量が所定閾値を超えるか否かによって、第1と第2切替手段を切替制御して、所定情報間に識別符号発生器からの識別符号を挟むように制御するか、または識別符号を挟むことなく、前記複数記憶手段に一時保持されたデータを一周期毎に出力して1パケットを生成し、画像データと音声データとのパケットとともに多重化して伝送するデータ多重化伝送装置である。例えば、データ量算出手段で加算されたデータ量が所定閾値を超えない場合は、第2切替手段の入力端を一時記憶手段側として、前記複数記憶手段からの所定情報を第1切替手段を介して一時記憶手段に一時保持し、第1切替手段の入力端を切り替えて、識別符号発生器からの識別符号を第1切替手段を介して、一時記憶手段に一時保持する。続いて、第1切替手段に入力端を切り替えて、前記複数記憶手段からの所定情報を第1切替手段を介して、一時記憶手段に一時保持する。このように第1と第2切替手段を制御することにより、一時記憶手段には、所定情報間に識別符号を挟んだデータが作製され、画像データと音声データと所定情報間に識別符号を挟んだデータとを多重化器に入力することにで、多重化することができる。なお、前記複数記憶手段に一時保持されたデータのデータ量の総和が所定閾値を超えている場合は、前記複数記憶手段に一時保持されたデータが1周期毎に第1と第2切替手段を介して、多重化器に入力される。
【0014】
また、本発明は、前記データ作成手段が、前記データ量算出手段による加算されたデータ量が所定閾値を超えているか否かによって、前記複数記憶手段からの所定情報間に識別符号を挟んだデータに変換する手段である。
【0015】
発明では、前記データ量算出手段による加算されたデータ量が所定閾値を超えていない場合、データ作成手段では、所定情報間に識別符号を挟むようにデータを変換する手段である。また、複数記憶手段に保持されたデータ量の閾値が所定閾値を超えている場合、前記複数記憶手段からの所定情報を1周期毎多重化器に送り込んで多重化する。
【0016】
【発明の実施の形態】
以下、本発明に係るデータ多重伝送方法及びその装置の実施の形態について、図面を参照して説明する。図1は、本発明の一実施形態を示すブロック図であって、MPEG2規格に準拠したデジタル処理システムによって構成されている。
【0017】
本実施形態のデータ多重伝送装置は、図1を参照して説明すると、映像データを可変長符号化する画像符号化部101、音声データを固定長符号化(PCM等)または可変長符号化する音声符号化部102、外部データを必要な場合は圧縮処理して所定のフォーマットに変換する変換器103、所定のフォーマットに変換された外部データ(所定情報)を時系列的に順位保持する第1レジスタ105と第2レジスタ106、データ圧縮時に外部データと識別符号とを一時記憶して結合する第3レジスタ109、第1レジスタ105と第2レジスタ106とに一時記憶保持された外部データのデータ量を算出するデータ量算出部104、識別符号を出力する識別符号生成器107、入力端1,2を切り替えることで、圧縮処理された外部データと識別符号とを選択する第1切替器108、入力端1,2を切り替えることで、第2レジスタ106又は第3レジスタ109からのデータを選択する第2切替器110、画像符号化部101からの画像データ(画像ES)と音声符号化部102とからの音声データ(音声ES)と第2切替器110からのデータとを多重化処理して、1パケットにデータを挿入して送出する多重化器111から構成されている。なお、第1切替器108と第2切替器110は、データ量算出部104で加算されたデータ量に基づいて、切替制御がなされている。
【0018】
映像データは、画像符号化部101に入力され、例えばISO/IEC13818−3に準拠するように、空間的、時間的に相関性の高い情報を検査して冗長度の低いデータへ変換するといった処理、すなわち可変長符号化処理を行って、画像ES(エレメンタリストリーム)として出力される。音声データは、音声符号化部102に入力され、例えばISO/IEC13818−2に準拠するように、人間の聴覚特性を利用したデータの圧縮処理を行い、音声ES(エレメンタリストリーム)として出力される。画像ESと音声ESは、多重化器111へ入力される。
【0019】
外部データは、文字スーパー、字幕、ネットキュー信号等の情報信号であって、上述したように、画像ESや音声ESに比べてデータ量が少ないため、一周期分だけでは無駄なスタッフバイトを多重しなければならない。そこで、外部データを順次第1レジスタ105、第2レジスタ106へと転送して一時記憶保持し、第1レジスタ105と第2レジスタ106とのデータ量をデータ量算出器104で演算処理して算出する。そして、データ量算出器104では、外部データ量を常に2周期分算出して、その総和が180バイト以下の時は2周期分をまとめて1つのTSパケットとして構成する。また、その総和が180バイト以上の場合は、一周期毎に多重化器111に出力して、多重化処理を行う。
【0020】
以下、図1の実施形態における外部データの圧縮処理について、図2のフローチャートを参照して説明する。なお、この圧縮処理は、第1切替器108、第2切替器110、第3レジスタ、識別符号発生器107、及び第1切替器108、第2切替器110を切替制御する手段から構成されるデータ作成手段で実行される。
【0021】
先ず、外部データが変換器103に入力されて、2値化処理等の圧縮処理がなされる。圧縮された外部データは、第1レジスタ105に転送されて一時記憶保持される。記憶保持されたデータは、図示していない基本クロックに従って、順次第2レジスタ106に転送される。第1レジスタ105には、データ転送後、順次新しいデータが入力される。こうして、第1レジスタ105には、データ量Aが、第2レジスタには、データ量Bがそれぞれ記憶される。両レジスタには、常に隣り合った2周期分のデータ量が記憶保持される(ステップS101)。ここで記憶保持された2周期分のデータは、データ量算出器104によって、そのデータ量の総和(A+B)が算出される(ステップS102)。
【0022】
データ量算出器104で算出された結果、2周期分のデータ量の総和が180バイト以下である場合は、通常のパケット処理(多重化処理)を行ったとすると、2周期分両方のTSパケットについて、スタッフバイトが無駄に多重されることになる。逆に2周期分のデータ量の総和が180バイトを越える場合は、無駄なスタッフバイトが多重されるTSパケットは、1周期以内に抑えることができる。すなわち、本発明では、2周期以上続けて伝送効率を下げた状態でTSパケットが出力されるのを防ぐことができる。
【0023】
ステップS102に続いて、ステップS103に進む。ステップS103では、A+B≦180の演算処理がなされる。2周期分のデータ量の総和が所定閾値(例えば、180バイト)以下である場合は、Yへ、所定閾値以上との場合は、Nへと進む。先ず、2周期分のデータ量の総和(A+B)が180バイト以下の場合(Y)は、第1切替器108の入力端を1側に、第2切替器110の入力端を2側にそれぞれ切り替える(ステップS104)。これにより、第2レジスタ106のデータAは、第3レジスタ109に転送されて、一時記憶保持される。
【0024】
続いて、第2切替器110は、そのままで、第1切替器108の入力端を2側に切り替える(ステップS105)。これにより、識別符号生成器107より出力された識別符号が第3レジスタ109に転送され(ステップS106)、先に転送されたデータAが識別符号と連結される。その後、第1切替器108の入力端を1側に戻し(ステップS107)、第2レジスタ106にある次のデータBを第3レジスタ109に転送する。これにより、第3レジスタ109は、図4(b)に示すように、2周期分のデータAとBが識別符号を挟んで一つのTSパケットに収まる(ステップS108)。ステップS108を終了した後、ステップS101に戻る。
【0025】
以上のような切り替え動作によって、2周期分のデータA,Bが第3レジスタ109内に留まり出力されないため、データ量算出器104から多重化器111に対して、画像ESまたは音声ESについてTSパケットを生成するように制御信号が送られる。これにより、多重化器111から送出されるTSパケットには、無駄なスタッフバイトを含んだTSパケットが減少し、その結果として伝送効率が向上することになる。
【0026】
一方、2周期分のデータの総和が180バイトを越える場合(N)は、ステップS109に進む。この場合は、無駄なスタッフバイトを含んだTSパケットは、1つ以内に抑えることができるため、通常通りにTSパケットを生成するように制御してもなんら問題は生じない。従って、第1切替器108の入力端を1側に、第2切替器110の入力側を1にそれぞれ固定し(ステップS109)、図4(c),図4(d)に示すような従来と同じ2周期の外部データに対して、2つのTSパケット2,3を生成する(ステップS110,S111)。ステップS111を終了した後、ステップS101に戻り、上記のステップを繰り返し実行する。
【0027】
なお、多重化器111は、画像ESや音声ES、外部データからITU・T勧告H.222.0 ISO/IEC13818−1(MPEG−2 System)で規定されているTS(トラスポート・ストリーム)パケットを生成する。TSパケットは、上記の通り、188バイトの固定長であり、その構成は、図3に示したように、4バイトのTSヘッダ(0x47等)、AF(アダプテーションフィールド)、PL(ペイロード)から構成されている。AFとPLは、ヘッダー4バイトを除いた184バイトであれば両者の割合は自由である。AFには、多くの場合、PCR(プログラムクロックリファレンス)とスタッフィングに使用する。PLは、PESパケットやPSI(プログラムスペシフィックインフォーメーション)、外部データ等を送る。また、多重化器111内部のバッファに蓄えられたデータ量により、随時NULLパケット(0xFF)との多重も行う。
【0028】
また、本発明には、他にも幾つかの実施形態がある。例えば、図5は、本発明の他の実施形態を示している。本実施形態では、変換器103の入力側に第1レジスタ105と第2レジスタ106とが用意され、かつ第1レジスタ105と第2レジスタ106とに一時記憶保持されたデータ量を算出するデータ量算出器104が備えられている。データ量算出器104は、第1レジスタ105と第2レジスタ106とに一時記憶保持されてデータ量が演算処理して算出される。そのデータ量の算出結果をもとに所定のフォ−マットに変換(必要な場合は圧縮処理を伴って)した後、180バイト以下になると見込まれる場合は、変換器103内部で各周期の識別ができるように、識別符号を挟んでデータ変換を行って、多重化器111にその変換データを、画像ESと音声ESともに入力して、多重化処理してTSパケットを送出する。
【0029】
なお、図1及び図5の上記実施形態では、データ記憶手段として、第1と第2レジスタ105,106を用いた形態についているが、この実施形態に限定することなく、同量のデータに対応可能なFIFO(First In First Out)式のメモリを用いてもよいことは明らかである。
【0030】
また、映像データや音声データ、外部データは、それぞれ符号化処理等の時間が違うため、これらのデータ同士の同期が問題になるが、図示しない遅延メモリやPTS(プレゼンテーションタイムスタンプ)等により、これらのデータ同士のタイミングを合わせることができる。従って、このような処理時間の相違がある場合であってもデコーダ(復号器)側で正常に映像信号を再生することができる。
【0031】
以上のように、本実施形態では、2周期分の外部データを一つTSパケットにまとめるデータ処理について説明したが、スタッフバイトをより減らすためには、さらに3周期分のデータを1つのTSパケットにまとめることも可能である。このような装置は、例えば図1の第1切替器108より手前にある2つのレジスタを3つにすることで構成することができる。この装置では、上記実施形態の方法と同様に、識別符号を各データ間に挟む処理を2回繰り返して行えばよい。
【0032】
さらにまた、本実施形態では、図示していないが、データの伝送誤り検出のため、リードソロモンやCRC(Cyclic Redundancy Check)符号を必要に応じて、画像ES、音声ES、外部データの各ライン又は多重化器に付加してもよいことは明らかである。
【0033】
無論、本発明は、上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々に変更を加えることができることは勿論である。
【0034】
【発明の効果】
上記のように、本発明によれば、映像信号等に文字信号やネットキュー信号等の外部データを多重化して伝送する際に、伝送効率を低下させることなく、より多くのデータを限られた伝送路に載せて送出することができる利点があり、その結果、伝送コストの低廉化に寄与する極めて効果的なデータ多重化伝送方法及びその装置を提供することができる。
【図面の簡単な説明】
【図1】本発明に係るデータ多重化伝送装置の一実施形態を示すブロック図である。
【図2】本発明に係るデータ多重化伝送装置におけるデータ多重化伝送方法を説明するためのフローチャート図である。
【図3】本発明に係るデータ多重化伝送装置のTSパケットのフォーマットを示す図である。
【図4】(a)は従来のTSパケットのフォーマットを示し、(b)は2周期分のデータを圧縮して伝送効率を向上させた時のTSパケットの構成を示し、(c),(d)は2周期分のデータの総和が180バイトを越えた場合に、それぞれの周期に対応して送出されるTSパケットの構成を示している。
【図5】本発明の他の実施形態を示すブロック図である。
【符号の説明】
101 画像符号化部
102 音声符号化部
103 変換部
104 データ量算出部
105 第1レジスタ
106 第2レジスタ
107 識別符号生成器
108 第1切替器
109 第3レジスタ
110 第2切替器
111 多重化器
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a data multiplexing transmission method and apparatus for multiplexing and transmitting external data such as a character signal and a net cue signal to a video signal and the like, and more specifically, variable-length encoding a video signal such as program material transmission, When the variable-length encoded data is fixed-length encoded, the stuff bytes (synchronization adjustment code inserted for byte alignment of synchronization words) are controlled as much as possible to control characters, net queue signals, etc. The present invention relates to a packet-type data multiplexing transmission method and apparatus for effectively superimposing external data.
[0002]
[Prior art]
Currently, signals transmitted from broadcasting stations include signals obtained by multiplexing information signals such as character signals and net cue signals in addition to video signals and audio signals from cameras and the like. The character signal is transmitted by superimposing the character data generated by the character generator on the vertical blanking (vertical blanking interval) of the video signal. The net cue signal is a timing for sending only the main part of a commercial program to the affiliated stations nationwide from the key station using the micronet, and replacing it with the CM of the receiving station immediately before the CM (Commercial Message) is inserted. This information signal is effective in a semi-net in which a CM of a local sponsor is inserted at each receiving station, and is particularly effective for insertion of a CM in a live broadcast program. This information signal is inserted in the vertical blanking period of the video signal in the same manner as the character signal.
[0003]
On the other hand, in recent years, digitalization of broadcasting equipment has been progressing rapidly, and it is becoming more common to compress and transmit images and video materials such as programs or CMs. Under such a technical environment, these materials and programs are compressed and transmitted, and MPEG (Moving Picture Experts Group) 2 standard (ISO / IEC (International Organization for Standardization / International Electrotechnical Commission)) A digital processing system compliant with the International Electrotechnical Commission (13818-1-3) is becoming the standard for transmission systems. Incidentally, a high-efficiency compression method for moving images is called MPEG, and there are compression methods such as MPEG1, MPEG2, and MPEG4. MPEG1 can reproduce video at 1.5 Mbit / s, and MPEG2 can reproduce video at about 10 to 100 Mbit / s.
[0004]
However, in an image encoding technique such as MPEG2, when a video signal is encoded, it may be encoded so as not to include vertical blanking from the viewpoint of redundancy reduction. Therefore, even if a video signal in which a character signal or the like is superimposed on vertical blanking before the above encoding process is created and this video signal is input to the encoder and encoded, There is a drawback that the signal or the like is transmitted without being encoded, and the character signal or the like is lost.
[0005]
Therefore, conventionally, when an information signal such as a character signal or a net cue signal is sent at the same time as video data or audio signal encoded data, in addition to the encoded image data or audio data, a character signal or network signal is transmitted. External data obtained by converting the information signal such as a cue signal is multiplexed and transmitted. As the configuration, for example, there is a TS (transport stream) system of the MPEG2 system shown in FIG. In the figure, one TS packet has a fixed length of 188 bytes. The stream structure is composed of a 4-byte TS header (0x47, etc.), an m-byte AF (adaptation field), and an n-byte PL (payload). The sum (m + n) of AF and PL is 184 bytes. The ratio between the two can be set freely.
[0006]
[Problems to be solved by the invention]
However, the amount of external data such as character signals and net cue signals is smaller than that of image data and audio data. For this purpose, when the fixed length encoding process according to the TS method is performed and transmitted, a payload area (data in the figure) is inserted as shown in FIG. 4A. This area has a very small area, and there is a problem that most of the latter has to multiplex useless stuff bytes. The stuff byte is a code for synchronization adjustment inserted for byte alignment of the synchronization word of the TS packet. In particular, when low-speed data of 64 kbps or less input between video 1 fields is transmitted, a phenomenon that deteriorates transmission efficiency due to multiplexing of useless stuff bytes becomes remarkable.
[0007]
The present invention has been made in view of the above problems, and a packet-based data multiplex transmission method capable of reducing stuff bytes as much as possible when transmitting by fixed-length encoding processing and improving transmission efficiency, and its The object is to provide an apparatus.
[0008]
[Means for Solving the Problems]
The present invention has been made to solve the above-described problems, and the invention of claim 1 is directed to image data or audio data obtained by encoding a video signal or an image signal and an audio signal such as program material, In a data multiplexing transmission method for multiplexing and transmitting a video signal or predetermined information synchronized with an image signal,
The video signal or the predetermined information that is synchronized with the image signal is converted into binary data by the binarization process sends the predetermined information in chronological order, it sends the predetermined information and the next binarized data transmitted previously When the information amount with the predetermined information of the binarized data is added, the added information amount is compared with a predetermined threshold value, and when the added information amount is an information amount smaller than the predetermined threshold value, A data multiplexing transmission method characterized in that one packet is generated using the previous predetermined information and the next predetermined information as one information, and is multiplexed and transmitted together with the image data and audio data packets.
[0009]
According to the first aspect of the present invention, when a video signal such as program material or an image signal and an audio signal are encoded, and predetermined information synchronized with the video signal or the image signal is multiplexed and transmitted as one packet, a character signal is transmitted. The information signal (external data) such as a net queue signal or the like is converted into a predetermined format and the predetermined information is transmitted in time series, and the amount of information between the predetermined information transmitted first and the predetermined information transmitted next is determined. When the added information amount is an information amount smaller than a predetermined threshold, one packet is generated as one piece of information by sandwiching an identification code between the predetermined information sent first and the next predetermined information, This is a data multiplexing transmission method for multiplexing and transmitting together with image data and audio data packets. When the added information amount is larger than the predetermined threshold, the predetermined information for one period and the encoded image data and audio data are multiplexed and transmitted as one packet. According to this data multiplexing transmission method, when the amount of external data is small, the stuff byte area can be reduced, so that the transmission efficiency is improved. The identification code is used as a code indicating that data of two or more cycles is compressed.
[0010]
According to a second aspect of the present invention, in a data multiplexing transmission apparatus for multiplexing a video signal such as program material or an image signal and an audio signal,
Image encoding means for encoding the video signal or image signal;
Voice encoding means for encoding the voice signal;
Binary data conversion means for compressing predetermined information synchronized with the video signal or image signal into binary data;
A plurality of storage means for temporarily holding predetermined information which is the binarized data from the data conversion means;
A data amount calculating means for calculating a sum of data amounts of predetermined information held in the plurality of storage means;
Data creation for creating, as one piece of information , predetermined information of the plurality of binarized data held in the plurality of storage means when the total amount of data of the predetermined information held in the plurality of storage means does not exceed a predetermined threshold Means,
A data multiplexing transmission apparatus comprising:
[0011]
In the second aspect of the invention, the video signal or the image signal is encoded by the image encoding means, the audio signal is encoded by the audio encoding means, and an information signal (external data) such as a character signal or a net cue signal is obtained. Is converted into a predetermined format by the data conversion means, the predetermined information from the data conversion means is temporarily held in a plurality of storage means, and the sum of the data amounts of the predetermined information held in the plurality of storage means is a data amount calculation means If the sum of the data amounts of the predetermined information held in the plurality of storage means does not exceed a predetermined threshold, the data creation means processes the identification code between the predetermined information held in the plurality of storage means. Thus, the data multiplexing transmission apparatus generates one packet and multiplexes and transmits the packet together with the image data and audio data packets.
[0012]
Further, in the present invention, the data creation means includes a first switching means for switching an input terminal so that an identification code from an identification code generator is sandwiched between predetermined information from the plurality of storage means, and the first switching means. a temporary storage means for temporarily holding the data, ing and a second switching means for switching the input to multiplex the predetermined information held in the data or the plurality storage means of said temporary storage means.
[0013]
In the present invention, the data creation means is composed of a first switching means, a temporary storage means, and a second switching means, and the first data generation means determines whether the data amount added by the data amount calculation means exceeds a predetermined threshold value. And the second switching means are controlled so that the identification code from the identification code generator is sandwiched between the predetermined information, or the data temporarily stored in the plurality of storage means is not sandwiched between the identification codes. This is a data multiplexing transmission device that generates one packet by outputting every cycle, and multiplexes and transmits the packet together with a packet of image data and audio data. For example, when the data amount added by the data amount calculation means does not exceed a predetermined threshold value, the input terminal of the second switching means is the temporary storage means side, and the predetermined information from the plurality of storage means is passed through the first switching means. The temporary storage means temporarily holds the input, the input terminal of the first switching means is switched, and the identification code from the identification code generator is temporarily held in the temporary storage means via the first switching means. Subsequently, the input terminal is switched to the first switching means, and the predetermined information from the plurality of storage means is temporarily held in the temporary storage means via the first switching means. By controlling the first and second switching means in this way, data in which an identification code is sandwiched between predetermined information is created in the temporary storage means, and an identification code is sandwiched between image data, audio data, and predetermined information. Multiple data can be multiplexed by inputting the data to the multiplexer. If the total amount of data temporarily stored in the plurality of storage means exceeds a predetermined threshold, the data temporarily stored in the plurality of storage means is switched between the first and second switching means every cycle. To the multiplexer.
[0014]
Further, according to the present invention, the data creating means includes data in which an identification code is sandwiched between predetermined information from the plurality of storage means depending on whether or not the data amount added by the data amount calculating means exceeds a predetermined threshold. Ru means der to be converted to.
[0015]
In the present invention, when the data amount added by the data amount calculation means does not exceed a predetermined threshold, the data creation means is means for converting the data so that an identification code is sandwiched between the predetermined information. Further, when the threshold of the data amount held in the plurality of storage means exceeds the predetermined threshold, the predetermined information from the plurality of storage means is sent to the multiplexer every period and multiplexed.
[0016]
DETAILED DESCRIPTION OF THE INVENTION
Embodiments of a data multiplex transmission method and apparatus according to the present invention will be described below with reference to the drawings. FIG. 1 is a block diagram showing an embodiment of the present invention, which is constituted by a digital processing system compliant with the MPEG2 standard.
[0017]
The data multiplex transmission apparatus according to the present embodiment will be described with reference to FIG. 1. An image encoding unit 101 that performs variable-length encoding on video data, and fixed-length encoding (such as PCM) or variable-length encoding on audio data. Speech encoding unit 102, converter 103 that compresses external data when necessary and converts it into a predetermined format, and first order that holds external data (predetermined information) converted into a predetermined format in time series Register 105 and second register 106, third register 109 that temporarily stores and combines external data and identification code during data compression, and the amount of external data temporarily stored in first register 105 and second register 106 A data amount calculation unit 104 that calculates ID, an identification code generator 107 that outputs an identification code, and input terminals 1 and 2 to switch external data that has been compressed. The first switch 108 that selects the identification code and the second and second switches 110 that select data from the second register 106 or the third register 109 by switching the input terminals 1 and 2 from the image encoding unit 101 Multiplexing that multiplexes the image data (image ES), the audio data (audio ES) from the audio encoding unit 102, and the data from the second switch 110, inserts the data into one packet, and sends it out The device 111 is configured. Note that the first switch 108 and the second switch 110 are switched based on the data amount added by the data amount calculation unit 104.
[0018]
The video data is input to the image encoding unit 101, and, for example, in accordance with ISO / IEC13818-3, information having high spatial and temporal correlation is inspected and converted to data with low redundancy. That is, a variable-length encoding process is performed and output as an image ES (elementary stream). The audio data is input to the audio encoding unit 102, subjected to data compression processing using human auditory characteristics so as to comply with, for example, ISO / IEC13818-2, and output as audio ES (elementary stream). . The image ES and audio ES are input to the multiplexer 111.
[0019]
External data is information signals such as text super, subtitles, net cue signals, etc., and as described above, the amount of data is smaller than that of image ES and audio ES, so unnecessary stuff bytes are multiplexed in only one cycle. Must. Therefore, external data is sequentially transferred to the first register 105 and the second register 106 and temporarily stored therein, and the data amount of the first register 105 and the second register 106 is calculated by the data amount calculator 104 and calculated. To do. Then, the data amount calculator 104 always calculates the external data amount for two cycles, and when the sum total is 180 bytes or less, the two amounts are combined into one TS packet. When the sum is 180 bytes or more, the sum is output to the multiplexer 111 for each cycle, and the multiplexing process is performed.
[0020]
The external data compression processing in the embodiment of FIG. 1 will be described below with reference to the flowchart of FIG. This compression processing is composed of a first switch 108, a second switch 110, a third register, an identification code generator 107, and a means for switching control of the first switch 108 and the second switch 110. It is executed by the data creation means.
[0021]
First, external data is input to the converter 103, and compression processing such as binarization processing is performed. The compressed external data is transferred to the first register 105 and temporarily stored. The stored data is sequentially transferred to the second register 106 in accordance with a basic clock (not shown). New data is sequentially input to the first register 105 after data transfer. Thus, the data amount A is stored in the first register 105, and the data amount B is stored in the second register. Both registers always store and hold data amounts for two adjacent periods (step S101). The data amount calculator 104 calculates the sum (A + B) of the data amount of the data stored and held here for two cycles (step S102).
[0022]
As a result of calculation by the data amount calculator 104, if the total amount of data for two cycles is 180 bytes or less, assuming that normal packet processing (multiplexing processing) is performed, both TS packets for two cycles are processed. The stuff bytes will be multiplexed in vain. Conversely, if the total amount of data for two cycles exceeds 180 bytes, TS packets in which useless stuff bytes are multiplexed can be suppressed within one cycle. That is, according to the present invention, it is possible to prevent TS packets from being output in a state where the transmission efficiency is continuously lowered for two or more cycles.
[0023]
Following step S102, the process proceeds to step S103. In step S103, calculation processing of A + B ≦ 180 is performed. If the total amount of data for two cycles is equal to or less than a predetermined threshold (for example, 180 bytes), the process proceeds to Y. First, when the sum (A + B) of the data amount for two cycles is 180 bytes or less (Y), the input end of the first switch 108 is set to 1 side, and the input end of the second switch 110 is set to 2 side, respectively. Switching (step S104). As a result, the data A in the second register 106 is transferred to the third register 109 and temporarily stored.
[0024]
Then, the 2nd switch 110 switches the input terminal of the 1st switch 108 to the 2 side as it is (step S105). Thereby, the identification code output from the identification code generator 107 is transferred to the third register 109 (step S106), and the previously transferred data A is concatenated with the identification code. Thereafter, the input terminal of the first switch 108 is returned to the 1 side (step S107), and the next data B in the second register 106 is transferred to the third register 109. As a result, as shown in FIG. 4B, the third register 109 stores the data A and B for two periods in one TS packet with the identification code in between (step S108). After step S108 is completed, the process returns to step S101.
[0025]
Since the data A and B for two cycles remain in the third register 109 and are not output by the switching operation as described above, the TS packet for the image ES or audio ES is sent from the data amount calculator 104 to the multiplexer 111. A control signal is sent to generate As a result, TS packets transmitted from the multiplexer 111 contain TS packets containing useless stuff bytes, and as a result, transmission efficiency is improved.
[0026]
On the other hand, if the total sum of data for two cycles exceeds 180 bytes (N), the process proceeds to step S109. In this case, since TS packets including useless stuff bytes can be limited to one, there is no problem even if control is performed so as to generate TS packets as usual. Accordingly, the input end of the first switch 108 is fixed to 1 side, and the input side of the second switch 110 is fixed to 1 (step S109), and the conventional ones as shown in FIGS. 4C and 4D are used. Two TS packets 2 and 3 are generated for external data having the same two cycles (steps S110 and S111). After step S111 is completed, the process returns to step S101 and the above steps are repeated.
[0027]
Note that the multiplexer 111 receives the ITU / T recommendation H.264 from the image ES, audio ES, and external data. 222.0 A TS (Transport Stream) packet defined by ISO / IEC13818-1 (MPEG-2 System) is generated. As described above, the TS packet has a fixed length of 188 bytes, and its configuration is composed of a 4-byte TS header (0x47, etc.), AF (adaptation field), and PL (payload) as shown in FIG. Has been. If AF and PL are 184 bytes excluding the header 4 bytes, the ratio of both is free. In many cases, AF is used for PCR (program clock reference) and stuffing. The PL sends a PES packet, PSI (Program Specific Information), external data, and the like. Also, multiplexing with a NULL packet (0xFF) is also performed as needed according to the amount of data stored in the buffer inside the multiplexer 111.
[0028]
There are several other embodiments of the present invention. For example, FIG. 5 illustrates another embodiment of the present invention. In the present embodiment, the first register 105 and the second register 106 are prepared on the input side of the converter 103, and the data amount for calculating the data amount temporarily stored and held in the first register 105 and the second register 106 A calculator 104 is provided. The data amount calculator 104 is temporarily stored and held in the first register 105 and the second register 106, and the data amount is calculated by arithmetic processing. If it is expected to be 180 bytes or less after conversion to a predetermined format (with compression if necessary) based on the calculation result of the data amount, identification of each cycle is performed within the converter 103. Thus, the data conversion is performed with the identification code interposed therebetween, and the converted data is input to the multiplexer 111 together with the image ES and the audio ES, and the multiplexing process is performed to send out TS packets.
[0029]
1 and 5, the first and second registers 105 and 106 are used as data storage means. However, the present invention is not limited to this embodiment, and the same amount of data can be handled. Obviously, possible FIFO (First In First Out) memory may be used.
[0030]
In addition, since video data, audio data, and external data have different time for encoding processing and the like, synchronization of these data becomes a problem. However, these data may be delayed by a delay memory (not shown) or a PTS (presentation time stamp). The timings of the data can be matched. Therefore, even when there is such a difference in processing time, the video signal can be normally reproduced on the decoder (decoder) side.
[0031]
As described above, in the present embodiment, the data processing in which the external data for two cycles is combined into one TS packet has been described. However, in order to further reduce the stuff bytes, the data for three cycles is further converted into one TS packet. It is also possible to summarize. Such a device can be configured, for example, by using three two registers in front of the first switch 108 in FIG. In this apparatus, similarly to the method of the above embodiment, the process of sandwiching the identification code between the data may be repeated twice.
[0032]
Furthermore, in the present embodiment, although not shown in the figure, in order to detect transmission errors in data, Reed-Solomon or CRC (Cyclic Redundancy Check) codes may be used as necessary for each line of image ES, audio ES, and external data. Obviously, it may be added to the multiplexer.
[0033]
Of course, the present invention is not limited to the above-described embodiment, and it is needless to say that various modifications can be made without departing from the scope of the present invention.
[0034]
【The invention's effect】
As described above, according to the present invention, when external data such as a character signal or a net cue signal is multiplexed and transmitted to a video signal or the like, more data is limited without reducing transmission efficiency. There is an advantage that it can be transmitted on a transmission line, and as a result, it is possible to provide an extremely effective data multiplexing transmission method and apparatus that contributes to a reduction in transmission cost.
[Brief description of the drawings]
FIG. 1 is a block diagram showing an embodiment of a data multiplexing transmission apparatus according to the present invention.
FIG. 2 is a flowchart for explaining a data multiplexing transmission method in a data multiplexing transmission apparatus according to the present invention.
FIG. 3 is a diagram showing a format of a TS packet of the data multiplexing transmission apparatus according to the present invention.
4A shows the format of a conventional TS packet, FIG. 4B shows the structure of a TS packet when data for two periods is compressed to improve transmission efficiency, and FIGS. d) shows the structure of a TS packet transmitted in correspondence with each period when the sum of data for two periods exceeds 180 bytes.
FIG. 5 is a block diagram showing another embodiment of the present invention.
[Explanation of symbols]
DESCRIPTION OF SYMBOLS 101 Image encoding part 102 Audio | voice encoding part 103 Conversion part 104 Data amount calculation part 105 1st register 106 2nd register 107 Identification code generator 108 1st switch 109 Third register 110 2nd switch 111 Multiplexer

Claims (2)

番組素材等の映像信号又は画像信号及び音声信号を符号化処理した画像データや音声データと、前記映像信号又は画像信号に同期した所定情報とを多重化して伝送するデータ多重化伝送方法において、
前記映像信号又は画像信号に同期した所定情報を二値化処理により二値化データに変換して前記所定情報を時系列順に送出し、先に送出した二値化データの所定情報と次に送出した二値化データの所定情報との情報量を加算して、該加算された情報量と所定閾値とを閾値比較し、該加算された情報量が所定閾値より小さい情報量である場合、前記先の所定情報と次の所定情報とを一つの情報として1パケットを生成し、前記画像データや音声データのパケットとともに多重化して伝送することを特徴としたデータ多重化伝送方法。
In a data multiplexing transmission method for multiplexing and transmitting image data or audio data obtained by encoding a video signal or image signal and audio signal such as program material, and predetermined information synchronized with the video signal or image signal,
The video signal or the predetermined information that is synchronized with the image signal is converted into binary data by the binarization process sends the predetermined information in chronological order, it sends the predetermined information and the next binarized data transmitted previously When the information amount with the predetermined information of the binarized data is added, the added information amount is compared with a predetermined threshold value, and when the added information amount is an information amount smaller than the predetermined threshold value, A data multiplexing transmission method characterized in that one packet is generated using the previous predetermined information and the next predetermined information as one information, and is multiplexed and transmitted together with the image data and audio data packets.
番組素材等の映像信号又は画像信号及び音声信号を多重化するデータ多重化伝送装置において、
前記映像信号又は画像信号を符号化処理する画像符号化手段と、
前記音声信号を符号化処理する音声符号化手段と、
前記映像信号又は画像信号に同期した所定情報を二値化データに圧縮処理する二値データ変換手段と、
前記データ変換手段からの前記二値化データである所定情報を一時的に保持する複数記憶手段と、
前記複数記憶手段に保持した所定情報のデータ量の総和を演算するデータ量算出手段と、
前記複数記憶手段に保持された所定情報のデータ量の総和が所定閾値を越えない場合、前記複数記憶手段に保持された複数の前記二値化データの所定情報を一つの情報として作成するデータ作成手段と、
を具備することを特徴とするデータ多重化伝送装置。
In a data multiplexing transmission device that multiplexes video signals such as program materials or image signals and audio signals,
Image encoding means for encoding the video signal or image signal;
Voice encoding means for encoding the voice signal;
Binary data conversion means for compressing predetermined information synchronized with the video signal or image signal into binary data;
A plurality of storage means for temporarily holding predetermined information which is the binarized data from the data conversion means;
A data amount calculating means for calculating a sum of data amounts of predetermined information held in the plurality of storage means;
Data creation for creating, as one piece of information , predetermined information of the plurality of binarized data held in the plurality of storage means when the total amount of data of the predetermined information held in the plurality of storage means does not exceed a predetermined threshold Means,
A data multiplexing transmission apparatus comprising:
JP2001089230A 2001-03-27 2001-03-27 Data multiplexing transmission method and apparatus Expired - Fee Related JP3907422B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001089230A JP3907422B2 (en) 2001-03-27 2001-03-27 Data multiplexing transmission method and apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001089230A JP3907422B2 (en) 2001-03-27 2001-03-27 Data multiplexing transmission method and apparatus

Publications (2)

Publication Number Publication Date
JP2002290363A JP2002290363A (en) 2002-10-04
JP3907422B2 true JP3907422B2 (en) 2007-04-18

Family

ID=18944192

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001089230A Expired - Fee Related JP3907422B2 (en) 2001-03-27 2001-03-27 Data multiplexing transmission method and apparatus

Country Status (1)

Country Link
JP (1) JP3907422B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5446691B2 (en) * 2009-09-30 2014-03-19 富士通株式会社 Broadcast advertisement discrimination device and broadcast advertisement discrimination program
JP5509775B2 (en) * 2009-09-30 2014-06-04 富士通株式会社 Broadcast advertisement discrimination device and broadcast advertisement discrimination program

Also Published As

Publication number Publication date
JP2002290363A (en) 2002-10-04

Similar Documents

Publication Publication Date Title
JP3572067B2 (en) How to format compressed video data into transfer cells
US7298959B1 (en) Method and apparatus for storing MPEG-2 transport streams using a conventional digital video recorder
US20030086441A1 (en) Information transmission method and encoding/decoding apparatus and encoding-multiplexing/decoding-demultiplexing apparatus in information transmission system to which information transmission method is applied
JP4812171B2 (en) Data receiving method and data receiving apparatus
US6373856B1 (en) Communications system for transmission of multimedia digital data and a method therefor
WO2001039505A2 (en) Method and apparatus of transmitting and receiving variable bit rate streams
JP2005064556A (en) Broadcast source material transmission system for terrestrial digital broadcasting
JP3907422B2 (en) Data multiplexing transmission method and apparatus
KR100326125B1 (en) Transmitter, receiver, transmission system, sending method, receiving method, and transmitting method
JP3679606B2 (en) Encoding apparatus and method, and computer-readable recording medium on which an encoding program is recorded
CN100455027C (en) Signal processing apparatus and stream processing method
KR100760259B1 (en) Multi-Protocol Encapsulation recombination for partitioned MPEG2 Transport Stream
US7269839B2 (en) Data distribution apparatus and method, and data distribution system
JPH09191457A (en) Packet processing unit and method for error correction coding for mpeg signal
US7130265B1 (en) Data multiplexing device and data multiplexing method, and data transmitter
US7949052B1 (en) Method and apparatus to deliver a DVB-ASI compressed video transport stream
JP4146104B2 (en) Digital broadcast program relay transmission system
KR100527846B1 (en) Method of controlling bit rate in digital audio broadcasting system and apparatus and method for converting media stream using it
JP2010028642A (en) Image transmission system
JP3543776B2 (en) Transmission device, reception device, transmission system using them, transmission method and reception method, and transmission method using these
KR100755836B1 (en) An apparatus for buffering transport stream packet in digital broadcasting receiver and a method thereof
JP3543775B2 (en) Transmission device, reception device, transmission system using them, transmission method and reception method, and transmission method using these
Garcia et al. Reliable transmission of MPEG-2 VBR video streams over new network adaptation and ATM adaptation layers
JP3543777B2 (en) Transmission device, reception device, transmission system using them, transmission method and reception method, and transmission method using these
JP4009072B2 (en) Encoded data multiplex transmission apparatus and method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041201

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060612

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060620

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060725

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060919

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061027

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20061219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070116

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130126

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130126

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees