JP2011217416A - Image processing apparatus and method - Google Patents
Image processing apparatus and method Download PDFInfo
- Publication number
- JP2011217416A JP2011217416A JP2011168371A JP2011168371A JP2011217416A JP 2011217416 A JP2011217416 A JP 2011217416A JP 2011168371 A JP2011168371 A JP 2011168371A JP 2011168371 A JP2011168371 A JP 2011168371A JP 2011217416 A JP2011217416 A JP 2011217416A
- Authority
- JP
- Japan
- Prior art keywords
- frame
- block
- unit
- retransmission request
- error
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
Description
本発明は、ディジタル画像データの符号化、復号化に関する。 The present invention relates to encoding and decoding of digital image data.
従来のディジタル動画像通信システムでは、受信側でエラーパケットを受信した場合、エラーにより正常復号不能な部位(ブロック、スライス等)に関して、送信側へ再送信要求を送出していた。そして、再送信要求を受信した送信側では、正常復号不能な部位である再送信要求された部位に該当する符号化データを再度送信するという処理を行っていた。 In the conventional digital video communication system, when an error packet is received on the receiving side, a retransmission request is sent to the transmitting side regarding a part (block, slice, etc.) that cannot be normally decoded due to an error. Then, the transmission side that has received the retransmission request performs a process of retransmitting the encoded data corresponding to the portion requested to be retransmitted, which is a portion that cannot be normally decoded.
また、受信側で、再送回数、情報の損失率、フレーム内符号化されたフレームの挿入間隔等をパラメータとし、パラメータのいづれかに基づいて、閾値を設定する再送要求優先度を決定していた。そして、設定された閾値を任意の基準で判断することにより、正常復号不能な部位に関して、再送要求を送出するか否かを受信側で決定していた。 On the receiving side, the number of retransmissions, the loss rate of information, the insertion interval of intra-coded frames, and the like are used as parameters, and the retransmission request priority for setting a threshold is determined based on one of the parameters. Then, the receiving side determines whether or not to send a retransmission request for a part that cannot be normally decoded by judging the set threshold value based on an arbitrary criterion.
一方、送信側で、再送回数、情報の損失率、フレーム内符号化されたフレームの挿入間隔等をパラメータとし、パラメータのいづれかに基づいて、閾値を設定する再送優先度決定部を設けていた。そして、受信側からの再送要求を受信した場合、再送優先度決定部が設定した閾値を任意の基準で判断することにより、受信側からの再送要求に対する処理(再送を実施するか否か)を決定していた。 On the other hand, on the transmission side, a retransmission priority determination unit that sets a threshold value based on one of the parameters using the number of retransmissions, the loss rate of information, the insertion interval of intra-coded frames, and the like as parameters is provided. When a retransmission request is received from the receiving side, processing for the retransmission request from the receiving side (whether or not to perform retransmission) is performed by determining the threshold set by the retransmission priority determination unit based on an arbitrary criterion. It was decided.
つまり、従来は、受信側と送信側が独立に再送制御を行っていた(特許文献1参照)。 In other words, conventionally, the receiving side and the transmitting side independently performed retransmission control (see Patent Document 1).
以上説明したように、従来例のディジタル動画像通信システムでは、動画像フレーム又はフレームを構成するブロックの再送要求に関する優先順位を、送信側と受信側とで独立に設定されて、独立に機能しているため、送受信双方で処理負荷が重くなるという欠点があった。
特に受信側において、エラーを検出した場合、エラー発生箇所の優先順位、重要度等を算出、評価してから、再送要求を実施するか否かを決定するため、エラー検出から再送要求の実施、非実施判断までの判定時間がかかるという問題があった。
本発明は上記問題を鑑みて成されたものであり、受信側の処理を軽減し、エラーが発生した場合に再送要求するまでの時間を短縮することが可能な技術を提供することを目的とする。
As described above, in the conventional digital video communication system, the priority order regarding the retransmission request of a video frame or a block constituting the frame is set independently on the transmission side and the reception side, and functions independently. Therefore, there is a drawback that the processing load becomes heavy in both transmission and reception.
In particular, when an error is detected on the receiving side, the priority, importance, etc. of the error occurrence location are calculated and evaluated, and then it is determined whether to execute the retransmission request. There was a problem that it took a long time to make a non-implementation decision.
The present invention has been made in view of the above problems, and an object of the present invention is to provide a technique capable of reducing the processing on the receiving side and shortening the time required to request retransmission when an error occurs. To do.
上記の目的を達成するため、本発明に係る画像処理装置は、ブロック単位で符号化された符号化データと、前記ブロックが他のブロックを符号化する際に参照されているかを示す参照情報とを受信する受信手段と、前記ブロックがエラーである場合、前記参照情報に基づいて再送要求を行うかを判定する判定手段と、前記判定結果に基づいて再送要求を行う再送要求手段を有することを特徴とする。 In order to achieve the above object, an image processing apparatus according to the present invention includes encoded data encoded in units of blocks, and reference information indicating whether the block is referenced when encoding another block. Receiving means for receiving, if the block is in error, determining means for determining whether to make a retransmission request based on the reference information; and retransmission request means for making a retransmission request based on the determination result Features.
本発明によれば、受信側の処理を軽減し、エラーが発生した場合に再送要求するまでの時間を短縮することが可能である。 According to the present invention, it is possible to reduce the processing on the receiving side and to shorten the time until a retransmission request is made when an error occurs.
(実施形態1)
本実施形態による符号化装置と符号化側(送信側)の処理について、図1、図3、図5、図6を用いて説明する。
(Embodiment 1)
The encoding apparatus according to the present embodiment and the processing on the encoding side (transmission side) will be described with reference to FIGS. 1, 3, 5, and 6. FIG.
図1は、本実施形態による符号化装置である。図1において、118は符号化部である。符号化部118において、102は切り替えスイッチ、103は直交変換部(DCT)、104は量子化部、105は可変長符号化部、106は局部復号化部、107は加算器、108はフレーム・メモリ、109は動き補償部である。101は入力端子、110は送信バッファ(フレーム・メモリ)、111はマルチプレクサ(多重化部)、112は送信部、113は送信データ出力端子、114は参照マップ生成部、115は変換部(参照マップ用)、116は制御部、117は受信部である。
FIG. 1 shows an encoding apparatus according to the present embodiment. In FIG. 1,
図3(a)は、マップ生成部114により生成された任意のフレームにおけるブロック単位の参照マップであり、図3(b)は、伝送に適した形式にするために、図3(a)の参照マップを左上から変換部115により変換したものである。図3(a)において、「1」は動き補償予測における参照ブロックであることを示し、「0」は動き補償予測においてどこからも参照されていないブロックであることを示す。
FIG. 3A is a reference map in units of blocks in an arbitrary frame generated by the
図5は、ある時点の符号化対象フレーム502が、動き補償予測において参照する参照フレーム501と、参照フレームに対応する参照マップ503のとの関係を図示したものである。
FIG. 5 illustrates the relationship between the reference frame 501 that the encoding target frame 502 at a certain time point refers to in the motion compensation prediction and the
図6は、受信側から受信した再送要求に対応する再送を実施するか否かを判定するために必要な時間を表すタイムチャートである。 FIG. 6 is a time chart showing the time required to determine whether or not to perform retransmission corresponding to the retransmission request received from the receiving side.
次に、符号化側(送信側)の処理について説明する。 Next, processing on the encoding side (transmission side) will be described.
図1において、ディジタル動画像信号は、入力端子101を介して切り替えスイッチ102へ入力される。切り替えスイッチ102は、後述する制御部116の制御により、入力されたディジタル動画像信号(フレーム)の符号化モードが決定され、決定された符号化モードが、切り替えスイッチ102の切り替え方向に反映される。
In FIG. 1, the digital moving image signal is input to the
フレームに対する符号化モードがフレーム間符号化(Pフレーム又はBフレーム)である場合は、制御部116の制御により、切り替えスイッチ102が動き補償部109側へ切り替られる。そして、入力端子101から入力されたディジタル動画像信号は、切り替えスイッチ102経由で、動き補償部109へ入力される。
When the encoding mode for the frame is inter-frame encoding (P frame or B frame), the
動き補償部109へ入力されたディジタル動画像信号(符号化対象フレーム)は、後述するフレーム・メモリ108に格納されている参照フレームとの間で、動きベクトル探索を行い、探索された動きベクトルに従って、符号化対象フレームと参照フレームとの差分値が演算される。演算された差分値は、差分動画像信号として、直交変換部103へ入力される。
A digital moving image signal (encoding target frame) input to the
参照フレームとは、符号化順序的に現在の符号化対象フレームに先行して符号化され、復号化(局部復号化)されて、フレーム・メモリ108に格納されているフレームのことである。
The reference frame is a frame that is encoded prior to the current encoding target frame in the encoding order, decoded (local decoding), and stored in the
一方、フレームに対する符号化モードが、フレーム内符号化(Iフレーム)である場合は、制御部116の制御により、切り替えスイッチ102は、動き補償部109をバイパスする方向へ切り替えられる。そして、入力端子101から入力されたディジタル動画像信号は、切り替えスイッチ102経由で、フレーム間符号化の場合と同様に直交変換部103へ入力される。
On the other hand, when the encoding mode for the frame is intra-frame encoding (I frame), the
ここで、フレーム内予測(同一フレーム内のブロック間での予測)を行う場合は、フレーム内符号化であっても、フレーム間符号化と同様に、動き補償部109にて処理を行うものとする。ここで、フレーム内予測符号化とは、予測に用いる画素が符号化しようとする画素と同じフレームに属する場合を指す。また、フレーム間予測符号化とは、予測に用いる画素が符号化しようとする画素と異なるフレームに属する場合を指す。
Here, when performing intra-frame prediction (prediction between blocks in the same frame), even in intra-frame coding, processing is performed by the
動き補償部109では、符号化(圧縮)のための動き補償予測処理が行われるが、同時に動き補償予測の過程で参照したフレームの各ブロックの参照情報を参照マップ生成部114へ出力し、参照マップ生成部114では、動き補償部109からの参照情報から各参照フレームを構成する各ブロック単位の参照マップを生成する。
The
参照マップの生成過程を図5を用いて説明する。図5の符号化対象フレームにおいて、左上のブロックからラスタースキャンの順序(基本的に順序は任意)で動きベクトル探索を実施すると仮定する。 The reference map generation process will be described with reference to FIG. It is assumed that the motion vector search is performed in the raster scan order (basically in any order) from the upper left block in the encoding target frame in FIG.
符号化対象フレームに対する参照フレームは、符号化順序で先行して符号化および局部復号化され、フレーム・メモリ108に格納されているフレームである。MPEG−1,2等では、符号化対象フレームの(符号化順序で)直前のフレーム、H.264では、符号化対象フレームに対して、先行する全フレームが参照対象フレームとなる。
The reference frame for the encoding target frame is a frame that has been encoded and locally decoded in the encoding order and stored in the
最初に符号化対象フレーム左上に位置するブロックAに対する動きベクトルの探索を実施した結果、ブロックAに対する動きベクトルが図5の参照フレーム上のaで示す領域を示した場合について説明する。まず、ブロックAに対する動きベクトルの情報が、動き補償部109から参照マップ生成部114へ出力される。
A case will be described in which the motion vector search for the block A located at the upper left of the encoding target frame is first performed and the motion vector for the block A indicates the area indicated by a on the reference frame in FIG. First, motion vector information for the block A is output from the
参照マップ生成部114では、各フレームをブロック単位で分割した参照マップ503が用意されており、参照マップ上の各ブロックには1ビットのインデックスが割り当てられている(デフォルト値を‘0’とする)。
In the reference
参照マップ生成部114は、動きベクトルの情報が入力されると、動きベクトルが指示する領域を算出し、参照マップ上で、算出された動きベクトルが指示する領域に該当するブロックのインデックスを‘1’に設定する。
When the motion vector information is input, the reference
同様にして、符号化対象フレームのブロックB,C,D、およびラスタースキャン順で、符号化対象フレーム内の全ブロックについて実施することにより、従来と同様の動き予測符号化の処理と並行して、参照マップ生成が実施され、完了する。 In the same manner, by performing all blocks in the encoding target frame in the order of blocks B, C, and D of the encoding target frame and raster scan, in parallel with the motion prediction encoding process similar to the conventional one. Reference map generation is performed and completed.
動き補償部109から出力され、直交変換部103へ入力された(差分)動画像信号は、直交変換され、直交変換係数として、量子化部104へ入力される。
The (difference) moving image signal output from the
量子化部104へ入力された直交変換係数は、制御部116の制御により、量子化係数(又はスケール)が選択される。そして、直交変換係数に対する量子化演算(直交変換係数の個々の係数と、対応する量子化係数との商を求める演算)を実施して、量子化直交変換係数として、可変長符号化部105、および局部復号化部106へ出力される。
As the orthogonal transform coefficient input to the
可変長符号化部105へ入力された量子化直交変換係数は、出現確率に応じた可変長符号(エントロピー符号)を割り当てられ、送信バッファ110上に符号化フレームとして記憶される。
The quantized orthogonal transform coefficient input to the variable length coding unit 105 is assigned a variable length code (entropy code) corresponding to the appearance probability, and is stored in the
本実施形態において、送信バッファ110は、後述する参照マップとの同期を取るために、各符号化フォーマットにおいて、符号化対象フレームと参照フレームとのフレーム間距離をNとした場合、(N×2)+1フレーム以上の容量を確保している。そのため、受信側からの再送要求に対しても即時対応可能である。
In this embodiment, in order to synchronize with a reference map to be described later, the
また本実施形態における送信バッファ110は、リング・バッファタイプの記憶部で、新しいデータが書き込みに際して、もっとも古い記憶データが、上書きされるように構成されている。
The
局部復号化部106へ入力された量子化直交変換係数は、量子化部104の量子化、直交変換部103の直交変換と対をためす逆演算(逆量子化、逆直交変換)を実施される。そして、符号化対象フレームに対する復号化動画像信号(又は復号化差分動画像信号)として、加算器107へ出力される。
The quantized orthogonal transform coefficient input to the
加算器107は、符号化対象フレームの符号化モードが、フレーム内符号化である場合は、加算演算を通過(又は全画素値にゼロを加算)し、局部復号化フレームを出力する。次に、符号化対象フレームの符号化モードが、フレーム間予測符号化、又はフレーム内予測符号化である場合について説明する。動き補償部109で探索された符号化対象フレームの各ブロックに対応する動きベクトルにしたがって、該当する参照フレーム(又はブロック)をフレーム・メモリ108から読み出す。そして、局部復号化部106の出力である復号化差分動画像信号と加算して、局部復号化フレームとして、加算器107から出力される。加算器107から出力された局部復号化フレームは、動き補償予測用の参照フレームとして、フレーム・メモリ108へ記憶される。
When the encoding mode of the encoding target frame is intra-frame encoding, the
符号化対象フレーム502の全ブロックに対する符号化処理が完了した時点で、参照フレームに対する参照マップ(図3の(a)参照)の生成も完了する。 When the encoding process for all blocks of the encoding target frame 502 is completed, the generation of the reference map for the reference frame (see FIG. 3A) is also completed.
参照マップ生成部114で生成された参照マップは、変換部115へ入力される。変換部115では、例えば、図3の(b)に示すように、先頭のスタート・コード(任意のビット数)に続いて、対応するフレームを識別するためのフレーム番号と、参照マップの各ブロックに対応するインデックスが付与される。各ブロックに対応するインデックスは、ブロック単位順序は基本的に任意であるが、ラスタースキャン、もしくはジグザグスキャン等の順序で並んでいる。そして、最後にエンド・コード(任意のビット数)を付与して、伝送データに適した形式にパッケット化される。
The reference map generated by the reference
変換部115にて、パケット化された参照マップは、多重化部111へ入力される。同時に制御部116の制御により、多重化部111へ入力されたパケット化された参照マップに対応する符号化フレームを送信バッファ110より読み出し、多重化部11へ入力する。そして、符号化フレームと対応する参照マップを多重化して、送信部112へ入力する。
The reference map packetized by the
本実施形態において、参照マップは、符号化フレームとの同時エラーを回避する等の理由から、別の符号化フレームと多重化して伝送してもよいし、符号化フレームとは別の伝送路(専用回線等)を用いて、独立に伝送してもよい。 In the present embodiment, the reference map may be multiplexed with another encoded frame and transmitted for reasons such as avoiding simultaneous errors with the encoded frame, or may be transmitted separately from the encoded frame ( It may be transmitted independently using a dedicated line or the like.
送信部112は、制御部116の制御により、多重化された符号化フレーム、および参照マップを所定のフォーマットにしたがって、伝送に適した形式(トランスポートストリームや任意のファイルフォーマット)に変換する。そして、出力端子113より伝送路を介して、受信側へ伝送することが可能である。
Under the control of the
受信部117は、受信側からのエラーに伴う再送要求、伝送路の状態(回線容量やエラー率等)の情報を受信、抽出して、制御部116へ入力を行う。受信部117が、受信端末から特定のブロック(又はフレーム)の再送要求を受信すると、制御部116に対して、再送要求に該当するブロック(又はフレーム)を特定する情報を出力する。
The receiving unit 117 receives and extracts information on the retransmission request accompanying the error from the receiving side and the state of the transmission path (line capacity, error rate, etc.) and inputs the information to the
制御部116は、受信側が再送を要求している対象ブロック(又はフレーム)の情報を受けて、再送要求対象のブロック(又はフレーム)に該当するデータを送信バッファ110から選択して、と同様の送信部112、出力端子113を介して受信側へ再送信する。
The
この時、送信バッファ110に再送要求対象のブロック(又はフレーム)に該当するデータ(符号化済みフレーム)が、存在しなかった場合、制御部116は、受信された再送要求を破棄し、再送を実施しない。
At this time, if there is no data (encoded frame) corresponding to the block (or frame) subject to the retransmission request in the
本発明による第一の実施形態では、平均的な受信器の仕様を想定して、
1)最初に符号化にフレームが送信されてから受信側で受信されるまでの予測所要時間(Tx)
2)エラー発生時に於ける、符号化フレームを受信してから、エラーを検出して、再送要求を発信するまでの予測所要時間(Ty)
以上1)、2)を算出することにより、送信バッファ110の容量を符号化フレームが最初に送信された時刻から(2×Tx)+Tyに相当する時間以上、符号化フレームを保持可能な容量に設定している。
In the first embodiment according to the present invention, assuming an average receiver specification,
1) Estimated required time (Tx) from when a frame is first transmitted for encoding until it is received at the receiving side
2) Estimated required time (Ty) from when an encoded frame is received until the error is detected and the retransmission request is transmitted.
By calculating 1) and 2) above, the capacity of the
また送信バッファ110は、フレーム・メモリ108と共用化し、必要に応じてダイナミックに容量を変更可能な仕様としても良い。その際、制御部116は、1)、2)の値を任意の時間間隔で、ダイナミックに算出可能であることが望ましい。
The
制御部116は、前述した機能の他に、受信部117により受信された伝送路のトラフィック(実効速度、容量)の情報を得て、量子化部104を制御して、ブロック又はフレーム単位での発生符号量の制御を行う。
In addition to the functions described above, the
送信バッファ110に記憶されている符号化フレーム数、フレーム番号の監視、および書き込み、読み出しの制御と、フレーム・メモリ108に記憶されている参照フレーム数、フレーム番号の監視、および書き込み、読み出しの制御を行う。
Control of the number of encoded frames and frame numbers stored in the
図7(a)は、符号化装置における参照マップ生成のフローフャ−トである。 FIG. 7A is a flowchart of reference map generation in the encoding apparatus.
まず、ステップS1001で、符号化対象フレームがフレーム内符号化かを判定する。つまり、符号化対象フレームが他のフレーム又はブロックを参照していないかを判定する。ステップS1001がNOの場合は、参照マップ生成部114で説明したように、符号化対象のブロック対する動きベクトル情報より、参照マップを生成する。ステップS1001がYESの場合はそのまま終了する。
First, in step S1001, it is determined whether the encoding target frame is intraframe encoding. That is, it is determined whether the encoding target frame refers to another frame or block. If step S1001 is NO, as described in the reference
図7(b)は、符号化装置における再送要求に対するフローフャ−トである。 FIG. 7B is a flowchart for a retransmission request in the encoding apparatus.
まず、ステップS1011で、再送要求を受信する。 First, in step S1011, a retransmission request is received.
更に符号化フレームが、出力端子113から送信されてから、符号化フレームに該当する再送要求を受信するまでの実時間(Tr)を各符号化フレーム毎に計測し、計測した時間(Tr)を基に、これから再送を行う再送データが、送信されてから受信側で受信されるまでに要する時間(Tp)と、再送要求が受信側から発信されてから送信側で受信されるまでに要した時間(Ta)と、受信側が、再送要求を発信した時刻から再送データを受信するまでの最大時間(Tz)、即ち、再送データを復号化して、正規の表示時刻に間に合う最大時間とを予測し、
Ta+Tp+α<Tz−−−−(1)
上記の式(1)の条件を満たすか否かを判定する(ステップS1012)。(図6を参照)
の式(1)の条件を満たしている場合は、再送データが、受信側で正しい順序で復号化されると判断し、再送要求に従って、再送を実行する(ステップS1014)。
Further, the actual time (Tr) from when the encoded frame is transmitted from the output terminal 113 until the retransmission request corresponding to the encoded frame is received is measured for each encoded frame, and the measured time (Tr) is measured. Based on this, it took time (Tp) for the retransmission data to be retransmitted from the time when it was transmitted until it was received at the receiving side, and the time required from when the retransmission request was transmitted from the receiving side until it was received at the transmitting side. The time (Ta) and the maximum time (Tz) from the time when the receiving side sends the retransmission request to the time when the retransmission data is received, that is, the maximum time in time for the normal display time by decoding the retransmission data are predicted. ,
Ta + Tp + α <Tz ---- (1)
It is determined whether or not the condition of the above formula (1) is satisfied (step S1012). (See Figure 6)
If the condition of Equation (1) is satisfied, it is determined that the retransmission data is decoded in the correct order on the receiving side, and retransmission is executed according to the retransmission request (step S1014).
一方、条件を満たしていない場合は、逆に再送データが、受信側で破棄される等、正しく復号化されないか、又は表示されないと判断し、再送要求を破棄し、再送を実行しない(ステップS1013)。 On the other hand, if the condition is not satisfied, it is determined that the retransmission data is not correctly decoded or displayed, such as being discarded on the receiving side, the retransmission request is discarded, and the retransmission is not executed (step S1013). ).
本実施形態の復号装置と復号側(受信側)の処理について図2、4、8を用いて説明する。 Processing on the decoding device and the decoding side (receiving side) according to the present embodiment will be described with reference to FIGS.
図2において、212は復号化部である。212は復号化部において、205は可変長復号化部、206は逆量子化部、207は逆直交変換部(IDCT)、208は切り替えスイッチ、209は動き補償部、210はフレーム・メモリである。さらに、201は受信データ入力端子、202は受信部、203は受信バッファ(フレーム・メモリ)、204はデマルチプレクサ(多重化解除部)、211は復号化画像データ出力端子、213は変換部、214はマップ・バッファ、215はエラー検出部、216は制御部、217は再送要求送信部である。
In FIG. 2,
図4(a)は、送信側(符号化側)に於ける符号化対象フレーム403と、(表示順序で)その前後に位置するフレームに関する動き補償予測の様子と参照マップの一例を示したものである。図4(b)は、受信側(復号化側)で、4002で示されるフレーム(a)に示す符号化画像のフレーム4002に対応)にエラーが検出されたことを想定したエラー伝搬の一例を示したものである。
FIG. 4A shows an example of a motion compensation prediction and a reference map regarding a frame to be encoded 403 on the transmission side (encoding side) and frames positioned in front and behind (in display order). It is. FIG. 4B shows an example of error propagation on the assumption that an error is detected on the receiving side (decoding side) corresponding to the
次に、復号側(受信側)の処理について説明する。 Next, processing on the decoding side (receiving side) will be described.
図2において、伝送路を介して送信されたデータは、201の受信データ入力端子から202の受信部へ入力される。202の受信部へ入力された受信データは、トランスポートストリーム等の伝送用のパッケージを解除し、送信側で符号化され、任意の付加データと共に多重化されたデータを取り出し、受信バッファ203に記憶する。
In FIG. 2, the data transmitted via the transmission path is input from the reception
受信バッファ203は、第一の実施形態に於ける送信バッファ(図1の110)と同様で、リング・バッファタイプのメモリである。 The reception buffer 203 is a ring buffer type memory similar to the transmission buffer (110 in FIG. 1) in the first embodiment.
受信バッファ203に記憶された多重化されたデータは、制御部216の制御により、書き込まれた順序で適宜読み出され、多重化解除部204へ入力される。
The multiplexed data stored in the reception buffer 203 is appropriately read in the order of writing under the control of the
多重化解除部204では、多重化されたデータを符号化フレーム(符号化動画像信号)と参照マップとに分離する処理を実施する。 The demultiplexing unit 204 performs a process of separating the multiplexed data into an encoded frame (encoded video signal) and a reference map.
多重化解除部204にて、分離処理された符号化フレームは、復号化部212と、215で示されるエラー検出部へ入力される。
The encoded frame subjected to the separation processing by the demultiplexing unit 204 is input to the
一方、同様に多重化解除部204にて、分離処理された参照マップは、変換部213へ、第一の実施形態に於ける図3の(a)で示される形式から、参照マップ部分のみを取り出した第一の実施形態に於ける図3の(b)で示される参照マップに変換される。
On the other hand, similarly, the reference map separated by the demultiplexing unit 204 is sent to the
変換部213で、変換処理された参照マップは、参照マップ・バッファ214に格納され、必要に応じて制御部216により、参照される。
The reference map converted by the
復号化部212へ入力された符号化フレームは、可変長復号化部205にて、可変長符号を復号化して、量子化直交変換係数を出力する。
The variable length decoding unit 205 decodes the variable length code of the encoded frame input to the
量子化直交変換係数は、逆量子化部206へ入力される。逆量子化部206では、入力された量子化直交変換係数を逆量子化処理して、直交変換係数を出力する。
The quantized orthogonal transform coefficient is input to the
直交変換係数は、逆直交変換部207へ入力される。逆直交変換部207では、入力された直交変換係数を動画像信号(符号化モードがフレーム内符号化の場合)、又は差分動画像信号(符号化モードが、フレーム間予測符号化、又はフレーム内予測符号化の場合)に変換する。
The orthogonal transform coefficient is input to the inverse
制御部216の制御は、逆直交変換部207により変換された動画像信号、又は差分動画像信号に変換された符号化モードを判定する。
The control of the
判定された符号化モードがフレーム内符号化である場合、制御部216の制御により、切り替えスイッチ208は、”Intra”側に切り替えられる。逆直交変換された動画像信号は、動き補償部209をバイパスして、フレーム・メモリ210へ記憶されると同時に、出力端子211へ表示可能な動画像信号として出力される。
When the determined encoding mode is intra-frame encoding, the
一方、判定された符号化モードがフレーム間予測符号化、又はフレーム内予測符号化である場合、制御部216の制御により、切り替えスイッチ208は、”Inter”側に切り替えられる。逆直交変換された差分動画像信号は、動き補償部209へ入力される。動き補償部209は、制御部216の制御により、逆直交変換された差分動画像信号に対応する動きベクトルに従って、逆直交変換された差分動画像信号の参照フレーム(復号化済みの先行フレーム)を読み出す。読み出された参照フレームは、制御部216の制御により、差分動画像信号と加算され、復号化動画像信号を生成し、出力する。動き補償部209から出力された復号化動画像信号は、符号化モードがフレーム内符号化の場合と同様に、フレーム・メモリ210に記憶されると同時に、出力端子211から表示可能な動画像信号として出力される。
On the other hand, when the determined coding mode is inter-frame predictive coding or intra-frame predictive coding, the
次に入力端子201を介して入力された符号化データにエラーが発生した場合における本実施形態による復号化側の動作を図4を用いて説明する。
Next, the operation on the decoding side according to the present embodiment when an error occurs in the encoded data input via the
図4(b)のフレーム4002上のブロック(1)でエラーが発生したと仮定すると、図4(b)に示した例において、フレーム4002のブロック(1)は、フレーム4003のブロック(2)から参照されている。フレーム4003のブロック(2)は、フレーム4004のブロック(3)から参照されている。そのため、図4(b)のフレーム4002上のブロック(1)で発生したエラーを修整しないと、図4(b)のフレーム4002上のブロック(1)で発生したエラーは、フレーム4003のブロック(2)、フレーム4004のブロック(3)へと順次伝搬する。つまり、2フレーム以上に渡り画像の乱れを生じることになる。
Assuming that an error has occurred in block (1) on
一方、図4(b)のフレーム4002上のブロック(4)でエラーが発生したと仮定すると、図4(b)に示した例において、フレーム4002のブロック(4)は、他のフレーム(又はブロック)から全く参照されていない。そのため、図4(b)のフレーム4002上のブロック(4)で発生したエラーを修整しなかったとしてもエラーは、図4(b)のフレーム4002上のブロック(4)のみに限定される。つまり、画像の乱れは1フレームのみに限定される。
On the other hand, assuming that an error has occurred in the block (4) on the
多重化解除部204にて分離出力された符号化フレームは、前述のように復号化部212とエラー検出部215へ入力される。
The encoded frame separated and output by the demultiplexing unit 204 is input to the
エラー検出部215が、図4の4002(又は402)で示すフレームのブロック(1)とブロック(4)でエラーを検出したと仮定する。
Assume that the
エラー検出部215によって、エラーブロック((1),(4))に対する位置情報(フレーム番号とエラー発生ブロックの座標)が、制御部216に通知される。エラーブロックの位置情報を受信した制御部216は、214の参照マップ・バッファを参照して、通知されたエラーブロック(図4の(1)と(4))の位置情報に対応する参照マップの数値を検出する。
The
制御部216は、検出されたエラーブロック(1)、(4)に対応する参照マップの数値を検出することにより、位置情報が指定するブロック(図4のブロック(1)、(4))が、他のフレーム又は他のブロックから参照されているか否かを判定する。
The
エラーブロック(1)、(4)の位置情報に対応するブロックが、他のフレーム又は他のブロックから参照されているか否かの判定は、エラーフレームのエラーブロックに該当する参照マップの数値(図3を参照)を制御部216が、判定することにより実施される。
Whether or not the block corresponding to the position information of the error blocks (1) and (4) is referenced from another frame or another block is determined by referring to the numerical value (see FIG. 3) is performed by the
図4の例の場合、エラーブロック(フレーム4002のブロック(4))の参照マップの数値は‘0’であるため、図4のブロック(4)のエラーに対する再送要求を破棄する。つまり、再送を行わない。一方、図4のブロック(1)に関しては、参照マップの数値が‘1’なので、図4のブロック(1)のエラーに対する再送要求を再送要求送信部217にて生成し、送信側(符号化側)へ送出する。
In the case of the example of FIG. 4, the numerical value of the reference map of the error block (block (4) of the frame 4002) is “0”, so the retransmission request for the error of the block (4) of FIG. That is, no retransmission is performed. On the other hand, for the block (1) in FIG. 4, since the numerical value of the reference map is “1”, the retransmission
図8は、復号化装置におけるエラー発生時のフローフャートである。まず、ステップS2001で、エラーを検出する。次に、ステップS2002で、エラーブロックの参照マップを参照し、図4で説明したように、他のフレーム又は、他のブロックで参照されているかを判定する(ステップS2003)。ステップS2003がYESの場合は、再送要求をするが(ステップS2005)、NOの場合は再送要求しない(ステップS2004)。 FIG. 8 is a flowchart when an error occurs in the decoding apparatus. First, in step S2001, an error is detected. Next, in step S2002, the error block reference map is referred to, and as described with reference to FIG. 4, it is determined whether it is referenced in another frame or another block (step S2003). If YES in step S2003, a retransmission request is made (step S2005), but if NO, no retransmission request is made (step S2004).
本実施形態において、再送要求は、動画像信号(符号化フレーム)の伝送とは、別回線を使用して実施するが、送信部および使用回線については、送信側で再送要求を受信可能な形式であれば、基本的に任意である。 In the present embodiment, the retransmission request is implemented using a separate line from the transmission of the moving image signal (encoded frame), but for the transmission unit and the used line, a format that allows the transmission side to receive the retransmission request. If so, it is basically arbitrary.
本実施形態によれば、あるブロックが他のブロック又はフレームに参照されているかを示す参照マップを送信側で生成し、受信側へ符号化画像データと共に送信するように構成されているので、受信側の処理が軽減される。 According to the present embodiment, a reference map indicating whether a certain block is referenced by another block or frame is generated on the transmission side, and is transmitted to the reception side together with the encoded image data. Side processing is reduced.
本実施形態によれば、受信側において、エラーが発生した場合、対応する参照マップを参照することにより、エラーが発生したブロックが他のブロックから参照されているか否か、即ち、発生したエラーが伝搬するか否かを演算処理を行うことなく判定することができる。また、エラーが他のブロック又はフレームに波及するものだけを選択して再送要求することができるので、伝送路のトラフィック量を削減することも可能である。さらに、エラー検出から再送要求までの時間を短縮することも可能である。 According to the present embodiment, when an error occurs on the receiving side, by referring to the corresponding reference map, whether or not the block in which the error has occurred is referred to by another block, that is, the error that has occurred is determined. Whether or not to propagate can be determined without performing arithmetic processing. Further, since it is possible to make a retransmission request by selecting only an error that affects other blocks or frames, it is also possible to reduce the traffic amount of the transmission path. Furthermore, it is possible to shorten the time from error detection to retransmission request.
本実施形態によれば、送信側において、受信側からの再送要求を受信した場合、再送要求されたブロックはエラーが他のブロックへ波及するブロックであることが明らかであるため、送信側では、再送要求にしたがって、即時再送を実施するように構成されている。そのため、送信側が再送要求を受信してから再送するまでの時間を短縮することができる。 According to the present embodiment, when a retransmission request is received from the reception side on the transmission side, it is clear that the block requested to be retransmitted is a block in which an error spreads to other blocks. According to the retransmission request, an immediate retransmission is performed. Therefore, it is possible to reduce the time from when the transmission side receives a retransmission request until it is retransmitted.
本実施形態によれば、送信側では、再送要求を受信した時点で、これから再送を行う符号化フレームが、時間的に受信側で、正しく復号化され、正しい順序で表示されるか否かを判定している。そのため、再送しても受信側で破棄されたり、正しく復号化されないか、又は正しい順序で表示されないと判定された再送要求に対する再送は実施しないので、無駄な再送を実行することによる伝送路のトラフィックの増加を回避することが可能である。 According to the present embodiment, at the time of receiving the retransmission request, the transmitting side determines whether or not the encoded frame to be retransmitted from now on is correctly decoded and displayed in the correct order on the receiving side. Judgment. For this reason, retransmission is not performed for retransmission requests that are discarded on the receiving side even if they are retransmitted, are not correctly decoded, or are not displayed in the correct order. It is possible to avoid an increase in.
本実施形態では、あるブロックが他のブロック又はフレームに参照されているかを示す参照マップを説明したが、参照マップでなくても、他のブロック又はフレームに参照されているかを示す情報であれば、マップでなくてもよいのは言うまでもない。 In the present embodiment, the reference map indicating whether a certain block is referred to by another block or frame has been described. However, even if it is not a reference map, it may be information indicating whether it is referenced by another block or frame. Needless to say, it doesn't have to be a map.
<その他の実施形態>
本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記録媒体(または記憶媒体)を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。この場合、記録媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。
<Other embodiments>
An object of the present invention is to supply a recording medium (or storage medium) that records software program codes for realizing the functions of the above-described embodiments to a system or apparatus, and the computer of the system or apparatus (or CPU or MPU). Needless to say, this can also be achieved by reading and executing the program code stored in the recording medium. In this case, the program code itself read from the recording medium realizes the functions of the above-described embodiment, and the recording medium on which the program code is recorded constitutes the present invention.
また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。 Further, by executing the program code read by the computer, not only the functions of the above-described embodiments are realized, but also an operating system (OS) running on the computer based on the instruction of the program code. It goes without saying that a case where the function of the above-described embodiment is realized by performing part or all of the actual processing and the processing is included.
さらに、記録媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。 Furthermore, after the program code read from the recording medium is written into a memory provided in a function expansion card inserted into the computer or a function expansion unit connected to the computer, the function is determined based on the instruction of the program code. It goes without saying that the CPU or the like provided in the expansion card or the function expansion unit performs part or all of the actual processing and the functions of the above-described embodiments are realized by the processing.
本発明を上記記録媒体に適用する場合、その記録媒体には、先に説明したフローチャートに対応するプログラムコードが格納されることになる。 When the present invention is applied to the recording medium, program code corresponding to the flowchart described above is stored in the recording medium.
Claims (6)
前記ブロックがエラーである場合、前記参照情報に基づいて再送要求を行うかを判定する判定手段と、
前記判定結果に基づいて再送要求を行う再送要求手段を有することを特徴とする画像処理装置。 Receiving means for receiving encoded data encoded in units of blocks and reference information indicating whether the block is referenced when encoding another block;
When the block is in error, a determination unit that determines whether to perform a retransmission request based on the reference information;
An image processing apparatus comprising: a retransmission requesting unit that makes a retransmission request based on the determination result.
前記ブロックがエラーである場合、前記参照情報に基づいて再送要求を行うかを判定する判定工程と、
前記判定結果に基づいて再送要求を行う再送要求工程を有することを特徴とする画像処理装置における画像処理方法。 A receiving step of receiving encoded data encoded in units of blocks and reference information indicating whether the block is referred to when encoding another block;
If the block is in error, a determination step of determining whether to perform a retransmission request based on the reference information;
An image processing method in an image processing apparatus, comprising: a retransmission request step for making a retransmission request based on the determination result.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011168371A JP2011217416A (en) | 2011-08-01 | 2011-08-01 | Image processing apparatus and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011168371A JP2011217416A (en) | 2011-08-01 | 2011-08-01 | Image processing apparatus and method |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005189939A Division JP2007013419A (en) | 2005-06-29 | 2005-06-29 | Image processor and image processing method |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011217416A true JP2011217416A (en) | 2011-10-27 |
Family
ID=44946599
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011168371A Pending JP2011217416A (en) | 2011-08-01 | 2011-08-01 | Image processing apparatus and method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011217416A (en) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0799662A (en) * | 1993-09-28 | 1995-04-11 | Oki Electric Ind Co Ltd | Dynamic image signal transmission method |
JPH07322248A (en) * | 1994-05-30 | 1995-12-08 | Matsushita Electric Ind Co Ltd | Motion image data transmission method and transmitter |
JPH10234045A (en) * | 1997-02-21 | 1998-09-02 | Oki Electric Ind Co Ltd | Time-varying image communication equipment |
JPH1127645A (en) * | 1997-06-30 | 1999-01-29 | Nec Corp | Video telephone set |
-
2011
- 2011-08-01 JP JP2011168371A patent/JP2011217416A/en active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0799662A (en) * | 1993-09-28 | 1995-04-11 | Oki Electric Ind Co Ltd | Dynamic image signal transmission method |
JPH07322248A (en) * | 1994-05-30 | 1995-12-08 | Matsushita Electric Ind Co Ltd | Motion image data transmission method and transmitter |
JPH10234045A (en) * | 1997-02-21 | 1998-09-02 | Oki Electric Ind Co Ltd | Time-varying image communication equipment |
JPH1127645A (en) * | 1997-06-30 | 1999-01-29 | Nec Corp | Video telephone set |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6207116B2 (en) | Method and apparatus for encoding surveillance video | |
JPWO2007132539A1 (en) | Image compression apparatus, compression method and program, and image restoration apparatus, restoration method and program | |
JP5178311B2 (en) | Transmitting apparatus, transmitting apparatus control method, and program | |
CN103262543A (en) | Concealment of data loss for video decoding | |
US8705376B2 (en) | Image processing device and image processing method | |
WO2008146892A1 (en) | Moving image converting apparatus, moving image converting method, and moving image converting program | |
US20170272769A1 (en) | Decoding Frames | |
KR20080066706A (en) | Channel switch frame | |
WO2020237466A1 (en) | Video transmission method and apparatus, and aircraft, playback device, and storage medium | |
JP5197238B2 (en) | Video transmission apparatus, control method thereof, and program for executing control method | |
JP5784823B2 (en) | On-demand intra-refresh for end-to-end coded video transmission systems | |
JP5694674B2 (en) | Image coding apparatus, image coding / decoding system, image coding method, and image display method | |
JP2011217416A (en) | Image processing apparatus and method | |
JP2002027483A (en) | Picture coding system, picture decoding system, and storage media | |
JPH10322704A (en) | Bit stream data decoder | |
JP6182888B2 (en) | Image encoding device | |
JP2013214894A (en) | Image encoder | |
JP3130512B2 (en) | Image communication method, image communication system, and recording medium storing image communication program | |
JPH11341521A (en) | Coder for stereoscopic moving image | |
JP2011061287A (en) | Communication control device, communication control method, and communication control program | |
JP5550751B2 (en) | Video transmission apparatus, control method thereof, and program for executing control method | |
JP2016149770A (en) | Minimization system of streaming latency and method of using the same | |
JPH0775110A (en) | Encoding method for image signal | |
JP2003348588A (en) | Moving image encoding device and video transmission system | |
JP2002335528A (en) | Moving picture decoding device and its method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110801 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130710 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130716 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130909 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20140325 |