JP2009089356A - 画像処理装置、画像処理方法、およびプログラム - Google Patents

Abstract

【課題】特徴的な領域の画質を保ちつつ高圧縮率で圧縮することができる画像処理装置を提供すること。
【解決手段】画像処理装置は、入力画像から特徴領域を検出する特徴領域検出部と、前記入力画像から、画質を低画質にした低画質画像、および少なくとも前記特徴領域において前記低画質画像より高画質な特徴領域画像を生成する画像生成部と、前記特徴領域画像における前記特徴領域の画像と、前記低画質画像における前記特徴領域の画像との間の差分画像を示す特徴領域差分画像を生成する差分処理部と、前記特徴領域差分画像および前記低画質画像をそれぞれ符号化する符号化部とを備える。
【選択図】図２

Description

本発明は、画像処理装置、画像処理方法、およびプログラムに関する。本発明は、特に、画像を処理する画像処理装置および画像処理方法、並びに画像処理装置用のプログラムに関する。

高解像度の入力映像を縮小して得た低解像度の基本レイヤを符号化する一方、符号化時の分割領域を示す領域マップを算出して、入力映像と、基本レイヤ符号化映像を復号化した後、入力映像の解像度に拡大して得た映像との差分映像である拡張レイヤを領域マップに従って分割した後、分割領域毎にフレーム内符号化する映像送信装置が知られている（例えば、特許文献１参照。）。また、第１の低解像度画像中の画素について第２の低解像度画像からの動き量を求め、第２の低解像度画像に対応する第２の高解像度画像を動き量を用いて動き補償することにより動き補償画像を生成して、当該動き補償画像を第１の低解像度画像に対応する第１の高解像度画像とする画像処理方法が知られている（例えば、特許文献２参照。）。
特開２００５−１４２６５４号公報 特開２００７―９６７０９号公報

特許文献１の発明によると、注目領域の映像データを切り出して送信するので、特許文献１の発明により符号化された画像を表示するためには、切り出し処理に対応した特別な画像処理装置を要する。また、特許文献２の発明によると、注目領域を適切な解像度にすることができない。

上記課題を解決するために、本発明の第１の形態によると、画像処理装置であって、入力画像から特徴領域を検出する特徴領域検出部と、入力画像から、画質を低画質にした低画質画像、および少なくとも特徴領域において低画質画像より高画質な特徴領域画像を生成する画像生成部と、特徴領域画像における特徴領域の画像と、低画質画像における特徴領域の画像との間の差分画像を示す特徴領域差分画像を生成する差分処理部と、特徴領域差分画像および低画質画像をそれぞれ符号化する符号化部とを備える。

画像生成部は、入力画像から解像度が低減された低画質画像を生成し、差分処理部は、特徴領域画像における特徴領域の画像と、低画質画像における特徴領域の画像を拡大した画像との間の特徴領域差分画像を生成してよい。また、差分処理部は、特徴領域において特徴領域画像と拡大した画像との間の差分が空間周波数領域に変換された空間周波数成分を持ち、特徴領域以外の領域において空間周波数成分のデータ量が低減された特徴領域差分画像を生成してよい。

特徴領域検出部は、入力画像から特徴の種類が異なる複数の特徴領域を検出し、画像生成部は、一の特徴の種類を持つ特徴領域において解像度を低減することにより入力画像から一の特徴領域画像を生成するとともに、他の特徴の種類を持つ特徴領域において当該特徴領域画像より高解像度な他の特徴領域画像を入力画像から生成してよい。そして差分処理部は、一の特徴の種類を持つ特徴領域において一の特徴領域画像と拡大した画像との間の差分が空間周波数領域に変換された空間周波数成分を持ち、一の特徴の種類を持つ特徴領域以外の領域において空間周波数成分のデータ量が低減された特徴領域差分画像を生成するとともに、他の特徴の種類を持つ特徴領域において他の特徴領域画像と他の特徴領域画像における特徴領域を拡大した画像との間の差分が空間周波数領域に変換された空間周波数成分を持ち、他の特徴の種類を持つ特徴領域以外の領域において空間周波数成分のデータ量が低減された特徴領域間差分画像を生成してよい。そして、符号化部は、特徴領域差分画像、特徴領域間差分画像、および低画質画像をそれぞれ符号化してよい。

特徴領域検出部は、入力画像である動画に含まれる複数の動画構成画像から、特徴の種類が異なる複数の特徴領域を検出し、画像生成部は、複数の動画構成画像のそれぞれについて、一の特徴の種類を持つ特徴領域において解像度を低減することにより動画構成画像から一の特徴領域画像を生成するとともに、他の特徴の種類を持つ特徴領域において当該特徴領域画像より高解像度な他の特徴領域画像を動画構成画像から生成してよい。そして差分処理部は、画像生成部が複数の動画構成画像のそれぞれから生成した複数の特徴領域画像から、複数の特徴領域差分画像および複数の特徴領域間差分画像を生成し、符号化部は、複数の特徴領域差分画像を含む特徴領域差分動画、複数の特徴領域間差分画像を含む特徴領域間差分動画、および複数の低画質画像を含む低画質動画をそれぞれ符号化してよい。

本発明の第２の形態によると、画像処理方法であって、入力画像から特徴領域を検出する特徴領域検出段階と、入力画像から、画質を低画質にした低画質画像、および少なくとも特徴領域において低画質画像より高画質な特徴領域画像を生成する画像生成段階と、特徴領域画像における特徴領域の画像と、低画質画像における特徴領域の画像との間の差分画像を示す特徴領域差分画像を生成する差分処理段階と、特徴領域差分画像および低画質画像をそれぞれ符号化する符号化段階とを備える。

本発明の第３の形態によると、画像処理装置用のプログラムであって、画像処理装置を、入力画像から特徴領域を検出する特徴領域検出部、入力画像から、画質を低画質にした低画質画像、および少なくとも特徴領域において低画質画像より高画質な特徴領域画像を生成する画像生成部、特徴領域画像における特徴領域の画像と、低画質画像における特徴領域の画像との間の差分画像を示す特徴領域差分画像を生成する差分処理部、特徴領域差分画像および低画質画像をそれぞれ符号化する符号化部として機能させる。

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。

図１は、一実施形態に係る画像処理システム１０の一例を示す。画像処理システム１０は、特徴的な被写体の画質を高画質に保ちつつ画像のデータ量を低減することを目的とする。

画像処理システム１０は、監視対象空間１５０を撮像する複数の撮像装置１００ａ−ｃ（以下、撮像装置１００と総称する。）、画像を処理する複数の画像処理装置１２０ａ−ｃ（以下、画像処理装置１２０と総称する。）、画像処理装置１７０、通信ネットワーク１１０、および複数の表示装置１８０ａ−ｃ（以下、表示装置１８０と総称する。）を備える。

画像処理装置１２０ａは、撮像装置１００ａに接続されている。また、画像処理装置１２０ｂは、撮像装置１００ｂに接続されている。また、画像処理装置１２０ｃは、撮像装置１００ｃに接続されている。なお、画像処理装置１７０および表示装置１８０は、監視対象空間１５０と異なる空間１６０に設けられている。

以下に、撮像装置１００ａ、画像処理装置１２０ａ、画像処理装置１７０、および表示装置１８０ａの動作を説明する。撮像装置１００ａは、監視対象空間１５０を撮像して得られた撮像動画をＭＰＥＧ符号化して撮像動画データを生成して、撮像装置１００ａが接続されている画像処理装置１２０ａに出力する。

具体的には、撮像装置１００ａは、撮像部１０２ａおよび撮像動画圧縮部１０４ａを有する。撮像部１０２ａは、監視対象空間１５０を撮像することにより、撮像動画に含まれる複数の動画構成画像を生成する。なお、撮像部１０２ａは、ＲＡＷ形式の動画構成画像を生成してよい。撮像動画圧縮部１０４ａは、撮像部１０２ａにより生成されたＲＡＷ形式の動画構成画像を同時化して、同時化して得られた複数の動画構成画像を含む撮像動画をＭＰＥＧ符号化等により圧縮することにより、撮像動画データを生成する。

画像処理装置１２０ａは、撮像装置１００ａが生成した撮像動画データを取得する。画像処理装置１２０は、撮像装置１００から取得した撮像動画データを復号して撮像動画を生成して、生成した撮像動画から人物１３０、車輌等の移動物体１４０等、特徴の種類が異なる複数の特徴領域を検出する。そして、画像処理装置１２０ａは、撮像動画から、特徴の種類のそれぞれについて特徴領域が他の領域より高画質な動画を生成することによって、複数の特徴領域動画を生成する。また、画像処理装置１２０ａは、特徴領域以外の領域を含む、特徴領域動画より低画質な低画質動画を生成する。

そして、画像処理装置１２０ａは、生成した複数の特徴領域動画および低画質動画をそれぞれ符号化することによって複数の特徴領域動画データおよび低画質動画データを生成する。同時に、画像処理装置１２０ａは、符号化して得られた複数の特徴領域動画データおよび低画質動画データを多重化して、通信ネットワーク１１０を通じて画像処理装置１７０に送信する。

画像処理装置１７０は、画像処理装置１２０ａから受信した関連付けされた複数の特徴領域動画データおよび低画質動画データをそれぞれ復号することによって、複数の特徴領域動画および低画質動画を取得する。そして、画像処理装置１７０は、複数の特徴領域動画および低画質動画を合成することによって一の合成動画を生成して、生成した合成動画を表示装置１８０ａに供給する。表示装置１８０ａは、画像処理装置１７０から供給された合成動画を表示する。

なお、画像処理装置１７０は、生成した合成動画または画像処理装置１２０ａから取得した撮像動画データを画像ＤＢ１７５に記録してもよい。そして、画像処理装置１７０は、画像ＤＢ１７５に記録された合成動画を、表示装置１８０ａからの要求に応じて表示装置１８０ａに供給してよい。また、画像処理装置１７０は、表示装置１８０ａからの要求に応じて、画像ＤＢ１７５に記録された撮像動画データを上述したように復号して表示装置１８０ａに供給してもよい。なお、画像ＤＢ１７５は、一例としてハードディスク等の不揮発性の記録媒体を有してよく、画像処理装置１７０から供給された合成動画を当該記録媒体に記録してよい。

なお、撮像装置１００ｂおよび撮像装置１００ｃは、撮像部１０２ａが有する構成要素と同様の機能を有する構成要素を有している。撮像装置１００ｂおよび撮像装置１００ｃの機能および動作は、それぞれ画像処理装置１２０ｂおよび画像処理装置１２０ｃに撮像動画データを提供することを除いて、撮像装置１００ａの機能および動作と同様であるので、その説明を省略する。また、画像処理装置１２０ｂおよび画像処理装置１２０ｃの機能および動作は、それぞれ撮像装置１００ｂおよび撮像装置１００ｃから撮像動画データを取得することを除いて、画像処理装置１２０ａの機能および動作と同様であるので、説明を省略する。なお、以下の説明では、撮像部１０２ａ〜ｃを撮像部１０２と総称する場合があり、撮像動画圧縮部１０４ａ〜ｃを撮像動画圧縮部１０４と総称する場合がある。

また、画像処理装置１７０は、撮像装置１００ｂおよび撮像装置１００ｃのそれぞれから受信した関連付けされた複数の特徴領域動画データおよび低画質動画データから、一の動画をそれぞれ生成して、それぞれ表示装置１８０ｂおよび表示装置１８０ｃに供給する。また、表示装置１８０ｂおよび表示装置１８０ｃは、画像処理装置１７０から供給されたそれぞれの動画を表示する。

本実施形態の画像処理システム１０によると、人物、移動物体等、監視対象として特徴的な被写体を高画質で残すことができる監視システムを提供することができる。そのうえ、動画のデータ量を低減することができる。

図２は、画像処理装置１２０のブロック構成の一例を示す。画像処理装置１２０は、圧縮動画取得部２０１、圧縮動画伸張部２０２、入力動画画質制御部２８０、画質低減部２８１、階層間差分圧縮部２８２ａ−ｄ（以下、階層間差分圧縮部２８２と総称する。）、および出力部２０７を備える。

圧縮動画取得部２０１は、圧縮された動画を取得する。具体的には、圧縮動画取得部２０１は、撮像装置１００が生成した、符号化された撮像動画データを取得する。圧縮動画伸張部２０２は、圧縮動画取得部２０１が取得した動画を復元して、動画に含まれる複数の動画構成画像を生成する。

具体的には、圧縮動画伸張部２０２は、圧縮動画取得部２０１が取得した撮像動画データを復号して、動画に含まれる複数の動画構成画像を生成する。なお、動画構成画像はフレーム画像およびフィールド画像を含む。また、動画構成画像は、この発明における入力画像の一例である。

特徴領域検出部２０３は、動画に含まれる複数の動画構成画像から、特徴領域を検出する。入力動画画質制御部２８０は、圧縮動画伸張部２０２が生成した複数の動画構成画像のそれぞれにおける特徴領域の特徴量に応じて、特徴領域の画質および特徴領域以外の領域の画質を制御する。なお、入力動画画質制御部２８０の機能および動作については、図５に関連してより詳しく説明する。

画質低減部２８１は、動画の画質を低減することによって、予め定められた異なる画質を持つ複数の動画を生成する。そして、画質低減部２８１は、生成した画質が異なる動画を階層間差分圧縮部２８２に提供する。具体的には、画質低減部２８１は、動画のフレームレートを低減することにより、あるいは動画に含まれる動画構成画像の解像度または階調を低減することにより、異なる画質を持つ動画を生成する。そして、階層間差分圧縮部２８２は、予め定められた画質の動画を画質低減部２８１から取得して、取得した動画を圧縮する。なお、階層間差分圧縮部２８２は、互いに異なる画質の動画を圧縮する。

なお、画質低減部２８１が階層間差分圧縮部２８２ａに供給する動画に含まれる動画構成画像は、この発明における低画質画像の一例であってよい。また、画質低減部２８１が階層間差分圧縮部２８２ｂ−ｄに供給する動画に含まれる動画構成画像は、この発明における特徴領域画像の一例であってよい。この場合、画質低減部２８１および入力動画画質制御部２８０は、この発明における画像生成部として機能する。

なお、階層間差分圧縮部２８２ａは、階層間差分圧縮部２８２ｂ−ｄのいずれが受け取る動画構成画像より解像度が低い動画構成画像を画質低減部２８１から取得して圧縮する。なお、階層間差分圧縮部２８２は、階層間差分圧縮部２８２ｂ、階層間差分圧縮部２８２ｃ、および階層間差分圧縮部２８２ｄの順で解像度が低い動画構成画像を画質低減部２８１から取得して圧縮する。

階層間差分圧縮部２８２ｂは、階層間差分圧縮部２８２ａが圧縮した動画構成画像を伸張して、伸張して得られた動画構成画像を、画質低減部２８１から取得した動画構成画像の解像度と同じ解像度にまで拡大する。そして、階層間差分圧縮部２８２ｂは、拡大して得られた動画構成画像と画質低減部２８１から取得した動画構成画像との間の差分画像を圧縮する。なお、階層間差分圧縮部２８２ｂは、特徴領域において差分値を持つが、特徴領域以外の領域において差分値を持たない差分画像を生成して圧縮する。

また、階層間差分圧縮部２８２ｃは、階層間差分圧縮部２８２ｂが圧縮した動画構成画像を伸張して、伸張して得られた動画構成画像を、画質低減部２８１から取得した動画構成画像の解像度と同じ解像度にまで拡大する。そして、階層間差分圧縮部２８２ｃは、拡大して得られた動画構成画像と画質低減部２８１から取得した動画構成画像との間の差分画像を圧縮する。なお、階層間差分圧縮部２８２ｃは、特徴領域の特徴量に応じて、複数の特徴領域のうちの少なくとも一部の特徴領域において差分値を持つが、当該少なくとも一部の特徴領域以外の領域において差分値を持たない差分画像を生成して圧縮する。

また、階層間差分圧縮部２８２ｄは、階層間差分圧縮部２８２ｃが圧縮した動画構成画像を伸張する。そして、階層間差分圧縮部２８２ｄは、伸張して得られた動画構成画像を、入力動画画質制御部２８０から取得した動画構成画像の解像度と同じ解像度にまで拡大する。そして、階層間差分圧縮部２８２ｄは、拡大して得られた動画構成画像と入力動画画質制御部２８０から取得した動画構成画像との間の差分画像を圧縮する。なお、階層間差分圧縮部２８２ｄは、特徴領域の特徴量に応じて、複数の特徴領域のうちの少なくとも一部の特徴領域において差分値を持つが、当該少なくとも一部の特徴領域以外の領域において差分値を持たない差分画像を生成して圧縮する。

このように、階層間差分圧縮部２８２ｂ−ｄは、入力動画画質制御部２８０または画質低減部２８１から受け取った動画構成画像と、より低い解像度の動画構成画像を拡大した動画構成画像との間の差分をとることによって得られた差分画像を圧縮する。そして、出力部２０７は、階層間差分圧縮部２８２のそれぞれが圧縮して得られた動画を多重化して出力する。具体的には、出力部２０７は、階層間差分圧縮部２８２が圧縮した動画を画像処理装置１７０に送信する。このように、画像処理装置１２０は、特徴領域の特徴量に応じてスケーラブルに圧縮符号化された動画を提供することができる。

図３は、階層間差分圧縮部２８２ａおよびｂのブロック構成の一例を示す。階層間差分圧縮部２８２ａは、動き解析部２８５ａ、動き符号化部２８６ａ、差分処理部２８７ａ、および符号化部２８８ａを有する。動き解析部２８５ａは、差分対象領域決定部２９４ａおよび位置差情報生成部２９５ａを含む。差分処理部２８７ａは、差分画素画像生成部２９６ａ、空間周波数領域変換部２９７ａ、および量子化部２９８ａを含む。

階層間差分圧縮部２８２ｂは、動き解析部２８５ｂ、動き符号化部２８６ｂ、差分処理部２８７ｂ、画像拡大部２９３ｂ、画像復号部２９２ｂ、および符号化部２８８ｂを有する。動き解析部２８５ｂは、差分対象領域決定部２９４ｂおよび位置差情報生成部２９５ｂを含む。差分処理部２８７ｂは、差分画素画像生成部２９６ｂ、空間周波数領域変換部２９７ｂ、量子化部２９８ｂ、および周波数領域画質変換部２９９ｂを含む。なお、階層間差分圧縮部２８２ｃおよび階層間差分圧縮部２８２ｄは、階層間差分圧縮部２８２ｂが有する構成要素と略同一の構成要素を有するので、説明を省略する。

以下に、階層間差分圧縮部２８２ａの各構成要素の機能および動作について説明する。動き解析部２８５ａは、画質低減部２８１から受け取った複数の動画構成画像の画像内容に基づいて、複数の動画構成画像にわたる動きを解析することによって、動きに基づいて動画構成画像を圧縮する部分領域を決定する。

具体的には、差分対象領域決定部２９４ａは、複数の動画構成画像にわたる部分領域の画素値に基づいて、動画構成画像を他の動画構成画像との差分により圧縮する場合における、差分対象となる他の動画構成画像における部分領域を決定する。差分対象領域決定部２９４ａは、圧縮対象の部分領域の画素情報および差分対象の部分領域の画素情報を差分処理部２８７ａに供給する。

また、位置差情報生成部２９５ａは、差分により圧縮する部分領域と差分対象となる部分領域との間の位置差を示す位置差情報を生成する。具体的には、位置差情報生成部２９５ａは、動き補償に用いる動きベクトルを生成する。そして、位置差情報生成部２９５ａは、生成した位置差情報を動き符号化部２８６ａに供給する。

動き符号化部２８６ａは、位置差情報生成部２９５ａから供給された位置差情報を符号化して、出力部２０７に供給する。例えば、動き符号化部２８６は、隣接する部分領域における位置差情報との間の差を符号化して、出力部２０７に供給する。

差分処理部２８７ａは、動き解析部２８５ａから受け取った圧縮対象の部分領域の画素情報と差分対象の部分領域の画素情報との間の差分により、圧縮対象の部分領域の画像を圧縮する。具体的には、差分画素画像生成部２９６ａは、圧縮対象の部分領域の画素情報と差分対象の部分領域の画素情報との間の差分により差分画素画像を生成する。

そして、空間周波数領域変換部２９７ａは、差分画素画像を部分領域毎に空間周波数領域に変換する。具体的には、空間周波数領域変換部２９７ａは、離散コサイン変換（ＤＣＴ）により、差分画素画像における部分領域毎に空間周波数領域に変換する。なお、空間周波数領域変換部２９７ａは、アダマール変換あるはウェーブレット変換等のような種々の周波数変換により、差分画素画像を部分領域毎に空間周波数領域に変換してよい。

なお、動き解析部２８５ａが他の動画構成画像の部分領域との間の差分により圧縮しない旨を判断した場合には、差分処理部２８７ａは圧縮対象の部分領域の画素情報を空間周波数領域変換部２９７ａに供給する。空間周波数領域変換部２９７ａは画素情報を、上記のように部分領域毎に空間周波数領域に変換する。

量子化部２９８ａは、空間周波数領域変換部２９７ａが空間周波数領域に変換することによって得られた変換係数を量子化する。そして、符号化部２８８ａは、量子化部２９８ａによって量子化された変換係数を符号化することによって圧縮する。例えば、符号化部２８８は、量子化部２９８ａによって量子化された変換係数を、ハフマン符号化、算術符号化等のエントロピー符号化により符号化する。そして、符号化部２８８ａは、符号化することによって得られた動画を出力部２０７に供給する。

以下に、階層間差分圧縮部２８２ｂが含む各構成要素の機能および動作について説明する。階層間差分圧縮部２８２ｂが含む構成要素のうち、階層間差分圧縮部２８２ａが含む構成要素と同一の符号が付された構成要素は、階層間差分圧縮部２８２ａが含む構成要素と類似する機能および動作をするので、その相違点を除いて説明を省略する。

差分対象領域決定部２９４ｂは、差分対象領域決定部２９４ａと同様に、画質低減部２８１から受け取った複数の動画構成画像のそれぞれについて、動画構成画像に含まれる圧縮対象の部分領域と差分をとるべき、他の動画構成画像における部分領域を特定する。このように、差分対象領域決定部２９４ｂは、特徴領域画像との間で差分をとるべき、他の動画構成画像から生成された特徴領域画像における部分領域である特徴領域部分領域を決定する。そして、差分対象領域決定部２９４ｂは、圧縮対象の部分領域の画素情報および差分対象の部分領域の画素情報を画素値変更部２９１ｂに供給する。

また、画像復号部２９２ｂは、符号化部２８８ａから動画構成画像を取得するとともに、動き符号化部２８６ａから位置差情報を取得する。そして、画像復号部２９２ｂは、符号化部２８８ａから取得した動画構成画像を、動き符号化部２８６ａから取得した位置差情報を用いて復号する。なお、画像復号部２９２ｂは、量子化部２９８ａにより量子化された動画構成画像を取得して復号してよく、符号化部２８８ａが符号化した動画構成画像を取得して復号してもよい。なお、画像復号部２９２ｂによって復号されて得られた動画構成画像は、この発明における低画質画像の一例であってよい。この場合、階層間差分圧縮部２８２ａは、この発明における低画質画像を生成する画像生成部として機能する。

画像拡大部２９３ｂは、画像復号部２９２ｂにより復号された動画構成画像を拡大することによって拡大画像を生成する。そして、画素値変更部２９１ｂは、差分対象領域決定部２９４ｂが決定した部分領域のうち、特徴領域を含む部分領域の画素値を変更せずに、特徴領域に含まれない部分領域の画素値を、拡大画像における部分領域の画素値で置き換える。

このように、画素値変更部２９１ｂは、入力された動画構成画像から、特徴領域以外の領域の画素値を拡大した画像の画素値で置き換えた特徴領域画像を生成する。なお、画素値変更部２９１ｂは、この発明において、特徴領域以外の領域の画素値を拡大した画像の画素値で置き換えた特徴領域画像を生成する画像生成部として機能することができる。

差分処理部２８７ｂは、圧縮対象の特徴領域画像、特徴領域画像に含まれる部分領域の差分対象となる部分領域の画像情報、および拡大画像を、画素値変更部２９１ｂから受け取る。そして、差分処理部２８７ｂは、圧縮対象の特徴領域画像に含まれる複数の部分領域のそれぞれについて、同じ特徴領域画像の画素情報を用いて符号化するか（以下、イントラ符号化と呼ぶ。）、他の動画構成画像に含まれる差分対象の部分領域との間の差分により符号化するか（以下、インター符号化と呼ぶ。）、拡大画像との間の差分により符号化するか（以下、階層間圧縮と呼ぶ。）を決定する。このとき、差分処理部２８７ｂは符号化後の符号量がより小さい符号化方法をより優先して選択する。特徴領域以外の領域において差分を持たないように画素値が置き換えられているので階層間符号化が選択されるので階層間符号化が選択された場合についてまず説明するが、加えて、インター符号化、イントラ符号化が選択された場合についても説明する。

階層間符号化が選択された場合には、差分画素画像生成部２９６ｂは、特徴領域画像と拡大画像との間の画素値の差分を示す差分画素画像を生成する。具体的には、差分画素画像生成部２９６ｂは、特徴領域以外の領域の画素値が置き換えられた特徴領域画像と拡大画像との間の差分により差分画素画像を生成する。なお、特徴領域画像においては特徴領域以外の領域の画素値は拡大画像の画素値で置き換えられているので、差分画素画像生成部２９６ｂは、特徴領域において特徴領域画像と拡大した画像との間の画素値の差分値を持ち、特徴領域以外の領域において画素値の差分値を持たない差分画素画像を生成することができる。

インター符号化が選択された場合には、差分画素画像生成部２９６ｂは、画素値変更部２９１ｂにより生成された特徴領域画像と、他の動画構成画像から画素値変更部２９１ｂが生成した特徴領域画像との間の差分をとる。具体的には、差分画素画像生成部２９６ｂは、特徴領域に含まれる部分領域の画像と、当該部分領域について差分対象領域決定部２９４ｂが決定した差分対象部分領域の画像との間の差分をとる。特徴領域画像においては特徴領域以外の領域の画素値は拡大画像の画素値で置き換えられているので、差分画素画像生成部２９６ｂは、特徴領域に含まれる部分領域において差分対象領域決定部２９４ｂが決定した部分領域との間の画素値の差分値を持ち、特徴領域以外の領域において差分対象領域決定部２９４ｂが決定した部分領域との間で画素値の差分値を持つ差分画素画像が生成される。

なお、イントラ符号化が選択された場合には、差分画素画像生成部２９６ｂは、特徴領域画像のそれぞれが含む部分領域の画像を、特徴領域画像の他の領域の画素値または同じ部分領域の画素値との間で差分をとることにより、差分画素画像を生成する。

空間周波数領域変換部２９７ｂは、差分画素画像を、部分領域毎に空間周波数領域に変換する。具体的には、空間周波数領域変換部２９７ｂは、差分画素画像が示す差分値を、空間周波数領域変換部２９７ａと同様に、離散コサイン変換（ＤＣＴ）、アダマール変換、またはウェーブレット変換等により、部分領域毎に空間周波数領域に変換する。量子化部２９８ｂは、量子化部２９８ａと同様に、空間周波数領域変換部２９７ｂが空間周波数領域に変換することによって得られた変換係数を量子化する。

そして、周波数領域画質変換部２９９ｂは、空間周波数領域変換部２９７ｂにより空間周波数領域に変換されて得られる部分領域毎の空間周波数成分のうち、特徴領域以外の領域を含む少なくとも一部の部分領域の空間周波数成分のデータ量を低減することによって、特徴領域差分画像または特徴領域間差分画像を生成する。具体的には、周波数領域画質変換部２９９ｂは、予め定められた周波数より高い周波数成分を示す変換係数の大きさを低減する。周波数領域画質変換部２９９ｂは、予め定められた周波数より高い周波数成分を示す変換係数を０にしてもよい。

このように、差分処理部２８７ｂは、特徴領域において特徴領域画像と拡大した画像との間の差分が空間周波数領域に変換された空間周波数成分を持ち、特徴領域以外の領域において空間周波数成分のデータ量が低減された特徴領域差分画像を生成する。そして、符号化部２８８ｂは、差分処理部２８７ｂが生成した特徴領域差分画像を符号化する。

また、上記したように、差分処理部２８７ｂは、特徴領域画像における特徴領域の画像と、低画質画像における特徴領域の画像との間の差分画像を示す特徴領域差分画像を生成する。より具体的には、差分処理部２８７は、特徴領域画像における特徴領域の画像と、低画質画像における特徴領域の画像を拡大した画像との間の特徴領域差分画像を生成する。

なお、位置差情報生成部２９５ｂは、特徴領域以外の領域に含まれる、差分対象となる部分領域の位置差を示す位置差情報を生成する。具体的には、位置差情報生成部２９５ｂは、位置差情報生成部２９５ａと同様に、差分により圧縮する部分領域と差分対象となる部分領域である差分対象部分領域との間の位置差を示す位置差情報を生成する。なお、位置差情報は、動き補償における動きベクトルを含む。

位置差情報変更部２９０ｂは、特徴領域以外の領域に含まれる部分領域が同じ位置の部分領域との間で差分がとられることを位置差情報が示すべく、位置差情報を変更する。具体的には、位置差情報変更部２９０ｂは、特徴領域以外の領域に含まれる部分領域における位置差情報を、位置差がないことを示す情報に変換する。また、位置差情報変更部２９０ｂは、動き符号化部２８６ａから位置差情報を取得して、特徴領域以外の領域に含まれる部分領域における位置差情報を、位置差ないことを示す情報に変換する。具体的には、位置差情報変更部２９０ｂは、特徴領域以外の領域における動きベクトルの大きさを０にする。具体的には、位置差情報変更部２９０ｂは、特徴領域以外の領域について、位置差情報生成部２９５ｂから受け取った動きベクトルの大きさを０にするとともに、動き符号化部２８６ａから受け取った動きベクトルの大きさを０にする。

そして、動き符号化部２８６ｂは、位置差情報を符号化する。具体的には、動き符号化部２８６ｂは、動き符号化部２８６ａと同様に、隣接する部分領域における位置差情報との間の差を符号化する。動き符号化部２８６ｂにより符号化された位置差情報は、出力部２０７に供給される。

なお、本実施形態では、位置差情報変更部２９０ｂは、特徴領域以外の領域の位置差情報を変換したが、位置差情報変更部２９０ｂは、動き符号化部２８６ｂにより符号化された符号化形式上で、特徴領域以外の領域の位置差情報を変換してもよい。すなわち、位置差情報変更部２９０ｂは、特徴領域以外の部分領域が同じ位置の部分領域との間で差分がとられることを示すべく、動き符号化部２８６ｂにより符号化された位置差情報を変更してもよい。

なお、符号化部２８８ｂは、特徴領域以外の領域における差分情報を持たない符号化データを生成してよい。具体的には、特徴領域以外の領域に含まれる部分領域の差分情報を持たない符号化データを生成してよい。また、動き符号化部２８６ｂは、特徴領域以外の領域に含まれる部分領域における位置差情報を持たない符号化データを生成してよい。このように、符号化部２８８ｂおよび動き符号化部２８６ｂは、特徴領域以外の領域の画像内容が他の動画構成画像における同じ領域の画像内容と同じであることを、差分情報および位置差情報を持たないことによって示す符号化データを生成する。例えば、符号化部２８８ｂおよび動き符号化部２８６ｂは、特徴領域以外の領域に含まれる部分領域の画像内容が他の動画構成画像における同じ領域の画像内容と同じであることを示す部分領域の種別を含む符号化データを生成してよい。

例えば、符号化部２８８ｂおよび動き符号化部２８６ｂは、特徴領域以外の領域に含まれる部分領域が、単純フレーム間予測であり、かつ変換係数を持たないことを示す符号化モードで符号化された部分領域であることを示す部分領域の種別を含む符号化データを生成してよい。例えば、当該部分領域の種別は、ＭＰＥＧ符号化におけるＮｏｎＭＣ ＮｏｔＣｏｄｅｄに相当する種別であってよい。このように、符号化部２８８ｂおよび動き符号化部２８６ｂが動きベクトルの大きさおよび差分情報が０であることを示す情報を持たない符号化データを生成することにより、符号化後の動画構成画像の符号量をより低減することができる。なお、階層間差分圧縮部２８２ｂは、上記符号化モードを含む予測モードを決定する場合に、ラグランジェの未定乗数法に基づいて、レート・歪コストを最小化することができる予測モードを選択してよい。

なお、階層間差分圧縮部２８２ｃおよび階層間差分圧縮部２８２ｄは、階層間差分圧縮部２８２ｂと同様の機能を有する構成要素を有する。なお、以後の説明において、階層間差分圧縮部２８２ｃおよび階層間差分圧縮部２８２ｄが有する、階層間差分圧縮部２８２と同名の構成要素には同じ符号を付す。そして、符号の末尾（ｂ、ｃ、ｄ）により、階層間差分圧縮部２８２ｂ−ｄのいずれに含まれる構成要素であるかを区別する。

例えば、動き解析部２８５ｃは階層間差分圧縮部２８２ｃが有する構成要素の一つであって、動き解析部２８５ｄは階層間差分圧縮部２８２ｄが有する構成要素の一つとなる。なお、以下の説明において、符号の末尾に英文字が付されていない構成要素は、階層間差分圧縮部２８２ｂ−ｄが有する当該符号が付された構成要素の全体を示す。例えば、画素値変更部２９１は、画素値変更部２９１ｂ−ｄを示す。

なお、階層間差分圧縮部２８２ｃおよび階層間差分圧縮部２８２ｄの機能および動作と、階層間差分圧縮部２８２ｂの機能および動作は、画質低減部２８１から異なる画質の動画を取得して処理すること、および位置差情報変更部２９０ｃおよびｄ、ならびに画像復号部２９２ｃおよびｄが、より画質が低い動画を処理する他の階層間差分圧縮部２８２から、差分のための位置差情報および動画構成画像を取得するところが異なる。

より具体的には、位置差情報変更部２９０ｃは、動き符号化部２８６ｂから位置差情報を取得して、取得した位置差情報を変換する。また、画像復号部２９２ｃは、動き符号化部２８６ｂから位置差情報を取得するとともに、符号化部２８８ｂから動画構成画像を取得して、取得した動画構成画像を当該位置差情報を用いて復号する。また、位置差情報変更部２９０ｄは、動き符号化部２８６ｃから位置差情報を取得して、取得した位置差情報を変換する。また、画像復号部２９２ｄは、動き符号化部２８６ｃから位置差情報を取得するとともに、符号化部２８８ｃから動画構成画像を取得して、取得した動画構成画像を当該位置差情報を用いて復号する。

なお、特徴領域検出部２０３は、入力された動画構成画像から特徴の種類が異なる複数の特徴領域を検出する。この場合、画質低減部２８１は、一の特徴の種類を持つ特徴領域において解像度を低減することにより入力画像から一の特徴領域画像を生成するとともに、他の特徴の種類を持つ特徴領域において当該特徴領域画像より高解像度な他の特徴領域画像を入力画像から生成する。そして、階層間差分圧縮部２８２ｂ−ｃは、特徴領域の種類毎に容易されており、少なくとも予め定められた種類の特徴領域において、特徴領域以外の領域との間で解像度の差を持つ特徴領域画像を処理する。

具体的には、階層間差分圧縮部２８２ｂは、全ての特徴領域を含む領域において、最も低い解像度を持つ低解像度特徴領域画像を処理する。階層間差分圧縮部２８２ｃは、予め定められた種類の特徴領域において低解像度特徴領域画像より解像度が高い中解像度特徴領域画像を処理する。そして、階層間差分圧縮部２８２ｄは、予め定められた他の種類の特徴領域において高い解像度を持つ高解像度特徴領域画像を処理する。

このように、差分処理部２８７は、一の特徴の種類を持つ特徴領域および他の特徴の種類を持つ特徴領域において一の特徴領域画像と拡大した画像との間の差分が空間周波数領域に変換された空間周波数成分を持ち、一の特徴の種類を持つ特徴領域および他の特徴の種類を持つ特徴領域以外の領域において空間周波数成分のデータ量が低減された特徴領域差分画像を生成する。

このように、差分処理部２８７は、一の特徴の種類を持つ特徴領域において一の特徴領域画像と拡大した画像との間の差分が空間周波数領域に変換された空間周波数成分を持ち、一の特徴の種類を持つ特徴領域以外の領域において空間周波数成分のデータ量が低減された特徴領域差分画像を生成するとともに、他の特徴の種類を持つ特徴領域において他の特徴領域画像と他の特徴領域画像における特徴領域を拡大した画像との間の差分が空間周波数領域に変換された空間周波数成分を持ち、他の特徴の種類を持つ特徴領域以外の領域において空間周波数成分のデータ量が低減された特徴領域間差分画像を生成する。

符号化部２８８は、特徴領域差分画像、特徴領域間差分画像、および低画質画像をそれぞれ符号化する。そして、出力部２０７は、動き符号化部２８６ａ−ｄにより符号化された位置差情報および符号化部２８８ａ−ｄにより符号化された動画構成画像（例えば、低画質画像、特徴領域差分画像、および特徴領域間差分画像）を、多重化して出力する。

以上説明したように、階層間差分圧縮部２８２ａは、特徴領域を含む全画像領域を低画質化した動画構成画像、いわば入力された動画構成画像の低空間周波数成分を有する動画構成画像を生成する。そして、階層間差分圧縮部２８２ｂは、階層間差分圧縮部２８２ａよりも高い周波数成分を有する動画構成画像であって、階層間差分圧縮部２８２ｃよりも低い周波数成分を有する動画構成画像を生成する。そして、階層間差分圧縮部２８２ｂは、特徴領域以外の領域において、階層間差分圧縮部２８２ａが生成した動画構成画像に対する差分値が低減された動画構成画像を生成する。

同様に、階層間差分圧縮部２８２ｃは、階層間差分圧縮部２８２ｂよりも高い周波数成分を有する動画構成画像であって、階層間差分圧縮部２８２ｄよりも低い周波数成分を有する動画構成画像を生成する。そして、階層間差分圧縮部２８２ｄは、階層間差分圧縮部２８２ｃよりも高い周波数成分を有する動画構成画像を生成する。そして、階層間差分圧縮部２８２ｃおよび階層間差分圧縮部２８２ｄは、特徴領域以外の領域において、それぞれ階層間差分圧縮部２８２ｂおよびｃが生成した動画構成画像に対する差分値が低減された動画構成画像を生成する。

このように、階層間差分圧縮部２８２ｂ−ｄのそれぞれは、予め定められた特徴の種類を持つ特徴領域について、他の領域より高い画質の動画を処理することによって、特徴の種類に応じて画質が異なる動画を外部に提供することができる。このとき、階層間差分圧縮部２８２ｂ−ｄは、他の階層間差分圧縮部２８２が処理する低画質の動画構成画像との間の差分により圧縮するので、効率的に圧縮することができる。

なお、特徴領域検出部２０３は、複数の特徴領域のそれぞれの特徴量を検出した場合に、特徴領域として検出した信頼性の度合いを示す確信度を複数の特徴領域毎に算出してよい。そして、階層間差分圧縮部２８２ｂ−ｄは、複数の特徴領域のそれぞれの特徴量および信頼度に応じて解像度が調整された特徴領域の画像を圧縮する。例えば、画質低減部２８１は、複数の特徴領域のそれぞれの画像を、それぞれの特徴量および信頼度に応じて解像度を調整して、階層間差分圧縮部２８２に供給してよい。例えば、画質低減部２８１は、複数の特徴領域のそれぞれの画像を、信頼度が低いほど、特徴量に応じて予め定められた解像度より高い解像度にしてよい。

なお、画像処理装置１２０は、上記のように解像度が異なる複数の階層間の画像の差分を符号化することによって階層的に符号化する。このことから明らかなように、画像処理装置１２０による圧縮方式の一部は、Ｈ．２６４／ＳＶＣによる圧縮方式を含むことが明らかである。

なお、画像処理装置１７０は、階層間差分圧縮部２８２ａ−ｄのそれぞれにより圧縮された複数の動画構成画像を取得する。そして、画像処理装置１７０は、取得した複数の動画構成画像をそれぞれ復号する。そして、画像処理装置１７０は、復号することにより得られた複数の動画構成画像を重ね合わせることにより一の合成画像を生成する。そして、画像処理装置１７０は、生成した合成画像を動画構成画像として含む動画を、表示装置１８０に供給する。

なお、特徴領域検出部２０３は、上記の人物の顔、人体の他に、人物の頭部の一部の部位または人物の手等の人体の一部の部位、あるいは人体以外の生体の少なくとも一部の部位が撮像されている領域を、ＲＯＩとして検出することができる。なお、生体とは、生体内部の腫瘍組織または血管等のように、生体の内部に存在する特定の組織を含む。他にも、特徴領域検出部２０３は、生体の他にも、貨幣、キャッシュカード等のカード、車輌、あるいは車両のナンバープレートが撮像された領域をＲＯＩとして検出してよい。

また、特徴領域検出部２０３は、テンプレートマッチング等によるパターンマッチングの他にも、例えば特開２００７−１８８４１９号公報に記載された機械学習（例えば、アダブースト）等による学習結果に基づいて、ＲＯＩを検出することもできる。例えば、予め定められた被写体の画像から抽出された画像特徴量と、予め定められた被写体以外の被写体の画像から抽出された画像特徴量とを用いて、予め定められた被写体の画像から抽出された画像特徴量の特徴を学習する。そして、特徴領域検出部２０３は、当該学習された特徴に適合する特徴を有する画像特徴量が抽出された領域を、ＲＯＩとして検出してよい。これにより特徴領域検出部２０３は、予め定められた被写体が撮像されている領域をＲＯＩとして検出することができる。なお、特徴領域検出部２０３は、矩形を含む任意の形状を有するＲＯＩを検出してよい。

なお、特徴領域検出部２０３は、特願２００８−０７８６４１号に記載された方法でＲＯＩを検出してよい。例えば、特徴領域検出部２０３は、オブジェクト検出対象の撮像画像を所定比率で間引くことにより、または当該所定比率で段階的に間引くことより、撮像画像と一枚以上の間引画像とを含む画像群を生成する。そして、特徴領域検出部２０３は、生成された画像群のうちの相対的に小さい第１の画像に、第１のフィルタを作用させて、評価値を算出する。ここで、第１のフィルタは、画像上の二次元的に広がる領域に作用することで、当該領域内に特定種類のオブジェクトが存在する確率を表わす評価値を生成する。また、第１のフィルタは、画像上の領域の広さに対応する画素数が所定比率で異なる、または当該所定比率で段階的に異なる、複数の広さの領域にそれぞれ作用する複数のフィルタを含むフィルタ群のうちの、相対的に狭い領域に作用するフィルタであってよい。特徴領域検出部２０３は、所定の第１の閾値を越える評価値が得られた一次候補領域を、第１の画像から抽出する。

そして、特徴領域検出部２０３は、第１の画像よりも画素数が一段階多い第２の画像における一次候補領域に相当する領域に、フィルタ群のうちの第１のフィルタよりも一段階広い領域に作用する第２のフィルタを作用させて、評価値を算出する。そして、特徴領域検出部２０３は、所定の第２の閾値を越える評価値が得られる二次候補領域を抽出する。

ここで、特徴領域検出部２０３は、上述の異なる広さの領域に作用する複数のフィルタを画像群のうちの対応する広さの領域に作用させて上記候補領域を抽出する抽出過程を繰り返していく。このとき、特徴領域検出部２０３は、相対的に狭い領域に作用するフィルタを作用させる抽出過程から、相対的に広い領域に作用するフィルタを作用させる抽出過程を、順次に繰り返していく。具体的には、特徴領域検出部２０３は、相対的に小さい画像に相対的に狭い領域に作用するフィルタを作用させる抽出過程から相対的に大きな画像に相対的に広い領域に作用するフィルタを作用させる抽出過程に向けて順次に繰り返す。そして、特徴領域検出部２０３は、２以上の抽出過程を繰り返して最終的に候補領域を抽出することにより、特定種類のオブジェクトを検出する。そして、特徴領域検出部２０３は、当該特定種類のオブジェクトが存在する領域を、ＲＯＩとして検出する。このように、特徴領域検出部２０３は、後の抽出過程においては、直前の過程で抽出された領域に限定してフィルタを作用させる。このため、複数の各抽出過程において順次にオブジェクトの存在の有無が選別されていき、ＲＯＩをより高精度に検出することができる。また、小さいサイズの画像でＲＯＩの粗ぶるいが行なわれるので、より高速にＲＯＩを検出することができる。

また、特徴領域検出部２０３は、特願２００８−０７８６３６号に記載された方法でＲＯＩを検出してよい。例えば、特徴領域検出部２０３は、撮像画像との二次元的に広がる所定の広さの領域に作用し特定種類のオブジェクトの輪郭および内部のうちの互いに異なるいずれかの特徴量を算出する複数のフィルタを用いて、ＲＯＩを検出する。具体的には、特徴領域検出部２０３は、当該複数のフィルタを、オブジェクト検出対象の撮像画像上の所定の広さの領域にそれぞれ作用させることにより、複数の特徴量を算出する。ここで、当該複数のフィルタには、複数のフィルタそれぞれにより算出される各特徴量と特定種類のオブジェクトである確率を表わす一次評価値との対応関係が対応づけられている。特徴領域検出部２０３は、当該対応関係に基づいて、算出した各特徴量に対応する各一次評価値を求める。そして、特徴領域検出部２０３は、複数のフィルタに対応する複数の一次評価値を総合することにより、当該領域に特定種類のオブジェクトが存在する確率を表わす二次評価値を求める。そして、特徴領域検出部２０３は、二次評価値と閾値とを比較して、該閾値を越えて特定種類のオブジェクトが存在する確率が高い領域を抽出する。これにより、特徴領域検出部２０３は、当該領域を、特定種類のオブジェクトが存在するＲＯＩとして検出する。このように、特徴領域検出部２０３は、オブジェクトの輪郭・内部の様々な特徴を表わす特徴量を抽出する複数のフィルタを組み合わせることにより、例えば輪郭の形状だけによる抽出と比べて、高精度にＲＯＩを抽出することができる。

なお、特徴領域検出部２０３は、特願２００８−０７８６３６号に記載された方法と、特願２００８−０７８６４１号に記載された方法とを組み合わせた方法により、ＲＯＩを検出してよい。具体的には、特願２００８−０７８６３６号に記載された方法に関連して説明した上記の複数のフィルタは、画素数が所定比率で異なる、または所定比率で段階的に異なる、複数の広さの領域にそれぞれ作用する、１つの広さごとに複数のフィルタを含んでよい。各フィルタのそれぞれは、当該各フィルタそれぞれに応じた上記対応関係に対応づけられてよい。そして、特徴領域検出部２０３は、オブジェクト検出対象の撮像画像を所定比率で間引くことにより、または所定比率で段階的に間引くことにより、撮像画像と一枚以上の間引画像とを含む画像群を生成する。そして、特徴領域検出部２０３は、画像群のうちの相対的に小さい第１の画像に相対的に狭い領域に作用する複数の第１のフィルタを作用させることで複数の特徴量を算出する。そして、特徴領域検出部２０３は、該複数の第１のフィルタそれぞれに対応する対応関係に基づいて、算出した各特徴量に対応する各一次評価値を求める。そして、特徴領域検出部２０３は、複数の一次評価値を総合することにより、当該領域に特定種類のオブジェクトが存在する確率を表わす二次評価値を求める。そして、特徴領域検出部２０３は、求められた二次評価値と第１の閾値とを比較して該第１の閾値を越えて特定種類のオブジェクトが存在する確率が高い一次候補領域を抽出する。

また、特徴領域検出部２０３は、上記画像群のうちの第１の画像よりも画素数が一段階多い第２の画像の、一次候補領域に相当する領域に複数の第１のフィルタよりも一段広い領域に作用する複数の第２のフィルタを作用させることで、複数の特徴量を算出する。そして、特徴領域検出部２０３は、当該複数の第２のフィルタそれぞれに対応する対応関係に基づいて、算出した各特徴量に対応する各一次評価値を求める。そして、特徴領域検出部２０３は、複数の第２のフィルタに対応する複数の一次評価値を総合することにより、当該一次候補領域に相当する領域に特定種類のオブジェクトが存在する確率を表わす二次評価値を求める。そして、特徴領域検出部２０３は、求められた二次評価値と第２の閾値とを比較して第２の閾値を越えて特定種類のオブジェクトが存在する確率が高い二次候補領域を抽出する。

ここで、特徴領域検出部２０３は、上述の異なる広さの領域に作用する複数のフィルタを画像群のうちの対応する広さの領域に作用させて上記候補領域を抽出する抽出過程を繰り返していく。このとき、特徴領域検出部２０３は、相対的に狭い領域に作用するフィルタを作用させる抽出過程から、相対的に広い領域に作用するフィルタを作用させる抽出過程を、順次に繰り返していく。具体的には、特徴領域検出部２０３は、相対的に小さい画像に相対的に狭い領域に作用するフィルタを作用させる抽出過程から相対的に大きな画像に相対的に広い領域に作用するフィルタを作用させる抽出過程に向けて順次に繰り返す。そして、特徴領域検出部２０３は、２以上の抽出過程を繰り返して最終的に候補領域を抽出することにより、特定種類のオブジェクトを検出する。そして、特徴領域検出部２０３は、当該特定種類のオブジェクトが存在する領域を、ＲＯＩとして検出する。

また、特徴領域検出部２０３は、特願２００８−０９８６００号に記載された方法でＲＯＩを検出してよい。例えば、特徴領域検出部２０３は、複数の撮像装置１００により撮像された動画に含まれる複数の撮像画像から、ＲＯＩを検出する。一例として、撮像装置１００ａおよび撮像装置１００ｂは、互いに同一のシーンを撮影しているものとする。例えば、撮像装置１００ａおよび撮像装置１００ｂは、ステレオカメラとして機能することができる。また、以下の説明では、撮像装置１００ａが撮像した第１の撮像画像と、撮像装置１００ｂが撮像した第２の撮像画像とを、ペア画像と呼ぶ。特徴領域検出部２０３は、ペア画像から、該ペア画像に写し出された特定種類のオブジェクトを検出して、検出した特定種類のオブジェクトの領域を、ＲＯＩとして検出する。

特徴領域検出部２０３は、ペア画像とみなされる第１および第２の各撮像画像について、各撮像画像上において、特定種類のオブジェクトが写し込まれた領域を抽出する。ここでは、特徴領域検出部２０３は、特定種類のオブジェクトが写し込まれた領域を、粗い検出精度で検出してよい。そして、特徴領域検出部２０３は、抽出した第１の撮像画像上の領域と第２の撮像画像上の領域の中から、互いに対応する領域のペアを検出することにより、特定種類のオブジェクトを検出する。例えば、特徴領域検出部２０３は、当該ペアの領域の画像から、当該領域に写し込まれた被写体までの距離を算出する。特徴領域検出部２０３は、被写体までの距離に基づく被写体の３次元形状に基づいて、特定種類のオブジェクトを検出することができる。

ここで、特徴領域検出部２０３は、互いに対応する領域のペアを検出する場合に、ペア画像とみなされる第１および第２の撮像画像から検出した、特定種類のオブジェクトが写し込まれた領域を、複数のサブ領域に分ける。そして、特徴領域検出部２０３は、各サブ領域に写し出された部分画像を特徴づける特徴量の、複数のサブ領域に渡るベクトルを算出する。ここで、特徴量としては、画素値を例示することができる。また、複数のサブ領域に渡るベクトルとしては、勾配ベクトル（例えば、画素値勾配ベクトル）を例示することができる。そして、特徴領域検出部２０３は、算出された第１の画像上の領域のベクトルと第２の画像上のベクトルとの間の論理上の距離を算出する。特徴領域検出部２０３は、論理上の距離が予め定められた値より小さい領域のペアを、互いに対応する領域のペアとして検出する。なお、上記論理上の距離としては、ベクトルを形成する各成分どうしの差に対する二乗和の平方根を例示することができる。このようにして、特徴領域検出部２０３は、ペア画像から対応する領域のペアを高精度で抽出することができるので、被写体までの距離を高精度で算出することができる。したがって、特徴領域検出部２０３は、被写体の３次元形状を高精度で認識することができ、その結果、特定種類のオブジェクトをより高精度で検出することができる。

また、特徴領域検出部２０３は、特願２００８−０９１５６２号に記載された方法でＲＯＩを検出してよい。例えば、特徴領域検出部２０３は、動画に含まれる複数の撮像画像のそれぞれから、特定種類の被写体に類似した類被写体形状を、当該類被写体形状の寸法と当該撮像装置１００の画角上の位置情報とを伴って抽出する。画角上の位置情報としては、撮像画像における画像領域上の位置を例示することができる。そして、特徴領域検出部２０３は、抽出した類被写体形状の被写体が特定種類の被写体であるか否かを判定して該特定種類の被写体を抽出する。例えば、特徴領域検出部２０３は、類被写体形状の被写体の周囲の予め定められたサーチ領域から、同一寸法に分類された類被写体形状の被写体が検出された個数を計数して、当該計数値が閾値以上の場合に、当該類被写体形状の被写体を特定種類の被写体として抽出してよい。そして、特徴領域検出部２０３は、特定種類の被写体を含む領域を、ＲＯＩとして検出してよい。このため、特徴領域検出部２０３は、所定の寸法に近い寸法の被写体が集中して検出された画像領域内の類被写体形状の被写体を、特定種類の被写体として検出することができる。そして、当該画像領域以外の領域における類被写体形状の被写体を、特定種類の被写体として検出しなくてよい。このため、当該画像領域以外の領域における類被写体形状の被写体を、特定種類の被写体として誤検出する確率を低減することができる。

なお、撮像装置１００が画角を可変して撮像することができる場合、上記の画角上の位置情報としては、撮像装置１００の撮像方向および撮像画像上の位置を例示することができる。また、複数の撮像装置１００により、一の撮像装置１００が撮像する被写界より広い連続した被写界を撮像することができる場合、上記の画角上の位置情報としては、複数の撮像装置１００のそれぞれの撮像方向、および複数の撮像装置１００のそれぞれにより撮像された撮像画像上の位置を例示することができる。

図４は、画像処理装置１２０が出力する動画の一例を示す。ここでは、説明を簡単にすることを目的として、圧縮動画取得部２０１が取得した撮像動画データのフレームレートが１６ｆｐｓであり、当該撮像動画データに含まれる動画構成画像の解像度が７２ｄｐｉであるとする。

撮像動画に含まれる動画構成画像４１０の解像度に対する低画質動画４２０に含まれる動画構成画像の解像度の比率を示す解像度比率は予め１／８と定められている。画質低減部２８１は、撮像動画に含まれる動画構成画像の画素を間引くことによって解像度を１／８にすることにより、９ｄｐｉの動画構成画像を生成する。

また、撮像動画のフレームレートに対する画質低減後の低画質動画４２０のフレームレートの比率を示すフレームレート比率は予め１／８と定められている。画質低減部２８１は、撮像動画に含まれる動画構成画像を間引くことによってフレームレートを１／８にすることにより、２ｆｐｓのフレームレートの動画を生成する。そして、画質低減部２８１は、生成した動画を階層間差分圧縮部２８２ａに供給する。

同様に、複数の特徴の種類のそれぞれに対しても、解像度比率およびフレームレート比率が定められている。例えば、特徴の種類の一例である被写体の種類のそれぞれに対して、解像度比率およびフレームレート比率が定められている。例えば、動く被写体を示す被写体の種類に対しては、解像度比率およびフレームレート比率として１／４が定められている。また、人物の体部を示す被写体の種類に対しては、解像度比率およびフレームレート比率として１／２が定められている。また、人物の頭部を示す被写体の種類に対しては、解像度比率およびフレームレート比率として１／１が定められている。

この場合、画質低減部２８１は、フレームレートが４ｆｐｓ、動画構成画像の解像度が１８ｄｐｉの動画４３０を生成して、階層間差分圧縮部２８２ｂに供給する。また、画質低減部２８１は、フレームレートが８ｆｐｓ、動画構成画像の解像度が３２ｄｐｉの動画４４０を生成して、階層間差分圧縮部２８２ｃに供給する。また、階層間差分圧縮部２８２ｄは、フレームレートが１６ｆｐｓ、動画構成画像の解像度が７２ｄｐｉの動画４５０が入力動画画質制御部２８０から供給される。このように、画質低減部２８１は、被写体の種類毎に、フレームレートおよび空間解像度が異なる動画を生成する。

図５は、階層間差分圧縮部２８２が出力した動画に含まれる動画構成画像の画像内容の一例を示す。動画構成画像４５１−４５３は、図４に示した動画４５０に含まれる。また、動画構成画像４４１および４４３は、図４に示した動画４４０に含まれる。また、動画構成画像４３１および４２１は、それぞれ動画４３１および動画４２１に含まれる。

なお、画質低減部２８１は、撮像動画に含まれる同一の動画構成画像から、動画構成画像４２１、動画構成画像４３１、動画構成画像４４１、および動画構成画像４５１を生成する。また、画質低減部２８１は、撮像動画に含まれる他の動画構成画像から動画構成画像４４３および動画構成画像４５３を生成する。

なお、本図の例において、特徴領域検出部２０３は、撮像動画に含まれる一の動画構成画像から、人物の頭部の領域５１１、人物の体部の領域５２１、および移動物体の領域５３１を特徴領域として検出したとする。また、領域５１１、領域５２１、および領域５３１以外の領域を領域５４１とする。なお、動画構成画像４２１、動画構成画像４３１、動画構成画像４４１、および動画構成画像４５１における各領域を、符号の末尾（ａ、ｂ、ｃ、およびｄ）によりそれぞれ区別する。

同様に、特徴領域検出部２０３は、動画構成画像４４３および動画構成画像４５３が生成された元の動画構成画像から、人物の頭部の領域５１３、人物の体部の領域５２３、および移動物体の領域５３３を特徴領域として検出したとする。なお、領域５２３および領域５３３以外の領域を領域５４３とする。そして動画構成画像４４３および動画構成画像４５３における各領域を、符号の末尾（ｃおよびｄ）により区別する。

また、特徴領域検出部２０３は、動画構成画像４５２を生成した元の動画構成画像から特徴領域として検出された人物の頭部の領域５１２、人物の体部の領域５２２、および移動物体の領域５３２を特徴領域として検出したとする。また、領域５１２、領域５２２、および領域５３２以外の領域を５４２とする。そして、動画構成画像４５２における各特徴領域を、領域５１２ｄ、領域５２２ｄ、および領域５３２ｄとする。また、他の動画構成画像４５２における特徴領域以外の領域を領域５４２ｄとする。

階層間差分圧縮部２８２ａは、図２に関連して説明したように、動画構成画像４２１の部分領域毎に、動画構成画像４２１をフレーム間圧縮又はフレーム内圧縮により圧縮する。一方、階層間差分圧縮部２８２ｂには、移動物体に対して割り当てられた解像度１８ｄｐｉの動画構成画像を圧縮することが予め定められている。

具体的には、画像復号部２９２ｂは、差分処理部２８７ａにより圧縮処理された動画構成画像を復号する。そして、画像拡大部２９３ｂは、復号された動画構成画像を、階層間差分圧縮部２８２ｂが画質低減部２８１から取得する動画構成画像の解像度と同じ１８ｄｐｉまで拡大する。このとき、画像拡大部２９３ｂは、近接する画素の画素値をコピーすることによって拡大してもよく、補間拡大により拡大してもよい。

そして、画素値変更部２９１ｂは、画質低減部２８１から取得した動画構成画像４３１の特徴領域以外の領域５４１ｂの画素値を、画像拡大部２９３ｂが拡大することにより生成された拡大画像における同じ領域の画素値で置き換える。そして、画素値を置き換えた画像と画像拡大部２９３ｂにより生成された拡大画像を差分画素画像生成部２９６ｂに供給する。差分画素画像生成部２９６ｂは、領域５４１ｂにおいて画素値が置き換えられた画像と拡大画像との間の差分により差分画素画像を生成するが、この差分画素画像における領域５４１ｂの差分値は０となる。

差分画素画像生成部２９６ｂにより生成された差分画素画像は、図２に関連して説明したように圧縮および符号化処理されて出力部２０７に供給される。このようにして生成された動画構成画像４３１の領域５３１ｂと、階層間差分圧縮部２８２ａにより圧縮された動画構成画像４２１における領域５３１ａの画像を拡大した画像とを足し合わせることによって、少なくとも移動物体を含む領域５３１ｂにおいて所定の解像度を持つ動画構成画像が得られる。

次に、動画構成画像４３１に対する階層間差分圧縮部２８２ｃの処理について説明すると、階層間差分圧縮部２８２ｃには、人物の体部に対して割り当てられた解像度３２ｄｐｉの動画構成画像を圧縮することが予め定められている。画素値変更部２９１ｃは、画質低減部２８１から取得した動画構成画像４４１に含まれるべき特徴領域以外の領域である領域５４１ｃおよび領域５３１ｃの画素値を、画像拡大部２９３ｃによって生成された拡大画像における同じ領域の画素値で置き換える。

差分画素画像生成部２９６ｃにより差分処理されて生成された差分画素画像は、図２に関連して説明したように圧縮および符号化処理されて出力部２０７に供給される。このようにして圧縮された動画構成画像４４１の領域５２１ｃと、動画構成画像４２１における領域５２１ｂおよび動画構成画像４２１における領域５２１ａの画像をそれぞれ拡大した画像とを足し合わせることによって、少なくとも人物の体部の領域５２１ｃにおいて所定の解像度を持つ動画構成画像が得られる。

次に、動画構成画像４５１に対する階層間差分圧縮部２８２ｄの処理について説明すると、階層間差分圧縮部２８２ｄには、人物の頭部に対して割り当てられた解像度６４ｄｐｉの動画構成画像を圧縮することが予め定められている。画素値変更部２９１ｄは、入力動画画質制御部２８０から取得した動画構成画像４５１に含まれるべき特徴領域以外の領域である領域５４１ｄ、領域５２１ｄ、および領域５２１ｄの画素値を、画像拡大部２９３ｄによって生成された拡大画像における同じ領域の画素値で置き換える。

そして、差分画素画像生成部２９６ｄにより差分処理されて得られた差分画素画像は、図２に関連して説明したように圧縮および符号化処理されて出力部２０７に供給される。このようにして圧縮された動画構成画像４５１の領域５１１ｄと、動画構成画像４４１における領域５１１ｃ、動画構成画像４２１における領域５１１ｂ、および動画構成画像４２１における領域５１１ａの画像をそれぞれ拡大した画像とを足し合わせることによって、頭部の領域５１１ｄにおいて所定の解像度を持つ動画構成画像が得られる。

なお、以上の説明においては、画素値変更部２９１ｂ−ｄは、差分画素画像における少なくとも特徴領域以外の領域（予め定めれた特徴の種類を持つ特徴領域以外の領域であって、当該特徴領域より高解像度を持つべき特徴の種類を持つ特徴領域以外の領域）において差分値を０とすべく、特徴領域以外の画素値を拡大画像の画素値で置き換えた。しかしながら、他の方法により、差分画素画像における差分値を０とすることもできる。

例えば、画素値変更部２９１ｂ−ｄは、画質低減部２８１から取得した動画構成画像の特徴領域以外の領域の画素値を所定の画素値に変換するとともに、拡大画像における領域５４１と同じ画像領域の画素値を当該所定の画素値に変換してよい。このようにしても、差分画素画像における領域５４１の差分値を０とすることができ、特徴領域以外の領域の情報量を実質的に低減することができる。

このように、画素値変更部２９１ｂ−ｄは、動画構成画像から、特徴領域以外の領域の画素値および拡大した画像における特徴領域以外の領域の画素値を、所定値で置き換えた特徴領域画像を生成する。そして、差分画素画像生成部２９６は、特徴領域以外の領域の画素値が置き換えられた、特徴領域画像と拡大した画像との間の差分により差分画素画像を生成する。

なお、画素値変更部２９１ｂ−ｄは、画質低減部２８１から取得した動画構成画像の特徴領域以外の領域の画素値を、下位階層の階層間差分圧縮部２８２に提供される動画構成画像を拡大した画像における同一領域の画素値で置き換えてもよい。このようにしても、差分画素画像における差分値を略０にすることができ、特徴領域以外の領域の情報量を実質的に低減することができる。

他にも、階層間差分圧縮部２８２ｂ−ｄに動画構成画像を入力する前に、入力動画画質制御部２８０において動画構成画像における各領域の画質を予め調整しておくことにより、差分画素画像における差分値を略０にすることができる。例えば、入力動画画質制御部２８０は、動画構成画像における特徴領域以外の領域にローパスフィルタを施すとともに、動画構成画像における各特徴領域のそれぞれに、特徴領域が有する特徴の種類に応じて予め定められた特性のローパスフィルタを施してよい。

なお、ローパスフィルタの特性は、差分画素画像における差分値を０に近づけるべく、ローパスフィルタが施された動画構成画像が、画像拡大部２９３ｂ−ｄによって拡大された拡大画像の画像特性と類似する画像特性を持つよう、予め定められていることが望ましい。具体的には、ローパスフィルタは、画質低減部２８１による画素の間引き量、量子化部２９８ａ−ｃによる量子化特性、および画像拡大部２９３ｂ−ｄにおける拡大処理の方法に応じた特性を有していることが望ましい。

他にも、周波数領域画質変換部２９９ｂ−ｄにより、特徴領域以外の領域における情報量を低減することもできる。例えば、量子化部２９８ｂによって量子化された変換係数のうち、特徴領域以外の領域に含まれる部分領域における変換係数の値を０にしてもよい。なお、上記において特徴領域以外の領域とは、動画構成画像４４１における５３１ｃ、ならびに動画構成画像４５１における５２１ｄおよび５３１ｄを含んでよい。

次に、差分処理部２８７ｂ−ｄが特徴領域の画像を圧縮する方法について説明する。以下の説明では、階層間差分圧縮部２８２ｄが領域５１１ｄを圧縮する場合を例に挙げて説明するが、他の領域（例えば、領域５２１ｃおよび領域５３１ｂ）についても、階層間差分圧縮部２８２ｂおよび階層間差分圧縮部２８２ｃは同様の方法により圧縮することができる。

差分処理部２８７ｄは、動き解析部２８５ｄを通じて圧縮対象の部分領域の画像情報および差分対象部分領域の画像情報を受け取るとともに、拡大画像における部分領域の画像を受け取る。差分処理部２８７ｂは、圧縮対象の部分領域の画像と差分対象部分領域の画像との差分による圧縮方法（以下、フレーム間圧縮と呼ぶ。）と、圧縮対象の部分領域の画像と拡大画像における部分領域の画像との差分による圧縮方法（以下、階層フレーム間圧縮と呼ぶ。）と、差分対象部分領域の画像および拡大画像における部分領域の画像のいずれも使用せずに圧縮対象の部分領域の画像を圧縮する圧縮方法（以下、フレーム内圧縮と呼ぶ。）とのうちのいずれの圧縮方法で圧縮対象の部分領域の画像を圧縮するかを決定する。

例えば、差分処理部２８７ｄは、上記複数の圧縮方法のうちより高い圧縮率が得られる圧縮方法をより優先して選択する。例えば、差分処理部２８７ｄは、圧縮対象の部分領域における画素値の分布における分散量（例えば、画素値のヒストグラムにおける半値幅）が予め定められた分散量より大きい場合に、フレーム間圧縮または階層フレーム間圧縮を、フレーム内圧縮より優先して選択する。

また、差分処理部２８７ｄは、圧縮対象の部分領域と差分対象部分領域との間の画像の差分量が、圧縮対象の部分領域と拡大画像における同じ部分領域との間の画像の差分量より大きい場合に、階層フレーム間圧縮をフレーム間圧縮より優先して選択する。なお、差分処理部２８７ｄは、上記の複数の圧縮方法で実際に圧縮して、最も高い圧縮率が得られた圧縮方法を選択してもよい。

次に、動画構成画像４５２に対する階層間差分圧縮部２８２ｄの処理について説明する。階層間差分圧縮部２８２ｄは、領域５４２ｄおよび領域５３２ｄの画像を示す画像情報として、動画４５０に含まれる他の動画構成画像（例えば、動画構成画像４５１）における同じ領域の画像と同じである旨を示す画像情報を生成してよい。すなわち、位置差情報変更部２９０ｄが当該領域に対する位置差情報を０とする。また、上記したように、画素値変更部２９１ｄは、低解像度階層の画像に対する画素の差分値が０となるよう領域５４２ｄおよび領域５３２ｄの画素値を変換する。なお、ここでいう低解像度階層の画像とは、直近の動画構成画像から生成された低階層の動画構成画像（例えば、動画構成画像４４１）であってよい。

なお、動画構成画像４５２における領域５１２ｄを圧縮する場合には、差分処理部２８７ｄは、領域５１１ｄとの間における差分画像を圧縮する圧縮方法と、領域５１１ｃとの間における差分画像を圧縮する圧縮方法とのうち、より圧縮率が高い圧縮方法を選択する。そして、差分処理部２８７ｄは、選択した圧縮方法で領域５１２ｄを圧縮する。

また、動画構成画像４５３および動画構成画像４４３については、動画構成画像４５２に関連して説明した圧縮方法、ならびに動画構成画像４４１および動画構成画像４５１に関連して説明した圧縮方法の組合せによって圧縮することができる。このため、動画構成画像４５３および動画構成画像４４３に対する階層間差分圧縮部２８２ｄおよび階層間差分圧縮部２８２ｃの処理については説明を省略する。

なお、上記においては、画素値変更部２９１ｂ−ｄ、位置差情報変更部２９０ｂ−ｄ、および周波数領域画質変換部２９９ｂ−ｄは、特徴領域以外の領域の画像情報を０または略０にすべく、画素値、動きベクトル、および変換係数を変更した。しかしながら、画素値変更部２９１ｂ−ｄ、位置差情報変更部２９０ｂ−ｄ、および周波数領域画質変換部２９９ｂ−ｄは、任意のタイミングで、特徴領域以外の領域に所定の画像情報を持たせてもよい。例えば、画素値変更部２９１ｂ−ｄは、所定のタイミングで特徴領域以外の領域の画素値を置き換える置き換え処理を行わない。このような制御により、特徴領域以外の領域についても、所定のタイミングでより高画質な画像を提供することができる。

以上説明したように、特徴領域検出部２０３は、動画に含まれる複数の動画構成画像から、特徴の種類が異なる複数の特徴領域を検出する。そして、画素値変更部２９１ｂは、複数の動画構成画像のそれぞれについて、一の特徴の種類を持つ特徴領域において解像度を低減することにより動画構成画像から一の特徴領域画像を生成するとともに、他の特徴の種類を持つ特徴領域において当該特徴領域画像より高解像度な他の特徴領域画像を動画構成画像から生成する。そして、差分処理部２８７は、複数の動画構成画像のそれぞれから生成された複数の特徴領域画像から、複数の特徴領域差分画像および複数の特徴領域間差分画像を生成する。そして、符号化部２８８は、複数の特徴領域差分画像を含む特徴領域差分動画、複数の特徴領域間差分画像を含む特徴領域間差分動画、および複数の低画質画像を含む低画質動画をそれぞれ符号化する。

画質低減部２８１は、所定の間隔で選択された複数の動画構成画像から複数の低画質画像を生成するとともに、所定の間隔より短く特徴の種類に応じた間隔で選択された複数の動画構成画像から複数の特徴領域画像を生成する。そして、差分処理部２８７は、画質低減部２８１が選択して得られた前複数の動画構成画像から生成した複数の低画質画像および複数の特徴領域画像から、複数の特徴領域差分画像および複数の特徴領域間差分画像を生成する。なお、差分処理部２８７は、特徴領域差分画像または特徴領域間差分画像を生成する場合に、同じ動画構成画像から生成されたより低解像度の低画質画像または特徴領域画像が存在しないことを条件として、近傍のタイミングの動画構成画像から生成された低画質画像または特徴領域画像から特徴領域差分画像または特徴領域間差分画像を生成してよい。

図６は、他の実施形態に係る画像処理システム２０の一例を示す。本実施形態における画像処理システム２０の構成は、画像処理装置１２０に替えて、撮像装置１００ａ−ｄがそれぞれ画像処理部１６０４ａ−ｄ（以下、画像処理部１６０４と総称する。）を有する点を除いて、図１で説明した画像処理システム１０の構成と同じとなっている。

画像処理部１６０４は、画像処理装置１２０に含まれる構成要素のうち、圧縮動画取得部２０１および圧縮動画伸張部２０２を除く構成要素を有している。そして、画像処理部１６０４に含まれる各構成要素の機能および動作は、画像処理装置１２０に含まれる各構成要素が圧縮動画伸張部２０２による伸張処理によって得られた撮像動画を処理することに替えて、撮像部１０２によって撮像された撮像動画を処理するという点を除いて、画像処理装置１２０に含まれる各構成要素の機能および動作と略同一であってよい。このような構成の画像処理システム２０においても、図１から図５にかけて画像処理システム１０に関連して説明した効果と同様の効果が得ることができる。

なお、画像処理部１６０４は、ＲＡＷ形式で表された複数の動画構成画像を含む撮像動画を撮像部１０２から取得してよい。そして、画像処理部１６０４は、ＲＡＷ形式で表された複数の動画構成画像のそれぞれから、１以上の特徴領域を検出してよい。また、画像処理部１６０４は、取得した撮像動画に含まれるＲＡＷ形式で表された複数の動画構成画像をＲＡＷ形式のまま圧縮してよい。このとき、画像処理部１６０４は、図１〜図５にかけて画像処理装置１２０の動作に関連して説明した圧縮方法で、撮像動画を圧縮することができる。

なお、画像処理装置１７０は、画像処理部１６０４から取得した圧縮動画を伸張することにより、ＲＡＷ形式で表された複数の動画構成画像を取得することができる。そして、画像処理装置１７０は、伸張することにより取得されたＲＡＷ形式で表された複数の動画構成画像を、例えば特徴領域以外の領域および複数の特徴領域を含む複数の領域毎に同時化処理を施してよい。このとき、画像処理装置１７０は、特徴領域以外の領域より、特徴領域においてより高精度な同時化処理を施してよい。

なお、画像処理装置１７０は、同時化処理によって得られた動画構成画像における特徴領域の画像に、超解像処理を施してよい。画像処理装置１７０における超解像処理としては、特開２００６−３５０４９８号公報に記載されたような主成分分析に基づく超解像処理、あるいは特開２００４−８８６１５号公報に記載されたような被写体の動きに基づく超解像処理を例示することができる。

なお、画像処理装置１７０は、特徴領域に含まれるオブジェクト毎に、超解像処理を施してよい。例えば、特徴領域が人物の顔画像を含む場合に、画像処理装置１７０は、オブジェクトの一例としての顔部位（例えば、目、鼻、口など）毎に、超解像処理を施してよい。この場合、画像処理装置１７０は、特開２００６−３５０４９８号公報に記載されたような主成分分析（ＰＣＡ）に基づくモデル等の学習データを、顔部位（例えば、目、鼻、口など）毎に記憶しておく。そして、画像処理装置１７０は、特徴領域に含まれる顔部位毎に選択した学習データを使用して、各顔部位の画像に超解像処理を施してよい。

このように、画像処理装置１７０は、主成分分析（ＰＣＡ）を用いて特徴領域の画像を再構成することができる。なお、画像処理装置１７０による画像再構成手法、および当該画像再構成用の学習法としては、主成分分析（ＰＣＡ）による学習・画像再構成の他に、局所保存投影（ｌｏｃａｌｉｔｙ ｐｒｅｓｅｒｖｉｎｇ ｐｒｏｊｅｃｔｉｏｎ：ＬＰＰ）、線形判別分析（Ｌｉｎｅａｒ Ｄｉｓｃｒｉｍｉｎａｎｔ Ａｎａｌｙｓｉｓ：ＬＤＡ）、独立成分分析（Ｉｎｄｅｐｅｎｄｅｎｔ ｃｏｍｐｏｎｅｎｔ ａｎａｌｙｓｉｓ：ＩＣＡ）、多次元スケーリング（ｍｕｌｔｉｄｉｍｅｎｓｉｏｎａｌ ｓｃａｌｉｎｇ：ＭＤＳ）、サポートベクターマシン（サポートベクター回帰）、ニューラルネットワーク、隠れマルコフモデル、Ｂａｙｅｓ推論、最大事後確率推定、反復逆投影、Ｗａｖｅｌｅｔ変換、局所線形埋め込み（ｌｏｃａｌｌｙ ｌｉｎｅａｒ ｅｍｂｅｄｄｉｎｇ：ＬＬＥ）、マルコフランダム場（Ｍａｒｋｏｖ ｒａｎｄｏｍ ｆｉｅｌｄ：ＭＲＦ）等の手法を用いることができる。

また、学習データとしては、特開２００６−３５０４９８号公報に記載されたようなモデルの他に、オブジェクトの多数のサンプル画像からそれぞれ抽出された、オブジェクトの画像の低周波成分および高周波成分を含んでよい。ここで、複数のオブジェクトの種類のそれぞれについてオブジェクトの画像の低周波成分をＫ−ｍｅａｎｓ法等によってクラスタリングすることによって、複数のオブジェクトの種類のそれぞれにおいてオブジェクトの画像の低周波成分が複数のクラスタにクラスタリングされていてよい。また、各クラスタ毎に代表的な低周波成分（例えば、重心値）が定められていてよい。

そして、画像処理装置１７０は、動画構成画像における特徴領域に含まれるオブジェクトの画像から低周波成分を抽出する。そして、画像処理装置１７０は、抽出したオブジェクトの種類のオブジェクトのサンプル画像から抽出された低周波成分のクラスタのうち、抽出した低周波成分に適合する値が代表的な低周波成分として定められたクラスタを特定する。そして、画像処理装置１７０は、特定したクラスタに含まれる低周波成分に対応づけられている高周波成分のクラスタを特定する。このようにして、画像処理装置１７０は、動画構成画像に含まれるオブジェクトから抽出された低周波成分に相関のある高周波成分のクラスタを特定することができる。

そして、画像処理装置１７０は、特定した高周波成分のクラスタを代表する高周波成分を用いて、オブジェクトの画像をより高画質な高画質画像に変換してよい。例えば、画像処理装置１７０は、各オブジェクトの中心から顔上の処理対象位置までの距離に応じた重みでオブジェクト毎に選択された当該高周波成分をオブジェクトの画像に加算してよい。なお、当該代表する高周波成分は、閉ループ学習によって生成されてよい。このように、画像処理装置１７０は、各オブジェクト毎に学習することによって生成された学習データの中から、望ましい学習データをオブジェクト毎に選択して利用するので、オブジェクトの画像をより高い精度で高画質化することができる場合がある。なお、図１〜図５に関連して説明した画像処理システム１０の構成においても、画像処理装置１７０は、特徴領域の画像に上述した超解像処理を施すことができる。

なお、特開２００６−３５０４９８号公報に記載されたような主成分分析に基づく超解像処理では、主成分ベクトルおよび重みづけ係数により物体の画像が表される。これらの重みづけ係数および主成分ベクトルのデータ量は、物体の画像そのものが有する画素データのデータ量に比べて大幅に小さい。そこで、画像処理部１６０４は、撮像部１０２から取得した複数の動画構成画像における特徴領域の画像を圧縮する圧縮処理において、特徴領域に含まれる物体の画像から上記重みづけ係数を算出してよい。すなわち、画像処理部１６０４は、特徴領域に含まれる物体の画像を、主成分ベクトルおよび重みづけ係数で表すことによって圧縮することができる。そして、画像処理部１６０４は、主成分ベクトルおよび重みづけ係数を画像処理装置１７０に送信してよい。

この場合、画像処理装置１７０は、画像処理部１６０４から取得した主成分ベクトルおよび重みづけ係数を用いて、特徴領域に含まれる物体の画像を再構成することができる。なお、画像処理部１６０４は、特開２００６−３５０４９８号公報に記載されたような主成分分析に基づくモデルの他に、種々の特徴パラメータで物体を表現するモデルを利用して特徴領域に含まれる物体の画像を圧縮することができることはいうまでもない。

図７は、画像処理装置１２０のハードウェア構成の一例を示す。画像処理装置１２０および画像処理装置１７０は、ＣＰＵ周辺部と、入出力部と、レガシー入出力部とを備える。ＣＰＵ周辺部は、ホスト・コントローラ１５８２により相互に接続されるＣＰＵ１５０５、ＲＡＭ１５２０、グラフィック・コントローラ１５７５、および表示デバイス１５８０を有する。入出力部は、入出力コントローラ１５８４によりホスト・コントローラ１５８２に接続される通信インターフェイス１５３０、ハードディスクドライブ１５４０、およびＣＤ−ＲＯＭドライブ１５６０を有する。レガシー入出力部は、入出力コントローラ１５８４に接続されるＲＯＭ１５１０、フレキシブルディスク・ドライブ１５５０、および入出力チップ１５７０を有する。

ホスト・コントローラ１５８２は、ＲＡＭ１５２０と、高い転送レートでＲＡＭ１５２０をアクセスするＣＰＵ１５０５、およびグラフィック・コントローラ１５７５とを接続する。ＣＰＵ１５０５は、ＲＯＭ１５１０、およびＲＡＭ１５２０に格納されたプログラムに基づいて動作して、各部の制御をする。グラフィック・コントローラ１５７５は、ＣＰＵ１５０５等がＲＡＭ１５２０内に設けたフレーム・バッファ上に生成する画像データを取得して、表示デバイス１５８０上に表示させる。これに代えて、グラフィック・コントローラ１５７５は、ＣＰＵ１５０５等が生成する画像データを格納するフレーム・バッファを、内部に含んでもよい。

入出力コントローラ１５８４は、ホスト・コントローラ１５８２と、比較的高速な入出力装置であるハードディスクドライブ１５４０、通信インターフェイス１５３０、ＣＤ−ＲＯＭドライブ１５６０を接続する。ハードディスクドライブ１５４０は、ＣＰＵ１５０５が使用するプログラム、およびデータを格納する。通信インターフェイス１５３０は、ネットワーク通信装置１５９８に接続してプログラムまたはデータを送受信する。ＣＤ−ＲＯＭドライブ１５６０は、ＣＤ−ＲＯＭ１５９５からプログラムまたはデータを読み取り、ＲＡＭ１５２０を介してハードディスクドライブ１５４０、および通信インターフェイス１５３０に提供する。

入出力コントローラ１５８４には、ＲＯＭ１５１０と、フレキシブルディスク・ドライブ１５５０、および入出力チップ１５７０の比較的低速な入出力装置とが接続される。ＲＯＭ１５１０は、画像処理装置１２０が起動時に実行するブート・プログラム、あるいは画像処理装置１２０のハードウェアに依存するプログラム等を格納する。フレキシブルディスク・ドライブ１５５０は、フレキシブルディスク１５９０からプログラムまたはデータを読み取り、ＲＡＭ１５２０を介してハードディスクドライブ１５４０、および通信インターフェイス１５３０に提供する。入出力チップ１５７０は、フレキシブルディスク・ドライブ１５５０、あるいはパラレル・ポート、シリアル・ポート、キーボード・ポート、マウス・ポート等を介して各種の入出力装置を接続する。

ＣＰＵ１５０５が実行するプログラムは、フレキシブルディスク１５９０、ＣＤ−ＲＯＭ１５９５、またはＩＣカード等の記録媒体に格納されて利用者によって提供される。記録媒体に格納されたプログラムは圧縮されていても非圧縮であってもよい。プログラムは、記録媒体からハードディスクドライブ１５４０にインストールされ、ＲＡＭ１５２０に読み出されてＣＰＵ１５０５により実行される。ＣＰＵ１５０５により実行されるプログラムは、画像処理装置１２０を、図１から図６に関連して説明した圧縮動画取得部２０１、圧縮動画伸張部２０２、入力動画画質制御部２８０、画質低減部２８１、および階層間差分圧縮部２８２として機能させる。

以上に示したプログラムは、外部の記憶媒体に格納されてもよい。記憶媒体としては、フレキシブルディスク１５９０、ＣＤ−ＲＯＭ１５９５の他に、ＤＶＤまたはＰＤ等の光学記録媒体、ＭＤ等の光磁気記録媒体、テープ媒体、ＩＣカード等の半導体メモリ等を用いることができる。また、専用通信ネットワークあるいはインターネットに接続されたサーバシステムに設けたハードディスクまたはＲＡＭ等の記憶装置を記録媒体として使用して、ネットワークを介したプログラムとして画像処理装置１２０に提供してもよい。

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

一実施形態に係る画像処理システム１０の一例を示す図である。 画像処理装置１２０のブロック構成の一例を示す図である。 階層間差分圧縮部２８２ａおよびｂのブロック構成の一例を示す図である。 画像処理装置１７０が出力する動画の一例を示す図である。 階層間差分圧縮部２８２が出力した動画に含まれる動画構成画像の画像内容の一例を示す図である。 他の実施形態に係る画像処理システム２０の一例を示す図である。 画像処理装置１２０のハードウェア構成の一例を示す図である。

符号の説明

１０ 画像処理システム
２０ 画像処理システム
１００ 撮像装置
１０２ 撮像部
１０４ 撮像動画圧縮部
１１０ 通信ネットワーク
１２０ 画像処理装置
１３０ 人物
１４０ 移動物体
１５０ 監視対象空間
１６０ 空間
１７０ 画像処理装置
１７５ 画像ＤＢ
１８０ 表示装置
２０１ 圧縮動画取得部
２０２ 圧縮動画伸張部
２０３ 特徴領域検出部
２０７ 出力部
２８０ 入力動画画質制御部
２８１ 画質低減部
２８２ 階層間差分圧縮部
２８５ 動き解析部
２８６ 動き符号化部
２８７ 差分処理部
２８８ 符号化部
２９０ 位置差情報変更部
２９１ 画素値変更部
２９２ 画像復号部
２９３ 画像拡大部
２９４ 差分対象領域決定部
２９５ 位置差情報生成部
２９６ 差分画素画像生成部
２９７ 空間周波数領域変換部
２９８ 量子化部
２９９ 周波数領域画質変換部
１６０４ 画像処理部

Claims (17)

1. 入力画像から特徴領域を検出する特徴領域検出部と、
   前記入力画像から、画質を低画質にした低画質画像、および少なくとも前記特徴領域において前記低画質画像より高画質な特徴領域画像を生成する画像生成部と、
   前記特徴領域画像における前記特徴領域の画像と、前記低画質画像における前記特徴領域の画像との間の差分画像を示す特徴領域差分画像を生成する差分処理部と、
   前記特徴領域差分画像および前記低画質画像をそれぞれ符号化する符号化部と
   を備える画像処理装置。
2. 前記画像生成部は、前記入力画像から解像度が低減された前記低画質画像を生成し、
   前記差分処理部は、前記特徴領域画像における前記特徴領域の画像と、前記低画質画像における前記特徴領域の画像を拡大した画像との間の前記特徴領域差分画像を生成する
   請求項１に記載の画像処理装置。
3. 前記差分処理部は、前記特徴領域において前記特徴領域画像と前記拡大した画像との間の差分が空間周波数領域に変換された空間周波数成分を持ち、前記特徴領域以外の領域において前記空間周波数成分のデータ量が低減された前記特徴領域差分画像を生成する
   請求項２に記載の画像処理装置。
4. 前記特徴領域検出部は、前記入力画像から特徴の種類が異なる複数の前記特徴領域を検出し、
   前記画像生成部は、一の特徴の種類を持つ前記特徴領域において解像度を低減することにより前記入力画像から一の特徴領域画像を生成するとともに、他の特徴の種類を持つ前記特徴領域において当該特徴領域画像より高解像度な他の特徴領域画像を前記入力画像から生成し、
   前記差分処理部は、前記一の特徴の種類を持つ特徴領域において前記一の特徴領域画像と前記拡大した画像との間の差分が空間周波数領域に変換された空間周波数成分を持ち、前記一の特徴の種類を持つ前記特徴領域以外の領域において前記空間周波数成分のデータ量が低減された前記特徴領域差分画像を生成するとともに、前記他の特徴の種類を持つ特徴領域において前記他の特徴領域画像と前記他の特徴領域画像における前記特徴領域を拡大した画像との間の差分が空間周波数領域に変換された空間周波数成分を持ち、前記他の特徴の種類を持つ特徴領域以外の領域において前記空間周波数成分のデータ量が低減された特徴領域間差分画像を生成し、
   前記符号化部は、前記特徴領域差分画像、前記特徴領域間差分画像、および前記低画質画像をそれぞれ符号化する
   請求項３に記載の画像処理装置。
5. 前記差分処理部は、前記一の特徴の種類を持つ特徴領域および前記他の特徴の種類を持つ特徴領域において前記一の特徴領域画像と前記拡大した画像との間の差分が空間周波数領域に変換された空間周波数成分を持ち、前記一の特徴の種類を持つ特徴領域および前記他の特徴の種類を持つ特徴領域以外の領域において前記空間周波数成分のデータ量が低減された前記特徴領域差分画像を生成する
   請求項４に記載の画像処理装置。
6. 前記特徴領域検出部は、前記入力画像である動画に含まれる複数の動画構成画像から、特徴の種類が異なる複数の特徴領域を検出し、
   前記画像生成部は、前記複数の動画構成画像のそれぞれについて、一の特徴の種類を持つ前記特徴領域において解像度を低減することにより前記動画構成画像から一の特徴領域画像を生成するとともに、他の特徴の種類を持つ前記特徴領域において当該特徴領域画像より高解像度な他の特徴領域画像を前記動画構成画像から生成し、
   前記差分処理部は、前記画像生成部が前記複数の動画構成画像のそれぞれから生成した複数の前記特徴領域画像から、複数の特徴領域差分画像および複数の特徴領域間差分画像を生成し、
   前記符号化部は、前記複数の特徴領域差分画像を含む特徴領域差分動画、前記複数の特徴領域間差分画像を含む特徴領域間差分動画、および複数の前記低画質画像を含む低画質動画をそれぞれ符号化する
   請求項５に記載の画像処理装置。
7. 前記画像生成部は、所定の間隔で選択された前記複数の動画構成画像から前記複数の低画質画像を生成するとともに、前記所定の間隔より短く前記特徴の種類に応じた間隔で選択された前記複数の動画構成画像から前記複数の特徴領域画像を生成する
   請求項６に記載の画像処理装置。
8. 前記差分処理部は、前記画像生成部が選択した前前記複数の動画構成画像から生成した前記複数の低画質画像および前記複数の特徴領域画像から、前記複数の特徴領域差分画像および前記複数の特徴領域間差分画像を生成する
   請求項７に記載の画像処理装置。
9. 前記差分処理部は、前記特徴領域差分画像または前記特徴領域間差分画像を生成する場合に、同じ前記動画構成画像から生成されたより低解像度の前記低画質画像または前記特徴領域画像が存在しないことを条件として、近傍のタイミングの前記動画構成画像から生成された前記低画質画像または前記特徴領域画像から前記特徴領域差分画像または前記特徴領域間差分画像を生成する
   請求項８に記載の画像処理装置。
10. 前記差分処理部は、
    前記特徴領域において前記特徴領域画像と前記拡大した画像との間の画素値の差分値を持ち、前記特徴領域以外の領域において前記画素値の差分値を持たない差分画素画像を生成する差分画素画像生成部と、
    前記差分画素画像を、部分領域毎に空間周波数領域に変換することによって、前記特徴領域差分画像または前記特徴領域間差分画像を生成する空間周波数領域変換部と
    を有する請求項９に記載の画像処理装置。
11. 前記画像生成部は、前記入力画像から、前記特徴領域以外の領域の画素値を前記拡大した画像の画素値で置き換えた前記特徴領域画像を生成し、
    前記差分画素画像生成部は、前記特徴領域以外の領域の画素値が置き換えられた、前記特徴領域画像と前記拡大した画像との間の差分により前記差分画素画像を生成する
    請求項１０に記載の画像処理装置。
12. 前記画像生成部は、前記入力画像から、前記特徴領域以外の領域の画素値および前記拡大した画像における前記特徴領域以外の領域の画素値を、所定値で置き換えた前記特徴領域画像を生成し、
    前記差分画素画像生成部は、前記特徴領域以外の領域の画素値が置き換えられた、前記特徴領域画像と前記拡大した画像との間の差分により前記差分画素画像を生成する
    請求項１０に記載の画像処理装置。
13. 前記差分処理部は、
    前記特徴領域画像と前記拡大した画像との間の画素値の差分を示す差分画素画像を生成する差分画素画像生成部と、
    前記差分画素画像を、部分領域毎に空間周波数領域に変換する空間周波数領域変換部と、
    前記空間周波数領域変換部により空間周波数領域に変換されて得られる部分領域毎の空間周波数成分のうち、前記特徴領域以外の領域を含む少なくとも一部の部分領域の前記空間周波数成分のデータ量を低減することによって、前記特徴領域差分画像または前記特徴領域間差分画像を生成する周波数領域画質変換部と
    を有する請求項９に記載の画像処理装置。
14. 前記特徴領域画像における部分領域の画像との間で差分をとるべき、他の前記動画構成画像から生成された前記特徴領域画像における部分領域である差分対象部分領域を決定する差分対象領域決定部
    をさらに備え、
    前記差分画素画像生成部は、前記特徴領域に含まれる部分領域において前記差分対象部分領域との間の画素値の差分値を持ち、前記特徴領域以外の領域において前記差分対象部分領域との間で画素値の差分値を持たない差分画素画像を生成し、
    前記画像処理装置は、
    前記特徴領域以外の領域に含まれる、差分対象となる部分領域の位置差を示す位置差情報を生成する位置差情報生成部と、
    前記特徴領域以外の領域に含まれる部分領域が同じ位置の部分領域との間で差分がとられることを前記位置差情報が示すべく、前記位置差情報を変更する位置差情報変更部と、
    前記位置差情報を符号化する動き符号化部と
    をさらに備える請求項１０に記載の画像処理装置。
15. 前記特徴領域画像との間で差分をとるべき、他の前記動画構成画像から生成された前記特徴領域画像における部分領域を決定する差分対象領域決定部と、
    前記特徴領域以外の領域に含まれる、差分対象となる部分領域の位置差を示す位置差情報を生成する位置差情報生成部と、
    前記位置差情報を符号化する動き符号化部と、
    前記特徴領域以外の部分領域が同じ位置の部分領域との間で差分がとられることを示すべく、前記動き符号化部により符号化された前記位置差情報を変更する位置差情報変更部と
    をさらに備える請求項１３に記載の画像処理装置。
16. 入力画像から特徴領域を検出する特徴領域検出段階と、
    前記入力画像から、画質を低画質にした低画質画像、および少なくとも前記特徴領域において前記低画質画像より高画質な特徴領域画像を生成する画像生成段階と、
    前記特徴領域画像における前記特徴領域の画像と、前記低画質画像における前記特徴領域の画像との間の差分画像を示す特徴領域差分画像を生成する差分処理段階と、
    前記特徴領域差分画像および前記低画質画像をそれぞれ符号化する符号化段階と
    を備える画像処理方法。
17. 画像処理装置用のプログラムであって、前記画像処理装置を、
    入力画像から特徴領域を検出する特徴領域検出部、
    前記入力画像から、画質を低画質にした低画質画像、および少なくとも前記特徴領域において前記低画質画像より高画質な特徴領域画像を生成する画像生成部、
    前記特徴領域画像における前記特徴領域の画像と、前記低画質画像における前記特徴領域の画像との間の差分画像を示す特徴領域差分画像を生成する差分処理部、
    前記特徴領域差分画像および前記低画質画像をそれぞれ符号化する符号化部
    として機能させるプログラム。

Images