以下、図面を参照しながら、この発明の実施の形態について説明する。図1は、実施の形態としてのテレビ受信機100の構成例を示している。
このテレビ受信機100は、システムコントローラ101と、リモコン信号受信部102と、リモコン(リモートコントローラ)500とを有している。また、このテレビ受信機100は、受信アンテナ111と、チューナ112と、外部入力端子113と、切換スイッチ114と、セレクタ115と、DRC−ボリウム処理部116と、パン・チルト・ズーム/追尾ズーム処理部117とを有している。また、このテレビ受信機100は、ダイナミックレンジ/周波数解析部118と、オブジェクト検出部119と、動き位置検出部123と、OSD(on-screen display)部120と、合成部121と、ディスプレイ部122とを有している。
システムコントローラ101は、テレビ受信機100の各部の動作を制御する。このシステムコントローラ101は、例えば、MPU(Micro Processing Unit)、このMPUの動作プログラム等が記憶されたROM(Read Only Memory)、このMPUの作業領域を構成するRAM(RandomAccess Memory)等を備えている。
このシステムコントローラ101には、リモコン信号受信部102が接続されている。このリモコン信号受信部102は、リモコン500からユーザの操作に応じて出力されるリモコン信号RMを受信し、そのリモコン信号RMに含まれる送信データをシステムコントローラ101に供給する。
また、受信アンテナ111は、テレビ放送信号を受信する。チューナ112は、受信アンテナ111で受信された放送信号に対して選局処理等を行って、SD信号V1(525i信号)を得る。外部入力端子113は、外部よりSD信号V2(525i信号)を入力する端子である。切換スイッチ114は、チューナ112で得られたSD信号V1と外部入力端子113から入力されたSD信号V2を入力とし、これらSD信号V1,V2のいずれかを選択的に出力する。
セレクタ115は、切換スイッチ114から出力されたSD信号またはパン・チルト・ズーム/追尾ズーム処理部117から出力されたSD信号のいずれかを選択的に取り出して出力する。
DRC−ボリウム処理部116は、画像信号処理部(画質調整機能部)を構成している。このDRC−ボリウム処理部116は、入力された画像信号が画質パラメータの値に応じた画質の画像信号となるように処理を行う。システムコントローラ101から処理部116に送られる制御信号SCaには、ユーザによって設定された、あるいは自動的に設定された、解像度を示す画質パラメータrの値およびノイズ除去度(ノイズ抑圧度)を示す画質パラメータzの値が含まれる。このDRC−ボリウム処理部116の詳細については、後述する。
パン・チルト・ズーム/追尾ズーム処理部117は、画像信号処理部(パン・チルト・ズーム機能部、追尾ズーム機能部)を構成している。このパン・チルト・ズーム/追尾ズーム処理部117は、入力された画像信号による画像のうち、ユーザによって指定された位置を中心とするズーム処理を行う。この場合、ユーザがズーム処理の中心位置を水平方向に移動操作する場合、ズーム画像の中心が水平方向に順次移動していくパン状態となる。同様に、ユーザがズーム処理の中心位置を垂直方向に移動操作する場合、ズーム画像の中心が垂直方向に順次移動していくチルト状態となる。
また、パン・チルト・ズーム/追尾ズーム処理部117は、入力された画像信号による画像に含まれる所定のオブジェクトを示すオブジェクト情報を取得し、このオブジェクト情報に基づいて、入力された画像信号に対して追尾ズーム処理を行う。
システムコントローラ101からパン・チルト・ズーム/追尾ズーム処理部117に送られる制御信号SCbには、ユーザによって指定されたズーム位置情報、ユーザによって、あるいは自動的に設定されたズーム率情報、ユーザによって指定された追尾対象のオブジェクト情報等が含まれる。このパン・チルト・ズーム/追尾ズーム処理部117の詳細については、後述する。
ダイナミックレンジ/周波数解析部118は、パン・チルト・ズーム/追尾ズーム処理部117で得られた画像信号を解析し、ダイナミックレンジ情報DIおよび周波数情報FIを取得し、システムコントローラ101に供給する。
ダイナミックレンジ/周波数解析部118は、例えば、フレーム画像信号(輝度信号)に対して、8画素×8画素のブロック切り出しを行い、各ブロック内の画素信号の最小値および最大値の差分の平均値を求めて、ダイナミックレンジ情報DIとする。
また、ダイナミックレンジ/周波数解析部118は、例えば、フレーム画像信号(輝度信号)に対して、8画素×8画素のブロック切り出しを行い、各ブロックに対してDCT変換処理を行う。そして、ダイナミックレンジ/周波数解析部118は、例えば、各ブロックの高域側の1/4の領域にある16個のDCT係数の絶対値をそれぞれ加算し、その後に16個の加算値の平均値を求めて、周波数情報FIとする。
オブジェクト検出部119は、パン・チルト・ズーム/追尾ズーム処理部117で得られた画像信号による画像に含まれるオブジェクトを検出し、オブジェクト情報OIを取得し、システムコントローラ101に供給する。オブジェクト検出部119は、例えば、フレーム画像信号に対して隣接画素差分を求めて画面内輪郭を検出することで、画像に含まれるオブジェクトを検出する。
動き位置検出部123は、パン・チルト・ズーム/追尾ズーム処理部117で得られた画像信号による画像の動き位置を検出し、動き位置情報MIをシステムコントローラ101に供給する。動き位置検出部123は、例えば、8画素×8画素のブロック毎にブロックマッチング法等によって動きベクトルを求め、動きベクトルの大きな部分を動き位置として検出する。
OSD(On ScreenDisplay)部120は、ディスプレイ部122に、画像に重ねて表示されるユーザインタフェース画面用の表示信号SCHを発生する。合成部121は、DRC−ボリウム処理部116から出力されるHD信号に表示信号SCHを合成してディスプレイ部122に供給する。ディスプレイ部122は、例えばCRT(cathode-ray tube)ディスプレイ、あるいはLCD(liquidcrystal display)等のフラットパネルディスプレイで構成されている。
次に、テレビ受信機100を構成するリモコン500について説明する。テレビ受信機100は、図2に示すように、このリモコン500と、操作対象機器としての受信機本体部100Aとからなっている。リモコン500は、リモコン信号SMの送信部510aを有するベースユニット510と、追尾ズーム用ユニット520と、画質調整用ユニットとしての解像度・ノイズ感調整用ユニット530と、パン・チルト・ズーム用ユニット540とを有している。ユニット520,530,540は、機能操作ユニットを構成している。
ベースユニット510は、各ユニットからの操作データを集約し、送信部510aから例えば赤外線のリモコン信号SMを出力する。追尾ズーム用ユニット520は、上述したパン・チルト・ズーム/追尾ズーム処理部117における追尾ズーム機能を操作する。左のボタンを押し下げると、明示的に追尾ズーム機能がオンとなる。また、真中および右のボタンは、追尾ズームのパラメータを切り換えるためのものである。
解像度・ノイズ感調整用ユニット530は、上述したDRC−ボリウム処理部116における画質調整機能を操作する。左の押しボタンを押し下げすると、明示的に画質調整機能がオンとなる。真中の上下キーで解像度感を調整でき、右の上下キーでノイズ感を調整できる。
パン・チルト・ズーム用ユニット540は、上述したパン・チルト・ズーム/追尾ズーム処理部117におけるパン・チルト・ズーム機能を操作する。真中の押しボタンを押し下げすると、明示的にパン・チルト・ズーム機能がオンとなる。左のスティックでパン、チルトを調整でき、右のスティックでズーム率を調整できる。
リモコン500において、ベースユニット510は一番上に配置されるが、その他のユニットは自由に入れ替えることができる構造になっている。すなわち、ベースユニット510の下部には接合凹部510bが設けられている。また、ユニット520,530,540の上部には接合凸部520a,530a,540aが設けられ、ユニット520,530,540の下部には接合凹部520b,530b,540bが設けられている。これら接合凹部および接合凸部は、他のユニットと電気的および機械的な結合を行うためのものである。
図3は、リモコン500のユニット間の配線模式図を示している。ベースユニット510はバッテリ(電源)510cを備えている。ベースユニット510の電源Vccおよび接地GNDは、それぞれ、電源ライン552および接地ライン553を通じて、各ユニットに供給される。
ユニット510〜540の下部の接合凹部510b〜540bには、それぞれ、電極部511〜541が設けられている。電極部511〜541は、それぞれ、ユニット510〜540を特定するデータ(固有のID)を供給する。電極部511〜541は、それぞれ、データ供給部を構成している。ここで、各電極部は、2つの電極で構成されており、2ビットのデータを供給する。
この実施の形態において、ベースユニット510の電極部511は、双方の電極が接地GNDに接続され、2ビットのデータ「00」を供給する。また、追尾ズーム用ユニット520の電極部521は、一方の電極は接地GNDに接続され、他方の電極は電源Vccに接続され、2ビットのデータ「01」を供給する。また、解像度・ノイズ感調整用ユニット530の電極部531は、一方の電極は電源Vccに接続され、他方の電極は接地GNDに接続され、2ビットのデータ「10」を供給する。また、パン・チルト・ズーム用ユニット540の電極部541は、双方の電極が電源Vccに接続され、2ビットのデータ「11」を供給する。
なお、この実施の形態におけるリモコン500においては、ベースユニット510に、追尾ズーム用ユニット520、解像度・ノイズ感調整用ユニット530およびパン・チルト・ズーム用ユニット540から選択された一部または全部が接続された状態で使用される。そのため、4個のユニット510〜540の識別が可能であればよいことから、各電極部は2つの電極で構成され、2ビットのデータを供給するようになっている。
ユニット520〜540の上部の接合凹部520a〜540aには、それぞれ、電極部522〜542が設けられている。電極部522〜542は、それぞれ、接続時に、自身のユニットの上にあるユニットを特定するデータ(固有のID)を取得する。電極部522〜542は、それぞれ、データ取得部を構成している。ここで、各電極部は、2つの電極で構成されており、2ビットのデータを取得する。
追尾ズーム用ユニット520は、電極部522で取得されたデータを、データライン561,562を通じてベースユニット510のMPU(Micro Processing Unit)510dに、供給する。この場合、MPU510dは、データライン561,562で供給される2ビットのデータ(固有のID)は、追尾ズーム用ユニット520の電極部522で取得されたデータであって、この2ビットのデータに基づいて、追尾ズーム用ユニット520の上にあるユニットを特定できる。
また、解像度・ノイズ感調整用ユニット530は、電極部532で取得されたデータを、データライン564,565を通じてベースユニット510のMPU510dに、供給する。この場合、MPU510dは、データライン564,565で供給される2ビットのデータ(固有のID)は、解像度・ノイズ感調整用ユニット530の電極部532で取得されたデータであって、この2ビットのデータに基づいて、解像度・ノイズ感調整用ユニット530の上にあるユニットを特定できる。
また、パン・チルト・ズーム用ユニット540は、電極部542で取得されたデータを、データライン567,568を通じてベースユニット510のMPU510dに、供給する。この場合、MPU510dは、データライン567,568で供給される2ビットのデータ(固有のID)は、パン・チルト・ズーム用ユニット540の電極部542で取得されたデータであって、この2ビットのデータに基づいて、パン・チルト・ズーム用ユニット540の上にあるユニットを特定できる。
リモコン500においては、ベースユニット510に、追尾ズーム用ユニット520、解像度・ノイズ感調整用ユニット530およびパン・チルト・ズーム用ユニット540から選択された一部または全部が接続された状態で使用されるが、ベースユニット510を上側として、下側に行くほど優先順位が高いユニットとされる。
上述したように、ユニット520,530,540からデータライン(561,562)、(564,565)、(567,568)を通じて供給されるデータは、それぞれ各ユニットの上にあるユニットを特定できるデータである。したがって、このデータは、ユニット520,530,540の接続順を示すデータであって、各ユニットの優先順位を示す順位データをも構成している。
ユニット520〜540の電源Vccは、それぞれ、データライン563,566,569を通じて、ベースユニット510のMPU510dに接続されている。MPU510dにおいて、データライン563,566,569が接続されたポートは、接地GNDにプルダウンされている。
例えば、追尾ズーム用ユニット520が接続され、リモコン500の構成ユニットとなっている場合、ベースユニット510の電源(バッテリ)510cは、追尾ズーム用ユニット50からデータライン563を通じてMPU510dに伝わる。そのため、MPU510dは、追尾ズーム用ユニット520が接続されていると認識する。逆に、追尾ズーム用ユニット520が接続されていない場合、ベースユニット510の電源(バッテリ)510cはデータライン563を通じてMPU510dに伝わらない。このMPU510dは、追尾ズーム用ユニット520が接続されていないと認識する。
このように、ベースユニット510のMPU510dは、追尾ズーム用ユニット520が接続されているか否かを容易に認識できる。なお、詳細説明は省略するが、ベースユニット510のMPU510dは、他のユニット(解像度・ノイズ感調整用ユニット530、パン・チルト・ズーム用ユニット540)に関しても、同様にして、接続されているか否かを容易に認識できる。
ユニット520〜540は、バスライン570を通じて、ベースユニット510のMPU510dに接続される。バスライン570は、ユニット520〜540からの、ボタン押し下げデータ、スティック操作データ等の操作データを、ベースユニット510のMPU510dに送るためのバスラインである。ユニット520〜540には、操作データをI2C(Inter-Integrated Circuit)データに変換するためのLSI523〜543が搭載されている。
なお、ユニット520〜540において、電源ライン552、接地ライン553、データライン561〜569およびバスライン570は、図3に示すように、それぞれのユニットを上部側から下部側に貫くように配線されている。また、図3においては、上述の各ラインをユニット間で連続した状態で示しているが、これら各ラインは、ユニットの接続があって初めてユニット間で接続された状態となることは勿論である。
次に、リモコン500のベースユニット510の送信部510aから送信されるリモコン信号SMに含まれる送信データについて説明する。図4は、送信データの構造例を示している。送信データは、例えば、8ビットのカテゴリデータ、10ビットの接続状態データ、それぞれ8ビットのデータ1〜データ4および8ビットのチェックサムにより構成されている。
カテゴリデータは、操作対象機器であるテレビ受信機、ビデオレコーダ等を示すデータである。接続状態データは、リモコン500が、ベースユニット510にいずれの機能操作ユニットが接続されているか、各機能操作ユニットの接続順序がどのようであるかを示すデータである。この接続状態データは、例えば、その下位あるいは上位の9ビットのデータとして、ベースユニット510のMPU510dにデータライン561から569で供給される9ビットのデータが配置されて構成される。
上述したように、ユニット520,530,540からデータライン(561,562)、(564,565)、(567,568)を通じて供給されるデータは各機能操作ユニットの接続順を示すデータであって、各機能操作ユニットの優先順位を示す順位データをも構成している。したがって、送信データは、各ユニットの操作データと共に、各機能操作ユニットの優先順位を示す順位データを含んだ構造となっている。
データ1〜データ4は、それぞれ、ユニット510〜540の操作による操作データである。ユーザによりベースユニット510が操作される場合、その操作データはデータ1に配置される。この場合、データ2〜データ4は「NULL」の状態とされる。また、ユーザにより追尾ズーム用ユニット520が操作される場合、その操作データはデータ2に配置される。この場合、データ1,データ3,データ4は「NULL」の状態とされる。
また、ユーザにより解像度・ノイズ感調整用ユニット530が操作される場合、その操作データはデータ3に配置される。この場合、データ1,データ2,データ4は「NULL」の状態とされる。また、ユーザによりパン・チルト・ズーム用ユニット540が操作される場合、その操作データはデータ4に配置される。この場合、データ1〜データ3は「NULL」の状態とされる。
次に、テレビ受信機100のDRC−ボリウム処理部116の詳細を説明する。図5は、DRC−ボリウム処理部116の構成例を示している。
このDRC−ボリウム処理部116は、画像信号Vaが入力される入力端子201と、この入力端子201に入力された画像信号Vaを処理する処理本体部202と、この処理本体部202で得られた画像信号Vbを出力する出力端子203と、処理本体部202の動作を制御する制御部204と、制御信号SCaが入力される入力端子206とを有している。
制御部204は、入力端子206に入力される制御信号SCaに基づいて、処理本体部202の動作を制御する。例えば、制御部204は、MPU、このMPUの動作プログラム等が記憶されたROM、このMPUの作業領域を構成するRAM等を備えた構成とされている。
この処理本体部202は、525i信号というSD(Standard Definition)信号である画像信号Vaを、1050i信号というHD(High Definition)信号である画像信号Vbに変換する。525i信号は、1フレームのライン数が525本である、インタレース方式の画像信号である。1050i信号は、1フレームのライン数が1050本である、インタレース方式の画像信号である。
図6は、525i信号および1050i信号の、あるフレーム(F)の画素位置関係を示すものであり、奇数(o)フィールドの画素位置を実線で示し、偶数(e)フィールドの画素位置を破線で示している。大きなドットが525i信号の画素であり、小さいドットが1050i信号の画素である。図6から分かるように、1050i信号の画素データとしては、525i信号のラインに近い位置のラインデータL1,L1′と、525i信号のラインから遠い位置のラインデータL2,L2′とが存在する。ここで、L1,L2は奇数フィールドのラインデータ、L1′,L2′は偶数フィールドのラインデータである。また、1050i信号の各ラインの画素数は、525i信号の各ラインの画素数の2倍である。
図5に戻って、処理本体部202は、バッファメモリ211と、予測タップ選択部212と、クラスタップ選択部213とを有している。バッファメモリ211は、入力端子201に入力された画像信号Vaを一時的に記憶する。タップ選択部212,213は、それぞれ、バッファメモリ211に記憶されている画像信号Vaに基づいて、画像信号Vbにおける注目位置の周辺に位置する複数の画素データを、予測タップ、クラスタップのデータとして選択的に抽出する。
図7(a)は、予測タップのデータとして抽出される複数の画素データのパターン例を示している。図7(b)は、クラスタップのデータとして抽出される複数の画素データ(実線部分)のパターン例を示している。なお、この図7(a),(b)では、注目位置が存在する現フィールドから予測タップ、クラスタップのデータとしての複数の画素データを抽出するようになっているが、さらに時間方向の前後の所定数のフィールドから抽出することも考えられる。
また、処理本体部202は、クラス検出部214を有している。このクラス検出部214は、クラスタップ選択部213で抽出されたクラスタップのデータとしての複数の画素データに対してデータ圧縮処理を施して、画像信号Vbにおける注目位置の画素データが属するクラスを示すクラスコードCLを取得する。例えば、データ圧縮処理としては、ADRC(Adaptive Dynamic Range Coding)、DPCM(予測符号化)、VQ(ベクトル量子化)等を利用できる。本実施の形態では、ADRC、例えば1ビットADRCを利用している。
まず、KビットADRCを利用する場合について説明する。この場合、クラスタップに含まれる画素データの最大値MAXと最小値MINの差分であるダイナミックレンジDR=MAX−MINを検出し、またクラスタップに含まれるそれぞれの画素データについて、その画素データから最小値MINを減算し、その減算値をDR/2Kで除算(量子化)し、クラスタップを構成するそれぞれの画素データをKビットに再量子化し、それを所定の順番で並べたビット列をクラスコードCLとする。
したがって、1ビットADRCを利用する場合には、クラスタップに含まれるそれぞれの画素データについて、その画素データから最小値MINを減算し、その減算値をDR/2で除算し、クラスタップに含まれるそれぞれの画素データを1ビットに再量子化し、それを所定の順番で並べたビット列をクラスコードCLとして出力する。
また、処理本体部202は、係数データ生成部215と、記憶部としてのROM216とを有している。ROM216は、各クラスの係数種データを記憶している。後述する推定予測演算部217では、予測タップとしての複数の画素データxiと、係数データWiとを用い、(1)式の推定式に基づいて、画像信号Vbにおける注目位置の画素データyが求められる。この(1)式において、nは、予測タップとしての複数の画素データxiの個数である。
ROM216に記憶される係数種データは、上述した推定式の係数データWiを生成するための、画質パラメータr,zを含む生成式の係数データである。(2)式は、その生成式の一例を示しており、wi0〜wi9が係数種データである。ここで、画質パラメータrは解像度を決めるパラメータであり、画質パラメータzはノイズ除去度(ノイズ抑圧度)を決めるパラメータである。この係数種データwi0〜wi9は、画像信号Vaを(525i信号)を、画像信号Vb(1050i信号)に変換するための情報である。
上述の図6に示すように、525i信号を1050i信号に変換する場合、奇数、偶数のそれぞれのフィールドにおいて、525i信号の1画素に対応して1050i信号の4画素を得る必要がある。
図8は、奇数、偶数フィールドにおける1050i信号を構成する2×2の単位画素ブロックUB内の4画素における中心予測タップからの位相ずれを示している。奇数フィールドの場合、単位画素ブロックUB内の4画素HD1〜HD4の位置は、それぞれ、中心予測タップSD0の位置から、水平方向にk1〜k4、垂直方向にm1〜m4だけずれている。偶数フィールドの場合、単位画素ブロックUB内の4画素HD1′〜HD4′の位置は、それぞれ、中心予測タップSD0′の位置から、水平方向にk1′〜k4′、垂直方向にm1′〜m4′だけずれている。
そのため、上述した各クラスの係数種データwi0〜wi9は、8種類の出力画素(HD1〜HD4,HD1′〜HD4′)にそれぞれ対応した係数種データwi0〜wi9からなっている。結局、ROM216には、クラスおよび出力画素の組み合わせ毎に、係数種データwi0〜wi9が格納されている。
この係数種データwi0〜wi9は、画像信号Vbに対応した教師信号としての画像信号Vb′と画像信号Vaに対応した生徒信号としての画像信号Va′とから学習によって予め生成されたものである。この係数種データwi0〜wi9の生成方法の詳細については後述する。
係数データ生成部215は、奇数、偶数の各フィールドにおいて、クラス検出部214で得られたクラスコードCLが表すクラスの、4出力画素(図8のHD1〜HD4、またはHD1′〜HD4′)にそれぞれ対応した4画素分の係数種データwi0〜wi9をROM216から取得し、さらに制御部204から供給される画質パラメータr,zの値を用い、(2)式の生成式に基づいて、4画素分の係数データWiを生成する。
ここで、画質パラメータrは解像度を示し、画質パラメータzはノイズ抑圧度を示す。これら画質パラメータr,zは、ユーザによって設定され、あるいはシステムコントローラ101により自動的に設定される。
また、処理本体部202は、推定予測演算部217を有している。この推定予測演算部217は、画像信号Vbにおける注目位置に存在する単位画素ブロックUB毎に画素データを求める。すなわち、推定予測演算部217は、予測タップ選択部212で抽出される単位画素ブロックUB内の4画素(注目画素)に対応した、予測タップのデータxi、および係数データ生成部215で生成される、その単位画素ブロックUB内の4画素に対応した4画素分の係数データWiを用い、その単位画素ブロックUBを構成する4画素の画素データy1〜y4を、それぞれ上述した(1)式の推定式で、個別に演算する。
また、処理本体部202は、後処理部218を有している。この後処理部218は、推定予測演算部217より順次出力される、単位画素ブロックUB内の4画の画素データy1〜y4を線順次化し、1050i信号のフォーマットで出力する。
次に、図5に示すDRC−ボリウム処理部116の動作を説明する。SD信号である画像信号Vaが入力端子201に入力され、この画像信号Vaはバッファメモリ211に一時的に記憶される。そして、この画像信号Vaに基づき、クラス分類適応処理により、画像信号Vbを構成する各画素データが生成される。
すなわち、クラスタップ選択部213では、バッファメモリ211に記憶されている画像信号Vaに基づいて、画像信号Vbにおける注目位置の周辺に位置する複数の画素データが、クラスタップのデータとして選択的に抽出される。この複数の画素データは、クラス検出部214に供給される。
クラス検出部214では、クラスタップのデータとしての複数の画素データに、例えば1ビットADRCのデータ圧縮処理が施されて、画像信号Vbにおける注目位置の画素データが属するクラスを示すクラスコードCLが得られる。このクラスコードCLは係数データ生成部215に供給される。
この係数データ生成部215では、奇数、偶数の各フィールドにおいて、クラスコードCLで示されるクラスの、4出力画素(図8のHD1〜HD4、またはHD1′〜HD4′)にそれぞれ対応した4画素分の係数種データwi0〜wi9が、ROM216から取得される。また、この係数データ生成部215には、制御部204から画質パラメータr,zの値が供給される。そして、この係数データ生成部215では、各フィールドにおいて、4画素分の係数種データwi0〜wi9および画質パラメータr,zの値が用いられ、上述の(2)式の生成式に基づいて、4出力画素分の係数データWiが生成される。この係数データWiは、推定予測演算部217に供給される。
また、予測タップ選択部212では、バッファメモリ211に記憶されている画像信号Vaに基づいて、画像信号Vbにおける注目位置の周辺に位置する複数の画素データxiが、予測タップのデータとして選択的に抽出される。この複数の画素データxiは、推定予測演算部217に供給される。推定予測演算部217では、予測タップ選択部212で抽出された予測タップのデータとしての複数の画素データxiと、係数データ生成部215で生成された4出力画素分の係数データWiとから、画像信号Vbにおける注目位置に存在する単位画素ブロックUB内の4画素(注目画素)の画素データy1〜y4が、上述の(1)式の推定式に基づいて、個別に演算される。
この推定予測演算部217より順次出力される、画像信号Vbを構成する各単位画素ブロックUB内の4画素の画素データy1〜y4は、後処理部218に供給される。この後処理部218では、推定予測演算部217より順次供給される単位画素ブロックUB内の4画素のデータy1〜y4が線順次化され、1050i信号のフォーマットで出力される。つまり、後処理部218からは画像信号Vb(050i信号)が得られ、この画像信号Vbは出力端子203に出力される。
次に、上述した処理本体部202のROM216に記憶される、係数種データの生成方法について説明する。この係数種データは、学習によって生成される。ここでは、(2)式の生成式における係数データである係数種データwi0〜wi9を求める例を示すものとする。
ここで、以下の説明のため、(3)式のように、tj(j=0〜9)を定義する。
t0=1,t1=r,t2=z,t3=r2,t4=rz,t5=z2,t6=r3,
t7=r2z,t8=rz2,t9=z3
・・・(3)
この(3)式を用いると、(2)式は、(4)式のように書き換えられる。
最終的に、学習によって未定係数wijを求める。すなわち、クラスおよび出力画素の組み合わせ毎に、複数の学習データを用いて、二乗誤差を最小にする係数値を決定する。いわゆる最小二乗法による解法である。学習数をm、k(1≦k≦m)番目の学習データにおける残差をek、二乗誤差の総和をEとすると、(1)式および(2)式を用いて、Eは(5)式で表される。ここで、xikはSD信号のi番目の予測タップ位置におけるk番目の画素データ、ykはそれに対応するk番目のHD信号の画素データを表している。
最小二乗法による解法では、(5)式のwijによる偏微分が0になるようなwijを求める。これは、(6)式で示される。
ここで、(7)式、(8)式のように、Xipjq、Yipを定義すると、(6)式は、行列を用いて、(9)式のように書き換えられる。
この(9)式が、係数種データwi0〜wi9を算出するための正規方程式である。この正規方程式を掃き出し法(Gauss-Jordanの消去法)等の一般解法で解くことにより、係数種データwi0〜wi9を求めることができる。
図9は、上述した係数種データの生成方法の概念を示している。教師信号としてのHD信号から、生徒信号としての複数のSD信号を生成する。ここで、HD信号からSD信号を生成する際に使用する間引きフィルタの周波数特性を変えることにより、解像度の異なるSD信号を生成する。
解像度の異なるSD信号によって、解像度を上げる効果の異なる係数種データを生成できる。例えばボケ具合の大きな画像が得られるSD信号とボケ具合の小さな画像が得られるSD信号があった場合、ボケ具合の大きな画像が得られるSD信号による学習で、解像度を上げる効果の強い係数種データが生成され、ボケ具合の小さな画像が得られるSD信号による学習で、解像度を上げる効果の弱い係数種データが生成される。
また、解像度の異なるSD信号の各々に対してノイズを加えることで、ノイズの加わったSD信号を生成する。ノイズを加える量を可変することでノイズ量が異なるSD信号が生成され、それによってノイズ除去効果の異なる係数種データが生成される。例えばノイズをたくさん加えたSD信号とノイズを少し加えたSD信号とがあった場合、ノイズをたくさん加えたSD信号による学習でノイズ除去効果の強い係数種データが生成され、ノイズを少し加えたSD信号による学習でノイズ除去効果の弱い係数種データが生成される。
ノイズを加える量としては、例えば(10)式のように、SD信号の画素値xに対して、ノイズnを加えてノイズの加わったSD信号の画素値x′を生成する場合、Gを可変することでノイズ量を調整する。
x′=x+G・n・・・(10)
例えば、周波数特性を可変する画質パラメータrの値を0〜1.0まで0.1のステップで11段階に可変し、ノイズを加える量を可変する画質パラメータzの値を0〜1.0まで0.1のステップで11段階に可変し、合計121種類のSD信号を生成する。このようにして生成した複数のSD信号とHD信号との間で学習を行って係数種データを生成する。この画質パラメータr,zは、図5の係数データ生成部215に供給される画質パラメータr,zに対応したものである。
次に、上述した係数種データwi0〜wi9を生成するための係数種データ生成装置250について説明する。図10は、この係数種データ生成装置250の構成を示している。
この係数種データ生成装置250は、入力端子251と、SD信号生成部252とを有している。入力端子251は、上述した画像信号Vbに対応した、教師信号としての画像信号Vb′を入力するための端子である。SD信号生成部252は、この画像信号Vb′に対して、水平および垂直の間引き処理を行って、上述した画像信号Vaに対応した、生徒信号としての画像信号Va′を生成する。このSD信号生成部252には、画質パラメータr,zが供給される。画質パラメータrの値に対応して、画像信号Vb′から画像信号Va′を生成する際に使用する間引きフィルタの周波数特性が可変される。また、画質パラメータzの値に対応して、画像信号Va′に加えるノイズの量が可変される。
また、係数種データ生成装置250は、予測タップ選択部253と、クラスタップ選択部254とを有している。これらタップ選択部253,254は、それぞれ、SD信号生成部252で生成された画像信号Va′に基づいて、画像信号Vb′における注目位置の周辺に位置する複数の画素データを、予測タップ、クラスタップのデータとして選択的に抽出する。これらタップ選択部253,254は、それぞれ、上述した処理本体部202のタップ選択部212,213に対応している。
また、係数種データ生成装置250は、クラス検出部255を有している。このクラス検出部255は、クラスタップ選択部254で選択的に抽出されたクラスタップのデータとしての複数の画素データを処理して、画像信号Vb′における注目位置の画素データが属するクラスを示すクラスコードCLを生成する。このクラス検出部255は、上述した処理本体部202のクラス検出部214に対応している。
また、係数種データ生成装置250は、教師タップ選択部256を有している。この教師タップ選択部256は、画像信号Vb′に基づいて、当該画像信号Vb′における注目位置の画素データを選択的に抽出する。
また、係数種データ生成装置250は、正規方程式生成部257を有している。この正規方程式生成部257は、教師タップ選択部256で選択的に抽出された、画像信号Vb′における各注目位置の画素データyと、この各注目位置の画素データyにそれぞれ対応して予測タップ選択部253で選択的に抽出された、予測タップのデータとしての複数の画素データxiと、各注目位置の画素データyにそれぞれ対応してクラス検出部255で生成されたクラスコードCLと、画質パラメータr,zの値とから、クラス毎に、係数種データwi0〜wi9を得るための正規方程式((9)式参照)を生成する。
この場合、1個の画素データyとそれに対応する複数個の画素データxiとの組み合わせで1個の学習データが生成される。教師信号としての画像信号Vb′と、それに対応した生徒信号としての画像信号Va′との間で、クラス毎に、多くの学習データが生成されていく。これにより、正規方程式生成部257では、各クラスの係数種データwi0〜wi9を得るための正規方程式がそれぞれ生成される。
またこの場合、正規方程式生成部257では、出力画素(図8のHD1〜HD4,HD1′〜HD4′)毎に、正規方程式が生成される。すなわち、HD1〜HD4,HD1′〜HD4′に対応した正規方程式は、それぞれ、中心予測タップSD0,SD0′からのずれ値がHD1〜HD4,HD1′〜HD4′と同じ関係にある画素データyから構成される学習データを用いて生成される。結局、正規方程式生成部257では、クラスおよび出力画素の組み合わせ毎に、係数種データwi0〜wi9を得るための正規方程式が生成される。
また、係数種データ生成装置250は、係数種データ決定部258と、係数種メモリ259とを有している。係数種データ決定部258は、正規方程式生成部257から正規方程式のデータの供給を受け、当該正規方程式を掃き出し法等によって解き、クラスおよび出力画素の組み合わせ毎に、係数種データwi0〜wi9を求める。係数種メモリ259は、係数種データ決定部258で求められた係数種データwi0〜wi9を格納する。
次に、図10に示す係数種データ生成装置250の動作を説明する。
入力端子251には、教師信号としての画像信号Vb′が入力される。この画像信号Vb′に対して、SD信号生成部252で水平および垂直の間引き処理が行われて、生徒信号としての画像信号Va′が生成される。この場合、SD信号生成部252には画質パラメータr,zが制御信号として供給され、周波数特性およびノイズ加算量が段階的に変化した複数の画像信号Va′が順次生成されていく。
クラスタップ選択部254では、画像信号Va′に基づいて、画像信号Vb′における注目位置の周辺に位置する複数の画素データがクラスタップのデータとして選択的に抽出される。この複数の画素データはクラス検出部255に供給される。そして、クラス検出部255では、各画素データに対してADRC等のデータ圧縮処理が施されて、画像信号Vb′における注目位置の画素データが属するクラスを示すクラスコードCLが生成される。このクラスコードCLは、正規方程式生成部257に供給される。
予測タップ選択部253では、画像信号Va′に基づいて、画像信号Vb′における注目位置の周辺に位置する複数の画素データxiが予測タップのデータとして選択的に抽出される。この複数の画素データxiは、正規方程式生成部257に供給される。また、教師タップ選択部256では、画像信号Vb′に基づいて、当該画像信号Vb′における注目位置の画素データyが選択的に抽出される。この画素データyは、正規方程式生成部257に供給される。
正規方程式生成部257では、画像信号Vb′における各注目位置を対象として、当該各注目位置の画素データyと、この各注目位置の画素データyにそれぞれ対応した、予測タップのデータとしての複数の画素データxiと、各注目位置の画素データyが属するクラスを示すクラスコードCLと、SD信号生成部252に供給されている画質パラメータr,zの値とから、クラスおよび出力画素の組み合わせ毎に、係数種データwi0〜wi9を得るための正規方程式((9)式参照)が生成される。
そして、係数種データ決定部258では、正規方程式生成部257から正規方程式のデータが供給され、当該正規方程式が掃き出し法等によって解かれ、クラスおよび出力画素の組み合わせ毎に、係数種データwi0〜wi9が求められる。この係数種データwi0〜wi9は、係数種メモリ259に格納される。
このように、図10に示す係数種データ生成装置250においては、上述した処理本体部202のROM216に格納すべき、クラスおよび出力画素の各組み合わせの係数種データwi0〜wi9を生成できる。
次に、パン・チルト・ズーム/追尾ズーム処理部117の詳細を説明する。図11は、パン・チルト・ズーム/追尾ズーム処理部117の構成例を示している。
パン・チルト・ズーム/追尾ズーム処理部117は、画像信号が入力される入力端子301と、この入力端子301に入力された画像信号を処理する処理本体部302と、この処理本体部302で得られた画像信号を出力する出力端子303と、処理本体部302の動作を制御する制御部304と、制御信号SCbが入力される入力端子305とを有している。
制御部304は、入力端子305に入力される制御信号SCbに基づいて、処理本体部302の動作を制御する。例えば、制御部304は、MPU、このMPUの動作プログラム等が記憶されたROM、このMPUの作業領域を構成するRAM等を備えた構成とされている。処理本体部302は、バッファメモリ311と、検出領域決定部312と、オブジェクト特定部313と、動きベクトル検出部314と、ズーム処理部315とを有している。
バッファメモリ311は、入力端子301に入力された画像信号を一時的に記憶する。検出領域決定部312は、制御部304から供給される、制御信号SCbに含まれているオブジェクト領域指定情報OAAに基づいて、単独で、あるいはオブジェクト特定部313との共働で、オブジェクト領域情報を生成する。このオブジェクト領域情報は、例えばオブジェクト領域に対応した画素位置にフラグが立つようにされたフラグ情報である。
ここで、ユーザのオブジェクト領域の指定動作を説明する。ユーザがオブジェクト領域の指定動作を行う場合、バッファメモリ311に記憶されている画像信号が出力端子303に出力され、ディスプレイ部122の画面上にその画像信号による画像が表示される。この状態で、ユーザがリモコン操作によりオブジェクトOBに対応した所定点Pを指定することで、図12に示すように、当該所定点Pを中心とした円形または楕円形の枠FLが表示される。この枠FLを表示するための表示信号は、図示せずも、例えばズーム処理部315の部分で画像信号に重畳される。ユーザは、この枠FLの大きさを予め調整できる。また、枠FLの形状は、円形または楕円形でなく、その他の形状であってもよい。
例えば、このようにオブジェクトOBに対応して枠FLが表示されることでオブジェクト領域の指定が確定し、システムコントローラ101からパン・チルト・ズーム/追尾ズーム処理部117に、上述したオブジェクト領域指定情報OAAとして、確定時における枠位置情報が供給される。検出領域決定部312は、当該枠位置情報に基づいて枠内領域をオブジェクト領域に決定する。
動きベクトル検出部314は、バッファメモリ311に記憶されている画像信号に基づいて、各フレームで、画素毎に動きベクトルを検出する。この動きベクトルの検出は、詳細説明は省略するが、従来周知のブロックマッチング法、勾配法などを用いて行われる。オブジェクト特定部313は、検出領域決定部312で生成されたオブジェクト領域情報および動きベクトル検出部314で検出された動きベクトルMVに基づいて、オブジェクト領域の重心位置情報WAIを生成する。
すなわち、オブジェクト特定部313は、検出領域決定部312でオブジェクト領域が決定されたフレームである初期フレームでは、当該検出領域決定部312で生成されたオブジェクト領域情報に基づいて、当該初期フレームにおけるオブジェクト領域の重心位置を求めて、初期フレームにおけるオブジェクト領域の重心位置情報WAIを生成すると共に、オブジェクト領域内の各画素に対応して動きベクトル検出部314で検出された各動きベクトルに基づいて次のフレームで使用するオブジェクトOBの動き情報を取得する。例えば、このオブジェクトOBの動き情報は、各動きベクトルを平均した平均動きベクトルとされる。また例えば、このオブジェクトOBの動き情報は、各動きベクトルのうち最大頻度を示す動きベクトルとされる。
オブジェクト特定部313は、初期フレームに続くフレームでは、初期フレームで求められたオブジェクト領域の重心位置を初期フレームで取得されていたオブジェクトOBの動き情報を用いて移動させて当該フレームにおけるオブジェクト領域の重心位置を求め、重心位置情報WAIを生成する。また、オブジェクト特定部313は、初期フレームに続くフレームでは、初期フレームで求められたオブジェクト領域を初期フレームで取得されていたオブジェクトOBの動き情報を用いて移動させて当該フレームにおけるオブジェクト領域を決定し、オブジェクト領域内の各画素に対応して動きベクトル検出部314で検出された各動きベクトルに基づいて次のフレームで使用するオブジェクトOBの動き情報を取得する。
オブジェクト特定部313は、以降の各フレームでは、同様にして、前のフレームで取得されていたオブジェクトOBの動き情報を用いて、オブジェクト領域の重心位置情報WAIを生成すると共に、当該フレームにおけるオブジェクト領域を決定し、次のフレームで使用するオブジェクトOBの動き情報を取得する。
上述の検出領域決定部312、オブジェクト特定部313および動きベクトル検出部314は、追尾ズーム機能がオンとされている場合に動作する。そして、オブジェクト特定部313で生成されたオブジェクト領域の重心位置情報WAIがズーム処理部315に供給されて、追尾ズーム処理が行われる。
ズーム処理部315は、オブジェクト特定部313で生成されたオブジェクト領域の重心位置情報WAI、あるいは制御部304から供給されるズーム位置情報ZAIと、制御部304から供給される倍率情報MGIに基づいて、バッファメモリ311に記憶されている画像信号に対してズーム処理(パン・チルト・ズーム機能)、または追尾ズーム処理(追尾ズーム機能)を行う。
すなわち、ズーム処理部315は、追尾ズーム処理では、オブジェクト特定部313からの重心位置情報WAIで示されるオブジェクト領域の重心位置を中心とする画像領域を、制御部304からの倍率情報MGIで示される倍率で拡大する処理を行う。この場合、重心位置情報WAIで示されるオブジェクト領域の重心位置の移動に伴って、ズーム画像の中心が順次移動していく追尾ズーム状態となる。
なお、この追尾ズーム処理では、上述したようにオブジェクト特定部313では初期フレームを最初とする各フレームでオブジェクト領域の重心位置情報WAIが順次取得されるが、ズーム処理部315では、オブジェクト特定部313で順次取得される各フレームの重心位置情報WAIに基づいて、順次対応するフレームの画像信号がバッファメモリ311から読み出されて処理される。
また、ズーム処理部315は、ズーム処理では、制御部304から供給されるズーム位置情報ZAIで示されるズーム処理の中心位置を中心とする画像領域を、制御部304からの倍率情報MGIで示される倍率で拡大する処理を行う。この場合、ユーザがズーム処理の中心位置を水平方向に移動操作する場合、ズーム画像の中心が水平方向に順次移動していくパン状態となる。同様に、ユーザがズーム処理の中心位置を垂直方向に移動操作する場合、ズーム画像の中心が垂直方向に順次移動していくチルト状態となる。
図11に示すパン・チルト・ズーム/追尾ズーム処理部117の動作を説明する。まず、パン・チルト・ズーム機能におけるズーム処理の動作について説明する。入力端子301に入力される画像信号はバッファメモリ311に供給されて一時的に記憶される。ユーザがズーム位置を指定することで、制御部304からズーム処理部315に、ズーム処理の中心位置を示すズーム位置情報ZAIが供給される。このズーム処理部315には、制御部304から、倍率情報MGIも供給される。
ズーム処理部315では、制御部304から供給されるズーム位置情報ZAIで示されるズーム処理の中心位置を中心とする画像領域を、制御部304からの倍率情報MGIで示される倍率で拡大する処理が行われる。このズーム処理部315で得られた画像信号は出力端子303に供給される。
次に、追尾ズーム機能における追尾ズーム処理の動作について説明する。入力端子301に入力される画像信号はバッファメモリ311に供給されて一時的に記憶される。ユーザがオブジェクトOBに対応した所定点Pを指定することで、当該所定点Pを中心とした円形または楕円形の枠FLが表示され(図12参照)、この枠位置情報がオブジェクト領域指定情報OAAとして、制御部304から検出領域決定部312に供給される。検出領域決定部312では、当該枠位置情報に基づいて枠内領域がオブジェクト領域に決定される。このオブジェクト領域情報は、オブジェクト特定部313に供給される。
動きベクトル検出部314では、バッファメモリ311に記憶されている画像信号に基づいて、各フレームで、画素毎に動きベクトルが検出される。このように各フレームで検出される画素毎の動きベクトルは、オブジェクト特定部313に供給される。
オブジェクト特定部313では、検出領域決定部312でオブジェクト領域が決定されたフレームである初期フレームにおいては、この検出領域決定部312で生成されたオブジェクト領域情報に基づいて、この初期フレームにおけるオブジェクト領域の重心位置が求められ、初期フレームにおけるオブジェクト領域の重心位置情報WAIが生成されると共に、オブジェクト領域内の各画素に対応して動きベクトル検出部314で検出された各動きベクトルに基づいて次のフレームで使用されるオブジェクトOBの動き情報が取得される。
また、オブジェクト特定部313では、初期フレームに続くフレームにおいては、初期フレームで求められたオブジェクト領域の重心位置を初期フレームで取得されたオブジェクトOBの動き情報を用いて移動させて当該フレームにおけるオブジェクトの重心位置情報WAIが生成されると共に、初期フレームにおけるオブジェクト領域をこの初期フレームで取得されたオブジェクトOBの動き情報で移動させて当該フレームにおけるオブジェクト領域が求められ、このオブジェクト領域内の各画素に対応して動きベクトル検出部314で検出された各動きベクトルに基づいて次のフレームで使用されるオブジェクトOBの動き情報が取得される。
また、オブジェクト特定部313では、以降の各フレームにおいては、同様にして、前のフレームで取得されたオブジェクトOBの動き情報を用いて、当該フレームにおけるオブジェクト領域の重心位置情報WAIが生成されると共に、次のフレームで使用されるオブジェクトOBの動き情報が取得される。
このようにオブジェクト特定部313では、初期フレームを最初とする各フレームでオブジェクト領域の重心位置情報WAIが順次取得される。この各フレームで取得されたオブジェクト領域の重心位置情報WAIはズーム処理部315に供給される。このズーム処理部315には、制御部304から、倍率情報MGIも供給される。
ズーム処理部315では、オブジェクト領域の重心位置情報WAIおよび倍率情報MGIに基づいて、オブジェクト領域の重心位置を含む所定領域を拡大するズーム処理が行われる。この場合、各フレームにおけるオブジェクト領域の重心位置はオブジェクトOBの移動と共に移動するので、拡大処理を行う所定領域がオブジェクトOBの動きに伴って移動する追尾ズーム処理が行われる。このズーム処理部315で得られた画像信号は出力端子303に供給される。
次に、パン・チルト・ズーム/追尾ズーム処理部117を構成するズーム処理部315について説明する。
図13は、ズーム処理部315の構成を示している。ズーム処理部315は、画像信号Vcが入力される入力端子401と、この入力端子401に入力された画像信号Vcを処理する処理本体部402と、この処理本体部402で得られた画像信号Vdを出力する出力端子403と、処理本体部402の動作を制御する制御部404とを有している。また、ズーム処理部315は、動きベクトル検出部314で検出された動きベクトルMVが入力される入力端子405と、オブジェクト領域の重心位置情報WAIが入力される入力端子406と、倍率情報MGIが入力される入力端子407と、ズーム位置情報ZAIが入力される入力端子408とを有している。
制御部404は、入力端子406に入力されるオブジェクト領域の重心位置情報WAI、あるいは入力端子408に入力されるズーム位置情報ZAI、および入力端子407に入力される倍率情報MGIに基づいて、処理本体部402の動作を制御する。例えば、制御部404は、MPU、このMPUの動作プログラム等が記憶されたROM、このMPUの作業領域を構成するRAM等を備えた構成とされている。
処理本体部402は、予測タップ選択部411と、クラスタップ選択部412と、空間クラス検出部413と、動きクラス検出部414と、クラス統合部415と、係数データ生成部416と、ROM417と、推定予測演算部418と、バッファメモリ419とを有している。
予測タップ選択部411、クラスタップ選択部412は、それぞれ、画像信号Vcから、画像信号Vdにおける注目位置の周辺に位置する複数の画素データを、予測タップ、クラスタップのデータとして選択的に抽出する。予測タップ、クラスタップのパターンは、入力端子405に入力される、例えば中心予測タップにおける画素の動きベクトルの大きさに応じて、変更される。例えば、予測タップ、クラスタップは、動きベクトルの大きさが小さい場合には、現フレームの空間方向(水平方向、垂直方向)の他に、時間方向に存在する現フレームにも張られるが、動きベクトルの大きさが大きい場合には、現フレームの空間方向のみに張られる。
空間クラス検出部413は、クラスタップ選択部412で選択的に抽出されるクラスタップのデータとしての複数の画素データに対してデータ圧縮処理を施して、画像信号Vdにおける注目位置の画素データが属する空間クラスを示すクラスコードCLaを取得する。この空間クラス検出部413は、図5に示すDRC−ボリウム処理部116の処理本体部202におけるクラス検出部214と同様に、例えば1ビットADRCを利用した構成とされている。
動きクラス検出部414は、入力端子405に入力される、例えば中心予測タップにおける画素の動きベクトルMVの大きさをクラス分けし、画像信号Vdにおける注目位置の画素データが属する動きクラスを表すクラスコードCLbを取得する。クラス統合部415は、上述した空間クラス検出部413で取得されたクラスコードCLaおよび動きクラス検出部414で取得されたクラスコードCLbとを統合して、画像信号Vdにおける注目位置の画素データが属するクラスを示すクラスコードCLを取得する。
ROM417は、各クラスの係数種データを記憶している。後述する推定予測演算部418では、予測タップとしての複数の画素データxiと、係数データWiとを用い、(11)式の推定式に基づいて、画像信号Vdにおける注目位置の画素データyが求められる。この(11)式において、nは、予測タップとしての複数の画素データxiの個数である。
ROM417に記憶される係数種データは、上述した推定式の係数データWi(i=1〜n)を生成するための、位相情報h,vをパラメータとする生成式の係数データである。(12)式は、その生成式の一例を示している。ここで、位相情報hは水平方向の位相情報であり、位相情報vは垂直方向の位相情報である。
ROM417には、例えば、(12)式の生成式における係数データである係数種データwi0〜wi9(i=1〜n)が、クラス毎に、記憶されている。この係数種データの生成方法については後述する。
係数データ生成部416は、クラス統合部415で得られたクラスコードCLが表すクラスの係数種データwi0〜wi9をROM417から読み出し、さらに制御部404から供給される、画像信号Vdにおける注目位置の位相情報h,vの値を用い、(12)式の生成式に基づいて、係数データWiを生成する。この場合、処理前の画像信号Vcに対する、処理後の画像信号Vdの各画素の位置は、倍率情報MGIに応じて変化する。
例えば、図14は、倍率情報MGIで示す倍率が1.25倍であるときの入力(画像信号Vc)と出力(画像信号Vd)の画素位置関係を示している。なお、図14では、大きなドットが入力の画素であり、小さなドットが出力の画素を示しており、また奇数フィールドの画素位置を実線で示し、偶数フィールドの画素位置を破線で示している。
制御部404は、倍率情報MGIに基づき、奇数、偶数のフィールドのそれぞれに対応して、画像信号Vdにおける注目位置の位相情報h,vを発生する。この場合、例えば、画像信号Vcの水平方向、垂直方向の画素間隔をそれぞれ16とし、画像信号Vdにおける注目位置から水平方向、垂直方向にそれぞれ最も近い位置にある画像信号Vcにおける画素(最短画素)までの距離を、位相情報h,vとしている。
ここで、位相情報hに関しては、注目位置が最短画素より左方に位置するときは負の値とされ、逆に注目位置が最短画素より右方に位置するときは正の値とされる。同様に、位相情報vに関しては、注目位置が最短画素より上方に位置するときは負の値とされ、逆に注目位置が最短画素より下方に位置するときは正の値とされる。
推定予測演算部418は、予測タップ選択部411で選択的に抽出された予測タップのデータとしての複数の画素データxiと、係数データ生成部416で生成された係数データWiとを用い、上述の(11)式の推定式に基づいて、画像信号Vdにおける注目位置の画素データyを算出する。バッファメモリ419は、推定予測演算部418で算出された、画像信号Vdを構成する各画素データを、一時的に記憶し、その後に適宜なタイミングで出力端子403に出力する。
なお、上述した画像信号Vdの各注目位置の画素データを得るための画像信号Vcの処理領域は、倍率に応じて変化する。図15は、倍率と画像信号Vcの処理領域との関係を示している。倍率が大きくなる程、画像信号Vcの処理領域は小さくなっていく。水平、垂直のそれぞれの方向において、画像信号Vcの全体領域を1とするとき、例えば倍率が1であるとき画像信号Vcの処理領域は1であり、倍率が2であるとき画像信号Vcの処理領域は1/2となる。一般的に、画像の拡大率がTであるとき、画像信号Vcの処理領域を1/Tとなる。
追尾ズーム処理の場合、この処理領域は、常に、オブジェクト領域の重心位置を含み、その重心位置の水平、垂直の内分比が、画像信号Vcの全体領域におけるその重心位置の水平、垂直の内分比と同一となるように設定される。
図16(a)〜(c)は、倍率が2である場合におけるオブジェクト領域の重心位置と処理領域との関係例を示している。この図16(a)〜(c)において、数字は内分比を表している。このように画像信号Vcの処理領域を設定することで、オブジェクト領域の重心位置が画面の端部に移動した場合に、画像信号Vcの処理領域を十分に確保できず、出力画像に欠けが発生することを防止できる。
また、ズーム処理の場合も、上述した追尾ズーム処理の場合と同様に、この処理領域は、常に、ズーム処理の中心位置を含み、その中心位置の水平、垂直の内分比が、画像信号Vcの全体領域におけるその重心位置の水平、垂直の内分比と同一となるように設定される。
次に、図13に示すズーム処理部315の動作を説明する。処理対象である画像信号Vcが入力端子401に入力され、処理本体部402では、この画像信号Vcの、オブジェクト領域の重心位置、あるはズーム処理の中心位置に対応し、かつ倍率に応じた大きさの所定領域に対してズーム処理が行われ、画像信号Vdを構成する各画素データが生成される。
クラスタップ選択部412では、画像信号Vcに基づいて、画像信号Vdにおける注目位置の周辺に位置する複数の画素データがクラスタップのデータとして選択的に抽出される。この複数の画素データは空間クラス検出部413に供給される。この空間クラス検出部413では、クラスタップのデータとしての複数の画素データに、例えば1ビットADRCのデータ圧縮処理が施されて、画像信号Vdにおける注目位置の画素データが属する空間クラスを表すクラスコードCLaが得られる。
また、動きクラス検出部414には、入力端子405から、例えば中心予測タップにおける画素の動きベクトルMVが供給される。この動きクラス検出部414では、その動きベクトルMVの大きさがクラス分けされ、注目位置の画素データが属する動きクラスを表すクラスコードCLbが得られる。
空間クラス検出部413で取得されたクラスコードCLaおよび動きクラス検出部414で取得されたクラスコードCLbは、それぞれクラス統合部415に供給される。このクラス統合部415では、クラスコードCLa,CLbが統合され、画像信号Vdにおける注目位置の画素データが属するクラスを示すクラスコードCLが得られる。このクラスコードCLは係数データ生成部416に供給される。
この係数データ生成部416には、制御部404から、画像信号Vdにおける注目位置の位相情報h,vが供給される。これにより、係数データ生成部416では、画像信号Vdにおける注目位置に対応して、ROM417からクラスコードCLが表すクラスの係数種データwi0〜wi9が読み出され、位相情報h,vの値を用いて、(12)式の生成式に基づいて、係数データWiが生成される。この係数データWiは、推定予測演算部418に供給される。
予測タップ選択部411では、画像信号Vcに基づいて、画像信号Vdにおける注目位置の周辺に位置する複数の画素データxiが予測タップのデータとして選択的に抽出される。この複数の画素データは推定予測演算部418に供給される。
推定予測演算部418では、予測タップのデータとしての複数の画素データxiと、係数データWiとを用い、(11)式の推定式に基づいて、画像信号Vdにおける注目位置の画素データyが算出される。この場合、注目位置を、画像信号Vdの全画素位置に順次変化させていくことで、画像信号Vdの全画素位置の画素データyが求められる。
推定予測演算部418で求められた画像信号Vdの全画素位置の画素データyは、バッファメモリ419に供給されて一時的に記憶される。このバッファメモリ419に記憶された画像信号Vdを構成する各画素データは、その後に適宜なタイミングで読み出されて出力端子403に出力される。
次に、上述した処理本体部402のROM417に記憶される、係数種データの生成方法について説明する。この係数種データは、学習によって生成される。ここでは、(12)式の生成式における係数データである係数種データwi0〜wi9を求める例を示すものとする。
ここで、以下の説明のため、(13)式のように、tj(j=0〜9)を定義する。
t0=1,t1=v,t2=h,t3=v2,t4=vh,t5=h2,t6=v3,
t7=v2h,t8=vh2,t9=h3
・・・(13)
この(13)式を用いると、(12)式は、(14)式のように書き換えられる。
最終的に、学習によって未定係数wijを求める。すなわち、クラス毎に、生徒信号の画素データと教師信号の画素データとを用いて、二乗誤差を最小にする係数値を決定する。いわゆる最小二乗法による解法である。学習数をm、k(1≦k≦m)番目の学習データにおける残差をek、二乗誤差の総和をEとすると、(11)式および(12)式を用いて、Eは(15)式で表される。ここで、xikは生徒画像のi番目の予測タップ位置におけるk番目の画素データ、ykはそれに対応する教師画像のk番目の画素データを表している。
最小二乗法による解法では、(15)式のwijによる偏微分が0になるようなwijを求める。これは、(16)式で示される。
以下、(17)式、(18)式のように、Xipjq、Yipを定義すると、(16)式は、行列を用いて(19)式のように書き換えられる。
この方程式は一般に正規方程式と呼ばれている。この正規方程式は、掃き出し法(Gauss-Jordanの消去法)等を用いて、wijについて解かれ、係数種データが算出される。
図17は、上述した係数種データの生成方法の概念を示している。教師信号としてのHD信号(1050i信号)から生徒信号としてのSD信号(525i信号)を生成する。525i信号は、ライン数が525本でインタレース方式の画像信号を意味している。1050i信号は、ライン数が1050本でインタレース方式の画像信号を意味している。
図18は、SD信号(525i信号)とHD信号(1050i信号)の画素位置関係を示している。ここで、大きなドットが525i信号の画素であり、小さなドットが1050i信号の画素である。また、奇数フィールドの画素位置を実線で示し、偶数フィールドの画素位置を破線で示している。
このSD信号の位相を垂直方向に8段階、水平方向に8段階にシフトさせて、8×8=64種類のSD信号SD1〜SD64を生成する。位相シフトの方法の例として、例えばオーバーサンプリングフィルタから欲しい位相だけを抜き出す方法がある。
図19は、垂直方向への8段階の位相シフト状態V1〜V8を示している。ここでは、SD信号の垂直方向の画素間隔は16であり、下方向が正の方向とされている。また、「o」は奇数フィールドを、「e」は偶数フィールドを表している。
V1の状態はSD信号のシフト量が0とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、4,0,−4,−8の位相を持つようになる。V2の状態はSD信号のシフト量が1とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、7,3,−1,−5の位相を持つようになる。V3の状態はSD信号のシフト量が2とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、6,2,−2,−6の位相を持つようになる。V4の状態はSD信号のシフト量が3とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、5,1,−3,−7の位相を持つようになる。
V5の状態はSD信号のシフト量が4とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、4,0,−4,−8の位相を持つようになる。V6の状態はSD信号のシフト量が5とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、7,3,−1,−5の位相を持つようになる。V7の状態はSD信号のシフト量が6とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、6,2,−2,−6の位相を持つようになる。V8の状態はSD信号のシフト量が7とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、5,1,−3,−7の位相を持つようになる。
図20は、水平方向への8段階の位相シフト状態H1〜H8を示している。ここではSD信号の水平方向の画素間隔は16であり、右方向が正の方向とされている。
H1の状態はSD信号のシフト量が0とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、0,−8の位相を持つようになる。H2の状態はSD信号のシフト量が1とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、7,−1の位相を持つようになる。H3の状態はSD信号のシフト量が2とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、6,−2の位相を持つようになる。H4の状態はSD信号のシフト量が3とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、5,−3の位相を持つようになる。
H5の状態はSD信号のシフト量が4とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、4,−4の位相を持つようになる。H6の状態はSD信号のシフト量が5とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、3,−5の位相を持つようになる。H7の状態はSD信号のシフト量が6とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、2,−6の位相を持つようになる。H8の状態はSD信号のシフト量が7とされたものであり、この場合、HD信号の画素は、SD信号の画素に対して、1,−7の位相を持つようになる。
図21は、上述したように垂直方向に8段階、水平方向に8段階にシフトさせて得られた64種類のSD信号に関し、SD信号の画素を中心とした場合のHD信号の位相を示している。すなわち、SD信号の画素に対して、HD信号の画素は図中の「●」で示す位相を持つようになる。
図22は、上述した概念で係数種データを生成する係数種データ生成装置450の構成を示している。
この係数種データ生成装置450は、教師信号としてのHD信号(1050i信号)が入力される入力端子451と、位相シフト回路452とを有している。この位相シフト回路452は、入力端子451に入力されたHD信号に対して、水平および垂直方向にオーバーサンプリングフィルタをかけ、欲しい位相を抜き出して、生徒信号としてのSD信号(525i信号)を取得する。この位相シフト回路452には、水平方向、垂直方向への位相シフト量を指定するパラメータH,Vが入力される。この場合、位相シフト回路452では、SD信号の位相が、垂直方向に8段階、水平方向に8段階にシフトするようにされ、合計64種類のSD信号が生成される(図17参照)。
また、係数種データ生成装置450は、予測タップ選択部453と、クラスタップ選択部454とを有している。これら予測タップ選択部453およびクラスタップ選択部454は、それぞれ、位相シフト回路452より出力されるSD信号に基づいて、HD信号おける注目位置の周辺に位置する複数の画素データを選択的に抽出する。これら予測タップ選択部453、クラスタップ選択部454は、それぞれ、上述した処理本体部402(図13参照)の予測タップ選択部411、クラスタップ選択部412に対応するものである。
また、係数種データ生成装置450は、動きベクトル検出部455を有している。この動きベクトル検出部455は、位相シフト回路452より出力されるSD信号に基づいて、中心予測タップにおける画素の動きベクトルMVを検出する。上述したタップ選択部453,454における予測タップ、クラスタップのパターンは、動きベクトルMVに応じて変更される。
また、係数種データ生成装置450は、空間クラス検出部456を有している。この空間クラス検出部456は、クラスタップ選択部454で選択的に抽出されるクラスタップのデータとしての複数の画素データを処理して、HD信号における注目位置の画素データが属する空間クラスを表すクラスコードCLaを取得する。この空間クラス検出部456は、上述した処理本体部402の空間クラス検出部413に対応するものである。
また、係数種データ生成装置450は、動きクラス検出部457と、クラス統合部458とを有している。この動きクラス検出部457は、動きベクトル検出部455で検出された中心予測タップにおける画素の動きベクトルMVの大きさをクラス分けし、HD信号における注目位置の画素データが属する動きクラスを表すクラスコードCLbを取得する。
クラス統合部458は、上述した空間クラス検出部456で取得されたクラスコードCLaおよび動きクラス検出部457で取得されたクラスコードCLbとを統合して、HD信号における注目位置の画素データが属するクラスを示すクラスコードCLを取得する。これら動きクラス検出部457およびクラス統合部458は、それぞれ、上述した処理本体部402の動きクラス検出部414およびクラス統合部415に対応するものである。
また、係数種データ生成装置450は、教師タップ選択部459を有している。この教師タップ選択部459は、HD信号から、注目位置の画素データを選択的に抽出する。
また、係数種データ生成装置450は、正規方程式生成部460を有している。この正規方程式生成部460は、教師タップ選択部459で選択的に抽出された、HD信号における各注目位置の画素データyと、この各注目位置の画素データyにそれぞれ対応して予測タップ選択部453で選択的に抽出された、予測タップのデータとしての複数の画素データxiと、各注目位置の画素データyにそれぞれ対応してクラス統合部458で得られたクラスコードCLと、各注目位置の画素データyの水平、垂直の位相h,vとから、クラス毎に、係数種データwi0〜wi9を得るための正規方程式((19)式参照)を生成する。
この場合、一個の画素データyとそれに対応するn個の画素データxiとの組み合わせで一個の学習データが生成される。位相シフト回路452へのパラメータH,Vが順次変更されていき、垂直、水平の位相シフト値が段階的に変化した64種類のSD信号が順次生成されていく。これにより、正規方程式生成部460では、多くの学習データが登録された正規方程式が生成される。このようにSD信号を順次生成して学習データを登録することで、水平、垂直の任意の位相の画素データを得るための係数種データを求めることが可能となる。
また、係数種データ生成装置450は、係数種データ決定部461と、係数種メモリ462とを有している。係数種データ決定部461は、正規方程式生成部460から正規方程式のデータの供給を受け、当該正規方程式を掃き出し法等によって解き、クラス毎に、係数種データwi0〜wi9を求める。係数種メモリ462は、この係数種データwi0〜wi9を格納する。
図22に示す係数種データ生成装置450の動作を説明する。力端子451には教師信号としてのHD信号(1050i信号)が入力される。このHD信号に対して、位相シフト回路452では、水平および垂直方向にオーバーサンプリングフィルタがかけられ、欲しい位相が抜き出されてSD信号(525i信号)が得られる。この場合、SD信号として垂直方向に8段階、水平方向に8段階にシフトされたものが順次生成される。
クラスタップ選択部454では、位相シフト回路452で生成される各SD信号から、HD信号における注目位置の周辺に位置する複数の画素データが、クラスタップのデータとして選択的に抽出される。この複数の画素データは、空間クラス検出部456に供給される。そして、空間クラス検出部456では、各画素データに対してADRC等のデータ圧縮処理が施されて、HD信号における注目位置の画素データが属する空間クラスを表すクラスコードCLaが生成される。このクラスコードCLaは、クラス統合部458に供給される。
また、動きクラス検出部457には、動きベクトル検出部455で得られた中心予測タップにおける画素の動きベクトルMVが供給される。この動きクラス検出部457では、その動きベクトルMVの大きさがクラス分けされ、HD信号における注目位置の画素データが属する動きクラスを表すクラスコードCLbが得られる。このクラスコードCLbは、クラス統合部458に供給される。
クラス統合部458では、クラスコードCLa,CLbが統合され、HD信号における注目位置の画素データが属するクラスを示すクラスコードCLが得られる。このクラスコードCLは正規方程式生成部460に供給される。
予測タップ選択部453では、位相シフト回路452で生成される各SD信号から、HD信号における注目位置の周辺に位置する複数の画素データxiが、予測タップのデータとして選択的に抽出される。この複数の画素データxiは、正規方程式生成部460に供給される。また、教師タップ選択部459では、HD信号から、注目位置の画素データが選択的に抽出される。この画素データyは、正規方程式生成部460に供給される。
そして、正規方程式生成部460では、教師タップ選択部459で選択的に抽出された、HD信号における各注目位置の画素データyと、この各注目位置の画素データyにそれぞれ対応して予測タップ選択部453で選択的に抽出された、予測タップのデータとしての複数の画素データxiと、各注目位置の画素データyにそれぞれ対応してクラス統合部458で得られたクラスコードCLと、各注目位置の画素データyの水平、垂直の位相h,vとから、クラス毎に、係数種データwi0〜wi9を得るための正規方程式((19)式参照)が生成される。
そして、係数種データ決定部461でその正規方程式が解かれ、各クラスの係数種データwi0〜wi9が求められ、その係数種データwi0〜wi9はクラス別にアドレス分割された係数種メモリ462に記憶される。
このように、図22に示す係数種データ生成装置450においては、図13に示すズーム処理部315の処理本体部402におけるROM417に記憶される、各クラスの係数種データwi0〜wi9を生成できる。
次に、図1に示すテレビ受信機100の動作例について説明する。
「実施例1」
図23は、この実施例1における、リモコン500の構成を示している。この場合、リモコン500は、ベースユニット510に、追尾ズーム用ユニット520、解像度・ノイズ感調整用ユニット530およびパン・チルト・ズーム用ユニット540が、この順に接続されて構成されている。この場合の優先順位は、パン・チルト・ズーム用ユニット540、解像度・ノイズ感調整用ユニット530および追尾ズーム用ユニット520の順となる。
上述したように、リモコン500の各ユニットが操作される際にベースユニット510の送信部510aから出力されるリモコン信号SMに含まれる送信データ(図4参照)には、操作データと共に、各機能操作ユニット(追尾ズーム用ユニット520、解像度・ノイズ感調整用ユニット530、パン・チルト・ズーム用ユニット540)の接続順を示すデータが含まれており、このデータは、受信機本体部100Aにおいては、各機能操作ユニットの優先順位を示す順位データとして機能する。
いま、パン・チルト・ズーム用ユニット540のモードボタンが押され、パン・チルト・ズームモードに入った場合を考える。ズームレバー(右のスティック)を上方向に倒し、ズーム位置レバー(左のスティック)を調整すると、所望のズーム位置がズーム(拡大)されてディスプレイ部122の画面に表示される。一般に、ズームされると、解像度感が低下し、ノイズが目立ってくる傾向がある。
そこで、ユーザは解像度・ノイズ感調整用ユニット530を操作し、解像度を高める操作およびノイズを除去(抑圧)する操作を行う。この操作方法は、全てユーザの意思で行なうものであるが、この発明においては、パラメータ調整の自動化を試みる。
ユーザがリモコン500を組み立てる際、図23のように、パン・チルト・ズーム用ユニット540のすぐ上に解像度・ノイズ感調整用ユニット530を配置し、その上に追尾ズーム用ユニット520を配置するということは、パン・チルト・ズーム操作の次に解像度・ノイズ感の調整に関心があり、その次に追尾ズーム操作に関心がある可能性が高いと考えられる。
つまり、図23に示すように組み立てられたリモコン500で、ユーザがパン・チルト・ズームの操作を行った場合、出力されたズーム画像(拡大画像)に最適な解像度・ノイズ感調整を自動で行ない、次に追尾ズームの処理を施すことができれば、ユーザの満足度はより高いものとなる。
実施例1は、ユーザがパン・チルト・ズーム操作を行なうだけで解像度・ノイズ感が自動調整され、さらに追尾点の提示も自動で行われる例である。つまり、パン・チルト・ズーム用操作ユニット540による操作があった場合、このパン・チルト・ズーム用ユニット540を起点(最優先)とし、その上に接続された解像度・ノイズ感調整用ユニット530を第二優先、さらにその上に接続された追尾ズーム用ユニット520を第三優先と考え、受信機本体部100Aでは、優先順位に従って処理が行われていく。
図24のフローチャートは、リモコン500が図23に示すように組み立てられており、パン・チルト・ズーム用ユニット540によるパン・チルト・ズーム操作があった場合における、受信機本体部100Aの処理手順を示している。
まず、受信機本体部100Aは、ステップST1において、パン・チルト・ズーム/追尾ズーム処理部117で、パン・チルト・ズーム用ユニット540の操作データに基づいて、パン・チルト・ズーム処理を行う。この場合、パン・チルト・ズーム/追尾ズーム処理部117で処理されたSD信号は、セレクタ115を通じてDRC−ボリウム116に供給されて、HD信号に変換される。これにより、ディスプレイ部122には、パン・チルト・ズーム処理された画像信号による画像が表示される。
次に、受信機本体部100Aは、ステップST2において、ダイナミックレンジ/周波数解析部118で、パン・チルト・ズーム処理された画像信号を解析し、ダイナミックレンジ情報DIおよび周波数情報FIを取得する。
次に、受信機本体部100Aは、ステップST3において、システムコントローラ101で、ステップST2で取得されたダイナミックレンジ情報DIおよび周波数情報FIに基づいて、DRC−ボリウム処理部116に供給する画質パラメータr,zを変更して、解像度・ノイズ感を調整する。
ここで、ダイナミックレンジは解像度感を、周波数はノイズ感を示す指標となる。ダイナミックレンジが大きい場合は、表示画像の解像度感が高いと判断され、解像度感を下げる方向に画質パラメータrが変更される。逆に、ダイナミックレンジが小さい場合は、表示画像の解像度感が低いと判断され、解像度感を上げる方向に画質パラメータrが変更される。また、高域成分が多い場合はノイズ感が高いと判断され、ノイズを抑圧する方向に画質パラメータzが変更される。逆に、高域成分が少ない場合はノイズ感が低いと判断され、ノイズを抑圧しない方向に画質パラメータzが変更される。
このようにシステムコントローラ101で変更された画質パラメータr,zは、図25に矢印P1で示すように、ディスプレイ部122の画面上に、画像に重ねて表示される。この場合、システムコントローラ101の制御により、OSD部120から、画質パラメータr,zを表示するための表示信号SCHが発生され、この表示信号SCHは合成部121で画像信号に合成(重畳)される。
次に、受信機本体部100Aは、ステップST4において、動き位置検出部123で、パン・チルト・ズーム処理された画像信号から動き位置を検出し、動き位置情報MIを取得する。そして、受信機本体部100Aは、ステップST5において、ステップST4で取得された動き位置情報MIに基づいて、図25に矢印P2で示すように、ディスプレイ部122の画面上の動き位置に対応して、画像に重ねて、追尾候補点を示すカーソル(図25では「+」のマーク)を表示する。この場合、システムコントローラ101の制御により、OSD部120から、追尾候補点を示すカーソルを表示するための表示信号SCHが発生され、この表示信号SCHは合成部121で画像信号に合成(重畳)される。
なお、図25においては、追尾候補点を1個だけ示しているが、動き位置情報MIに複数個の位置情報が含まれる場合には、複数個の追尾候補点が表示される。このように追尾候補点が表示されている状態で、ユーザが、例えば、追尾ズーム用ユニット520により所定の追尾操作点を選択して追尾開始の操作を行うことで、追尾が開始される。すなわち、パン・チルト・ズーム/追尾ズーム処理部117は、パン・チルト・ズーム機能におけるズーム処理から、追尾ズーム機能における追尾ズーム処理に移る。
図26のフローチャートは、図24のフローチャートのステップST2およびステップST3の処理の詳細を示している。
まず、受信機本体部100Aは、ステップST11において、処理を開始し、その後に、ステップST12の処理に移る。このステップST12において、受信機本体部100Aは、ダイナミックレンジ/周波数解析部118で、検出対象のフレーム画像信号(輝度信号)に対して、8画素×8画素のブロック切り出しを行う。なお、この例では、ブロックサイズを8画素×8画素としたが、システムの計算能力に応じてブロックサイズを変更してもよい。
そして、受信機本体部100Aは、ステップST13において、ダイナミックレンジ/周波数解析部118で、ブロック内のダイナミックレンジおよび高域周波数成分を検出してメモリに蓄積する。例えば、ブロック内のダイナミックレンジは、ブロック内の画素信号の最小値および最大値の差分である。また、例えば、ブロック内の高域周波数成分は、ブロックに対してDCT変換処理を行って得られた高域側の1/4の領域にある16個のDCT係数である。
次に、受信機本体部100Aは、ステップST14において、現在のブロックが最後のブロックであるか否かを判定する。最後のブロックでないとき、受信機本体部100Aは、ステップST12の処理に戻り、次の、ブロックの処理に移る。ステップST14で現在のブロックが最後のブロックであるとき、受信機本体部100Aは、ステップST15の処理に移る。
このステップST15において、受信機本体部100Aは、ダイナミックレンジ/周波数解析部118で、ダイナミックレンジ情報DIおよび周波数情報FIを求める。この場合、ダイナミックレンジ/周波数解析部118は、メモリに蓄積されている各ブロック内の画素信号の最小値および最大値の差分の平均値を求めて、ダイナミックレンジ情報DIとする。また、ダイナミックレンジ/周波数解析部118は、メモリに蓄積されている各ブロックの高域側の1/4の領域にある16個のDCT係数の絶対値をそれぞれ加算し、その後に16個の加算値の平均値を求めて、周波数情報FIとする。
次に、受信機本体部100Aは、ステップST16において、システムコントローラ101で、ステップST15で求めたダイナミックレンジ情報DIおよび周波数情報FIに基づいて、画質パラメータr,zの値を決定する。上述したように、画質パラメータrは解像度を決めるパラメータであり、画質パラメータzはノイズ除去度(ノイズ抑圧度)を決めるパラメータである。ここで、パラメータr,zは0〜1の値をとるものとする。
例えば、システムコントローラ101は、ステップST15で求めたダイナミックレンジ情報DIを最大値が1となるように正規化し、正規化後の値がDI′であるとき、(1−DI′)をパラメータrとする。これにより、ダイナミックレンジが大きいときは解像度値が小さく、逆にダイナミックレンジが小さいときは解像度値が大きく設定される。
また、例えば、システムコントローラ101は、ステップST15で求めた周波数情報FIを最大値が1となるように正規化し、正規化後の値をFI′であるとき、FI′をパラメータzとする。これにより、ノイズが多いときにはノイズ抑圧値が大きく、逆にノイズが少ないときにはノイズ抑圧値が小さく設定される。
次に、受信機本体部100Aは、ステップST17において、システムコントローラ101で、DRC−ボリウム処理部116に供給する画質パラメータr,zの値を、ステップST16で決定した値とする。そして、その後、受信機本体部100Aは、ステップST18において、処理を終了する。
なお、図24のフローチャートにおいて、ステップST2およびステップST3の処理の後に、ステップST4およびステップST5の処理が行われるように説明したが、ステップST2およびステップST3の処理は、例えば、ステップST4およびステップST5の処理が行われる際にも並行して行われるようにしてもよい。その場合、図26のフローチャートに示す処理は、フレーム毎、あるいはシーンチェンジ毎など所定フレーム毎に行われ、システムコントローラ101からDRC−ボリウム処理部116に供給される画質パラメータr,zの値は、画像内容に応じて順次更新される。
図27のフローチャートは、図24のフローチャートのステップST4およびステップST5の処理の詳細を示している。
まず、受信機本体部100Aは、ステップST21において、処理を開始し、その後に、ステップST22の処理に移る。このステップST22において、受信機本体部100Aは、ダイナミックレンジ/周波数解析部118で、検出対象のフレーム画像信号(輝度信号)に対して、8画素×8画素のブロック切り出しを行う。なお、この例では、ブロックサイズを8画素×8画素としたが、システムの計算能力に応じてブロックサイズを変更してもよい。
そして、受信機本体部100Aは、ステップST23において、動き位置検出部123で、ステップST22で切り出したブロック(注目ブロック)に関して、前フレームの同一箇所付近のブロック探索を行う。ブロック探索の手法として、例えばブロック間差分等を用いる。動き位置検出部123は、注目ブロックの周辺に存在する前フレームの数ブロックを探索し、差分が閾値以下で、かつ最小となる周辺ブロックを検出して動きベクトルを求め、注目ブロックの位置情報と動きベクトルとをメモリに蓄積しておく。なお、動き位置検出部123は、上述の注目ブロックの周辺に存在する前フレームの数ブロックの探索において、差分が閾値以下となる周辺ブロックがないときは、当該注目ブロックは無効とする。
次に、受信機本体部100Aは、ステップST24において、現在のブロックが最後のブロックであるか否かを判定する。最後のブロックでないとき、受信機本体部100Aは、ステップST12の処理に戻り、次の、ブロックの処理に移る。ステップST24で現在のブロックが最後のブロックであるとき、受信機本体部100Aは、ステップST25の処理に移る。
このステップST25において、受信機本体部100Aは、動き位置検出部123で、メモリに蓄積されている各ブロックから追尾候補点を決定する。この場合、動き位置検出部123は、動きベクトルが大きい、例えば上位10ブロックを追尾候補点として決定し、その追尾候補点の位置情報を含む動き位置情報MIをシステムコントローラ101に供給する。
次に、受信機本体部100Aは、ステップST26において、システムコントローラ101で、ディスプレイ部122の画面上に、画像に重ねて、追尾候補点をカーソルで表示する。この場合、システムコントローラ101は、動き位置検出部123から供給される動き位置情報MIに基づいて、OSD部120から追尾候補点を表示する表示信号SCHを発生させて、画像信号に合成(重畳)する。
受信機本体部100Aは、ステップST26の処理の後、ステップST27において、処理を終了する。
なお、図27のフローチャートに示す処理も、上述した図26のフローチャートに示す処理と同様に、フレーム毎、あるいはシーンチェンジ毎など所定フレーム毎に行われ、ディスプレイ部122の画面上に、画像に重ねて表示される追尾候補点を示すカーソルの位置は順次更新される。
図28は、実施例1および後述する他の実施例で処理される内容の一覧を示している。上述の場合は、通常モード151からパン・チルト・ズーム手動調整157が行なわれる。その後、解像度・ノイズ感自動調整153が行なわれ、動きベクトルによる追尾候補点表示158が行われる。
なお、通常モード(追尾ズーム/解像度・ノイズ感調整/パン・チルト・ズームのいずれでもないモード)から解像度・ノイズ感調整モードに入った場合、受信機本体部100Aは、上述したような優先処理は行なわず、解像度・ノイズ感処理のみ行なう。また、通常モードから追尾ズームモードに入った場合も同様に、追尾ズーム処理のみ行なう。図28でいえば、通常モード151から解像度・ノイズ感手動調整154、あるいは通常モード151から追尾ズーム手動調整159の処理が行われる。
また、パン・チルト・ズームモードに入っている状態で、ユーザが解像度・ノイズ感調整操作を行なった場合、受信機本体部100Aは、通常の解像度・ノイズ感調整と同様に、調整値をそのまま反映させる。その後、受信機本体部100Aは、自動的に、図24のフローチャートのステップST4およびステップST5の処理に移行し、追尾候補点を表示する。また、パン・チルト・ズームモードに入っている状態で、ユーザが追尾ズーム操作を行なった場合、通常の追尾ズームモードと同様に、受信機本体部100Aは、追尾されたオブジェクトを画面中央に表示する。
「実施例2」
図29は、この実施例2における、リモコン500の構成を示している。この場合、リモコン500は、ベースユニット510に、解像度・ノイズ感調整用ユニット530、追尾ズーム用ユニット520およびパン・チルト・ズーム用ユニット540が、この順に接続されて構成されている。この場合の優先順位は、パン・チルト・ズーム用ユニット540、追尾ズーム用ユニット520および解像度・ノイズ感調整用ユニット530の順となる。
上述したように、リモコン500の各ユニットが操作される際にベースユニット510の送信部510aから出力されるリモコン信号SMに含まれる送信データ(図4参照)には、操作データと共に、各機能操作ユニット(追尾ズーム用ユニット520、解像度・ノイズ感調整用ユニット530、パン・チルト・ズーム用ユニット540)の接続順を示すデータが含まれており、このデータは、受信機本体部100Aにおいては、各機能操作ユニットの優先順位を示す順位データとして機能する。
ユーザがリモコン500を組み立てる際、図29のように、パン・チルト・ズーム用ユニット540のすぐ上に追尾ズーム用ユニット520を配置し、その上に解像度・ノイズ感調整用ユニット530を配置するということは、パン・チルト・ズーム操作の次に追尾ズーム操作に関心があり、その次に解像度・ノイズ感の調整に関心がある可能性が高いと考えられる。
実施例2は、ユーザがパン・チルト・ズーム操作を行なうだけで、追尾候補点の提示および画質パラメータr,zの推奨値の提示が自動で行われる例である。つまり、パン・チルト・ズーム用操作ユニット540による操作があった場合、このパン・チルト・ズーム用ユニット540を起点(最優先)とし、その上に接続された追尾ズーム用ユニット520を第二優先、さらにその上に接続された解像度・ノイズ感調整用ユニット530を第三優先と考え、受信機本体部100Aでは、優先順位に従って処理が行われていく。
図30のフローチャートは、リモコン500が図29に示すように組み立てられており、パン・チルト・ズーム用ユニット540によるパン・チルト・ズーム操作があった場合における、受信機本体部100Aの処理手順を示している。
まず、受信機本体部100Aは、ステップST31において、パン・チルト・ズーム/追尾ズーム処理部117で、パン・チルト・ズーム用ユニットの操作データに基づいて、パン・チルト・ズーム処理を行う。この場合、パン・チルト・ズーム/追尾ズーム処理部117で処理されたSD信号は、セレクタ115を通じてDRC−ボリウム116に供給されて、HD信号に変換される。これにより、ディスプレイ部122には、パン・チルト・ズーム処理された画像信号による画像が表示される。
次に、受信機本体部100Aは、ステップST32において、動き位置検出部123で、パン・チルト・ズーム処理された画像信号から動き位置を検出し、動き位置情報MIを取得する。そして、受信機本体部100Aは、ステップST33において、ステップST32で取得された動き位置情報MIに基づいて、図30に矢印P3で示すように、ディスプレイ部122の画面上の動き位置に対応して、画像に重ねて、追尾候補点を示すカーソル(図25では「+」のマーク)を表示する。この場合、システムコントローラ101の制御により、OSD部120から、追尾候補点を示すカーソルを表示するための表示信号SCHが発生され、この表示信号SCHは合成部121で画像信号に合成(重畳)される。
なお、図30においては、追尾候補点を1個だけ示しているが、動き位置情報MIに複数個の位置情報が含まれる場合には、複数個の追尾候補点が表示される。このように追尾候補点が表示されている状態で、ユーザが、例えば、追尾ズーム用ユニット520により所定の追尾候補点を選択して追尾開始の操作を行うことで、追尾が開始される。すなわち、パン・チルト・ズーム/追尾ズーム処理部117は、パン・チルト・ズーム機能におけるズーム処理から、追尾ズーム機能における追尾ズーム処理に移る。
なお、上述のステップST32およびステップST33の処理の詳細は、図27のフローチャートに示す通りである。
次に、受信機本体部100Aは、ステップST34において、ダイナミックレンジ/周波数解析部118で、パン・チルト・ズーム処理された画像信号を解析し、ダイナミックレンジ情報DIおよび周波数情報FIを取得する。
次に、受信機本体部100Aは、ステップST35において、システムコントローラ101で、ステップST34で取得されたダイナミックレンジ情報DIおよび周波数情報FIに基づいて、解像度・ノイズ感を調整するためにDRC−ボリウム処理部116に供給する画質パラメータr,zの推奨値を提示する。
ここで、ダイナミックレンジは解像度感を、周波数はノイズ感を示す指標となる。ダイナミックレンジが大きい場合は、表示画像の解像度感が高いと判断され、解像度感を下げる方向に画質パラメータrの推奨値が決定される。逆に、ダイナミックレンジが小さい場合は、表示画像の解像度感が低いと判断され、解像度感を上げる方向に画質パラメータrの推奨値が決定される。また、高域成分が多い場合はノイズ感が高いと判断され、ノイズを抑圧する方向に画質パラメータzの推奨値が決定される。逆に、高域成分が少ない場合はノイズ感が低いと判断され、ノイズを抑圧しない方向に画質パラメータzの推奨値が決定される。
このようにシステムコントローラ101で決定された画質パラメータr,zの推奨値は、図30に矢印P4で示すように、ディスプレイ部122の画面上に、画像に重ねて表示される。この場合、システムコントローラ101の制御により、OSD部120から、画質パラメータr,zの推奨値を表示するための表示信号SCHが発生され、この表示信号SCHは合成部121で画像信号に合成(重畳)される。
なお、上述のステップST34およびステップST35の処理の詳細は、図26のフローチャートにおける処理と以下の点を除き、同じである。すなわち、ステップST17の画質パラメータr,zの設定が、画質パラメータr,zの推奨値の提示に変わるだけである。このように画質パラメータr,zの推奨値が表示されている状態で、ユーザが、例えば、解像度・ノイズ感調整ユニット530により、当該画質パラメータr,zの推奨値を採用する操作を行うことで、当該画質パラメータr,zの推奨値がシステムコントローラ101からDRC−ボリウム処理部116に設定され、解像度・ノイズ感の調整が行われる。
上述の処理を、図28で説明する。通常モード151からパン・チルト・ズーム手動調整157が行なわれる。その後、動きベクトルによる追尾候補点表示158が行なわれ、解像度・ノイズ感推奨値提示152が行われる。
なお、通常モード(追尾ズーム/解像度・ノイズ感調整/パン・チルト・ズームのいずれでもないモード)から解像度・ノイズ感調整モードに入った場合、受信機本体部100Aは、上述したような優先処理を行なわず、解像度・ノイズ感処理のみ行なう。通常モードから追尾ズームモードに入った場合も同様に、追尾ズーム処理のみ行なう。図28でいえば、通常モード151から解像度・ノイズ感手動調整154、あるいは通常モード151から追尾ズーム手動調整159の処理が実行されることになる。
また、パン・チルト・ズームモードに入っている状態で、ユーザが追尾ズーム操作を行なった場合、受信機本体部100Aは、通常の追尾ズームモードと同様、追尾されたオブジェクトを画面中央に拡大表示する。その後、受信機本体部100Aは、自動的に、図30のフローチャートのステップST34およびステップST35の処理に移行し、解像度・ノイズ感の推奨値を提示する。
また、パン・チルト・ズームモードに入っている状態で、ユーザが解像度・ノイズ感調整操作を行なった場合、受信機本体部100Aは、通常の解像度・ノイズ感調整と同様に、調整値をそのまま反映させる。
「実施例3」
図32は、この実施例3における、リモコン500の構成を示している。この場合、リモコン500は、ベースユニット510に、パン・チルト・ズーム用ユニット540、追尾ズーム用ユニット520および解像度・ノイズ感調整用ユニット530が、この順に接続されて構成されている。この場合の優先順位は、追尾ズーム用ユニット520、解像度・ノイズ感調整用ユニット530およびパン・チルト・ズーム用ユニット540の順となる。
上述したように、リモコン500の各ユニットが操作される際にベースユニット510の送信部510aから出力されるリモコン信号SMに含まれる送信データ(図4参照)には、操作データと共に、各機能操作ユニット(追尾ズーム用ユニット520、解像度・ノイズ感調整用ユニット530、パン・チルト・ズーム用ユニット540)の接続順を示すデータが含まれており、このデータは、受信機本体部100Aにおいては、各機能操作ユニットの優先順位を示す順位データとして機能する。
いま、追尾ズーム用ユニット520のモードボタンが押され、追尾ズームモードに入った場合を考える。ユーザが追尾すべきオブジェクトに対応した所定点を指定することで、オブジェクトの追尾が行われ、当該オブジェクトがズーム(拡大)されてディスプレイ部122の画面に表示される。一般に、追尾ズームされると、解像度感が低下し、ノイズが目立ってくる傾向がある。
そこで、ユーザは解像度・ノイズ感調整用ユニット530を操作し、解像度を高める操作およびノイズを除去(抑圧)する操作を行う。この操作方法は、全てユーザの意思で行なうものであるが、この発明においては、パラメータ調整の自動化を試みる。
ユーザがリモコン500を組み立てる際、図32のように、追尾ズーム用ユニット520のすぐ上に解像度・ノイズ感調整用ユニット530を配置し、その上にパン・チルト・ズーム用ユニット540を配置するということは、追尾ズーム操作の次に解像度・ノイズ感の調整に関心があり、その次にパン・チルト・ズーム操作に関心がある可能性が高いと考えられる。
つまり、図32に示すように組み立てられたリモコン500で、ユーザが追尾ズームの操作を行った場合、出力されたズーム画像(拡大画像)に最適な解像度・ノイズ感調整を自動で行ない、次にパン・チルト・ズームの処理を施すことができれば、ユーザの満足度はより高いものとなる。
実施例3は、ユーザが追尾ズーム操作を行なうだけで、解像度・ノイズ感が自動調整され、さらに推奨ズーム率の提示が自動で行われる例である。つまり、追尾ズーム用操作ユニット520による操作があった場合、この追尾ズーム用ユニット520を起点(最優先)とし、その上に接続された解像度・ノイズ感調整用ユニット530を第二優先、さらにその上に接続されたパン・チルト・ズーム用ユニット540を第三優先と考え、受信機本体部100Aでは、優先順位に従って処理が行われていく。
図33のフローチャートは、リモコン500が図32に示すように組み立てられており、追尾ズーム用ユニット520による追尾ズーム操作があった場合における、受信機本体部100Aの処理手順を示している。
まず、受信機本体部100Aは、ステップST41において、パン・チルト・ズーム/追尾ズーム処理部117で、追尾ズーム用ユニット520の操作データに基づいて、追尾ズーム処理を行う。この場合、パン・チルト・ズーム/追尾ズーム処理部117で処理されたSD信号は、セレクタ115を通じてDRC−ボリウム116に供給されて、HD信号に変換される。これにより、ディスプレイ部122には、図34(a)に矢印P5で示すように、追尾されているオブジェクトが常に中央に表示される。
次に、受信機本体部100Aは、ステップST42において、ダイナミックレンジ/周波数解析部118で、追尾ズーム処理された画像信号を解析し、ダイナミックレンジ情報DIおよび周波数情報FIを取得する。
次に、受信機本体部100Aは、ステップST43において、システムコントローラ101で、ステップST42で取得されたダイナミックレンジ情報DIおよび周波数情報FIに基づいて、DRC−ボリウム処理部116に供給する画質パラメータr,zを変更して、解像度・ノイズ感を調整する。
ここで、ダイナミックレンジは解像度感を、周波数はノイズ感を示す指標となる。ダイナミックレンジが大きい場合は、表示画像の解像度感が高いと判断され、解像度感を下げる方向に画質パラメータrが変更される。逆に、ダイナミックレンジが小さい場合は、表示画像の解像度感が低いと判断され、解像度感を上げる方向に画質パラメータrが変更される。また、高域成分が多い場合はノイズ感が高いと判断され、ノイズを抑圧する方向に画質パラメータzが変更される。逆に、高域成分が少ない場合はノイズ感が低いと判断され、ノイズを抑圧しない方向に画質パラメータzが変更される。
このようにシステムコントローラ101で変更された画質パラメータr,zは、図25(a)に矢印P6で示すように、ディスプレイ部122の画面上に、画像に重ねて表示される。この場合、システムコントローラ101の制御により、OSD部120から、画質パラメータr,zを表示するための表示信号SCHが発生され、この表示信号SCHは合成部121で画像信号に合成(重畳)される。
なお、上述のステップST42およびステップST43の処理の詳細は、図26のフローチャートに示す通りである。
次に、受信機本体部100Aは、ステップST44において、ダイナミックレンジ/周波数解析部118で、ズーム率毎のダイナミックレンジ情報DIおよび周波数情報FIを取得する。この場合、ダイナミックレンジ/周波数解析部118は、パン・チルト・ズーム/追尾ズーム処理部117から複数段階のズーム率で処理された画像信号の供給を受けて解析処理を行う。
次に、受信機本体部100Aは、ステップST45において、システムコントローラ101で、ステップST44の解析処理結果に基づいて、推奨ズーム率を決定して提示する。この場合、例えば、ダイナミックレンジ情報DIが閾値以上で、かつ周波数情報FIが閾値以下であることを満足するズーム率のうち、最大のズーム率を推奨ズーム率に決定する。また、推奨ズーム率の提示は、例えば、図34(b)に矢印P7で示すように、推奨ズーム率に対応したズーム枠を追尾対象のオブジェクト上に表示することで、行われる。この場合、システムコントローラ101の制御により、OSD部120から、ズーム枠を表示するための表示信号SCHが発生され、この表示信号SCHは合成部121で画像信号に合成(重畳)される。
この状態で、ユーザが推奨ズーム率の採用を選択するとき、システムコントローラ101からパン・チルト・ズーム/追尾ズーム処理部117に与えられるズーム率情報MGIは推奨ズーム率を示すように変更される。これにより、ディスプレイ部122には、図34(c)に矢印P8で示すように、推奨ズーム率に対応したズーム枠内の画像が画面全体に拡大されて表示される。
図35のフローチャートは、図33のフローチャートのステップST44およびステップST45の処理の詳細を示している。
まず、受信機本体部100Aは、ステップST51において、処理を開始し、その後に、ステップST52の処理に移る。このステップST52において、受信機本体部100Aは、システムコントローラ101で、追尾ズーム処理された画像を基準として、ズーム率を設定する。最初は、0.1倍おきの複数段階のズーム率のうち、最低のズーム率(ズーム率1=等倍)に設定する。
次に、受信機本体部100Aは、ステップST53において、ダイナミックレンジ/周波数解析部118で、検出対象のフレーム画像信号(輝度信号)に対して、8画素×8画素のブロック切り出しを行う。なお、この例では、ブロックサイズを8画素×8画素としたが、システムの計算能力に応じてブロックサイズを変更してもよい。
そして、受信機本体部100Aは、ステップST54において、ダイナミックレンジ/周波数解析部118で、ブロック内のダイナミックレンジおよび高域周波数成分を検出してメモリに蓄積する。例えば、ブロック内のダイナミックレンジは、ブロック内の画素信号の最小値および最大値の差分である。また、例えば、ブロック内の高域周波数成分は、ブロックに対してDCT変換処理を行って得られた高域側の1/4の領域にある16個のDCT係数である。
次に、受信機本体部100Aは、ステップST55において、現在のブロックが最後のブロックであるか否かを判定する。最後のブロックでないとき、受信機本体部100Aは、ステップST53の処理に戻り、次の、ブロックの処理に移る。ステップST55で現在のブロックが最後のブロックであるとき、受信機本体部100Aは、ステップST56の処理に移る。
このステップST56において、受信機本体部100Aは、現在のズーム率が最高倍率(例えば、3倍)であるか否かを判定する。最高倍率でないとき、受信機本体部100Aは、ステップST52の処理に戻り、システムコントローラ101で、倍率を0.1だけアップした次の段階のズーム率を設定し、上述したと同様の処理を行う。
ステップST56で現在のズーム率が最高倍率であるとき、受信機本体部100Aは、ステップST57の処理に移る。このステップST57において、受信機本体部100Aは、ダイナミックレンジ/周波数解析部118で、倍率毎に、ダイナミックレンジ情報DIおよび周波数情報FIを求める。この場合、ダイナミックレンジ/周波数解析部118は、各段階の倍率毎に、メモリに蓄積されている各ブロック内の画素信号の最小値および最大値の差分の平均値を求めて、ダイナミックレンジ情報DIとする。また、ダイナミックレンジ/周波数解析部118は、倍率毎に、メモリに蓄積されている各ブロックの高域側の1/4の領域にある16個のDCT係数の絶対値をそれぞれ加算し、その後に16個の加算値の平均値を求めて、周波数情報FIとする。
次に、受信機本体部100Aは、ステップST58において、システムコントローラ101で、ステップST57で求めた各倍率のダイナミックレンジ情報DIおよび周波数情報FIに基づいて、推奨のズーム倍率を決定する。この場合、システムコントローラ101は、例えば、ダイナミックレンジ情報DIが閾値以上で、かつ周波数情報FIが閾値以下であることを満足するズーム率のうち、最大のズーム率を推奨ズーム率に決定する。
次に、受信機本体部100Aは、ステップST59において、ユーザに、ステップST58で決定した推奨ズーム率を提示する。この場合、システムコントローラ101は、OSD部120から、推奨ズーム率に対応したズーム枠を表示するための表示信号SCHを発生させ、合成部121で画像信号に合成(重畳)する。
受信機本体部100Aは、ステップST59の処理の後、ステップST60において、処理を終了する。
なお、図33のフローチャートにおいて、ステップST42およびステップST43の処理の後に、ステップST44およびステップST45の処理が行われるように説明したが、ステップST42およびステップST43の処理は、例えば、ステップST44およびステップST45の処理が行われる際にも並行して行われるようにしてもよい。
その場合、図26のフローチャートに示す処理は、フレーム毎、あるいはシーンチェンジ毎など所定フレーム毎に行われ、システムコントローラ101からDRC−ボリウム処理部116に供給される画質パラメータr,zの値は、画像内容に応じて順次更新される。
上述の処理を、図28で説明する。通常モード151から追尾ズーム手動調整159が行なわれる。その後、解像度・ノイズ感自動調整153が行なわれ、推奨ズーム率提示・選択155が実行される。
なお、通常モード(追尾ズーム/解像度・ノイズ感調整/パン・チルト・ズームのいずれでもないモード)から解像度・ノイズ感調整モードに入った場合、受信機本体部100Aは、上述したような優先処理を行なわず、解像度・ノイズ感処理のみ行なう。また、通常モードからパン・チルト・ズームモードに入った場合も同様に、受信機本体部100Aは、パン・チルト・ズーム処理のみ行なう。図28でいえば、通常モード151から解像度・ノイズ感手動調整154、あるいは通常モード151からパン・チルト・ズーム手動調整157の処理が実行されることになる。
また、追尾ズームモードに入っている状態で、ユーザがパン・チルト・ズーム操作を行なった場合、受信機本体部100Aは、ディスプレイ部122に表示する画像をユーザの操作通りに変化させ、操作値をそのまま反映させる。図28でいえば、追尾ズーム手動調整159を行なっている最中に、パン・チルト・ズーム手動調整157の処理が実行されることになる。
また、追尾ズームモードに入っている状態で、ユーザが解像度・ノイズ感調整操作を行なった場合、受信機本体部100Aは、その後、自動的に、図33のフローチャートのステップST44およびステップST45の処理に移行し、推奨ズーム率を提示する。図28でいえば、追尾ズーム手動調整159を行なっている最中に、解像度・ノイズ感手動調整154が行なわれる。その後、推奨ズーム率提示・選択155が行われる。
「実施例4」
図36は、この実施例4における、リモコン500の構成を示している。この場合、リモコン500は、ベースユニット510に、解像度・ノイズ感調整用ユニット530、パン・チルト・ズーム用ユニット540および追尾ズーム用ユニット520が、この順に接続されて構成されている。この場合の優先順位は、追尾ズーム用ユニット520、パン・チルト・ズーム用ユニット540および解像度・ノイズ感調整用ユニット530の順となる。
上述したように、リモコン500の各ユニットが操作される際にベースユニット510の送信部510aから出力されるリモコン信号SMに含まれる送信データ(図4参照)には、操作データと共に、各機能操作ユニット(追尾ズーム用ユニット520、解像度・ノイズ感調整用ユニット530、パン・チルト・ズーム用ユニット540)の接続順を示すデータが含まれており、このデータは、受信機本体部100Aにおいては、各機能操作ユニットの優先順位を示す順位データとして機能する。
ユーザがリモコン500を組み立てる際、図36のように、追尾ズーム用ユニット520のすぐ上にパン・チルト・ズーム用ユニット540を配置し、その上に解像度・ノイズ感調整用ユニット530を配置するということは、追尾ズーム操作の次にパン・チルト・ズーム操作に関心があり、その次に解像度・ノイズ感の調整に関心がある可能性が高いと考えられる。
実施例4は、ユーザが追尾ズーム操作を行なうだけで、ズーム候補の提示および画質パラメータr,zの推奨値の提示が自動で行われる例である。つまり、追尾ズーム用操作ユニット520による操作があった場合、この追尾ズーム用ユニット520を起点(最優先)とし、その上に接続されたパン・チルト・ズーム用ユニット540を第二優先、さらにその上に接続された解像度・ノイズ感調整用ユニット530を第三優先と考え、受信機本体部100Aでは、優先順位に従って処理が行われていく。
図37のフローチャートは、リモコン500が図36に示すように組み立てられており、追尾ズーム用ユニット520による追尾ズーム操作があった場合における、受信機本体部100Aの処理手順を示している。
まず、受信機本体部100Aは、ステップST61において、パン・チルト・ズーム/追尾ズーム処理部117で、追尾ズーム用ユニット520の操作データに基づいて、追尾ズーム処理を行う。この場合、パン・チルト・ズーム/追尾ズーム処理部117で処理されたSD信号は、セレクタ115を通じてDRC−ボリウム116に供給されて、HD信号に変換される。これにより、ディスプレイ部122には、図38(a)に矢印P9で示すように、追尾されているオブジェクトが常に中央に表示される。
次に、受信機本体部100Aは、ステップST62において、オブジェクト検出部119で、追尾ズーム処理された画像信号に基づいて、画像に含まれているオブジェクトを検出し、オブジェクト情報OIを取得する。この場合、オブジェクト検出部119は、例えば、フレーム画像信号に対して隣接画素差分を求めて画面内輪郭を検出することで、画像に含まれるオブジェクトを検出する。
次に、受信機本体部100Aは、ステップST63において、ステップST62で取得されたオブジェクト情報OIに基づいて、ズーム候補を提示する。ズーム候補の提示は、例えば、図38(a)に矢印P10で示すように、画像上に、検出されたオブジェクトを含むズーム枠を表示することで、行われる。この場合、システムコントローラ101は、OSD部120から、ズーム候補を示すズーム枠を表示するための表示信号SCHを発生させ、合成部121で画像信号に合成(重畳)する。
なお、図38(a)においては、ズーム候補を1個だけ示しているが、ステップST62で取得されるオブジェクト情報OIに複数個のオブジェクト情報が含まれる場合には、複数個のズーム候補(ズーム枠)が表示される。
このようにズーム候補が表示されている状態で、ユーザが、例えば、パン・チルト・ズーム用ユニット540により所定のズーム候補を選択することで、図38(b)に矢印P11で示すように、ディスプレイ部122に、選択されたズーム候補のオブジェクトが画面全体に拡大表示される。
次に、受信機本体部100Aは、ステップST64において、ダイナミックレンジ/周波数解析部118で、追尾ズーム処理された画像信号を解析し、ダイナミックレンジ情報DIおよび周波数情報FIを取得する。
次に、受信機本体部100Aは、ステップST65において、システムコントローラ101で、ステップST64で取得されたダイナミックレンジ情報DIおよび周波数情報FIに基づいて、解像度・ノイズ感を調整するためにDRC−ボリウム処理部116に供給する画質パラメータr,zの推奨値を提示する。
ここで、ダイナミックレンジは解像度感を、周波数はノイズ感を示す指標となる。ダイナミックレンジが大きい場合は、表示画像の解像度感が高いと判断され、解像度感を下げる方向に画質パラメータrの推奨値が決定される。逆に、ダイナミックレンジが小さい場合は、表示画像の解像度感が低いと判断され、解像度感を上げる方向に画質パラメータrの推奨値が決定される。また、高域成分が多い場合はノイズ感が高いと判断され、ノイズを抑圧する方向に画質パラメータzの推奨値が決定される。逆に、高域成分が少ない場合はノイズ感が低いと判断され、ノイズを抑圧しない方向に画質パラメータzの推奨値が決定される。
このようにシステムコントローラ101で決定された画質パラメータr,zの推奨値は、図38(c)に矢印P12で示すように、ディスプレイ部122の画面上に、画像に重ねて表示される。この場合、システムコントローラ101の制御により、OSD部120から、画質パラメータr,zの推奨値を表示するための表示信号SCHが発生され、この表示信号SCHは合成部121で画像信号に合成(重畳)される。
なお、上述のステップST64およびステップST65の処理の詳細は、図26のフローチャートにおける処理と以下の点を除き、同じである。すなわち、ステップST17の画質パラメータr,zの設定が、画質パラメータr,zの推奨値の提示に変わるだけである。このように画質パラメータr,zの推奨値が表示されている状態で、ユーザが、例えば、解像度・ノイズ感調整ユニット530により、当該画質パラメータr,zの推奨値を採用する操作を行うことで、当該画質パラメータr,zの推奨値がシステムコントローラ101からDRC−ボリウム処理部116に設定され、解像度・ノイズ感の調整が行われる。
図39のフローチャートは、図37のフローチャートのステップST62およびステップST63の処理の詳細を示している。
まず、受信機本体部100Aは、ステップST71において、処理を開始し、その後に、ステップST72の処理に移る。このステップST72において、受信機本体部100Aは、オブジェクト検出部119で、フレーム画像信号に対して隣接画素差分を求めて画面内輪郭を検出することで、画像に含まれるオブジェクトを検出する。そして、受信機本体部100Aは、ステップST73において、オブジェクト検出部119で、ステップST72で検出されたオブジェクトのサイズを計算する。
次に、受信機本体部100Aは、ステップST74において、オブジェクト検出部119で、ステップST72で検出されたオブジェクトのうち、サイズの大きな方から所定個数をズーム候補に決定し、オブジェクト情報OIを得る。
次に、受信機本体部100Aは、ステップST75において、ステップST74で決定したズーム候補を提示する。この場合、システムコントローラ101は、OSD部120から、ズーム候補のオブジェクトを含むズーム枠を表示するための表示信号SCHを発生させ、合成部121で画像信号に合成(重畳)する。
受信機本体部100Aは、ステップST75の処理の後、ステップST76において、処理を終了する。
上述の処理を、図28で説明する。通常モード151から追尾ズーム手動調整159が行なわれる。その後、ズーム候補提示・選択156の処理が行なわれ、解像度・ノイズ感推奨値提示152が行われる。
なお、通常モード(追尾ズーム/解像度・ノイズ感調整/パン・チルト・ズームのいずれでもないモード)から解像度・ノイズ感調整モードに入った場合、受信機本体部100Aは、上述したような優先処理は行なわず、解像度・ノイズ感調整処理のみ行なう。また、通常モードからパン・チルト・ズームモードに入った場合も同様に、受信機本体部100Aは、パン・チルト・ズーム処理のみ行なう。図28でいえば、通常モード151から解像度・ノイズ感手動調整154、あるいは通常モード151からパン・チルト・ズーム手動調整157の処理が行われることになる。
また、追尾ズームモードに入っている状態で、ユーザがパン・チルト・ズーム操作を行なった場合、受信機本体部100Aは、ディスプレイ部122に表示する画像をユーザの操作通りに変化させ、操作値をそのまま反映させる。図28でいえば、追尾ズーム手動調整159を行なっている最中に、パン・チルト・ズーム手動調整157の処理が実行されることになる。
この場合、受信機本体部100Aは、新たに中央に位置したオブジェクトを追尾する状態となる。さらに、その後、受信機本体部100Aは、図37のフローチャートのステップST64およびステップST65の処理を行って、パン・チルト・ズーム処理によって変更された画面に最適な画質パラメータr,zが設定される。図28でいえば、追尾ズーム手動調整159が行われている最中に、パン・チルト・ズーム手動調整157が実行されると、画面中央に位置したオブジェクトが追尾され、さらに、解像度・ノイズ感自動調整153が行われる。
また、追尾ズームモードに入っている状態で、ユーザが画質パラメータr,zを変更した場合、受信機本体部100Aは、その操作値がそのまま反映させる。図28でいえば、追尾ズーム手動調整159が行われている最中に、解像度・ノイズ感手動調整154の処理が行われる。
「実施例5」
上述の実施例1から実施例4は、リモコン500が、ベースユニット510と、3個の機能操作ユニット(追尾ズーム用ユニット520、解像度・ノイズ感調整用ユニット530、パン・チルト・ズーム用ユニット540)により構成された場合を示した。しかし、リモコン500が、ベースユニット510と、2個の機能操作ユニット(追尾ズーム用ユニット520、解像度・ノイズ感調整用ユニット530、パン・チルト・ズーム用ユニット540のうち2個)により構成される場合も考えられる。実施例5は、リモコン500が、ベースユニット510と、2個の機能操作ユニットにより構成される場合の例である。
図40は、実施例5における、リモコン500の構成を示している。この場合、リモコン500は、ベースユニット510に、解像度・ノイズ感調整用ユニット530およびパン・チルト・ズーム用ユニット540が、この順に接続されて構成されている。この場合の優先順位は、パン・チルト・ズーム用ユニット540および解像度・ノイズ感調整用ユニット530の順となる。
図41のフローチャートは、リモコン500が図40に示すように組み立てられており、パン・チルト・ズーム用ユニット540によるパン・チルト・ズーム操作があった場合における、受信機本体部100Aの処理手順を示している。
まず、受信機本体部100Aは、ステップST81において、パン・チルト・ズーム/追尾ズーム処理部117で、パン・チルト・ズーム用ユニット540の操作データに基づいて、パン・チルト・ズーム処理を行う。この場合、パン・チルト・ズーム/追尾ズーム処理部117で処理されたSD信号は、セレクタ115を通じてDRC−ボリウム116に供給されて、HD信号に変換される。これにより、ディスプレイ部122には、パン・チルト・ズーム処理された画像信号による画像が表示される。
次に、受信機本体部100Aは、ステップST82において、ダイナミックレンジ/周波数解析部118で、パン・チルト・ズーム処理された画像信号を解析し、ダイナミックレンジ情報DIおよび周波数情報FIを取得する。
次に、受信機本体部100Aは、ステップST83において、システムコントローラ101で、ステップST82で取得されたダイナミックレンジ情報DIおよび周波数情報FIに基づいて、DRC−ボリウム処理部116に供給する画質パラメータr,zを変更して、解像度・ノイズ感を調整する。
なお、図41のフローチャートのステップST81からステップST83は、上述の図24のフローチャートのステップST1〜ステップST3に対応しており、各ステップにおける処理の詳細は、図24のフローチャートで説明したと同様である。
以上説明したように、図1に示すテレビ受信機100においては、リモコン500からは、各ユニットの操作データと共に、機能操作ユニット(追尾ズーム用ユニット520、解像度・ノイズ感調整用ユニット530、パン・チルト・ズーム用ユニット540)の優先順位を示す順位データが含まれる送信データが送信される。また、操作対象の機器としての受信機本体部100Aでは、送信データに含まれる操作データが最優先の機能操作ユニットの操作データであるとき、この操作データに基づいて画像信号の処理が行われ、その後に、順位データで示される順に他の機能操作ユニットの操作データが設定されて処理が行われる。したがって、テレビ受信機100の受信機本体部100Aでは、機能操作が適切な順序で行われ、ユーザにとって、快適、かつ正確な操作が可能となる。
また、図1に示すテレビ受信機100において、リモコン500は、ベースユニット510に対する、追尾ズーム用ユニット520、解像度・ノイズ感調整用ユニット530、パン・チルト・ズーム用ユニット540の接続順によって、各機能操作ユニットの優先順位が設定される。このように、接続順によって優先順位が設定されるものにあっては、ユーザは、各機能操作ユニットの接続順を変更するだけで、優先順位を容易に変更できる。
なお、各機能操作ユニットの優先順位が、各機能操作ユニットに設定される優先順位設定値に基づいて設定される構成としてもよい。図42は、その場合における、リモコン500のユニット間の配線模式図を示している。この図42において、図3と対応する部分には同一符号を付して示している。
図42に示すリモコン500においては、追尾ズーム用ユニット520、解像度・ノイズ感調整用ユニット530、パン・チルト・ズーム用ユニット540のそれぞれに優先順位を設定するための例えばディップスイッチ等の設定手段525,535,545が備えられる。追尾ズーム用ユニット520の設定手段525で設定された2ビットの設定データは、データライン561,562を介して、ベースユニット510のMPU510dに供給される。また、解像度・ノイズ感調整用ユニット530の設定手段535で設定された2ビットの設定データは、データライン564,565を介して、ベースユニット510のMPU510dに供給される。さらに、パン・チルト・ズーム用ユニット540の設定手段535で設定された2ビットの設定データは、データライン567,568を介して、ベースユニット510のMPU510dに供給される。
このように、各機能操作ユニットに備えられる設定手段により優先順位が設定されるものにあっては、ユーザは、各機能操作ユニットの接続順を変更することなく、設定手段により優先順位を任意に変更できる。
なお、上述実施の形態においては、この発明をテレビ受信機100に適用したものを示したが、この発明は、リモコンを用いた操作を行うその他のビデオ機器、あるいはオーディオ機器等にも同様に適用できることは勿論である。
100・・・テレビ受信機、100A・・・受信機本体部、101・・・システムコントローラ、102・・・リモコン信号受信部、111・・・受信アンテナ、112・・・チューナ、113・・・外部入力端子、114・・・切換スイッチ、115・・・セレクタ、116・・・DRC−ボリウム処理部、117・・・パン・チルト・ズーム/追尾ズーム処理部、118・・・ダイナミックレンジ/周波数解析部、119・・・オブジェクト検出部、120・・・OSD部、121・・・合成部、122・・・ディスプレイ部、123・・・動き位置検出部、201・・・入力端子、202・・・処理本体部、203・・・出力端子、204・・・制御部、106・・・入力端子、211・・・バッファメモリ、212・・・予測タップ選択部、213・・・クラスタップ選択部、214・・・クラス検出部、215・・・係数データ生成部、216・・・ROM、217・・・推定予測演算部、218・・・後処理部、301・・・入力端子、302・・・処理本体部、303・・・出力端子、304・・・制御部、305・・・入力端子、311・・・バッファメモリ、312・・・検出領域決定部、313・・・オブジェクト特定部、314・・・動きベクトル検出部、315・・・ズーム処理部、401・・・入力端子、402・・・処理本体部、403・・・出力端子、404・・・制御部、405〜408・・・入力端子、411・・・予測タップ選択部、412・・・クラスタップ選択部、413・・・空間クラス検出部、414・・・動きクラス検出部、415・・・クラス統合部、416・・・係数データ生成部、417・・・ROM、418・・・推定予測演算部、419・・・バッファメモリ、500・・・リモコン(リモートコントローラ)、510・・・ベースユニット、510a・・・送信部、510b・・・接合凹部、510c・・・バッテリ(電源)、510d・・・MPU、511・・・電極部、520・・・追尾ズーム用ユニット、520a・・・接合凸部、520b・・・接合凹部、521,522・・・電極部、523・・・LSI、525・・・設定手段、530・・・解像度・ノイズ感調整用ユニット、531,532・・・電極部、533・・・LSI、535・・・設定手段、540・・・パン・チルト・ズーム用ユニット、541,542・・・電極部、543・・・LSI、545・・・設定手段、552・・・電源ライン、553・・・接地ライン、561〜569・・・データライン、570・・・バスライン