JP5387781B2 - 奥行き信号生成装置、擬似立体画像信号生成装置、奥行き信号生成方法、擬似立体画像信号生成方法、奥行き信号生成プログラム、擬似立体画像信号生成プログラム - Google Patents
奥行き信号生成装置、擬似立体画像信号生成装置、奥行き信号生成方法、擬似立体画像信号生成方法、奥行き信号生成プログラム、擬似立体画像信号生成プログラム Download PDFInfo
- Publication number
- JP5387781B2 JP5387781B2 JP2012538684A JP2012538684A JP5387781B2 JP 5387781 B2 JP5387781 B2 JP 5387781B2 JP 2012538684 A JP2012538684 A JP 2012538684A JP 2012538684 A JP2012538684 A JP 2012538684A JP 5387781 B2 JP5387781 B2 JP 5387781B2
- Authority
- JP
- Japan
- Prior art keywords
- depth signal
- depth
- signal
- level
- generating
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 67
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 title claims description 64
- 238000006243 chemical reaction Methods 0.000 claims description 151
- 238000012545 processing Methods 0.000 claims description 49
- 230000010354 integration Effects 0.000 claims description 28
- 238000010606 normalization Methods 0.000 claims description 12
- 229960001716 benzalkonium Drugs 0.000 claims 1
- CYDRXTMLKJDRQH-UHFFFAOYSA-N benzododecinium Chemical compound CCCCCCCCCCCC[N+](C)(C)CC1=CC=CC=C1 CYDRXTMLKJDRQH-UHFFFAOYSA-N 0.000 claims 1
- 238000004364 calculation method Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 10
- 230000000694 effects Effects 0.000 description 7
- 239000006185 dispersion Substances 0.000 description 6
- 238000012805 post-processing Methods 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000000470 constituent Substances 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000463 material Substances 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/261—Image signal generators with monoscopic-to-stereoscopic image conversion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Description
本発明は、通常の静止画もしくは動画、即ち奥行き情報が明示的にも又はステレオ画像のように暗示的にも与えられていない画像(非立体画像)から奥行き信号を生成し、この奥行き信号をもとにした処理を非立体画像に施すことで、立体感を感じさせる擬似立体画像を生成し、出力する奥行き信号生成装置、擬似立体画像信号生成装置、奥行き信号生成方法、擬似立体画像信号生成方法、奥行き信号生成プログラム、擬似立体画像信号生成プログラムに関する。
立体表示システムにおいては、非立体画像の擬似立体視による鑑賞を可能にするために、通常の静止画もしくは動画、即ち立体を表す為の奥行き情報が明示的にも又はステレオ画像のように暗示的にも与えられていない画像(非立体画像)から、擬似的な立体画像を生成する処理が行われる。
このような技術の一例として、例えば、複数の基本奥行きモデルを入力非立体画像の特徴に応じて合成した奥行きモデルと非立体画像のR信号とを重畳して生成した奥行き信号に基づき立体画像を生成するアプローチが知られている(例えば、特許文献1参照)。
しかしながら、上記特許文献1に代表されるような擬似立体画像生成技術では、奥行き信号の推定エラーが発生した場合、推定した奥行き信号に基づいて生成した立体画像に違和感を生じる可能性がある。その一方、この違和感を低減させるためには、立体画像を生成する際に奥行き信号を推定する際のゲインを弱めて用いることも考えられるが、このようにした場合、奥行き信号の推定エラーを生じていない画像領域においてもゲインが弱められ、全体的に立体感が乏しいものとなることがある。
そこで、本発明は、非立体画像から違和感なく立体感に優れた擬似立体画像を得ることができる奥行き信号生成装置、擬似立体画像信号生成装置、奥行き信号生成方法、擬似立体画像信号生成方法、奥行き信号生成プログラム、擬似立体画像信号生成プログラムを提供することを目的とする。
上記課題を解決するため、本発明に係る奥行き信号生成装置(1)の第1の特徴は、映像信号における所定単位の画素毎に奥行きを示す奥行き信号を生成する奥行き信号推定手段(11)と、前記奥行き信号が取り得る奥行き信号レベルの範囲を、所定の大きさの複数の奥行き信号レベル領域に分割して、前記所定単位の画素毎に前記奥行き信号がどの奥行き信号レベル領域に含まれるかを判定すると共に、分割した前記奥行き信号レベル領域に含まれる画素数をカウントし、そのカウント値に基づいて前記奥行き信号レベル領域における前記奥行き信号のレベル分布を示す奥行き信号ヒストグラムデータを生成する奥行き信号ヒストグラム生成手段(12)と、前記奥行き信号ヒストグラムデータに基づいて前記奥行き信号のレベル変換を行って出力する奥行き信号レベル変換手段(13)と、を備えることにある。
また、本発明に係る奥行き信号生成装置(1)の第2の特徴は、前記奥行き信号レベル変換手段(13)は、前記奥行き信号ヒストグラム生成手段から取得した前記奥行き信号ヒストグラムデータを用いて前記奥行き信号ヒストグラムデータの分散値を算出し、前記分散値に基づいてゲイン補正値を算出するゲイン補正値算出手段(13)と、前記奥行き信号のレベル変換を行う奥行き信号レベル変換曲線を構成するポイントを生成するポイント生成手段(13)と、前記ポイントが格納された奥行き信号変換テーブルに基づいて補間データを生成する補間データ生成手段(13)と、前記ポイントおよび前記補間データにより前記奥行き信号レベル変換曲線を生成する変換曲線生成手段(13)と、を備えることにある。
また、本発明に係る奥行き信号生成装置(1)の第3の特徴は、前記奥行き信号レベル変換手段(13)は、さらに、前記ポイント生成手段が生成したポイントに対し所定のリミット閾値に基づき正規化リミット処理を施してリミット処理済ポイントを生成するリミット処理手段(13)と、前記リミット処理済ポイントに対し所定のリーク型積分処理を行い、積分処理済ポイントを生成する積分処理手段(131)とを備え、前記補間データ生成手段は、前記積分処理済ポイントを基に前記補間データを生成する、ことにある。
また、本発明に係る奥行き信号生成装置(1)の第4の特徴は、前記奥行き信号ヒストグラム生成手段(12)は、前記複数の奥行き信号レベル領域のうち、最小レベルを第1のレベル領域とし最大レベルを第2のレベル領域としたとき、前記第1のレベル領域から、前記第1のレベル領域より大きく前記第2のレベル領域より小なる第3のレベル領域までに含まれる画素数をカウントし、前記第1のレベル領域から前記第3のレベル領域における前記奥行き信号のレベル分布を示す第1の奥行き信号ヒストグラムデータを生成する第1の奥行き信号ヒストグラム生成手段(122)と、前記第3のレベル領域から前記第2のレベル領域までに含まれる画素数をカウントし、前記第3のレベル領域から前記第2のレベル領域における前記奥行き信号のレベル分布を示す第2の奥行き信号ヒストグラムデータを生成する第2の奥行き信号ヒストグラム生成手段(121)と、を備えることにある。
また、本発明に係る擬似立体画像信号生成装置の特徴は、前記奥行き信号生成装置(1)と、前記奥行き信号生成装置によってレベル変換が行われた前記奥行き信号と、前記映像信号とに基づいて、前記映像信号のテクスチャをシフトすることにより左目画像信号と右目画像信号とを生成するステレオペア生成装置(2)と、を備えることにある。
また、本発明に係る奥行き信号生成方法の特徴は、映像信号における所定単位の画素毎に奥行きを示す奥行き信号を生成するステップと、前記奥行き信号が取り得る奥行き信号レベルの範囲を、所定の大きさの複数の奥行き信号レベル領域に分割して、前記所定単位の画素毎に前記奥行き信号がどの奥行き信号レベル領域に含まれるかを判定すると共に、分割した前記奥行き信号レベル領域に含まれる画素数をカウントし、そのカウント値に基づいて前記奥行き信号レベル領域における前記奥行き信号のレベル分布を示す奥行き信号ヒストグラムデータを生成するステップと、前記奥行き信号ヒストグラムデータに基づいて前記奥行き信号のレベル変換を行うステップと、を含むことにある。
また、本発明に係る擬似立体画像信号生成方法の特徴は、映像信号における所定単位の画素毎に奥行きを示す奥行き信号を生成するステップと、前記奥行き信号が取り得る奥行き信号レベルの範囲を、所定の大きさの複数の奥行き信号レベル領域に分割して、前記所定単位の画素毎に前記奥行き信号がどの奥行き信号レベル領域に含まれるかを判定すると共に、分割した前記奥行き信号レベル領域に含まれる画素数をカウントし、そのカウント値に基づいて前記奥行き信号レベル領域における前記奥行き信号のレベル分布を示す奥行き信号ヒストグラムデータを生成するステップと、前記奥行き信号ヒストグラムデータに基づいて前記奥行き信号のレベル変換を行うステップと、レベル変換が行われた前記奥行き信号と、前記映像信号とに基づいて、前記映像信号のテクスチャをシフトすることにより左目画像信号と右目画像信号とを生成するステップと、を含むことにある。
また、本発明に係る奥行き信号生成プログラムの特徴は、映像信号における所定単位の画素毎に奥行きを示す奥行き信号を生成するステップと、前記奥行き信号が取り得る奥行き信号レベルの範囲を、所定の大きさの複数の奥行き信号レベル領域に分割して、前記所定単位の画素毎に前記奥行き信号がどの奥行き信号レベル領域に含まれるかを判定すると共に、分割した前記奥行き信号レベル領域に含まれる画素数をカウントし、そのカウント値に基づいて前記奥行き信号レベル領域における前記奥行き信号のレベル分布を示す奥行き信号ヒストグラムデータを生成するステップと、前記奥行き信号ヒストグラムデータに基づいて前記奥行き信号のレベル変換を行うステップと、をコンピュータに実行させることにある。
また、本発明に係る擬似立体画像信号生成プログラムの特徴は、映像信号における所定単位の画素毎に奥行きを示す奥行き信号を生成するステップと、前記奥行き信号が取り得る奥行き信号レベルの範囲を、所定の大きさの複数の奥行き信号レベル領域に分割して、前記所定単位の画素毎に前記奥行き信号がどの奥行き信号レベル領域に含まれるかを判定すると共に、分割した前記奥行き信号レベル領域に含まれる画素数をカウントし、そのカウント値に基づいて前記奥行き信号レベル領域における前記奥行き信号のレベル分布を示す奥行き信号ヒストグラムデータを生成するステップと、前記奥行き信号ヒストグラムデータに基づいて前記奥行き信号のレベル変換を行うステップと、レベル変換が行われた前記奥行き信号と、前記映像信号とに基づいて、前記映像信号のテクスチャをシフトすることにより左目画像信号と右目画像信号とを生成するステップと、をコンピュータに実行させることにある。
本発明によれば、非立体画像から違和感なく立体感に優れた擬似立体画像を得ることができる。
次に、本発明に係る奥行きデータ生成装置、擬似立体画像信号生成装置、奥行きデータ生成方法、擬似立体画像信号生成方法、奥行きデータ生成プログラム、擬似立体画像信号生成プログラムの実施の形態について説明する。なお、下記の説明では、擬似立体画像信号生成装置は、奥行きデータ生成装置とステレオペア生成装置とを有する。
以下、本発明の実施の形態を図に基づいて説明する。
図1は、本発明の実施の形態に係る奥行きデータ生成装置および擬似立体画像信号生成装置の構成例を示すブロック図である。
図1に示すように、本実施の形態の擬似立体画像信号生成装置は、奥行き信号生成装置1と、ステレオペア生成装置2とを有しており、奥行き情報が明示的にも又はステレオ画像のように暗示的にも与えられておらず、時系列的に連続した複数の画像で構成された非立体画像の映像信号(R,G,B)から左目画像信号と右目画像信号とを生成して、ステレオ表示装置3に対し左目画像信号と右目画像信号とを出力するように構成されている。
奥行き信号生成装置1は、例えば、前述の特許文献1(特許第4214529号公報)に記載の奥行き信号生成装置と同様の手法により、非立体画像の映像信号から奥行き信号Dを生成する奥行き信号推定部11と、奥行き信号ヒストグラム生成部12と、奥行き信号レベル変換部13とを有している。奥行き信号ヒストグラム生成部12と、奥行き信号レベル変換部13の詳細構成および動作については、後に詳述する。なお、本実施の形態では非立体画像の映像信号(R,G,B)から奥行き信号Dを生成するが、これに限るものではなく、映像信号の輝度成分などに代表されるあらゆる情報に基づいて生成してもよい。
また、ステレオペア生成装置2は、奥行き信号レベル変換部13で生成されたレベル変換後奥行き信号Dconvに応じて、入力される非立体画像のテクスチャをシフトするテクスチャシフト部21と、オクルージョンを補償するオクルージョン補償部22と、ポスト処理を行うポスト処理部23と、左目画像信号生成部24と、右目画像信号生成部25とを有している。
そして、ステレオペア生成装置2で生成された左目画像信号と右目画像信号とは、ステレオ表示装置3へ入力され、ステレオ表示装置3にて擬似的な立体画像が表示される。
(奥行き信号ヒストグラム生成部12の構成および動作の一例)
次に、奥行き信号ヒストグラム生成部12の構成および動作の一例について説明する。
次に、奥行き信号ヒストグラム生成部12の構成および動作の一例について説明する。
図2は、奥行き信号ヒストグラム生成部12が奥行き信号ヒストグラムデータを生成する1フィールド又は1フレームの映像信号の画像f内に設けられた所定の検出領域faを示す説明図である。
つまり、奥行き信号ヒストグラム生成部12は、図2に示すように、1フィールド又は1フレームの映像信号の画像f内に所定の検出領域faを設けており、検出領域fa内の奥行き信号に基づいて、奥行き信号ヒストグラムデータを生成する。
なお、本実施の形態では、1フィールド又は1フレーム毎に奥行き信号ヒストグラムデータを生成するが、複数フィールド又は複数フレーム毎に奥行き信号ヒストグラムデータを生成してもよく、画面の所定単位(時間単位)毎に奥行き信号ヒストグラムデータを生成すればよい。ただし、1フィールド又は1フレーム毎に奥行き信号ヒストグラムデータを生成することが望ましい。さらに検出領域faは、有効映像期間内であれば大きさは任意である。
図3は、図1に示す本実施の形態の奥行き信号ヒストグラム生成部12の構成例を示すブロック図である。
図3に示すように、本実施の形態の奥行き信号ヒストグラム生成部12は、プラス側奥行き信号ヒストグラム生成部121と、マイナス側奥行き信号ヒストグラム生成部122とを備える。プラス側奥行き信号ヒストグラム生成部121、マイナス側奥行き信号ヒストグラム生成部122は、それぞれ、判定器群1211,1221と、カウンタ群1212,1222と、レジスタ群1213,1223とを有している。
奥行き信号推定部11からの奥行き信号Dは、奥行き信号ヒストグラム生成部12内にて、プラス側奥行き信号ヒストグラム生成部121の判定器群1211と、マイナス側奥行き信号ヒストグラム生成部122の判定器群1221とに出力される。
次に、プラス側奥行き信号ヒストグラム生成部121の動作について説明する。
奥行き信号推定部11から入力される奥行き信号Dは、−Dm≦D≦Dmのレンジ内の整数値として入力され、判定器群1211を構成する判定器1211a〜1211hに供給される。なお、Dmは、奥行き信号推定部11の奥行き推定値ゲインによって定まる任意の値である。判定器1211aは、奥行き信号レベルが0≦D<Dm*1/8の奥行き信号レベル領域内にある奥行き信号Dを検出する。判定器1211bは、奥行き信号レベルがDm*1/8≦D<Dm*2/8の奥行き信号レベル領域内にある奥行き信号Dを検出する。判定器1211cは、奥行き信号レベルがDm*2/8≦D<Dm*3/8の奥行き信号レベル領域内にある奥行き信号Dを検出する。判定器1211dは、奥行き信号レベルがDm*3/8≦D<Dm*4/8の奥行き信号レベル領域内にある奥行き信号Dを検出する。判定器1211eは、奥行き信号レベルがDm*4/8≦D<Dm*5/8の奥行き信号レベル領域内にある奥行き信号Dを検出する。判定器1211fは、奥行き信号レベルがDm*5/8≦D<Dm*6/8の奥行き信号レベル領域内にある奥行き信号Dを検出する。判定器1211gは、奥行き信号レベルがDm*6/8≦D<Dm*7/8の奥行き信号レベル領域内にある奥行き信号Dを検出する。判定器1211hは、奥行き信号レベルがDm*7/8≦D≦Dmの奥行き信号レベル領域内にある奥行き信号Dを検出する。
判定器群1211は、入力される奥行き信号Dの取り得る奥行き信号レベルの範囲を複数の奥行き信号レベル領域に分割し、画素単位で奥行き信号Dの奥行き信号レベルが分割した奥行き信号レベル領域のどこに属するかを判定する。判定器群1211は、奥行き信号レベル領域の数と少なくとも等しい数の判定器を備える。本実施の形態では、判定器群1211は、8個の判定器1211a〜1211hにより構成され、奥行き信号Dの取り得る奥行き信号レベルの範囲を8等分した8つの奥行き信号レベル領域に分割し、奥行き信号Dの奥行き信号レベルが画素単位でどの奥行き信号レベル領域に属するかを判定する。
更に、本実施の形態では、入力する奥行き信号Dのプラス側の取り得る奥行き信号レベルの範囲をD≦Dmとし、この範囲D≦Dmを、8個の奥行き信号レベル領域[0]〜[7]に分割するものとする。例えば、奥行き信号レベル=Dm*1/16である画素であれば、判定器1211aから“1”が出力され、その他の判定器1211b〜1211hからは“0”が出力される。なお、本実施の形態では、判定器群1211の有する判定器の数を8つとし、奥行き信号レベル領域を8等分に分割したが、これに限定されるものではない。
カウンタ群1212は、8個のカウンタ1212a〜1212hにより構成され、それぞれ対応する判定器1211a〜1211hから出力された信号をカウントアップし、そのカウント値を1だけインクリメントする。このカウント値は、判定器群1211により分割された奥行き信号レベル領域に含まれる画素の総数を示している。
レジスタ群1213は、8個のレジスタ1213a〜1213hにより構成され、それぞれ対応するカウンタ1212a〜1212hから出力されたカウント値を保持して、奥行き信号ヒストグラムデータDhist_p[0]〜Dhist_p[7](Dhist_p[i],i=0〜7)として出力する。
このように、プラス側奥行き信号ヒストグラム生成部121は、8個に分割したプラス側の各奥行き信号レベル領域[0]〜[7]に含まれる画素数をカウントし、そのカウント値に基づいて各奥行き信号レベル領域における奥行き信号のレベル分布を示す奥行き信号ヒストグラムデータDhist_p[i]を生成し、これを奥行き信号レベル変換部13へ供給する。
なお、マイナス側奥行き信号ヒストグラム生成部122もプラス側奥行き信号ヒストグラム生成部121と同様に構成されており、判定器群1221は8個の判定器1221a〜1221hを有し、カウンタ群1222は8個のカウンタ1222a〜1222hを有し、レジスタ群1223は8個のレジスタ1223a〜1223hを有している。マイナス側奥行き信号ヒストグラム生成部122は、プラス側奥行き信号ヒストグラム生成部121と同様に動作し、マイナス側奥行き信号ヒストグラムデータDhist_m[0]〜Dhist_m[7](Dhist_m[i],i=0〜7)を生成し、これを奥行き信号レベル変換部13へ供給する。
(奥行き信号レベル変換部13の動作)
次に、奥行き信号レベル変換部13の動作を、フローチャートを参照して説明する。
次に、奥行き信号レベル変換部13の動作を、フローチャートを参照して説明する。
図4は、奥行き信号レベル変換部13の処理の一例を示すフローチャートである。
まず、奥行き信号レベル変換部13は、奥行き信号ヒストグラム生成部12から奥行き信号ヒストグラムデータDhist_p[i]、Dhist_m[i]を取得する(ステップS410)。
次に、奥行き信号レベル変換部13は、奥行き信号ヒストグラム生成部12から取得した奥行き信号ヒストグラムデータを用いて分散値を算出し、その分散値に基づいてゲイン補正値を算出する処理を行う(ステップS420)。ステップS420の詳細な手順は、図6にて詳述する。
次に、奥行き信号レベル変換部13は、分散値に基づきゲイン補正値算出処理を行った奥行き信号ヒストグラムデータを用いて積分処理および正規化処理を行って奥行き信号変換テーブルを算出する処理を行う(ステップS430)。ステップS430の詳細な手順は、図7にて詳述する。
次に、奥行き信号レベル変換部13は、奥行き信号変換テーブルの正規化リミット処理を行い(ステップS440)、次いで、時間方向のリーク型積分処理を行う(ステップS450)。ステップS440の正規化リミット処理およびステップS450のリーク型積分処理の詳細については後述する。なお、これらの処理は省略してもよい。
次に、奥行き信号レベル変換部13は、算出した奥行き信号変換テーブルに格納した奥行き信号レベル変換曲線を構成するポイントに基づいて、奥行き信号レベル変換曲線を構成するポイント間の補間データを作成する(ステップS460)。
そして、奥行き信号レベル変換部13は、奥行き信号レベル変換曲線に基づいて、奥行き信号Dをレベル変換することにより、レベル変換後奥行き信号Dconvを算出する(ステップS470)。
なお、ステップS470終了後は、奥行き信号レベル変換部13は、ステップS410へ戻り、ステップS410からステップS470の処理を繰り返す。
図5は、奥行き信号ヒストグラム生成部12が生成する奥行き信号ヒストグラムデータの一例を示す説明図である。
図5において、横軸には、8個の奥行き信号レベル領域(インデックスi、i=0〜7)を取る一方、縦軸には、各奥行き信号レベル領域に含まれる画素数のカウント値である頻度を取っている。
図5に示すような、プラス(p)側とマイナス(m)側にそれぞれピークを持つようなプラス側奥行き信号ヒストグラムデータDhist_p[i]、マイナス側奥行き信号ヒストグラムデータDhist_m[i]が入力された場合を例として、奥行き信号レベル変換部13の図4に示す処理内容を再度説明する。なお、奥行き信号レベル変換部13では、図4に示すように、奥行き信号のプラス領域とマイナス領域において同様の処理を独立して行うため、ここでは代表して、プラス領域における処理内容について説明する。
ステップS410では、奥行き信号レベル変換部13は、奥行き信号ヒストグラム生成部12が出力したプラス側奥行き信号ヒストグラムデータDhist_p[i]を取得する。
(図4に示すステップS420のゲイン補正値算出処理)
ステップS420では、奥行き信号レベル変換部13は、ステップS410にて取得したプラス側奥行き信号ヒストグラムデータDhist_p[i]を用いて、次の式(1)により、プラス側奥行き信号ヒストグラムデータDhist_p[i]の平均値Dhist_p_Aveを求める。
ステップS420では、奥行き信号レベル変換部13は、ステップS410にて取得したプラス側奥行き信号ヒストグラムデータDhist_p[i]を用いて、次の式(1)により、プラス側奥行き信号ヒストグラムデータDhist_p[i]の平均値Dhist_p_Aveを求める。
次に、奥行き信号レベル変換部13は、次の式(2)により、プラス側奥行き信号ヒストグラムデータDhist_p[i]の分散値SSを求める。
ここで、“abs”は、絶対値である。
上記式(2)により示す分散値SSは、奥行き信号ヒストグラムデータDhist_p[i]が特定のインデックスiを中心に集中した場合は、大きな値をとり、奥行き信号ヒストグラムデータDhist_p[i]が複数のインデックスiに分散している場合は、小さな値をとる。
図6は、本実施の形態における奥行き信号ヒストグラムデータの分散値SSと、ゲイン補正値Gssとの関係の一例を示す図である。図6において、横軸は上記式(2)の分散値SSを表し、縦軸はゲイン補正値Gssを表している。
図6に示すように、例えば、分散値SSが0〜18と小さい場合、すなわち、奥行き信号ヒストグラムデータDhist_p[i]が複数のインデックスiに分散している場合は、ゲイン補正値Gssを1.4とする。
分散値SSが18〜133の範囲では、分散値SSが大きいほど、ゲイン補正値Gssを小さくする。すなわち、奥行き信号ヒストグラムデータDhist_p[i]が特定のインデックスiを中心に集中している度合いが大きいほど、ゲイン補正値Gssを小さくする。
分散値SSが133以上となる場合は、奥行き信号ヒストグラムデータDhist_p[i]が特定のインデックスiのみに集中しているとみなし、ゲイン補正値Gssは0とする。本発明では分散値SSを、ヒストグラムデータのばらつきが大きくなるほど小さい値となる特性としたがこれに限るものではなく、ヒストグラムデータのばらつきが大きいほど大きい値となる特性としてもよい。
なお、図6に示す例では、分散値SSが18,133のときをゲイン補正値Gssの変化点としているがこれに限定されることはなく、ゲイン補正値Gssの変化点は任意に設定できる。また、図6に示す例では、分散値SSが133以上のときにゲイン0としているが、0にしなくてもよい。
このように、本実施の形態では、上記式(2)により示す分散値SSが小さい、すなわち奥行き信号ヒストグラムデータDhist_p[i]が分散している場合は、ゲイン補正値Gssを大きくして、奥行き信号の階調を拡張させる。分散値SSが小さい場合、後述するステップS430で生成する奥行き信号変換テーブルのポイントQ[i](i=0〜7)とリニア曲線との差分が小さくなるため、ゲイン補正値Gssを大きく設定し、差分が小さくなりすぎることを抑える。一方、分散値SSが大きい、すなわち奥行き信号ヒストグラムデータDhist_p[i]が特定のインデックスiを中心に集中しているほど、ゲイン補正値Gssを小さくして、奥行き信号の階調を縮小させる。すなわち分散値SSが大きい場合、奥行き信号変換テーブルのポイントQ[i]とリニア曲線との差分が大きくなりすぎるため、ゲイン補正値Gssを小さく設定し、差分が大きくなりすぎることを抑える。本処理により、奥行き信号ヒストグラムデータDhist_p[i]がどのような分布をしていても、奥行き信号変換テーブルのポイントQ[i]とリニア曲線との差分が一定範囲の値となる。
(図4に示すステップS430の奥行き信号変換テーブル算出処理)
図7は、図4に示すステップS430の奥行き信号変換テーブル算出処理の詳細な処理手順を示すフローチャートである。
図7は、図4に示すステップS430の奥行き信号変換テーブル算出処理の詳細な処理手順を示すフローチャートである。
奥行き信号レベル変換部13は、プラス側奥行き信号ヒストグラムデータDhist_p[i]と、ゲイン補正値Gssとを用いて、入力する奥行き信号をレベル変換するための奥行き信号変換テーブルの値、すなわち奥行き信号レベル変換曲線を構成する奥行き信号変換テーブルのポイントQ[i](i=0〜7)を生成する。
奥行き信号レベル変換部13における奥行き信号変換テーブル算出処理には、大きく分けて積分処理とオフセット処理とが含まれる。積分処理は、図7のステップS4305〜S4340に相当し、オフセット処理は、ステップS4345〜S4365に相当する。
積分処理において、奥行き信号レベル変換部13は、奥行き信号レベル変換曲線を構成する奥行き信号変換テーブルの各ポイントにおけるリニア曲線に対する変位量を表すポイントP[i](i=0〜7)を生成する。オフセット処理では、奥行き信号レベル変換部13は、P[i](i=0〜7)にリニア曲線成分を重畳することでオフセット処理を行い、奥行き信号レベル変換曲線を構成する奥行き信号変換テーブルのポイントQ[i](i=0〜7)を生成する。
具体的には、まず、奥行き信号レベル変換部13は、変数iと、ポイントP[i]の積分値sumとを、それぞれ0に設定する(ステップS4305)。
次に、奥行き信号レベル変換部13は、iが奥行き信号レベル領域の分割数である8未満であるか否かを判定する(ステップS4310)。ここで、iが8よりも小さい場合には(ステップS4310“YES”)、ステップS4315の処理へ進む一方、iが8以上である場合には(ステップS4310“NO”)、ステップS4345の処理へ進む。
つまり、奥行き信号レベル変換部13は、iが8よりも小さい場合には(ステップS4310“YES”)、プラス側奥行き信号ヒストグラムデータDhist_p[i]を入力する(ステップS4315)。ここで、最初は、ステップS4305のi=0の処理により、Dhist_p[0]である。
次に、奥行き信号レベル変換部13は、ステップS4315にて入力したプラス側奥行き信号ヒストグラムデータDhist_p[i]を、次の式(3)に示す計算式より、Dhist_p[i](i=0〜7)の平均値Dhist_p_Aveを用いてオフセットする(ステップS4320)。このステップS4320での計算値integは、オフセット値である。
integ=(Dhist_p[i]−Dhist_p_Ave)×8/Dhist_p_Ave …(3)
次に、奥行き信号レベル変換部13は、次の式(4)に示すように、ステップS4320により求めた上記式(3)の値のオフセット値integに、所定の固定ゲインGと、すでに図6に示す関係により分散値SSから求めたゲイン補正値Gssとを乗算する(ステップS4325)。ここで、固定ゲインGは予め奥行き信号レベル変換部13等に設定されている任意のゲイン値である。
integ=integ×G×Gss …(4)
次に、奥行き信号レベル変換部13は、ポイントP[i]の積分値sumに、ステップS4325により求めた上記式(4)で表されるオフセット値integを加算する(ステップS4330)。ここでは、最初は、ステップS4305のi=0の処理により、sum=0であるから、新たに得られる積分値sumは、ステップS4330で求めたデータとなる。
次に、奥行き信号レベル変換部13は、ステップS4330により求められた積分値sumを用いて、次の式(5)により、プラス側奥行き信号ヒストグラムデータDhist_p[i]に対応するポイントP[i]を求める(ステップS4335)。
P[i]=sum/8 …(5)
ここで、上記式(5)により求められたP[i]は、一時的に奥行き信号レベル変換部13内の図示しないメモリに保存される。
そして、ステップS4335の処理が終了すると、奥行き信号レベル変換部13は、iを1インクリメントして(ステップS4340)、ステップS4310の処理に戻る。そして、奥行き信号レベル変換部13は、i=7になるまで、上述したステップS4310〜S4340の処理を繰り返す。
奥行き信号レベル変換部13は、以上の処理によって、奥行き信号レベル変換曲線を構成する奥行き信号変換テーブルの各ポイントにおけるリニア曲線に対する変位量を表すポイントP[i](i=0〜7)を生成する。ここまでの処理が、ステップS430の奥行き信号変換テーブル算出処理における積分処理である。
このように、奥行き信号レベル変換部13では、ポイントP[i](i=0〜7)について、上記式(4)により、オフセット値integに、固定ゲインGと、図6に示す関係により分散値SSから求めたゲイン補正値Gssとを乗算する。これにより、奥行き信号レベル変換部13は、分散値SSが小さく、奥行き信号ヒストグラムデータが複数の奥行き信号レベル領域に分散している奥行き信号レベル近傍ではゲイン補正値Gssを大きくして、奥行き信号の階調を拡張させる一方、分散値SSが大きく、奥行き信号ヒストグラムデータが特定の奥行き信号レベル領域に集中している奥行き信号レベル近傍では、ゲイン補正値Gssを小さくして、奥行き信号の階調を縮小させるような奥行き信号変換テーブルを生成することができる。
次に、奥行き信号レベル変換部13は、P[i](i=0〜7)にリニア曲線成分を重畳することでオフセット処理を行う。
図7のステップS4335の処理により、P[7]が求められると、奥行き信号レベル変換部13は、ステップS4340の処理により、iを1インクリメントして、iは8となる。
すると、奥行き信号レベル変換部13は、ステップS4310の判断処理により、iが8未満ではないと判定して(ステップS4310“NO”)、ステップS4345の処理に進み再びi=0とする(ステップS4345)。
そして、奥行き信号レベル変換部13は、iが8未満であるか否かを判定する(S4350)。ここで、iが8よりも小さい場合には(ステップS4350“YES”),ステップS4355の処理へ進む一方、iが8以上であれば(ステップS4350“NO”),ステップS4365の処理へ進む。
iが8よりも小さい場合(ステップS4350“YES”)、奥行き信号レベル変換部13は、次の式(6)を用いて、各ポイントP[i]と各ポイントP[i]に対応するリニア曲線成分の加算を行うことで、信号レベル変換曲線を構成する奥行き信号変換テーブルのポイントQ[i]を生成する(ステップS4355)。
Q[i]= P[i]+ Dm×(i+1)/8 …(6)
ここで、上記式(6)により求められたポイントQ[i]は、一時的に奥行き信号レベル変換部13内の、図示しないメモリに保存される。
そして、奥行き信号レベル変換部13は、ステップS4355の処理が終了すると、iを1インクリメントして(ステップS4360)、ステップS4350の判断処理に戻る。つまり、奥行き信号レベル変換部13は、i=7になるまではステップS4355の奥行き信号レベル変更補正処理を繰り返し実行する。
そして、Q[7]がステップS4355において生成され、ステップS4360の処理によりiが1インクリメントされて、i=8になると、奥行き信号レベル変換部13は、ステップS4350にて、iは8未満ではないと判断して(ステップS4350“NO”)、ステップS4365の処理に進み、各ポイントQ[0]〜Q[7]までの値を出力する(ステップS4365)。
以上の処理によって、奥行き信号レベル変換部13は、信号レベル変換曲線を構成する奥行き信号変換テーブルのポイントQ[i](i=0〜7)を出力する。
以上が、図4におけるステップS430の奥行き信号変換テーブル算出処理の詳細である。
この奥行き信号変換テーブル算出処理により得られるポイントQ[i]の一例を図8に示す。図8において、横軸には、奥行き信号推定部11から入力する奥行き信号Dをとり、縦軸には、オフセット処理された奥行き信号Dをとっている。ポイントQ[0]〜Q[7]により、奥行き信号Dをレベル変換するための変換曲線が構成される。
(図4に示すステップS440の正規化リミット処理)
奥行き信号レベル変換部13は、ステップS440では、ステップS430で得られた奥行き信号変換テーブルのポイントQ[i]に対して、正規化リミット処理を行う。
奥行き信号レベル変換部13は、ステップS440では、ステップS430で得られた奥行き信号変換テーブルのポイントQ[i]に対して、正規化リミット処理を行う。
図9は、Q[i]に対する正規化リミット処理の一例を示す説明図である。図9(a)は正規化リミット前の各ポイントQ[0]〜Q[7]を示し、図9(b)は正規化リミット後の各ポイントQ[0]〜Q[7]を示している。
奥行き信号レベル変換部13は、まず、Q[i](各ポイントQ[0]〜Q[7])と、リニアデータ[Dm×(i+1)/8]との差分値Qsub[i]を、次の式(7)を用いて算出する。
Qsub[i]=Q[i]−[Dm×(i+1)/8] …(7)
ここで、i=0〜7である。また、Qsub[i]の絶対値をQsub_abs[i]とし、Qsub_abs[i](i=0〜7)の最大値をQsub_maxとする。
また、奥行き信号レベル変換部13は、リミット閾値をQ_thとし、Qsub_maxがQ_thより大きい場合には、次の式(8)を用いて正規化リミットし、Qsub[i](i=0〜7)を補正する。
Qsub[i]=Qsub[i]×Q_th/Qsub_max …(8)
その後、奥行き信号レベル変換部13は、次の式(9)を用いて、Qsub[i]と、リニアデータとの和を求め、補正後のQ[i]を生成し、ステップS450の処理へと進む。
Q[i]=Qsub[i]+[Dm×(i+1)/8] …(9)
(図4に示すステップS450のリーク型積分処理)
ステップS450では、奥行き信号レベル変換部13は、ステップS440で正規化リミット処理されたQ[i](リミット処理済ポイント)を入力とし、例えば、図10に示すように構成したリーク型積分回路を通過した出力データを、最終的な出力データQ_out[i]とする。
ステップS450では、奥行き信号レベル変換部13は、ステップS440で正規化リミット処理されたQ[i](リミット処理済ポイント)を入力とし、例えば、図10に示すように構成したリーク型積分回路を通過した出力データを、最終的な出力データQ_out[i]とする。
図10は、図4に示すステップS450のリーク型積分処理を実行するリーク型積分回路の構成例を示すブロック図である。奥行き信号レベル変換部13の中にリーク型積分回路131が含まれているものとする。
図10に示すリーク型積分回路131は、加算器1311と、レジスタ群1312と、乗算器1313と、乗算器1314とを有しており、時間方向にリーク型の積分処理を行うように構成されている。
レジスタ群1312は、各ポイントQ[0]〜Q[7]のそれぞれに対するリーク積分結果を保持するために8個のレジスタ1312a〜1312hを有している。各レジスタ1312a〜1312hは、順に各ポイントQ[0]〜Q[7]に対応している。
リーク型積分回路131では、ポイントQ[i]が入力されると、レジスタ群1312内の8個のレジスタ1312a〜1312hのうち、そのポイントQ[i]に対応するレジスタ1312a〜1312hのみからデータが出力され、そのデータに乗算器1313にて(N−1)/N(Nは1以上の整数)を乗算したものを、加算器1311が入力されたQ[i]に加算して出力する。
この加算された結果がレジスタ群1312内のポイントQ[i]に対応するレジスタ1312a〜1312hに再度格納される。
そして、リーク型積分回路131は、乗算器1314がレジスタ群1312内のQ[i]に対応するレジスタ1312a〜1312hから出力されたデータに対し1/Nを乗算したものを、最終的な出力データQ_out[i]として出力する。この処理を各ポイントQ[0]〜Q[7]に対して順に行うことで、各ポイントQ[i]の最終的な出力データQ_out[0]〜Q_out[7]が得られる。
以上のように、奥行き信号レベル変換部13は、リーク型積分処理を行うことで、奥行き信号レベル変換曲線を構成する各ポイントQ[i]を緩やかに変化させた最終的な出力データ(積分処理済ポイント)Q_out[i]を出力することにより、より自然な奥行き信号レベル変換を行うことができる。
(図4に示すステップS460の補間データの作成処理)
そして、奥行き信号レベル変換部13は、ステップS460において、ステップS450で得た最終的な出力データQ_out[i](i=0〜7)を図11に示すように直線補間した奥行き信号レベル変換曲線を生成する。
そして、奥行き信号レベル変換部13は、ステップS460において、ステップS450で得た最終的な出力データQ_out[i](i=0〜7)を図11に示すように直線補間した奥行き信号レベル変換曲線を生成する。
(図4に示すステップS470のレベル変換処理)
そして、奥行き信号レベル変換部13は、ステップS470のレベル変換処理により、ステップS460の処理で直線補間された奥行き信号レベル変換曲線に基づき、入力信号の奥行き信号Dをレベル変換し、レベル変換後奥行き信号Dconvとして出力する。
そして、奥行き信号レベル変換部13は、ステップS470のレベル変換処理により、ステップS460の処理で直線補間された奥行き信号レベル変換曲線に基づき、入力信号の奥行き信号Dをレベル変換し、レベル変換後奥行き信号Dconvとして出力する。
以上の処理により、奥行き信号レベル変換部13は、奥行き信号のプラス領域における奥行き信号レベル変換処理を実行する。
なお、奥行き信号レベル変換部13は、奥行き信号のマイナス領域においてもプラス領域と同様に、ステップS410〜S460の処理により、図12のような奥行き信号レベル変換曲線を生成し、続くS470の処理により入力信号の奥行き信号Dをレベル変換し、レベル変換後奥行き信号Dconvとして出力する。
以上の処理により、奥行き信号レベル変換部13は、奥行き信号のプラス領域およびマイナス領域の双方において、奥行き信号レベル変換曲線に基づいて、元々リニアであった入力画像の奥行き信号Dをレベル変換する。そして、奥行き信号レベル変換部13は、レベル変換後奥行き信号Dconvを、最終的な画像シフト信号として出力する。
以上説明したように、本実施の形態の奥行き信号生成装置1は、奥行き信号ヒストグラムデータが複数の奥行き信号レベル領域に分散している奥行き信号レベル近傍では奥行き信号の階調を拡張させ、特定の奥行き信号レベル領域に集中している奥行き信号レベル近傍では奥行き信号の階調を縮小させる。このように、奥行き信号生成装置1は、入力画像の奥行き信号を変調する。これにより、奥行き信号生成装置1は、限られた奥行き信号のレンジ内で、入力画像(視野)において大きい面積を占める奥行き信号レベルに対して奥行き方向の階調(ゲイン)を配分することができ、奥行き信号を推定する際のゲインを弱めたとしても擬似的な立体感を向上させることができる。この結果、奥行き信号生成装置1によれば、非立体画像から違和感なく立体感に優れた擬似立体画像を得ることが可能となる。
なお、本実施の形態の奥行きデータ生成装置では、図6に示すように、式(2)により求めた分散値SSに基づきゲイン補正値Gssを変更して奥行き信号変換テーブルを生成するように説明したが、本発明では、これに限らず、分散値SS以外のパラメータに基づきゲイン補正値Gssを変更するようにしても勿論よい。
(ステレオペア生成装置2の動作の一例)
ステレオペア生成装置2では、奥行き信号生成装置1により生成された奥行き信号レベル変換曲線に基づいて奥行き信号Dをレベル変換したレベル変換後奥行き信号Dconvと、映像信号とを基に、別視点の画像を生成する。例えば、左に視点移動する場合、画面より手前に表示するものについては、近い物ほど画像を見る者の内側(鼻側)に見えるので、内側すなわち右に対応部分のテクスチャを奥行きに応じた量だけ移動する。一方で、画面より奥に表示するものについては、近い物ほど画像を見る者の外側に見えるので、左に対応部分のテクスチャを奥行きに応じた量だけ移動する。このように生成した別視点の画像を左目画像、原画を右目画像とすることでステレオペアが構成される。
ステレオペア生成装置2では、奥行き信号生成装置1により生成された奥行き信号レベル変換曲線に基づいて奥行き信号Dをレベル変換したレベル変換後奥行き信号Dconvと、映像信号とを基に、別視点の画像を生成する。例えば、左に視点移動する場合、画面より手前に表示するものについては、近い物ほど画像を見る者の内側(鼻側)に見えるので、内側すなわち右に対応部分のテクスチャを奥行きに応じた量だけ移動する。一方で、画面より奥に表示するものについては、近い物ほど画像を見る者の外側に見えるので、左に対応部分のテクスチャを奥行きに応じた量だけ移動する。このように生成した別視点の画像を左目画像、原画を右目画像とすることでステレオペアが構成される。
つまり、図1に示す本実施の形態のステレオペア生成装置2では、まず、テクスチャシフト部21が奥行き信号生成装置1から出力された各画素毎の奥行きデータであるレベル変換後奥行き信号Dconvについて、レベル変換後奥行き信号Dconvが小さい値、すなわち奥に位置するものから順に、その値に対応する部分の映像信号のテクスチャをレベル変換後奥行き信号Dconvが示す値の画素分だけシフトする。奥行きデータであるレベル変換後奥行き信号Dconvが負の場合には、そのレベル変換後奥行き信号Dconvが示す値の画素分だけ左へシフトし、正の場合には右にシフトする。
テクスチャシフト部21におけるレベル変換後奥行き信号Dconvに基づく映像信号のテクスチャのシフト動作は、非立体画像の映像信号のテクスチャのシフトに対応するものである。換言するならば、非立体画像の各画素を、奥行きデータであるレベル変換後奥行き信号Dconvの値に応じてそれぞれを左右に移動する処理である。
ここで、シフトを行うことによる画像中の位置関係の変化により、テクスチャの存在しない部分、すなわちオクルージョンが発生する場合がある。このような部分については、オクルージョン補償部22が、映像信号の対応部分周辺の映像信号により充填するか、若しくは公知の文献(山田邦男,望月研二,相澤清晴,齊藤隆弘:“領域競合法により分割された画像のテクスチャの統計量に基づくオクルージョン補償”,映情学誌,Vol.56,No.5,pp.863-866(2002.5))等に記載の手法で充填する。
オクルージョン補償部22にてオクルージョン補償された画像は、ポスト処理部23により平滑化などのポスト処理を施すことにより、それ以前の処理において発生したノイズなどを軽減し、左目画像信号生成部24が左目画像信号として出力する。その一方、右目画像信号生成部25は、映像信号を右目画像信号として出力する。
このようにして、ステレオペア生成装置2は、奥行き信号生成装置1により生成された奥行き信号レベル変換曲線に基づいて奥行き信号Dをレベル変換したレベル変換後奥行き信号Dconvと、映像信号とを基に、左目画像信号と右目画像信号とのステレオペアを生成することができる。これらの左目画像信号と右目画像信号の映像信号は、ステレオ表示装置3へ出力される。
ステレオペア生成装置2と奥行き信号生成装置1とにより、本実施の形態の擬似立体画像信号生成装置が構成される。この擬似立体画像信号生成装置によれば、非立体画像から上記ステレオペアを生成し、このステレオペアにより、違和感なく立体感に優れた擬似立体画像をステレオ表示装置3に表示させることが可能となる。
なお、ステレオペアに関して、左右反転することで左目画像信号を原画、右目画像信号を別視点画像のステレオペアを構成してもよい。また、上記処理においては、右目画像信号もしくは左目画像信号のどちらかを映像信号、他方を生成された別視点画像信号とするようなステレオペアを構成しているが、左右どちらについても別視点画像信号を用いる、すなわち、右に視点移動した別視点画像信号と左に視点移動した別視点画像信号とを用いてステレオペアを構成することも可能である。
(ステレオ表示装置3の動作の一例)
そして、図1に示す本実施の形態のステレオ表示装置3は、例えば、偏光メガネを用いたプロジェクションシステム、あるいは時分割表示と液晶シャッタメガネを組み合わせたプロジェクションシステム若しくはディスプレイシステム、レンチキュラ方式のステレオディスプレイ、アナグリフ方式のステレオディスプレイ、ヘッドマウントディスプレイなどや、ステレオ画像の各画像に対応した2台のプロジェクタによるプロジェクタシステムであり、ステレオペア生成装置2によって生成された左目画像と、右目画像とを入力してディスプレイ等に表示して、擬似立体画像を表示する。
そして、図1に示す本実施の形態のステレオ表示装置3は、例えば、偏光メガネを用いたプロジェクションシステム、あるいは時分割表示と液晶シャッタメガネを組み合わせたプロジェクションシステム若しくはディスプレイシステム、レンチキュラ方式のステレオディスプレイ、アナグリフ方式のステレオディスプレイ、ヘッドマウントディスプレイなどや、ステレオ画像の各画像に対応した2台のプロジェクタによるプロジェクタシステムであり、ステレオペア生成装置2によって生成された左目画像と、右目画像とを入力してディスプレイ等に表示して、擬似立体画像を表示する。
なお、上記実施の形態の説明では、ステレオペア生成装置2として左目画像信号と右目画像信号の2視点での例を説明したが、本発明では、これに限らず、2視点以上の表示が可能な表示装置にて表示する場合には、その視点数に応じた数の別視点画像を生成するように構成しても勿論よい。
また、上記のように2視点以上の表示が可能な表示装置を用いた多視点立体画像表示システムの構築も可能である。また、本立体表示システムにおいては音声出力を装備する形態のものも考えられる。この場合、静止画等音声情報を持たない画像コンテンツについては、画像にふさわしい環境音を付加するような態様のものが考えられる。
また、本実施の形態では、図1に示すように、奥行き信号生成装置1と、ステレオペア生成装置2と、ステレオ表示装置3をハードウエアにより構成して説明したが、本発明では、ハードウエアにより構成したものに限定されるものではなく、例えば、CPUと、そのCPUを上述のように動作させるためのコンピュータプログラムのソフトウェアにより奥行き信号生成装置1、ステレオペア生成装置2およびステレオ表示装置3の機能を達成するようにしても勿論よい。この場合、コンピュータプログラムは、記録媒体からコンピュータに取り込まれてもよいし、ネットワーク経由でコンピュータに取り込まれてもようにしても良い。
以上、本発明を一実施の形態によって説明したが、上記実施の形態は、本発明の技術的思想を具体化するための装置や方法を例示するものであって、この発明の技術的思想は、構成物品の材質、形状、構造、配置等を下記のものに特定するものでない。この発明の技術的思想は、請求の範囲において種々の変更を加えることができる。
1 奥行き信号生成装置
11 奥行き信号推定部(奥行き信号推定手段)
12 奥行き信号ヒストグラム生成部(奥行き信号ヒストグラム生成手段)
121 プラス側奥行き信号ヒストグラム生成部(第2の奥行き信号ヒストグラム生成手段)
122 マイナス側奥行き信号ヒストグラム生成部(第1の奥行き信号ヒストグラム生成手段)
13 奥行き信号レベル変換部(奥行き信号レベル変換手段、ゲイン補正値算出手段、ポイント生成手段、補間データ生成手段、変換曲線生成手段、リミット処理手段)
131 リーク型積分回路(積分処理手段)
2 ステレオペア生成装置
21 テクスチャシフト部
22 オクルージョン補償部
23 ポスト処理部
24 左目画像信号生成部
25 右目画像信号生成部
3 ステレオ表示装置
11 奥行き信号推定部(奥行き信号推定手段)
12 奥行き信号ヒストグラム生成部(奥行き信号ヒストグラム生成手段)
121 プラス側奥行き信号ヒストグラム生成部(第2の奥行き信号ヒストグラム生成手段)
122 マイナス側奥行き信号ヒストグラム生成部(第1の奥行き信号ヒストグラム生成手段)
13 奥行き信号レベル変換部(奥行き信号レベル変換手段、ゲイン補正値算出手段、ポイント生成手段、補間データ生成手段、変換曲線生成手段、リミット処理手段)
131 リーク型積分回路(積分処理手段)
2 ステレオペア生成装置
21 テクスチャシフト部
22 オクルージョン補償部
23 ポスト処理部
24 左目画像信号生成部
25 右目画像信号生成部
3 ステレオ表示装置
Claims (8)
- 映像信号における所定単位の画素毎に奥行きを示す奥行き信号を生成する奥行き信号推定手段と、
前記奥行き信号が取り得る奥行き信号レベルの範囲を、所定の大きさの複数の奥行き信号レベル領域に分割して、前記所定単位の画素毎に前記奥行き信号がどの奥行き信号レベル領域に含まれるかを判定し、分割した前記奥行き信号レベル領域に含まれる画素数をカウントし、カウントした前記画素数に基づいて前記奥行き信号レベル領域における前記奥行き信号のレベル分布を示す奥行き信号ヒストグラムデータを生成する奥行き信号ヒストグラム生成手段と、
前記奥行き信号ヒストグラムデータの分散値を算出し、前記分散値に基づいてゲイン補正値を算出するゲイン補正値算出手段と、
前記ゲイン補正値に基づいて、前記奥行き信号のレベル変換を行う奥行き信号レベル変換曲線を構成するポイントを生成するポイント生成手段と、
前記奥行き信号レベル変換曲線における前記ポイント間を補間する補間データを生成する補間データ生成手段と、
前記ポイント及び前記補間データにより前記奥行き信号レベル変換曲線を生成し、前記奥行き信号レベル変換曲線にて前記奥行き信号のレベル変換を行う変換曲線生成手段と、
を備えることを特徴とする奥行き信号生成装置。 - 前記ポイントに対し所定のリミット閾値に基づき正規化リミット処理を施してリミット処理済ポイントを生成するリミット処理手段と、
前記リミット処理済ポイントに対し所定のリーク型積分処理を行い、積分処理済ポイントを生成する積分処理手段と、
を更に備え、
前記変換曲線生成手段は、前記積分処理済ポイントと、前記積分処理済ポイントを基に作成した補間データとにより前記奥行き信号レベル変換曲線を生成することを特徴とする請求項1記載の奥行き信号生成装置。 - 前記奥行き信号ヒストグラム生成手段は、前記複数の奥行き信号レベル領域のうち、最小レベルを第1のレベル領域とし最大レベルを第2のレベル領域としたとき、
前記第1のレベル領域から、前記第1のレベル領域より大きく前記第2のレベル領域より小なる第3のレベル領域までに含まれる画素数をカウントし、前記第1のレベル領域から前記第3のレベル領域における前記奥行き信号のレベル分布を示す第1の奥行き信号ヒストグラムデータを生成する第1の奥行き信号ヒストグラム生成手段と、
前記第3のレベル領域から前記第2のレベル領域までに含まれる画素数をカウントし、前記第3のレベル領域から前記第2のレベル領域における前記奥行き信号のレベル分布を示す第2の奥行き信号ヒストグラムデータを生成する第2の奥行き信号ヒストグラム生成手段と、
を備えることを特徴とする請求項1又は2記載の奥行き信号生成装置。 - 請求項1から3のいずれか一項記載の奥行き信号生成装置と、
前記奥行き信号生成装置によってレベル変換が行われた前記奥行き信号と、前記映像信号とに基づいて、前記映像信号のテクスチャをシフトすることにより左目画像信号と右目画像信号とを生成するステレオペア生成装置と、
を備えることを特徴とする擬似立体画像信号生成装置。 - 映像信号における所定単位の画素毎に奥行きを示す奥行き信号を生成するステップと、
前記奥行き信号が取り得る奥行き信号レベルの範囲を、所定の大きさの複数の奥行き信号レベル領域に分割して、前記所定単位の画素毎に前記奥行き信号がどの奥行き信号レベル領域に含まれるかを判定し、分割した前記奥行き信号レベル領域に含まれる画素数をカウントし、カウントした前記画素数に基づいて前記奥行き信号レベル領域における前記奥行き信号のレベル分布を示す奥行き信号ヒストグラムデータを生成するステップと、
前記奥行き信号ヒストグラムデータの分散値を算出し、前記分散値に基づいてゲイン補正値を算出するステップと、
前記ゲイン補正値に基づいて、前記奥行き信号のレベル変換を行う奥行き信号レベル変換曲線を構成するポイントを生成するステップと、
前記奥行き信号レベル変換曲線における前記ポイント間を補間する補間データを生成するステップと、
前記ポイント及び前記補間データにより前記奥行き信号レベル変換曲線を生成し、前記奥行き信号レベル変換曲線にて前記奥行き信号のレベル変換を行うステップと、
を含むことを特徴とする奥行き信号生成方法。 - 請求項5に記載の奥行き信号生成方法と、
レベル変換が行われた前記奥行き信号と、前記映像信号とに基づいて、前記映像信号のテクスチャをシフトすることにより左目画像信号と右目画像信号とを生成するステップと、
を含むことを特徴とする擬似立体画像信号生成方法。 - 映像信号における所定単位の画素毎に奥行きを示す奥行き信号を生成するステップと、
前記奥行き信号が取り得る奥行き信号レベルの範囲を、所定の大きさの複数の奥行き信号レベル領域に分割して、前記所定単位の画素毎に前記奥行き信号がどの奥行き信号レベル領域に含まれるかを判定し、分割した前記奥行き信号レベル領域に含まれる画素数をカウントし、カウントした前記画素数に基づいて前記奥行き信号レベル領域における前記奥行き信号のレベル分布を示す奥行き信号ヒストグラムデータを生成するステップと、
前記奥行き信号ヒストグラムデータの分散値を算出し、前記分散値に基づいてゲイン補正値を算出するステップと、
前記ゲイン補正値に基づいて、前記奥行き信号のレベル変換を行う奥行き信号レベル変換曲線を構成するポイントを生成するステップと、
前記奥行き信号レベル変換曲線における前記ポイント間を補間する補間データを生成するステップと、
前記ポイント及び前記補間データにより前記奥行き信号レベル変換曲線を生成し、前記奥行き信号レベル変換曲線にて前記奥行き信号のレベル変換を行うステップと、
をコンピュータに実行させるための奥行き信号生成プログラム。 - 請求項7に記載のステップと、
レベル変換が行われた前記奥行き信号と、前記映像信号とに基づいて、前記映像信号のテクスチャをシフトすることにより左目画像信号と右目画像信号とを生成するステップと、
をコンピュータに実行させるための擬似立体画像信号生成プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012538684A JP5387781B2 (ja) | 2010-10-12 | 2011-10-11 | 奥行き信号生成装置、擬似立体画像信号生成装置、奥行き信号生成方法、擬似立体画像信号生成方法、奥行き信号生成プログラム、擬似立体画像信号生成プログラム |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010229760 | 2010-10-12 | ||
JP2010229760 | 2010-10-12 | ||
JP2012538684A JP5387781B2 (ja) | 2010-10-12 | 2011-10-11 | 奥行き信号生成装置、擬似立体画像信号生成装置、奥行き信号生成方法、擬似立体画像信号生成方法、奥行き信号生成プログラム、擬似立体画像信号生成プログラム |
PCT/JP2011/073344 WO2012050089A1 (ja) | 2010-10-12 | 2011-10-11 | 奥行き信号生成装置、擬似立体画像信号生成装置、奥行き信号生成方法、擬似立体画像信号生成方法、奥行き信号生成プログラム、擬似立体画像信号生成プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP5387781B2 true JP5387781B2 (ja) | 2014-01-15 |
JPWO2012050089A1 JPWO2012050089A1 (ja) | 2014-02-24 |
Family
ID=45938318
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012538684A Active JP5387781B2 (ja) | 2010-10-12 | 2011-10-11 | 奥行き信号生成装置、擬似立体画像信号生成装置、奥行き信号生成方法、擬似立体画像信号生成方法、奥行き信号生成プログラム、擬似立体画像信号生成プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US9179132B2 (ja) |
JP (1) | JP5387781B2 (ja) |
WO (1) | WO2012050089A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI547142B (zh) * | 2013-04-02 | 2016-08-21 | 杜比實驗室特許公司 | 引導的3d顯示器適配 |
JP6415179B2 (ja) * | 2014-08-20 | 2018-10-31 | キヤノン株式会社 | 画像処理装置、画像処理方法、および撮像装置並びにその制御方法 |
US10776992B2 (en) * | 2017-07-05 | 2020-09-15 | Qualcomm Incorporated | Asynchronous time warp with depth data |
US10735707B2 (en) * | 2017-08-15 | 2020-08-04 | International Business Machines Corporation | Generating three-dimensional imagery |
CN113643406B (zh) * | 2021-08-12 | 2022-03-25 | 北京的卢深视科技有限公司 | 图像生成方法、电子设备及计算机可读存储介质 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04214529A (ja) | 1990-12-12 | 1992-08-05 | Nippon Sheet Glass Co Ltd | 液晶表示装置 |
JP4214529B2 (ja) * | 2004-12-28 | 2009-01-28 | 日本ビクター株式会社 | 奥行き信号生成装置、奥行き信号生成プログラム、擬似立体画像生成装置、及び擬似立体画像生成プログラム |
JP4909063B2 (ja) * | 2006-12-28 | 2012-04-04 | キヤノン株式会社 | 撮像装置及び画像記録方法 |
US8463019B2 (en) * | 2007-07-19 | 2013-06-11 | JVC Kenwood Corporation | Pseudo 3D image generation device, image encoding device, image encoding method, image transmission method, image decoding device, and image decoding method |
JP5402483B2 (ja) * | 2009-10-02 | 2014-01-29 | 株式会社Jvcケンウッド | 擬似立体画像作成装置及び擬似立体画像表示システム |
-
2011
- 2011-10-11 WO PCT/JP2011/073344 patent/WO2012050089A1/ja active Application Filing
- 2011-10-11 JP JP2012538684A patent/JP5387781B2/ja active Active
-
2013
- 2013-04-11 US US13/861,041 patent/US9179132B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JPWO2012050089A1 (ja) | 2014-02-24 |
US20130242047A1 (en) | 2013-09-19 |
WO2012050089A1 (ja) | 2012-04-19 |
US9179132B2 (en) | 2015-11-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5170249B2 (ja) | 立体画像処理装置および立体画像処理装置のノイズ低減方法 | |
KR101856805B1 (ko) | 화상 처리 장치 및 화상 처리 방법, 및 프로그램 | |
KR20080076628A (ko) | 영상의 입체감 향상을 위한 입체영상 표시장치 및 그 방법 | |
JP5387781B2 (ja) | 奥行き信号生成装置、擬似立体画像信号生成装置、奥行き信号生成方法、擬似立体画像信号生成方法、奥行き信号生成プログラム、擬似立体画像信号生成プログラム | |
TW201301202A (zh) | 影像處理方法以及影像處理裝置 | |
JP5692051B2 (ja) | 奥行き推定データの生成装置、生成方法及び生成プログラム、並びに疑似立体画像の生成装置、生成方法及び生成プログラム | |
JP5691965B2 (ja) | 奥行き推定データの生成装置、生成方法及び生成プログラム、並びに疑似立体画像の生成装置、生成方法及び生成プログラム | |
JP5488482B2 (ja) | 奥行き推定データ生成装置、奥行き推定データ生成プログラム及び擬似立体画像表示装置 | |
JP2013090129A (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP5871113B2 (ja) | 立体画像生成装置、立体画像生成方法及び立体画像生成プログラム | |
JP5786807B2 (ja) | 奥行き情報生成装置、奥行き情報生成方法、奥行き情報生成プログラム、擬似立体画像生成装置 | |
JP5500092B2 (ja) | 奥行き推定データ生成装置、奥行き推定データ生成プログラム及び擬似立体画像表示装置 | |
JP2012084961A (ja) | 奥行き信号生成装置、擬似立体画像信号生成装置、奥行き信号生成方法、擬似立体画像信号生成方法、奥行き信号生成プログラム、擬似立体画像信号生成プログラム | |
Berretty et al. | Real-time embedded system for stereo video processing for multiview displays | |
JP5459231B2 (ja) | 擬似立体画像生成装置、擬似立体画像生成プログラム及び擬似立体画像表示装置 | |
JP5691966B2 (ja) | 奥行き推定データの生成装置、生成方法及び生成プログラム、並びに疑似立体画像の生成装置、生成方法及び生成プログラム | |
US9648347B1 (en) | Disparity postprocessing and interpolation for motion estimation and motion correction | |
JP2012253644A (ja) | 画像処理装置および方法、並びにプログラム | |
JP2014007715A (ja) | 奥行き情報生成装置、奥行き情報生成方法、奥行き情報生成プログラム、擬似立体画像生成装置 | |
JP6028427B2 (ja) | 奥行き情報生成装置、奥行き情報生成方法、奥行き情報生成プログラム、擬似立体画像生成装置 | |
JP6056459B2 (ja) | 奥行き推定データ生成装置、擬似立体画像生成装置、奥行き推定データ生成方法及び奥行き推定データ生成プログラム | |
JP6217485B2 (ja) | 立体画像生成装置、立体画像生成方法、及び立体画像生成プログラム | |
JP2015186100A (ja) | 立体画像生成装置、立体画像生成方法、及び立体画像生成プログラム | |
JP2013017052A (ja) | 奥行き信号生成装置、擬似立体画像生成装置、奥行き信号生成方法、および擬似立体画像生成方法 | |
JP2014072640A (ja) | 奥行き推定データ生成装置、擬似立体画像生成装置、奥行き推定データ生成方法及び奥行き推定データ生成プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130910 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130923 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5387781 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |