[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6109371B2 - 映像再生方法、映像再生装置、光ディスク - Google Patents

映像再生方法、映像再生装置、光ディスク Download PDF

Info

Publication number
JP6109371B2
JP6109371B2 JP2016071139A JP2016071139A JP6109371B2 JP 6109371 B2 JP6109371 B2 JP 6109371B2 JP 2016071139 A JP2016071139 A JP 2016071139A JP 2016071139 A JP2016071139 A JP 2016071139A JP 6109371 B2 JP6109371 B2 JP 6109371B2
Authority
JP
Japan
Prior art keywords
video
information
eye
parallax
stereoscopic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016071139A
Other languages
English (en)
Other versions
JP2016158264A (ja
Inventor
長沢 雅人
雅人 長沢
惠司 畠中
惠司 畠中
一浩 栗崎
一浩 栗崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2016071139A priority Critical patent/JP6109371B2/ja
Publication of JP2016158264A publication Critical patent/JP2016158264A/ja
Application granted granted Critical
Publication of JP6109371B2 publication Critical patent/JP6109371B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Signal Processing For Recording (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

本発明は、立体映像の映像再生方法、映像再生装置、及び光ディスクに関するものである。
デジタル映像信号を圧縮する符号化技術が進むにつれ、圧縮された映像信号を光ディスクに記録することによって、検索性や操作性に優れた光ディスク装置を実現することが可能となった。このような光ディスク装置は、映像をデジタル信号として記録するため、アナログ映像信号を記録する場合に比べてダビングによる劣化が無い他、光記録再生であるため、非接触で信頼性に優れている。
一方、上記のようなデジタル映像信号をデータ圧縮する符号化方法としては、例えば、MPEG(Moving Picture coding Experts Group)方式によるものがあるが、この圧縮方法はモーションJPEG等の面内圧縮方法に比べ圧縮効率は良いものの、時間方向の動き補償予測を用いているため、複数枚の映像グループからなる(GOP)映像単位でしか検索できなかったり、ディスク上のアクセスも面内圧縮からなるIピクチャにまずアクセスしなければならない等の制約条件が存在していた。
そのため、特許文献1では、光ディスク上のデータフォーマットを工夫することが提案されている。
また、特許文献1のデータフォーマットは、あくまで2次元の平面映像をファイルするためのものである。立体映像をファイルする場合、TV信号の第一フィールドと第二フィールドとで、それぞれ右目左目の映像を別々に表示し、偏向メガネ等で2つの映像をそれぞれのフィールド映像をそれぞれの目にのみ見せる特許文献2の方法を採用することが必要である。
特開2005−260988号公報 特開2007−166651号公報
しかし、視差を利用した3D映像情報においては、通常の2D映像情報と比べて左目の情報と右目の情報とがあり、そのままでは情報量が2倍となるためファイル効率が劣化する、という課題があった。
本発明は上記の課題を解決するためになされたものであり、従来よりも3D映像情報のファイルの情報圧縮効率を向上できる立体映像の映像再生方法、映像再生装置、及び光ディスクを提供することを目的とする。
本発明に係る解決手段によれば、左目映像または右目映像として用いられる主映像のデジタル映像ブロックをデコードし、左目映像及び右目映像のうち主映像とは異なる側の映像として用いられる、主映像から予測される副映像のデジタル映像ブロックをデコードし、主映像が左目映像及び右目映像のどちらに用いられるかを示すデータフラグに従って、デコードした主映像及び副映像を用いて立体映像を再生する映像再生方法が提供される。
本発明に係る別の解決手段によれば、左目映像または右目映像として用いられる主映像のデジタル映像ブロックをデコードし、左目映像及び右目映像のうち主映像とは異なる側の映像として用いられる、主映像から予測される副映像のデジタル映像ブロックをデコードするデコーダと、主映像が左目映像および右目映像のどちらに用いられるかを示すデータフラグに従って、デコードした主映像及び副映像を用いて立体映像を再生する再生部と、を備える映像再生装置が提供される。
本発明に係る別の解決手段によれば、立体映像を再生する際に左目映像または右目映像として用いられる主映像のデジタル映像ブロックと、立体映像を再生する際に左目映像と右目映像のうち主映像とは異なる側の映像として用いられる映像であって、主映像から予測される副映像のデジタル映像ブロックと、主映像が左目映像及び右目映像のどちらに用いられるかを示すデータフラグと、を有することを特徴とする光ディスクが提供される。
上記各解決手段によれば、主映像が左目映像及び右目映像のどちらに用いられるかを示すデータフラグに従って、主映像と主映像から予測される副映像とを用いて立体映像を再生するので、3D映像情報のファイルの情報圧縮効率を従来よりも向上できる。
本発明の実施の形態1に係るシャッタを用いた立体映像表示システムの概念図である。 本発明の実施の形態1に係る偏光フィルタを用いた立体映像表示システムの概念図である。 本発明の実施の形態1に係る回転偏光フィルタを用いた立体映像表示システムの概念図である。 本発明の実施の形態1に係る多重情報を用いた立体映像表示システムの概念図である。 本発明の実施の形態1に係る立体映像の模試図である。 本発明の実施の形態1に係る字幕表示を含む立体映像の模試図である。 本発明の実施の形態1に係る目の疲労度を説明するための図である。 本発明の実施の形態1に係る奥行き方向の加速度と目の疲労度を説明するための図である。 本発明の実施の形態1に係る字幕の表示範囲を説明するための図である。 本発明の実施の形態2に係る記録媒体上の情報記録領域を示す図である。 本発明の実施の形態2に係る映像タイトルの映像ストリーム構造を説明するための図である。 本発明の実施の形態2に係る映像タイトルの映像ストリーム構造を説明するための図である。 本発明の実施の形態2に係る映像タイトルの映像ストリーム構造を説明するための図である。 本発明の実施の形態2に係る付帯情報のコンテンツ情報を説明するための図である。 本発明の実施の形態2に係る付帯情報のタイムコード情報を説明するための図である。 本発明の実施の形態2に係る付帯情報の配置情報を説明するための図である。 本発明の実施の形態2に係る付帯情報の映像情報を説明するための図である。 本発明の実施の形態2に係る付帯情報を用いたTV表示の概念図である。 本発明の実施の形態2に係るマルチアングル情報の模試図である。 本発明の実施の形態2に係るOSD情報を説明するための図である。 本発明の実施の形態2に係る映像制御情報のGOPテーブル情報を説明するための図である。 本発明の実施の形態2に係る映像制御情報のGOPテーブル情報とOSD情報を説明するための図である。 本発明の実施の形態2に係る映像制御情報のシーケンス情報とOSD情報と映像属性情報を説明するための図である。 本発明の実施の形態3に係る立体映像記録装置のブロック図である。 本発明の実施の形態3に係る映像ストリーム構造を説明するための図である。 本発明の実施の形態3に係る映像ストリーム構造を説明するための図である。 本発明の実施の形態3に係る立体映像記録装置のブロック図である。 本発明の実施の形態3に係る差分情報の圧縮の原理を説明するための視差画像概念図である。 本発明の実施の形態3に係る立体映像記録装置のブロック図である。 本発明の実施の形態3に係る視差情報画像変換の圧縮を説明するための模試図である。 本発明の実施の形態3に係る映像ストリーム構造を説明するための図である。 本発明の実施の形態3に係る映像ストリーム構造を説明するための図である。 本発明の実施の形態3に係る立体映像記録装置のブロック図である。 本発明の実施の形態3に係る映像ストリーム構造を説明するための図である。 本発明の実施の形態3に係る映像ストリーム構造を説明するための図である。 本発明の実施の形態4に係る立体映像再生装置のブロック図である。 本発明の実施の形態4に係る立体映像再生装置のブロック図である。 本発明の実施の形態4に係る立体映像再生装置を説明するための図である。 本発明の実施の形態4に係る立体映像再生装置を説明するための図である。 本発明の実施の形態4に係る立体映像再生装置を説明するための図である。
(実施の形態1)
本発明の実施の形態1について、図に従い以下に説明する。図1は、本実施の形態に係る立体映像システムの全体構成を示すブロック図である。図1に示す立体映像システムでは、立体映像が記録されたメディアを再生して右目映像1及び左目映像2を出力する立体映像記録装置6(以下、単に記録装置6ともいう)、TVやプロジェクター等の表示装置3、液晶等で構成され2つの透過偏向光を切り替える事ができるシャッタ4、シャッタ4を介したフレーム順からなる映像5A,5Bを見るために左右それぞれに液晶シャッタもしくは左右それぞれに異なる偏向板が構成されたメガネ7Aとで構成されている。図2は、本実施の形態1に係る立体映像システムの別の構成例を示している。図2に示す立体映像システムでは、図1と異なり2つの表示装置A,Bを備え、且つそれぞれ方向の異なる特定の偏向成分の光のみを通すための偏向板9,10、表示パネル12に投影させるための光学系11、偏向板9,10を介して得られるフレーム順からなる映像5C,5Dを見るために左右異なる偏向板を有するメガネ7Bとで構成されている。
図3は、本実施の形態1に係る立体映像システムのさらなる別の構成例を示している。図3に示す立体映像システムでは、図1と異なりそれぞれ方向の異なる特定の偏向成分の光のみを通す半円の偏向板を張り合わせた円形の回転円盤を有する同期回転部材13と、同期回転部材13に光を投射する光源14とを備えている。図4は、本実施の形態1に係る立体映像システムのさらなる別の構成例を示している。図4に示す立体映像システムでは、図1と異なり、映像信号22に基づく複数の映像を投影するための表示デバイス15〜19と、投影された立体映像を再現するための回転ミラー21とを備えている。
図5は、人間が知覚する立体映像を模試したものである。図5では、無限遠方111から順に奥行き位置112〜117として、奥行き位置117が一番飛び出した(目に近い)位置としている。さらに、図5では、奥行き位置115上に表示された人間118、奥行き114上に表示された人間119、遠方から流れてくる川120、遠方に見える山121が図示されている。図6は、図5の表示にさらに字幕表示を追加表示したもので、それぞれの奥行き位置に表示された字幕122A〜122Cと、当該字幕の奥行き範囲123A〜123Cとを図示している。
図7(a),図7(b)は、視差の角度変化加速度・変化にかかる時間・回数と目の疲労度を示した図である。図7(a)では、目の疲労度124を縦軸、角度変化加速度・変化の積125を横軸とし、注目点や字幕に対する目の疲労度126、注目点や字幕に対する最高疲労点127、背景画像の目の疲労度128、背景映像における酔いが発生する限界点129、人の目に対する安全領域130、人の目に対する危険領域131、人の目に対する3D酔いが発生する領域132をそれぞれ図示している。また、図7(b)は、目の視差運動を示すための模試図であり、注目点の遠くの映像126A、注目点の近くの映像126B、近くにある場合の視野角126D、遠くにある場合の視野角126E、人間の目126F、映像126Bが表示されている奥行き126GG、映像126Aが表示されている奥行き126HHをそれぞれ図示している。
また、図8は、注目点の奥行き方向の加速度と移動時間×回数との関係を示したグラフである。図8に示すグラフでは、注目点の奥行き方向の加速度133を縦軸、移動時間と回数の積(移動時間×回数)134を横軸として、安全領域130と危険領域131の境界135、危険領域131と3D酔い発生領域132との境界136とを図示している。また、図9は、字幕表示における奥行き位置と奥行き位置変化量の関係を示したものである。図9では、奥行き位置137を縦軸、奥行き変化量140を横軸として、無限遠の位置138、目の位置(一番手前)139、奥行き変化量制限値141、手前の奥行き制限(飛び出し制限)142、遠方の奥行き制限143をそれぞれ示している。
ここで、一般的にTVやプロジェクターを用いた立体映像システムでは、図1から図3に示されるように、人間の目の視差情報を利用したものが多く、メガネによって左右にそれぞれの映像情報を投影し、立体に見せるものである。一般的には映像の撮影の際も2台のカメラを用いて、左右の目に入力させるための映像を撮影するため、2つのストリームが構成されることになる。ここではまず記録装置6に蓄積された左右の映像情報を、TVやプロジェクターの表示装置に入力させる。この際、記録装置6と表示装置間の情報インターフェイスとしてアナログ方式の場合は、左右それぞれ別々の情報伝送が必要となるが、HDMI(登録商標)等のデジタルインターフェイスの場合は左右の情報を交互にシリアル伝送させることも可能である他、記録装置6側で圧縮して伝送し、TV側で解凍させる方法もある。また。左右の映像情報はTV表示の場合フィールド毎に、左と右を切り替えて表示する事となるが、近年の倍スキャン表示を用いたTVを用いれば再生映像を、フィールド毎に左右に分けるにあたり、フリッカ等の問題を解消する事ができ、スムーズな立体映像再生が可能になっている。
さらに、図1に示すように液晶等で構成され2つの透過偏向光を切り替える事ができるシャッタ4を構成した場合は、透過するフィールド映像5Aを例えば縦偏向、映像5Bを横偏向とするように、シャッタ4を制御する事でフィールド毎の光の偏向角を変える事ができる。この場合はメガネ7A側は左右異なる偏向板(縦偏向と横偏向)を貼り付けたものでよく、ケーブル3Aを介して表示装置3がシャッタ4を制御するタイミングに対応する信号を表示装置3からメガネ7Aに供給するケーブル3Bが不要となる。一方、シャッタ4を用いない場合は、メガネ7A側に液晶シャッタを設ける必要があり、ケーブル3Bのフィールド同期信号ケーブルが必要となる。メガネ7A側の液晶シャッタで対応する場合は偏向光を用いていないため、首を傾けたりする等のメガネの角度が変わっても立体表示に対する影響は小さく抑えられる効果がある。
また、図2の方式では、PLD素子や透過型液晶タイプを有する表示デバイスを2つ有することにより、それぞれに左右別々の映像を表示させる方法である。この場合は表示装置(A,B)7,8の前面に異なる偏向方向を持つ偏向板9,10を取りつけておく。このことで、それぞれの表示発光部分から出射される光が異なる偏向となっており、これを光学系11を介して表示パネル12に投影する事で、例えば右目は縦偏向の映像5C、左目は横偏向の映像5Dを映し出す事が可能となる。ここではさらに、偏向メガネ7Bを用いてそれぞれの目に視差のある映像情報を入力させる。
また、図3の方式ではPLD等の光学素子に入射させる光源の部分において、TVのフィールド表示のタイミングに同期して回転する同期回転部材13を有する偏向光切換え機構を構成し、フィールド表示のタイミングにあわせた偏向光を有する光をPLD素子等に入射させる方式である。この場合、映像表示パネル上にはフィールド毎に異なる偏向光を有する映像が投射される。これを図2と同様な方式の偏向メガネ7で見ることにより視差映像を目に入れることが可能となる。また、図4にように複数の表示デバイス15〜19によって複数角度から撮影した映像を投影し、立体映像を再現する方法もある。この場合は立体用の映像ストリームは2本ではなく複数本のストリームを蓄積し再生しなければならない。
さらに、TVのフィールド表示のタイミングに同期して回転する上記同期回転部材13をRGBの特定の波長のみを通す光学フィルタにて構成し、円盤の半分を左目用残りの半分を右目用として、それぞれのRGBの波長をずらす事によって、右目用の光と左目用に光の波長を変え、またメガネ7をそれぞれ右目用と左目用の波長しか通さない光学フィルタから構成する事によっても左右の映像をそれぞれの目に入射させる事ができる。この場合、左右のRGBのずれはTVの表示側の色調整によって補正し、色再現上遜色ないようにする事が可能で、またこのRGB波長を左右でずらす方式ではメガネを傾けてもメガネ7からの光が減衰したりする事がない。
また、図4の回転ミラー21を用いた方式では、複数の視点による映像を表示デバイス15〜19によって、回転ミラー21に立体映像が投影されるため、実際の立体映像においてみる側の視点を変えても実物のように見える(極端な場合は裏側等隠れて見えなかった部分も見えるようになる。)ものである。
次に、実際の立体映像について説明する。視差を利用した映像再現の場合であっても、人間の目においては図5のように知覚される。この場合、奥行き位置の無限遠111から目の位置117までの奥行きを分解表現すると、奥行き位置112〜115までの奥行き平面上にそれぞれの画像が表示されている事となる。例えば、注目点となる登場人物は手前にあれば大きく人間118のように見え、離れると人間119のように見える。背景情報である川121などは手前に近づけば大きく遠くなれば小さく見え、大きな山121などは背景であっても大きく見える。例えば、図5に示すような立体映像に字幕を表示させた場合、図6のように表現される。近くにある字幕122Aは、字幕122B,122Cと表示が少しずつ遠ざかっていく。この注目点である登場人物である人間119A〜119Cはシーンにより奥行き位置が変化しているとすると、字幕もそれにあわせて変化させれば目の焦点の動きを少なくさせるため疲れにくくなる。そのため、登場人物である人間119Aのシーンでは字幕122Aを、登場人物である人間119Bのシーンでは字幕122Bを、登場人物である人間119Cのシーンでは字幕122Cを表示させる事が望ましい。従来の2D映像においてはもともと奥行き位置の変化がないため、ユーザとTVとの距離が人間の目の焦点であり、目の焦点方向の筋肉を動かすことはないが、立体映像では視差を利用したものであっても視差分の目の移動が必要となるためである。
また、図7(a)に示すように登場人物等の注目点の焦点方向の移動においては、その視差角度の変化速度や変化にかかる時間やその回数に比例して目の疲れが発生する。特に注目点においては目が追随しなければならないため、目の疲労は激しく、視差角度の変化速度や変化にかかる時間やその回数が少ない段階で疲労のピークに達するものと考えられる。特に、図7(b)に示す視野角126Dのように手前の映像は視差角度が大きく、遠くのものは視野角126Eのように視差角度が小さい。遠近が変化すると視差角度が変化し両目126Fはこの角度をつけて目標に焦点を合わせる必要が生じ、遠近の変化に視差角に追従しなければならない。従来の平面映像を表示するTVは遠近の映像がないため目の奥行き方向認知に必要な視差角は常に一定であるが立体映像の場合は、平面内の目の動きの他に奥行き方向(視差角をもたせる)の目の動きをつけなければならないため、目の負担は増大する。ただし、目の応答よりも早い動きをした場合は追従できないので逆に疲労も減少するため目の疲労度126のカーブのようになるものと予想される。また、背景情報については元々目が追随していないものの遠近が変化する視差角度の変化速度や変化にかかる時間やその回数が増えると増加傾向にあるものと推定される。これを奥行き方向加速度と、移動時間と回数の積の関係で表したものが図8であり、奥行き方向の加速度が小さくても回数や距離が増えると危険領域や酔いの発生が見られるが、あるレベルを下回った場合、移動時間と回数の積が増えても疲れない状態になると推定する。
ここで、評価値としての目の疲労度は、画面サイズが大きくなると面内方向の目の移動も大きくなり疲労も増大する事から、これを配慮した場合とそうでない場合とで2つの評価関数が考えられる。まず、評価関数1は、目の追従が無視できる値a<注目点の視差角変化速度<目の追従範囲bとして、評価値(目の疲労度)が視差角変化速度×変化にかかる時間×変化した回数に比例する。評価関数2は、目の追従が無視できる値a<注目点の視差角変化速度<目の追従範囲bとして、評価値(目の疲労度)が視差角変化速度×変化にかかる時間×変化した回数×画面サイズに比例する。TV画面のサイズが検知できる場合は評価関数2を、できない場合は評価関数1を用いる。なお、実施の形態2以降では上記評価値(目の疲労度)は奥行き変化度として記載している。
1本の立体映像を製作する際、1本の映像コンテンツにおける立体映像の視差角変化量と変化に関わる時間と変化した回数を評価係数としてもっておき、これが図7の危険領域131に入らないように再エンコードする事で立体映像コンテンツを製作する事ができる。また、この立体映像コンテンツにおいても評価関数としての奥行き変化度を記述しておくことで、映画視聴前に目の疲労度を提示しユーザに2D再生とするか3D再生とするかの選択をさせる事ができる。この際、再エンコードの方法としては視差映像を撮影するカメラの視差間隔を小さくする(2台のカメラの距離を小さくする)といった撮影上の工夫や、後述する視差情報を用いた画素変換処理によって視差を小さくするような画像処理を行う方法、アニメーション等ではCG等でのコンテンツ制作時に飛び出し量を制限させる方法等が行われる。
このような映画等のストーリを把握するため、ユーザが必ず読まなければならない字幕表示については、図9に示すように奥行き方向の変化量を制限する必要がある。あまり目の焦点方向の追従速度が速くなると図7や図8のように目の疲れが増大し3D酔いが発生しやすくなるからである。また、あまり遠方すぎる位置の字幕は、字幕の大きさと背景との関係で、図6にあるように違和感があるため遠方位置についても制限を加えたほうがよいと思われる。また、目に近い手前側についても制限が必要である。これは特に目に近すぎる位置は視野角の関係で目の角度変化量が大きくなるため元々目の疲労が大きくなるほか、飛び出し量が大きいと「びっくりする」,「おどろく」といった影響を及ぼす場合もあるからである。また、表示するTV画面が大きくなる場合、面内方向の目の動き量も増大するとともに、上述の「びっくりする」,「おどろく」といった心理的効果も増大するため、より制限を大きくする事が望ましい。再生装置とTVがリンク接続されている場合、TV画面の大きさに関する情報を再生装置との間でやりとりし、字幕等の飛び出し範囲制限をきびしくする。また、飛び出し量の異なる複数のストリームが配置されている場合、TV画面の大きい場合は飛び出し量の小さいストリームを選択し、TV画面が小さい場合は飛び出し量の大きなストリームを選択する等の構成が考えられる。また、後述する装置側の設定によって飛び出し量が可変できる場合には、TVのサイズ情報やユーザの状態(年齢等)を配慮し自動設定する事も考えられる。
この際、上記評価値や視野角である最大飛び出し量からなる立体映像パレンタルレベルを規定し、立体映像パレンタルレベルに応じて、視聴する年齢の制限やお年寄りや病人に対する危険告知を行う事が可能となる。例えば、立体映像パレンタルレベルとして、レベル1は疲労・危険が大として、評価値(目の疲労度)>c,最大飛び出し量>d,通常のパレンタルレベルが高い場合とする。レベル2は疲労・危険がやや大として、評価値(目の疲労度)>c,最大飛び出し量>d,通常のパレンタルレベルが普通以下の場合、又は評価値(目の疲労度)>e,最大飛び出し量>f,通常のパレンタルレベルが高いの場合とする。レベル3は疲労・危険が中として、評価値(目の疲労度)>e,最大飛び出し量>f,通常のパレンタルレベルが普通以下の場合とする。レベル4は疲労・危険なしとして、評価値(目の疲労度)>g,最大飛び出し量>h,通常のパレンタルレベルが普通以下とする。
なお、上記の立体映像パレンタルレベルの例では、c>e>g,d>f>hの関係を有し、通常のパレンタルレベル(平面画像パレンタルレベル)が、ホラー映画等に対し現行の2D映像のDVD等で規定されている安全のための視聴制限を指すものとする。また、このような立体映像パレンタルレベルの設定は製品購入時や、初期設定時に設定・変更する事ができ、例えば暗証番号等を記憶させる事によって、後での解除変更をできるようにしておけばより有用である。
(実施の形態2)
次に、本実施の形態2について、図に従い以下に説明する。図1から図3のような特に視差情報を用いた立体映像においては、そのままTV放送すると2重写しのような画面になり、上述したような専用の立体表示装置を構成しなければ見ることができない。従って、放送において立体映像を行う事は視聴者側の機器のインフラにも左右されるため、一般には視聴できない専用のチャンネルを設けるか、3D映像である事のフラグを放送の情報に重畳する等が必要となる。そのため、通常では記録メディア等で配信され、専用のプレーヤもしくは本機能が搭載されたプレーヤで見るのが都合が良い。このような状況から、上記のような立体映像を記録メディアに保存するための方法やフォーマットを、以下に説明する。
図10は、本実施の形態2に係る記録媒体26である。本発明に係る記録媒体(映像メディア)は、DVDやBD、HD−DVD、MO等の光ディスク媒体の他、HDD媒体であっても良いことはいうまでもない。HDDの場合はそれ自体可搬できない場合が多いものの、放送された立体映像情報を記録する際には容量の点からも有利である。一方、ROMメディア等の光ディスク媒体においては、放送される前の立体のキラーコンテンツや、立体有料コンテンツを配信するのに有効である。図10に示す円盤状の記録媒体26では、映像情報に関する制御情報を格納している領域(映像制御情報23)、立体映像が格納されている領域(映像タイトル24)、通常の2D映像が格納されている領域(映像タイトル25)に分けられている。
図11は、図10の映像タイトル(映像コンテンツ)24部分の映像ストリームの構造例を示したものである。図11では、映像タイトル27が2D映像情報28、ユーザの選択が可能な2D映像情報30,31、表示装置が立体映像表示可能な場合に自動的に選択もしくはユーザの選択により選ばれる3D映像情報29、上記映像情報29〜31に引き続いて再生される2D映像情報32、映像タイトル27の最後の2D映像情報33で構成されている。また、図11では、GOPレイヤのストリーム情報として、後に続くGOP映像情報35,36の先頭に配置されGOP映像情報に関連した付帯情報が記述された付帯情報領域34、GOP映像情報38の先頭に配置されGOP映像情報に関連した付帯情報が記述された付帯情報領域37、GOP映像情報40,41の先頭に配置されGOP映像情報に関連した付帯情報が記述された付帯情報領域39が図示されている。
また、図11では、ピクチャレイヤのストリーム情報として、付帯情報を記載したパケットデータ部42、面内符号化データから構成されたIピクチャデータ43、Iピクチャデータ43とPピクチャ45とから時間方向に予測された符号化データであるBピクチャ44、Iピクチャデータ43から片方向のみの時間方向に予測された符号化データであるPピクチャ45が図示されている。また、図11では、トランスポートパケットデータのレイヤとして、付帯情報を記載したトランスポートパケットデータ部でパケットデータ部42と同じパケット46、Iピクチャデータ43をトランスポートパケットで分割した先頭のパケット47、Iピクチャデータ43の最後のデータが格納されたトランスポートパケット48、トランスポートパケット48の中のIピクチャデータの最後の部分49、トランスポートパケット48の中のパディング処理された部分50が図示されている。
また、図12は、映像タイトル(映像コンテンツ)27における3D映像情報29、2D映像情報30,31とが選択的に選べる領域の階層のデータ構造を示したものである。図12では、3D映像情報29、2D映像情報30,31とが選択的に選べる領域における先頭に配置された本映像列に関連した情報が格納された付帯情報51、当該領域におけるGOP映像情報列52、GOP映像情報列54に関連した情報が格納されている付帯情報53、当該領域の最後のGOP映像情報列56に関連した情報が格納されている付帯情報55が図示されている。また、図12では、ピクチャレイヤのストリーム情報として、面内符号化データから構成されたIピクチャデータ57、Iピクチャデータ57とPピクチャ59とから時間方向に予測された符号化データであるBピクチャ58、Iピクチャデータ57から片方向のみの時間方向に予測された符号化データであるPピクチャ59が図示されている。
また、図12では、トランスポートパケットデータのレイヤとして、Iピクチャデータ57をトランスポートパケットで分割した先頭のパケット60、Iピクチャデータ57の最後のデータが格納されたトランスポートパケット61、トランスポートパケット61の中のIピクチャデータの最後の部分62、トランスポートパケット61の中のパディング処理された部分63が図示されている。また、図12に示す矢印Aは再生部分、矢印Bは3D再生を行った場合にジャンプする部分、矢印Cは3D再生を行うために再生する部分であり、右目映像のGOP映像情報と左目映像のGOP映像情報とが配置されているものである。図13では、映像タイトル27における3D映像情報29、2D映像情報31とが選択的に選べる領域の階層のデータ構造を示したものであり、基本的に図12と同じであるため同じ構成要素については同符号を付して説明を省略する。
光ディスクやHDD媒体に記録されるデータの構造としては、図10に示されるように映像関連の付帯情報やシーケンス等を記録した映像制御情報23の領域と実際の映像タイトル(映像コンテンツ)24,25の領域とから構成される。この時、3D映像は必ずしも全編が3D映像となっているわけではなく、2D映像との混在である場合や、これら映像がユーザの選択により切り替えられる場合が想定される。特に、DVD規格においてはマルチアングルといったユーザの選択可能な映像情報列を切り替えて表示できるようになっており、3D映像情報の場合も、ユーザの機器がすべて3D映像対応になっていない事を考慮すると、2D映像ストリームの上に、追加的に3D映像ストリームが構築される。そして、ユーザの表示機器が3D対応の場合、HDMI端子のリンク機能等により自動的に識別し3D映像ストリームを選択的に表示させるか、ユーザのボタン操作により選択的に3D映像側に決定し動作させる方法が考えられる。もちろん、全てのコンテンツが2D映像のみもしくは3D映像のみの形態もある事はいうまでもないが、フォーマットとしてはこのような複合形態への配慮が必要である。
また、映像タイトル24の映像情報ストリームにおいても、映像情報ストリーム上にこれに関連する付帯情報領域を設け、情報のアクセスと管理や、機器の設定切換えの対応等を行う事が望ましい。特に、2D映像と3D映像とが混在するコンテンツにおいては、TV側で映像ストリームの2D映像か3D映像かの判定を行う必要があり、ストリーム上に付帯情報領域があればこの情報に基づき、TV側の設定を簡便にかつ自動的に切り替える事が可能となる。記録媒体を再生もしくは記録するプレーヤ・レコーダですべての設定を閉じて行う場合、制御情報をディスクの一部に集約して配置する映像制御情報23に記載するのみでも良い。しかし、TVとの接続連携を行う場合では、特に再生中にTVを切り替える等の処置を行う場合は、映像情報自体に、必要最低限の制御情報を重畳させておくことで、TV側の自動切換え設定等が行えるようになる。上記映像情報中の制御情報がない場合は、TVの接続切換えを検出し、別途制御情報をプレーヤ・レコーダから送出しTV側の設定を変更した後、映像情報を送出する事となる。これらTV側の設定変更については、立体映像再生の処理自体が偏向光を切り替える等表示装置側で行われるため、表示装置の設定変更処理を迅速に行うようなしくみが必要となる事はいうまでもない。
付帯情報51は、情報のアクセス管理にも使用する事が可能であり、DVD規格ではNavi情報として定着しているものである。ここで、2D映像と3D映像とが混在している場合、図11に示す3D映像情報29,2D映像情報30,31のようにコンテンツの時系列上は並列する形となる。そこで、先頭にある付帯情報34はGOPデータ情報群の頭に配置される必要があり、まず付帯情報の内容を読み取る事により、次のGOP列の情報が2D映像なのか、3D映像なのか、3D映像であれば左目映像なのか右目映像なのか、またGOP映像情報群におけるそれらの配置情報(どこにアクセスすれば良いか)を判断する事ができる。ここで、付帯情報51を先頭に含むGOP映像情報群はビデオユニットとしてGOP映像情報よりもさらに大きな映像単位として定義される。
また、MPEG等の時間方向にも圧縮をかけた映像情報データの場合は、Iピクチャを先頭とするGOP映像情報単位で情報が存在するため、映像データのアクセスはこのGOP映像情報単位となる事はいうまでもない。また、付帯情報は最初に読み取る必要があるためGOP映像情報群の先頭に配置しなければならず、例えば図12のように3D映像情報部分を再生する場合は、まず付帯情報51を再生(図中矢印A)した後、2D映像情報30,31をジャンプして、3D映像情報29を再生する。この際、2D映像情報30,31は図中矢印Bのようにジャンプし再生機器のメモリに不要な情報(この場合は2D映像情報30,31)を取り込まないようにして不要なメモリの増大を回避するとともに、映像の途切れが生じないように図中矢印Cの3D映像情報29を再生する。
また、上記GOP映像情報の先頭の付帯情報51は、その下のピクチャレイヤの状態で示すと、Iピクチャ57の先頭位置に配置されている。さらに、地上波や衛星・ケーブル等のデジタル放送等との親和性を持たせるため、これら圧縮映像データはトランスポートパケットで分割しておく事が便利であるため、最下層のデータとしては図12のようにトランスポートパケット60,61に分割する。この場合でも付帯情報51はGOP映像情報群52の先頭のトランスポートパケットにて記載される事となる。なお、トランスポートパケットにおける新たに定義されたプライベートパケットを使用する事はいうまでもない。さらに、上記GOP映像情報群の最後のトランスポートパケット61は、必ずしも一定のトランスポートパケット単位でデータが切れるわけではないので、最後の部分63を「00」や「FF」でパディングしてGOP映像情報単位でパケットのデータが完結するようにしておく事が良い。また、図13のように1つの2D映像31と1つの3D映像29との2本に分岐している場合は、図12と比べ図中矢印BのジャンプするGOP映像情報量が少ないだけであり、基本的な動作は図11と変わらない。
なお、上記付帯情報の内容についてさらに説明する。図14に示す付帯情報51は、コンテンツ情報64、タイムコード65、配置情報66、映像情報に関する情報67、音声情報に関する情報68、OSD情報に関する情報69で構成されている。そして、図14に示すコンテンツ情報64は、コンテンツ名70、著作権71、暗号情報72、3D映像の有無73、有効地域情報74で構成されている。
また、図15に示すタイムコード情報領域65は、プレゼンテーションタイム65A、同期情報65Bで構成されている。図16に示す配置情報66は、シームレス情報75、ジャンプ先情報76、アングル情報77、GOP内配置情報78で構成されている。図17に示す映像情報67は、解像度情報79、フレームレート情報80、3D映像情報81、パレンタル情報82、アングル情報83、暗号情報84、3D映像方式及び有無に関する情報85、3D映像フレームレートに関する情報86、3D映像情報数87、奥行き解像度に関する情報88、奥行き変化度に関する情報89、字幕許可の奥行きに関する情報90、奥行き制限に関する情報100、視差量制限に関する情報101で構成されている。
また、図18は、上記付帯情報を表示装置であるTVに表示させた場合の模試図である。図19(a),図19(b)は、複数のカメラからマルチアングル撮影した場合の模試図である。また、図20に示すOSD情報69は、OSD配置情報69A、OSD格納先の情報69B、フォントや字体の大きさ指定69C、面内のOSD配置情報69D、奥行き方向のOSD配置情報69E、奥行き位置69F、奥行き許可制限69G、奥行きズーミング速度69Hで構成されている。
ここで、図14における付帯情報51は、まずストリーム上のGOP映像情報群毎に記述されたものであり、TV等にHDMI伝送された場合でも、映像情報とともに伝送されるものである。従って、特に3D映像表示に関するTV側の設定にも必要な情報も含まれることはいうまでもない。
次に、図14に示すコンテンツ情報64について説明する。コンテンツ名70は、(1)コンテンツ名,(2)出演者名,(3)製作時期,(4)配給会社,(5)関連する作品名,(6)あらましをTV側のOSD情報として表示させる場合がある。当該コンテンツ名70は、映像ストリーム上に重畳された付帯情報51が含まれるのであれば、途中でTV側の入力を3D映像情報に切り替えた場合でも、コンテンツ名70の内容を表示する事が可能となる。
図14に示す著作権情報71として、(7)著作権者,(8)配給会社,(9)輸入業者,(10)資本参加社を記載しておくことで、映像ストリームの著作権所有者の情報も同時に配信する事ができ、本再生データを用いて不正な使用を行った場合でも著作権者の権利を主張する事ができる。また、本情報は映像ストリームに重畳されるため、TVをつなぎかえた場合においても常にTV側に情報配信されるため、著作権に関する表示を行う事も可能となる。
また、図14に示す暗号情報72は、(11)暗号の有無,(12)暗号方式を記載しておく事で、暗号化された機密性の高い情報なのか、コマーシャル等の機密性の無い情報なのか伝送先の機器へ送付する事ができる。
また、図14に示す3D映像情報73は、(13)3D映像対応の有無,(14)全2D映像対応かどうか(2D映像表示のみで最後まで再生できるかどうか?),(15)3D映像対応の場合、3D映像再生が優先かどうかを記載する事で、3D映像対応でないTVと接続した場合には非対応である事をユーザに表示させる事ができるようになる。また、TVとHDMIでリンク接続している場合は、TV側を自動的に3D映像設定に切り替えたり(例えば、図1から図3に示すように自動的に2映像ストリームをフィールド毎に表示させる)、TV側に3D映像機能が無い場合は、TVや再生装置側でTVが未対応と表示させたり、ディスクを吐き出す等の処置を行う事ができる。
また、図14に示す有効地域74は、(16)2D映像の再生許可地域,(17)3D映像の再生許可地域を記述する事で、本ディスクの再生許可地域を限定するだけではなく、2D映像のみ許可し3D映像対応の表示を許可する地域を限定して指定する事もできる。これは、3D映像再生に関するライセンス条件が整っていない場合に、特定の地域で2D映像再生のみを許可するケースが生じるからである。3D映像の再生許可地域が許可されていない地域であれば、3D映像表示装置と接続してあっても2D映像のみの再生となったり、ディスクを吐き出す等の処置が行われる事となる。
次に、図15に示すタイムコード情報65について説明する。2D映像と3D映像とが混在する映像コンテンツにおいては、ユーザによって途中の切換え(例えば3D映像から2D映像)が発生した場合でも、映像情報の流れを途切れたり省略したりする事なく連続的に再生させなければならない。また、ユーザの指示から例えば10分前に戻る・進む等のタイムサーチが発生する場合がある。そのためGOP映像情報群の先頭には以下に示す、その映像のタイトル開始時点からの再生時間情報であるプレゼンテーションタイム65Aを記録しておく必要がある。なお、タイトル再生終了までの残り時間情報もしくはタイトル再生全時間を記載しておく事でTV側で残時間表示等を行う事が可能となる。
また、3D映像は実施の形態1で説明した目の疲れ等を誘発しやすいため、3D映像再生開始からのタイムコード(連続してどれだけの3D映像を視聴したか)や、本映像コンテンツのトータルでどれだけの3D映像を視聴したかについて表示し、目の疲れを防ぐための休憩の指示や危険表示を行う事ができる。また、3D映像における右目・左目それぞれのGOP映像情報があった場合、その再生順序に対応するフィールド指定を行う事が可能となる。つまり、プレゼンテーションタイム65Aには、(18)タイトル開始時点からのタイムコード(プレゼンテーションタイム),(19)タイトル再生終了までの残り時間情報もしくはタイトル再生全時間,(20)3D映像再生開始からのタイムコード(3Dプレゼンテーションタイム),(23)トータル3D再生時間,(24)左右映像の再生順もしくはフィールド指定を記載しておく。また、同期情報65Bは、映像コンテンツの同期を規定し左右映像の再生順もしくはフィールドを指定して行う。
次に、図16に示す配置情報66について説明する。特に2D映像コンテンツと3D映像コンテンツとが混在する場合、再生に不要な情報を飛ばしたり、必要なデータの先頭位置にGOP映像情報群における配置情報の記述が必要となる。また、特殊再生動作を行う場合はMPEG等の時間軸方向の圧縮映像の特性からまず面内圧縮画像からアクセスが必要となる点も配慮しなければならない。そのため、シームレス情報75には、(25)シームレス再生の有無(次のGOP映像情報群までの)が記録される。また、ジャンプ先情報76には、(26)ジャンプ先(正方向と逆方向)アドレス1、アドレス2等,(27)ジャンプ先のタイムコード情報1、タイムコード情報2等(複数のジャンプ先情報をテーブル情報として有する),(28)ジャンプ先の3D映像情報有無が記録される。なお、(28)ジャンプ先の3D映像情報有無の情報に基づきジャンプ先に3D映像情報が無い場合、ストリーム再生中にTVの設定を2D映像に戻すことができる。
アングル情報77には、(29)複数のアングルに対応したGOP映像情報のアドレス1、アドレス2等,(30)複数のアングルに対応したGOP映像情報のタイムコード情報1、タイムコード情報2等が記録される。GOP内配置情報78には、(31)各GOP内のPピクチャの配置情報としてのアドレス情報1、アドレス情報2等が記録されることになる。以上のように、シームレス情報75を有することにより、必要なアングルをつなぎながら順次再生する事も可能になるほか、GOP内の配置情報によりIピクチャのみを再生したり、IとPピクチャのみを再生する事による早送りや早戻し再生が可能となる。
次に、図17に示す映像情報67について説明する。映像情報67において立体映像情報として特に必要となるものを以下に示す。まず、解像度情報79には、(32)2D映像再生の場合の解像度(面内方向)、PinP画像の解像度(面内方向),(33)3D再生時の解像度(面内方向)を記憶する。3D映像有無方式85には、(34)3Dの有無,(35)3D映像方式指定(倍スキャンレート指定,偏向メガネありなし,液晶シャッタありなし)が記録される。3Dフレームレート86には、(36)2D映像再生時のフレームレート、3D映像再生時のフレームレートが記録される。
3D映像情報数87には、(37)並行して再生される独立した3D映像情報ストリーム数が記録される。なお、別々のアングルがn本ある場合は、n=アングル番号と記載される。本情報に基づき、再生中にアングル数を表示し、ユーザからの選択によるアングルの切換えとともに、アングル番号の表示による認識を行わせる事が可能となる。3D映像情報数87には、(38)左右映像を順次切換える場合の3D映像ストリーム数とカメラ情報も記録される。例えば、図19(a)に示すように、5本の視差分だけずれたカメラD〜Hを用いて映像を撮影、もしくは、アニメ画像等をCGによって5本の視差映像情報にして記録した場合、これらの本数と、各カメラの間隔もしくは角度を記載する。付帯情報の記載一例としては、総合情報−映像本数5−カメラ間隔**mm,カメラDによる映像1−角度1,カメラEによる映像2−角度2,カメラFによる映像3−角度3,カメラGによる映像4−角度4,カメラHによる映像5−角度5となる。
視差分だけずれた映像が5本あった場合、実際のアングル映像としては、アングルDは映像1が左、映像2が右,アングルEは映像2が左、映像3が右,アングルFは映像3が左、映像4が右,アングルGは映像4が左、映像5が右と5本の視差映像情報で、図19(b)に示すように少しずつアングルの異なる4つの立体アングル映像を再生する事ができる。このとき順次アングル情報をずらす事で映像を回転させたりする事も可能である。従って、各映像ストリームが1つのアングル情報を指すのではなく、隣接する視差角を持った映像との組み合わせで新たなアングル情報が構築できる。近年、CG技術の進化により、アニメーション映像では容易に立体映像を作る事が可能となっており、このような複数アングルの視差情報を準備し、ユーザからのリモコンの指定によりおのおのにアクセスする事で、アングルずらしによる視点変更も可能になる。
奥行き解像度88には、(39)3D映像における奥行き解像度1、解像度2等が記録される。なお、3D映像ストリームが複数本あった場合、複数本奥行き方向解像度を記載する。例えば、CG映像等により極端に奥行き解像度が低く、時間的にもカクカク動くような場合は、本情報に基づき、時間方向に奥行きを補完して、なめらかに表示させる事も可能になる。奥行き変化度89には、(40)3D映像における奥行き変化度1、変化度2等が記録される。なお、3D映像ストリームが複数本あった場合、複数本奥行き方向変化度を記載する。特に、変化度については実施の形態1に示すような人間の目の疲れに関連するため、安全性を確保するために、記載しておき、ユーザへの警告や休憩指示等に用いる事ができる。
字幕許可奥行き90には、(41)字幕許可奥行き範囲(最大視野角1、最小視野角1、最大視野角2、最小視野角2等)が記録される。なお、3D映像ストリームが複数本あった場合、複数本奥行き方向変化度を記載する。字幕情報については、後述する立体映像視聴の際に、字幕焦点位置と注目点とで焦点を頻繁に合わせる必要がある事から、目の疲れに影響しやすく、表示範囲を十分限定しておくことが必要となる。また、奥行き情報の記載は、実距離にした場合、遠い方が無限遠になるため数値化しずらく、視野角情報で記載する事が望ましい。また、無限遠に近い場合は詳細数値を記載する事に意味をなさないため、例えば視野角1deg以下は省略する等の下限を設けても良い。プレーヤではこれら情報に基づいて、OSDの表示における字幕の奥行き位置を設定する。
奥行き制限100には、(42)奥行き制限(最大視野角1、最大視野角2等)が記録される。あまり近くに飛び出してくる立体映像においては、心理的な効果からびっくりする等の感覚を与える。そのため、字幕ではなく立体映像そのものの飛び出し量を制限し、目にやさしい効果や、あまりびっくりさせないような配慮を行う。この場合プレーヤでは、図17に示すように映像コンテンツで予め飛び出しの最大量となる視野角を記録しておく事により、図18のように小さなお子さま等の視聴者に警告したり視聴制限させる事が可能となる。
視差量制限101には、(43)視差量制限(撮影時の最大視野角1、最小視野角1、最大視野角2、最小視野角2等)を記載する。なお、3D映像ストリームが複数本あった場合、複数本奥行き方向変化度を記載する。本情報は撮影時の2つのカメラの距離である視差基準量は人の目の間隔によって異なるため、この基準角度のずれ量の範囲を規定したものである。これにより両目の間隔の小さな子供等が視聴した場合の違和感を予め把握する事ができる。
このように、違和感の解消のために、同一映像コンテンツにおいて視差基準量の異なる複数立体映像を用意し、視聴者の目の間隔に合わせて選択する方法等も考えられる。複数の視差基準量については、近年CG技術が革新し、アニメーション映像等においてはコンピュータにより容易に変更できるようなっている。この場合、このような視差量制限情報を付帯情報に記載することによって、プレーヤでは図18に示すように**才〜**才、大人等の選択キーを用意し、これを選択する事で元の映像コンテンツにおける視差基準量を視聴者にあわせて、正確な立体視聴が可能となる。また、視差のずれた映像を長時間見る事による目の疲れ等も回避できる。さらに、パレンタル82においては、通常の平面映像2Dパレンタルレベル以外に3D映像対応した立体映像パレンタルレベルが規定される。パレンタル82には、(44A)平面映像パレンタルレベル(現行DVD等と同等のパレンタル表記),(44B)立体映像パレンタルレベル(実施の形態1にて説明した立体映像パレンタルレベル)とを記録する。
また、図20に示すようにOSD情報69には、まずOSD自体の付帯情報となる配置情報69Aと、OSDそのものの情報が格納されているアドレスを記載したOSD情報格納先69Bとを記録する。OSD表示69には、まずこの付帯情報を取り込みマイコン等で理解した上で、この格納先情報により実際のOSDを取得し表示させる事となる。
ここで、字体の大きさ等の情報69Cには、(45)字体フォント、字体大きさを記録する。面内配置情報69Dには、(46)字体の配置情報(X位置、Y位置)を記録する。
奥行き方向OSD配置情報69Eには、(47)奥行き位置69F,(48)奥行き許可制限69G(遠方制限位置、手前制限位置、奥行き変化量制限等の実施の形態1における目の疲れを軽減するための制限),(49)奥行きズーミング速度69H(ズーミングありなし、ズーミング速度)が記録される。なお、奥行きズーミング速度69Hでズーミングを規定する事により、ある字幕から次の字幕に切りかわる際に、瞬時に奥行き位置を変化させるのではなく、すこしずつズームするように変化させ、目の疲れを軽減させるためのものである。
なお、上記(1)から(43)までの3D映像情報における付帯情報は、映像情報ストリームに重畳されたものとして、映像情報とともに配信されるが、以下に述べる映像情報そのものとは別の領域に記載された映像制御情報23にも同様な記載を行う事ができる。また、プレーヤ起動時の最初にすべての情報を読み込めるため、各種初期設定を行う事が可能である他、ビットレートやメモリの制限にかかる事なく映像情報に重畳するよりも多くの情報を記述できるため、より詳細な制御情報を記述する事が可能である。
次に、記録媒体のある領域に映像情報とは別に配置されている制御情報の構造について説明する。図21は、まとめて配置されている映像制御情報23のGOPテーブル部分とその中の映像関連情報について詳細に説明するための図である。図21に示す映像制御情報23は、コンテンツ情報64、著作権71、暗号情報72、3D映像の有無73、有効地域情報74、GOPテーブル情報102、シーケンス情報103、メニュー情報104、メニューのOSDデータ105を備えている。そして、GOPテーブル情報102は、図21に示すように表形式となっており、GOP番号、論理アドレス、タイムコード、シーケンス、配置、映像、音声、OSDの各欄が設けられている。
図21では、特に映像欄の構成が図示されており、解像度情報79、フレームレート情報80、3D映像情報81、パレンタル情報82、アングル情報83、暗号情報84で構成されている。さらに、図21では、3D映像情報81が3D映像方式及び有無に関する情報85、3D映像フレームレートに関する情報86、3D映像情報数87、奥行き解像度に関する情報88、奥行き変化度に関する情報89、字幕許可の奥行きに関する情報90、奥行き制限に関する情報100、視差量制限に関する情報101で構成されていることが図示されている。
また、図22も、まとめて配置されている映像制御情報23のGOPテーブル部分とその中の映像関連情報について詳細に説明するための図である。図22では、特にOSD欄の構成が図示されており、字幕の有無106とOSD情報69とで構成されている。OSD情報69は、OSD配置情報69A、OSD格納先の情報69Bで構成され、OSD配置情報69Aは、フォントや字体の大きさ指定69C、面内のOSD配置情報69D、奥行き方向のOSD配置情報69Eで構成され、奥行き方向のOSD配置情報69Eは、奥行き位置69F、奥行き許可制限69G、奥行きズーミング速度69Hで構成されている。
また、図23は、記録媒体のある領域に映像情報とは別にまとめて配置されている映像制御情報のシーケンス情報の構造について説明したもので、シーケンス情報103が表形式で記録されていることを示している。図23の映像欄には、解像度情報79、フレームレート情報80、アングル情報83、3D映像情報81、パレンタル情報82が記録されている。なお、3D映像情報81は、3D映像方式及び有無に関する情報85、3D映像フレームレートに関する情報86、3D映像情報数87、奥行き制限に関する情報100、視差量制限に関する情報101で構成されている。一方、図23のOSD欄には、字幕の有無106、字幕フォント・色107、字幕表示方法108、字幕表示奥行制限109、字幕データアドレス110とが記録されている。
記録媒体のある領域に映像情報とは別に配置されている制御情報については、映像情報ストリーム上に重畳された付帯情報34、51の情報を含めてすべての情報が記載されている。これはプレーヤ・レコーダの立ち上げ時にまず制御情報を読みこみ、各種初期設定を行うためである。
まず、映像制御情報23は図21のように記載されており、図14の映像情報中に重畳された付帯情報51と同じくコンテンツ情報64、タイムコード65、配置情報66、映像情報に関する情報67、音声情報に関する情報68、OSD情報に関する情報69を含んでいる。しかしながら、より多くの情報を格納できる映像制御情報23においては、GOPテーブル102といった全GOPに関するテーブル情報を記載する事ができ、映像再生しなくてもGOP映像情報単位での情報内容を把握する事が可能となる。ここでGOPテーブル102は図21中の表のように記載され、論理アドレスがある事から、所定のセクタ領域から読み出された信号から上記データ・ファイル識別情報を検出し、検出された上記データ・ファイル識別情報にもとづいて、上記位置識別信号によって示された位置にある上記符号化単位に対応した上記データ・ファイルがディスク媒体上に記録されている位置を識別する。識別された上記ディスク媒体上の位置にもとづいて上記データ・ファイルを読み出し、読み出された上記データ・ファイルに含まれる上記符号化単位で符号化された信号を復号化して画像信号を再生する事ができる。これにより、所望の時点にある符号化単位が記録されている位置を容易にしかも即座に特定して再生することを可能にする。
また、上記GOPテーブル102においては映像に関する付帯情報において3D映像情報を含み上記(32)〜(43)の映像ストリーム中に記述された項目と同じ項目の付帯情報をGOP映像情報毎に記述する事が可能となる。また、字幕情報に関しても、図22に示すように字幕の有無106、字幕フォント・色107、字幕表示方法108、字幕表示奥行制限109、字幕データアドレス110を記述する事で(44)〜(49)に示す情報と同様な情報をGOP映像情報単位に字幕の付帯情報を記載可能となる。
また、上記映像制御情報23には図23に示すようにGOP映像情報単位のシーケンス情報を記載する事も可能である。これにより再生開始時に、データ・ファイルの再生順序を示す情報が記録された所定のセクタ領域のセクタ・アドレスを生成し、データ読み出し手段によって読み出されたデータから再生順序情報を読む事によって再生順序情報が検出され、その後再生順序情報にもとづいてセクタ・アドレスを生成する。これにより、記録媒体上に分散したセクタに記録された画像信号も再生することが可能となっている。このようなシーケンステーブル情報にも上記(32)〜(49)に示す付帯情報を記載することが可能となる。
(実施の形態3)
次に、本実施の形態3について以下に説明する。図24は、本実施の形態3に係る立体映像記録装置のブロック図である。図24に示す立体映像記録装置は、視差情報を利用した立体映像の右目映像と左目映像のそれぞれの映像信号をデジタル化するためのADコンバータ146と、時間方向に画像圧縮するために必要な動きベクトル検出(動き検出)147と、面内圧縮に必要なDCT変換回路148と、面内圧縮に必要な適応量子化回路149、ローカルデコーダにおける逆量子化回路150とを備えている。さらに、図24に示す立体映像記録装置は、面内圧縮に必要な可変長符号化回路151と、ローカルデコーダにおけるDCT逆変換回路152と、ローカルデコーダにおけるフレームメモリ153と、圧縮後のデータを格納するバッファメモリ154と、OSD情報のエンコーダ155と、音声エンコーダ156と、フォーマットエンコーダ157と、光ディスク165に書き込む信号を生成するための変調手段158と、LD変調回路159とを備えている。
さらに、図24に示す立体映像記録装置は、光ディスク165に記録するアドレスを抽出するためのアドレスヘッダ認識回路160と、光ヘッド164からの信号を再生するための再生アンプ161と、光ヘッド164や送りモータ163や回転モータ166を制御するためのサーボ回路162と、装置全体のシーケンスを制御管理するためのシステムコントローラ167とを備えている。
また、図25は、図24の立体映像記録装置に基づいて生成した立体映像信号のストリーム構造を示した図である。図25に示す立体映像信号のストリーム構造は、付帯情報51以降に、右目映像のGOP168、左目映像のGOP169、音声情報に関する情報68、OSD情報69の構成が順に繰り返す構造である。また、図25に示す右目映像のGOP168は、GOPヘッダ170、ピクチャヘッダ171,173、Iピクチャデータ172、Bピクチャデータ174で構成されている。さらに、図25に示すGOPヘッダ170は、GOPヘッダ170内にあるユーザデータスタートコード175、GOPヘッダ170内にある3D映像情報176で構成されている。さらに、図25に示す3D映像情報176は、左目映像か右目映像かを記載した情報177、3D映像方式及び有無に関する情報85、3D映像フレームレートに関する情報86、3D映像情報数87、奥行き制限に関する情報100、視差量制限に関する情報101で構成されている。
また、図26は、図24の立体映像記録装置に基づいて生成した立体映像信号のストリーム構造において下位の構造部分を図示したものである。図26では、右目映像のGOP168のトランスポートストリームパケット178〜182で示しており、左目映像のGOP169のトランスポートストリームパケット185〜188で示している。GOP映像情報の最後のデータが記述されたトランスポートパケット182,188の最後のデータがそれぞれデータ183,189であり、データ183,189のそれぞれにパディング処理された部分184,190が付加されている。
ここで、図24に示す立体映像記録装置は、左目と右目のそれぞれで同じ映像圧縮を行うようにしたものであり、ADコンバータ146でデジタル化された右目映像は動き検出147の処理によって各映像マクロブロック単位での動きベクトルが抽出される。また、映像データの最初は面内符号化処理されているため、DCT変換回路148にてDCT変換した後、適応量子化回路149で量子化され、可変長符号化回路151にて可変長符号化してバッファメモリへと送付される。この時、適応量子化後の映像データは逆量子化回路150、DCT逆変換回路152によるローカルデコーダによって元の映像信号が復元され、さらにフレームメモリ153にて動き補償した映像と比較する事で、以降の時間軸方向の圧縮を行う画面において差分情報のみを使用して圧縮していく事が可能となっている。このような圧縮方式はMPEGやH.264等の圧縮方法において基本的な方式となっており広く用いられているものである。
ここで、図24では右目映像と左目映像とをそれぞれ独立した映像ストリームとして入力し、それぞれ別々のエンコードブロックにてエンコードされる。そのため図24では右目及び左目が同じブロックをそれぞれ並列に配した構造となっている。ただし、入力部分にメモリを配置し、一旦左目映像と右目映像とを蓄積した上で、同じエンコード回路を倍の速度で処理し、1つのエンコードブロックで同様に処理を行う事も可能である。これらエンコードされた立体映像情報は、バッファメモリ154でOSDエンコーダ155からのOSD情報、音声エンコーダ156からの音声情報、フォーマットエンコーダ157からのフォーマットに必要な付帯情報を追記し、記録媒体である光ディスク165に記録するデータ形式に整えられる。ここで、フォーマットエンコーダ157は、従来の光ディスクフォーマットに必要とされるNavi情報やメニュー情報に加えて、本発明に係る3D映像情報の記録に必要な付帯情報も追記する。
なお、光ディスクに記録される形式の映像データは、変調手段158で光ディスク165に物理的に書き込むための情報として誤り訂正符号を付加するとともに変調処理され、LD変調回路159にて光ヘッド164に搭載されたレーザを変調させるための信号を生成する。この際、光ディスク165に安定的に記録させるためのサーボ回路162によって、光ヘッド164を移動させる送りモータ163やディスク165を回転させる回転モータ166や光ヘッド164内の対物レンズアクチュエータを制御しトラックあわせや焦点あわせを行っている。また記録時には光ディスク165上のアドレスを読み込む必要があり、光ヘッドにて受光した信号を光電変換した微小信号を再生アンプ161で再生し、アドレスヘッダ認識回路160でアドレス情報を生成する。これらアドレス情報はシステムコントローラ167で各ブロックの起動設定とあわせシーケンス処理され、特に高速なタイミングが必要とられる書き込みタイミング処理等は専用のハードウェアで行われ、プログラミングが必要なシーケンス設定部分はCPU等で行われる。
ここで、立体映像記録装置によって生成される映像ストリームは、図25に示す構造となる。まずMPEG等の時間軸方向の圧縮映像を含む圧縮映像データは一般的にGOPと呼ばれる面内圧縮符号映像を含む。例えば15ピクチャ単位程度の映像ブロックとして構成される。ここでは視差情報を利用した右目映像ブロックと左目映像ブロックとの2つあるため、付帯情報51を先頭とし右目映像のGOP168と左目映像のGOP169とがシーケンシャルに配置させる。なお、右目映像及び左目映像がそれぞれ1GOPの例を示しているが、映像条件が変わらない範囲で同一GOP数であれば複数個のGOPから構成してもよい。また、付帯情報51については実施の形態2で説明した通りであるが、ここではさらにGOPヘッダ部分に新たなユーザデータスタートコードを定義し、その後ろに3D映像情報176を記載する事も可能である。
まず、3D映像情報176には左目映像か右目映像かを識別するための情報(フラグでもよい)177を配置するとともに、実施の形態2にて説明した3D映像方式の有無85や、3D映像フレームレート86、3D映像情報数87、奥行き情報100、視差量制限情報101を記録する。また、図26に示すように付帯情報51は、トランスポートパケットのレイヤにおいてプライベートパケット(TSP1)178を設け、これをトランスポートデコーダの部分で分離抽出する事となる。図25のように構成する事でMPEGデータの階層レベルでも同じ3D情報を抽出する事が可能となる。これらは再生装置とTVがリンク接続され自動的に3D映像設定する場合や、映像再生中にTVを切り替えたりする場合に、TV側にトランスポートデコーダでの付帯情報抽出設定が有効であれば付帯情報51が有効になるし、MPEGレイヤでの立体映像付帯情報が有効であれば3D映像情報176が有効になってくる。
また、図25の映像ストリームはMPEG情報レイヤの単位で記載したものであるが、もう1段下のトランスポートパケットの単位で記述したものが図26である。図26において、右目及び左目映像のGOP168,169のブロック単位での映像データは、トランスポートパケット178の先頭からスタートしGOP映像情報の終端では必ずしもトランスポートパケットの整数倍のデータには収まらないため、最終のトランスポートパケット182内の残りをパディングし、最終データ183に対しパディングデータ184で情報を埋める処理を行う。これによりトランスポートパケット179からトランスポートパケット182までを取り出すことにより右目映像のGOP168のみを抽出する事が可能となる。左目映像のGOP169においても右目と同様な処理が行われ、トランスポートパケット185を先頭に、パディングデータ190を含むトランスポートパケット188までを抽出する事により左目映像のみを取り出す事が可能となる。
なお、図24の立体映像記録装置においては、左目映像と右目映像とをそのままエンコードしていたが、左目映像と右目映像とは基本的には視差分だけずれた映像情報であり相関性が非常に高いものであるから、例えば左目映像については右目映像からの差分情報のみを記録するように構成すれば、全体の情報量も圧縮が可能である。そのための立体映像記録装置のブロック図を図27に示す。図27に示す立体映像記録装置は、右目映像のブロック部分を主映像として図24で示した映像圧縮のブロック構成と同じ構成を採用している。しかし、左目映像においては、左目映像の動き検出147の出力を右目映像のフレームメモリ153の出力と差分を取り、左目映像と右目映像との差分情報のみを抽出する。この差分情報は、左目映像のラインにおけるDCT変換148及び適応量子化149の処理を経て、可変長符号化処理151を行う事で左目映像の差分情報のみをバッファメモリ154に記録させる。以降の光ディスクに書き込むまでの処理は図24と同じである。
なお、図27に示す例では、右目映像を主映像とし、左目映像を差分をとる副映像としたが、左右が逆(左目映像が主映像で右目映像が差分をとる副映像)であっても良いことはいうまでもない。
また、図27に示す立体映像記録装置では、左目映像と右目映像との差分をとることで、片方の映像情報量をさらに圧縮する方法について述べたが、本映像情報が視差情報によるものである事からさらに情報圧縮をかける事が可能である。図28(a),図28(b)に視差映像の原理を模式的に示した図である。図28(a)では、奥行き位置126Mにある手前の映像物126Gと、奥行き位置126Lにある奥の映像物126H、両目126Fまでの奥行き位置(一番手前)126Nとし、映像物126Gの視野角126D、映像物126Hの視野角126Eとしている。また、図28(b)では、映像物126Gの左目映像126GA、映像物126Gの右目映像126GB、左目映像126GAと右目映像126GBとの視差量126I、左目映像と右目映像との同一画素点126Kとしている。さらに、図28(b)では、映像物126Hの左目映像126HA、映像物126Hの右目映像126HB、左目映像126HAと右目映像126HBとの視差量126J、左目映像と右目映像との同一画素点126KKとしている。
図29は、片方の映像をさらに圧縮する立体映像記録装置のブロック図である。図29に示す立体映像記録装置は、左目映像と右目映像とからの視差量を演算するための視差情報演算回路191Aと、奥行き方向の動き検出回路191Cと、推定視差情報生成回路191Dとを備えている。さらに、図29に示す立体映像記録装置は、推定視差情報から元の左目映像を右目映像に変換するための逆視差演算処理回路191Bと、右目映像と逆視差演算処理回路191Bによって生成した右目映像とを比較した結果よりDCT変換するDCT変換回191Eと、適応量子化回路191Fと、可変長符号化191Gとを備えている。なお、視差情報演算回路191Aから可変長符号化191Gまでが立体映像圧縮処理を行う部分である。
また、図30は、図29の立体映像記録装置による圧縮方法での映像ストリームのエンコードとデコードを説明するための図である。図30では、右目映像192A〜192G、左目映像右目映像の視差情報演算値193、左目映像194A〜194G、奥行き方向動きベクトル演算値196、推定視差情報197、右目主映像の圧縮映像195A〜195Gが図示されている。さらに、図30では、右目主映像の圧縮映像195A〜195Gに基づく再生主映像198A〜198G、再生主映像198A〜198Gにそれぞれ対応する推定視差情報204〜210、再生副映像211〜217とが図示されている。また、図31は、図27もしくは図29に示す立体映像記録装置による圧縮方法で生成された映像ストリーム構造を示した図である。図31に示す映像ストリーム構造は、基本的に図25と同じであるが、左目映像のGOP169に代えて差分映像情報218である点と、3D映像方式の有無85にGOP映像情報か差分情報かの情報219が追加されている点とが異なる。また、図32は、図29に示す立体映像記録装置による圧縮方法で生成された映像ストリーム構造におけるトランスポートレベルの階層でのストリーム構造を示したものである。図32は、基本的に図26と同じであるが、左目映像のGOP169に代えて差分映像情報218である点が異なる。
ここで、視差を利用した右目映像と左目映像とから立体方向を図示すると図28(a)のようになる。図28(a)では、両目126Fから見た視差角度が奥行きに応じて異なって見える。そのため、左右の視差映像となった場合は図28(b)のように手前の映像物126Gは大きく、左目映像126GAと右目映像126GBとが離れて見え、視差量126Iも大きくなる。一方、遠方にある映像物126Hは小さく、左目映像126HAと右目映像126HBとが離れて見え、視差量126Jも小さくなる。
そのため、視差量(126Iもしくは126J)又は視差角情報(126Dもしくは126E)の情報があれば、図28(b)のように左目映像から右目映像を推定(視差情報変換による映像生成)する(126K及び126KK)事が可能である。この条件としては、見る角度によって輝度や色が変わらない事が前提となるため、角度による映像の回り込みや影等の変化については本推定では推定できない情報となる。
ここで、図29に示す立体映像記録装置では、左目映像及び右目映像の動き検出ブロック147から得られる映像物の面内位置情報から視差角を抽出し、視差情報演算回路191Aによってマクロブック単位もしくは画素単位での視差情報を演算する。さらに、時間軸方向での圧縮を行うため奥行き方向動き検出回路191Cにおいて、画面単位での奥行き方向の動きベクトルを抽出する。推定視差情報生成回路191Dでは、この奥行き方向の動き情報と視差情報をもって推定視差情報として生成する。また、上述したように片方の映像(ここでは右目映像として説明)情報から視差情報だけで逆側(ここでは左目映像として説明)の映像を完全に再現できるわけではなく、画像の回り込みによる変化(隠れた部分が見えてくる等)等については推定できない情報として残ってしまう。
そのため、図29に示す立体映像記録装置では、立体映像圧縮において推定視差情報から逆視差演算処理回路191Bによってまず不完全ながら逆側(ここでは左目映像として説明)の映像を視差情報を利用しローカルデコード再現し、これと実際に撮影した逆側の映像を圧縮処理したもの(ローカルデコーダにおけるフレームメモリ153上の映像)との差分をとる。この差分をとった情報が上述した画像の回り込みによる変化した再現できない部分の情報であり、視差情報を利用した圧縮ストリームにおいても視差情報で完全に再現できない部分をカバーする事ができる。また、図示していないが、奥行き方向の動きベクトルを抽出した場合、さらに視差の変化量も情報として利用するため、通常の情報圧縮のローカルデコーダと同じく、逆量子化回路とDCT逆変換回路、フレームメモリを用い、奥行き方向の動きベクトルから元の映像をローカルデコーダにより再現し再比較する事で、奥行き方向の動きベクトルを利用し圧縮効率をアップさせる事ができるようになる。
ここで、画面単位での映像データは図30のように示される。図30にある右目カメラから右目主映像192A〜192G、左目カメラから左目副映像194A〜194Gが取り出される。ここで、図29の視差情報演算回路191Aにより、右目主映像192A〜192Gと左目副映像194A〜194Gとから視差情報193が演算される。また、奥行き方向の動きベクトル演算191Cは、視差情報193の画面単位での変化から奥行き方向動きベクトル演算値196が抽出され推定視差情報197として生成される。この推定視差情報197自体は、画像のマクロブロック単位であったり画素単位であってもよい。
一方、映像の再生時には、右目主映像192A〜192Gは映像圧縮により符号化され右目主映像の圧縮映像195A〜195Gとなっている。具体的に右目主映像の圧縮映像は、面内圧縮映像のIピクチャ195Aと、面内動きベクトルを用いた時間方向の圧縮を行ったPピクチャ195D及び195Gと、Bピクチャ195B,195C,195E,195Fから構成されている。この右目主映像の圧縮映像は、通常の圧縮映像伸張回路により再生主映像198A〜198Gとして右目映像に再現される。そして、それぞれの再生主映像(右目映像)198A〜198Gと、画面毎の推定視差情報204〜210と、画面毎の差分情報を逆量子化し逆DCT変換した情報とで再生副映像(左目映像)211〜217が復元される。ここで、差分情報からの復元映像部分は、画像の回りこみ等推定視差情報では再現できない部分を補完する役割を担っている。
図29又は図27に示す立体映像記録装置での圧縮映像を用いた映像ストリームは、図31のように示され、あくまでもGOP映像情報単位のデータとして単位化される。これは右目映像が元々GOP映像情報単位で単位化されており、左目の差分圧縮データもこの右目映像を利用する関係で画像の単位化レベルを合わせこむ必要があるからである。ここでは右目映像のGOP168内のGOPヘッダ170において、図25で説明したような立体映像に関する付帯情報が付加される。ただし、左目映像に関し図29に示した推定視差情報197を用いた圧縮情報なのか、図27に示した差分圧縮情報なのか、図24に示した立体映像としての圧縮は行わない方式であるか等の識別情報を図31に示すように3D映像方式の有無85にGOP映像情報か差分情報かの情報219を記述しておく必要がある。また、トランスポートパケットのレベルでストリーム構造を見た場合、図32のように示され、図26と同様にGOP映像データの終端部分はトランスポートパケット内でパディングさせるほか、立体方向の圧縮映像データであっても終端部分はトランスポートパケット内でパディングさせる。なお、上述は右目映像が主映像、左目映像が立体方向に圧縮をかけた副映像としているが、逆であってもまったく問題なく、右目映像が主映像で左目映像が副映像、左目映像が主映像で右映像が副映像と混在した映像ストリームであってもよい。ただし、規格上混在を許可させる場合は、どちらの映像が主映像でどちらが副映像であるかの識別情報の記述が必要となる。
また、左目及び右目の立体映像をもっと簡便に映像ストリーム化することも可能である。例えば、図33に示す立体映像記録装置は、簡便に映像ストリーム化する画像構成処理部である合成回路220を備えている。また、図34は、図33に示す立体映像記録装置における映像ストリームの構造を示したもので、左目又は右目映像のGOP221が1つのGOP映像情報単位となっている。また、図35は、図33に示す立体映像記録装置における映像ストリームのトランスポートパケットレベル階層での構造を示したものである。
ここで、入力される左目及び右目の視差映像は一旦合成回路220に入力され、図33に示すように1つの画面内に縦長の2つの画面として挿入される。この際、各映像の画素は単に映像ラインで間引かれるのではなく、フィルタ処理を施され水平方向に圧縮された後、左目右目映像に合成される。このように各画面は縦長の2枚の左目映像と右目映像とで構成されることになるが、以降は通常の画像圧縮処理の方法を用いてストリーム生成される。この場合でも図34に示す映像ストリームにおいては付帯情報51もしくはGOPヘッダ170内の3D情報領域176において、水平方向に圧縮された映像情報である事が記述され、通常のTVでそのまま再生されないようにする事が必要である。また、図35に示す映像ストリーム構造を採用する場合でも、トランスポートパケットのレベルにおいては図26や図32と同様に、GOP映像情報の終端におけるトランスポートパケットの最終データ183に対しパディングデータ184で情報を埋める処理を行う。なお、本発明では光ディスクに記録された立体映像記録装置や立体映像記録方法について記載したが、記録媒体としてハードディスクであってもまったく同様の効果が得られることはいうまでもない。
(実施の形態4)
次に、本実施の形態4について、図に従い以下に説明する。実施の形態3においては、立体映像記録装置について説明したが、本実施の形態では立体映像再生装置について説明する。図36は、本実施の形態に係る立体映像再生装置のブロック図である。図36に示す立体映像再生装置では、復調訂正回路222と、アドレスヘッダ認識回路223と、光ディスクドライブ部分と映像音声処理部分であるバックエンドとを接続するためのIF(インターフェイス)224と、光ディスクドライブ部分からのデータを一旦蓄えるためのデータバッファ225とを備えている。また、図36に示す立体映像再生装置では、映像音声データ等のストリームを分離するためのシステムデコーダ226と、圧縮映像を伸張するためのMPEG,H264デコーダ227と、オーディオデコーダ228と、字幕表示等のためのOSDデコーダ229と、OSD情報の奥行き生成回路229Aとを備えている。さらに、図36に示す立体映像再生装置では、3D映像処理回路230と、映像にOSD情報をかぶせるためのブレンディング処理回路229Bと、外部との汎用IF231と、右目専用IF232と、左目専用IF233と、バッファ回路234と、バックエンド全体のシステムコントローラ235とを備える。
また、図37は、実施の形態3で示した立体方向の圧縮映像から左目映像をデコードする部分を示したブロック図である。図37では、映像ストリームの視差情報や奥行き動きベクトル情報を抽出するためのシステムデコーダ236と、MPEGやH264等の圧縮映像ストリームをデコードするMPEG、H264デコーダ237と、視差情報238と、動きベクトル情報239と、視差情報演算回路240と、左目映像再現回路241とを備えている。なお、視差情報238、動きベクトル情報239、視差情報演算回路240及び左目映像再現回路241が3D映像処理回路230を構成している。
ここで、図36に示す立体映像再生装置では、まず光ディスクドライブ内の復調訂正回路222よって光ディスク165に記載された映像音声データや付帯データが再生される。この際、サーボ回路162は光ヘッド164からの再生信号を高品位に抽出し続けるように作用し、アドレスヘッダ認識回路223は所定のアドレスの瞬時にアクセスするために作用する。ここで、光ディスクドライブから再生されたデータはIF回路224を介して一旦データバッファ回路225に入力された後、システムデコーダ226に入力される。システムデコーダ226では、映像音声データ等のストリームを分離し、音声情報はオーディオデコーダ228、OSD情報はOSDデコーダ229、映像情報はMPEG,H264デコーダ227に入力される。
なお、OSD情報はOSD奥行き生成回路229Aでシステムデコーダ226から得られる付帯情報により奥行きをもったOSD情報として生成される。また、MPEG,H264デコーダ227でデコードされた映像ストリームは3D映像処理回路230にて3D映像情報として処理され、ブレンディング回路229Bで奥行きをもったOSD映像とブレンディングされ、転送レートが低い場合はHDMI等の汎用IFで出力したり、左目映像を左目専用IF233で、右目映像を右目専用IF232で、それぞれ出力させる事が可能となる。
また、実施の形態3で示したような片側映像が視差情報を用いた圧縮をさらに行っている場合、立体映再生装置における3D映像処理230は図37のように構成される。ここで、システムデコーダ236で抽出した左目の圧縮映像情報である視差情報238と奥行き動きベクトル239を用いて各画素もしくはマクロブロック単位での視差情報演算を視差情報演算回路240で行い、右目映像から左目映像を生成するための変換係数を生成する。この変換係数を用いてMPEG,H264デコーダで生成した右目映像から、左目映像再現回路241にて左目映像を再現する。ここで、圧縮された左目映像が視差情報による圧縮のみであれば視差情報演算回路240の出力に基づく再変換のみであるが、図33に示す立体映像記録装置のようにDCT変換と適応量子化を行った圧縮情報であれば、逆量子化と逆変換回路とを左目映像再現回路241内に内蔵する必要がある。
次に、左目及び右目の立体映像から立体でない2D映像を再現する立体再生装置について説明する。図38(a)は、2D映像を再現する立体再生装置のブロック図である。図38(a)では、視差情報に基づく合成処理回路242を備えている。また、図38(b)は、合成処理回路242で構成される映像を模式的に説明する図であり、左目映像232Aと、右目映像233Aとが合成された映像が2D映像231Aである。ここで、一般的なTV等の表示装置においては、必ずしも3D映像対応であるとは限らず、むしろ2D映像対応である事の方が多い。従って3D映像のみが記載されたメディアを再生する場合、2D映像でも再生できるようにしておく事が望ましい。最も簡単な方法としては、右目映像もしくは左目映像のみを表示させる事で2D映像を再現できる。例えば、TVが2D映像しか対応していない場合は、プレーヤとTVの間でのリンク接続処理において自動検知し、片方の映像のみを常に再生しておく事となる。
しかしながらこの方法では、奥行きが目に近い(飛び出して見える)映像の場合、視差量が大きく、図38(b)に示す左目映像232Aや右目映像233Aのように、左右位置が大きくずれた映像となってしまう問題があった。そのため、左目及び右目映像における視差情報を用いてこれを合成し、2D映像231Aのような中間位置の映像を再現する事で違和感のない2D映像を再現する事ができる。ただし、この場合の画面の両サイドは、視差量が大きいと演算できないため、元の映像が左目映像の場合は左側に広く、右目映像の場合は右側に広く撮影されていないと、映像241Aの部分(画面の両サイド)がカットされたような映像となる。
さらに、実施の形態2で示したように画面の飛び出し量が大きいと目の疲れやびっくりした感じを増大する懸念がある。そのため、飛び出し量を可変できるようにした立体映像再生装置のブロック図を図39(a)に示す。図39(a)では、係数変更視差による左目映像再現回路243と、係数変更視差による右目映像変換処理回路244と、飛び出し量可変のためのユーザインターフェイス245と、視差情報係数変更部246とを備えている。また、図39(b)は、立体映像再生装置の飛び出し量の可変を説明するための図である。さらに、図39(c)は、図39(a)の回路により飛び出し量を変化させた場合の結果を説明する図である。また、図39(d)は、立体映像再生装置を接続した表示装置に表示されている飛び出し量を可変するためのOSDバー246Aを図示している。
図29に示す立体映像記録装置のように片側映像を視差情報により圧縮した方式においては、画素もしくはマクロブロック単位でそのまま飛び出し量と関連している視差情報がリンクされている。そのため、ユーザからの飛び出し量可変指示があった場合、図39(d)のユーザインターフェイス245に、例えばTV画面のOSDバー246Aに示されるようなOSD画面を使って指示を入力させ、視差情報係数変更部246にてどの程度飛び出し度合いを減衰させるのか変換係数を決定する。この変換係数によって視差情報演算回路240での視差演算量を決定し、左目映像であれば係数変更視差による左目映像再現回路243により、右目映像であれば係数変視差情報に基づく画像変換処理回路244により左目映像と右目映像との視差量を、図39(b)に示すよう左目映像126GAと右目映像126GBとが破線から実線となるように小さく変換して表示させる。結果的には、専用IF232,233の出力から得られる立体映像は図39(c)の立体視された三角図形のように飛び出し量が小さく再現される。
また、図39(a)に示す立体映像再生装置では、あくまで映像ストリーム上に視差情報が記録されている場合にこれを用いて飛び出し量の変換を行うものであったが、視差情報がない場合が考えられる。そこで、図40に示す立体映像再生装置では、映像ストリーム上に視差情報が記録されていない場合でも飛び出し量を制御できる構成を示す。図40に示す立体映像再生装置では、左目映像と右目映像とにそれぞれMPEG,H264デコーダ237A,237Bと、視差情報抽出部247と、右目映像の視差変換部248と、左目映像の視差変換部249とを備えている。図40に示す立体映像再生装置では、視差映像抽出部247にて左目映像及び右目映像のデコード映像から、新たに視差情報を検出すればよい。また、この視差情報は図39(a)の場合と同様にユーザインターフェイス245を介し、視差情報係数変更部246を介して新たな視差情報を視差情報演算部240で生成し、右目映像の視差変換部248及び左目映像の視差変換部249に供給される。
なお、本実施の形態では光ディスクに記録された立体映像情報を再生する装置や再生方法について記載したが、記憶媒体としてハードディスクであってもまったく同様の効果が得られることはいうまでもない。
<補足事項>
なお従来、立体(以下、3Dともいう)映像を長時間視聴する場合、焦点方向に目を動かす頻度が増大し、目の疲れや3D酔いのような症状が頻発する事が懸念され、特に奥行き方向の注目点の移動が激しい場合において、3D視聴に支障をきたす場合があった。また、特に字幕等の表示においては、目の焦点を次々と切り替える必要があり、通常の3D映像に対し、さらに目の疲れや3D酔いの症状を増大させる等の懸念があった。
また、立体映像情報の記録において、右目映像と左目映像との視差を利用した立体映像を光ディスク上にファイルする際に、平面(以下、2Dともいう)映像と立体(3D)映像とが混在した映像ストリームに対応できない問題があった。特に、立体映像を再生中の再生装置に表示装置を切り替えたり、新たに接続しようとした場合に、3D表示に必要な情報をリンクして表示装置側に送付できないため、瞬時に表示装置の設定を切り替える事ができない等の問題があった。
また、立体映像情報の記録において、右目映像と左目映像との視差を利用した立体映像を光ディスク上にファイルする際に、放送で実施される立体映像を記録でき、且つ表示装置や再生装置の設定が可能な、画像制御情報が設けられていない問題があった。
また、映画等の配給コンテンツにおいては映画館等の先行視聴ビジネスとメディア配給とをリリース時期を異なるように設定しており、映画配給の状況から視聴可能地域を限定するコードが設けられていた。さらに、配給コンテンツが立体映像の場合、さらに対応表示装置の普及状況にも左右されるため、3D映像と2D映像とによって、さらに視聴可能地域を分ける事が必要となっていた。しかし、従来のシステムではこれに対応していない問題があった。
また、立体映像ストリームにおいて、ストリーム上からコンテンツに関する情報や、著作権に関する情報、3D表示方法に関する情報、OSD表示に関する情報、マルチアングルの情報等を重畳させる事ができないため、再生装置側ではなく表示装置側で機器の設定変更を瞬時に行う事ができない問題があった。
また、視差を利用した3D映像情報においては、通常の2D映像情報と比べて左目の情報と右目の情報とがあり、そのままでは情報量が2倍となるためファイル効率が劣化する等の問題があった。
また、3D映像の再生時において、立体度合いがきつい映像では目の疲労が大きくなるため、コンテンツの立体度合いに応じて、予めユーザに警告を発したり、ユーザの年齢等で視聴制限したりする事ができない問題があった。さらに、3D映像の再生時において、立体度合いがきつい映像では目の疲労が大きくなるため、コンテンツの立体度合いを再生装置側で緩和する処置ができない問題があった。
そこで、本発明は、上記の課題を解決するためになされた発明であり、立体映像の記録、再生をより最適に行うことが可能な立体映像記録方法、立体映像記録媒体、立体映像再生方法、立体映像記録装置、立体映像再生装置を提供することを目的とする。
本願発明によれば、圧縮効率の高い圧縮処理で処理された立体映像データを平面映像再生との互換性を持たせた形で光ディスク上に最適配置することができ、又、これを利用することができる。
1 右目映像、2 左目映像、3,8 表示装置、4 シャッタ、5 映像、6 記録装置、7 メガネ、9,10 偏向板、11 表示光学系、12 表示パネル、13 同期回転部材、14 光源、15〜20 表示デバイス、21 回転ミラー、22 像信号、23 映像制御情報、24,25 映像タイトル、26 記録媒体、146 ADコンバータ、147 動き検出回路、148 DCT変換回路、149 適応量子化回路、150 逆量子化回路、151 可変長符号化回路、152 DCT逆変換回路、153 フレームメモリ、154 バッファメモリ、155 OSDエンコーダ、156 音声エンコーダ、157 フォーマットエンコーダ、158 変調回路、159 LD変調回路、160 アドレスヘッダ認識回路、161 再生アンプ、162 サーボ回路、163 送りモータ、164 光ヘッド、165 光ディスク、166 回転モータ、167 システムコントローラ、191A 視差情報演算回路、191B 逆視差演算処理回路、191C 奥行き方向動き検出回路、191D 推定視差情報生成回路、191E DCT変換回路、191F 適応量子化回路、191G 可変長符号化回路、222 復調訂正回路、223 アドレスヘッダ認識回路、224 インターフェイス回路、225 データバッファ、226,236 システムデコーダ、227,237 MPEG・H264デコーダ、228 オーディオデコーダ、229 OSDデコーダ、229A OSD奥行き生成回路、229B ブレンディング回路、230 3D映像処理回路、231 汎用IF、232,233 専用IF、234 バッファ、235 システムデコーダ、238 視差情報生成回路、239 動きベクトル生成回路、240 視差情報演算回路、241 左目映像再現回路、242,244 視差情報に基づく合成処理回路、243 左目映像再現回路、245A OSDバー、246 視差情報係数変更部、245 ユーザインターフェイス、247 視差情報抽出部、248 右目映像視差変換回路、249 左目映像視差変換回路。

Claims (3)

  1. 映像ストリームを2D再生する際に用いられ、当該映像ストリームを3D再生する際に左目映像または右目映像として用いられる、主映像のデジタル映像ブロックをデコードし、
    前記映像ストリームを3D再生する際に、前記左目映像及び前記右目映像のうち前記主映像とは異なる側の映像として用いられる、前記主映像から予測される副映像のデジタル映像ブロックをデコードし、
    前記映像ストリームを3D再生する際に、3D映像方式を示す情報と、前記3D映像方式を示す情報が前記主映像と前記副映像の差分情報であることを示す場合に前記主映像が前記左目映像及び前記右目映像のどちらに用いられるかを示すデータフラグと、に従って、デコードした前記主映像及び前記副映像を用いて立体映像を再生する映像再生方法。
  2. 映像ストリームを2D再生する際に用いられ、当該映像ストリームを3D再生する際に左目映像または右目映像として用いられる、主映像のデジタル映像ブロックをデコードし、前記映像ストリームを3D再生する際に前記左目映像及び前記右目映像のうち前記主映像とは異なる側の映像として用いられる、前記主映像から予測される映像のデジタル映像ブロックをデコードするデコーダと、
    前記映像ストリームを3D再生する際に、3D映像方式を示す情報と、前記3D映像方式を示す情報が前記主映像と前記副映像の差分情報であることを示す場合に前記主映像が前記左目映像および前記右目映像のどちらに用いられるかを示すデータフラグと、に従って、デコードした前記主映像及び前記副映像を用いて立体映像を再生する再生部と、を備える映像再生装置。
  3. システムコントローラ及びデコーダを備える映像再生装置によって再生される3D映像用の映像ストリームが記録された光ディスクであって、
    前記映像ストリームが2D再生される際に用いられ、前記映像ストリームが3D再生される際に左目映像または右目映像として用いられる、前記システムコントローラによって読み取られ、前記デコーダによってデコードされる、主映像のデジタル映像ブロックと、
    前記映像ストリームが3D再生される際に前記左目映像と前記右目映像のうち前記主映像とは異なる側の映像として用いられる、前記システムコントローラによって読み取られ、前記デコーダによってデコードされる、前記主映像から予測される副映像のデジタル映像ブロックと、
    前記映像再生装置が前記映像ストリームを3D再生する際に、前記システムコントローラによって読み取られる、3D映像方式を示す情報と、
    前記3D映像方式を示す情報が、前記主映像と前記副映像の差分情報であることを示す場合に、前記主映像が前記左目映像及び前記右目映像のどちらに用いられるかを示す、前記システムコントローラによって読み取られる、データフラグと、
    を有することを特徴とする光ディスク。
JP2016071139A 2016-03-31 2016-03-31 映像再生方法、映像再生装置、光ディスク Active JP6109371B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016071139A JP6109371B2 (ja) 2016-03-31 2016-03-31 映像再生方法、映像再生装置、光ディスク

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016071139A JP6109371B2 (ja) 2016-03-31 2016-03-31 映像再生方法、映像再生装置、光ディスク

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2015076762A Division JP6049794B2 (ja) 2015-04-03 2015-04-03 映像再生方法、映像再生装置、光ディスク

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017042459A Division JP6280260B2 (ja) 2017-03-07 2017-03-07 映像再生方法、映像再生装置、光ディスク

Publications (2)

Publication Number Publication Date
JP2016158264A JP2016158264A (ja) 2016-09-01
JP6109371B2 true JP6109371B2 (ja) 2017-04-05

Family

ID=56826910

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016071139A Active JP6109371B2 (ja) 2016-03-31 2016-03-31 映像再生方法、映像再生装置、光ディスク

Country Status (1)

Country Link
JP (1) JP6109371B2 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3497664B2 (ja) * 1996-07-10 2004-02-16 日本放送協会 立体画像符号化装置
JPH10243419A (ja) * 1997-02-26 1998-09-11 Toshiba Corp 立体視画像符号化・復号化方法及び装置
JP2000270347A (ja) * 1999-03-17 2000-09-29 Sharp Corp 記録装置、及び該記録装置を用いた監視システム
WO2004071102A1 (ja) * 2003-01-20 2004-08-19 Sanyo Electric Co,. Ltd. 立体視用映像提供方法及び立体映像表示装置

Also Published As

Publication number Publication date
JP2016158264A (ja) 2016-09-01

Similar Documents

Publication Publication Date Title
US10951876B2 (en) Stereoscopic video reproducing method, stereoscopic video reproducing apparatus and optical disc
JP5274359B2 (ja) 立体映像および音声記録方法、立体映像および音声再生方法、立体映像および音声記録装置、立体映像および音声再生装置、立体映像および音声記録媒体
JP5627860B2 (ja) 立体映像配信システム、立体映像配信方法、立体映像配信装置、立体映像視聴システム、立体映像視聴方法、立体映像視聴装置
TWI517643B (zh) 三維隨時點播的進入點
JP5377589B2 (ja) 再生方法、再生装置、光ディスク
JP6016860B2 (ja) 立体映像配信システム、立体映像配信方法、立体映像配信装置
JP6585199B2 (ja) 映像再生方法及び映像再生装置
JP6280260B2 (ja) 映像再生方法、映像再生装置、光ディスク
JP6109371B2 (ja) 映像再生方法、映像再生装置、光ディスク
JP6732079B2 (ja) 映像再生方法
JP6049794B2 (ja) 映像再生方法、映像再生装置、光ディスク
JP5383833B2 (ja) 映像情報記録方法、映像情報再生方法、映像情報記録装置、映像情報再生装置、光ディスク
JP2014042308A (ja) 映像再生方法、映像再生装置、光ディスク
JP2016015766A (ja) 立体映像配信システム、立体映像配信方法、立体映像配信装置、立体映像視聴システム、立体映像視聴方法、立体映像視聴装置

Legal Events

Date Code Title Description
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20160525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160728

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170307

R150 Certificate of patent or registration of utility model

Ref document number: 6109371

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250