[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6380881B2 - 立体画像表示装置、画像処理装置及び立体画像処理方法 - Google Patents

立体画像表示装置、画像処理装置及び立体画像処理方法 Download PDF

Info

Publication number
JP6380881B2
JP6380881B2 JP2013089533A JP2013089533A JP6380881B2 JP 6380881 B2 JP6380881 B2 JP 6380881B2 JP 2013089533 A JP2013089533 A JP 2013089533A JP 2013089533 A JP2013089533 A JP 2013089533A JP 6380881 B2 JP6380881 B2 JP 6380881B2
Authority
JP
Japan
Prior art keywords
parallax
image
stereoscopic
parallax adjustment
eye
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013089533A
Other languages
English (en)
Other versions
JP2014045474A (ja
Inventor
長谷川 雄史
雄史 長谷川
幸治 重村
幸治 重村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tianma Japan Ltd
Original Assignee
Tianma Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tianma Japan Ltd filed Critical Tianma Japan Ltd
Priority to JP2013089533A priority Critical patent/JP6380881B2/ja
Priority to CN201310325940.3A priority patent/CN103595987B/zh
Priority to EP13178706.1A priority patent/EP2693758A3/en
Priority to US13/955,371 priority patent/US9398290B2/en
Publication of JP2014045474A publication Critical patent/JP2014045474A/ja
Application granted granted Critical
Publication of JP6380881B2 publication Critical patent/JP6380881B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/31Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using parallax barriers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/305Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using lenticular lenses, e.g. arrangements of cylindrical lenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/368Image reproducers using viewer tracking for two or more viewers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/006Pseudo-stereoscopic systems, i.e. systems wherein a stereoscopic effect is obtained without sending different images to the viewer's eyes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Liquid Crystal Display Device Control (AREA)

Description

本発明は、立体画像表示技術、特に観察者が移動した際にも違和感を与えない立体画像に変換する立体画像表示装置等に関する。
近年、立体画像を視聴可能なテレビジョンが一般市場で販売されている。これに伴って立体画像用コンテンツの量も増加しており、立体画像を視聴する環境は整備されつつある。立体画像用テレビジョンは、一般的に観察者が立体画像表示用の眼鏡をかけることにより、左右の眼に視差の異なる画像を投影して観察者へ立体画像を視聴させている。しかし、立体画像表示用の眼鏡をかけることに不快感を持つ観察者は多く、眼鏡が不要である立体画像表示装置が望まれている。また、眼鏡式の立体画像表示装置をモバイル用途として利用する際には、外出先に立体画像表示装置と立体画像表示用の眼鏡とを持ち運ぶ必要があって不便であり、モバイル用途ではなおさら眼鏡が不要な立体画像表示装置が望まれている。
立体画像表示用の眼鏡が不要な立体画像表示装置は、立体画像を投影する空間領域を分割し、分割した空間領域ごとに視差の異なる画像を投影することで、観察者の左右の眼に視差の異なる画像を投影する方式が一般的である。立体画像表示装置の立体表示パネルにレンチキュラレンズやパララックスバリアを備えることで、分割した空間領域ごとに視差の異なる画像を投影している。
これらの方式の立体画像表示装置は、立体画像表示用の眼鏡を装着する必要がなく、煩わしさがない点で優れており、特にモバイル用途での利用が期待されている。しかし、これらの方式では視差の異なる画像は空間的に分離して投影されるため、観察者が正常に立体画像を視認できる空間領域は限定される。観察者が正常に立体画像を視認できる空間領域は、観察者の左眼の位置が左眼用画像の投影される空間領域内にあり、観察者の右眼の位置が左眼用画像の投影される空間領域内にある場合となる。観察者の左右の眼の位置がこの空間領域から外れると、左眼用画像と右眼用画像が重なって見えたり(いわゆる二重像)、奥行き感が逆になった映像が見えたり(いわゆる逆視)するという問題がある。
ここで、立体表示パネルによって分割される空間領域について図を参照し説明する。はじめに、立体表示パネルにパララックスバリアを用いたときの空間領域について説明する。
図64に、パララックスバリア方式の立体画像表示装置において、観察者の左右の眼に視差の異なる画像を投影する光学モデルの一例を示す。図64は、観察者の頭上から見た断面図であり、観察者の両眼(右眼55Rと左眼55L)が表示装置の表示面より最適観察距離ODほど離れた観察面30に位置し、かつ観察者の両眼中心と表示パネルの中心とが一致する位置関係となっている。
画像表示パネル(図示なし)は、マトリックス状に配列された画素となる光変調素子群から構成されており(例えば液晶パネル)、図64には、交互に並ぶ右眼用画素4Rと左眼用画素4Lのうち、画像表示パネル両端と中心との各画素のみを図示している。空間領域を分割して画像を投影する手段として機能するパララックスバリア6は、観察者から見て表示パネルの奥に配置されている。パララックスバリア6は、細い縦縞状の多数のスリット6aが形成されたバリア(遮光板)であり、画像表示パネルの左眼用画素4Lと右眼用画素4Rとが並ぶ方向に対して、バリアの長手方向が直交するように配置されている。パララックスバリアのさらに奥には光源(図示なし:いわゆるバックライト)が設置され、光源から出た光はスリット6aを通過し、画像表示パネル内の画素において強度が変調され観察者に向けて投影される。右眼用画素4Rの投影方向及び左眼用画素4Lの投影方向は、スリット6aの存在により制限される。
ここで、各々のスリット6aから出た光のうち最も近い画素を通る光の軌跡を光線20として図示すると、全ての右眼用画素4Rの投影像が重なる右眼領域70R(右眼用画像の投影される空間領域)と、全ての左眼用画素4Lの投影像が重なる左眼領域70L(左眼用画像の投影される空間領域)とが得られる。右眼領域70Rでは右眼用画素4Rからの投影像しか観察できず、また左眼領域70Lでは左眼用画素4Lからの投影像しか観察できない。そのため、観察者の右眼55Rが右眼領域70R内に位置し、左眼55Lが左眼領域70L内に位置しているとき、左右の眼に視差画像を投影すると観察者は立体画像として視認する。逆にいえば、観察者は、右眼55Rが右眼領域70R内に位置し、かつ左眼55Lが左眼領域70L内に位置しているときに所望の立体画像を観察できる。
図64の表示装置は、観察面30において、右眼領域70R、左眼領域70Lの幅が最大になるように、各右眼用画素4Rと左眼用画素4L(幅P)の距離ODにおける投影像(幅P')が全て重なるように設計されている。この投影像の幅P'は、主にスリット6aと画素との距離h、画素ピッチP、最適観察距離ODにより決定できる。幅P'を広げれば、右眼領域70R及び左眼領域70Lの幅は広がるが、観察者の両眼は各々を任意の位置に置くことは不可能であるので、立体画像を視認できる立体視域は必ずしも広がるわけではない。両眼の間隔をeとすると、幅P'は両眼間隔eと等しくなるように設計することが好ましい。幅P'が両眼間隔eよりも小さな場合には、立体視が行える領域は幅P'に制限される。また、幅P'が両眼間隔eよりも大きな場合においては、両方の眼が右眼領域70R又は左眼領域70Lに位置する領域が増えるだけである。なお、図64にはスリット幅Sが記載されている。
また、図65に、パララックスバリア6が、観察者から見て表示パネルの手前に配置されている場合の光学モデルを示す。観察者の表示パネルの奥に配置されている例と同様に、観察者は最適観察位置ODに位置し、観察面30において、左右各画素(幅P)の投影像(幅P')は重なるように設計されている。各々の画素から出た光のうち最も近いスリット6aを通る光の軌跡を光線20として図示することで、全ての右眼用画素4Rの投影像が重なる右眼領域70Rと、全ての左眼用画素4Lの投影像が重なる左眼領域70Lとが得られる。
次に、パララックスバリアの代わりにレンチキュラレンズを用いたときに分割される空間領域を、図66に示す。図66は、図65においてパララックスバリア6がレンチキュラレンズ3へ代わっただけである。
次に、レンチキュラレンズ方式の光学モデルを用いて、観察者が正常に立体画像を視認できる領域(正視領域)から外れて逆視領域に位置する場合について説明する。図67は、観察者が右に移動したため、右眼55Rが右眼領域70R外に移動して左眼領域72L内に位置し、左眼55Lが左眼領域70L外に移動して右眼領域70R内に位置したときの観察者の頭上から見た断面図である。
このとき、観察者の右眼55Rの位置には、左眼用画素4L及び右眼用画素4Rから出た光の中で、最も近いシリンドリカルレンズ3aの主点(頂点)を通る光線20は届かない。しかしながら、左眼用画素4Lから出た光の中で2番目に近いシリンドリカルレンズ3bの主点(頂点)を通る光に着目し、光線21として図示すると、第2の左眼領域72Lが得られる。つまり、図67においては、観察者は右眼55Rで左眼用画素4Lからの投影像を観察し、左眼55Lで右眼用画素4Rからの投影像を観察することになり、立体画像を観察すると飛び出しと奥行きが反対となり(いわゆる逆視)所望の立体画像を視認できない。ここで、右眼55Rにとっては、右眼領域70Rが正視領域となり、左眼領域70L,72Lが逆視領域となる。左眼55Lにとっては、左眼領域70L,72Lが正視領域となり、右眼領域70Rが逆視領域となる。
次に、レンチキュラレンズ方式の光学モデルを用いて、観察者が正常に立体画像を視認できる領域(正視領域)から外れて3Dクロストーク領域に位置する場合について考察する。図68は、観察者が右に移動したため、右眼55Rが右眼領域70Rと左眼領域72Lとの境目に位置し、左眼55Lが右眼領域70Rと左眼領域70Lとの境目に位置したときの観察者の頭上から見た断面図である。
このとき、観察者の右眼55Rの位置には、右眼用画素4Rから出た光の中で、最も近いシリンドリカルレンズ3aの主点(頂点)を通る光線20と、左眼用画素4Lから出た光の中で2番目に近いシリンドリカルレンズ3bの主点(頂点)を通る光線21との両方が投影される。つまり、図68においては、観察者は右眼55Rで右眼用画素4Rと左眼用画素4Lとの両方からの投影像を観察することになり、立体画像を観察すると右眼用画素4Rと左眼用画素4Lとが重なって二重像となり(いわゆる3Dクロストーク)所望の立体画像を視認できない。ここで、右眼領域70Rと左眼領域72Lとの境目領域並びに右眼領域70Rと左眼領域70Lとの境目領域が、3Dクロストーク領域となる。
以上より、立体画像表示用の眼鏡が不要である立体画像表示装置は、観察者の観察位置によっては二重像や逆視の問題が発生するため、観察者へ違和感を与えてしまい、立体画像表示装置の普及を妨げる原因となっていた。
上記の問題を解決するために、観察者の観察位置を検出し、その位置に応じて、視差のある立体画像と視差の無い平面画像とを切り替えて表示する方法が提案されている(特許文献1、2)。
また、観察者の観察位置を検出し、視差の異なる画像同士を全体的にシフトさせる視差調整処理を実施することで、逆視領域における観察者の負担を軽減する立体画像を表示する方法が提案されている(特許文献3)。
また、観察者の観察位置を検出し、パララックスバリアのバリア位置を変動させることで、3Dクロストークによる二重像や逆視の問題を対策する方法が提案されている(特許文献4、5、6、7、非特許文献1)。その中でも特許文献7では、視差の異なる画像同士の視差調整処理を実施することで、観察者が移動するのに応じて立体画像内のオブジェクトも連動して移動する動視差を表現する方法が提案されている。
また、観察者の観察位置を検出し、観察位置に応じた視点の画像情報に変換して表示することで、通常の画像表示装置においても運動視差を表現する方法が提案されている(特許文献8)。
また、左眼用画像と右眼用画像との輝度差分値が最小になるように、右眼用画像を全体的にシフトさせて視差量を調整し、立体画像を表示することで、3Dクロストークによる二重像の影響を低減させる方法が提案されている(特許文献9)。
また、同じ視差の立体画像コンテンツを表示しても、立体画像表示装置と観察者の観察位置との距離によって、観察者が観察する立体画像コンテンツの視差は変化する。立体画像表示装置と観察者の観察位置との距離が近すぎると、立体画像コンテンツの視差が大きくなり、立体画像を視認できなくなる問題を解決するために、立体画像表示装置と観察者の観察位置との距離に応じて、立体画像コンテンツの視差を調整して立体画像を表示する方法が提案されている(特許文献10)。
また、表示部に対する観察者の観察位置・観察角度を検出し、立体画像表示装置の視域角・視域幅・側面湾曲によるクロストーク量を考慮して、観察角度に応じて画像データの視差を調整し、高品質な立体画像を表示する方法が提案されている(特許文献11)。
国際公開第2010/061689号公報 特開2003−107392号公報 特開2012−010084号公報 特開2000−152285号公報 特開2007−318184号公報 特開2010−014891号公報 特開2012−039469号公報 特開2007−052304号公報 特開2010−200213号公報 特開2012−044308号公報 特開2012−060607号公報
Jung-Min Choi,et al "Autostereoscopic 3D with Wide Viewing Angle using Gyro-Sensor," IDW11 3Dp-7, pp. 291-294
立体画像表示用の眼鏡が不要な裸眼の立体画像表示装置は、観察者の観察位置によっては3Dクロストークによる二重像や逆視の問題が発生するため、観察者へ違和感を与えれしまうだけでなく、低画質の立体画像表示装置の場合には映像酔いや眼精疲労など生理的な不安定感を招く1つの要因となり、裸眼の立体画像表示装置の普及を妨げる原因となっていた。
これらの問題を解決する方法として、特許文献1、2が提案されている。しかし、特許文献1、2は、視差のある立体画像と視差の無い平面画像とを切り替える際に、視野角に対する視差値の微分係数がほぼ無限大となるような、視差値の急激な変化により、観察者へ違和感を与えることに課題を有する。
特許文献3では、視差画像を全体的にシフトさせ、視差調整処理を実施することで、観察者が静止していれば、飛び出し量を押さえて安定感のある立体画像を表示できるという技術が提案されている。しかし、特許文献3の視差調整処理方法では、3Dクロストークによる二重像の問題を解決できないことや、観察者の観察位置の移動速度を考慮していないために、観察者へ違和感を与えること、という課題を有する。
特許文献4、5、6、7及び非特許文献1では、パララックスバリアのバリア位置を変動させることで、3Dクロストークによる二重像や逆視の問題を対策できるという技術が提案されている。しかし、いずれの文献でも、バリア位置を変動させるバリア駆動装置が必要となって装置コストが増大すること、パララックスバリア方式にしか適用できず消費電力が増大すること、という課題を有する。また、特許文献7では、視差調整処理によって動視差を表現する方法が提案されているが、3Dクロストークによる二重像の問題は解決できない。
特許文献8では、観察位置に応じた視点の画像情報に変換して表示することで、運動視差を表現するという技術が提案されている。しかし、特許文献8の画像表示方法は、両眼視差による立体画像を表示する方法を考慮していないため、両眼視差がある立体画像コンテンツを表示できないという課題を有する(3Dクロストークによる二重像の問題も考慮されていない)。
特許文献9では、右眼用画像を全体的にシフトさせて視差量を調整し、立体画像を表示することで、3Dクロストークによる二重像の影響を低減させる方法が提案されている。しかし、右眼用画像を全体的にシフトさせて立体画像を表示すると、一部の画像範囲で本来の立体画像コンテンツとは異なる視差表現がされる、という課題を有する(例えば、飛び出し表示される画像範囲が画像の全体的なシフト処理によって奥行き表示に変更される可能性もある。)。また、特許文献9では、観察者の観測位置を使用しておらず、常に画像シフトによる視差調整処理が実施されてしまうため、観察者の観察位置が正視領域であっても、魅力ある立体画像コンテンツが表示できないという課題を有する。
特許文献10では、立体画像表示装置と観察者の観察位置との距離に応じて、立体画像コンテンツを視差調整処理する方法が提案されている。しかし、特許文献10では、レンチキュラレンズやパララックスバリアを使用して右眼用画像と左眼用画像とを空間的に分離して投影する裸眼式の立体画像表示装置において出現する3Dクロストークによる二重像の影響を軽減する視差調整量の算出方法が考慮されていないため、3Dクロストークによる二重像の問題は解決できないという課題を有する。
特許文献11では、視域角・視域幅・クロストーク量の変化に応じた視野調整方法が提案されているが、具体的な処理方法として、視域角・視域幅の変化に応じた視野調整方法だけしか記載されておらず、クロストーク量の変化に応じた視差調整方法が記載されていないと同時に、上記した正視領域と逆視領域と3Dクロストーク領域に関する点を考慮していない。このため、特許文献11に記載された視差調整方法では、観察角度θが十分小さく側面湾曲が発生してない領域においても出現する上記3Dクロストーク領域における2重像の影響を軽減できないという課題を有する。また、特許文献11における視差調整処理では、視差値が負の値とならないため、逆視が発生しても対策できないという課題を有する。また、特許文献11における視差調整処理では、観察位置の移動速度を考慮していないため、観察位置が速く移動すると、視差値が急激に変化し、観察者へ違和感を与える立体画像を表示するという課題を有する。
特許文献1乃至10及び非特許文献1の全ての文献において、立体画像表示装置の立体表示パネルの視野角に対する表示特性を含むデバイス特性データを参照し、立体画像コンテンツの視差調整処理を実施して、3Dクロストークによる二重像や逆視の問題を解決する技術は提案されていない。
そこで、本発明は、上述した課題を解決し、バリア駆動装置が無い立体画像表示装置であっても、視差値の急激な変化による違和感を与えずに、3Dクロストークによる二重像や逆視の問題を解決して、観察者の観察位置が移動しても観察者へ違和感を与えない、立体画像表示装置等を提供することを目的とする。
本発明に係る立体画像表示装置は、
少なくとも2つの視点の異なる方向に光線を振り分ける光学手段を有し、前記光線を振り分ける方向を第1の方向と定義した場合に、
観察者の右眼に右眼用画像が左眼に左眼用画像がそれぞれ投影されることにより立体画像を表示する正視領域と、
前記正視領域から前記第1の方向に移動した位置で前記右眼に左眼用画像が前記左眼に右眼用画像がそれぞれ投影される逆視領域と、
前記第1の方向における前記正視領域と前記逆視領域との間で前記右眼及び前記左眼の一方又は両方に右眼用画像及び左眼用画像が投影される3Dクロストーク領域と、
が存在する立体表示パネル部を備えるとともに、
前記観察者の観察位置を計測する観察者位置計測部と、
この観察位置に対する前記立体表示パネル部の相対位置を算出する相対位置算出部と、
この相対位置に対する前記立体表示パネル部の表示特性を含むデバイス特性データを保存するデバイス特性データ保管部と、
画像データを保存又は受信する画像データ保管部と、
前記相対位置に応じて立体画像表示に適した視差調整量を前記デバイス特性データから算出する視差調整量算出部と、
この視差調整量に従って前記画像データのうち少なくとも前記3Dクロストーク領域に対応する範囲に対して視差調整処理を実施する視差調整処理部と、
を備えたものである。
本発明に係る画像処理装置は、
少なくとも2つの視点に異なる方向に光線を振り分ける光学手段を有し、前記光線を振り分ける方向を第1の方向と定義した場合に、
観察者の右眼に右眼用画像が左眼に左眼用画像がそれぞれ投影されることにより立体画像を表示する正視領域と、
前記正視領域から第1の方向に移動した位置で前記右眼に左眼用画像が前記左眼に右眼用画像がそれぞれ投影される逆視領域と、
前記第1の方向における前記正視領域と前記逆視領域との間で前記右眼及び前記左眼の一方又は両方に右眼用画像及び左眼用画像が投影される3Dクロストーク領域と、
が存在する立体表示パネルへ画像データを出力する画像処理装置において、
前記観察者の観察位置を計測する観察者位置計測部と、
この観察位置に対する前記立体表示パネルの相対位置を算出する相対位置算出部と、
前記相対位置に対する表示特性を含むデバイス特性データを保存するデバイス特性データ保管部と、
画像データを受信する画像データ受信部と、
前記相対位置に応じて立体画像表示に適した視差調整量を前記デバイス特性データから算出する視差調整量算出部と、
この視差調整量に従って前記画像データのうち少なくとも前記3Dクロストーク領域に対応する範囲に対して視差調整処理を実施する視差調整処理部と、
前記視差調整処理された前記画像データを出力する画像データ送信部と、
を備えたものである。
本発明に係る立体画像処理方法は、
少なくとも2つの視点に異なる方向に光線を振り分ける光学手段を有し、前記光線を振り分ける方向を第1の方向と定義した場合に、
観察者の右眼に右眼用画像が左眼に左眼用画像がそれぞれ投影されることにより立体画像を表示する正視領域と、
前記正視領域から第1の方向に移動した位置で前記右眼に左眼用画像が前記左眼に右眼用画像がそれぞれ投影される逆視領域と、
前記第1の方向における前記正視領域と前記逆視領域との間で前記右眼及び前記左眼の一方又は両方に右眼用画像及び左眼用画像が投影される3Dクロストーク領域と、
が存在する立体表示パネル、
を用いた立体画像処理方法において、
前記観察者の観察位置を計測し、
この観察位置に対する前記立体表示パネルの相対位置を算出し、
前記立体表示パネルの前記相対位置に対する表示特性を含むデバイス特性データを取得し、
前記相対位置に応じて立体画像表示に適した視差調整量を前記デバイス特性データから算出し、
画像データを取得し、
前記視差調整量に従って前記画像データのうち少なくとも前記3Dクロストーク領域に対応する範囲に対して視差調整処理を実施し、
前記視差調整処理をされた前記画像データを前記立体表示パネルへ出力する、
ことを特徴とする。
本発明によれば、観察者の観察位置が移動しても、視差値の急激な変化による違和感を与えずに、3Dクロストークによる二重像や逆視の問題を解決して、違和感を与えない立体画像表示装置等を提供できる効果がある。
実施形態1の立体画像表示装置の構成図 立体画像表示装置の外観図 観察者の観測位置と立体表示パネルとの相対位置の座標系を示す図 立体画像表示装置の3Dクロストーク特性データを示す図 3Dクロストーク特性データと光学モデルとの関係図 3Dクロストーク特性データと光学モデルとの関係図 光学モデルの拡大図 正視領域・逆視領域・3Dクロストーク領域の領域幅と視野角の関係図 視野角に対する視差許容値を示す図 3Dクロストーク量に対する各種値の関係表を示す図 視野角に対する視差許容値を示す図 立体画像表示装置の3Dクロストーク特性データを示す図 視野角に対する視差許容値を示す図 立体画像表示装置の3Dクロストーク特性データを示す図 視野角に対する視差許容値を示す図 画像データ保管部内に保管される画像データの図 視差画像と視差値の関係図 視差値とLR画像の関係図 画像データ保管部内に保管される画像データの図 視野角に対する視差許容値を示す図 視野角に対するコンテンツの視差最大値を示す図 視野角に対する視差調整処理後の視差最大値を示す図 視差調整量により変更された視差画像データ群の図 画素移動によって生成したR'画像の図 立体画像処理方法のフローチャート図 立体画像表示装置の外観図 画像処理装置の構成図 8視点での光学モデル図 4視点での光学モデル図
実施形態2の立体画像表示装置の構成図 視差変化量の許容値を示す図 視野角に対する視差許容値を示す図 視野角に対する視差許容値を示す図 実施形態1と実施形態2との視差許容値の比較表を示す図 視野角に対する視差許容値を示す図 視野角に対する視差許容値を示す図 視野角に対するコンテンツの視差最大値を示す図 視野角に対する視差調整処理後の視差最大値を示す図 立体画像処理方法のフローチャート図
実施形態3の立体画像表示装置の構成図 立体画像表示装置の3Dクロストーク特性データを示す図 視野角に対する視差許容値を示す図 視野角に対するコンテンツの視差最大値を示す図 視野角に対する視差調整処理後の視差最大値を示す図 立体画像処理方法のフローチャート図
実施形態4の立体画像表示装置の構成図 相対位置における二重像が現れる画像範囲を示す図 視差調整処理の実施判定表を示す図 観察者の右眼・左眼に投影される画像表示状態を示す図 立体画像コンテンツの表示状態を示す図 観察者の右眼・左眼に投影される画像表示状態を示す図 画像表示状態と3Dクロストーク特性データの関係図 立体画像処理方法のフローチャート図
実施形態5の立体画像表示装置の構成図 手の指を広げることにより視差を増加させるジェスチャ操作を示す図 入力操作に応じた立体画像コンテンツの視差最大値を示す図 入力操作の通知画面の図 立体表示パネル上に表示された通知画面の図 立体表示パネル上に表示された通知画面の図 立体表示パネル上に表示された通知画面の図 立体画像処理方法のフローチャート図
実施形態6の立体画像表示装置の構成図 温度低下による光学モデルの変化を示す図 温度上昇による光学モデルの変化を示す図 低温時の3Dクロストーク特性データを示す図 温度低下による光学モデルの変化を示す図 低温時の光学モデルの拡大図を示す図 低温時の正視領域・逆視領域・3Dクロストーク領域の領域幅と視野角の関係図 立体画像処理方法のフローチャート図
パララックスバリアの光学モデル図 パララックスバリアの光学モデル図 レンチキュラレンズの光学モデル図 逆視領域を説明する光学モデル図 3Dクロストーク領域を説明する光学モデル図
実施形態7の立体画像表示装置の構成図 視野角に対する視差許容値を示す図 3Dクロストーク量に対する各種値の関係表を示す図 視野角に対する視差許容値を示す図 視差値の変化の時間経過を示す図 立体画像処理方法のフローチャート図
実施形態8の立体画像表示装置の構成図 視野角に対する仮想的なカメラの視点位置を示す図 立体画像コンテンツと仮想的なカメラの視点位置との概念図 立体画像表示装置と視野角との概念図 視野角に対する仮想的なカメラの視点位置を示す図 視野角に対する視差許容値を示す図 視野角に対する仮想的なカメラの視点位置の概念図 視野角に対する仮想的なカメラの視点位置の概念図 視野角に対する4視点の仮想的なカメラの視点位置を示す図 視野角に対する4視点の仮想的なカメラの視点位置を示す図 視野角に対する4視点の仮想的なカメラの視点位置を示す図 視野角に対する4視点の仮想的なカメラの視点位置を示す図 立体画像処理方法のフローチャート図 視野角に対する仮想的なカメラの視点位置を示す図 視野角に対する視差許容値を示す図 視野角に対する仮想的なカメラの視点位置を示す図 視野角に対する仮想的なカメラの視点位置を示す図
以下、添付図面を参照しながら、本発明を実施するための形態(以下「実施形態」という。)について説明する。
[実施形態1]
実施形態1の立体画像表示装置の構成について下記に説明する。図1は立体画像表示装置11の構成図である。立体画像表示装置11は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、視差調整量算出部104と、画像データ保管部105と、視差調整処理部106と、立体表示パネル部107と、を備えるものである。また、相対位置算出部102、視差調整量算出部104及び視差調整処理部106を統合した処理部を、画像処理部151とする。
図2に立体画像表示装置11の外観図を示す。図3に、観察者10の観測位置と立体表示パネル107aとの相対位置の座標系を示す。図2では、立体表示パネル部107の一部としての立体表示パネル107a、観察者位置計測部101の一部としてのカメラ101aを示している。そして、立体画像表示装置11では、立体表示パネル107aの上部にカメラ101aが設置されており、カメラ101aによって観察者10を撮影することで観察者10の観察位置が計測される。また、カメラ101aと立体表示パネル107aとの相対位置は固定されているため、カメラ101aで観察者10を撮影することで、観察者10の観察位置と立体表示パネル107aとの相対的な位置を算出できる。
立体表示パネル107aは、少なくとも第1視点用の画像を表示するサブ画素及び第2視点用の画像を表示するサブ画素を含む画素がマトリクス状に複数配列された電気光学手段としての表示パネルと、前記それぞれの画像を所定の異なる方向に分離可能な光線分離手段としてのレンチキュラレンズから構成される。一例として、電気光学手段としての表示パネルは液晶方式、有機EL方式、プラズマ方式などを用いることができ、光線分離手段としてレンチキュラレンズ、パララックスバリア、液晶レンズなどを用いることができる。本実施形態では表示パネル2とレンチキュラレンズ3との組合せを用いて説明することとする(図5参照)。なお、特許請求の範囲に記載の「第1の方向」の一例が図3におけるX軸方向であり、同じく「光学手段」の一例が前述の光線分離手段である。
また、立体表示パネル107aの後方部には、画像処理部151、デバイス特性データ保管部103及び画像データ保管部105の各機能を実現する計算機器150が設置されている。以下に、立体画像表示装置11に含まれる各部の機能を説明する。
観察者位置計測部101は、立体表示パネル107aに表示される立体画像を観察している観察者10の位置を計測する機能を有する。観察者位置の計測にあたっては、立体表示パネル107aの上部に設置されたカメラ101aで観察者10を撮影することで、観察者10の右眼と左眼の位置を計測する。
観察者10の観察位置の計測はカメラ101aの撮像面に水平方向(X軸,Y軸)の位置だけでなく、カメラ101aに対して奥行き方向(Z軸)の位置も計測する。カメラ101aに対して奥行き方向の距離を計測する方式は、下記のように多数提案されている。
その一つ目は、光パタン投影方式であり、カメラとは異なる視点から観察者へ赤外線等の光パタンを投影して、その変位量から三角測量の原理によって奥行き距離を計測するものである。この光パタン投影方式を採用した機器として、近年、家庭用ゲーム機やPC周辺機器として製品化されている。
その二つ目は、TOF(Time of Flight)方式であり、カメラから観察者へ近赤外線の正弦波光を照射し、観察者から反射された正弦波光がカメラまでに到達する光飛行の時間差から、奥行き距離を計測するものである。近年、TOFセンサの性能向上は目覚しく、小型で安価なカメラにより奥行き距離が計測できるようになりつつある。
その三つ目は、多眼カメラ方式であり、異なる視点にカメラを2台以上設置する。奥行き距離の計測は、任意視点の画像から観察者の特徴点を検出し、異なる視点の画像から特徴点に対応する点を探索して三角測量の原理から奥行き距離を算出する。
その四つ目は、レンズの焦点(Focus)情報を利用した方式であり、被写界深度の異なる光学系レンズを利用して様々な焦点で撮影した多焦点画像群から観察者の奥行き距離を計測する。
以上、奥行き距離の計測方式を四つ挙げたが、本実施形態1はいずれの方式も採用できる。また、これ以外の計測方式でも良く、例えば、観察者の顔のサイズを予め保存しておき、カメラで撮影された観察者の顔画像サイズと比較することで奥行き距離を計測しても良い。
撮影画像から観察者の顔を検出する処理は、予め顔画像の特徴量(目や鼻、口、顎など)からテンプレートデータを生成しておき、撮影画像とテンプレートデータとをマッチングすることで観察者の顔を検出する。テンプレートデータは、観察者の顔画像から、サポートベクターマシン(SVM)やベクトル量子化などの機械学習手法を利用して生成する。これらの顔検出機能は汎用のソフトウェアを利用することも可能である。顔検出機能ソフトウェアは、奥行き情報を使用することで、顔の向きを考慮した顔検出処理も実現できるため、検出精度が更に向上する。
以上の処理により、観察者の顔を検出して、右眼・左眼の位置を計測する。その他にカメラを利用せずに、加速度センサやジャイロセンサを利用しても良い。予め立体画像表示装置に各種のセンサを設置しておき、センサから得られる位置情報を参照することで、観察者の観察位置を計測する。
相対位置算出部102は、立体表示パネル107aから観察者10の観察位置までの相対位置を算出する機能を有する。図3に示すように、立体表示パネル107aの中心を原点、立体表示パネル面上の横方向をX軸、立体表示パネル面上の縦方向をY軸、立体表示パネル面上に垂直な方向をZ軸とおき、観察者10の観察位置までの相対位置を算出する。この相対位置は、観察者位置計測部101で計測された観察者10の右眼・左眼の位置から、カメラ101aと立体表示パネル107aまでの距離を引算して算出される。視野角θは相対位置(X軸、Y軸、Z軸の座標値)から算出する。視野角θとX軸、Y軸、Z軸の座標値との関係式は式(1)となるので、視野角θは式(2)より算出される。
tanθ=X/Z 式(1)
θ=tan−1(X/Z) 式(2)
デバイス特性データ保管部103は、立体表示パネル107aの視野角に対する3Dクロストーク特性データを保存する機能を有する。図4に3Dクロストーク特性データの一例を示す。3Dクロストーク特性データの横軸は視野角θを、縦軸は3Dクロストーク量を表す。3Dクロストーク量は、右眼用画像(R画像)に左眼用画像(L画像)が混合する割合を表す(逆の混合も表す:L画像にR画像が混合する割合)。3Dクロストーク特性データは、立体表示パネル107aのデバイス特性によって異なる値をとり、立体表示パネル107aの設計条件及び製造条件に基づき算出することが可能である。また、3Dクロストーク用の評価装置で立体表示パネル107aを計測しても、3Dクロストーク特性データを得ることができる。この場合、立体表示パネル107aの中心であるX軸原点だけでなく(図3の座標系参照)、パネル外側の所定の±X(後述の図5における距離WP)のポイントで算出又は測定することが望ましい。本明細書では以降、3Dクロストーク特性データの図面を活用して説明するが、便宜上X軸原点の図面をベースに説明することとする。
立体画像表示装置11では、3Dクロストーク特性データに依存して右眼領域・左眼領域・3Dクロストーク領域が決定される。一例として、観察者10が立体画像を正常に視認できる3Dクロストーク量の閾値をβ以下と定義すれば、視野角θ〜θの領域が右眼領域、視野角θ〜θの領域が3Dクロストーク領域、視野角θ〜θの領域が左眼領域となる。
この場合の立体画像表示装置11における観察者10の左右両眼に右眼用画像と左眼用画像を投影する光学モデルを、図5に示す。図5では、視野角θ〜θの部分が3Dクロストーク領域となるため、図68と比較すると右眼領域70Rと左眼領域70Lの領域は狭まる。右眼55Rにとっては、右眼領域70Rが正視領域であり、左眼領域70L,72Lが逆視領域で、それ以外の領域が3Dクロストーク領域となる。なお、図5には、最適観察距離OD、遠隔観察距離FD、近接観察距離ND、シリンドリカルレンズ幅L、画素の幅P、立体表示パネルの中心画素の位置から両端画素の位置までの幅WPなどが記載されている。
その他の一例として、上記3Dクロストーク量の閾値をβ以下と定義すれば、図4より視野角θ〜θの領域が3Dクロストーク領域となり、それ以外の視野角は右眼領域・左眼領域となる。この場合の立体画像表示装置11の光学モデルを図6に示す。図6では、視野角θ〜θの部分が3Dクロストーク領域となるため、図5よりも一段と右眼領域70R及び左眼領域70Lは狭まる。右眼55Rにとっては、図5と同様に右眼領域70Rが正視領域であり、左眼領域70L,72Lが逆視領域で、それ以外の領域が3Dクロストーク領域となる。以上より、3Dクロストーク特性データに依存して、正視領域・逆視領域・3Dクロストーク領域が決定されることを示した。
なお、3Dクロストーク量の閾値については、立体画像表示装置11の光学測定と主観評価とから決定することができる。3Dクロストークを光学的に測定できる装置としては、例えばコノスコープ方式やゴニオメータ方式やフーリエ方式など各種あり、これらの方式を備えた測定装置で視野角度に対する輝度分布を測定し、以下の式(3)より3Dクロストークを算出することができる。
3DCT(θ)=(Y(LBRW)−Y(LBRB))/(Y(LWRB)−Y(LBRB)) 式(3)
ここで、Y(LBRW)は左眼画像を黒、右眼画像を白としたときの輝度、Y(LBRB)は左眼画像を黒、右眼画像を黒としたときの輝度、Y(LWRB)は左眼画像を白、右眼画像を黒としたときの輝度、である。
上記したいずれの測定装置で測定しても定性的結果には大きな差は見られないが、定量的な数値については測定方式や装置仕様によって異なる。一般的な測定結果と主観的な立体視域の評価結果とを照合すると、3Dクロストークが概ね10%以下であれば立体視は可能であり、この値を上記3Dクロストーク量の閾値として用いることができる。
図7は、図6に示す領域80の拡大図である。右眼領域70R・左眼領域72L・3Dクロストーク領域の領域幅は、Z軸上の任意の値であるZとZとにおいて異なる。正視領域・逆視領域・3Dクロストーク領域の領域幅は、Z軸の位置に依存して変化する。
また、図8に、Z軸上の任意の値Zにおける正視領域・逆視領域・3Dクロストーク領域の領域幅と視野角の関係図を示す。右眼55Rを基準にすると、視野角θ〜θの領域が逆視領域に、θ〜θの領域が3Dクロストーク領域に、θ〜θの領域が正視領域となる。また、図4より、視野角θの位置は最も3Dクロストーク量が大きくなり、視野角θ〜θの領域は3Dクロストーク量がβ以上の領域となる。
視差調整量算出部104は、前記デバイス特性データに基づき、視野角に対して立体画像表示に最適な視差調整量を算出する機能を有する。本実施形態1の視差調整量算出部104は、立体画像が表示可能である視差の限界値(視差許容値uth)を算出する。図9に、立体画像表示装置11のデバイス特性データ(図4参照)に基づき、観察者10の観察位置がZ上の位置にある場合の視野角θに対する視差許容値uthを算出した結果を示す。ここで、uthは視野角θの関数uth(θ)であるが、便宜上uthとする。図9は、3Dクロストーク量の閾値をβ(図4参照)とした場合において、逆視領域θ〜θ、3Dクロストーク領域θ〜θ及び正視領域θ〜θに対して、視差許容値uthが異なる値をとることを示している。
図10は、この3Dクロストーク量と、二重像の発生、立体画像への影響、視野角範囲、領域名(逆視領域、3Dクロストーク領域、正視領域)、及び、視差許容値の絶対値|uth|との関係を示した表である。以下、図9と図10を用いて正視領域θ〜θ、逆視領域θ〜θ、3Dクロストーク領域θ〜θの各領域に対する視差許容値uthについて説明する。
正視領域θ〜θにおける視差許容値uthには、右眼領域に投影される右眼用画像(R画像)が観察者の右眼へ正常に投影され、左眼領域に投影される左眼用画像(L画像)が観察者の左眼へ正常に投影された場合に、観察者がL画像とR画像(LR画像)を融像すること(脳の中で右眼・左眼で観察したLR画像を融合して、一つの立体画像として視認すること)が可能であり、観察者に違和感を与えない安全性を保った視差の最大値γを設定する。この視差の最大値γに関しては、様々な団体から安全基準値が提案されている。一例としては、3Dコンソーシアムの3DC安全ガイドラインに記載されている快適視差範囲の最大値を、視差の最大値γとして正視領域の視差許容値uthに代入しても良い。
逆視領域θ〜θにおける視差許容値uthは、逆視対策用に視差値を反転させるため、正視領域の視差許容値uthを反転させた値−γを逆視領域の視差許容値uthに代入する。3Dクロストーク領域θ〜θにおいては、3Dクロストーク量に応じて視差許容値|uth|が細分化されている。3Dクロストーク量がβ〜β(視野角範囲θ〜θ)の範囲では、軽度な二重像が発生し、観察者へ違和感を与えるものの立体画像は視認可能である。これに対して、3Dクロストーク量がβ以上(視野角範囲θ〜θ)の範囲では、二重像の影響が増大するため、観察者が立体画像を視認することはほぼ不可能となる。したがって、二重像の影響の大きさに従い、視差許容値の設定を行うことが望ましい。
具体的には、図4のデバイス特性データから3Dクロストーク量を参照して、その量に適した視差許容値uthを設定する。図9及び図10の視差許容値uthは、3Dクロストーク量が閾値β以上の場合では視差許容値の絶対値|uth|をγ(正視領域の視差許容値uth)以下とし、3Dクロストーク量が閾値β以上の場合では視差許容値の絶対値|uth|を任意に定めた視差値γ以下とする条件で算出している。なお、視差許容値uthの算出条件となる視差値γは、観察者の好みに応じて任意に設定することもでき、また観察者に対する主観評価によって特定することもできる。観察者に対する主観評価の実験結果は、様々な文献に示されており、これらの文献から視差値γを特定しても良い。
なお、視差許容値uthの算出条件となる視差値γは、多くの観察者に対する主観評価によって特定することが一般的であるが、観察者の好みに応じて任意に設定することもできる。例えば、観察者が特定されるモバイル機器等の立体画像表示装置では、観察者が初めてモバイル機器を利用する際に、視差値γを観察者の好みに応じて設定できるようにしても良い。視差値γが小さければ、3Dクロストークによる二重像の影響は軽減されるが、立体画像コンテンツの立体感は低下する。また反対に、視差値γが大きいと、立体画像コンテンツの立体感は保たれるが、3Dクロストークによる二重像の影響は軽減されない。したがって、視差値γを特定する主観評価実験では、評価者へ様々な種類の立体画像コンテンツ(視差値、コントラスト、明るさ、色味の空間周波数の異なる立体画像コンテンツ)を提示して、主観評価によって得られる結果を集計することが望ましい。また、立体画像表示の安全性を高めるために、視差値γを主観評価の集計値よりも若干大きな値に設定しても良い。
また、3Dクロストーク領域の視差許容値uthは、視野角θにおける視差値γの点と、視野角θにおける視差値γの点と、3Dクロストーク領域の中心位置となる視野角θにおける視差値0の点と、視野角θにおける視差値−γの点と、視野角θにおける視差値−γの点とを通るように線で補間して繋ぐことで、各々の視野角に対する視差許容値uthを算出する。点群同士を補間する線については、図9のように2次補間(多項式補間)を使用しても良いし、図11のように線形補完を使用しても良い。
図9、図10及び図11では、視差許容値uthの算出条件として3Dクロストーク量の閾値β,βを設定した例を示したが、3Dクロストーク量の閾値は2つだけに限定されずに、より多くの閾値を設定しても良い。図12及び図13に、3Dクロストーク量の閾値β,βに新たな閾値βを追加した例を示す。図12は、3Dクロストーク特性データを示し、閾値β,βの間に閾値βを追加している。ここで、閾値βに対応する3Dクロストーク特性データの視野角はθ,θとなる。図13は、視野角に対する視差許容値uthを示し、視差許容値uthの算出条件に視野角θ,θにおける視差値γが追加される。そして、新たに追加された視差値γの点を加えて、点群同士を線で補間して繋ぐことで、各々の視野角に対する視差許容値uthを算出する。
その他の例として、図14及び図15に、図4で示した3Dクロストーク量の閾値をβからβへ変更した例を示す。図14は、3Dクロストーク特性データを示し、閾値βに対応する3Dクロストーク特性データの視野角はθとなる。図15は、視野角に対する視差許容値uthを示し、視差許容値uthの算出条件は視野角θにおける視差値0となる。これにより、視野角θにおける視差値γの点と、視野角θにおける視差値0の点と、視野角θにおける視差値−γの点とを通るように線で補間して繋ぐと、視差許容値uthは図15のように直線となる。
本実施形態1として、視野角に対する視差許容値の例を図9、図11、図13及び図15に示したが、いずれの例の場合においても視野角に対する視差許容値の微分係数は有限の値となる。
また、上記の例では観察者の観察位置がZ上の位置にある場合の視差許容値uthの算出方法を示したが、上記の算出方法は観察者の観察位置がZ上の位置にある場合のみに限定されるものではなく、観察者の観察位置がその他の位置(例えばZ)にある場合についても同様の算出方法が使用できる。また、視差調整量算出部104は、最適な視差調整量を算出する機能を有する。ここで、最適な視差調整量とは、視差許容値uthの条件と立体画像コンテンツが持つ視差最大値uの条件(後述する視差調整処理部106の説明参照)とを満たす視差の最大値に、立体画像コンテンツの視差最大値を一致させる視差調整量である。
画像データ保管部105は、画像データを保存又は受信する機能を有する。図16に、画像データ保管部105に保管する画像データの一例を示す。図16には、立体画像コンテンツの画像データとしてL画像、R画像、視差画像が保管されている。L画像は左眼領域に投影される左眼用画像であり、R画像は右眼領域に投影される右眼用画像である。LR画像の各画素の値には輝度値(RGB値)が保持されており、このLR画像が立体表示パネル上に表示される。視差画像は、各画素の値がLR画像間の視差値を表す画像である。
図17に視差画像と視差値との関係図を示す。図17の右図は、視差画像(図17の左図)からY軸上の任意値Yの画素列を取り出し、その画素列に対する視差値uを表した図である。ここで、視差値はL画像を基準にとり、L画像の画素値に対応するR画像の画素値の位置ずれ量を示す。なお、図17において、視差画像の画素は白色が0であり、黒色になるにつれて値が高くなる。
具体例として、図18に視差値とLR画像との関係図を示す。視差画像の位置(x,y)の視差値は、L画像の位置(x,y)と、これに対応するR画像の画素値の位置(x,y)との差分値となる(式(4))。
視差値u=x−x 式(4)
上記の例では、画像データ保管部105にL画像、R画像、視差画像を保管した例を示したが、視差画像の代わりにDepth画像を保管しても良い。Depth画像は各ピクセルの値が立体画像コンテンツの奥行き距離を表す画像となる。また、画像データ保管部105にL画像、R画像しか保管されていない場合には、LR画像から視差値を算出して視差画像を生成する。また、画像データ保管部105には、予めに様々な視差値を持つLR画像を複数枚保管しておいても良い。
図19に、画像データ保管部105へ様々な視差値を持つLR画像群を保管した一例を示す。図19の最上部にあるLR画像は、立体画像コンテンツが元々保持していた視差値を持つLR画像を表す。図19の最下部にあるLR画像は、視差値が0であるLR画像(L画像とR画像は同じ画像であり、平面画像となる)を表す。図19の中間部分にあるLR画像群は、任意の視差値に調整されたLR画像群である。画像データ保管部105へ予めに様々な視差値を持つLR画像群を保管することで、視差調整処理時に任意の視差値を持つLR画像を生成する処理が省略できる。
視差調整処理部106は、視差調整量算出部104で算出した視差許容値uthに従って画像データの視差調整処理を実施する機能を有する。図20に、視差調整処理により視野角に対する立体画像コンテンツが持つ視差の最大値uを算出した結果を示す。視差調整処理では、視差調整処理後に立体画像コンテンツが持つ視差最大値uを算出するため、視差調整量算出部104で算出した視差許容値uthの条件(図20A)と、画像データ保管部に保管された立体画像コンテンツが持つ視差最大値uの条件(図20B)との、両条件(式(5))を満たす視差最大値u(図20C)を算出する。
(u<=uth) AND (u<=u) 式(5)
視差調整処理後の視差最大値uが立体画像コンテンツの視差最大値uよりも大きい場合には、立体画像コンテンツの視差値を変化させずに、そのままのLR画像を立体表示パネル部107に送信する。視差調整処理後の視差最大値uが立体画像コンテンツの視差最大値uよりも小さい場合には、式(6)より視差調整量κ(uとuの比)を算出し、立体画像コンテンツの視差値を変更させてから、LR画像を立体表示パネル部107に送信する。
=κu 式(6)
なお、上記の例では、視差調整量の算出処理を視差調整処理部106が実施するように記載したが、視差調整量の算出処理は視差調整量算出部104が実施しても良い。ただし、視差調整量算出部104は、画像データ保管部105より立体画像コンテンツの視差最大値uを取得する必要がある。
算出した視差調整量κより、立体画像コンテンツの視差値を変更する処理の一例を記載する。視差値の変更処理では、初めに立体画像コンテンツの視差画像の視差値に視差調整量κを乗算して視差画像を変更する。図21に、視差調整量κにより変更された視差画像群を示す。図21の最上部にある視差画像は立体画像コンテンツが元々保持していた視差値を持つ視差画像を表し、図21の最下部にある視差画像はすべての視差値が0である視差画像を表す。図21の中間部分にある視差画像群は、最上部の視差画像の視差値に、視差調整量κを乗算して変更した視差画像である。最上部から2番目の視差画像は視差調整量κを0.75とし、最上部から3番目の視差画像は視差調整量κを0.50とし、最上部から4番目の視差画像は視差調整量κを0.25とし、最下部の視差画像は視差調整量κを0とした際の視差画像である。立体画像コンテンツが元々保持していた視差値をu(x,y)とおくと、視差調整処理後の立体画像コンテンツの視差値u(x,y)は式(7)になる。
(x,y)=κu(x,y) 式(7)
ここで、u(x,y)は、視差画像の画素位置(x,y)における視差値を示す。
次に、変更した視差画像を参照して立体画像コンテンツのLR画像から視差調整処理後のLR画像を生成する。LR画像の生成処理では、L画像を基準にし、視差画像の視差値に応じてL画像の各画素をX軸方向に移動してR画像を生成する。図22に、画素移動によって生成したR画像を示す。画素移動では、各画素の位置における視差値の違いによって、R画像には画素の輝度値(RGB値)が無い空白部分41が出現する。この空白部分41を埋めるために、空白部分41の近隣にある画素の輝度値から画像補間処理を実施する。
画像補間処理方法としては、線形補間や平均値補間を使用することができる。空白部分の範囲が広い場合には、高品質な画像補間処理を実施するために、各種の画像修復(Inpainting)手法を適用しても良い。画像修復手法としては、空白部分の近隣にある輝度値パタンと類似する輝度値パタンを画像情報内からパタンマッチングにより探索して空白領域の画像修復する手法や、Shift‐Map法などが挙げられる。また、空白部分の画像補間処理では、L画像の輝度値だけでなく、R画像の輝度値を参照しても良い。以上より、視差調整量κを参照して視差調整処理後のLR画像を生成することで、立体画像コンテンツの視差値を変更できる。
立体表示パネル部107は、視差調整処理された画像データを前記相対位置に応じて右眼・左眼に投影する機能を有する。立体表示パネル部107は、視差調整処理部106から送信されるLR画像を受信して、立体表示パネルによりLR画像を投影することで、立体画像コンテンツを表示する。
本実施形態1の立体画像表示装置における立体画像処理方法のフローチャートについて、図23を参照して説明する。
ステップS101は、観察者位置計測部101を使用して観察者10の観察位置を計測する。
ステップS102は、相対位置算出部102を使用して、観察者10の観察位置と立体表示パネル107aとの相対位置を算出する。ステップS102では、相対位置として、立体表示パネル107aの中心位置を原点とした際の観察者10の観察位置(Z軸方向の距離Z、及び視野角θp)を算出する。
ステップS103は、ステップS102で算出した距離Z及び視野角θpに対応する3Dクロストーク特性データと、3Dクロストーク特性データの閾値β,βとを、デバイス特性データ保管部103から取得する(一例として図4参照)。また、3Dクロストーク特性データの、閾値βに対応する視差の最大値γと、閾値βに対応する視差の最大値γと、を取得する(一例として図10参照)。
ステップS104は、視差調整量算出部104を使用して、ステップS103で取得した3Dクロストーク特性データから、ステップS102で算出した相対位置となる視野角θpに対する視差許容値uthを算出する。一例として図9を参照して算出方法を記す。最初に、ステップS103で取得した3Dクロストークデータの閾値β,βから、正視領域の視野角範囲θ〜θと逆視領域の視野角範囲θ〜θと3Dクロストーク領域の視野角範囲θ〜θとを特定する。次に、正視領域の視野角範囲θ〜θと逆視領域の視野角範囲θ〜θとにおける視差許容値uthを、閾値βの視差最大値γとする。その次に、3Dクロストーク領域の視野角範囲θ〜θにおける視差許容値uthを決定する。具体的には、視野角θにおける視差最大値(視差の絶対値が最大)−γの点と視野角θにおける視差最大値−γの点と視野角θにおける視差最大値γの点と視野角θにおける視差最大値γの点とを線で補間して繋ぐことで、視野角範囲θ〜θにおける視差許容値uthを決定する。以上のように、視野角範囲θ〜θにおける視差許容値uth(θ)をあらかじめ求めた上で、ステップS102で算出した相対位置となる視野角θpに対する視差許容値uthを算出する。
ステップS105は、画像データ保管部105から立体画像コンテンツである画像データを取得する。ステップS105では、画像データから立体画像コンテンツが持つ視差最大値uを取得する(一例として図20B参照)。
ステップS106は、視差調整量算出部104又は視差調整処理部106を使用して、ステップS104で算出した視差許容値uthとステップS105で取得した画像データの視差最大値uとから視差調整量κを算出する。ステップS106では、視差許容値uthと画像データの視差最大値uとを比較して、視差許容値uthが大きい場合には視差調整量κを1とおき、視差最大値uが大きい場合には視差調整量κを式(4)から算出する。
ステップS107は、視差調整処理部106を使用して、ステップS106で算出した視差調整量κを参照して、ステップS105で取得した画像データの視差調整処理を実施する。ステップS107では、ステップS106で算出した視差調整量κが1の場合には、ステップS105で取得した画像データの視差値uを視差調整処理後の画像データの視差値uにする(一例として図20C参照)。視差調整量κが1以外の場合には、画像データの視差値uに視差調整量κを乗算して、視差調整処理後の画像データの視差値uを算出する。視差調整処理後の画像データの視差値uを参照して、ステップS105で取得した画像データから視差調整処理後の画像データを生成する。
ステップS108は、立体表示パネル部107を使用して、ステップS107で視差調整処理した画像データを立体表示パネル上に立体画像表示する。
ステップS109は、立体画像表示処理を中止するか、連続的に実行するかを設定する。立体画像表示装置11の電源がOFFされたときや、観察者10によって立体画像表示の中断が指示されたときには、立体画像表示処理を中止する。立体画像表示処理を中止するイベントが無ければ、立体画像表示処理を連続的に実行する。ステップS109で立体画像表示処理が中止された場合は、立体画像表示処理を終了する。ステップS109で立体画像表示処理が連続的に実行される場合は、ステップS101の処理に戻り、ステップS101〜ステップS109までの処理を繰り返して実行する。
以上より、観察者の観察位置とデバイス特性データとに基づき算出された視差調整量に従って、画像データの視差調整処理を実施することにより、3Dクロストークによる二重像や逆視の問題を解決して、観察者の観察位置が移動しても観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
また、上記のフローチャートでは、立体画像表示処理時に観察者の観察位置と立体表示パネルの相対位置、すなわち、立体表示パネルの中心位置を原点とした際の観察者の観察位置(Z軸方向の距離Zと視野角θp)を算出し、視野角θpに対する画像データの視差調整量κを算出して、画像データの視差調整処理を実施する例を記載した。
しかし、予め視差調整量κによって視差調整処理された画像データ群を用意しておくことで、立体画像表示処理時の計算時間を短縮しても良い。また、複数の視差調整量κを用いて視差調整処理された画像データ群を、予め用意することも可能である。この場合には、立体画像表示処理前に予めステップS103〜ステップS107の処理を実施しておき、視差調整処理された視野角範囲θ〜θにおける画像データ群を、画像データ保管部105に保存しておく。立体画像表示処理時には、ステップS102より相対位置となる視野角θpを算出した後に、画像データ保管部105の視野角範囲θ〜θにおける画像データ群の中から相対位置視野角θpと関連する画像データとを取得する。次に取得した画像データをステップS108と同様に立体表示パネル107a上に立体画像表示することで、視差調整量の算出処理と画像データの視差調整処理との計算時間を大幅に短縮することができ、観察者10の観察位置の変化が頻繁に発生する場合には好適である。ただし、この立体画像表示処理を実現するには、立体画像表示処理前に画像データが取得できること、画像データ保管部105の記録容量が大きいことが必要条件となる。したがって、立体画像表示装置11の使用条件に応じて、立体画像表示の処理方法を選択しても良い。
本実施形態1の外観図(図2)では、画像処理部151、観察者位置計測部101、デバイス特性データ保管部103、画像データ保管部105及び立体表示パネル部107が一つの立体画像表示装置11内に存在する例を示したが、これらの部位をアプリケーションに応じて分離し、分離した個々の装置を統合することで立体画像表示装置11の機能を実現しても良い。
図24に、立体画像表示装置11を三つの装置に分離した例を示す。一番目は立体表示パネル部107の装置であり、二番目は観察者位置計測部101と画像処理部151とデバイス特性データ保管部103を統合した画像処理装置160であり、三番目は画像データ保管部105の装置である。三つの装置をHDMI(登録商標)やDVIなどの画像入出力ケーブル163(又はUSBやLANなどのデータ通信ケーブル若しくはW−LANなどの無線通信)で接続し、各種のデータを送受信することで、立体画像表示装置11の機能を実現できる。
図25に、画像処理装置160の構成図を示す。画像処理装置160は、観察者位置計測部101、相対位置算出部102、デバイス特性データ保管部103、視差調整量算出部104、視差調整処理部106、画像データ受信部161及び画像データ送信部162を備えるものである。ここで、観察者位置計測部101、相対位置算出部102、デバイス特性データ保管部103、視差調整量算出部104及び視差調整処理部106は、前述した立体画像表示装置11の各部と同様の機能を有する。
画像データ受信部161は、画像処理装置160の外部にある画像データ保管部105から送信される画像データを受信して、視差調整処理部106に送信する機能を有する。また、画像データ送信部162は、視差調整処理部106から送信される画像データを立体表示パネル部107へ送信する機能を有する。画像データ受信部161と画像データ送信部162の一例としては、HDMI(登録商標)やDVIケーブル等により画像処理装置160へ画像データを送受信するための、接続端子及びデータ転送機器となる。
上記は3つの装置に分離する例を示したが、分離形態はこれに限定されるものではない。本実施形態1は、3Dクロストークによる二重像や逆視の影響を軽減する画像処理部151に特徴があるため、画像処理部151と観察者位置計測部101との組み合わせで上述したような単独の画像処理装置160として提供することができる。
本実施形態1の立体画像表示装置の光学モデル図(図5)では、立体表示パネルから2つの異なる視点の画像(L画像、R画像)を投影する例を示したが、視点数は2つに限定されるものではなく、多視点の画像を立体表示パネルから投影しても良い。多視点の画像を投影する場合には、観察者が両眼で観察している隣接視点画像全てに視差調整処理を実施してもよいし、逆視が発生する画像同士だけを選択して視差調整処理を実施してもよい。また、これらの視差調整処理の選択に際しては、立体画像表示装置の視点数や隣接視点画像の視差量の大きさに応じて選択することができる。
図26に、多視点の一例として8視点の立体画像表示装置を示す。3Dクロストークは、正視領域内における70V1画像−70V2画像間、70V2画像−70V3画像間、70V3画像−70V4画像間、・・・、70V7画像−70V8画像間の7組、と逆視領域となる72V1画像−70V8画像、71V8画像−70V1画像の2組で発生する。一般的に8視点に用いる画像は、ある程度の運動視差を考慮して、隣接視点画像間の視差量は小さいコンテンツが多い。従って、このような場合は正視領域内の7組には視差調整処理を実施せずに、観察者の左眼又は右眼が上記2組の逆視領域にある場合にのみ視差調整処理を施すことが望ましい。
ただし、8視点であっても、正視領域内の隣接視点画像間の視差量が大きいコンテンツを観察する場合や、隣接視点画像間の視差量がさほど大きくない場合でも、観察者の観察距離に応じて隣接視点画像間に視差調整処理を実施することが望ましい。特に、観察者の観察距離によっては、左眼に70V4画像、右眼に70V5画像といった第1隣接視点画像を観察するのではなくて、左眼に70V4画像、右眼に70V6画像といった第2隣接視点画像、又は第3隣接点画像若しくは第4隣接視点画像を観察する状況が生じる。この時に、第2隣接、第3隣接、第4隣接と次数が大きくなるについて、両眼間に入力される画像の視差量が大きくなり、3Dクロストークに対する影響が変化する。このように、観察者の観察位置を計測することで、どの視点画像が観察者の左眼と右眼に位置するかが検出できるため、対象とする次数の視点画像間に対して視差調整処理を実施すれば良い。
図27に、多視点の一例として4視点の立体画像表示装置を示す。3Dクロストークは、正視領域内における70V1画像−70V2画像間、70V2画像−70V3画像間、70V3画像−70V4画像間の3組、と逆視領域となる72V1画像−70V4画像間、71V4画像−70V1画像間の2組で発生する。一般的に4視点の画像は、視点間の視差量が大きいコンテンツも少なくなく、視点間移動時にいわゆるフリッピング効果が発生する。したがって、このような場合には、フリッピング抑制効果も兼ねて、観察者の左眼又は右眼が正視領域内の3組又は逆視領域の2組の3Dクロストーク領域内隣接視点画像全てに視差調整処理を実施することが望ましい。ただし、4視点でも視差量が小さいコンテンツではこの限りでは無く、逆視領域のみに視差調整処理をすれば良いのは言うまでもない。
その他の例としては、観察者の左眼が70V1画像及び70V2画像の3Dクロストーク領域にあり、右眼が70V3画像の正視領域にある場合は、70V1画像及び70V2画像だけを視差調整処理して画像間の視差値を低減し、3Dクロストークによる二重像の影響を軽減する。この視差調整処理を実施しても、観察者の左眼に投影される視差調整処理後の70V1画像及び70V2画像と、観察者の右眼に投影される70V3画像は、視差値が異なる画像となるため、観察者は立体画像を鑑賞することができる。
なお、図26及び図27の両方又は一方には、視点1の領域70V1、視点2の領域70V2、視点3の領域70V3、視点4の領域70V4、視点5の領域70V5、視点6の領域70V6、視点7の領域70V7、視点8の領域70V8、視点1の領域72V1、視点8の領域71V8、視点4の領域71V4、視点1用画素4V、視点2用画素4V、視点3用画素4V、視点4用画素4V、視点5用画素4V、視点6用画素4V、視点7用画素4V、視点8用画素4Vが記載されている。
また、上記した視差調整処理は、多視点方式に限らず、インテグラル方式や超多眼方式など様々な裸眼立体方式に適用できるのは言うまでもない。ここで、理想的なインテグラル方式では、逆視領域が存在しないが、この場合でも隣接視点間の視差量が所定値より大きい場合には、正視領域内の隣接視点画像間で視差調整処理を実施することが有効となる。
換言すると、本実施形態1の立体画像表示装置は、観察者の観察位置を計測する観察者位置計測部と、観察者の観察位置と立体表示パネル位置の相対位置を算出する相対位置算出部と、立体表示パネルの視野角に対するデバイス特性データを保存するデバイス特性データ保管部と、前記デバイス特性データに基づき視野角に対して立体画像表示に最適な視差調整量を算出する視差調整量算出部と、画像データを保存又は受信する画像データ保管部と、前記視差調整量に従って前記画像データの視差調整処理を実施する視差調整処理部と、視差調整処理された画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部と、を備えるものである。
本実施形態1によれば、観察者の観察位置とデバイス特性データとに基づき算出された視差調整量に従って、画像データの視差調整処理を実施することにより、3Dクロストークによる二重像や逆視の問題を解決して、観察者の観察位置が移動しても観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供し、課題を解決する。
[実施形態2]
本実施形態2では、観察者の観察位置と立体表示パネルとの相対位置が速く移動する場合であっても、観察者へ違和感を与えずになだらかに視差調整処理を実現して、3Dクロストークによる二重像や逆視の問題を解決して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することが目的となる。
図28に、立体画像表示装置12の構成図を示す。立体画像表示装置12は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、視差調整量算出部104と、画像データ保管部105と、視差調整処理部106と、立体表示パネル部107と、視差変化量許容値データ保管部108とを備えるものである。また、相対位置算出部102、視差調整量算出部104、視差調整処理部106を統合した処理部を画像処理部152とする。
以下に、立体画像表示装置12に含まれる各部の機能を説明する。観察者位置計測部101と、デバイス特性データ保管部103と、画像データ保管部105と、視差調整処理部106と、立体表示パネル部107とは、実施形態1と同様である。
相対位置算出部102は、観察者の観察位置と立体表示パネル位置との相対位置だけでなく相対位置の変化速度(相対位置の時間変化量)も算出する機能を有する。移動速度は例えば相対位置を約0.03秒ごと(30fpsのカメラ使用時)に記録しておき、過去の相対位置と現在の相対位置との差分を取ることで算出する。移動速度を視野角θの時間変化量とおくと、移動速度vは式(11)となる(tは時間を示す)。
移動速度:v=dθ/dt 式(11)
視差変化量許容値データ保管部108は、観察者へ違和感を与えない視差変化量の許容値du/dtを保管する。ここで視差変化量は視差値uの時間変化量であり、視差変化量はdu/dtとなる。視差変化量の許容値du/dtは、観察者の好みに応じて任意に設定してもよく、また観察者の主観評価などによって決定することができる。主観評価実験では、視差値を徐々に変化させたLR画像を観察者へ提示し、観察者に違和感を与えない視差変化量の最大値を評価して視差変化量の許容値du/dtとする。視差変化量が許容値du/dt以上になると視差値が急激に変化するため、観察者が同一の立体画像コンテンツを鑑賞していても、画像が切り替わったように認知され違和感を覚える。反対に視差変化量が許容値du/dt以内であれば、視差が変化しても立体画像コンテンツはZ軸上に移動して見えるが、画像は連続的に繋がって認知されるために違和感は無くなる。図29に、本発明者らが主観評価実験により特定した視差変化量の許容値du/dtを示す。視差変化量の許容値du/dtは視差値uに応じて上昇する傾向にある。
視差調整量算出部104は、デバイス特性データと視差変化量の許容値と相対位置の変化速度とに基づき、立体画像が表示可能である視差の限界値(視差許容値uth)を算出する。本実施形態2における視差許容値uthの算出処理では、初めに視差変化量の許容値du/dtと相対位置の変化速度dθ/dtとから、視野角θに対する視差変化量の許容値u'(du/dθ)を算出する。ここで、視差変化量の許容値u'は、相対位置の変化速度に依存する。そのため、相対位置の変化速度が変わるにつれて、視差変化量の許容値u'を再度算出する。
図30に、実施形態1と同様に立体画像表示装置のデバイス特性データに基づき、視差許容値uthを算出した結果を示す。次に、視差許容値uthから視野角θに対する視差許容値uthの変化量duth/dθを算出し、視差変化量の許容値u'と比較して、式(12)を満たすように視差許容値uthを変更する。
duth/dθ<=u' 式(12)
図31に、相対位置の変化速度が速い場合での視野角θに対する視差許容値uthを示す。相対位置の変化速度が速い場合は、視差変化量の許容値u'が低下するため、視差許容値の変化量duth/dθが低下し、視野角θに対する視差許容値uthの線の傾きはなだらかになる。
図32に、実施形態1の視差許容値(図9)と実施形態2の視差許容値(図31)との比較表を示す。本実施形態2の視差許容値uthは、式(12)の条件を満たす必要があるため、相対位置の変化速度が速い場合には、視差許容値uthが視野角θに対して一定値となる視野角範囲が狭まる。図32より、視野角範囲θ〜θが視野角範囲θ11〜θ12へ狭まる。
また、図33に、相対位置の変化速度がより一段と速い場合での、視野角θに対する視差許容値uthを示す。相対位置の変化速度がより一段と速い場合では、視差許容値uthの線の傾きがより一段となだらかになり、視野角θに対して視差許容値uthが一定値となる視野角範囲は消失する。ここで、線の傾きがなだらかとは、線の傾き(duth/dθ)が視差変化量の許容値u'よりも小さな値をとり、視野角の変化量に対する視差の変化量が小さいことを示す。
視差調整処理部106は、視差調整量算出部104で算出した視差許容値uthに従って画像データの視差調整処理を実施する機能を有する。図34に視差調整処理により視野角に対する立体画像コンテンツが持つ視差の最大値uを算出した結果を示す。実施形態1と同様に視差調整処理では、視差調整処理後に立体画像コンテンツが持つ視差最大値uを算出するため、視差調整量算出部104で算出した視差許容値uthの条件(図34A)と画像データ保管部105に保管された立体画像コンテンツが持つ視差最大値uの条件(図34B)との両条件(式(4))を満たす視差最大値u(図34C)を算出する。
視差調整処理後の視差最大値uが立体画像コンテンツの視差最大値uよりも大きい場合には、立体画像コンテンツの視差値を変化させずに、そのままのLR画像を立体表示パネル部107に送信する。視差調整処理後の視差最大値uが立体画像コンテンツの視差最大値uよりも小さい場合には、実施形態1の式(5)より視差調整量κ(uとuの比)を算出し、立体画像コンテンツの視差値を変更させてから、LR画像を立体表示パネル部107に送信する。
以上より、観察者の観察位置とデバイス特性データに加えて、観察者の観察位置(観察者の観察位置と立体表示パネル位置との相対位置)の移動速度と、時間に対する視差変化量の許容値を考慮して視差調整量を算出することにより、観察者の観察位置が速く移動する場合であっても、なだらかに画像データの視差を変化させて、観察者に違和感を与えずに視差調整処理を実施できる。
なお、本実施形態2においても、実施形態1と同様に多視点方式やインテグラル方式等の様々な裸眼立体方式の立体画像表示装置に適用できる。また、本実施形態2の画像処理部152を単独の画像処理装置として提供し、立体表示パネル部107と組み合わせて立体画像表示装置12の機能を実現できることは、言うまでもない。
本実施形態2の立体画像表示装置における立体画像処理方法のフローチャートについて、図35を参照して説明する。
ステップS201は、観察者位置計測部101を使用して観察者の観察位置を計測する。
ステップS202は、相対位置算出部102を使用して観察者の観察位置と立体表示パネルとの相対位置と相対位置の変化速度を算出する。ステップS202では、相対位置として、立体表示パネルの中心位置を原点とした際の観察者の観察位置(Z軸方向の距離Zと視野角θp)を算出する。また、相対位置の変化速度は、任意の時間ごとに視野角θpの変化量を検出して、視野角の変化速度dθp/dtを算出する。
ステップS203は、ステップS202で算出した距離Zと視野角θpに対応する3Dクロストーク特性データと3Dクロストーク特性データの閾値β,βとを、デバイス特性データ保管部103から取得する(一例として図4を参照)。また、3Dクロストーク特性データの閾値βに対応する視差の最大値γと、閾値βに対応する視差の最大値γと、を取得する(一例として図10を参照)。
ステップS204は、視差変化量許容値データ保管部108から視差変化量の許容値データdu/dtを取得する。
ステップS205は、視差調整量算出部104を使用して、ステップS202で算出した相対位置の変化速度dθp/dtとステップS204で取得した視差変化量の許容値データdu/dtとステップS203で取得した3Dクロストーク特性データとから、観察者と立体表示パネルとの相対位置となる視野角θpに対する視差許容値uthを算出する。一例として、図30と図31を参照して算出方法を記す。最初に、ステップS202で算出した相対位置の変化速度dθp/dtとステップS204で取得した視差変化量の許容値データdu/dtとから、視野角θpに対する視差変化量の許容値u'(du/dθp)を算出する。次に、実施形態1のステップS204と同様の処理により、ステップS203で取得した3Dクロストークデータの閾値β,βから視野角範囲θ〜θにおける視差許容値uth(θ)を算出する(一例として図30を参照)。その次に、視差許容値uthから視野角θpに対する視差許容値の変化量duth/dθpを算出し、視差変化量の許容値u'(du/dθp)と比較して、式(12)を満たすように、視野角範囲θ〜θにおける視差許容値uth(θ)を変更する(一例として図31を参照)。以上のように、視野角範囲θ〜θにおける視差許容値uth(θ)を求めた上で、ステップS202で算出した相対位置となる視野角θpに対する視差許容値uthを算出する。
ステップS206は、画像データ保管部105から立体画像コンテンツである画像データを取得する。ステップS206では、画像データから立体画像コンテンツが持つ視差最大値uを取得する(一例として図34Bを参照)。
ステップS207は、視差調整量算出部104又は視差調整処理部106を使用して、ステップS205で算出した視差許容値uthとステップS206で取得した画像データの視差最大値uとから視差調整量κを算出する。ステップS207では、視差許容値uthと画像データの視差最大値uとを比較して、視差許容値uthが大きい場合には視差調整量κを1とおき、視差最大値uが大きい場合には視差調整量κを式(4)から算出する。
ステップS208は、視差調整処理部106を使用して、ステップS207で算出した視差調整量κを参照して、ステップS206で取得した画像データの視差調整処理を実施する。ステップS208では、ステップS207で算出した視差調整量κが1の場合には、ステップS206で取得した画像データの視差値uを視差調整処理後の画像データの視差値uにする(一例として図34Cを参照)。視差調整量κが1以外の場合には画像データの視差値uに視差調整量κを乗算して、視差調整処理後の画像データの視差値uを算出する。視差調整処理後の画像データの視差値uを参照して、ステップS206で取得した画像データから視差調整処理後の画像データを生成する。
ステップS209は、立体表示パネル部107を使用して、ステップS207で視差調整処理した画像データを立体表示パネル上に立体画像表示する。
ステップS210は、立体画像表示処理を中止するか、連続的に実行するかを設定する。立体画像表示装置12の電源がOFFされたときや観察者によって立体画像表示の中断が指示されたときには立体画像表示処理を中止する。立体画像表示処理を中止するイベントが無ければ、立体画像表示処理を連続的に実行する。ステップS210で立体画像表示処理が中止された場合は、立体画像表示処理を終了する。ステップS210で立体画像表示処理が連続的に実行される場合は、ステップS201の処理に戻り、ステップS201〜ステップS210までの処理を繰り返して実行する。
以上より、観察者の観察位置と立体表示パネルとの相対位置が速く移動しても、なだらかに視差調整処理を行い、3Dクロストークによる二重像や逆視の問題を解決して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
なお、本実施形態2の立体画像処理方法においても、実施形態1と同様に、予め視差調整量κによって視差調整処理された画像データ群を画像データ保管部105へ保管しておくことで、立体画像表示処理時の計算時間を大幅に短縮できるのは言うまでもない。
換言すると、本実施形態2の立体画像表示装置は、観察者の観察位置を計測する観察者位置計測部と、観察者の観察位置と立体表示パネル位置との相対位置及び相対位置の変化速度(時間に対する相対位置の変化量)を算出する相対位置算出部と、立体表示パネルの視野角に対するデバイス特性データを保存するデバイス特性データ保管部と、時間に対する視差変化量の許容値(観察者へ違和感を与えない視差変化量)を保存する視差変化量許容値保管部と、前記デバイス特性データと前記視差変化量の許容値と前記相対位置の変化量とに基づき、視野角に対して立体画像表示に最適な視差調整量を算出する視差調整量算出部と、画像データを保存又は受信する画像データ保管部と、前記視差調整量に従って前記画像データの視差調整処理を実施する視差調整処理部と、視差調整処理された画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部と、を備えるものである。
本実施形態2によれば、観察者の観察位置とデバイス特性データに加えて、観察者の観察位置(観察者の観察位置と立体表示パネル位置との相対位置)の移動速度と、時間に対する視差変化量の許容値を考慮して視差調整量を算出することにより、観察者の観察位置が速く移動する場合であっても、なだらかに画像データの視差変化が実施されるため、観察者へ違和感を与えずに視差調整処理を実現する。これより、観察者の観察位置が速く移動しても、なだらかに視差調整処理を行い、3Dクロストークによる二重像や逆視の問題を解決して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供し、課題を解決する。
[実施形態3]
本実施形態3では、観察者の観察位置と立体表示パネルの相対位置がより速く移動しても、正視領域及び逆視領域における任意の領域では視差値が一定であり、かつ、それ以外の領域では、なだらかに視差調整処理を行い、3Dクロストークによる二重像や逆視の影響を軽減して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することが目的となる。
図36に立体画像表示装置13の構成図を示す。立体画像表示装置13は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、視差調整量算出部104と、画像データ保管部105と、視差調整処理部106と、立体表示パネル部107と、視差変化量許容値データ保管部108と、視差一定領域特定部としての視差一定領域特定データ保管部109とを備えるものである。また、相対位置算出部102、視差調整量算出部104、視差調整処理部106を統合した処理部を、画像処理部153とする。以下に、立体画像表示装置13に含まれる各部の機能を説明する。観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、視差調整量算出部104と、画像データ保管部105と、立体表示パネル部107と、視差変化量許容値データ保管部108とについては、実施形態2と同様である。
視差一定領域特定データ保管部109は、視野角θに対して立体画像コンテンツの視差を変化させずに視差値が一定となる領域を特定するデータを、保管する機能を有する。実施形態2の図33より、相対位置の移動速度が速いと、正視領域・逆視領域においても立体画像コンテンツの視差値が視野角θに依存して変化してしまう。本実施形態3では、観察者が移動しても安定な立体画像コンテンツを表示するために、正視領域・逆視領域内の任意の領域では、相対位置が移動しても立体画像コンテンツの視差値が変化せずに一定値となる特定領域を設定する。特定領域の設定例としては、正視領域の50%を特定領域と設定しても良いし、3Dクロストーク量の閾値β以下を特定領域と設定してもよい。
図37に、3Dクロストーク特性データの一例を示す。図37から3Dクロストーク量の閾値β以下となる視野角範囲はθ20〜θ21とθ22〜θ23となり、この視野角範囲が特定領域となる。
視差調整処理部106は、視差一定領域特定データ保管部109から取得した視差一定領域特定データと視差調整量算出部104で算出した視差許容値uthとに従って、画像データの視差調整処理を実施する機能を有する。ここで視差一定領域特定データは視野角範囲θ20〜θ21で表す。視差調整処理では、視差調整処理後に立体画像コンテンツが持つ視差最大値uを算出する。実施形態1,2では、視差許容値uthの条件とコンテンツの視差最大値uの条件とを満たす最大値を視差調整処理後の視差最大値uとして算出したが、本実施形態3では、視差一定領域特定データの条件も追加して、視差最大値uを算出する。視差一定領域特定データの条件は、視野角θ20における視差許容値uthとコンテンツの視差最大値uを比較して、視差許容値uthの方が小さい場合には、視差調整量の最大値κthを式(21)から算出し、視差調整量を最大値κth以下とする条件を加える。
th(θ20)=κth(θ20) 式(21)
ここで、uth(θ20)は視野角がθ20のときの視差許容値uthを示し、u(θ20)は視野角がθ20のときのコンテンツの視差最大値uを示す。
図38に、視差一定領域特定データの条件を加えて、観察者の観察位置と立体表示パネルの相対位置とがより速く移動した場合における視野角に対する視差調整処理後の視差最大値uを算出した結果を示す。図38Aは視野角に対する視差許容値uthを示し、実施形態2の図33と同様である。図38Bはコンテンツの視差最大値uを示す。図38Cは視差調整処理後の視差最大値uを示す。視差調整量κが視差調整量の最大値κth以下となる条件式(22)を満たすため、視差調整処理後の視差最大値uは視野角範囲θ20〜θ21と視野角範囲θ22〜θ23とで視差値が一定となる。
κ<=κth 式(22)
視差調整量κが算出された後は、実施形態2と同様に視差調整量κを参照して立体画像コンテンツのLR画像の視差調整処理を実施する。
以上より、視差調整量κが視差調整量の最大値κth以下となるために立体画像コンテンツの視差値が全体的に低減され、視差一定領域特定部で特定された特例領域の視差値が一定となるように視差調整処理を実施できる。なお、本実施形態3においても実施形態1と同様に多視点方式やインテグラル方式等の様々な裸眼立体方式の立体画像表示装置に適用できるのは言うまでもない。
本実施形態3の立体画像表示装置における立体画像処理方法のフローチャートについて、図39を参照して説明する。
ステップS301〜ステップS306は実施形態2と同様である。
ステップS307は、視差一定領域特定データ保管部109から視差一定領域特定データを取得する。ステップS307では、視差一定領域特性データとして、視野角範囲θ20〜θ21とθ22〜θ23を視差一定の領域と特定する。
ステップS308は、視差調整量算出部104又は視差調整処理部106を使用して、ステップS305で算出した視差許容値uthとステップS306で取得した画像データの視差最大値uとステップS307で取得した視差一定領域特定データ(視野角範囲θ20〜θ21,θ22〜θ23)とから視差調整量κを算出する。視差調整量κの算出方法は、最初に、式(21)により視差一定領域の視野角θ20における視差許容値uth(θ20)と、画像データの視差最大値uから視差調整量の最大値κthを算出する。次に、視差許容値uthと画像データの視差最大値uを比較して、視差許容値uthが大きい場合には視差調整量κを1とおき、視差最大値uが大きい場合には視差調整量κを式(4)から算出する。最後に、視差調整量κが視差調整量の最大値κth以下となるように、視差調整量κを変更する。以上より、視差調整量κを算出する。
ステップS309は、視差調整処理部106を使用して、ステップS308で算出した視差調整量κを参照して、ステップS306で取得した画像データの視差調整処理を実施する。ステップS309では、ステップS308で算出した視差調整量κが1の場合には、ステップS306で取得した画像データの視差値uを視差調整処理後の画像データの視差値uにする。視差調整量κが1以外の場合には、画像データの視差値uに視差調整量κを乗算して、視差調整処理後の画像データの視差値uを算出する(一例として図38Cを参照)。視差調整処理後の画像データの視差値uを参照して、ステップS306で取得した画像データから視差調整処理後の画像データを生成する。
ステップS310は、立体表示パネル部107を使用して、ステップS309で視差調整処理した画像データを立体表示パネル上に立体画像表示する。
ステップS311は、立体画像表示処理を中止するか、連続的に実行するかを設定する。立体画像表示装置の電源がOFFされたときや観察者によって立体画像表示の中断が指示されたときには立体画像表示処理を中止する。立体画像表示処理を中止するイベントが無ければ、立体画像表示処理を連続的に実行する。ステップS311で立体画像表示処理が中止された場合は、立体画像表示処理を終了する。ステップS311で立体画像表示処理が連続的に実行される場合は、ステップS301の処理に戻り、ステップS301〜ステップS311までの処理を繰り返して実行する。
以上より、観察者の観察位置と立体表示パネルの相対位置がより速く移動しても、正視領域及び逆視領域における任意の領域では視差変化が無く一定であり、かつ、それ以外の領域では、なだらかに視差調整処理を行い、3Dクロストークによる二重像や逆視の問題を解決して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
なお、本実施形態3の立体画像処理方法においても実施形態1と同様に、予め視差調整量κによって視差調整処理された画像データ群を画像データ保管部105へ保管しておくことで、立体画像表示処理時の計算時間を大幅に短縮できるのは言うまでもない。また、本実施形態3においても、実施形態1と同様に多視点方式やインテグラル方式等の様々な裸眼立体方式の立体画像表示装置に適用できる。また、本実施形態3の画像処理部を単独の画像処理装置として提供し、立体画像パネル部と組み合わせて立体画像表示装置の機能を実現できることは言うまでもない。
換言すると、本実施形態3の立体画像表示装置は、観察者の観察位置を計測する観察者位置計測部と、観察者の観察位置と立体表示パネル位置との相対位置及び相対位置の変化速度(時間に対する相対位置の変化量)を算出する相対位置算出部と、立体表示パネルの視野角に対するデバイス特性データを保存するデバイス特性データ保管部と、時間に対する視差変化量の許容値(観察者へ違和感を与えない視差変化量)を保存する視差変化量許容値保管部と、前記デバイス特性データと前記視差変化量の許容値と前記相対位置の変化量とに基づき、視野角に対して立体画像表示に最適な視差調整量を算出する視差調整量算出部と、視差値を変化させずに一定値とする空間領域を特定する視差一定領域特定部と、画像データを保存又は受信する画像データ保管部と、前記視差調整量と前記視差一定領域情報に従って前記画像データの視差調整処理を実施する視差調整処理部と、視差調整処理された画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部と、を備えるものである。
実施形態2により、観察者の観察位置が速く移動する場合には、なだらかに視差調整処理が実施される。このため、観察者の観察位置がより速く移動する場合には、正視領域においても、視差値が一定とならずに、常に視差値が変化するという問題が生じる。本実施形態3では、この問題を解決するために、予め立体画像コンテンツが保持する視差値を全体的に低減することで、視差一定領域特定部で特定された空間領域では、視差値が一定となるように視差調整処理を実施する。これより、観察者の観察位置がより速く移動しても、正視領域では視差値が一定であり、かつ、なだらかに視差調整処理を実施して、3Dクロストークによる二重像や逆視の問題を解決し、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供し、課題を解決する。
[実施形態4]
本実施形態4では、3Dクロストークによる二重像の影響が現れる画像範囲だけに、視差調整処理を適用することで、その他の画像範囲は視差値を保持して立体画像を表示した状態で、3Dクロストークによる二重像の問題を解決して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することが目的となる。
図40に、立体画像表示装置14の構成図を示す。立体画像表示装置14は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、視差調整量算出部104と、画像データ保管部105と、視差調整処理部106と、立体表示パネル部107と、3Dクロストーク画像範囲算出部110とを備えるものである。また、相対位置算出部102、視差調整量算出部104、視差調整処理部106、3Dクロストーク画像範囲算出部110を統合した処理部を、画像処理部154とする。以下に、立体画像表示装置14に含まれる各部の機能を説明する。観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、視差調整量算出部104と、画像データ保管部105と、立体表示パネル部107とは、実施形態1と同様である。
3Dクロストーク画像範囲算出部110は、3Dクロストークによる二重像が現れる画像範囲を算出する機能を有する。3Dクロストークによる二重像が現れる画像範囲は、観察者の観察位置と立体表示パネルの相対位置とによって変化する。任意の相対位置における二重像が現れる画像範囲は、デバイス特性データ保管部103に保管されている3Dクロストーク特性データと光学モデルとから決定される。
図41に、任意の相対位置における二重像が現れる画像範囲の一例を示す。図41は、3Dクロストーク領域内で、X軸方向(図3を参照)とZ軸方向に相対位置が移動した場合に、その相対位置へ投影される画像情報を示す。相対位置がX軸方向に移動すると、それに応じて二重像が現れる画像範囲もX軸方向に移動する。また、相対位置がZ軸方向に移動すると、それに応じて二重像が現れる画像範囲が広がっていく。
視差調整処理部106は、3Dクロストーク画像範囲算出部110で算出された画像範囲に従って視差調整処理を実施する。相対位置算出部102から得られる観察者の右眼と左眼の位置情報と、3Dクロストーク画像範囲算出部110で算出された画像範囲情報とから、観察者の右眼と左眼に投影される画像情報の任意の画像範囲に、R画像が投影されるか、L画像が投影されるか、3Dクロストークによる二重像(CT画像)が投影されるかを判定する。判定した結果、左眼にL画像が投影され、右眼にR画像が投影されている画像範囲は、視差値をそのままにする。
右眼と左眼のどちらかに一方にでもCT画像が投影される画像範囲は、実施形態1と同様に視差調整処理を実施する。左眼にR画像が投影され、右眼にL画像が投影される画像範囲は、視差値を反転する。右眼と左眼の両方にR画像又はL画像が投影される場合は、視差値をそのままにする。
図42に、観察者の右眼と左眼に投影される画像の種類(L画像、R画像、CT画像)に対応した視差調整処理の実施判定表を示す。立体画像コンテンツの表示状態は、右眼にR画像が投影され、左眼にL画像が投影されている画像範囲と、右眼にL画像が投影され、左眼にR画像が投影されている画像範囲では、立体画像として表示される。また、観察者の右眼と左眼に同一の画像が投影されている画像範囲は、平面画像として表示される。その以外の画像範囲では、立体から平面までの中間的な表示状態となり、3Dクロストーク量が高い画像範囲になるほど、立体画像コンテンツの視差値は低減されて平面画像の表示状態に近くなる。
図43に、観察者の右眼・左眼に投影される画像情報の一例を示す。図43では、観察者の左眼へ画像の左側範囲にL画像、中間範囲にCT画像、右側範囲にR画像が投影され、観察者の右眼へ画像の右側範囲がR画像、中間範囲にCT画像、左側範囲にL画像が投影される。
図44に、図43で投影される画像を視差調整処理した結果、観察者へ提示される立体画像コンテンツの表示状態を示す。画像の左側範囲(図44のA)は、観察者の左眼にL画像、右眼にR画像が投影されるため、視差調整処理は実施せずに立体画像が表示される。画像の左側中央範囲(図44のB)は、観察者の左眼にL画像、右眼にCT画像が投影されるため、視差調整処理が実施されて立体から平面までの中間的な画像が表示される。画像の中央範囲(図44のC)は、観察者の右眼と左眼にCT画像が投影されるため、視差調整処理が実施されて平面画像が表示される。画像の右側中央範囲(図44のD)の表示状態は、左側中央範囲(図44のB)と同様になり、画像の右側範囲(図44のE)の表示状態は画像の左側範囲(図44のA)は同様になる。
以上より、3Dクロストークによる二重像や逆視の影響が現れる画像範囲だけに視差調整処理を実施することで、その他の画像範囲は視差値を保持して立体画像を表示し、かつ、3Dクロストークによる二重像や逆視の問題を解決できる。
なお、本実施形態4においても実施形態1と同様に多視点方式やインテグラル方式等の様々な裸眼立体方式の立体画像表示装置に適用できる。また、本実施形態4の画像処理部を単独の画像処理装置として提供し、立体画像パネル部と組み合わせて立体画像表示装置の機能を実現できることは言うまでもない。
また、実際の立体表示パネル107aでは、電気光学手段である表示パネル2と光学分離手段であるレンチキュラレンズ3との位置関係に、所定精度内の位置ズレが発生する(例えば図5参照)。このような場合には、図45に示すような斜め成分の3Dクロストーク画像範囲が発現する。
図46に、電気光学手段と光線分離手段との間に回転ズレが発生した場合における画像表示状態と3Dクロストーク特性データとの関係図を示す。図46[A]は、斜め成分の3Dクロストーク画像範囲が発現した画像表示状態を示す。図46[B]は、図46[A]のy1線上の位置での、X軸方向の位置に対する3Dクロストーク特性データを示す。図46[C]は、図46[A]のy2線上の位置での、X軸方向の位置に対する3Dクロストーク特性データを示す。図46[B]と図46[C]より、Y軸方向の位置によっても、3Dクロストーク特性データは変化する。
視差調整量の算出では、次の第一乃至第三の処理を実行する。第一の処理として、立体表示パネルの上端(図46[A]のy線上)、中央(図46[A]のy線上)、下端(図46[A]のy線上)の3つの線上で3Dクロストーク量が最大値となる
X軸方向の位置を検出し(図46[A]のy線上であればx2の位置となり、図46[A]のy2線上であればx1の位置となる。)、検出したX軸方向の位置から斜め成分の3Dクロストーク画像範囲の傾きを算出する。
第二の処理として、立体表示パネルの中央(図46[A]のy線上)における3Dクロストーク特性データから、実施形態1と同様の算出方法により、X軸方向の位置に対する視差調整量を算出する。ここで、実施形態1では視野角に対する視差調整量を算出したが、この第二の処理では視野角の代わりにX軸方向の位置に対する視差調整量を算出する。
第三の処理として、立体表示パネルの中央以外(図46[A]のy線上以外)の視差調整量を、第一の処理で算出した3Dクロストーク画像範囲の傾きを参照して、第二の処理で算出した視差調整量をX軸方向へシフトすることで算出する。以上の処理により、表示パネルとレンチキュラレンズとの位置ズレが発生した場合でも、立体表示パネル面上のすべての位置に対する視差調整量を算出して、3Dクロストーク画像範囲に適切な視差調整処理を実施することができる。
本実施形態4の立体画像表示装置における立体画像処理方法のフローチャートについて、図47を参照して説明する。
ステップS401〜ステップS405は実施形態1と同様である。
ステップS406は、ステップS403で取得したデバイス特性データからステップS402で算出した観察者と立体表示パネルの相対位置(距離情報Zと視野角情報θp)とにより、観察者の右眼と左眼にCT画像が投影される画像範囲を算出する。
ステップS407は、視差調整量算出部104又は視差調整処理部106を使用して、ステップS406で算出した画像範囲の視差調整量κを、実施形態1と同様にステップS404で算出した視差許容値uthとステップS405で取得した画像データの視差最大値uとから算出する。ここで、視差調整量κの算出に使用する画像データの視差最大値uは、ステップS406で算出した画像範囲内での画像データの視差最大値とする。
ステップS408は、視差調整処理部106を使用して、ステップS407で算出した視差調整量κを参照して、ステップS405で取得した画像データの視差調整処理を実施する。ステップS408では、ステップS407で算出した視差調整量κが1の場合には、ステップS405で取得した画像データの視差値uを視差調整処理後の画像データの視差値uにする。視差調整量κが1以外の場合には、ステップS406で算出した画像範囲内になる画像データの視差値uに視差調整量κを乗算して、視差調整処理後の画像データの視差値uを算出する。視差調整処理後の画像データの視差値uを参照して、ステップS405で取得した画像データから視差調整処理後の画像データを生成する。
ステップS409は、立体表示パネル部107を使用して、ステップS408で視差調整処理した画像データを立体表示パネル上に立体画像表示する。
ステップS410は、立体画像表示処理を中止するか、連続的に実行するかを設定する。立体画像表示装置14の電源がOFFされたときや観察者によって立体画像表示の中断が指示されたときには立体画像表示処理を中止する。立体画像表示処理を中止するイベントが無ければ、立体画像表示処理を連続的に実行する。ステップS410で立体画像表示処理が中止された場合は、立体画像表示処理を終了する。ステップS410で立体画像表示処理が連続的に実行される場合は、ステップS401の処理に戻り、ステップS401〜ステップS410までの処理を繰り返して実行する。
上記の処理を適用することで、3Dクロストークによる二重像や逆視の影響が現れる画像範囲だけに視差調整処理を実施することで、その他の画像範囲は視差値を保持して立体画像を表示し、かつ、3Dクロストークによる二重像や逆視の問題を解決して観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
なお、本実施形態4の立体画像処理方法においても実施形態1と同様に、予め視差調整量κによって視差調整処理された画像データ群を画像データ保管部105へ保管しておくことで、立体画像表示処理時の計算時間を大幅に短縮できるのは言うまでもない。
換言すると、本実施形態4の立体画像表示装置は、観察者の観察位置を計測する観察者位置計測部と、観察者の観察位置と立体表示パネル位置との相対位置を算出する相対位置算出部と、立体表示パネルの視野角に対するデバイス特性データを保存するデバイス特性データ保管部と、デバイス特性データから3Dクロストークによる二重像が現れる画像範囲を算出する3Dクロストーク画像範囲算出部と、前記デバイス特性データに基づき視野角に対して立体画像表示に最適な視差調整量を算出する視差調整量算出部と、画像データを保存又は受信する画像データ保管部と、前記視差調整量と前記3Dクロストークの画像範囲とに従って前記画像データの視差調整処理を実施する視差調整処理部と、視差調整処理された画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部と、を備えるものである。
本実施形態4によれば、3Dクロストークによる二重像や逆視の影響が現れる画像範囲だけに、視差調整処理を適用することで、その他の画像範囲は視差値を保持し立体画像を表示した状態で、3Dクロストークによる二重像や逆視の問題を解決して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供し、課題を解決する。
[実施形態5]
本実施形態5では、観察者が視差の調整を手動で指示した場合であっても、観察者へ違和感を与えずに視差調整処理を実現して、3Dクロストークによる二重像や逆視の問題を解決して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することが目的となる。
図48に立体画像表示装置15の構成図を示す。立体画像表示装置15は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、視差調整量算出部104と、画像データ保管部105と、視差調整処理部106と、立体表示パネル部107、視差変化量許容値データ保管部108と、入力操作検出部111と、入力操作判定部112と、入力操作処理部113とを備えるものである。また、相対位置算出部102、視差調整量算出部104、視差調整処理部106、入力操作検出部111、入力操作判定部112、入力操作処理部113を統合した処理部を、画像処理部155とする。
以下に、立体画像表示装置15に含まれる各部の機能を説明する。観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、視差調整量算出部104と、画像データ保管部105と、視差調整処理部106と、立体表示パネル部107とは、実施形態1と同様である。
入力操作検出部111は、観察者の入力操作を検出する機能を有する。入力操作の一例としては、ボタン操作、タッチパネル操作、ジェスチャ操作等が挙げられる。ボタン操作では、観察者が立体画像表示装置15に設置されたボタンやダイヤルを操作することで入力指示を行う。タッチパネル操作では、観察者が立体表示パネルの画面上に表示された選択ボタン領域を指でタッチすることで入力指示を行う。
ジェスチャ操作では、観察者位置計測部101のカメラの前で観察者が任意の手振り身振りをすることで入力指示を行う。ジェスチャ操作の入力操作検出では、初めにカメラで観察者を撮影した画像から、観察者の輪郭情報を探索する。輪郭情報の探索は、画像の輝度値からエッジ情報を抽出して、エッジ情報の中から輪郭情報を探索する(エッジ情報は、距離値(Z値)から抽出しても良い)。観察者の輪郭情報から手や顔、胴体の部位を検出し、手の移動や、手と顔、胴体の位置関係が任意の条件を満たすときに観察者が入力操作を指示したと検出する。任意の条件としては、例えば立体表示パネルから50cm以内の距離で、観察者が手の指を広げる又は狭める動作をしたときには視差調整の入力指示とすることが挙げられる(図49)。観察者が指を広げた量により立体画像コンテンツに設定する視差最大値ucjが入力される。
輪郭情報から手や顔、胴体の部位を検出する方法としては、予めに手や顔、胴体の部位となる輪郭形状をテンプレートデータとして保管しておき、画像から探索した輪郭形状とテンプレートデータを比較することで、画像から手や顔、胴体の部位を検出する方法が挙げられる。また、検出した部位同士の位置関係と人体構造を比較して、検出した部位が誤検出であるかを検証しても良い。これらのジェスチャ操作の検出機能は、OpenNI等に代表されるオープンソースのライブラリを使用することで簡易に実装できる。
なお、ジャスチャ操作は観察者位置計測部101のカメラを使用して入力検出ができるため、ボタン操作やタッチパネル操作と比較すると追加の部品が不要で低コストの効果がある。
入力操作判定部112は、観察者の入力操作を判定する機能を有する。入力操作判定では、入力操作検出部111で観察者が入力操作した立体画像コンテンツに設定される視差最大値ucjが視差調整量算出部104で算出した視差許容値uthの範囲内であるかを判定する(式(30))。
<=uth 式(30)
入力操作した視差最大値ucjが式(30)を満たす場合には、視差最大値ucjをそのまま保持し、式(30)を満たさない場合には、視差最大値ucjが視差許容値uthと等しくなるように設定する(図50)。
入力操作処理部113は、観察者の入力操作を処理する機能を有する。入力操作処理では、画像データ保管部105から取得した立体画像コンテンツの視差最大値uと入力操作判定部112で入力操作判定された視差最大値ucjとが等しくなるように、立体画像コンテンツの視差最大値uを変更する。変更された立体画像コンテンツの視差最大値uを視差調整処理部106へ送信することで、画像データの視差調整処理を実施する。
入力操作処理部113では、ユーザビリティ性を向上させるため、観察者の入力操作が検出されたことを立体表示パネル上に表示しても良い。表示する通知画面の一例を図51に記載する。図51[A]は、観察者の入力操作により、視差値が変更されたときに表示する通知画面の一例である。図51[B]は、観察者の入力操作により、指示された視差値が視差許容値以上である場合に表示する通知画面の一例である。
一般に立体表示パネル上で通知画面を表示する場合には、通知画面を目立つようにするため、通知画面の視差値を増加させ、立体表示パネルから通知画面が飛び出すように表示する(図52)。しかし、実施形態4における視差調整処理が施されている場合は、画面範囲によっては視差調整処理によって視差が低減されて、通知画面を飛び出して表示できない画面範囲が現れる。このため、通知画面の表示位置は、視差調整処理によって視差が低減されている画像範囲を避けて表示することが望ましい。通知画面の表示位置の一例を図53及び図54に示す。図53は、図52と同様に通知画面が中央に表示された例である。図53では、視差調整処理により視差が低減された画像範囲(立体〜平面画像の表示範囲)に通知画面の右側が表示されるため、通知画面の飛び出し量も低減され、通知画面が目立たなくなってしまう。このため、図54では、通知画面の表示位置を左側に移動させて、立体画像が表示できる範囲に通知画面を表示することで、通知画面を飛び出すように表示し、目立つようにしている。
以上より、観察者の入力操作に応じて立体画像コンテンツの視差調整が可能であり、かつ視差許容値u以上の視差値が入力された場合には、視差値を視差許容値u以下とすることで、3Dクロストークによる二重像や逆視の問題を解決して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法が提供できる。
なお、本実施形態5においても、実施形態1と同様に多視点方式やインテグラル方式等の様々な裸眼立体方式の立体画像表示装置に適用できる。また、本実施形態5の画像処理部を単独の画像処理装置として提供し、立体画像パネル部と組み合わせて立体画像表示装置の機能を実現できることは言うまでもない。
本実施形態5の立体画像表示装置における立体画像処理方法のフローチャートについて、図55を参照して説明する。
ステップS501からステップS505までは、実施形態1と同様の処理を実施する。
ステップS506は、入力操作検出部111を使用して、ステップS501で撮影した画像より、観察者の手振り身振りを検出して、観察者が指示した視差最大値ucjを入力する。
ステップS507は、入力操作判定部112を使用して、ステップS506で入力された視差最大値ucjがステップS504で算出した視差許容値uth以下であるかを判定する。ステップS506で入力された視差最大値ucjが視差許容値uth以上であれば、視差最大値ucjを視差許容値uthと等しい値に変更する。
ステップS508は、ステップS507で判定された視差最大値ucjを、ステップS505で取得した画像データの最大視差値uへ代入する。
ステップS509は、視差調整量算出部104を使用して、ステップS504で算出した視差許容値とステップS508で代入した画像データの最大視差値とから、視差調整量を算出する。例えば、ステップS509は、視差調整量算出部104又は視差調整処理部106を使用して、ステップS504で算出した視差許容値uthとステップS508で取得した画像データの視差最大値uとから視差調整量κを算出する。ステップS509では、視差許容値uthと画像データの視差最大値uを比較して、視差許容値uthが大きい場合には視差調整量κを1とおき、視差最大値uが大きい場合には視差調整量κを式(4)から算出する。
ステップS510は、視差調整処理部106を使用して、ステップS509で算出した視差調整量を参照して、ステップS505で取得した画像データの視差調整処理を実施する。例えば、ステップS510は、視差調整処理部106を使用して、ステップS509で算出した視差調整量κを参照し、ステップS505で取得した画像データの視差調整処理を実施する。ステップS510では、画像データの視差値uに視差調整量κを乗算して、視差調整処理後の画像データの視差値uを算出する。視差調整処理後の画像データの視差値uを参照して、ステップS505で取得した画像データから視差調整処理後の画像データを生成する。
ステップS511は、立体表示パネル部107を使用して、ステップS510で視差調整処理された画像データを立体表示パネル上に立体画像表示する。
ステップS512は、立体画像表示処理を中止するか、連続的に実行するかを設定する。立体画像表示装置15の電源がOFFされたときや、観察者によって立体画像表示の中断が指示されたときには、立体画像表示処理を中止する。立体画像表示処理を中止するイベントが無ければ、立体画像表示処理を連続的に実行する。ステップS512で立体画像表示処理が中止された場合は、立体画像表示処理を終了する。ステップS512で立体画像表示処理が連続的に実行される場合は、ステップS501の処理に戻り、ステップS501からステップS512までの処理を繰り返して実行する。
以上より、観察者が立体画像コンテンツの視差を手動で調整でき、かつ、観察者が視差の調整を手動で指示しても、3Dクロストークによる二重像や逆視の問題を解決して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法が提供できる。
なお、本実施形態5の立体画像処理方法においても、実施形態1と同様に、予め視差調整量κによって視差調整処理された画像データ群を画像データ保管部105へ保管しておくことで、立体画像表示処理時の計算時間を大幅に短縮できるのは言うまでもない。
換言すると、本実施形態5の立体画像表示装置は、観察者の観察位置を計測する観察者位置計測部と、観察者の観察位置と立体表示パネル位置との相対位置を算出する相対位置算出部と、立体表示パネルの視野角に対するデバイス特性データを保存するデバイス特性データ保管部と、前記デバイス特性データに基づき視野角に対して立体画像表示に最適な視差調整量を算出する視差調整量算出部と、画像データを保存又は受信する画像データ保管部と、前記視差調整量に従って前記画像データの視差調整処理を実施する視差調整処理部と、視差調整処理された画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部と、観察者の入力操作を検出する入力操作検出部と、観察者の入力操作を判定する入力操作判定部と、観察者の入力操作を処理する入力操作処理部(入力操作処理例としては、立体画像コンテンツの視差調整を手動で設定する等)と、を備えるものである。
本実施形態5によれば、観察者が視差の調整を手動で指示しても、3Dクロストークによる二重像や逆視の問題を解決して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供し、課題を解決する。
[実施形態6]
本実施形態6では、立体画像表示装置を使用する環境温度が変化しても、その温度に適切な視差調整処理を行い、3Dクロストークによる二重像や逆視の問題を解決して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供することが目的となる。
図56に立体画像表示装置16の構成図を示す。立体画像表示装置16は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、視差調整量算出部104と、画像データ保管部105と、視差調整処理部106と、立体表示パネル部107と、温度計測部114とを備えるものである。また、相対位置算出部102、視差調整量算出部104、視差調整処理部106を統合した処理部を、画像処理部156とする。
以下に、立体画像表示装置16に含まれる各部の機能を説明する。観察者位置計測部101と、相対位置算出部102と、画像データ保管部105と、視差調整処理部106と、立体表示パネル部107とは、実施形態1と同様である。
温度計測部114は、立体画像表示装置16の温度を計測する機能を有する。レンチキュラレンズは、ガラス等の無機材で作られることも可能であるが、製品コストの関係によりポリメチルメタクリレート(PMMA)、シクロポリオレフィン(COP)、ポリカーボネート(PC)に代表されるエンジニアリングプラスチック等の有機材で作られることが多い。このため、立体画像表示装置16を使用する環境温度が変化すると、プラスチック材で作成されたレンチキュラレンズは、一般的にガラス基板を用いる表示パネルとの材料の違い、すなわちプラスチック材料とガラス材料との熱膨張係数差により、レンチキュラレンズと表示パネルとの位置関係が変動する。
図57に、温度の下降につれてレンチキュラレンズが移動し、立体表示パネルの光学モデルが変化した図を示す。環境温度が下降すると、レンチキュラレンズは表示パネルの中心部へ収縮する。このため、図57の左眼用画素4L及び右眼用画素4Rからレンチキュラレンズ3(シリンドリカルレンズ3a)を通って観察者へ投光される光線20,21の傾きは、常温時よりも減少する。図57の光学モデル図より、環境温度が常温である場合の右眼領域70R、左眼領域70Lと、環境温度が下降した場合の右眼領域70R、左眼領域70Lとの空間の位置を比較すると、環境温度が下降するに従って、右眼領域と左眼領域は立体表示パネルへ近づくことが確認できる。
図58に、温度の上昇につれてレンチキュラレンズが移動し、表示パネルの光学モデルが変化した図を示す。環境温度が上昇すると、レンチキュラレンズは液晶パネルの両端部へ伸長する。このため、図58の左眼用画素4L及び右眼用画素4Rからレンチキュラレンズ3(シリンドリカルレンズ3a)を通って観察者へ投光される光線20,21の傾きは、常温時よりも増大する。図58の光学モデル図より、環境温度が常温である場合の右眼領域70R、左眼領域70Lと、環境温度が上昇した場合の右眼領域70R、左眼領域70Lとの空間の位置を比較すると、環境温度が上昇するに従って、右眼領域と左眼領域は立体表示パネルから遠ざかることが確認できる。
本実施形態6では、環境温度の変化に伴って立体表示パネルの光学モデルが変化する影響を考慮して、視差調整処理を実施する。温度計測部114は、立体表示パネル付近の温度を計測することで、温度変化による立体表示パネルの光学モデルの状態を把握する。温度計測には、汎用の抵抗温度計などが使用でき、この温度計を立体画像表示装置に設置することで、立体表示パネルの環境温度を計測する。
図56に示すデバイス特性データ保管部103は、立体画像表示装置を使用する環境温度に対応する3Dクロストーク特性データを予め保存する。環境温度に対応する特性データに関して以下に述べる。
図59に、環境温度が低温である場合の3Dクロストーク特性データの一例を示す。立体画像表示装置16では、3Dクロストーク特性データに依存して右眼領域・左眼領域・3Dクロストーク領域が決定される。一例として、立体視領域を3Dクロストーク量のβ31以下とすれば、視野角θ31〜θ35の領域までが3Dクロストーク領域となり、それ以外の視野角は右眼領域・左眼領域となる。
この場合の立体画像表示装置16の光学モデルを図60に示す。図60では、視野角θ31〜θ35の部分が3Dクロストーク領域となるため、図57よりも一段と右眼領域70Rと左眼領域70Lとの領域は狭まる。右眼55Rにとっては、図57と同様に右眼領域70Rが正視領域であり、左眼領域70L,72Lが逆視領域で、それ以外の領域が3Dクロストーク領域となる。
図61に、図60に示す領域81の拡大図を示す。Z軸上の任意の値であるZ,Zにおける右眼領域70R・左眼領域72L・3Dクロストーク領域の領域幅は異なるり、またZ軸の位置に依存して正視領域・逆視領域・3Dクロストーク領域の領域幅は変化することがわかる。
また、図62に、Z軸上の任意の値Zにおける正視領域・逆視領域・3Dクロストーク領域の領域幅と図59で示した視野角との関係図を示す。右眼55Rを基準にすると、視野角θ30〜θ31の領域が逆視領域に、θ31〜θ35の領域が3Dクロストーク領域に、θ35〜θ36の領域が正視領域となる。また視野角θ33の位置で最も3Dクロストーク量が大きくなり、視野角θ32〜θ34の領域は図59より、3Dクロストーク量がβ32以上の領域となる。
以上、環境温度に対応する特性データに関して述べたが、このデータの一例として、環境温度が−20℃〜60℃の範囲で5℃おきの3Dクロストーク特性データを用いるといったような、立体画像表示装置16の仕様に応じて任意の内容が適用可能である。また、3Dクロストーク特性データを算出するのに必要なパラメータを保管しておき、環境温度に応じて3Dクロストーク特性データを求めるプログラムを備えることも可能である。ここで、パラメータの一例として、表示パネルに具備されたレンチキュラレンズの実効的な線膨張係数、パネルサイズ、パネル解像度などを用いることができる。
図56に示す視差調整量算出部104は、前記温度計測部114で計測した温度に対応する3Dクロストーク特性データを前述したデバイス特性データ保管部103から取得し、その3Dクロストーク特性データに基づき視野角に対して立体画像表示に最適な視差調整量を算出する。視差調整量の算出処理及びその後の視差調整処理は、実施形態1と同様に実施する。これより、立体画像表示装置16を使用する環境温度に適切な視差調整処理が実施できる。
なお、本実施形態6においても実施形態1と同様に多視点方式やインテグラル方式等の様々な裸眼立体方式の立体画像表示装置に適用できる。また、本実施形態6の画像処理部を単独の画像処理装置として提供し、立体画像パネル部と組み合わせて立体画像表示装置の機能を実現できることは言うまでもない。
本実施形態6の立体画像表示装置16における立体画像処理方法のフローチャートについて、図63を参照して説明する。
ステップS601からステップS602までは、実施形態1と同様の処理を実施する。
ステップS603は、温度計測部114で立体表示パネル付近の温度を計測する。
ステップS604は、デバイス特性データ保管部103から、ステップS603で計測した温度に対応するデバイス特性データを取得する。
ステップS605からステップS610は、実施形態1のステップS104からステップS109と同様の処理を実施する。
以上より、立体画像表示装置16を使用する環境温度が変化しても、その温度に適切な視差調整処理を行い、3Dクロストークによる二重像や逆視の問題を解決して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
なお、本実施形態6の立体画像処理方法においても、実施形態1と同様に、予め視差調整量κによって視差調整処理された画像データ群を画像データ保管部105へ保管しておくことで、立体画像表示処理時の計算時間を大幅に短縮できるのは言うまでもない。
換言すると、本実施形態6の立体画像表示装置は、観察者の観察位置を計測する観察者位置計測部と、観察者の観察位置と立体表示パネル位置との相対位置を算出する相対位置算出部と、立体表示パネルの視野角に対するデバイス特性データを保存するデバイス特性データ保管部と、前記デバイス特性データに基づき視野角に対して立体画像表示に最適な視差調整量を算出する視差調整量算出部と、画像データを保存又は受信する画像データ保管部と、前記視差調整量に従って前記画像データの視差調整処理を実施する視差調整処理部と、視差調整処理された画像データを前記相対位置に応じて右眼・左眼に投影する立体表示パネル部と、使用環境温度を計測する温度計測部と、を備えるものである。
本実施形態6によれば、観察者の観察位置とデバイス特性データに加えて、使用環境温度と立体表示パネルの温度特性データを考慮して視差調整量を算出することにより、立体画像表示装置を使用する環境温度に対して、適切な視差調整処理を実現する。これより、立体画像表示装置を使用する環境温度が変化しても、その温度に適切な視差調整処理を行い、3Dクロストークによる二重像や逆視の問題を解決して、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供し、課題を解決する。
[実施形態7]
本実施形態7では、観察者の立体表示パネルへの観察状況に応じて、視野角に対する視差許容値のモード切替を実施することで、良好な観察状況である場合には、3Dコンテンツが保有する視差値を最大限に保持し、臨場感のある立体画像を表示する立体画像表示装置を提供することが目的となる。
図69に、立体画像表示装置17の構成図を示す。立体画像表示装置17は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、視差調整量算出部104と、画像データ保管部105と、視差調整処理部106と、立体表示パネル部107と、視差変化量許容値データ保管部108と、視差一定領域特定部としての視差一定領域特定データ保管部109と、視差調整モード切替部170を備えるものである。また、相対位置算出部102、視差調整量算出部104、視差調整処理部106、視差調整モード切替部170を統合した処理部を、画像処理部157とする。
以下に、立体画像表示装置17に含まれる各部の機能を説明する。観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、視差調整量算出部104と、画像データ保管部105と、視差調整処理部106と、立体表示パネル部107と、視差変化量許容値データ保管部108と、視差一定領域特定データ保管部109については、実施形態3のそれらと同様である。
視差調整モード切替部170は、観察者と立体表示パネルとの位置関係や位置の時間変化などの観察状況に応じて、視野角に対する視差許容値のモード切替を実施する機能を有する。視差調整モードの例としては、観察状況に応じて、3Dコンテンツが保有する視差値を最大限に保持する視差調整モードAと、実施形態3と同様の視差許容値を持つ視差調整モードBを備える。
視差調整モードの切替判定処理は、観察者と立体表示パネルとの相対位置と、その移動速度から判定する。一例として、移動速度が所定値未満とほぼ静止している状態で、相対位置が正視領域又は逆視領域(3Dクロストーク値が低く良好な立体画像が閲覧可能な観察領域)に所定時間以上滞在しているような、静的かつ好適位置での観察状況であると判定された場合に、実施形態3に示された通常の視差調整モードBから上記した視差調整モードAに切替える。この状態から、観察者の移動速度が所定値以上になるような、又は相対位置が3Dクロストーク領域となる視野角θ〜θの範囲内に入るような、動的及び不適切位置での観察状況と判定された場合には、前記の視差調整モードAから視差調整モードBに切替わる。
視差調整モードAにおける相対位置の視野角に対する視差許容値の一例を、図70に示す。また、3Dクロストーク量に対する2重像の発生、立体画像への影響、視野角範囲、領域名、視差許容値の絶対値との関係を、図71に示す。図70及び図71より、視野角に対する視差許容値の絶対値は、3Dクロストーク量がβ以上となって立体画像が認識困難となる視野角範囲θ〜θを除いて、視差の最大値γとなる。したがって、高品質な立体画像が視認できる視差角範囲θ〜θ・θ〜θだけでなく、立体画像の認識可能な視野角範囲θ〜θ・θ〜θにおいても3Dコンテンツが保有する視差値は最大限に保持される。
また、視差調整モードの切替時に、視差許容値の大幅変更に伴い画像データの視差値が急激に変化する場合には、視差値の時間変化量に制限をかけるようにしても良い。視差許容値の大きい視差調整モードAから視差許容値の小さい視差調整モードBへの切替において、視差許容値が大幅に変更される例を図72に示す。ここで、図72の実線は視差調整モードAの視差許容値を、一点鎖線は視差調整モードBの視差許容値をそれぞれ表す。なお、視差調整モードBの視差許容値は、実施形態3に記載した視差許容値と同様である。
視差調整モードの切替により、図72の実線から一点鎖線へ視差許容値は変更されるが、このとき画像データの視差値の変化量が視野角に大きく依存する。例えば視野角θ〜θに位置する場合は視差調整モードAの視差量γ1から視差調整モードBの視差量γ3に変化するが、視野角θに位置する場合は視差調整モードAの視差量γ1から視差調整モードBのγ2に変化し、この変化量はθ〜θと比べて大きい。このような視野角θ4における視差変化量は、観察者へ違和感を与える可能性が高く、視差変化量が任意の閾値を超過する場合には、視差値の時間変化量に制限をかけるようにしても良い。
具体的には、視差許容値の大幅な変更に伴う画像データの視差値の変化量が、実施形態2に記載の視差変化量の許容値du/dtを超過した場合には、視差値の変化量を視差変化量の許容値du/dt以下に制限する。視差制限処理では、始めに視差調整モード切替時における画像データの視差値の変化量を算出し、視差変化量の許容値du/dtと比較する。観察者が画像データの視差変化を認識できる画像フレームレートを10fps〜20fpsと仮定すると、観察者が視差変化を認識できる時間間隔は0.05秒〜0.1秒となる。
視差調整モード切替時における画像データの視差値の変化量は、図73[A]に一例を示すように視差調整モードAにおける画像データの視差値から視差調整モードBにおける画像データの視差値を減算した値に、観察者が視差変化を認識可能な時間間隔を除算して算出する。この算出式を式(80)に示す。
du/dt=(uf7−uf3)/dt 式(80)
ここで、du/dtは視差値の時間変化量を、uf7(x,y)は視差調整モードAにおける画像データの視差値を、uf3(x,y)は視差調整モードBにおける画像データの視差値を、dtは観察者が視差変化を認識できる時間間隔を表す。
次に算出した視差値の時間変化量du/dtと視差値時間変化量の許容値du/dtを比較し、du/dtがdu/dt以下となるように視差調整処理を実施する。du/dtがdu/dtを超過した場合には、視差調整処理による視差値の時間変化を小さくし、徐々に視差調整モードAの視差許容値から視差調整モードBの視差許容値へ適合するように画像データの視差値を変更していく。
視差調整モードの切替処理により、観察時間に対する視差値の変化を図73[A]と図73[B]に示す。図73[A]は視差値の時間変化量に制限を加えない場合、図73[B]は視差値の時間変化量に制限を加える場合について、それぞれ視差調整モードの切替時に観察者が視認する視差変化を表す。ここで、図73[B]における視差値時間変化量の許容値dua/dtは、図73[A]におけるdu/dtの1/5と設定している。図73[A]では、観察者は視差値がγ1からγ2へ急激な変化を伴う画像を視認するが、図73[B]では、観察者は視差値がγ1からγ2まで5倍の時間で徐々に変化する画像を視認することで観察時の違和感を低減することができる。
また上記では、視差調整モードの切替時に、視差許容値の大幅変更に伴い画像データの視差値が急激に変化する一例を示したが、観察者と立体表示パネルとの相対位置の移動速度が急激に変化しても、同様に視差許容値が大幅変更に伴う画像データ視差値の急激変化が起こることもある。このような状況においても、同様に視差値の時間変化に制限をかけるようにしても良い。
本実施形態7の立体画像表示装置における立体画像処理方法のフローチャートについて、図74を参照して説明する。
図74のフローチャートにおけるステップS701〜ステップS702は、実施形態3と同様の処理を実施する。
ステップS703は、視差調整モード切替部170の機能により、ステップS702で算出した観察者と立体表示パネルとの相対位置と相対位置の移動速度とから、静的かつ好適位置での観察状況か否かを判定する。静的かつ好適位置での観察状況であると判定した場合にはステップS707の処理へ進み、そうで無いと判定した場合にはステップS704の処理へと進む。
ステップS704〜ステップS706は、実施形態3のステップS303〜ステップS305と同様の処理を実施する(視差調整モードB)。
ステップS707は、臨場感のある立体画像を表示するために、ステップS704〜ステップS706で算出した視差許容値とは異なり、3Dコンテンツが保有する視差値を最大限に保持した第2の視差許容値を算出する(視差調整モードA)。第2の視差許容値の一例としては、図70に記載した視差許容値のように、立体画像の認識可能な視差角範囲では、視差許容値を最大限に保持することが挙げられる。
ステップS708〜ステップS713は、実施形態3のステップS306〜ステップS311と同様の処理を実施する。
以上より、視差調整モードの切替を実施することで、静的かつ好適位置での観察状況である場合には、3Dコンテンツが保有する視差値を最大限に保持し、臨場感のある立体画像を表示する立体画像表示装置が提供できる。なお、本実施形態7においても実施形態1と同様に多視点方式やインテグラル方式等の様々な裸眼立体方式の立体画像表示装置に適用できるのは言うまでもない。
[実施形態8]
本実施形態8では、観察者の観察位置と立体表示パネルとの相対位置に応じた任意視点画像生成処理と視差調整処理を組合せることにより、3Dクロストークによる2重像を軽減するだけでなく、相対位置の移動に応じて運動視差も提示する立体画像表示装置を提供することが目的となる。
図75に、立体画像表示装置18の構成図を示す。立体画像表示装置18は、観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、視差調整量算出部104と、画像データ保管部105と、視差調整処理部106と、立体表示パネル部107と、任意視点画像生成部190とを備えるものである。また、相対位置算出部102、視差調整量算出部104、視差調整処理部106、任意視点画像生成部190を統合した処理部を画像処理部158とする。
以下に、立体画像表示装置18に含まれる各部の機能を説明する。観察者位置計測部101と、相対位置算出部102と、デバイス特性データ保管部103と、視差調整量算出部104と、画像データ保管部105と、視差調整処理部106と、立体表示パネル部107とは、実施形態1と同様である。
任意視点画像生成部190は、観察者の観察位置と立体表示パネルとの相対位置と、視差調整量算出部104で算出された視差調整量とを参照して、仮想的なカメラの視点位置を算出し、画像データ保管部105から取得した立体画像コンテンツに対して、このカメラ視点位置から撮影した画像データを生成する機能を有する。
ここで、まず運動視差と任意視点画像生成との関係について説明する。
運動視差とは、立体物を閲覧している観察者の観察位置が移動した際に、立体物が一定方向へ規則的に変化して視認されることを示す。観察者と立体物が近距離の場合には観察位置の移動に伴う立体物の見え方の変化が増大し、観察者と立体物が遠距離の場合には立体物の見え方の変化が減少する。これより、観察者は観察位置の移動に伴う立体物の見え方の変化から観察者と立体物との距離感を知覚する。
一般に立体画像表示装置では、観察者の左右の眼へ異なる視差の画像データを投影して両眼視差を提示する。多視点方式やインテグラル方式のような複数視点の画像を空間投影する方式では、両眼視差に加えて観察者が移動することで運動視差を認知することができる。一方で、両眼視差が無い場合、言い換えると観察者の左右の眼へ同一視差の画像データを投影する場合においても、観察者の動きに応じた画像データを表示することで運動視差を提示することも可能である。
この場合の仮想的なカメラの視点位置と視野角との関係を、図76に示す。図76の縦軸は立体画像コンテンツから画像データを取得する際に設定される仮想的なカメラの視点位置を表し、横軸は観察者の観察位置と立体表示パネルとの相対位置から算出された視野角を表す。縦軸のVθ〜Vθ、横軸のθ〜θについては後述する。
仮想的なカメラの視点位置について概念図を図77に示す。図77の中心部には立体画像コンテンツ90が存在し、その周囲に仮想的なカメラ60,61,63,65,66が設置されている。仮想的なカメラ60,61,63,65,66を設置した視点位置(Vθ,Vθ,Vθ,Vθ,Vθ)から立体画像コンテンツ9を撮影することで、任意視点位置における画像データ90,91,93,95,96を取得する。この仮想的なカメラ60,61,63,65,66の視点位置情報は、それぞれの画像データ90,91,93,95,96の属性情報として、画像データ90,91,93,95,96へ付加しても良い。
図77では、立体画像コンテンツの周囲へ円状に仮想的なカメラを設置した例を示したが、仮想的なカメラは球状に設置しても良く、また立体画像コンテンツと仮想的なカメラとの距離を任意に変更しても良い。このように仮想的なカメラを設置することで、立体画像コンテンツを3次元空間上の任意視点位置から撮影した画像データが取得できる。図77の仮想カメラの視点位置は、X軸−Z軸平面上の角度Vθと、Y軸−Z軸平面上の角度Vφと、仮想的なカメラの視点位置から立体表示パネルの中心位置までの距離VRと表記する。
観察者の観察位置と立体画像表示装置の立体表示パネルとの相対位置の概念図を、図78に示す。図78の立体表示パネル107aの面上には、図77の立体画像コンテンツ9を表示している。ここで相対位置は実施形態1と同様にして、X軸−Z軸平面上の相対位置の角度を視野角θで表記する。また、Y軸−Z軸平面上の角度を視野角φ、観察者60a,61a,63a,65a,66aの観察位置から立体表示パネル107aの中心位置までの長さを距離Rと表記する。
立体表示パネル107aの面上に表示した立体画像コンテンツ9と立体表示パネル107aとの位置関係から図77と図78との座標軸を一致させて、図77の仮想カメラ60,61,63,65,66の視点位置(Vθ,Vθ,Vθ,Vθ,Vθ)と図78の相対位置(θ,θ,θ,θ,θ)との位置関係を対応付ける。図76はこの関係性を示したものである。図76では、相対位置の視野角θに対してX軸−Z軸平面上の角度Vθの例を示しているが、相対位置の視野角φに対するY軸−Z軸平面上の角度Vφ、相対位置の距離Rに対する仮想的なカメラの視点位置から立体表示パネルの中心位置までの距離VRについても同様の関係で示すことができる。
これにより、相対位置が移動した際に、観察者は、実際の立体物の見え方の変化を再現する画像データを視認するため、運動視差を知覚する。Y−Z軸面上の視野角φにおける運動視差の提示方法も、X−Z軸面上の視野角θと同様である。また、観察者の観察位置から立体表示パネルの中心位置までの距離Rの変化に伴って、仮想的なカメラの視点位置から立体表示パネルの中心位置までの距離VRを変更することで(画像データに表示される立体画像コンテンツの表示倍率を変更しても良い)、相対位置の距離変化に伴う運動視差も提示できる。図76の関係図から運動視差の提示方法を示したが、図76の提示方法では、観察者の左右の眼に同一視差の画像データを表示しているため、両眼視差は提示できない。
以上が、運動視差と任意視点画像生成との関係の説明である。
本実施形態8は、観察者へ両眼視差と運動視差を提示する構成を示すものである。立体画像表示装置における両眼視差の提示は実施形態1と同様に視差調整処理して、観察者の左右の眼に異なる視差の画像データを表示する。左右の画像データの視差値は立体画像表示装置のデバイス特性データに従って視差許容値を算出し、その視差許容値以下となるように画像データの視差調整処理を実施する。
具体的には、実施形態1で説明し図80に示すような、視野角に対する画像データの視差値の関係を、図76で示した視野角に対する仮想的なカメラの視点位置の関係にマージすると、図79に示すような両眼視差を考慮した視野角に対する仮想的なカメラ視点位置の関係が得られる。図79の実線は観察者の左眼用画像データを撮影した際の仮想的なカメラの視点位置を表し、一点鎖線は観察者の右眼用画像データを撮影した際の仮想的なカメラの視点位置を表す。ここで、図79に示す左眼用と右眼用の仮想的なカメラの視点位置の差(例えば7a,7b)は、図80に示す画像データの視差値(例えば8a,8b)と等しくなるように調整する。
実施形態1で説明したとおり、図80の視野角に対する画像データの視差値の関係は立体表示パネルの逆視を考慮し、逆視領域の視差値が正視領域の視差値を反転したものとなる。したがって、図76と図80をマージした図79では、逆視領域における左眼用と右眼用の仮想的なカメラの視点位置が、正視領域における左眼用と右眼用の仮想的なカメラの視点位置を反転したものとなる。
図81に、仮想的なカメラの視点位置と視野角との関係の概念図を示す。図81の灰色のカメラは観察者60a,61a,63a,65a,66aの左眼用画像データを撮影した際の仮想的なカメラ60L,61L,63L,65L,66Lの視点位置を表し、白色のカメラは観察者60a,61a,63a,65a,66aの右眼用画像データを撮影した際の仮想的なカメラ60R,61R,63R,65R,66Rの視点位置を表す。ここで、逆視領域となる視野角θと視野角θにおける左眼用と右眼用との仮想的なカメラの視点位置は、正視領域となる視野角θと視野角θにおける左眼用と右眼用との仮想的なカメラの視点位置を反転したものとなる。
また、左眼用の仮想的なカメラ60L,61L,63L,65L,66Lの視点位置と右眼用の仮想的なカメラ60R,61R,63R,65R,66Rの視点位置との差が、画像データの視差値60b,61b,63b,65b,66bとなる。このように実施形態1で算出した画像データの視差値を参照して、観察者の左右の眼に表示する画像データ間の視点位置を調整する。
図81では、図75に示す任意視点画像生成部190において、図80に示す視野角に対する画像データの視差値の関係に基づき、立体表示パネルの逆視領域となる視野角範囲で左眼用と右眼用との仮想的なカメラの視点位置を反転しているが、これに限定されない。例えば、図82に示すように、左眼用と右眼用との仮想的なカメラの視点位置を反転させずに画像を生成することも可能である。この場合は、図75に示す視差調整処理部106において、立体表示パネルの逆視領域となる視野角範囲では、左眼用画像と右眼用画像を反転させれば良い。
両眼視差を考慮した視野角に対する仮想的なカメラ視点位置の関係を示す図79では、各視点位置に2台の仮想的なカメラを用いた例を示している。しかし、仮想的なカメラの数はこれに限定されず3台以上の仮想的なカメラでも同様に適用できる。
仮想的なカメラの数は、立体表示パネルの視点領域の数に対応する。一般的に裸眼式の立体画像表示装置は、立体表示パネルにより立体画像を投影する空間領域を分割し、分割した空間領域ごとに視差の異なる画像を投影することで、観察者の左右の眼に視差の異なる画像を投影する。この立体表示パネルによって分割された空間領域を視点領域と呼ぶ。実施形態1においては、2視点の立体表示パネルの例として、図5で説明したように右眼領域と左眼領域の、計2つの視点領域を有する。また、4視点の立体表示パネルは図27で説明したように第1視点と第2視点と第3視点と第4視点用画像を表示する視点領域の、計4つの視点領域を有する。
図83は、4台の仮想的なカメラを用いた場合における視野角に対する仮想的なカメラ視点位置を示す。図83において、実線は第1視点画像用の仮想的なカメラの視点位置を示し、一点鎖線は第2視点画像用の仮想的なカメラの視点位置を示し、点線は第2視点画像用の仮想的なカメラの視点位置を示し、破線は第4視点画像用の仮想的なカメラの視点位置を示す(図84乃至図86も同様である。)。ここで、説明を分かりやすくするために、まず本カメラ視点位置は、第1隣接視点間の画像(例えば、第1視点と第2視点、第2視点と第3視点)のみが観察者に向けて投影され、第2隣接視点間の画像(例えば、第1視点と第3視点)や第3隣接視点間の画像(例えば、第1視点と第4視点)は観察者へ投影されないように立体表示パネル及び観察位置を設定するものとする。
図83は、この設定により図79の2台の仮想的なカメラの概念を4台に拡張した考え方となり、各視野角に対して4台の仮想的なカメラの中から、常に選択された2台の仮想的なカメラで撮影した画像データが観察者へ投影された状態となっている。これにより、視野角に応じて異なる2視点の画像を空間投影した両眼視差と、任意視点画像生成による運動視差とを、観察者に提示することができる。
図75との関係を踏まえてまとめると、この場合の特徴は次の通りとなる。任意視点画像生成部190は、相対位置算出部102で算出した相対位置と、視差調整量算出部104で算出された視差調整量とを参照して、立体表示パネルが観察者側へ投影するN視点分の各視点領域の中から前記相対位置に応じて2つの視点領域を検出し、該視点領域に相当する2視点の仮想的なカメラの視点位置を算出し、該カメラから撮影した画像データを表示する。
次に、図83で説明した第1隣接視点間画像だけでなく、第1、第2、第3隣接視点間の画像の一部もしくは全部が観察者に向けて投影できるように立体表示パネル及び観察位置を設定した場合についての視野角に対する仮想的なカメラ視点位置を図84に示す。各視野角に対して常に4台の仮想的なカメラが選択され、これにより、視野角に応じて異なる2以上の複数視点の画像を空間投影した両眼視差と、任意視点画像生成による運動視差とを、観察者に提示することができる。
図75との関係を踏まえてまとめると、この場合の特徴は次の通りとなる。任意視点画像生成部190は、相対位置算出部102で算出した相対位置と、視差調整量算出部104で算出された視差調整量とを参照して、立体表示パネルが観察者側へ投影するN視点分の各視点領域に相当するN視点の仮想的なカメラの視点位置を算出し、該カメラから撮影した画像データを表示する。
図84の例では、第1視点と第2視点と第3視点と第4視点画像用の仮想的なカメラの視点位置が全て異なる例を記載したが、これに限定されるものではない。第1隣接視点間画像だけでなく、第1、第2、第3隣接視点間の画像が投影される場合においても、例えば、任意の視野角範囲に対しては第1視点と第4視点画像用の仮想的なカメラの視点位置を同一にし、第2視点と第3視点画像用の仮想的なカメラの視点位置を同一にしても良い。この例を図85に示す。図85は図83と類似した仮想的なカメラの視点位置となる。
図86は、隣接視点間の仮想的なカメラの視点位置が近接する場合における仮想的なカメラ視点位置を示す。一般的に仮想的なカメラの視点位置が近接する際には、隣接視点間の画像同士の視差値が小さくなるため、3Dクロストーク値が多大となる視野角範囲θからθにおいても3Dクロストークによる2重像の影響は少ない。したがって、3Dクロストーク値が大きくなる視野角範囲θからθにおいても、隣接視点間の画像同士の視差値を低減させること無いので、3Dクロストーク値が小さくなる視野角範囲θからθと同様な仮想的なカメラの視点位置にしても良い。
また、観察者と立体表示パネルとの相対位置を示す視野角を参照して、N視点の仮想的なカメラの中から観察者へ投影されない画像を撮影する仮想的なカメラを検出し、検出した仮想的なカメラの視点位置を前記相対位置で非連続的に移動することで、逆視を防止しても良い。例えば、図86の視野角θ13では、第1視点画像用の仮想的なカメラで撮影した画像は観察者へ投影されないため、視野角θ13において第1視点画像用の仮想的なカメラの視点位置を大幅に変更し、非連続的に仮想的なカメラ視点位置を移動している。このように仮想的なカメラの視点位置を非連続的に移動することで、第1視点と第2視点、第2と第3、第3と第4はもちろん、第4視点と第1視点においても、逆視の無い立体画像を表示できる。
図75との関係を踏まえてまとめると、この場合の特徴は次の通りとなる。任意視点画像生成部190は、相対位置算出部102で算出した相対位置と、視差調整量算出部104で算出された視差調整量とを参照して、N視点の仮想的なカメラの中から観察者へ投影されない画像を撮影する仮想的なカメラを検出し、検出した仮想的なカメラの視点位置を前記相対位置で非連続的に移動することで、観察者への逆視画像の投影を防止する。
以上より、本実施形態8では、実施形態1と同様に観察者の観察位置と立体表示パネルとの相対位置の視野角に応じて画像データの視差値を調整し、かつ相対位置の視野角に応じて仮想的なカメラの視点位置を変更した画像データを表示することで両眼視差と運動視差を提示できる。
本実施形態8の立体画像表示装置における立体画像処理方法のフローチャートについて、図87を参照して説明する。図87のフローチャートにおけるステップS801〜ステップS806は実施形態1と同様の処理を実施する。
ステップS807は、任意視点画像生成部190を使用して、ステップ2で算出した相対位置とステップ6で算出した視差調整量とを参照して、運動視差量として立体画像コンテンツから画像データを取得した際の仮想的なカメラの視点位置を算出する。
ステップS808〜ステップS810は実施形態1のステップS107〜ステップS109と同様の処理を実施する。
図79では、相対位置の視野角θに対してX軸−Z軸平面上の角度Vθの例を示したが、相対位置の視野角φに対するY軸−Z軸平面上の角度Vφについても同様である。水平視差のみの立体表示装置においても、水平垂直視差画像Vφを用いることで水平垂直視差の実現が容易となる。
以上より、観察者の観察位置と立体表示パネルとの相対位置に応じて、任意視点位置の画像データを表示することにより、3Dクロストークによる2重像を軽減するだけでなく、相対位置の移動に応じた立体画像コンテンツの運動視差と両眼視差を提示する立体画像表示装置を提供できる。
前記の本実施形態8の一例では、立体画像コンテンツの周囲に仮想的なカメラを設置し、立体画像コンテンツを任意視点位置から撮影した画像データを使用する例を示したが、立体画像コンテンツの撮影環境によっては、左眼用画像の1視点と右眼用画像の1視点との計2視点の画像データしか使用できない場合もある。実施形態1の視差調整処理部106の機能により、計2視点の画像データを使用して、2視点間の範囲内にある視点位置から撮影した画像データは生成できるが、2視点間の範囲外にある視点位置から撮影した画像データの生成は困難となる。したがって、計2視点の画像データしか使用できない場合には、2視点間の範囲内で撮影した画像データのみを使用して運動視差を提示する必要がある。
全ての任意視点位置の画像データが使用可能な場合における仮想的なカメラの視点位置と視野角の関係を図88に、画像データの視差値と視野角との関係を図89に示す。図88において、実線は左眼に表示する画像データの仮想的なカメラの視点位置を示し、一点鎖線は右眼に表示する画像データの仮想的なカメラの視点位置を示す。図88と図89の視野角範囲θからθの関係図は、図79と図80の関係図と同様である。図88の視野角範囲θからθでは、仮想的なカメラの視点位置の角度VθからVθの画像データを、視野角範囲θからθ17では視点位置の角度VθからVθ17の画像データを、視野角範囲θ17からθ27では視点位置の角度Vθ17からVθ27の画像データを表示する。
次に、計2視点の画像データしか使用できない場合における仮想的なカメラの視点位置と視野角の関係を図90に示す。図88において、実線は左眼に表示する画像データの仮想的なカメラの視点位置を示し、一点鎖線は右眼に表示する画像データの仮想的なカメラの視点位置を示し、実線と一点鎖線とが重なった部分は右眼と左眼に表示する画像データの仮想的なカメラの視点位置を示す(図91も同様である。)。ここで、2視点の画像データにおける仮想的なカメラの視点位置はVθとVθとする。2視点の画像データから、仮想的なカメラの視点位置範囲VθからVθまでの画像データは生成できるので、この視点間の範囲内の画像データを使用して運動視差を提示する。
図90の視野角範囲θからθと視野角範囲θ17からθ27では、仮想的なカメラの視点位置範囲VθからVθまでの画像データを表示する。視野角範囲θからθ17では、仮想的なカメラの視点位置をVθから視点位置Vθへ移動する。視点位置の移動は、視野角範囲θからθ17の中央部にある視野角範囲θ11からθ16のみで実施しても良い。当然ながら、視点位置の移動は実施形態2に記載した視差値の変化許容値以下とするため、視差値の変化許容値を超過する場合には、視点位置の移動を実施する視野角範囲を拡張しても良い。
視点位置の移動を実施する視野角範囲θ11からθ16では、相対位置の変化に対する運動視差が反対方向となるが、視野角範囲θからθと視野角範囲θ17からθ27では観察者へ運動視差を提示できる。以上のように、2視点間内にある任意視点画像の画像データを繰返し表示することで、計2視点の画像データしか使用できない場合においても、多くの視野角範囲において観察者へ運動視差を提示できる。
また、図90では、視野角範囲θからθと視野角範囲θ17からθ27で画像データを繰返し表示する例を記載したが、繰返し表示する視野角範囲は、任意に変更しても良い。繰返し表示する視野角範囲を変更した際の仮想的なカメラの視点位置と視野角の関係を、図91に示す。図91では、立体表示パネル部の正視領域となる視野角範囲θからθと、視野角範囲θ13からθ17と、視野角範囲θ23からθ27とで、仮想的なカメラの視点位置範囲VθからVθの画像データを繰返し表示して運動視差を提示する。
図75との関係を踏まえてまとめると、この場合の特徴は次の通りとなる。任意視点画像生成部190は、画像データ保管部105に保管された左眼用画像データと右眼用画像データとを参照して、各々の画像データを撮影した際の仮想的なカメラの視点位置を検出し、その仮想的なカメラの視点位置間の範囲内で撮影される画像データを生成する。次に、相対位置算出部102で算出した相対位置と、視差調整量算出部104で算出された視差調整量とを参照して、生成した画像データを繰返し表示することで、左眼用画像データと右眼用画像データしか使用できない場合であっても観察者へ運動視差を提示する。
以上より、計2視点の画像データしか使用できない場合においても、2視点間内にある任意視点位置の画像データを繰返し表示することで、多くの視野角範囲において、3Dクロストークによる2重像を軽減するだけでなく、相対位置の移動に応じた立体画像コンテンツの運動視差と両眼視差を提示する立体画像表示装置が提供できる。
[他の実施形態]
全ての上記実施形態における視差調整量算出部104では、デバイス特性データ保管部103に保管されたデバイス特性データを使用して、視差調整量を算出する例について記載したが、デバイス特性データが取得できない状況においても、視差調整処理が実現できるようにデバイス特性データを使用せずに視差調整量を算出しても良い。この場合、デバイス特性データを使用した場合の視差調整処理と比べて視差調整量の精度は低下するものの、3Dクロストーク量が小さく正視領域幅が大きい立体表示特性を有する立体表示パネルを用いることで、観察者が移動した場合であっても3Dクロストークによる二重像の影響を軽減する視差調整処理が実用可能なレベルで実施できる。
デバイス特性データを使用せずに視差調整量を算出する一例として、観察者自身が主観的に視差調整量を設定する例が挙げられる。観察者は、第一の設定として、立体画像表示装置の立体表示パネルから投影される立体画像を観察しながら、観察位置(観察距離Zと視野角θ)に応じて正視領域と3Dクロストーク領域と逆視領域を設定する。ここで、本設定における観察位置は、視差調整量の精度向上のために、複数の位置で実施されることが望ましい。また、設定に際しては、立体画像表示装置に具備されたキーボードやタッチパネル等の入力装置を用いることができる。
第二の設定として、3Dクロストーク領域の中心位置と最端位置(3Dクロストーク領域と正視領域との境界位置)との中間位置近傍において、観察者が立体画像コンテンツを視認できる視差許容値を設定する。視差調整量算出部104は、第一及び第二の設定値を用いて、観察者が視差許容値を設定した3Dクロストーク領域の中心位置と最端位置との中間位置近傍で視差許容値をなだらかに繋ぐことで、すべての視野角に対する視差許容値を算出する。視差許容値から視差調整量の算出方法は、実施形態1と同様に、画像データの視差最大値と視差許容値を比較して、視差調整量を算出する。
なお、上記した第一の設定のみを用いて正視領域と3Dクロストーク領域と逆視領域の視差許容値をなだらかに繋いて、すべての視野角に対する視差許容値を算出することも可能である。さらに、第一の設定値又は第二の設定値は、デバイス特性データ保管部103に保管しておくことも可能であるし、デバイス特性データ保管部103を無くして、視差調整量算出部104に記憶させることも可能である。
その他の視差調整量を算出する一例としては、立体画像コンテンツを表示する立体画像表示装置の立体表示パネル部107のデバイス特性データが未知な場合でも、予め立体表示パネルの画面サイズや最適視聴距離等の仕様データと関連させて、複数の立体表示パネルのデバイス特性データをデバイス特性データ保管部103に保管しておき、立体画像コンテンツを表示する際に、表示する立体表示パネルの仕様データと類似する仕様データと関連付けされたデバイス特性データをデバイス特性データ保管部103から取得して、視差調整量を算出する。
以上より、立体画像表示装置の立体表示パネル部のデバイス特性データが未知な場合であっても、視差調整量を算出し、視差調整処理を実施して、3Dクロストークによる二重像の影響を軽減し、観察者へ違和感を与えない立体画像表示装置及び立体画像処理方法を提供できる。
以上、上記各実施形態を参照して本発明を説明したが、本発明は上記各実施形態に限定されるものではない。本発明の構成や詳細については、当業者が理解し得るさまざまな変更を加えることができる。また、本発明には、上記各実施形態の構成の一部又は全部を相互に適宜組み合わせたものも含まれる。
上記の実施形態の一部又は全部は以下の付記のようにも記載され得るが、本発明は以下の構成に限定されるものではない。
[付記1]少なくとも2つの視点の異なる方向に光線を振り分ける光学手段を有し、前記光線を振り分ける方向を第1の方向と定義した場合に、
観察者の右眼に右眼用画像が左眼に左眼用画像がそれぞれ投影されることにより立体画像を表示する正視領域と、
前記正視領域から前記第1の方向に移動した位置で前記右眼に左眼用画像が前記左眼に右眼用画像がそれぞれ投影される逆視領域と、
前記第1の方向における前記正視領域と前記逆視領域との間で前記右眼及び前記左眼の一方又は両方に右眼用画像及び左眼用画像が投影される3Dクロストーク領域と、
が存在する立体表示パネル部を備えるとともに、
前記観察者の観察位置を計測する観察者位置計測部と、
前記観察者の観察位置に対する前記立体表示パネル部の相対位置を算出する相対位置算出部と、
この相対位置に応じて立体画像表示に適した視差調整量を算出する視差調整量算出部と、
この視差調整量に従って画像データの視差調整処理を実施する視差調整処理部と、
を備えた立体画像表示装置。
[付記2]前記相対位置に対する前記立体表示パネル部の表示特性を含むデバイス特性データを保存するデバイス特性データ保管部と、
前記画像データを保存又は受信する画像データ保管部と、
を更に備え、
前記視差調整量算出部は、前記相対位置に応じて立体画像表示に適した視差調整量を前記デバイス特性データから算出する、
付記1記載の立体画像表示装置。
[付記3]前記相対位置は、前記観察者の観察位置と前記立体表示パネル部の表示面との視野角である、
付記2記載の立体画像表示装置。
[付記4]前記デバイス特性データは、3Dクロストーク特性データであり、
前記視差調整量は、前記3Dクロストーク特性データを基準にして算出されるものである、
付記2又は3記載の立体画像表示装置。
[付記5]前記3Dクロストーク特性データのうち、3Dクロストーク量が所定値を越える領域を3Dクロストーク領域とし、3Dクロストーク量が前記所定値以下の領域を非3Dクロストーク領域としたとき、
前記3Dクロストーク領域の前記視差調整量が前記非3Dクロストーク領域の前記視差調整量よりも小さい、
付記4記載の立体画像表示装置。
[付記6]前記3Dクロストーク量の所定値は10%である、
付記5記載の立体画像表示装置。
[付記7]前記視差調整量算出部は、
立体画像の視認状況により特定された少なくとも2つ以上の3Dクロストーク量の閾値を使用して、前記3Dクロストーク領域の視野角範囲を少なくとも2つ以上の視野角範囲に分類し、
分類した視野角範囲ごとに、視野角に対する傾きが異なる視差調整量を算出する、
付記1乃至6のいずれか一つに記載の立体画像表示装置。
[付記8]前記立体画像表示装置がN視点(Nは3以上)であり、
前記視差調整処理部は、正視領域から逆視領域に変化する3Dクロストーク領域にのみ前記視差調整処理を実施することを特徴とする、
付記1乃至7のいずれか一つに記載の立体画像表示装置。
[付記9]前記立体画像表示装置がN視点(Nは3以上)であり、
前記視差調整処理部は、前記相対位置と画像データが保有する視差値に応じて、正視領域の隣接視点画像間かつ正視領域から逆視領域に変化する3Dクロストーク領域に、前記視差調整処理を実施することを特徴とする、
付記1乃至7のいずれか一つに記載の立体画像表示装置。
[付記10]時間に対する立体画像の視差変化によって違和感を与えない視差変化量の上限値となる視差変化量許容値を保管する視差変化量許容値データ保管部を更に備え、
前記視差調整量算出部は、前記相対位置の時間変化に起因する視野角の変化量と前記視差変化量許容値とに基づき、視野角に対する前記視差調整量を算出する、
ことを特徴とする付記1乃至9のいずれか一つに記載の立体画像表示装置。
[付記11]前記非3Dクロストーク領域内の所定の割合以上の領域を特定する視差一定領域特定部を更に備え、
前記視差調整処理部は、前記視差一定領域特定部で特定された領域において、前記視差調整処理後の画像データの視差値が一定値となるように、当該画像データが保有する視差値を全体的に低減する、
付記1乃至10のいずれか一つに記載の立体画像表示装置。
[付記12]前記非3Dクロストーク領域内の前記所定の割合は50%である、
付記11記載の立体画像表示装置。
[付記13]前記相対位置と前記デバイス特性データから3Dクロストーク画像範囲を算出する3Dクロストーク画像範囲算出部を更に備え、
前記視差調整処理部は、前記画像データのうち前記3Dクロストーク画像範囲に対して視差調整処理を実施する、
付記2乃至12のいずれか一つに記載の立体画像表示装置。
[付記14]前記観察者の入力操作を検出する入力操作検出部と、
検出された前記入力操作を判定する入力操作判定部と、
検出された又は判定された前記入力操作を処理する入力操作処理部と、
を更に備え、
前記入力操作判定部は、前記入力操作によって入力された視差調整量を判定し、
前記視差調整量算出部は、判定された前記視差調整量を使用して、適切な視差調整量を算出する、
付記1乃至13のいずれか一つに記載の立体画像表示装置。
[付記15]前記観察者の入力操作を検出する入力操作検出部と、
検出された前記入力操作を判定する入力操作判定部と、
検出された又は判定された前記入力操作を処理する入力操作処理部と、
を更に備え、
前記入力操作処理部は、観察者の入力操作の検出結果を表示する通知画面を、前記3Dクロストーク画像範囲外に表示する、
付記1乃至14のいずれか一つに記載の立体画像表示装置。
[付記16]環境温度を計測する温度計測部を更に備え、
前記視差調整量算出部は、前記温度計測部で計測した温度に対応する前記デバイス特性データに基づき、視野角に対して立体画像表示に適した視差調整量を算出する、
付記2乃至15のいずれか一つに記載の立体画像表示装置。
[付記17]前記視差調整量算出部は、
前記相対位置に応じて、前記左眼に左眼用の立体画像及び前記右眼に右眼用の立体映像が投影される正視領域と、前記左眼に右眼用の立体映像及び前記右眼に左眼用の立体映像が投影される逆視領域と、前記左眼に右眼用及び左眼用の立体映像又は前記右眼に左眼用及び右眼用の立体映像が投影される3Dクロストーク領域とに分類し、
前記観察者が前記正視領域から前記逆視領域に移動する際の前記3Dクロストーク領域において、前記画像データに対して前記正視領域又は前記逆視領域よりも小さい視差を付与する
付記1乃至16のいずれか一つに記載の立体画像表示装置。
[付記18]前記視差調整量算出部は、
前記相対位置の変化に応じて、前記相対位置の視野角成分に対する視差量の微分係数を有限の値として前記視差調整量を算出する、
付記1至17のいずれか一つに記載の立体画像表示装置。
[付記19]少なくとも2つの視点に異なる方向に光線を振り分ける光学手段を有し、
観察者の両眼に視点の異なる画像がそれぞれ投影されることで立体画像を表示する正視領域のみが存在する立体表示パネル部を有すると共に、
前記観察者の観察位置を計測する観察者位置計測部と、
前記観察者の観察位置に対する前記立体表示パネル部の相対位置を算出する相対位置算出部と、
この相対位置と画像データが保有する視差値に応じて立体画像表示に適した視差調整量を算出する視差調整量算出部と、
この視差調整量に従って前記画像データの視差調整処理を実施する視差調整処理部と、
を備えた立体画像表示装置。
[付記20]前記相対位置は、前記観察者の観察位置と前記立体表示パネル部の表示面との視野角である、
付記19記載の立体画像表示装置。
[付記21]時間に対する立体画像の視差変化によって違和感を与えない視差変化量の上限値となる視差変化量許容値を保管する視差変化量許容値データ保管部を更に備え、
前記視差調整量算出部は、前記相対位置の時間変化に起因する視野角の変化量と前記視差変化量許容値とに基づき、視野角に対する前記視差調整量を算出する、
ことを特徴とする付記19又は20記載の立体画像表示装置。
[付記22]前記観察者の入力操作を検出する入力操作検出部と、
検出された前記入力操作を判定する入力操作判定部と、
検出された又は判定された前記入力操作を処理する入力操作処理部と、
を更に備え、
前記入力操作判定部は、前記入力操作によって入力された視差調整量を判定し、
前記視差調整量算出部は、判定された前記視差調整量を使用して、適切な視差調整量を算出する、
付記19乃至21のいずれか一つに記載の立体画像表示装置。
[付記23]環境温度を計測する温度計測部を更に備え、
前記視差調整量算出部は、前記温度計測部で計測した温度に対応し、視野角に対して立体画像表示に適した視差調整量を算出する、
付記19乃至22のいずれか一つに記載の立体画像表示装置。
[付記24]前記視差調整量算出部は、
前記相対位置の変化に応じて、前記相対位置の視野角成分に対する視差量の微分係数を有限の値として前記視差調整量を算出する、
付記19乃至23のいずれか一つに記載の立体画像表示装置。
[付記25]前記観察者と前記立体表示パネルとの位置関係と前記位置関係の時間変化とを含む観察状況に応じて視差調整モードを切替え、前記画像データの視差調整処理を変更する視差調整モード切替部を更に備えた、
付記1乃至18のいずれか一つに記載の立体画像表示装置。
[付記26]前記視差調整モード切替部は、視差調整モードの切替時に視差値の時間変化量を制限する機能を有する、
付記25記載の立体画像表示装置。
[付記27]前記相対位置算出部で算出された相対位置と、前記視差調整量算出部で算出された視差調整量とを参照して、2台以上の仮想的なカメラの視点位置を算出し、該カメラで撮影した画像データを表示する任意視点画像生成部を更に備えた、
付記1乃至18、25、26のいずれか一つに記載の立体画像表示装置。
[付記28]前記立体画像表示装置がN視点(Nは3以上)であり、
前記任意視点画像生成部は、前記相対位置算出部で算出された相対位置と、前記視差調整量算出部で算出された視差調整量とを参照して、前記立体表示パネルが前記観察者側へ投影するN視点分の各視点領域の中から前記相対位置に応じて2つの視点領域を検出し、該視点領域に相当する2視点の仮想的なカメラの視点位置を算出し、該カメラで撮影した画像データを表示する、
付記27記載の立体画像表示装置。
[付記29]前記立体画像表示装置がN視点(Nは3以上)であり、
前記任意視点画像生成部は、前記相対位置算出部で算出された相対位置と、前記視差調整量算出部で算出された視差調整量とを参照して、前記立体表示パネルが前記観察者側へ投影するN視点分の各視点領域に相当するN視点の仮想的なカメラの視点位置を算出し、該カメラで撮影した画像データを表示する、
付記27記載の立体画像表示装置。
[付記30]前記N視点の仮想的なカメラの視点位置が全て異なる視点位置である、
付記29記載の立体画像表示装置。
[付記31]前記N視点の仮想的なカメラの視点位置が任意の視野角範囲で同一の視点位置となる、
付記29記載の立体画像表示装置。
[付記32]前記立体画像表示装置がN視点(Nは3以上)であり、
前記任意視点画像生成部は、前記相対位置算出部で算出された相対位置と、前記視差調整量算出部で算出された視差調整量とを参照して、前記N視点の仮想的なカメラの中から前記観察者へ投影されない画像を撮影する仮想的なカメラを検出し、検出した仮想的なカメラの視点位置を前記相対位置で非連続的に移動する、
付記27記載の立体画像表示装置。
[付記33]前記任意視点画像生成部は、
前記画像データ保管部に保管された複数の画像データから視点位置を参照し、視点位置間内にある任意視点位置を特定し、
前記相対位置算出部で算出した相対位置に応じて、視点位置間内にある任意視点位置から撮影した画像データを繰り返し表示する、
付記27記載の立体画像表示装置。
[付記34]前記画像データ保管部に保管された画像データが右眼用画像データと左眼用画像データとの計2視点の画像データであり、
前記任意視点画像生成部は、
前記右眼用画像データと前記左眼用画像データとから計2つの視点位置を参照し、2視点位置間内にある任意視点位置を特定し、
前記相対位置算出部で算出した相対位置に応じて、2視点位置間内にある任意視点位置から撮影した画像データを繰り返し表示する
付記33記載の立体画像表示装置。
[付記35]前記任意視点画像生成部は、前記立体表示パネル部の正視領域において、前記相対位置に応じて、2視点位置間内にある任意視点位置から撮影した画像データを繰り返し表示する、
付記34記載の立体画像表示装置。
[付記36]少なくとも2つの視点に異なる方向に光線を振り分ける光学手段を有し、前記光線を振り分ける方向を第1の方向と定義した場合に、
観察者の右眼に右眼用画像が左眼に左眼用画像がそれぞれ投影されることにより立体画像を表示する正視領域と、
前記正視領域から第1の方向に移動した位置で前記右眼に左眼用画像が前記左眼に右眼用画像がそれぞれ投影される逆視領域と、
前記第1の方向における前記正視領域と前記逆視領域との間で前記右眼及び前記左眼の一方又は両方に右眼用画像及び左眼用画像が投影される3Dクロストーク領域と、
が存在する立体表示パネルへ画像データを出力する画像処理装置において、
計測された前記観察者の観察位置に対する前記立体表示パネルの相対位置を算出する相対位置算出部と、
この相対位置に応じて立体画像表示に適した視差調整量を算出する視差調整量算出部と、
この視差調整量に従って画像データの視差調整処理を実施する視差調整処理部と、
を備えた画像処理装置。
[付記37]前記観察者の観察位置を計測する観察者位置計測部と、
前記視差調整処理を実施する前の前記画像データを受信する画像データ受信部と、
前記視差調整処理された前記画像データを出力する画像データ送信部と、
を更に備えた付記36記載の画像処理装置。
[付記38]前記立体表示パネルの前記相対位置に対する表示特性を含むデバイス特性データを保存するデバイス特性データ保管部を更に備え、
前記視差調整量算出部は、前記相対位置に応じて立体画像表示に適した前記視差調整量を前記デバイス特性データから算出する、
付記36又は37記載の画像処理装置。
[付記39]少なくとも2つの視点に異なる方向に光線を振り分ける光学手段を有し、前記光線を振り分ける方向を第1の方向と定義した場合に、
観察者の右眼に右眼用画像が左眼に左眼用画像がそれぞれ投影されることにより立体画像を表示する正視領域と、
前記正視領域から第1の方向に移動した位置で前記右眼に左眼用画像が前記左眼に右眼用画像がそれぞれ投影される逆視領域と、
前記第1の方向における前記正視領域と前記逆視領域との間で前記右眼及び前記左眼の一方又は両方に右眼用画像及び左眼用画像が投影される3Dクロストーク領域と、
が存在する立体表示パネル、
を用いた立体画像処理方法において、
前記観察者の観察位置を計測し、
この観察者の観察位置に対する前記立体表示パネルの相対位置を算出し、
この相対位置に応じて立体画像表示に適した視差調整量を算出し、
この視差調整量に従って画像データの視差調整処理を実施し、
前記視差調整処理をされた前記画像データを前記立体表示パネルへ出力する、
ことを特徴とする立体画像処理方法。
[付記40]少なくとも2つの視点に異なる方向に光線を振り分ける光学手段を有し、前記光線を振り分ける方向を第1の方向と定義した場合に、
観察者の右眼に右眼用画像が左眼に左眼用画像がそれぞれ投影されることにより立体画像を表示する正視領域と、
前記正視領域から第1の方向に移動した位置で前記右眼に左眼用画像が前記左眼に右眼用画像がそれぞれ投影される逆視領域と、
前記第1の方向における前記正視領域と前記逆視領域との間で前記右眼及び前記左眼の一方又は両方に右眼用画像及び左眼用画像が投影される3Dクロストーク領域と、
が存在する立体表示パネル、
を用いた立体画像処理方法において、
前記観察者の観察位置を計測し、
この観察者の観察位置に対する前記立体表示パネルの相対位置を算出し、
この相対位置に応じて立体画像表示に適した視差調整量を算出し、
この視差調整量に従って画像データの視差調整処理を実施し、
前記視差調整処理をされた前記画像データを前記立体表示パネルへ出力する、
ことを特徴とする立体画像処理方法。
[付記41]前記相対位置と前記デバイス特性データとから3Dクロストーク画像範囲を算出し、
前記視差調整量に従って前記画像データの視差調整処理をする際に、前記視差調整量に従って前記画像データのうち前記3Dクロストーク画像範囲に対して前記視差調整処理をする、
付記40記載の立体画像処理方法。
本発明は、立体画像表示装置に立体画像コンテンツを表示する機能を有する立体画像処理システムへも適用される。なお、本発明は上記実施形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
10 観察者
11〜18 立体画像表示装置
101 観察者位置計測部
101a カメラ
102 相対位置算出部
103 デバイス特性データ保管部
104 視差調整量算出部
105 画像データ保管部
106 視差調整処理部
107 立体表示パネル部
107a 立体表示パネル
108 視差変化量許容値データ保管部
109 視差一定領域特定データ保管部(視差一定領域特定部)
110 3Dクロストーク画像範囲算出部
111 入力操作検出部
112 入力操作判定部
113 入力操作処理部
114 温度計測部
151〜158 画像処理部
150 計算機器
30 観察面
41 空白部分
80,81 領域
160 画像処理装置
161 画像データ受信部
162 画像データ送信部
163 画像入出力ケーブル
70R 右眼領域
70L 左眼領域
72L 左眼領域
70V 視点1の領域
70V 視点2の領域
70V 視点3の領域
70V 視点4の領域
70V 視点5の領域
70V 視点6の領域
70V 視点7の領域
70V 視点8の領域
72V 視点1の領域
71V 視点8の領域
71V 視点4の領域
55L 左眼
55R 右眼
P 画素の幅
P' 投影面での画素の幅
e 両眼の間隔
OD 最適観察距離
FD 遠隔観察距離
ND 近接観察距離
h スリット(又はシリンドリカルレンズ)と画素との距離
S スリット幅
L シリンドリカルレンズ幅
4R 右眼用画素
4L 左眼用画素
4V 視点1用画素
4V 視点2用画素
4V 視点3用画素
4V 視点4用画素
4V 視点5用画素
4V 視点6用画素
4V 視点7用画素
4V 視点8用画素
6 パララックスバリア
6a スリット
2 表示パネル
3 レンチキュラレンズ
3a,3b シリンドリカルレンズ
20,21 光線
WP 立体表示パネルの中心画素の位置から両端画素の位置までの幅
60,61,63,65,66 仮想的なカメラ
60L,61L,63L,65L,66L 左眼用の仮想的なカメラ
60R,61R,63R,65R,66R 右眼用の仮想的なカメラ
60a,61a,63a,65a,66a 観察者
60b,61b,63b,65b,66b 画像データの視差値
7a,7b 左眼用と右眼用の仮想的なカメラの視点位置の差
8a,8b 画像データの視差値
9 立体画像コンテンツ
90,91,93,95,96 画像データ

Claims (31)

  1. 少なくとも2つの視点の異なる方向に光線を振り分ける光学手段を有し、前記光線を振り分ける方向を第1の方向と定義した場合に、
    観察者の右眼に右眼用画像が左眼に左眼用画像がそれぞれ投影されることにより立体画像を表示する正視領域と、
    前記正視領域から前記第1の方向に移動した位置で前記右眼に左眼用画像が前記左眼に右眼用画像がそれぞれ投影される逆視領域と、
    前記第1の方向における前記正視領域と前記逆視領域との間で前記右眼及び前記左眼の一方又は両方に右眼用画像及び左眼用画像が投影される3Dクロストーク領域と、
    が存在する立体表示パネル部を備えるとともに、
    前記観察者の観察位置を計測する観察者位置計測部と、
    この観察位置に対する前記立体表示パネル部の相対位置を算出する相対位置算出部と、
    この相対位置に対する前記立体表示パネル部の表示特性を含むデバイス特性データを保存するデバイス特性データ保管部と、
    画像データを保存又は受信する画像データ保管部と、
    前記相対位置に応じて立体画像表示に適した視差調整量を前記デバイス特性データから算出する視差調整量算出部と、
    この視差調整量に従って前記画像データのうち少なくとも前記3Dクロストーク領域に対応する範囲に対して視差調整処理を実施する視差調整処理部と、
    を備えた立体画像表示装置。
  2. 前記相対位置は、前記観察者の観察位置と前記立体表示パネル部の表示面との視野角である、
    請求項1記載の立体画像表示装置。
  3. 前記デバイス特性データは、3Dクロストーク特性データであり、
    前記視差調整量は、前記3Dクロストーク特性データを基準にして算出されるものである、
    請求項2記載の立体画像表示装置
  4. 前記3Dクロストーク特性データのうち、3Dクロストーク量が所定値を越える領域を3Dクロストーク領域とし、3Dクロストーク量が前記所定値以下の領域を非3Dクロストーク領域としたとき、
    前記画像データのうち前記3Dクロストーク領域に対応する範囲の前記視差調整量が前記非3Dクロストーク領域に対応する範囲の前記視差調整量よりも小さい、
    請求項3記載の立体画像表示装置。
  5. 前記3Dクロストーク量の所定値は10%である、
    請求項4記載の立体画像表示装置。
  6. 前記視差調整量算出部は、
    立体画像の視認状況により特定された少なくとも2つ以上の3Dクロストーク量の閾値を使用して、前記3Dクロストーク領域の視野角範囲を少なくとも2つ以上の視野角範囲に分類し、
    分類した視野角範囲ごとに、視野角に対する傾きが異なる視差調整量を算出する、
    請求項1乃至5のいずれか一つに記載の立体画像表示装置。
  7. 前記立体画像表示装置がN視点(Nは3以上)であり、
    前記視差調整処理部は、前記画像データのうち正視領域から逆視領域に変化する3Dクロストーク領域に対応する範囲にのみ前記視差調整処理を実施することを特徴とする、
    請求項1乃至6のいずれか一つに記載の立体画像表示装置。
  8. 前記立体画像表示装置がN視点(Nは3以上)であり、
    前記視差調整処理部は、前記相対位置と画像データが保有する視差値に応じて、正視領域の隣接視点画像間かつ正視領域から逆視領域に変化する3Dクロストーク領域に、前記視差調整処理を実施することを特徴とする、
    請求項1乃至6のいずれか一つに記載の立体画像表示装置。
  9. 時間に対する立体画像の視差変化によって違和感を与えない視差変化量の上限値となる視差変化量許容値を保管する視差変化量許容値データ保管部を更に備え、
    前記視差調整量算出部は、前記相対位置の時間変化に起因する視野角の変化量と前記視差変化量許容値とに基づき、視野角に対する前記視差調整量を算出する、
    ことを特徴とする請求項1乃至8のいずれか一つに記載の立体画像表示装置。
  10. 前記非3Dクロストーク領域内の所定の割合以上の領域を特定する視差一定領域特定部を更に備え、
    前記視差調整処理部は、前記画像データのうち前記視差一定領域特定部で特定された領域に対応する範囲において、前記視差調整処理後の当該画像データの視差値が一定値となるように、当該画像データが保有する視差値を全体的に低減する、
    請求項4又は5記載の立体画像表示装置。
  11. 前記非3Dクロストーク領域内の前記所定の割合は50%である、
    請求項10記載の立体画像表示装置。
  12. 前記相対位置と前記デバイス特性データから3Dクロストーク画像範囲を算出する3Dクロストーク画像範囲算出部を更に備え、
    前記視差調整処理部は、前記画像データのうち前記3Dクロストーク画像範囲に対して視差調整処理を実施する、
    請求項1乃至11のいずれか一つに記載の立体画像表示装置。
  13. 前記観察者の入力操作を検出する入力操作検出部と、
    検出された前記入力操作を判定する入力操作判定部と、
    検出された又は判定された前記入力操作を処理する入力操作処理部と、
    を更に備え、
    前記入力操作判定部は、前記入力操作によって入力された視差調整量を判定し、
    前記視差調整量算出部は、判定された前記視差調整量を使用して、適切な視差調整量を算出する、
    請求項1乃至12のいずれか一つに記載の立体画像表示装置。
  14. 前記観察者の入力操作を検出する入力操作検出部と、
    検出された前記入力操作を判定する入力操作判定部と、
    検出された又は判定された前記入力操作を処理する入力操作処理部と、
    を更に備え、
    前記入力操作処理部は、観察者の入力操作の検出結果を表示する通知画面を、前記3Dクロストーク画像範囲外に表示する、
    請求項12記載の立体画像表示装置。
  15. 環境温度を計測する温度計測部を更に備え、
    前記視差調整量算出部は、前記温度計測部で計測した温度に対応する前記デバイス特性データに基づき、視野角に対して立体画像表示に適した視差調整量を算出する、
    請求項1乃至14のいずれか一つに記載の立体画像表示装置。
  16. 前記視差調整量算出部は、
    前記相対位置に応じて、前記左眼に左眼用の立体画像及び前記右眼に右眼用の立体映像が投影される正視領域と、前記左眼に右眼用の立体映像及び前記右眼に左眼用の立体映像が投影される逆視領域と、前記左眼に右眼用及び左眼用の立体映像又は前記右眼に左眼用及び右眼用の立体映像が投影される3Dクロストーク領域とに分類し、
    前記観察者が前記正視領域から前記逆視領域に移動する際の前記3Dクロストーク領域において、前記画像データに対して前記正視領域又は前記逆視領域よりも小さい視差を付与する
    請求項1乃至15のいずれか一つに記載の立体画像表示装置。
  17. 前記視差調整量算出部は、
    前記相対位置の変化に応じて、前記相対位置の視野角成分に対する視差量の微分係数を有限の値として前記視差調整量を算出する、
    請求項1乃至16のいずれか一つに記載の立体画像表示装置。
  18. 前記観察者と前記立体表示パネルとの位置関係と前記位置関係の時間変化とを含む観察状況に応じて視差調整モードを切替え、前記画像データの視差調整処理を変更する視差調整モード切替部を更に備えた、
    請求項1乃至17のいずれか一つに記載の立体画像表示装置。
  19. 前記視差調整モード切替部は、視差調整モードの切替時に視差値の時間変化量を制限する機能を有する、
    請求項18記載の立体画像表示装置。
  20. 前記相対位置算出部で算出された相対位置と、前記視差調整量算出部で算出された視差調整量とを参照して、2台以上の仮想的なカメラの視点位置を算出し、該カメラで撮影した画像データを表示する任意視点画像生成部を更に備えた、
    請求項1乃至17、1819のいずれか一つに記載の立体画像表示装置。
  21. 前記立体画像表示装置がN視点(Nは3以上)であり、
    前記任意視点画像生成部は、前記相対位置算出部で算出された相対位置と、前記視差調整量算出部で算出された視差調整量とを参照して、前記立体表示パネルが前記観察者側へ投影するN視点分の各視点領域の中から前記相対位置に応じて2つの視点領域を検出し、該視点領域に相当する2視点の仮想的なカメラの視点位置を算出し、該カメラで撮影した画像データを表示する、
    請求項20記載の立体画像表示装置。
  22. 前記立体画像表示装置がN視点(Nは3以上)であり、
    前記任意視点画像生成部は、前記相対位置算出部で算出された相対位置と、前記視差調整量算出部で算出された視差調整量とを参照して、前記立体表示パネルが前記観察者側へ投影するN視点分の各視点領域に相当するN視点の仮想的なカメラの視点位置を算出し、該カメラで撮影した画像データを表示する、
    請求項20記載の立体画像表示装置。
  23. 前記N視点の仮想的なカメラの視点位置が全て異なる視点位置である、
    請求項22記載の立体画像表示装置。
  24. 前記N視点の仮想的なカメラの視点位置が任意の視野角範囲で同一の視点位置となる、
    請求項22記載の立体画像表示装置。
  25. 前記立体画像表示装置がN視点(Nは3以上)であり、
    前記任意視点画像生成部は、前記相対位置算出部で算出された相対位置と、前記視差調整量算出部で算出された視差調整量とを参照して、前記N視点の仮想的なカメラの中から前記観察者へ投影されない画像を撮影する仮想的なカメラを検出し、検出した仮想的なカメラの視点位置を前記相対位置で非連続的に移動する、
    請求項20記載の立体画像表示装置。

  26. 前記任意視点画像生成部は、
    前記画像データ保管部に保管された複数の画像データから視点位置を参照し、視点位置間内にある任意視点位置を特定し、
    前記相対位置算出部で算出した相対位置に応じて、視点位置間内にある任意視点位置から撮影した画像データを繰り返し表示する、
    請求項20記載の立体画像表示装置。
  27. 前記画像データ保管部に保管された画像データが右眼用画像データと左眼用画像データとの計2視点の画像データであり、
    前記任意視点画像生成部は、
    前記右眼用画像データと前記左眼用画像データとから計2つの視点位置を参照し、2視点位置間内にある任意視点位置を特定し、
    前記相対位置算出部で算出した相対位置に応じて、2視点位置間内にある任意視点位置から撮影した画像データを繰り返し表示する
    請求項26記載の立体画像表示装置。
  28. 前記任意視点画像生成部は、前記立体表示パネル部の正視領域において、前記相対位置に応じて、2視点位置間内にある任意視点位置から撮影した画像データを繰り返し表示する、
    請求項27記載の立体画像表示装置。
  29. 少なくとも2つの視点に異なる方向に光線を振り分ける光学手段を有し、前記光線を振り分ける方向を第1の方向と定義した場合に、
    観察者の右眼に右眼用画像が左眼に左眼用画像がそれぞれ投影されることにより立体画像を表示する正視領域と、
    前記正視領域から第1の方向に移動した位置で前記右眼に左眼用画像が前記左眼に右眼用画像がそれぞれ投影される逆視領域と、
    前記第1の方向における前記正視領域と前記逆視領域との間で前記右眼及び前記左眼の一方又は両方に右眼用画像及び左眼用画像が投影される3Dクロストーク領域と、
    が存在する立体表示パネルへ画像データを出力する画像処理装置において、
    前記観察者の観察位置を計測する観察者位置計測部と、
    この観察位置に対する前記立体表示パネルの相対位置を算出する相対位置算出部と、
    前記相対位置に対する表示特性を含むデバイス特性データを保存するデバイス特性データ保管部と、
    画像データを受信する画像データ受信部と、
    前記相対位置に応じて立体画像表示に適した視差調整量を前記デバイス特性データから算出する視差調整量算出部と、
    この視差調整量に従って前記画像データのうち少なくとも前記3Dクロストーク領域に対応する範囲に対して視差調整処理を実施する視差調整処理部と、
    前記視差調整処理された前記画像データを出力する画像データ送信部と、
    を備えた画像処理装置。
  30. 少なくとも2つの視点に異なる方向に光線を振り分ける光学手段を有し、前記光線を振り分ける方向を第1の方向と定義した場合に、
    観察者の右眼に右眼用画像が左眼に左眼用画像がそれぞれ投影されることにより立体画像を表示する正視領域と、
    前記正視領域から第1の方向に移動した位置で前記右眼に左眼用画像が前記左眼に右眼用画像がそれぞれ投影される逆視領域と、
    前記第1の方向における前記正視領域と前記逆視領域との間で前記右眼及び前記左眼の一方又は両方に右眼用画像及び左眼用画像が投影される3Dクロストーク領域と、
    が存在する立体表示パネル、
    を用いた立体画像処理方法において、
    前記観察者の観察位置を計測し、
    この観察位置に対する前記立体表示パネルの相対位置を算出し、
    前記立体表示パネルの前記相対位置に対する表示特性を含むデバイス特性データを取得し、
    前記相対位置に応じて立体画像表示に適した視差調整量を前記デバイス特性データから算出し、
    画像データを取得し、
    前記視差調整量に従って前記画像データのうち少なくとも前記3Dクロストーク領域に対応する範囲に対して視差調整処理を実施し、
    前記視差調整処理をされた前記画像データを前記立体表示パネルへ出力する、
    ことを特徴とする立体画像処理方法。
  31. 少なくとも2つの視点に異なる方向に光線を振り分ける光学手段を有し、前記光線を振り分ける方向を第1の方向と定義した場合に、
    観察者の右眼に右眼用画像が左眼に左眼用画像がそれぞれ投影されることにより立体画像を表示する正視領域と、
    前記正視領域から第1の方向に移動した位置で前記右眼に左眼用画像が前記左眼に右眼用画像がそれぞれ投影される逆視領域と、
    前記第1の方向における前記正視領域と前記逆視領域との間で前記右眼及び前記左眼の一方又は両方に右眼用画像及び左眼用画像が投影される3Dクロストーク領域と、
    が存在する立体表示パネル、
    を用いた立体画像表示方法において、
    観察者の観察位置を計測し、
    前記観察者の観察位置と前記立体表示パネルの位置との相対位置を算出し、
    前記立体表示パネルの前記相対位置に対する表示特性を含むデバイス特性データを取得し、
    前記デバイス特性データから前記相対位置に対して立体画像表示に適した視差調整量を算出し、
    前記相対位置と前記デバイス特性データとから3Dクロストーク画像範囲を算出し、
    画像データを取得し、
    前記視差調整量に従って前記画像データのうち前記3Dクロストーク画像範囲に対して視差調整処理をし、
    前記視差調整処理をされた前記画像データを前記立体表示パネルへ出力する、
    ことを特徴とする立体画像処理方法。
JP2013089533A 2012-07-31 2013-04-22 立体画像表示装置、画像処理装置及び立体画像処理方法 Active JP6380881B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013089533A JP6380881B2 (ja) 2012-07-31 2013-04-22 立体画像表示装置、画像処理装置及び立体画像処理方法
CN201310325940.3A CN103595987B (zh) 2012-07-31 2013-07-30 立体图像显示装置、图像处理装置及图像处理方法
EP13178706.1A EP2693758A3 (en) 2012-07-31 2013-07-31 Stereoscopic image display device, image processing device, and stereoscopic image processing method
US13/955,371 US9398290B2 (en) 2012-07-31 2013-07-31 Stereoscopic image display device, image processing device, and stereoscopic image processing method

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012170644 2012-07-31
JP2012170644 2012-07-31
JP2013089533A JP6380881B2 (ja) 2012-07-31 2013-04-22 立体画像表示装置、画像処理装置及び立体画像処理方法

Publications (2)

Publication Number Publication Date
JP2014045474A JP2014045474A (ja) 2014-03-13
JP6380881B2 true JP6380881B2 (ja) 2018-08-29

Family

ID=48914090

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013089533A Active JP6380881B2 (ja) 2012-07-31 2013-04-22 立体画像表示装置、画像処理装置及び立体画像処理方法

Country Status (4)

Country Link
US (1) US9398290B2 (ja)
EP (1) EP2693758A3 (ja)
JP (1) JP6380881B2 (ja)
CN (1) CN103595987B (ja)

Families Citing this family (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6143469B2 (ja) * 2013-01-17 2017-06-07 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
US10140269B2 (en) * 2013-03-12 2018-11-27 Microsoft Technology Licensing, Llc Viewing effects of proposed change in document before committing change
JP5942130B2 (ja) * 2013-03-28 2016-06-29 株式会社ジャパンディスプレイ 表示装置
JP6516234B2 (ja) * 2014-04-24 2019-05-22 Tianma Japan株式会社 立体画像表示装置
KR101966152B1 (ko) * 2014-08-07 2019-04-05 삼성전자주식회사 다시점 영상 디스플레이 장치 및 그 제어 방법
JP6588196B2 (ja) 2014-10-31 2019-10-09 株式会社ソニー・インタラクティブエンタテインメント 画像生成装置、画像生成方法および較正方法
US10448005B2 (en) 2015-01-22 2019-10-15 Nlt Technologies, Ltd. Stereoscopic display device and parallax image correcting method
JP6677385B2 (ja) * 2015-01-22 2020-04-08 天馬微電子有限公司 立体表示装置及び視差画像補正方法
ES2873927T3 (es) * 2015-03-03 2021-11-04 Misapplied Sciences Inc Sistema y método para visualizar un contenido dependiente de la ubicación
CN106291952B (zh) * 2015-05-28 2019-09-17 深圳市Tcl高新技术开发有限公司 一种裸眼3d图像的显示方法、装置及液晶显示屏
WO2016208404A1 (ja) * 2015-06-23 2016-12-29 ソニー株式会社 情報処理装置および方法、並びにプログラム
CN104967837A (zh) * 2015-06-30 2015-10-07 西安三星电子研究有限公司 用于调整三维显示效果的设备和方法
JP5856344B1 (ja) * 2015-07-27 2016-02-09 正樹 房間 3d画像表示装置
KR20170029210A (ko) * 2015-09-07 2017-03-15 삼성전자주식회사 무안경 3d 디스플레이 장치 및 그 제어 방법
KR102402048B1 (ko) * 2015-10-14 2022-05-26 삼성전자주식회사 전자 장치 및 그 제어 방법
JP6588840B2 (ja) * 2016-02-04 2019-10-09 株式会社ジャパンディスプレイ 表示装置
WO2017195513A1 (ja) * 2016-05-10 2017-11-16 ソニー株式会社 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム
EP3416381A1 (en) 2017-06-12 2018-12-19 Thomson Licensing Method and apparatus for providing information to a user observing a multi view content
EP3416371A1 (en) * 2017-06-12 2018-12-19 Thomson Licensing Method for displaying, on a 2d display device, a content derived from light field data
US10385771B2 (en) * 2017-08-28 2019-08-20 Southwest Research Institute Crank pin offset in dedicated exhaust gas engines
EP3681151A1 (en) * 2017-09-07 2020-07-15 Sony Corporation Image processing device, image processing method, and image display system
EP3511910A1 (en) * 2018-01-12 2019-07-17 Koninklijke Philips N.V. Apparatus and method for generating view images
US10607388B2 (en) * 2018-02-07 2020-03-31 Shenzhen China Star Optoelectronics Semiconductor Display Technology Co., Ltd. Display control method, display control device, storage medium and terminal of autostereoscopic three-dimensional (3D) image
JP6677387B2 (ja) * 2018-03-12 2020-04-08 天馬微電子有限公司 立体画像表示装置及び立体画像表示方法
KR102053979B1 (ko) * 2018-04-05 2019-12-12 박세진 사용자의 주시방향 인식기반 3차원 영상미디어 제공시스템
CN109413410A (zh) * 2018-09-30 2019-03-01 程立军 基于眼睛三联动的图像显示方法及装置
JP2020072405A (ja) * 2018-10-31 2020-05-07 京セラ株式会社 画像表示装置、画像表示システム、及び移動体
CN109640072A (zh) * 2018-12-25 2019-04-16 鸿视线科技(北京)有限公司 3d互动方法及系统
KR102648198B1 (ko) * 2019-01-14 2024-03-19 삼성디스플레이 주식회사 잔상 보상부 및 이를 포함하는 표시 장치
JP7395296B2 (ja) * 2019-09-17 2023-12-11 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
CN110610454A (zh) * 2019-09-18 2019-12-24 上海云绅智能科技有限公司 透视投影矩阵的计算方法及装置、终端设备、存储介质
US11039116B2 (en) * 2019-10-29 2021-06-15 Htc Corporation Electronic device and subtitle-embedding method for virtual-reality video
US11917118B2 (en) 2019-12-27 2024-02-27 Sony Group Corporation Information processing apparatus and information processing method
JP7516781B2 (ja) * 2020-03-04 2024-07-17 富士フイルムビジネスイノベーション株式会社 表示システム、表示制御装置及びプログラム
CN111556304B (zh) * 2020-04-22 2021-12-31 浙江未来技术研究院(嘉兴) 一种全景影像处理方法、装置及系统
CN114554174B (zh) * 2020-11-25 2024-04-02 京东方科技集团股份有限公司 裸眼立体图像测量系统、图像处理方法及装置、显示设备
CN114721144A (zh) * 2021-01-04 2022-07-08 宏碁股份有限公司 裸视立体显示器及其控制方法
CN113438465A (zh) * 2021-06-22 2021-09-24 纵深视觉科技(南京)有限责任公司 一种显示调节方法、装置、设备及介质
EP4212946A1 (en) * 2022-01-12 2023-07-19 Samsung Electronics Co., Ltd. Device and method to calibrate parallax optical element for temperature change
TWI807713B (zh) * 2022-03-22 2023-07-01 友達光電股份有限公司 立體顯示系統及方法
WO2024203264A1 (ja) * 2023-03-30 2024-10-03 ソニーグループ株式会社 クロストーク測定装置、クロストーク測定方法及びプログラム
CN117615112B (zh) * 2023-10-11 2024-08-20 浙江华诺康科技有限公司 一种立体舒适度调整方法、装置、设备和可读存储介质

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4987487A (en) * 1988-08-12 1991-01-22 Nippon Telegraph And Telephone Corporation Method of stereoscopic images display which compensates electronically for viewer head movement
JP3229824B2 (ja) * 1995-11-15 2001-11-19 三洋電機株式会社 立体映像表示装置
JP2000152285A (ja) 1998-11-12 2000-05-30 Mr System Kenkyusho:Kk 立体画像表示装置
JP2003018619A (ja) * 2001-07-03 2003-01-17 Olympus Optical Co Ltd 立体映像評価装置およびそれを用いた表示装置
JP2003107392A (ja) * 2001-09-28 2003-04-09 Sanyo Electric Co Ltd 頭部位置追従型立体映像表示装置
JP2007318184A (ja) 2004-08-18 2007-12-06 Sharp Corp 立体画像生成装置及びその立体画像生成方法
JP2007052304A (ja) 2005-08-19 2007-03-01 Mitsubishi Electric Corp 映像表示システム
JP4403162B2 (ja) * 2006-09-29 2010-01-20 株式会社東芝 立体画像表示装置および立体画像の作製方法
CN102124490B (zh) * 2008-06-13 2018-02-13 图象公司 用于缩减或者清除在显示的立体图像中感知到的重像的方法和系统
JP2010014891A (ja) 2008-07-02 2010-01-21 Canon Inc 3次元画像表示装置
EP2365701A1 (en) 2008-11-26 2011-09-14 NEC Corporation Display device, terminal device, and display method
JP4821867B2 (ja) 2009-02-26 2011-11-24 株式会社デンソー 通信装置、および通信プログラム
JP5327524B2 (ja) 2009-02-27 2013-10-30 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
GB2471137B (en) * 2009-06-19 2011-11-30 Sony Comp Entertainment Europe 3D image processing method and apparatus
EP2509065B1 (en) * 2009-12-04 2016-11-23 NLT Technologies, Ltd. Stereoscopic display device, method for generating image data for stereoscopic display, and program therefor
CN102449534B (zh) * 2010-04-21 2014-07-02 松下电器产业株式会社 立体影像显示装置、立体影像显示方法
JP5235976B2 (ja) 2010-05-31 2013-07-10 株式会社ソニー・コンピュータエンタテインメント 映像再生方法、および映像再生装置
JP5494283B2 (ja) * 2010-06-24 2014-05-14 ソニー株式会社 立体表示装置及び立体表示装置の制御方法
JP4903888B2 (ja) 2010-08-09 2012-03-28 株式会社ソニー・コンピュータエンタテインメント 画像表示装置、画像表示方法、および画像補正方法
JP2012044308A (ja) 2010-08-16 2012-03-01 Sharp Corp 3d画像出力装置及び3d画像表示装置
JP2012079291A (ja) * 2010-09-08 2012-04-19 Namco Bandai Games Inc プログラム、情報記憶媒体及び画像生成システム
JP5364666B2 (ja) 2010-09-13 2013-12-11 株式会社東芝 立体画像表示装置、方法およびプログラム
US20120200676A1 (en) 2011-02-08 2012-08-09 Microsoft Corporation Three-Dimensional Display with Motion Parallax
US20130093752A1 (en) * 2011-10-13 2013-04-18 Sharp Laboratories Of America, Inc. Viewer reactive auto stereoscopic display

Also Published As

Publication number Publication date
US9398290B2 (en) 2016-07-19
EP2693758A2 (en) 2014-02-05
JP2014045474A (ja) 2014-03-13
EP2693758A3 (en) 2014-05-07
CN103595987B (zh) 2017-07-07
CN103595987A (zh) 2014-02-19
US20140036046A1 (en) 2014-02-06

Similar Documents

Publication Publication Date Title
JP6380881B2 (ja) 立体画像表示装置、画像処理装置及び立体画像処理方法
JP6308513B2 (ja) 立体画像表示装置、画像処理装置及び立体画像処理方法
JP6213812B2 (ja) 立体画像表示装置及び立体画像処理方法
JP5996814B1 (ja) 仮想空間の画像をヘッドマウントディスプレイに提供する方法及びプログラム
KR101926577B1 (ko) 확장형 3차원 입체영상 디스플레이 시스템
CN103348682B (zh) 在多视图系统中提供单一视觉的方法和装置
US9049435B2 (en) Image providing apparatus and image providing method based on user's location
US9154765B2 (en) Image processing device and method, and stereoscopic image display device
US11272169B2 (en) Viewpoint controllable three-dimensional image display apparatus and method for displaying three-dimensional image
US20140293024A1 (en) Foldable display and method and apparatus for controlling the same
WO2012172766A1 (en) Image processing device and method thereof, and program
KR100751290B1 (ko) 헤드 마운티드 디스플레이용 영상 시스템
KR101721103B1 (ko) 입체영상표시장치 및 그 구동방법
CN103609104A (zh) 用于立体效应调整的交互式用户接口
KR101320477B1 (ko) 카메라 간격 및 이동속도 조절이 가능한 건축물 내비게이션 장치 및 방법
CN103969836A (zh) 一种用于多视点自由立体显示器的视角扩展方法
US20140362197A1 (en) Image processing device, image processing method, and stereoscopic image display device
WO2013042392A1 (ja) 立体画像評価装置
JP2014053782A (ja) 立体画像データ処理装置、および、立体画像データ処理方法
KR100893381B1 (ko) 실시간 입체영상 생성방법
WO2013031864A1 (ja) 表示装置
KR101173640B1 (ko) 3차원 헤드 마운티드 디스플레이 장치
JP2017142769A (ja) 仮想空間の画像をヘッドマウントディスプレイに提供する方法及びプログラム
Joachimiak et al. View Synthesis with Kinect-Based Tracking for Motion Parallax Depth Cue on a 2D Display
JP2013055682A (ja) 映像処理装置および映像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160229

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170330

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170711

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170829

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180703

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180720

R150 Certificate of patent or registration of utility model

Ref document number: 6380881

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250