[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2013192193A - 表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラム - Google Patents

表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラム Download PDF

Info

Publication number
JP2013192193A
JP2013192193A JP2012058937A JP2012058937A JP2013192193A JP 2013192193 A JP2013192193 A JP 2013192193A JP 2012058937 A JP2012058937 A JP 2012058937A JP 2012058937 A JP2012058937 A JP 2012058937A JP 2013192193 A JP2013192193 A JP 2013192193A
Authority
JP
Japan
Prior art keywords
image
processing
unit
gamma
distortion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
JP2012058937A
Other languages
English (en)
Inventor
Yoichi Hirota
洋一 廣田
Kiyoshi Ikeda
潔 池田
Akira Fujinawa
明 藤縄
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2012058937A priority Critical patent/JP2013192193A/ja
Priority to US13/789,676 priority patent/US20130241947A1/en
Priority to CN2013100748408A priority patent/CN103313079A/zh
Publication of JP2013192193A publication Critical patent/JP2013192193A/ja
Ceased legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • G09G5/005Adapting incoming signals to the display format of the display terminal
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • G09G5/006Details of the interface to the display terminal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • H04N21/4112Peripherals receiving signals from specially adapted client devices having fewer capabilities than the client, e.g. thin client having less processing power or no tuning capabilities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/68Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits
    • H04N9/69Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits for modifying the colour signals by gamma correction
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/011Head-up displays characterised by optical features comprising device for correcting geometrical aberrations, distortion
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0271Adjustment of the gradation levels within the range of the gradation scale, e.g. by redistribution or clipping
    • G09G2320/0276Adjustment of the gradation levels within the range of the gradation scale, e.g. by redistribution or clipping for the purpose of adaptation to the characteristics of a display device, i.e. gamma correction
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/028Improving the quality of display appearance by changing the viewing angle properties, e.g. widening the viewing angle, adapting the viewing angle to the view direction
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/12Use of DVI or HDMI protocol in interfaces along the display data pipeline

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Optics & Photonics (AREA)
  • Picture Signal Circuits (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Processing Of Color Television Signals (AREA)

Abstract

【課題】色成分毎の独立した信号処理による副作用を抑制して、レンズの持つ歪みに起因する画像の歪みを信号処理によって好適に補正する。
【解決手段】RGB毎の歪み補正ブロックでは、入力画像信号をデガンマー処理して一旦リニア―画像に変換してから歪み補正を行ない、その後再びガンマー処理して出力する。表示パネルとレンズを組み合わせて表示する際に、補正による画質劣化を軽減することができる。特に、色むらの発生や、精細感の劣化を防ぐことができ、より高画質な画像を表示することが可能となる。
【選択図】 図15

Description

本明細書で開示する技術は、例えばヘッド・マウント・ディスプレイのように、表示パネルとレンズを組み合わせた表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラムに係り、特に、レンズの持つ歪みに起因する画像の歪みを信号処理によって補正する表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラムに関する。
頭部に装着して画像を視聴する表示装置、すなわちヘッド・マウント・ディスプレイ(HMD)が広く知られている。ヘッド・マウント・ディスプレイは、左右の眼毎に光学ユニットを持ち、また、ヘッドフォンと併用し、視覚及び聴覚を制御できるように構成されている。頭部に装着した際に外界を完全に遮るように構成すれば、視聴時の仮想現実感が増す。また、ヘッド・マウント・ディスプレイは、左右の眼に違う画像を映し出すことも可能であり、左右の眼に視差のある画像を表示すれば3D画像を提示することができる。
ヘッド・マウント・ディスプレイの左右の眼の表示部には、例えば液晶や有機EL(Electro−Luminescence)素子などからなる高解像度の表示パネルを用いることができる。また、接眼光学系で画像表示素子を拡大投影して広画角を設定するとともに、ヘッドフォンで多チャンネルを再現すれば、映画館で視聴するような臨場感を再現することができるであろう。
光学レンズには歪みがあることが知られている。例えば、ヘッド・マウント・ディスプレイで画角を大きくとると、接眼光学系で用いられるレンズの歪みに起因して、表示画像を観察するときに複雑や歪曲や色ずれが発生して、品質を劣化することが懸念される。
また、広画角を確保するために接眼光学系を構成するレンズの枚数を増やすと、ヘッド・マウント・ディスプレイの重量が増すため、これを装着するユーザーの負担が大きくなる。ここで、重量削減のためにレンズの枚数を少なくすると、各レンズで発生する歪みが大きくなるとともに、歪みを補正するレンズ系がなくなってしまう。その結果として、画角を大きくとることが困難になる。
接眼光学系で発生する歪みを信号処理によって補正する方法が知られている。すなわち、接眼光学系が図21に示すような歪みを持つ場合には、表示パネルに表示する画像を、図22に示すように接眼光学系の歪み特性と逆方向となるように、あらかじめ補正しておく。表示画像を接眼光学系越しに見たときには、歪みを含まない正常な画像として観察される。図21に示すように、接眼光学系が表示画像を糸巻き型に歪ませる特性を持つ場合には、図22に示すように、元画像に対して樽型に歪ませる画像補正を行なってから表示パネルに表示する。すると、接眼光学系越しの表示画像は、元画像と同じ画像として観察される。
また、レンズの持つ歪みは、光の波長に依存して若干変化するという特性を持つ。すなわち、接眼光学系が持つ歪みは、厳密には図23に示すようにものとなる。このため、RGBすべての色成分について図22に示したような歪み補正を一様に適用すると、図24に示すように色成分毎の像面での位置がずれてしまい、画像の鮮明度が劣化する。歪みの補正をより精度良く行なうには、図25に示すように、RGBの色成分毎に独立して補正処理を行なう必要がある。
例えば、RGB各色の画像信号に対して個別に歪み補正を行なうことで、光学系の色収差による画像の劣化も補正する方法について提案がなされている(例えば、特許文献1〜6を参照のこと)。
しかしながら、RGBの色成分毎に独立して補正処理を行なう際の副作用として、RGBのバランスが崩れることが懸念される。RGBのバランスの崩れは、例えば画像中の細い白線や白輝点などにおいて、色味が付いた偽色として観察される。
特開平9−61750号公報 特開平9−113823号公報 特開2001−186442号公報 特開2004−233869号公報 特開2008−258802号公報 特開2004−233869号公報
本明細書で開示する技術の目的は、表示パネルとレンズの組合せで画像を表示する際に、レンズの持つ歪みに起因する画像の歪みを信号処理によって好適に補正することができる、優れた表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラムを提供することにある。
本明細書で開示する技術のさらなる目的は、レンズの持つ歪みに起因する画像の歪みを、色成分毎の信号処理によって好適に補正することができる、優れた表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラムを提供することにある。
本明細書で開示する技術のさらなる目的は、色成分毎の独立した信号処理による副作用を抑制して、レンズの持つ歪みに起因する画像の歪みを信号処理によって好適に補正することができる、優れた表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラムを提供することにある。
本願は、上記課題を参酌してなされたものであり、請求項1に記載の技術は、
入力画像を色成分毎に独立して補正処理する画像補正部と、
前記画像補正部の出力画像を表示する表示部と、
前記表示部の表示画像を所定の画角となるように投影する接眼光学部と、
を具備し、
前記画像補正部は、各色成分について、ガンマ処理されている入力画像をデガンマ処理してから、前記接眼光学部により発生する歪みの補正処理を行ない、再ガンマ処理して出力する、
表示装置である。
本願の請求項2に記載の技術によれば、請求項1に記載の表示装置の画像補正部は、出力画像の画素を、ガンマ処理されたリニア入力画像上の対応する複数の画素で補間するように構成されている。
また、本願の請求項3に記載の技術は、
ガンマ処理されている入力画像信号をデガンマ処理するデガンマ処理部と、
デガンマ処理した後のリニア入力画像に対して、所定の接眼光学部で投影したときに発生する歪みの補正処理する画像補正部と、
補正した後のリニア画像を再ガンマ処理して出力するガンマ処理部と、
を色成分毎に具備する画像処理装置である。
また、本願の請求項4に記載の技術は、
ガンマ処理されている入力画像信号をデガンマ処理するデガンマ処理ステップと、
デガンマ処理した後のリニア入力画像に対して、所定の接眼光学部で投影したときに発生する歪みの補正処理する画像補正ステップと、
補正した後のリニア画像を再ガンマ処理して出力するガンマ処理ステップと、
を色成分毎に有する画像処理方法である。
また、本願の請求項5に記載の技術は、
入力画像の色成分毎に、ガンマ処理されている入力画像信号をデガンマ処理するデガンマ処理部、デガンマ処理した後のリニア入力画像に対して、所定の接眼光学部で投影したときに発生する歪みの補正処理する画像補正部、及び補正した後のリニア画像を再ガンマ処理して出力するガンマ処理部としてコンピューターが機能するようにコンピューター可読形式で記述されたコンピューター・プログラムである。
本願の請求項5に係るコンピューター・プログラムは、コンピューター上で所定の処理を実現するようにコンピューター可読形式で記述されたコンピューター・プログラムを定義したものである。換言すれば、本願の請求項5に係るコンピューター・プログラムをコンピューターにインストールすることによって、コンピューター上では協働的作用が発揮され、本願の請求項3に係る画像処理装置と同様の作用効果を得ることができる。
本明細書で開示する技術によれば、色成分毎の独立した信号処理による副作用を抑制して、レンズの持つ歪みに起因する画像の歪みを信号処理によって好適に補正することができる、優れた表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラムを提供することができる。
本明細書で開示する技術によれば、表示パネルとレンズを組み合わせた表示装置において、特に、色成分毎の独立した信号処理による副作用として色むらの発生や精細感の劣化を防止することかでき、より高画質な画像を表示することが可能になる。
本明細書で開示する技術のさらに他の目的、特徴や利点は、後述する実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
図1は、ヘッド・マウント・ディスプレイを含む画像表示システムの構成を模式的に示した図である。 図2は、ヘッド・マウント・ディスプレイにおいて、接眼光学系の投影像に発生する歪みを信号処理によって補正する機能ブロック図である。 図3は、入力画像をRGBの色成分毎に独立して補正処理を行なう画像補正部202の構成例を示した図である。 図4は、歪み補正ブロック301の内部構成例を示した図である。 図5は、入力画像信号の値din(mk)、din(mk+1)を参照信号ref(k)の小数部skでリニア補間して、出力画像信号dout(k)を得る様子を示した図である。 図6は、1画素の100%輝点を含む入力画像信号dinをリニア補間した場合の出力画像信号dout(k)の値を示した図である(但し、sk=0.2)。 図7は、1画素の100%輝点を含む入力画像信号dinをリニア補間した場合の出力画像信号dout(k)の値を示した図である(但し、sk=0.5)。 図8は、1画素の100%輝点を含む入力画像信号dinをリニア補間した場合の出力画像信号dout(k)の値を示した図である(但し、sk=0.8)。 図9は、ガンマ曲線を例示した図である。 図10は、1画素の100%輝点を含む入力画像信号dinをリニア補間した場合の出力画像の輝度を示した図である(但し、sk=0.2)。 図11は、1画素の100%輝点を含む入力画像信号dinをリニア補間した場合の出力画像の輝度を示した図である(但し、sk=0.5)。 図12は、1画素の100%輝点を含む入力画像信号dinをリニア補間した場合の出力画像の輝度を示した図である(但し、sk=0.8)。 図13は、1画素の100%白輝点を含む入力画像信号dinをリニア補間した場合の出力画像の色成分毎の輝度を示した図である。 図14は、画像補正によりRGBの色成分毎の輝度の総計が100%に揃わない1画素の白輝点を接眼光学系204越しに観察する様子を示した図である。 図15は、歪み補正ブロック301の内部構成例を示した図である。 図16は、1画素の100%輝点を含む入力画像信号dinをデガンマ処理してからリニア補間し、再ガンマ処理した場合の出力画像の輝度を示した図である(但し、sk=0.2)。 図17は、1画素の100%輝点を含む入力画像信号dinをデガンマ処理してからリニア補間し、再ガンマ処理した場合の出力画像の輝度を示した図である(但し、sk=0.5)。 図18は、1画素の100%輝点を含む入力画像信号dinをデガンマ処理してからリニア補間し、再ガンマ処理した場合の出力画像の輝度を示した図である(但し、sk=0.8)。 図19は、1画素の100%白輝点を含む入力画像信号dinをデガンマ処理してからリニア補間し、再ガンマ処理した場合の出力画像の色成分毎の輝度を示した図である。 図20は、画像補正によりRGBの色成分毎の輝度の総計が100%に揃った1画素の白輝点を接眼光学系204越しに観察する様子を示した図である。 図21は、レンズによって生じる画像歪みの一例を示した図である。 図22は、レンズによって生じる画像歪みを画像処理により補正する一例を示した図である。 図23は、レンズによって生じる画像歪みの色成分による相違を示した図である。 図24は、各色成分について同一の歪み補正を行なった結果を示した図である。 図25は、色成分毎に独立して画像補正を行なった結果を示した図である。
以下、図面を参照しながら本明細書で開示する技術の実施形態について詳細に説明する。
図1には、ヘッド・マウント・ディスプレイを含む画像表示システムの構成を模式的に示している。図示のシステムは、視聴コンテンツのソースとなるブルーレイ・ディスク再生装置20と、ブルーレイ・ディスク再生装置20から出力されるAV信号の処理を行なうフロント・エンド・ボックス40と、ブルーレイ・ディスク再生装置20の再生コンテンツの出力先となる頭部装着型の表示装置(ヘッド・マウント・ユニット)10と、ブルーレイ・ディスク再生装置20の再生コンテンツの他の出力先となるハイビジョン・ディスプレイ(例えば、HDMI対応テレビ)30で構成される。ヘッド・マウント・ユニット10とフロント・エンド・ボックス40で、1つのヘッド・マウント・ディスプレイが構成される。
フロント・エンド・ボックス40は、ブルーレイ・ディスク再生装置20から出力されるAV信号をHDMI入力すると、例えば信号処理して、HDMI出力するHDMIリピーターに相当する。また、フロント・エンド・ボックス40は、ブルーレイ・ディスク再生装置20の出力先をヘッド・マウント・ユニット10又はハイビジョン・ディスプレイ30のいずれかに切り替える2出力スイッチャーでもある。図示の例では、フロント・エンド・ボックス40は2出力であるが、3以上の出力を有していてもよい。但し、フロント・エンド・ボックス40は、AV信号の出力先を排他的とし、且つ、ヘッド・マウント・ユニット10への出力を最優先とする。
なお、HDMI(High−Definition Mutlimedia Interface)は、DVI(Digital Visual Interface)を基にし、物理層にTMDS(Transition Minimized Differential Signaling)を用いた、主に音声と映像の伝送を用途としたディジタル家電向けのインターフェース規格である。本システムは、例えばHDMI1.4に準拠する。
ブルーレイ・ディスク再生装置20とフロント・エンド・ボックス40間、並びに、フロント・エンド・ボックス40とハイビジョン・ディスプレイ30間は、それぞれHDMIケーブルで接続されている。フロント・エンド・ボックス40とヘッド・マウント・ユニット10間も、HDMIケーブルで接続するように構成することも可能であるが、その他の仕様のケーブルを用いてAV信号をシリアル転送するようにしてもよい。但し、フロント・エンド・ボックス40とヘッド・マウント・ユニット10間を接続するケーブル1本で、AV信号と電力を供給するものとし、ヘッド・マウント・ユニット10はこのケーブルを介して駆動電力も得ることができる。
ヘッド・マウント・ユニット10は、左眼用及び右眼用の独立した表示部を備えている。各表示部は、例えば有機EL素子からなる表示パネルを用いている。また、左右の各表示部は、低歪みで且つ高解像度の広視野角の接眼光学系を装備している。接眼光学系で画像表示素子を拡大投影して広画角を設定するとともに、ヘッドフォンで多チャンネルを再現すれば、映画館で視聴するような臨場感を再現することができる。
接眼光学系で用いられるレンズの歪みに起因して、表示パネルの観察画像に歪みが生じることが懸念される。観察画像の歪みを光学系で補正することが可能である。但し、この方法によると、歪み補正用のレンズが追加されるため、ヘッド・マウント・ユニット10の重量が増し、装着するユーザーへの負担が懸念される。そこで、本実施形態では、接眼光学系で発生する歪みを信号処理によって補正する方法を採用する。
ここで言う信号処理とは、接眼光学系の投影像に発生する歪みとは逆方向の歪みを提示画像に与える処理に相当する。図2には、ヘッド・マウント・ディスプレイにおいて、接眼光学系の投影像に発生する歪みを信号処理によって補正する機能ブロック図を示している。
HDMI受信部201は、ブルーレイ・ディスク再生装置20のような画像ソースから画像を入力する。この入力画像の各画素に、接眼光学系204を通過することによって歪みが生じる。画像補正部202は、逆方向の歪みを提示画像の各画素に与えることによって、Motion Compensation(MC)、すなわち、歪みによって生じる各画素の変位を補償して、事前逆歪みをかけた表示画像を生成する。画素に与える逆方向の歪みのことを、以下では、変位ベクトル(Motion Vector:MV)と呼ぶ。変位ベクトルは、入力画像上の画素位置を始点とし、この始点に対応する表示画像上の画素位置を終点とする。
表示部203は、画像補正部202で逆方向の歪みで補正された後の入力画像を表示パネル上に表示する。この表示画像は、接眼光学系204を介して観察者の目の網膜に投影される。表示画像が接眼光学系204を通過する際に歪みが生じるが、表示画像にはこの歪みとは逆方向の歪みが与えられているので、網膜上には、歪みを含まない正常な虚像が結像される。
なお、画像補正部202は、ヘッド・マウント・ユニット10又はフロント・エンド・ボックス40のいずれに配設してもよい。ヘッド・マウント・ユニット10内の接眼光学系204を構成するレンズが持つ歪みパラメーターに基づく画像歪みを補正することを考慮すると、画像補正部202をヘッド・マウント・ユニット10内に配設すれば、フロント・エンド・ボックス40側では、どのヘッド・マウント・ユニット10に出力するかを意識せずに画像信号を出力することができる。
接眼光学系204を構成するレンズが持つ歪みは、光の波長に依存して若干変化するという特性を持つ。このため、画像補正部202では、RGBの色成分毎に独立して入力画像について補正処理を行なう必要がある。ところが、RGBの色成分毎に独立して補正処理を行なう際の副作用として、RGBのバランスが崩れることが懸念される。
以下では、入力画像をRGBの色成分毎に独立して補正処理を行なう際の副作用について考察してみる。
図3には、入力画像をRGBの色成分毎に独立して補正処理を行なう画像補正部202の構成例を示している。画像補正部202には、RGBの色成分毎に独立して、入力画像信号dinR、dinG、dinBと参照信号refR、ref、refが入力される。色成分毎に設けられた各歪み補正ブロック301、302、303は、それぞれ参照信号refR、ref、refに基づいて、入力画像信号dinR、dinG、dinBから出力画像信号doutR、doutG、doutBを補間生成する。
以下では、説明の簡素化のため、各歪み補正ブロック301、302、303は水平方向のみの補正を行なうとする。また、その補正時の補間方法をリニア補間として説明する。勿論、各歪み補正ブロック301、302、303が水平と垂直の2次元補間処理や、キュービック補間などのマルチタップ補間処理を行なうとしても、以下の説明は同様に成り立つ。
図4には、歪み補正ブロック301の内部構成例を示している。以下では、1つの色成分に限定して説明するが、すべての色成分についての歪み補正ブロック302、303の構成並びに処理内容は同様である。
歪み補正ブロック301には、入力画像信号dinと参照信号ref(k)が入力される。入力画像信号dinは、画像メモリー401内に書き込まれる。参照信号ref(k)は、k番目の画素位置の出力画像信号dout(k)が参照する入力画像信号dinの画素位置mkを表すものである。但し、出力画像信号dout(k)が参照する入力画像信号dinの画素位置mkは整数とは限らないので、参照信号(k)の整数部をmk、小数部をskと表す。出力画像信号dout(k)は変位ベクトルMVの終点に相当し、ref(k)は変位ベクトルの始点に相当する。すなわち、画素位置mkは、出力画像のk番目の画素において、接眼光学系204で発生する歪みに対して逆方向に歪んだ位置である。
画像メモリー401からは、参照信号ref(k)の整数部mkの値に応じて、隣接するmk番目及びmk+1番目の画素位置の入力画像信号の値din(mk)、din(mk+1)が出力される。
補間部402は、画像メモリー401から読み出された隣接する2画素の入力画像信号の値din(mk)、din(mk+1)を、参照信号ref(k)の小数部skの値に基づいて下式(1)のようにリニア補間して、k番目の画素位置の出力画像信号dout(k)を得る。図5には、入力画像信号の値din(mk)、din(mk+1)を参照信号ref(k)の小数部skでリニア補間して、出力画像信号dout(k)を得る様子を図解している。
この歪み補正ブロック301において、入力画像dinに1画素の輝点が存在したときの振る舞いについて、さらに詳細に考察する。
一般に、レンズで画像に発生する歪みは画面内で緩やかに変化する。したがって、k番目の出力画像dout(k)の近辺では、参照番号ref(k)は、下式(2)のように近似することができる。
図6〜図8には、1画素の100%輝点を含む入力画像信号dinを上式(1)に従ってリニア補間する場合において、参照信号ref(k)の小数部skをそれぞれ0.2、0.5、0.8と変化させたときの補正後の出力画像信号dout(k)の値を示している。各図を比較すると、出力画像の信号値dout(k)は、参照信号ref(k)の小数部skの値に応じて変化するものの、信号値の総計はいずれも20+80=50+50=80+20=100%になっており、100%輝点が複数の画素に分散されていることが分かる。
ここで留意すべきことは、入力画像信号dinがガンマ処理されているという点である。一般的に画像信号は、図9に示すようなガンマ曲線を用いたガンマ処理によりビット縮退されており、リニアすなわち信号値と画素の輝度値との関係が比例関係にはなっていない。図1に示したシステム構成では、最終出力段のヘッド・マウント・ユニット10でデガンマ処理した後に、表示パネルに表示される。
図6〜図8に示した例は、縦軸が信号値であるが、これを図9に示したガンマ曲線に従って輝度に換算すると、図10〜図12に示す通りとなる。各図を比較すると、出力画像の輝度が参照信号ref(k)の小数部skの値に応じて変化するとともに、輝度の総計も変化し、sk=0.2、0.4、0.8でそれぞれ3+61=64%、22+22=44%、61+3=64%と変化していることが分かる。つまり、画像補正部202で補正を行なうことにより、輝度が変化していることになる。
以上を踏まえて、入力画像に1画素の100%の白輝点があった場合を考える。接眼光学系204が持つ色収差のため、RGBの参照信号はそれぞれ異なる。例えば、ある出力画素位置kにおける参照信号ref(k)の小数点が、R:sk=0.2、G:sk=0.5、B:sk=0.8とまちまちの値であったとすると、図13に示すように、RGBの色成分毎の輝度の総計はsk=0.2、0.4、0.8それぞれの場合で、3+61=64%、22+22=44%、61+3=64%となる。上記は、表示部203の表示パネル上で表示された結果であるが、接眼光学系204越しには、図14に示すように、位置が一致して画像として観察されることになる。しかしながら、RGBの輝度の総計が違うため、本来白色であるはずのものが、赤又は青に偏り、紫がかった色として観測されることになる。
1画素の輝点のような急峻な変化を持った画像信号が画像補正部202に入力されないように、低域通過フィルターを用いて入力画像信号を鈍らせることが考えられる。しかしながら、本来の映像が持つ精細感が失われてしまう、という問題がある。
そこで、本実施形態では、入力画像信号をデガンマ処理して一旦リニア―画像に変換してから歪み補正を行ない、その後再びガンマ処理して出力するようにしている。図15には、この場合の歪み補正ブロック301の内部構成例を示している。以下では、1つの色成分に限定して説明するが、すべての色成分についての歪み補正ブロック302、303の構成並びに処理内容は同様である。
歪み補正ブロック301には、入力画像信号dinと参照信号ref(k)が入力される。
入力画像信号dinは、入力段に配設されたデガンマ処理部1501でデガンマ処理され、その出力であるリニア入力画像信号din´が画像メモリー1502内に書き込まれる。
また、参照信号ref(k)は、k番目の画素位置の出力画像信号dout(k)が参照する入力画像信号dinの画素位置を表すが、ref(k)の整数部mkは画像メモリー1502に入力され、小数部をskは補間部1503に入力される。
画像メモリー401からは、参照信号ref(k)の整数部mkの値に応じて、隣接するmk番目及びmk+1番目の画素位置のリニア入力画像信号の値din´(mk)、din´(mk+1)が出力される。
補間部1503は、画像メモリー401から読み出された隣接する2画素のリニア入力画像信号の値din´(mk)、din´(mk+1)を、参照信号ref(k)の小数部skの値に基づいて下式(3)のようにリニア補間して、k番目の画素位置の補正画像信号dout´(k)を得る。
出力段に配設されたガンマ処理部1504は、リニアな補正画像信号dout´(k)を再ガンマ処理して、出力画像信号dout(k)を出力する。
図15に示した歪み補正ブロック301において、入力画像dinに1画素の輝点が存在したときの振る舞いについて、さらに詳細に考察する。図16〜図18には、デガンマ処理後のリニア入力画像信号din´を上式(4)に従ってリニア本化する場合において、前述と同様に参照信号ref(k)の小数部skを0.2、0.5、0.8と変化させたときの、補正画像信号dout´(k)、再ガンマ処理した後の出力画像信号dout(k)の各値、さらに出力画像信号dout(k)を輝度に換算した値を示している。
図16〜図18の各図を比較すると、リニアな補正画像の信号値dout´(k)は、参照信号ref(k)の小数部skの値に応じて変化するものの、信号値の総計はいずれも20+80=50+50=80+20=100%になっており、100%輝点が複数の画素に分散されていることが分かる。
また、補正画像信号dout´(k)を再ガンマ処理した後の出力画像信号dout(k)の信号値も、参照信号ref(k)の小数部skの値に応じて変化する。sk=0.2、0.4、0.8それぞれの場合で、信号値の総計をみると、49+90=139%、70+70=150%、90+49=139%となる。さらに各々の出力画像信号dout(k)を輝度に換算すると、輝度の総計はいずれも20+80=50+50=80+20=100%になっており、100%輝点が複数の画素に分散されていることが分かる。
以上を踏まえて、入力画像に1画素の100%の白輝点があった場合を考える。接眼光学系204の色収差のため、RGBの参照信号はそれぞれ異なる。例えば、ある出力画素位置kにおける参照信号ref(k)の小数点が、R:sk=0.2、G:sk=0.5、B:sk=0.8とまちまちの値であったとすると、図19に示すように、RGBの色成分毎の輝度の総計はsk=0.2、0.4、0.8それぞれの場合で、20+80=50+50=80+20=100%になっており、100%輝点が複数の画素に分散されていることが分かる。上記は、表示部203の表示パネル上で表示された結果であるが、接眼光学系204越しには、図20に示すように、位置が一致して画像として観察されることになる。そして、RGBの輝度の総計が100%で一致するので、本来白色であるものが、正しく白色として観測されるようになる。
このように、図15に示した歪み補正ブロックを用いて画像補正を行なうことで、表示パネルとレンズを組み合わせて表示する際に、補正による画質劣化を軽減することができる。特に、色むらの発生や、精細感の劣化を防ぐことができ、より高画質な画像を表示することが可能となる。
なお、本明細書の開示の技術は、以下のような構成をとることも可能である。
(1)入力画像を色成分毎に独立して補正処理する画像補正部と、前記画像補正部の出力画像を表示する表示部と、前記表示部の表示画像を所定の画角となるように投影する接眼光学部を具備し、前記画像補正部は、各色成分について、ガンマ処理されている入力画像をデガンマ処理してから、前記接眼光学部により発生する歪みの補正処理を行ない、再ガンマ処理して出力する、表示装置。
(2)前記画像補正部は、出力画像の画素を、ガンマ処理されたリニア入力画像上の対応する複数の画素で補間する、上記(1)に記載の表示装置。
(3)ガンマ処理されている入力画像信号をデガンマ処理するデガンマ処理部と、デガンマ処理した後のリニア入力画像に対して、所定の接眼光学部で投影したときに発生する歪みの補正処理する画像補正部と、補正した後のリニア画像を再ガンマ処理して出力するガンマ処理部を色成分毎に具備する画像処理装置。
(4)ガンマ処理されている入力画像信号をデガンマ処理するデガンマ処理ステップと、デガンマ処理した後のリニア入力画像に対して、所定の接眼光学部で投影したときに発生する歪みの補正処理する画像補正ステップと、補正した後のリニア画像を再ガンマ処理して出力するガンマ処理ステップを色成分毎に有する画像処理方法。
(5)入力画像の色成分毎に、ガンマ処理されている入力画像信号をデガンマ処理するデガンマ処理部、デガンマ処理した後のリニア入力画像に対して、所定の接眼光学部で投影したときに発生する歪みの補正処理する画像補正部、及び補正した後のリニア画像を再ガンマ処理して出力するガンマ処理部としてコンピューターが機能するようにコンピューター可読形式で記述されたコンピューター・プログラム。
以上、特定の実施形態を参照しながら、本明細書で開示する技術について詳細に説明してきた。しかしながら、本明細書で開示する技術の要旨を逸脱しない範囲で当業者が該実施形態の修正や代用を成し得ることは自明である。
本明細書では、本明細書で開示する技術をヘッド・マウント・ディスプレイに適用した実施形態を中心に説明してきたが、本明細書で開示する技術の要旨は特定のヘッド・マウント・ディスプレイの構成に限定されるものではない。表示パネルとレンズの組合せで画像をユーザーに提示するさまざまなタイプの表示システムにも、同様に本明細書で開示する技術を適用することができる。
要するに、例示という形態により本明細書で開示する技術について説明してきたのであり、本明細書の記載内容を限定的に解釈するべきではない。本明細書で開示する技術の要旨を判断するためには、特許請求の範囲を参酌すべきである。
10…ヘッド・マウント・ユニット
20…ブルーレイ・ディスク再生装置
30…ハイビジョン・ディスプレイ
40…フロント・エンド・ボックス
201…HDMI受信部
202…画像補正部
203…表示部
204…接眼光学系
301…歪み補正ブロック(Red用)
302…歪み補正ブロック(Green用)
303…歪み補正ブロック(Blue用)
401…画像メモリー
402…補間部
1501…デガンマ処理部
1502…画像メモリー
1503…補間部
1504…ガンマ処理部

Claims (5)

  1. 入力画像を色成分毎に独立して補正処理する画像補正部と、
    前記画像補正部の出力画像を表示する表示部と、
    前記表示部の表示画像を所定の画角となるように投影する接眼光学部と、
    を具備し、
    前記画像補正部は、各色成分について、ガンマ処理されている入力画像をデガンマ処理してから、前記接眼光学部により発生する歪みの補正処理を行ない、再ガンマ処理して出力する、
    表示装置。
  2. 前記画像補正部は、出力画像の画素を、ガンマ処理されたリニア入力画像上の対応する複数の画素で補間する、
    請求項1に記載の表示装置。
  3. ガンマ処理されている入力画像信号をデガンマ処理するデガンマ処理部と、
    デガンマ処理した後のリニア入力画像に対して、所定の接眼光学部で投影したときに発生する歪みの補正処理する画像補正部と、
    補正した後のリニア画像を再ガンマ処理して出力するガンマ処理部と、
    を色成分毎に具備する画像処理装置。
  4. ガンマ処理されている入力画像信号をデガンマ処理するデガンマ処理ステップと、
    デガンマ処理した後のリニア入力画像に対して、所定の接眼光学部で投影したときに発生する歪みの補正処理する画像補正ステップと、
    補正した後のリニア画像を再ガンマ処理して出力するガンマ処理ステップと、
    を色成分毎に有する画像処理方法。
  5. 入力画像の色成分毎に、ガンマ処理されている入力画像信号をデガンマ処理するデガンマ処理部、デガンマ処理した後のリニア入力画像に対して、所定の接眼光学部で投影したときに発生する歪みの補正処理する画像補正部、及び補正した後のリニア画像を再ガンマ処理して出力するガンマ処理部としてコンピューターが機能するようにコンピューター可読形式で記述されたコンピューター・プログラム。
JP2012058937A 2012-03-15 2012-03-15 表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラム Ceased JP2013192193A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012058937A JP2013192193A (ja) 2012-03-15 2012-03-15 表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラム
US13/789,676 US20130241947A1 (en) 2012-03-15 2013-03-07 Display device, image processing device, image processing method, and computer program
CN2013100748408A CN103313079A (zh) 2012-03-15 2013-03-08 显示装置、图像处理装置、图像处理方法和计算机程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012058937A JP2013192193A (ja) 2012-03-15 2012-03-15 表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラム

Publications (1)

Publication Number Publication Date
JP2013192193A true JP2013192193A (ja) 2013-09-26

Family

ID=49137791

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012058937A Ceased JP2013192193A (ja) 2012-03-15 2012-03-15 表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラム

Country Status (3)

Country Link
US (1) US20130241947A1 (ja)
JP (1) JP2013192193A (ja)
CN (1) CN103313079A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150112819A (ko) 2014-03-27 2015-10-07 도쿄엘렉트론가부시키가이샤 기판 검사 장치
JP2017524278A (ja) * 2014-06-26 2017-08-24 インテル・コーポレーション 色収差に対する歪みメッシュ

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10365490B2 (en) * 2015-05-19 2019-07-30 Maxell, Ltd. Head-mounted display, head-up display and picture displaying method
US9607428B2 (en) 2015-06-30 2017-03-28 Ariadne's Thread (Usa), Inc. Variable resolution virtual reality display system
US9588593B2 (en) 2015-06-30 2017-03-07 Ariadne's Thread (Usa), Inc. Virtual reality system with control command gestures
US9588598B2 (en) 2015-06-30 2017-03-07 Ariadne's Thread (Usa), Inc. Efficient orientation estimation system using magnetic, angular rate, and gravity sensors
US10089790B2 (en) 2015-06-30 2018-10-02 Ariadne's Thread (Usa), Inc. Predictive virtual reality display system with post rendering correction
JP6545270B2 (ja) * 2015-09-07 2019-07-17 株式会社ソニー・インタラクティブエンタテインメント 情報処理システム、情報処理装置、出力装置、プログラム及び記録媒体
US10930185B2 (en) * 2015-09-07 2021-02-23 Sony Interactive Entertainment Inc. Information processing system, information processing apparatus, output apparatus, program, and recording medium
DE102015116405A1 (de) 2015-09-28 2017-03-30 Carl Zeiss Ag Anzeigevorrichtung mit Vorverzeichnung
WO2018064287A1 (en) * 2016-09-28 2018-04-05 Ariadne's Thread (Usa), Inc. Predictive virtual reality display system with post rendering correction
TWI663427B (zh) 2017-03-15 2019-06-21 宏碁股份有限公司 頭戴式顯示器及利用子像素位移之色差補償方法
US10762691B2 (en) * 2017-09-08 2020-09-01 Microsoft Technology Licensing, Llc Techniques for compensating variable display device latency in image display
CN111476848B (zh) * 2020-03-31 2023-04-18 北京经纬恒润科技股份有限公司 一种视频流仿真方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10233942A (ja) * 1997-02-19 1998-09-02 Sony Corp 画像表示制御装置および方法
JPH10327373A (ja) * 1997-05-26 1998-12-08 Mitsubishi Electric Corp 接眼映像表示装置
JP2003241731A (ja) * 2002-02-14 2003-08-29 Nippon Hoso Kyokai <Nhk> 映像信号補正回路及び映像信号補正方法
JP2011139158A (ja) * 2009-12-25 2011-07-14 Canon Inc 画像処理装置および画像処理方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02161872A (ja) * 1988-12-14 1990-06-21 Fuji Xerox Co Ltd 画像処理装置の縮拡処理方式
US5369450A (en) * 1993-06-01 1994-11-29 The Walt Disney Company Electronic and computational correction of chromatic aberration associated with an optical system used to view a color video display
US6597411B1 (en) * 2000-11-09 2003-07-22 Genesis Microchip Inc. Method and apparatus for avoiding moire in digitally resized images
JP4549881B2 (ja) * 2004-03-18 2010-09-22 シャープ株式会社 色信号変換装置、表示ユニット、色信号変換プログラム、色信号変換プログラムを記録したコンピュータ読み取り可能な記録媒体
US8525895B2 (en) * 2010-07-29 2013-09-03 Apple Inc. Binning compensation filtering techniques for image signal processing

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10233942A (ja) * 1997-02-19 1998-09-02 Sony Corp 画像表示制御装置および方法
JPH10327373A (ja) * 1997-05-26 1998-12-08 Mitsubishi Electric Corp 接眼映像表示装置
JP2003241731A (ja) * 2002-02-14 2003-08-29 Nippon Hoso Kyokai <Nhk> 映像信号補正回路及び映像信号補正方法
JP2011139158A (ja) * 2009-12-25 2011-07-14 Canon Inc 画像処理装置および画像処理方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150112819A (ko) 2014-03-27 2015-10-07 도쿄엘렉트론가부시키가이샤 기판 검사 장치
JP2017524278A (ja) * 2014-06-26 2017-08-24 インテル・コーポレーション 色収差に対する歪みメッシュ

Also Published As

Publication number Publication date
CN103313079A (zh) 2013-09-18
US20130241947A1 (en) 2013-09-19

Similar Documents

Publication Publication Date Title
JP2013192193A (ja) 表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラム
JP5907250B2 (ja) 表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラム
US10356375B2 (en) Display device, image processing device and image processing method, and computer program
US10319078B2 (en) Image signal processing apparatus and image signal processing method to suppress color shift caused by lens distortion
JP5062674B2 (ja) ステレオコンテンツの表示の際にクロストークを補償するためのシステム、方法、及びコンピュータプログラム製品
CN106575433B (zh) 一种畸变减小系统及装置
US20140198192A1 (en) Display device and display control method
JP5862112B2 (ja) ヘッド・マウント・ディスプレイ及び表示制御方法
JP4138451B2 (ja) 表示装置及び方法
JP2013085045A (ja) 映像表示システム、映像供給装置、並びに表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150826

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151006

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160322

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160324

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160517

A045 Written measure of dismissal of application [lapsed due to lack of payment]

Free format text: JAPANESE INTERMEDIATE CODE: A045

Effective date: 20160927