JP2005339313A - 画像提示方法及び装置 - Google Patents
画像提示方法及び装置 Download PDFInfo
- Publication number
- JP2005339313A JP2005339313A JP2004158855A JP2004158855A JP2005339313A JP 2005339313 A JP2005339313 A JP 2005339313A JP 2004158855 A JP2004158855 A JP 2004158855A JP 2004158855 A JP2004158855 A JP 2004158855A JP 2005339313 A JP2005339313 A JP 2005339313A
- Authority
- JP
- Japan
- Prior art keywords
- image
- drawing area
- fisheye
- fisheye image
- visual field
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 33
- 230000000007 visual effect Effects 0.000 claims abstract description 20
- 238000010606 normalization Methods 0.000 claims description 28
- 238000013507 mapping Methods 0.000 claims description 10
- 230000006870 function Effects 0.000 description 19
- 238000006243 chemical reaction Methods 0.000 description 13
- 238000003384 imaging method Methods 0.000 description 8
- 230000002452 interceptive effect Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000012544 monitoring process Methods 0.000 description 4
- 239000011521 glass Substances 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
- G06T3/047—Fisheye or wide-angle transformations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
【課題】 任意の視野が指定されてもビデオレートに近い高速性を維持して、画像を正規化する。
【解決手段】 魚眼画像Gを入力して記憶部16に記憶し、魚眼画像の視野範囲における視線方向(θ,φ)の情報と画角(γ)の情報とを含む視野情報を入力デバイス4からリアルタイムに入力する。管理機能部21は、入力された視野情報から視線方向に直交し画角によって決まる広さの平面Aからなる描画領域をリアルタイムに算出する。正規化計算モジュール22は、算出された描画領域の各画素位置に対応する魚眼画像中の画素位置をそれぞれ求めることにより描画領域に魚眼画像から歪みを除去した正規化画像をリアルタイムに形成する。
【選択図】 図4
【解決手段】 魚眼画像Gを入力して記憶部16に記憶し、魚眼画像の視野範囲における視線方向(θ,φ)の情報と画角(γ)の情報とを含む視野情報を入力デバイス4からリアルタイムに入力する。管理機能部21は、入力された視野情報から視線方向に直交し画角によって決まる広さの平面Aからなる描画領域をリアルタイムに算出する。正規化計算モジュール22は、算出された描画領域の各画素位置に対応する魚眼画像中の画素位置をそれぞれ求めることにより描画領域に魚眼画像から歪みを除去した正規化画像をリアルタイムに形成する。
【選択図】 図4
Description
本発明は、魚眼画像(全方位画像)の任意の視線方向の画像を表示平面上に非線形展開する画像提示方法及び装置に関し、特にリアルタイムに観察者の意図する方向の動画像を提示可能なインタラクティブ型の画像提示方法及び装置に関する。
たとえば、監視カメラを用いた監視システムにおいては、監視可能な領域を広くとるために、通常のレンズを用いた監視カメラに代えて、魚眼レンズを用いた監視カメラによって広角画像を収集する方法が知られている。この場合、魚眼レンズを用いた監視カメラによって得られる魚眼画像は通常のレンズを用いた監視カメラによって得られた画像に較べて歪んでいる。このため、魚眼画像から任意の視線方向の画像を歪みを取って平面表示する非線形変換処理が知られている。このような非線形変換処理を正規化処理(dewarp)と呼ぶ。
魚眼画像を正規化する方法としては、例えば特許文献1、2に開示された方法等が知られている。正規化のロジックは大筋が類似している変換式に定式化されている。したがって、装置として実装する上では、いずれかの変換式を用いてプログラミング言語で実装するか、描画対象の領域を複数箇所に固定にして、計算式に基づき事前にテーブルルックアップ形式で変換則を作成しておいてから、実装するかであった。
特許文献1に開示された方法では、球面上へのマッピングをX-MAPプロセッサ及びY-MAPプロセッサにより高速化している。特許文献2に開示された方法では、2つの座標演算部がルックアップテーブルを利用することにより、同様に球面上の座標計算を高速化している。
特許第3051173号、5頁右欄19〜30行、第4図
特許第3126955号、3頁段落0021、図1
しかしながら、上述した特許文献1,2に開示された方法は、いずれも非線形変換処理が球面上での写像を基本として表示画素を順次計算するようにしたものであり、事前に決められた限定された複数箇所からの視野でのみしか正規化が行われないため、インタラクティブ性に乏しいものであった。
本発明は、上述した問題点を解決するためになされたもので、任意の視野が指定されてもビデオレートに近い高速性を維持して、画像を正規化することのできる画像提示方法および装置を提供することを目的とする。
本発明に係る画像提示装置は、魚眼画像を入力する魚眼画像入力手段と、前記入力された魚眼画像を記憶する魚眼画像記憶手段と、前記魚眼画像の視野範囲における視線方向(θ,φ)の情報と画角(γ)の情報とを含む視野情報をリアルタイムに入力する視野情報入力手段と、前記入力された視野情報から前記視線方向に直交し前記画角によって決まる広さの平面からなる描画領域をリアルタイムに算出する描画領域算出手段と、前記算出された描画領域の各画素位置に対応する前記魚眼画像中の画素位置をそれぞれ求めることにより前記描画領域に前記魚眼画像から歪みを除去した正規化画像をリアルタイムに形成する正規化処理手段とを備えたことを特徴とする。
本発明によれば、視線方向及び画角を含む視野情報がリアルタイムで入力されるたびに、入力された視野情報から視線方向に直交し画角によって決まる広さ(2Ku×2Kv)の平面からなる描画領域がまず確定され、この描画領域を制約条件として描画領域の各画素位置に対応した魚眼画像中の画素位置をそれぞれ求めることにより、描画領域に魚眼画像から歪みを除去した正規化画像を形成するようにしているので、正規化される対象画素が限定され、高速な動画描画が可能になる。また、本発明の正規化処理は、球面に接する平面上の点を順次求める処理であるため、演算処理が容易であり、任意の視野が指定されるたびにリアルタイムで指定された視野内の画像を表示することが可能となる。以上の点から、インタラクティブな任意方向の画像形成が可能になる。
以下、図面を参照して本発明の実施の形態について説明する。
<正規化処理の基本概念>
図1〜図3は、本発明における正規化処理の基本概念を説明するための図である。
<正規化処理の基本概念>
図1〜図3は、本発明における正規化処理の基本概念を説明するための図である。
図1に示すように、魚眼画像は、仮想的に設定された半球Sの半球面上に結像された被写体を平面(半球Sの円形底面)上に展開した画像(歪んだ全方位画像)であると考えることができる。この半球Sに対し、その底円の中心を原点Oとし、底円を含む平面内で原点Oから互いに直交する方向をX軸及びY軸、原点Oから半球Sの頂点に延びる方向をZ軸とする3次元座標系を設定する。
いま、入力情報として原点Oから半球面を見た視線方向Bを与える。視線方向Bは、Z軸からの角度である天頂角(チルト)θと、X軸からの角度である方位角(パン)φとによって与えられる。この視線方向Bは、視認者の視野中心となるが、図2に示すように、ズーム倍率(画角γ)をさらに指定することにより、描画したい(見たい)部分が図1の視線方向Bに直交し半球面上に接している平面A(仮想的な透視カメラの撮像面)として指定される。平面A内の位置は、視線方向Bを示す線との交点Pを原点とするEu,Evの2次元座標系で表現される。この平面Aを「描画領域」と呼ぶ。「正規化処理」とはこの描画領域をオリジナルの魚眼画像(半球Sの円形底面に展開される歪んだ全方位画像)から復元することに等しい。
次に、描画領域を魚眼画像から復元する処理について説明する。例えば平面A上の点Psは、天頂角θs、方位角φsで定義される光線Cと平面Aとの交点として表現される。したがって、点Psの輝度を決定するためには、点Psの3次元座標を視線方向Bのθ,φを用いて算出して、点Psを通る光線Cのθs,φsを求め、さらに魚眼投影のモデル式に基づいて、魚眼画像の対応点Ps′の画素位置を求めればよい。
即ち、いま半球Sが半径=1の単位球であるとし、図2に示すように、描画領域を示す平面AのEu軸方向の長さを2Ku、Ev軸方向の長さを2Kvとすると、Ku,Kvは、ズーム倍率(画角γ)と、描画領域のアスペクト比αとを用いて、
θs,φsが判ると、平面A上の点Psに対応する魚眼画像G上の点Ps′の極座標(L,φs)が求められる。図3に示すように、Lは、一般的にはL=f(θ)の一価関数で表現され、等距離射影の場合、L=f・θs、等立体角射影の場合、L=2f・tan(θ/2)がモデル式として用いられる。なお、fは魚眼レンズの焦点距離である。
ここでは、魚眼画像Gの半径をr_pxとし、天頂角θsが0〜π/2まで変化したときに、点Ps′が魚眼画像Gの中心位置Oから魚眼画像Gの最外周まで等距離射影する下記数4のモデル式を用いると、Lは、
一般的には、これらの画像変換計算には時間がかかり、リアルタイムを実現することは困難である。このような画像変換計算を高速化可能とするため、外部との画像の入出力、入力デバイスとのインターフェースを含めた全体の管理を行う管理機能手段と、歪を正規化する計算モジュール機能を分離させることが望ましい。好ましくは、正規化計算モジュールには並列処理可能な3つの計算モジュールが用いられる。
<第1の実施形態>
図4は、本発明の第1の実施形態に係るインタラクティブ型画像表示システムの構成を示す図である。このシステムは、魚眼画像を指定された視野の正規化画像に変換する画像提示装置1と、この画像提示装置1に全方位画像、特に動画像をリアルタイムに供給する魚眼撮像装置2と、魚眼撮像装置等によって予め撮像された魚眼画像をMPEG2ファイル、JPEGファイル群等のデジタル画像ファイルの形態で蓄積したデジタル画像ファイル記憶部3と、外部制御として利用者が見たい視線方向(θ,φ)及びズーム倍率(画角γ)等の情報を入力する入力デバイス4と、画像提示装置1で正規化された正規化画像を表示するモニタ等の出力デバイス5とを備えて構成されている。
図4は、本発明の第1の実施形態に係るインタラクティブ型画像表示システムの構成を示す図である。このシステムは、魚眼画像を指定された視野の正規化画像に変換する画像提示装置1と、この画像提示装置1に全方位画像、特に動画像をリアルタイムに供給する魚眼撮像装置2と、魚眼撮像装置等によって予め撮像された魚眼画像をMPEG2ファイル、JPEGファイル群等のデジタル画像ファイルの形態で蓄積したデジタル画像ファイル記憶部3と、外部制御として利用者が見たい視線方向(θ,φ)及びズーム倍率(画角γ)等の情報を入力する入力デバイス4と、画像提示装置1で正規化された正規化画像を表示するモニタ等の出力デバイス5とを備えて構成されている。
画像提示装置1は、魚眼画像の入力処理(A/D変換、各種デコード処理等)を行う入力処理部11と、装置の中核をなす変換装置12及び出力部としてのD/A変換部13とを主体として構成されている。また、画像提示装置1は、入力デバイス4から視線方向等の情報を入力するための入力インターフェース14、オリジナルの魚眼画像を記憶する魚眼画像記憶部16及び正規化画像を記憶する正規化画像記憶部18を有する。
変換装置12は、更に、外部との間で魚眼画像及び正規化画像の入出力、入力デバイス4との間のインターフェースを含めた全体の管理を行う管理機能部21と、魚眼画像の歪を正規化する正規化計算モジュール22を備えている。
以上の構成において、魚眼撮像装置2によって撮像された映像は、管理機能部21での管理の下、リアルタイムで入力処理部11を経由して内部に取り込まれ、魚眼画像として魚眼画像記憶部16に保持される。なお、画像の入力は他に事前に蓄積しているデジタル画像ファイル記憶部3からのデジタル画像ファイル(例えばMPEG2ファイル、JPEGファイル群等)のいずれかのファイルも同様に入力処理し、魚眼画像として保持することができる。利用者(視聴者)は自分の見たい方角の映像を見るために、例えばジョイステック・マウスなどの様な入力デバイス4を用いて、本発明装置に対して、見たい視線方向(θ,φ)、ズームの倍率(画角γ)を入力する。本入力情報はインターフェース14を介して管理機能部21に通知される。なお、入力情報の入力方法として単純なキーボード・マウス入力も可能である。
図5は、画像提示装置1の処理の流れを示すフローチャートである。
管理機能部21は、複数の管理モードを有する。これらの管理モードは、(1)魚眼撮影系からのリアルタイム画像入力モード、(2)ファイルからの蓄積画像入力モード、(3)表示のための視線方向、ズーム倍率入力及び表示制御モードである。
まず、管理機能部21が動作して、魚眼画像の読み込みが、リアルタイム系画像入力モードか、蓄積画像入力モードかを判断する(S1)。リアルタイム系画像入力モードの場合には、入力処理部11を介して魚眼撮像装置2からリアルタイムに画像を読み込む(S2)。蓄積画像入力モードの場合には、入力処理部11を介してデジタル画像ファイル記憶部3からデジタル画像ファイルを読み込む(S3)。読み込まれた魚眼画像は、魚眼画像記憶部16に順次記憶される。
一方、これと並行して管理機能部21は、表示のための視線方向、ズーム倍率入力及び表示制御モードを実行し、入力デバイス4から視線方向(θ,φ)とズーム倍率(γ)とを入力情報として読み込む(S4)。利用者(視聴者)は自分の見たい方角の映像を見るために、例えばジョイステック・マウスなどの様な入力デバイス4を用いて、カメラの撮影操作のように、見たい視線方向及びズームの倍率をリアルタイムで変化させることができ、管理機能部21は、これらの入力情報をリアルタイムで読み込む。
管理機能部21は、視線方向(θ,φ)とズーム倍率(γ)が読み込まれたら、上述した数1に基づいて描画領域の広さを特定するKu,Kvの値を計算する(S5)。このとき、予め格納しておいたレンズ特性、CMOS(又はCCD)特性等の特性パラメータも同時に考慮してKu,Kvを特定することが望ましい。正規化計算モジュール22では、描画領域について正規化処理を実行し(S7)、管理機能部21は、正規化画像を用いてモニタ等の出力デバイス5に描画を行う(S8)。以上の処理は、入力情報が読み込まれるたびに実行される。
次に正規化処理について説明する。図6は、正規化モジュール内での処理の概要を示す図である。正規化計算モジュール22では、描画領域の各画素の3次元位置の計算処理(S11)と、3次元非線形テキスチャマッピング処理(S12)とを実行して、魚眼画像を正規化して正規化画像を生成する。
描画領域の各画素の3次元位置の計算処理(S11)では、まず、管理機能部21で算出された描画領域の広さKu,Kv、入力デバイス4により与えられた視線方向(θ,φ)及び予め記憶されているレンズや撮像系の特性パラメータ等を入力し、前述した数2の演算によって、描画領域を示す平面Aの各画素(Ps)の3次元位置(Px,Py,Pz)をu,vを更新しながら計算する。
非線形テキスチャマッピング処理(S12)では、各画素の3次元位置(Px,Py,Pz)の計算結果を、前述した数3〜数5に代入することにより、描画領域に描画すべき正規化画像の各画素位置に対応するオリジナルの魚眼画像G上での画素位置(x_pixel,y_pixel)が算出されるので、その画素位置の色情報(RGB,YUVなど)が描画領域の対応する画素にマッピングされる。
この3次元位置の計算処理(S11)及び非線形テキスチャマッピング処理(S12)は、式(数1〜数5)を見ても判るように、画素毎に独立して実行することができる。このため、複数の画素についての処理を並列計算することができる。したがって、図7に示しているようにCPUなどの利用できるハードウェアリソースの数が増えるほど本計算処理(S11,S12)は並列度が上がり、計算時間を短縮することが出来る。これにより、リアルタイムに、しかもインタラクティブに高画質の映像を描画することが出来る。
<第2の実施形態>
正規化計算モジュール22の処理は、グラフィック専用プロセッサ(GPU)等のグラフィックス機能を利用することにより、更に高速な処理が可能になる。すなわち、図1における描画領域を示す平面Aを3次元上で行うテキスチャマッピングの対象と考えることにより、グラフィックボード側でかなりの処理を行うことが出来る。
正規化計算モジュール22の処理は、グラフィック専用プロセッサ(GPU)等のグラフィックス機能を利用することにより、更に高速な処理が可能になる。すなわち、図1における描画領域を示す平面Aを3次元上で行うテキスチャマッピングの対象と考えることにより、グラフィックボード側でかなりの処理を行うことが出来る。
図8は、グラフィックス機能を利用した正規化処理を示す図である。処理は、アプリケーションソフトウェアと、グラフィックス処理とに分かれている。アプリケーションソフトウェアで、描画領域の四隅の点(図2のP0,P1,P2,P3)の3次元位置を算出し(S21)、描画領域内の各画素位置の計算(S22)と、非線形テキスチャマッピング処理(S23)は、グラフィックボード側のグラフィックス処理の3次元テキスチャマッピングとインデント処理により行う。描画領域内の各画素位置の計算は、四隅の3次元位置からの内挿処理となる。
描画領域の四隅の点の3次元位置を算出する処理(S21)では、入力情報として与えられた視線方向(θ,φ)、ズーム倍率(画角γ)及び特性パラメータに基づいて、図2に示すような方向ベクトルVを求める。軸ベクトルEuは、Z成分がゼロであること及び方向ベクトルVに直交することにより求められる。更に軸ベクトルEvは、
ズーム倍率(画角γ)が定義されているため、表示すべき平面Aの大きさは、Eu軸上では( -tanγ/2、tanγ/2)の範囲である。またアスペクト比αは描画ウィンドウサイズにより既知のため、Ev軸上では( -α・tanγ/2、α・tanγ/2)の範囲となる。したがって、四隅の3次元座標値はベクトル表記を用いて以下のように求められる。
<第3の実施形態>
本発明のように、描画領域を予め設定し、この描画領域に処理を限定するようにすると、オリジナルの魚眼画像Gのうち、処理の対象はごく一部の画像ということになる。そのため、図4の管理機能部21は、オリジナルの魚眼画像Gの一部のみを切り出して処理の対象とする。
例えば、図9に示すように、魚眼画像Gは、複数のブロックgに分割され、各ブロック単位でデコード処理が行われるものとする。本発明では、数1に示すKu,Kvや数7に示す四隅の3次元位置が求められていることを前提としているので、これらの情報を用いて処理の対象領域の周囲の8点P1〜P8の座標値を算出し、これらの座標値を内部に含むブロックg(図中網掛けのブロック)のみを、入力処理部11で処理の対象となるブロックとして取り込むようにする。例えばMPEG2,JPEGなどにおいては、対象となるマクロブロックを特定することにより可能であり、CMOSカメラでは対象となるセルのみキャプチャーすればよい。
図5におけるステップS6は、この処理を示したもので、Ku,Kvの値を計算したのち(S5)、オリジナルの魚眼画像上での切り出しブロックを算出し(S6)、読み込む画像を制限することにより、処理の高速化を図っている。
<第4の実施形態>
図10は、本発明の第4の実施形態に係るステレオ画像表示システムを示す図である。このシステムは、2台の平行に設置された魚眼レンズ付カメラ31,32と、これらカメラ31,32からの左右の魚眼画像を正規化処理する2組の画像提示装置を内蔵したコンピュータ33と、コンピュータ33に視線方向、ズーム倍率を入力する入力デバイス34と、コンピュータ33で正規化された左右の正規化画像を交互に表示するモニタなどの出力デバイス35と、出力デバイス35と同期する液晶シャッタメガネ36とを備えて構成されている。また。出力デバイス35に裸眼立体視ディスプレイを使用して、液晶シャッタメガネ36を省略しても良い。
<第4の実施形態>
図10は、本発明の第4の実施形態に係るステレオ画像表示システムを示す図である。このシステムは、2台の平行に設置された魚眼レンズ付カメラ31,32と、これらカメラ31,32からの左右の魚眼画像を正規化処理する2組の画像提示装置を内蔵したコンピュータ33と、コンピュータ33に視線方向、ズーム倍率を入力する入力デバイス34と、コンピュータ33で正規化された左右の正規化画像を交互に表示するモニタなどの出力デバイス35と、出力デバイス35と同期する液晶シャッタメガネ36とを備えて構成されている。また。出力デバイス35に裸眼立体視ディスプレイを使用して、液晶シャッタメガネ36を省略しても良い。
図11に示すように、それぞれ右目左目相当のカメラに対して、同じ視線方向、ズーム倍率を指定した仮想カメラ平面を利用者に提示可能で、さらにそれらをインタラクティブに同時に変更しても立体映像を提供することができる。すなわち、インタラクティブに見たい方角の映像を立体で観察することが出来る。視線を正面から変更するとき、かならず一方の仮想カメラ平面が他方より図12に示すように奥行き方向に差が出るため、視線方向に対して平行になるように一方を補正することにより、可能となる。
以上により高速に魚眼レンズの歪を正規化できるため、任意の視線、ズームでの高速な動画描画が可能となる。またインタラクティブな立体映像による監視、鑑賞も可能となる。
このようなシステムによれば、高速な動画描画が可能になり、リアルタイムに利用可能な放送分野、車載向けの映像監視などへの適用が可能となる。さらに立体視化することにより、例えば放送分野でのコンテンツの鑑賞の幅が広がる。また、監視用途では車に装着する事により車庫入れなどの狭い空間での車の操作を行う上で立体的に広範囲に見回すことができるため非常に有効になる。
本発明は、放送、携帯サービスなどのリアルタイムに配信されたコンテンツやパッケージメディア等の蓄積再生型コンテンツ等のうち、特に自動車の運転支援用の周辺監視、プラントの監視などの応用に好適である。
さらに立体視化することにより、例えば放送分野でのコンテンツの鑑賞の幅が広がる。また、監視用途では車に装着する事により車庫入れなどの狭い空間での車の操作を行う上で立体的に広範囲に見回すことができるため非常に有効になる。
1…画像提示装置、2…魚眼撮影装置、3…デジタル画像ファイル記憶部、4,34…入力デバイス、5,35…出力デバイス、11…入力処理部、12…変換装置、13…D/A変換部、14…入力インターフェース、16…魚眼画像記憶部、18…正規化画像記憶部、21…管理機能部、22…正規化モジュール、31,32…魚眼レンズ付きカメラ、33…コンピュータ、36…液晶シャッタメガネ。
Claims (7)
- 魚眼画像を入力する魚眼画像入力手段と、
前記入力された魚眼画像を記憶する魚眼画像記憶手段と、
前記魚眼画像の視野範囲における視線方向(θ,φ)の情報と画角(γ)の情報とを含む視野情報をリアルタイムに入力する視野情報入力手段と、
前記入力された視野情報から前記視線方向に直交し前記画角によって決まる広さの平面からなる描画領域をリアルタイムに算出する描画領域算出手段と、
前記算出された描画領域の各画素位置に対応する前記魚眼画像中の画素位置をそれぞれ求めることにより前記描画領域に前記魚眼画像から歪みを除去した正規化画像をリアルタイムに形成する正規化処理手段と
を備えたことを特徴とする画像提示装置。 - 前記魚眼画像は、動画像であることを特徴とする請求項1記載の画像提示装置。
- 前記魚眼画像が、仮想的に設定された半球の半球面上に結像された被写体を平面上に展開した画像であると仮定したとき、
前記描画領域算出手段は、前記半球面に接する平面を描画領域として算出し、
前記正規化処理手段は、
前記算出された描画領域における各画素の前記半球の底円の中心を原点とする3次元座標系における3次元位置をそれぞれ算出する3次元位置計算手段と、
前記算出された描画領域の各画素の3次元位置と前記原点とを通る軸の天頂角θs及び方位角φsを算出し、これら天頂角及び方位角に基づいて前記魚眼画像中の画素位置を求める非線形マッピング手段と
を備えたものであることを特徴とする請求項1又は2記載の画像提示装置。 - 前記描画領域算出手段は、前記描画領域の四隅の画素位置を算出し、
前記正規化処理手段は、前記描画領域の四隅の画素位置から前記描画領域の各画素位置を内挿処理により算出するものである
ことを特徴とする請求項1又は2記載の画像提示装置。 - 前記魚眼画像は、それぞれが個別にアクセス可能な複数のブロックに分割され、
前記算出された描画領域から読み込むべき前記ブロックを算出する読み込みブロック算出手段を更に備え、
前記魚眼画像入力手段は、前記算出された読み込むべきブロックのみを入力するものである
ことを特徴とする請求項1〜4のいずれか1項記載の画像提示装置。 - 前記魚眼画像は、ステレオ表示用の左右2系統の画像であり、
前記描画領域算出手段は、前記入力された視野情報に基づいて前記2系統の魚眼画像のそれぞれについて描画領域を算出し、
前記正規化処理手段は、前記算出された2系統の描画領域についてそれぞれの魚眼画像から正規化画像を形成するものである
ことを特徴とする請求項1記載の画像提示装置。 - 魚眼画像を入力して記憶手段に記憶するステップと、
前記魚眼画像の視野範囲における視線方向(θ,φ)の情報と画角(γ)の情報とを含む視野情報をリアルタイムに入力するステップと、
前記入力された視野情報から前記視線方向に直交し前記画角によって決まる広さの平面からなる描画領域をリアルタイムに算出するステップと、
前記算出された描画領域の各画素位置に対応する前記魚眼画像中の画素位置をそれぞれ求めることにより前記描画領域に前記魚眼画像から歪みを除去した正規化画像をリアルタイムに形成するステップと
を備えたことを特徴とする画像提示方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004158855A JP2005339313A (ja) | 2004-05-28 | 2004-05-28 | 画像提示方法及び装置 |
CNB2005100082676A CN100336076C (zh) | 2004-05-28 | 2005-02-07 | 图像提供方法和设备 |
US11/053,947 US7570280B2 (en) | 2004-05-28 | 2005-02-10 | Image providing method and device |
EP05250849A EP1600890A3 (en) | 2004-05-28 | 2005-02-15 | Distortion correction of fish-eye image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004158855A JP2005339313A (ja) | 2004-05-28 | 2004-05-28 | 画像提示方法及び装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005339313A true JP2005339313A (ja) | 2005-12-08 |
Family
ID=34940469
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004158855A Pending JP2005339313A (ja) | 2004-05-28 | 2004-05-28 | 画像提示方法及び装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US7570280B2 (ja) |
EP (1) | EP1600890A3 (ja) |
JP (1) | JP2005339313A (ja) |
CN (1) | CN100336076C (ja) |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007138846A1 (ja) | 2006-05-29 | 2007-12-06 | Opt Corporation | 広角レンズによる撮像データの圧縮方法、伸長表示方法、圧縮装置、広角カメラ装置およびモニタシステム |
WO2007138845A1 (ja) | 2006-05-29 | 2007-12-06 | Opt Corporation | 広角レンズによる撮像データの圧縮方法、圧縮装置、広角カメラ装置およびモニタシステム |
JPWO2007108081A1 (ja) * | 2006-03-20 | 2009-07-30 | 富士通株式会社 | 撮影装置、撮影方法及びプログラム、撮影装置のテーブル作成装置及び方法、映像処理装置及び方法 |
WO2009148038A1 (ja) * | 2008-06-06 | 2009-12-10 | ソニー株式会社 | 立体視画像生成装置、立体視画像生成方法およびプログラム |
JP2012053602A (ja) * | 2010-08-31 | 2012-03-15 | Hitachi Information & Communication Engineering Ltd | 画像補正装置、補正画像生成方法、補正テーブル生成装置、補正テーブル生成方法、補正テーブル生成プログラムおよび補正画像生成プログラム |
JP2012053601A (ja) * | 2010-08-31 | 2012-03-15 | Hitachi Information & Communication Engineering Ltd | 画像補正装置、補正画像生成方法、補正テーブル生成装置、補正テーブル生成方法、補正テーブル生成プログラムおよび補正画像生成プログラム |
JP2012191664A (ja) * | 2012-06-25 | 2012-10-04 | Sony Corp | 立体視画像生成装置、立体視画像生成方法およびプログラム |
JP2013057993A (ja) * | 2011-09-07 | 2013-03-28 | Ricoh Co Ltd | 画像処理装置、画像処理方法、プログラムおよび画像処理システム |
WO2014208230A1 (ja) * | 2013-06-24 | 2014-12-31 | 三菱電機株式会社 | 座標算出装置及び方法、並びに画像処理装置及び方法 |
JP2016042629A (ja) * | 2014-08-14 | 2016-03-31 | 株式会社リコー | 撮影装置、撮影方法、およびプログラム |
CN105632349A (zh) * | 2014-10-27 | 2016-06-01 | 深圳市康硕展电子有限公司 | Led球形显示屏播放管理的方法、装置及系统 |
JP2018533098A (ja) * | 2015-07-24 | 2018-11-08 | ローベルト ボッシュ ゲゼルシャフト ミット ベシュレンクテル ハフツング | パネル変換 |
JP2019033487A (ja) * | 2018-09-06 | 2019-02-28 | 株式会社リコー | 撮影装置、撮影方法、およびプログラム |
JP2021507655A (ja) * | 2018-02-08 | 2021-02-22 | イノベーションズ マインドトリック インコーポレイテッド | 視聴者に合わせて調整された立体画像表示 |
JP2021180017A (ja) * | 2020-12-03 | 2021-11-18 | アポロ インテリジェント コネクティビティ (ベイジン) テクノロジー カンパニー リミテッドApollo Intelligent Connectivity (Beijing) Technology Co., Ltd. | 路側感知方法、路側感知装置、電子デバイス、記憶媒体、路側設備、及びプログラム |
US11528413B2 (en) | 2016-08-22 | 2022-12-13 | Sony Corporation | Image processing apparatus and image processing method to generate and display an image based on a vehicle movement |
US11785197B2 (en) | 2017-08-30 | 2023-10-10 | Innovations Mindtrick Inc. | Viewer-adjusted stereoscopic image display |
Families Citing this family (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7774951B2 (en) * | 2006-10-04 | 2010-08-17 | Northwestern University | Sensing device with whisker elements |
JP4931055B2 (ja) * | 2006-11-22 | 2012-05-16 | ソニー株式会社 | 画像処理装置及び画像処理方法 |
JP2008197829A (ja) * | 2007-02-09 | 2008-08-28 | Sony Corp | 画像処理装置と方法およびプログラムと記録媒体 |
JP2008227582A (ja) * | 2007-03-08 | 2008-09-25 | Hoya Corp | 撮像装置 |
GB2449631B (en) * | 2007-05-21 | 2012-02-15 | Doo Technologies Fze | Method and system for processing of images |
DE102008049921A1 (de) * | 2008-09-29 | 2010-04-15 | Mobotix Ag | Verfahren zur Videodatenstrom-Erzeugung |
US8326077B2 (en) * | 2008-10-31 | 2012-12-04 | General Instrument Corporation | Method and apparatus for transforming a non-linear lens-distorted image |
JP5353393B2 (ja) * | 2009-04-07 | 2013-11-27 | 大日本印刷株式会社 | 画像処理装置及び画像処理方法等 |
US8320634B2 (en) * | 2009-07-11 | 2012-11-27 | Richard Deutsch | System and method for monitoring protective garments |
US20110134245A1 (en) * | 2009-12-07 | 2011-06-09 | Irvine Sensors Corporation | Compact intelligent surveillance system comprising intent recognition |
JP5454674B2 (ja) * | 2010-03-30 | 2014-03-26 | 富士通株式会社 | 画像生成装置、画像生成プログラム、合成テーブル生成装置および合成テーブル生成プログラム |
TWI423659B (zh) * | 2010-11-09 | 2014-01-11 | Avisonic Technology Corp | 影像校正方法與相關影像校正系統 |
US9105090B2 (en) | 2011-07-13 | 2015-08-11 | Analog Devices, Inc. | Wide-angle lens image correction |
EP2554434B1 (en) * | 2011-08-05 | 2014-05-21 | Harman Becker Automotive Systems GmbH | Vehicle surround view system |
US9007460B2 (en) * | 2012-03-30 | 2015-04-14 | General Electric Company | Methods and systems for predicting cloud movement |
JP2014165763A (ja) * | 2013-02-26 | 2014-09-08 | Ricoh Co Ltd | 編集装置、編集方法、及び編集プログラム |
US9183666B2 (en) | 2013-03-15 | 2015-11-10 | Google Inc. | System and method for overlaying two-dimensional map data on a three-dimensional scene |
US9286712B2 (en) * | 2013-03-15 | 2016-03-15 | Google Inc. | System and method for approximating cartographic projections by linear transformation |
WO2014145558A1 (en) * | 2013-03-15 | 2014-09-18 | Rubicon Group Holding Limited | Equidistant stereo lens shader |
US8798451B1 (en) * | 2013-06-15 | 2014-08-05 | Gyeongil Kweon | Methods of obtaining panoramic images using rotationally symmetric wide-angle lenses and devices thereof |
US9658688B2 (en) * | 2013-10-15 | 2017-05-23 | Microsoft Technology Licensing, Llc | Automatic view adjustment |
US9196022B2 (en) * | 2014-03-10 | 2015-11-24 | Omnivision Technologies, Inc. | Image transformation and multi-view output systems and methods |
JP2016163150A (ja) * | 2015-02-27 | 2016-09-05 | 株式会社リコー | 通信端末、面談システム、通信方法及びプログラム |
CN107016319B (zh) * | 2016-01-27 | 2021-03-05 | 北京三星通信技术研究有限公司 | 一种特征点定位方法和装置 |
KR20170124814A (ko) | 2016-05-03 | 2017-11-13 | 삼성전자주식회사 | 영상 표시 장치 및 그 동작 방법 |
US9609197B1 (en) | 2016-08-19 | 2017-03-28 | Intelligent Security Systems Corporation | Systems and methods for dewarping images |
US9547883B1 (en) | 2016-08-19 | 2017-01-17 | Intelligent Security Systems Corporation | Systems and methods for dewarping images |
KR102505951B1 (ko) * | 2016-08-24 | 2023-03-03 | 한화테크윈 주식회사 | 이미지 제공 장치, 방법 및 컴퓨터 프로그램 |
CN109792528A (zh) * | 2016-09-19 | 2019-05-21 | 交互数字Vc控股公司 | 使用光场数据重构表示场景的点云的方法和设备 |
US11049219B2 (en) * | 2017-06-06 | 2021-06-29 | Gopro, Inc. | Methods and apparatus for multi-encoder processing of high resolution content |
JP6938237B2 (ja) * | 2017-06-21 | 2021-09-22 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
US11228781B2 (en) | 2019-06-26 | 2022-01-18 | Gopro, Inc. | Methods and apparatus for maximizing codec bandwidth in video applications |
US11109067B2 (en) | 2019-06-26 | 2021-08-31 | Gopro, Inc. | Methods and apparatus for maximizing codec bandwidth in video applications |
US11481863B2 (en) | 2019-10-23 | 2022-10-25 | Gopro, Inc. | Methods and apparatus for hardware accelerated image processing for spherical projections |
CN114633692B (zh) * | 2022-03-14 | 2023-10-03 | 深圳市艾为智能有限公司 | 一种偏心镜头在cms系统中的应用方法 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5004328A (en) * | 1986-09-26 | 1991-04-02 | Canon Kabushiki Kaisha | Spherical lens and imaging device using the same |
US5185667A (en) | 1991-05-13 | 1993-02-09 | Telerobotics International, Inc. | Omniview motionless camera orientation system |
US5796426A (en) * | 1994-05-27 | 1998-08-18 | Warp, Ltd. | Wide-angle image dewarping method and apparatus |
US6115480A (en) * | 1995-03-31 | 2000-09-05 | Canon Kabushiki Kaisha | Method and apparatus for processing visual information |
US5691765A (en) * | 1995-07-27 | 1997-11-25 | Sensormatic Electronics Corporation | Image forming and processing device and method for use with no moving parts camera |
JP3126955B2 (ja) * | 1999-02-12 | 2001-01-22 | 株式会社アドバネット | 画像変換用演算装置 |
JP2002098538A (ja) * | 2000-09-27 | 2002-04-05 | Alpine Electronics Inc | ナビゲーション装置および擬似三次元地図情報表示方法 |
CN1332564A (zh) * | 2001-01-22 | 2002-01-23 | 耿刚 | 全方位成像和传递的方法及其系统 |
FR2827680B1 (fr) * | 2001-07-20 | 2003-10-10 | Immervision Internat Pte Ltd | Procede de capture d'une image panoramique au moyen d'un capteur d'image de forme rectangulaire |
US6833843B2 (en) * | 2001-12-03 | 2004-12-21 | Tempest Microsystems | Panoramic imaging and display system with canonical magnifier |
-
2004
- 2004-05-28 JP JP2004158855A patent/JP2005339313A/ja active Pending
-
2005
- 2005-02-07 CN CNB2005100082676A patent/CN100336076C/zh not_active Expired - Fee Related
- 2005-02-10 US US11/053,947 patent/US7570280B2/en not_active Expired - Fee Related
- 2005-02-15 EP EP05250849A patent/EP1600890A3/en not_active Withdrawn
Cited By (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2007108081A1 (ja) * | 2006-03-20 | 2009-07-30 | 富士通株式会社 | 撮影装置、撮影方法及びプログラム、撮影装置のテーブル作成装置及び方法、映像処理装置及び方法 |
WO2007138846A1 (ja) | 2006-05-29 | 2007-12-06 | Opt Corporation | 広角レンズによる撮像データの圧縮方法、伸長表示方法、圧縮装置、広角カメラ装置およびモニタシステム |
WO2007138845A1 (ja) | 2006-05-29 | 2007-12-06 | Opt Corporation | 広角レンズによる撮像データの圧縮方法、圧縮装置、広角カメラ装置およびモニタシステム |
WO2009148038A1 (ja) * | 2008-06-06 | 2009-12-10 | ソニー株式会社 | 立体視画像生成装置、立体視画像生成方法およびプログラム |
JP2009294988A (ja) * | 2008-06-06 | 2009-12-17 | Sony Corp | 立体視画像生成装置、立体視画像生成方法およびプログラム |
US9507165B2 (en) | 2008-06-06 | 2016-11-29 | Sony Corporation | Stereoscopic image generation apparatus, stereoscopic image generation method, and program |
JP2012053601A (ja) * | 2010-08-31 | 2012-03-15 | Hitachi Information & Communication Engineering Ltd | 画像補正装置、補正画像生成方法、補正テーブル生成装置、補正テーブル生成方法、補正テーブル生成プログラムおよび補正画像生成プログラム |
JP2012053602A (ja) * | 2010-08-31 | 2012-03-15 | Hitachi Information & Communication Engineering Ltd | 画像補正装置、補正画像生成方法、補正テーブル生成装置、補正テーブル生成方法、補正テーブル生成プログラムおよび補正画像生成プログラム |
JP2013057993A (ja) * | 2011-09-07 | 2013-03-28 | Ricoh Co Ltd | 画像処理装置、画像処理方法、プログラムおよび画像処理システム |
JP2012191664A (ja) * | 2012-06-25 | 2012-10-04 | Sony Corp | 立体視画像生成装置、立体視画像生成方法およびプログラム |
WO2014208230A1 (ja) * | 2013-06-24 | 2014-12-31 | 三菱電機株式会社 | 座標算出装置及び方法、並びに画像処理装置及び方法 |
JP5666069B1 (ja) * | 2013-06-24 | 2015-02-12 | 三菱電機株式会社 | 座標算出装置及び方法、並びに画像処理装置及び方法 |
EP3016065A4 (en) * | 2013-06-24 | 2017-01-11 | Mitsubishi Electric Corporation | Coordinate computation device and method, and image processing device and method |
US9436973B2 (en) | 2013-06-24 | 2016-09-06 | Mitsubishi Electric Corporation | Coordinate computation device and method, and an image processing device and method |
JP2016042629A (ja) * | 2014-08-14 | 2016-03-31 | 株式会社リコー | 撮影装置、撮影方法、およびプログラム |
CN105632349A (zh) * | 2014-10-27 | 2016-06-01 | 深圳市康硕展电子有限公司 | Led球形显示屏播放管理的方法、装置及系统 |
CN105632349B (zh) * | 2014-10-27 | 2018-04-10 | 深圳市康硕展电子有限公司 | Led球形显示屏播放管理的方法、装置及系统 |
JP2018533098A (ja) * | 2015-07-24 | 2018-11-08 | ローベルト ボッシュ ゲゼルシャフト ミット ベシュレンクテル ハフツング | パネル変換 |
US11528413B2 (en) | 2016-08-22 | 2022-12-13 | Sony Corporation | Image processing apparatus and image processing method to generate and display an image based on a vehicle movement |
US11785197B2 (en) | 2017-08-30 | 2023-10-10 | Innovations Mindtrick Inc. | Viewer-adjusted stereoscopic image display |
JP2021507655A (ja) * | 2018-02-08 | 2021-02-22 | イノベーションズ マインドトリック インコーポレイテッド | 視聴者に合わせて調整された立体画像表示 |
JP7339278B2 (ja) | 2018-02-08 | 2023-09-05 | イノベーションズ マインドトリック インコーポレイテッド | 視聴者に合わせて調整された立体画像表示 |
JP2019033487A (ja) * | 2018-09-06 | 2019-02-28 | 株式会社リコー | 撮影装置、撮影方法、およびプログラム |
JP2021180017A (ja) * | 2020-12-03 | 2021-11-18 | アポロ インテリジェント コネクティビティ (ベイジン) テクノロジー カンパニー リミテッドApollo Intelligent Connectivity (Beijing) Technology Co., Ltd. | 路側感知方法、路側感知装置、電子デバイス、記憶媒体、路側設備、及びプログラム |
JP7223072B2 (ja) | 2020-12-03 | 2023-02-15 | 阿波▲羅▼智▲聯▼(北京)科技有限公司 | 路側感知方法、路側感知装置、電子デバイス、記憶媒体、路側設備、及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
CN1702693A (zh) | 2005-11-30 |
EP1600890A3 (en) | 2011-12-07 |
US20050265619A1 (en) | 2005-12-01 |
US7570280B2 (en) | 2009-08-04 |
EP1600890A2 (en) | 2005-11-30 |
CN100336076C (zh) | 2007-09-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2005339313A (ja) | 画像提示方法及び装置 | |
CN106803884B (zh) | 图像处理装置 | |
CA2995665C (en) | Image generating apparatus and image display control apparatus for a panoramic image | |
US6870532B2 (en) | Image display | |
EP3438919B1 (en) | Image displaying method and head-mounted display apparatus | |
JP4661829B2 (ja) | 画像データ変換装置、及びこれを備えたカメラ装置 | |
CN110956583B (zh) | 球面图像处理方法、装置及服务器 | |
KR101521008B1 (ko) | 어안 렌즈를 사용하여 얻은 왜곡영상에 대한 보정방법 및 이를 구현하기 위한 영상 디스플레이 시스템 | |
US9436973B2 (en) | Coordinate computation device and method, and an image processing device and method | |
JP2007249967A (ja) | 広角画像用遠近補正カメラ移動方法 | |
CN110648274A (zh) | 鱼眼图像的生成方法及装置 | |
US20200177868A1 (en) | Apparatus and method for generating a tiled three-dimensional image representation of a scene | |
US20160252730A1 (en) | Image generating system, image generating method, and information storage medium | |
CN114782648A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN114513646B (zh) | 一种三维虚拟场景中全景视频的生成方法及设备 | |
JP6719596B2 (ja) | 画像生成装置、及び画像表示制御装置 | |
JP2012191380A (ja) | カメラ、画像変換装置、及び画像変換方法 | |
KR101947799B1 (ko) | 가상현실 콘텐츠 서비스를 위한 360도 vr 어안 렌더링 방법 | |
CN118379204A (zh) | 全景图像处理方法、装置和存储介质 | |
JP2004227470A (ja) | 画像変換方法及び画像変換用コンピュータプログラム | |
JP2004152047A (ja) | 画像分割合成方法およびシステム、そのためのプログラムおよび記録媒体 | |
EP3573339A1 (en) | Image delivery device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070205 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090915 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20100126 |