JP4833947B2 - Image recording apparatus, image editing apparatus, and image recording method - Google Patents
Image recording apparatus, image editing apparatus, and image recording method Download PDFInfo
- Publication number
- JP4833947B2 JP4833947B2 JP2007247120A JP2007247120A JP4833947B2 JP 4833947 B2 JP4833947 B2 JP 4833947B2 JP 2007247120 A JP2007247120 A JP 2007247120A JP 2007247120 A JP2007247120 A JP 2007247120A JP 4833947 B2 JP4833947 B2 JP 4833947B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- file
- information
- viewpoint
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Television Signal Processing For Recording (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Studio Devices (AREA)
Description
本発明は画像記録装置、画像編集装置及び画像記録方法に係り、特に複数の画像データを用いてはじめて画像表示が可能な画像データの記録、編集を行う画像記録装置、画像編集装置及び画像記録方法に関する。 The present invention relates to an image recording apparatus, an image editing apparatus, and an image recording method, and more particularly to an image recording apparatus, an image editing apparatus, and an image recording method for recording and editing image data that can be displayed for the first time using a plurality of image data. About.
多視点画像などの複数の画像を撮影し、記録する方法として以下の技術が開示されている。 The following technique is disclosed as a method for capturing and recording a plurality of images such as multi-viewpoint images.
特許文献1には、複眼カメラで撮影された各視点の画像を、ファイルの検索やファイル管理が容易となるファイル名を付けて、それぞれ個別のファイルとして記録する技術が開示されている。
特許文献2には、第1の画像データ領域の後に第1の画像データとフォーマット形式の異なる第2の画像データ領域を付加することで、第1の画像データと第2の画像データとを1個のファイルに記録する技術が開示されている。 In Patent Document 2, a first image data and a second image data are added to a first image data area by adding a second image data area having a format format different from that of the first image data area. A technique for recording in a single file is disclosed.
特許文献3には、複眼カメラで撮影された画像のうち1枚の画像を基準とし、その基準となる画像のデータと、基準となる画像とその他の画像との差分データとを記録する技術が開示されている。
しかしながら、特許文献2に記載された技術では、全ての画像が1つのファイルに記録されているため、一部の画像のみを編集等する場合においても、全ての画像をメモリに展開しなくてはならず、より大きなメモリが必要となるという問題点があった。 However, in the technique described in Patent Document 2, all the images are recorded in one file. Therefore, even when only a part of the images are edited, all the images must be developed in the memory. However, there is a problem that a larger memory is required.
特許文献1に記載された技術においては、各視点の画像が別個の画像ファイルとなっているが、ファイル操作により一部の視点の画像が削除、紛失などされたり、各視点の画像が離散したりして、多視点画像の使用目的、例えば立体視鑑賞やパノラマ画像作成が果たせなくなるという問題点があった。
In the technique described in
また、特許文献3に記載された技術においては、全ての画像が1つのファイルに記録することも、各視点毎に別個の画像ファイルとして記録することも可能であるが、各画像ファイルの関連付けを行うことができないため、特許文献1に記載された技術と同様に、ファイル操作により一部の視点の画像が削除、紛失などされたり、各視点の画像が離散したりして、多視点画像の使用目的、例えば立体視鑑賞やパノラマ画像作成が果たせなくなるという問題点があった。
Moreover, in the technique described in
本発明はこのような事情に鑑みてなされたもので、複数枚の画像の一部が削除、紛失、離散などにより使用できなくなった場合においても、使用できなくなった画像を復元等することにより画像表示ができなくなるという不具合を防止することができる画像記録装置、画像編集装置及び画像記録方法を提供することを目的とする。 The present invention has been made in view of such circumstances, and even when a part of a plurality of images cannot be used due to deletion, loss, discreteness, etc., the image can be restored by restoring the images that can no longer be used. An object of the present invention is to provide an image recording apparatus, an image editing apparatus, and an image recording method capable of preventing a problem that display cannot be performed.
請求項1に記載の画像記録装置は、所定の画像再生時に同時に使用される複数枚の画像を取得する画像取得手段と、前記複数枚の画像に基づいて前記複数枚の画像と同数の画像ファイルを作成する画像ファイル作成手段と、前記画像ファイル作成手段によって作成された複数の画像ファイルを記録媒体に記録する記録手段と、を備え、前記画像ファイル作成手段は、前記複数の画像ファイルのうちのいずれか1つの画像ファイルが欠落しても該画像ファイルを復活させるための複数の関連画像情報を、前記複数枚の画像に基づいて生成する関連画像情報生成手段を有し、前記複数の画像ファイルのうちの任意の1つの画像ファイルを作成するときに、前記複数の画像のうちの任意の1つの画像と、前記関連情報生成手段によって生成された関連画像情報であって、前記任意の1つの画像以外の画像を復活させるための関連画像情報とが記録された画像ファイルを作成する、ことを特徴とする。
The image recording apparatus according to
請求項1に記載の画像記録装置によれば、所定の画像再生時に同時に使用される複数枚の画像を取得し、前記複数枚の画像に基づいて前記複数枚の画像と同数の画像ファイルを作成し、前記画像ファイル作成手段によって作成された複数の画像ファイルを記録媒体に記録する。複数の画像のうちの任意の1つの画像と、任意の1つの画像以外の画像(複数の画像のうちのその他の画像)を復活させるための関連画像情報とが記録された画像ファイルを任意の1つの画像の画像ファイルとして作成する。関連画像情報は、複数の画像ファイルのうちのいずれか1つの画像ファイルが欠落しても該画像ファイルを復活させるために、複数枚の画像に基づいて生成される。
According to the image recording apparatus of
この画像ファイルを複数枚の画像全てに対して作成することにより、多視点画像やパノラマ画像など複数枚の画像を用いることではじめて画像表示ができるような場合において、複数枚の画像の一部が削除、紛失、離散などにより使用できなくなった画像を復元、修復することで、画像表示ができなくなるという不具合を防止することができる。 By creating this image file for all of a plurality of images, in a case where image display can be performed for the first time by using a plurality of images such as a multi-viewpoint image and a panorama image, a part of the plurality of images is displayed. By restoring and repairing an image that can no longer be used due to deletion, loss, discreteness, etc., it is possible to prevent a problem that the image cannot be displayed.
請求項2に記載の画像記録装置は、請求項1に記載の画像記録装置において、前記画像ファイル作成手段は、前記関連情報生成手段によって生成された複数の関連画像情報が、前記複数の画像ファイルに重複しないように各画像ファイルに分散して記録された画像ファイルを作成することを特徴とする。
The image recording apparatus according to claim 2 is the image recording apparatus according to
請求項2に記載の画像記録装置によれば、複数の関連画像情報が複数の画像ファイルに重複しないように、各画像ファイルに分散して関連画像情報を記録する。これにより、最低限の関連画像情報で、所望の画像ファイルの復元や画像データの修復を行うことができる。 According to the image recording apparatus of the second aspect, the related image information is distributed and recorded in each image file so that the plurality of related image information does not overlap with the plurality of image files. As a result, it is possible to restore a desired image file and restore image data with a minimum amount of related image information.
請求項3に記載の画像記録装置は、請求項1又は2に記載の画像記録装置において、前記画像ファイル作成手段は、前記複数の画像の関係を特定するための付属情報を生成する付属情報生成手段を更に有し、前記複数の画像ファイルのうちの任意の1つの画像ファイルを作成するときに、前記複数の画像のうちの任意の1つの画像と、前記関連情報生成手段によって生成された関連画像情報であって、前記任意の1つの画像以外の画像を復活させるための関連画像情報と、前記付属情報生成手段によって生成された前記任意の1つの画像と前記関連画像情報に対応する前記任意の1つの画像以外の画像との関係と特定するための付属情報とが記録された画像ファイルを作成することを特徴とする。
The image recording device according to
請求項3に記載の画像記録装置によれば、複数の画像のうちの任意の1つの画像と、任意の1つの画像以外の画像を復活させるための関連画像情報と、任意の1つの画像と関連画像情報に対応するその他の画像との関係と特定するための付属情報とが記録された画像ファイルを作成する。これにより、所望の画像ファイルの復元や画像データの修復を行うことができる関連画像情報がどの画像ファイルに含まれているかを、画像ファイルの付属情報から知ることができる。
According to the image recording apparatus of
請求項4に記載の画像記録装置は、請求項1から3のいずれかに記載の画像記録装置において、前記複数枚の画像は、立体画像の再生時に使用される2以上の視点から撮影された画像であることを特徴とする。
The image recording device according to claim 4 is the image recording device according to any one of
請求項5に記載の画像記録装置は、請求項1から3のいずれかに記載の画像記録装置において、前記複数枚の画像は、パノラマ画像の再生時に繋ぎ合わされる2以上の画像であることを特徴とする。
The image recording apparatus according to
請求項6に記載の画像記録装置は、請求項4に記載の画像記録装置において、前記関連画像情報生成手段によって生成される関連画像情報は、前記複数枚の画像間の差分を示す差分画像であることを特徴とする。
The image recording apparatus according to
請求項6に記載の画像記録装置によれば、複数枚の画像間の差分を示す差分画像を関連画像情報として記録する。これにより、関連画像情報を保存するのに必要な記憶容量を少なくすることができる。 According to the image recording apparatus of the sixth aspect, a difference image indicating a difference between a plurality of images is recorded as related image information. As a result, the storage capacity required to store the related image information can be reduced.
請求項7に記載の画像記録装置は、請求項1から6のいずれかに記載の画像記録装置において、前記関連画像情報生成手段によって生成される関連画像情報は、前記画像取得手段によって取得された複数枚の画像と同じ画像であることを特徴とする。
The image recording apparatus according to claim 7 is the image recording apparatus according to any one of
請求項7に記載の画像記録装置によれば、数枚の画像のうちの、任意の画像と異なる画像を関連画像情報として記録する。全ての画像ファイルの関連画像情報は、複数枚の画像と同じ画像となる。これにより、他の画像データや画像ファイルから所望の画像データの修復や画像ファイルの復元を容易に行うことができる。 According to the image recording apparatus of the seventh aspect, an image different from an arbitrary image among several images is recorded as related image information. The related image information of all the image files is the same image as a plurality of images. Thereby, it is possible to easily restore desired image data and restore image files from other image data and image files.
請求項8に記載の画像記録装置は、請求項1から7のいずれかに記載の画像記録装置において、前記関連画像情報の修復が必要かどうかを判断する判断手段と、前記複数枚の画像に基づいて、前記判断手段により修復が必要と判断された関連画像情報を修復する修復手段と、を備えたことを特徴とする。
The image recording apparatus according to claim 8, Oite the image recording apparatus according to any one of
請求項8に記載の画像記録装置によれば、関連画像情報の修復が必要かどうかを判断し、修復が必要と判断された場合には、前記複数枚の画像に基づいて、修復が必要と判断された関連画像情報を修復する。これにより、関連画像情報から所望の画像ファイルの復元や画像データの修復が可能な状態を常に保つことができる。 According to the image recording apparatus of claim 8, it is determined whether or not the related image information needs to be repaired, and when it is determined that the repair is necessary, the repair is necessary based on the plurality of images. The determined related image information is restored. Thereby, it is possible to always maintain a state in which a desired image file can be restored and image data can be restored from related image information .
請求項9に記載の画像編集装置は、請求項1から8のいずれかに記載の画像記録装置により記録媒体に記録された画像ファイルを編集する画像編集装置であって、編集対象である画像を任意の1つの画像とする画像ファイルの任意の1つの画像を編集する第1の編集手段と、前記編集対象である画像に基づいて作成された関連画像情報に対して、前記第1の編集手段により行われた編集と同じ編集を行う第2の編集手段と、を備えたことを特徴とする。
Image editing apparatus according to claim 9, an image editing apparatus for editing recorded image file more recording medium in the image recording apparatus according to any one of
請求項9に記載の画像編集装置によれば、編集対象である画像を任意の1つの画像(主画像)とする画像ファイルの主画像を編集し、主画像に基づいて作成された関連画像情報であって、他の画像ファイルに含まれる関連画像情報に対して、主画像と同じ編集を行う。これにより、複数枚の画像の画像ファイルが一部使用できなくなった場合においても、使用できなくなった画像ファイルの復元が可能な状態を維持して、画像データの編集を行うことができる。 According to the image editing apparatus according to claim 9, the related image information created based on the main image by editing the main image of the image file in which the image to be edited is an arbitrary image (main image). Then, the same editing as that of the main image is performed on related image information included in other image files. As a result, even when some of the image files of a plurality of images cannot be used, it is possible to edit the image data while maintaining a state in which the unusable image file can be restored .
請求項10に記載の画像記録方法は、(a)所定の画像再生時に同時に使用される複数枚の画像を取得するステップと、(b)前記複数の画像のうちの任意の1つの画像を選択するステップと、(c)前記選択された任意の1つの画像以外の画像を復活させるための関連画像情報を作成するステップと、(d)前記選択された任意の1枚の画像と、前記作成された関連画像情報とが記録された画像ファイルを作成するステップと、を含み、前記複数枚の画像に基づいて前記複数枚の画像と同数の画像ファイルを作成するように、かつ前記複数の画像ファイルのうちのいずれか1つの画像ファイルが欠落しても該画像ファイルが復活可能なように、前記ステップ(b)〜(d)を繰り返して複数の画像ファイルを作成し、該複数の画像ファイルを記録媒体に記録することを特徴とする。 The image recording method according to claim 10, wherein (a) acquiring a plurality of images used simultaneously when reproducing a predetermined image, and (b) selecting any one of the plurality of images. (C) creating related image information for reviving an image other than the selected one arbitrary image; and (d) the arbitrary one selected image and the creating Creating an image file in which the related image information is recorded, and creating the same number of image files as the plurality of images based on the plurality of images, and Steps (b) to (d) are repeated to create a plurality of image files so that the image file can be restored even if any one of the image files is lost. Characterized by recording on a recording medium.
本発明によれば、複数枚の画像の一部が削除、紛失、離散などにより使用できなくなった場合においても、使用できなくなった画像を復元等することにより画像表示ができなくなるという不具合を防止することができる。 According to the present invention, even when a part of a plurality of images becomes unusable due to deletion, loss, discreteness, etc., it is possible to prevent a problem that the image cannot be displayed by restoring the unusable image. be able to.
以下、添付図面に従って本発明に係るデジタルカメラを実施するための最良の形態について詳細に説明する。 The best mode for carrying out a digital camera according to the present invention will be described below in detail with reference to the accompanying drawings.
図1は、複眼デジタルカメラ1の電気的構成を示すブロック図である。複眼デジタルカメラ1は、単視点画像(2次元画像)と、多視点画像(3次元画像)とが撮影可能であり、また、動画、静止画、音声の記録再生が可能である。また、動画、静止画どちらにおいても、単視点画像のみでなく、多視点画像の撮影も可能である。
FIG. 1 is a block diagram showing an electrical configuration of the compound-eye
複眼デジタルカメラ1には、主として、第1撮像系2aおよび第2撮像系2bの2個の撮像系と、ユーザーがこの複眼デジタルカメラ1を使用するときに種々の操作を行うための操作部3と、操作の手助けを行うための操作表示LCD4と、レリーズスイッチ5と、画像表示LCD6とが設けられている。
The compound-eye
第1撮像系2aおよび第2撮像系2bは、そのレンズ光軸L1、L2が平行となるように、あるいは所定角度をなすように並設されている。
The
第1撮像系2aは、レンズ光軸L1に沿って配列された第1ズームレンズ11a、第1絞り12a、第1フォーカスレンズ13a、および第1イメージセンサ14aによって構成されている。第1絞り12aには絞り制御部16aが接続されており、また、第1イメージセンサ14aにはタイミングジェネレータ(TG)18aが接続されている。第1絞り12a、第1フォーカスレンズ13aの動作は測光・測距CPU19aによって制御される。TG18aの動作はメインCPU10によって制御される。
The
第1ズームレンズ11aは、操作部3からのズーム操作に応じて、レンズ光軸L1に沿ってNEAR側(繰り出し側)、あるいはINF側(繰り込み側)に移動し、ズーム倍率を変化させる。この移動は図示しないモータで駆動される。
The
第1絞り12aは、AE(Auto Exposure)動作時に開口値(絞り値)を変化させて光束を制限し、露出調整を行う。
The
第1フォーカスレンズ13aは、AF(Auto Focus)動作時にレンズ光軸L1に沿ってNEAR側、あるいはINF側に移動されて合焦位置を変え、ピント調整を行う。この移動は図示しないモータで駆動される。静止画用レリーズスイッチ5aの半押し状態が検出されたとき、メインCPU10は第1イメージセンサ14aから測距データを得る。メインCPU10は得られた測距データに基づいて、ピント、絞りなどの調整を行う。
The
第1イメージセンサ14aは、CCD型やCMOS型のイメージセンサであり、第1ズームレンズ11a、第1絞り12a、および第1フォーカスレンズ13aによって結像された被写体光を受光し、受光素子に受光量に応じた光電荷を蓄積する。第1イメージセンサ14aの光電荷蓄積・転送動作は、TG18aによって制御され、TG18aから入力されるタイミング信号(クロックパルス)により、電子シャッター速度(光電荷蓄積時間)が決定される。第1イメージセンサ14aは、撮影モード時には、1画面分の画像信号を所定周期ごとに取得する。
The
第2撮像系2bは、第1撮像系2aと同一の構成であり、第2ズームレンズ11b、第2絞り12b、第2フォーカスレンズ13b、およびタイミングジェネレータ(TG)18bが接続された第2イメージセンサ14bによって構成されている。
The
第1撮像系2aと第2撮像系2bの動作はメインCPU10によって制御される。第1撮像系2aと第2撮像系2bとは、基本的に連動して動作を行うが、各々個別に動作させることも可能となっている。
The operations of the
第1撮像系2aと第2撮像系2bの第1イメージセンサ14aおよび第2イメージセンサ14bから出力された撮像信号は、それぞれA/D変換器30a、30bに入力される。
Imaging signals output from the
A/D変換器30a、30bは、入力された画像データをアナログからデジタルに変換する。A/D変換器30a、30bを通して、第1イメージセンサ14aの撮像信号は右眼用画像データとして、第2イメージセンサ14bの撮像信号は左眼用画像データとして出力される。
The A /
画像信号処理手段31a、31bは、それぞれ、階調変換、ホワイトバランス調整、γ調整処理などの各種画像処理を、A/D変換器30a、30bから入力された右眼用画像データおよび左眼用画像データに施す。
The image signal processing means 31a and 31b respectively perform various image processing such as gradation conversion, white balance adjustment, and γ adjustment processing on the right-eye image data and the left-eye image input from the A /
バッファメモリ32a、32bは、画像信号処理手段31a、31bで各種画像処理が施された右眼用画像データおよび左眼用画像データを一時的に格納する。バッファメモリ32a、32bに格納された右眼用画像データおよび左眼用画像データは、システムバスを介して出力される。
The
システムバスには、メインCPU10、EEPROM21、ワークメモリ24a、24b、バッファメモリ32a、32b、コントローラ34、YC処理部35a、35b、圧縮伸張処理手段36a、36b、メディアコントローラ37、2D/3Dモード切替フラグ設定手段50、基線長/輻輳角記憶手段51、縦/横撮り検出手段52などが接続される。
The system bus includes main CPU 10,
メインCPU10は、複眼デジタルカメラ1の全体の動作を統括的に制御する。メインCPU10には、操作部3、レリーズスイッチ5、2D/3D設定スイッチ7、基線長/輻輳角制御手段55、距離用駆動/制御手段60が接続されている。
The main CPU 10 comprehensively controls the overall operation of the compound-eye
操作部3は、複眼デジタルカメラ1を作動させるための電源投入用の電源スイッチ、オート撮影やマニュアル撮影等を選択するためのモードダイヤル、各種のメニューの設定や選択あるいはズームを行うための十字キー、閃光発光用スイッチ、および十字キーで選択されたメニューの実行やキャンセル等を行うための情報位置指定キーなどで構成される。操作部3への適宜操作により、電源のオン/オフ、各種モード(撮影モード、ブラケット撮影モード、再生モード、消去モード、編集モード等)の切り替え、ズーミングなどが行われる。
The
レリーズスイッチ5は2段押しのスイッチ構造となっている。撮影モード中に、レリーズスイッチ5が軽く押圧(半押し)されると、AF動作およびAE動作が行われ撮影準備処理がなされる。この状態でさらにレリーズスイッチ5が強く押圧(全押し)されると、撮影処理が行われ、右眼用画像データおよび左眼用画像データがフレームメモリ32からメモリカード38に転送されて記録される。
The
画像表示LCD6は、パララックスバリア式、あるいはレンチキュラーレンズ式の3Dモニタであり、画像撮影時には電子ビューファインダとして使用され、画像再生時には撮影によって得られた画像データの立体表示を行う。画像表示LCD6aは第1撮像系2aの出力結果を表示し、画像表示LCD6bは第2撮像系2bの出力結果を表示する。画像表示LCD6の詳細な構造は図示しないが、画像表示LCD6は、その表面にパララックスバリア表示層を備えている。画像表示LCD6は、立体表示を行う際に、パララックスバリア表示層に光透過部と光遮蔽部とが交互に所定のピッチで並んだパターンからなるパララックスバリアを発生させるとともに、その下層の画像表示面に左右の像を示す短冊状の画像断片を交互に配列して表示することで立体視を可能にする。なお、立体視を可能にする表示装置の構成は、スリットアレイシートを用いるパララックス方式に限られる必然性はなく、レンチキュラーレンズシートを用いるレンチキュラー方式、マイクロレンズアレイシートを用いるインテグラルフォトグラフィ方式、干渉現象を用いるホログラフィー方式などが採用されてもよい。
The
2D/3D設定スイッチ7は、単視点画像を撮影する2Dモードと、多視点画像を撮影する3Dモードの切り替えを指示するためのスイッチである。 The 2D / 3D setting switch 7 is a switch for instructing switching between a 2D mode for capturing a single viewpoint image and a 3D mode for capturing a multi-viewpoint image.
基線長/輻輳角制御手段55は、基線長/輻輳角記憶手段51に記憶された基線長及び輻輳角に基づいて、基線長/輻輳角駆動手段56a、56bを制御して、第1撮像系2a及び第2撮像系2bの基線長(第1撮像系2aと第2撮像系2bとの間隔)及び輻輳角(第1撮像系2aのレンズ光軸L1と、第2撮像系2bのレンズ光軸L2との成す角度)を調整するものである。
The baseline length / convergence angle control means 55 controls the baseline length / convergence angle driving means 56a, 56b based on the baseline length and the convergence angle stored in the baseline length / convergence angle storage means 51, and the first imaging system. 2a and the base length of the
基線長/輻輳角駆動手段56a、56bは、基線長/輻輳角制御手段55に接続されており、基線長/輻輳角制御手段55からの指示に従って、第1撮像系2a及び第2撮像系2bを駆動するものである。
The baseline length / convergence angle driving means 56a, 56b are connected to the baseline length / convergence angle control means 55, and in accordance with instructions from the baseline length / convergence angle control means 55, the
基線長/輻輳角検出手段57a、57bは、基線長/輻輳角制御手段55及び基線長/輻輳角駆動手段56a、56bに接続されており、基線長/輻輳角駆動手段56a、56bによってそれぞれ駆動された第1撮像系2a及び第2撮像系2bの基線長及び輻輳角を検出するものである。基線長/輻輳角制御手段55は、前記基線長/輻輳角記憶手段51から読み出した基線長及び輻輳角と、基線長/輻輳角検出手段57a、57bにおいて検出された基線長及び輻輳角に基づいて、基線長/輻輳角駆動手段56a、56bへ指示を出力する。
Baseline length / convergence angle detection means 57a, 57b are connected to baseline length / convergence angle control means 55 and baseline length / convergence angle drive means 56a, 56b, and are driven by baseline length / convergence angle drive means 56a, 56b, respectively. The base line length and the convergence angle of the
距離用駆動/制御手段60は、距離用発光素子62a、62bの発光タイミングと距離用撮像素子61a、61bとを同期させる制御を行う。
The distance driving /
距離用発光素子62a、62bは、それぞれ第1撮像系2aおよび第2撮像系2bの捉えた同一被写体へ投光スポットを照射するための発光ダイオード(LED)で構成される。
The distance
距離用撮像素子61a、61bは、それぞれ距離用発光素子52a、52bにより投光スポットの照射された被写体像を取得する測距専用の2次元の撮像素子である。距離用撮像素子61a、61bの撮像動作で得られたアナログ画像信号は、それぞれ測距用A/D変換部63a、63bにおいてデジタル画像データに変換されて、距離情報処理手段64に出力される。
The distance image pickup devices 61a and 61b are two-dimensional image pickup devices dedicated to distance measurement that acquire subject images irradiated with light projection spots by the distance light emitting devices 52a and 52b, respectively. The analog image signals obtained by the imaging operations of the distance image sensors 61a and 61b are converted into digital image data by the distance measuring A /
距離情報処理手段64は、距離用発光素子62a、62bから照射された光が被写体で反射されて距離用撮像素子61a、61bに返ってくるまでの時間を測定し、数式1に基づいて距離用撮像素子61a、61bの捉えた被写体までの距離を算出する。そして、算出された結果を用いて、各画素の画素値が距離の値である距離画像をそれぞれ生成する。
[数1]
L=c×Td/2 (L:距離、c:光速、Td:反射時間)
距離情報記憶手段65は、距離情報処理手段64から入力された距離情報、すなわち距離用撮像素子61a、61bでそれぞれ撮影された距離画像を記憶する。
The distance information processing means 64 measures the time until the light emitted from the distance
[Equation 1]
L = c × Td / 2 (L: distance, c: speed of light, Td: reflection time)
The distance
EEPROM21は、不揮発性メモリであり、各種制御用のプログラムや設定情報などを格納している。メインCPU10は、このプログラムや設定情報に基づいて各種処理を実行する。
The
ワークメモリ24a、24bは、YC処理部35a、35bで処理されたYC信号をそれぞれ格納する。
The
コントローラ34は、ワークメモリ24a、24bに記憶された右眼用画像データおよび左眼用画像データのYC信号をYC/RGB処理部22に読み出す。
The controller 34 reads the YC signals of the right eye image data and the left eye image data stored in the
YC/RGB処理部22は、右眼用画像データおよび左眼用画像データのYC信号を、所定方式の映像信号(例えば、NTSC方式のカラー複合映像信号)に変換した上で、画像表示LCD6での立体表示を行うための立体画像データに合成し、表示用のLCDドライバ23に出力する。撮影モード時に電子ビューファインダとして使用される際には、YC/RGB処理部22によって合成された立体画像データが、LCDドライバ23を介して画像表示LCD6にライブビュー画像として表示される。また、撮影によって得られた画像データの立体表示を行う場合には、YC/RGB処理部22は、メモリカード38に記録された各画像データがメディアコントローラ37によって読み出されて、圧縮伸張処理手段36a、36bによって伸張処理が行われたデータを立体画像データに変換し、その立体画像データがLCDドライバ23を介して再生画像として画像表示LCD6に表示される。
The YC /
LCDドライバ23は、YC/RGB処理部22から出力されたRGB信号を画像表示LCD6に出力する。
The
YC処理部35a、35bは、バッファメモリ32a、32bに記憶された画像データを輝度信号(Y信号)及び色差信号(Cr,Cb 信号)に変換するとともに、ガンマ調整等の所定の処理を施す。
The
圧縮伸張処理手段36a、36bは、それぞれワークメモリ24a、24bに記憶された右眼用画像データおよび左眼用画像データに対して、静止画ではJPEG、動画ではMPEG2、MPEG4、H.264方式等の所定の圧縮形式に従って圧縮処理を施す。
The compression / decompression processing means 36a, 36b respectively apply JPEG for still images, MPEG2, MPEG4, H.264 for moving images to the right eye image data and left eye image data stored in the
メディアコントローラ37は、圧縮伸張処理手段36a、36bによって圧縮処理された各画像データを、I/F39経由で接続されたメモリカード38やその他の記録メディアに記録させる。
The
メモリカード38は、複眼デジタルカメラ1に着脱自在なxDピクチャカード(登録商標)、スマートメディア(登録商標)に代表される半導体メモリカード、可搬型小型ハードディスク、磁気ディスク、光ディスク、光磁気ディスク等、種々の記録媒体である。
The
2D/3Dモード切替フラグ設定手段50には、2Dモードであることまたは3Dモードであることを表すフラグが設定される。 The 2D / 3D mode switching flag setting means 50 is set with a flag indicating the 2D mode or the 3D mode.
基線長/輻輳角記憶手段51は、測光・測距CPU19a、19bに基づいて、適切な基線長や輻輳角を算出して記憶するものである。
The base line length / convergence angle storage means 51 calculates and stores an appropriate base line length and convergence angle based on the photometry / ranging
縦/横撮り検出手段52は、内蔵のセンサー(図示せず)により、縦撮りまたは横撮りのいずれで撮影を行うかを検出する。なお、縦/横撮り検出手段52による検出は、縦撮り又は横撮りの設定を縦撮りまたは横撮りの指示を入力することにより行い、その設定を検出することにより行っても良い。 The vertical / horizontal shooting detection means 52 detects whether shooting is performed in vertical shooting or horizontal shooting using a built-in sensor (not shown). The detection by the vertical / horizontal shooting detection means 52 may be performed by setting the vertical shooting or horizontal shooting by inputting an instruction for vertical shooting or horizontal shooting, and detecting the setting.
画像ファイル生成手段53は、圧縮伸張処理手段36a、36bにより生成されたJPEG形式の画像データの画像ファイルを生成するものである。まず、削除、紛失、離散などにより使用できなくなった画像データの修復や画像ファイルの復元ができるように、関連画像情報と付属情報とを生成する。ここで、関連画像情報とは第1撮像系2aと第2撮像系2bで撮影された画像に基づいて生成される情報であり、付属情報とは画像データや関連画像情報に関する情報である。そして、画像ファイル生成手段53は、画像データと、関連画像情報と、付属情報とが結合されたフォーマットで画像ファイルを生成する。また、画像ファイル生成手段53は、作成した画像ファイルにDCF規定に基づいたファイル名を自動的に付けて、メディアコントローラ37等に出力する。ここで、DCF規定に基づいたファイル名とは、例えばDSCF0001のように、アルファベット4桁(4文字の自由文字)と数字4桁(ファイル番号0001〜9999)とで構成されるものである。なお、画像ファイル、関連画像情報、付属情報等の詳細については、後に詳述する。
The image
また、複眼デジタルカメラ1には、電源電池68が着脱可能に設けられている。
In addition, the compound-eye
電源電池68は、充電可能な二次電池、例えばニカド電池、ニッケル水素電池、リチウムイオン電池で構成される。電源電池68は使い切り型の一次電池、例えばリチウム電池、アルカリ電池で構成してもよい。電源電池68は、図示しない電池収納室に装填することにより、複眼デジタルカメラ1の各手段と電気的に接続される。
The power supply battery 68 is composed of a rechargeable secondary battery such as a nickel-cadmium battery, a nickel metal hydride battery, or a lithium ion battery. The power supply battery 68 may be a single-use primary battery such as a lithium battery or an alkaline battery. The power battery 68 is electrically connected to each means of the compound-eye
充電・発光制御部43a、43bは、電源電池68からの電力の供給を受けて、それぞれストロボ44a、44bを発光させるために、図示しない閃光発光用のコンデンサを充電し、ストロボ44a、44bの発光を制御する。
The charge / light
充電・発光制御部43a、43bは、レリーズスイッチ5の半押し・全押し操作信号等の各種の信号や、発光量、発光タイミングを示す信号を、メインCPU10や測光・測距CPU19a、19bから取り込んだことに応じて、ストロボ44a、44bへの電流供給制御を行い、所望の発光量が所望のタイミングで得られるように制御する。
The charging / light
なお、図1の複眼デジタルカメラ1においては、2系統の撮像系(第1撮像系2aおよび第2撮像系2b)を有する例を示すが、撮像系が3個以上あってもよい。また、撮像系の配置は、横一列でなくても二次元で配置されていてもよい。
1 shows an example having two imaging systems (
また、図1の複眼デジタルカメラ1は、立体撮影のみでなく、マルチ視点や全方向の撮影、パノラマ画像の撮影も可能である。
Further, the compound-eye
上記のように構成された複眼デジタルカメラ1の撮影、記録動作及び再生動作について説明する。
The photographing, recording operation, and reproduction operation of the compound eye
この複眼デジタルカメラ1において、電源ボタン(図示せず)がON操作されると、メインCPU10はこれを検出し、カメラ内電源をONにし、撮影モードで撮影スタンバイ状態にする。また、2D/3D設定スイッチ7で2Dモードか3Dモードのどちらかに設定する。
In this compound-eye
この撮影スタンバイ状態では、メインCPU10は、通常、以下のようにして画像表示LCD6に動画(ライブビュー画像)を表示させる。
In this photographing standby state, the main CPU 10 normally displays a moving image (live view image) on the
まず、メインCPU10は、2D/3Dモード切替フラグ設定手段50を参照し、単視点画像(2次元画像)を取得する2Dモードか、多視点画像(3次元画像)を取得する3Dモードかを検出する。2Dモードの場合は第1撮像系2aのみを駆動し、3Dモードの場合は第1撮像系2a及び第2撮像系2bを駆動する。
First, the main CPU 10 refers to the 2D / 3D mode switching flag setting means 50 and detects whether the 2D mode for acquiring a single viewpoint image (two-dimensional image) or the 3D mode for acquiring a multi-viewpoint image (three-dimensional image). To do. In the 2D mode, only the
第1ズームレンズ11a、第2ズームレンズ11b、第1フォーカスレンズ13a、第2フォーカスレンズ13bが所定位置まで繰り出され、その後第1イメージセンサ14a、第2イメージセンサ14bによってライブビュー画像用の撮影が行われ、画像表示LCD6にライブビュー画像が表示される。すなわち、第1イメージセンサ14a、第2イメージセンサ14bで連続的に画像が撮像され、その画像信号が連続的に処理されて、ライブビュー画像用の画像データが生成される。生成された画像データは、順次コントローラ34に加えられ、表示用の信号形式に変換されて、画像表示LCD6に出力される。これにより、第1イメージセンサ14a、第2イメージセンサ14bで捉えた画像が画像表示LCD6にスルー表示される。
The
ユーザ(撮影者)は、画像表示LCD6に表示されるライブビュー画を見ながらフレーミングしたり、撮影したい被写体を確認したり、撮影後の画像を確認したり、撮影条件を設定したりする。
The user (photographer) performs framing while viewing the live view image displayed on the
上記撮影スタンバイ状態時にレリーズスイッチ5が半押しされると、メインCPU10にS1ON信号が入力される。メインCPU10はこれを検知し、AE測光、AF制御を行う。AE測光時には、第1イメージセンサ14a、第2イメージセンサ14bを介して取り込まれる画像信号の積算値等に基づいて被写体の明るさを測光する。この測光した値(測光値)は、本撮影時における第1絞り12a、第2絞り12bの絞り値、及びシャッター速度の決定に使用される。同時に、検出された被写体輝度より、ストロボの発光が必要かどうかを判断する。同時に、検出された被写体輝度より、ストロボの発光が必要かどうかを判断する。ストロボ44a、44bの発光が必要と判断された場合には、ストロボ44a、44bをプリ発光させ、その反射光に基づいて本撮影時のストロボ44a、44bの発光量を決定する。3Dモードの場合には、上記以外に、基線長/輻輳角記憶手段51に記憶された撮影者毎の基線長、輻輳角の情報に基づいて、第1撮像系2aおよび第2撮像系2bの基線長及び輻輳角を調整する。
When the
レリーズスイッチ5が全押しされると、メインCPU10にS2ON信号が入力される。メインCPU10は、このS2ON信号に応動して、撮影、記録処理を実行する。
When the
まず、メインCPU10は、前記測光値に基づいて決定した絞り値に基づいて絞り制御部16a、16bを介して第1絞り12a、第2絞り12bを駆動するとともに、前記測光値に基づいて決定したシャッター速度になるように第1イメージセンサ14a、第2イメージセンサ14bでの電荷蓄積時間(いわゆる電子シャッター)を制御する。
First, the main CPU 10 drives the
また、メインCPU10は、バッファメモリ32a、32bに格納される右眼用画像データおよび左眼用画像データの各々からAF評価値およびAE評価値を算出する。AF評価値は、各画像データの全領域または所定領域(例えば中央部)について輝度値の高周波成分を積算することにより算出され、画像の鮮鋭度を表す。輝度値の高周波成分とは、隣接する画素間の輝度差(コントラスト)を所定領域内について足し合わせたものである。AE評価値は、各画像データの全領域または所定領域(例えば中央部)について輝度値を積算することにより算出され、画像の明るさを表す。AF評価値およびAE評価値は、後述する撮影準備処理時に実行されるAF動作およびAE動作においてそれぞれ使用される。
Further, the main CPU 10 calculates an AF evaluation value and an AE evaluation value from each of the right-eye image data and the left-eye image data stored in the
メインCPU10は、メインCPU10が第1フォーカスレンズ13aおよび第2フォーカスレンズ13bを制御してそれぞれ所定方向に移動させながら、順次に得られる右眼用画像データおよび左眼用画像データの各々から算出されたAF評価値の最大値を求めることにより、AF動作(コントラストAF)を行う。
The main CPU 10 is calculated from each of the right-eye image data and the left-eye image data obtained sequentially while the main CPU 10 controls the
この際、ストロボ44a、44bを発光させる場合は、プリ発光の結果から求めたストロボ44a、44bの発光量に基づいてストロボ44a、44bを発光させる。
At this time, when the
被写体光は、第1ズームレンズ11a、第1絞り12a、および第1フォーカスレンズ13aを介して第1イメージセンサ14aの受光面に入射する。また、第2ズームレンズ11b、第2絞り12b、および第2フォーカスレンズ13bを介して第2イメージセンサ14bの受光面に入射する。
The subject light enters the light receiving surface of the
第1イメージセンサ14a、第2イメージセンサ14bは、所定のカラーフィルタ配列(例えば、ハニカム配列、ベイヤ配列)のR、G、Bのカラーフィルタが設けられたカラーCCDで構成されており、第1イメージセンサ14a、第2イメージセンサ14bの受光面に入射した光は、その受光面に配列された各フォトダイオードによって入射光量に応じた量の信号電荷に変換される。各フォトダイオードに蓄積された信号電荷は、タイミングジェネレータ(TG)18aから加えられるタイミング信号に従って読み出され、電圧信号(画像信号)として第1イメージセンサ14a、第2イメージセンサ14bから順次出力され、A/D変換器30a、30bに入力される。
The
A/D変換器30a、30bは、CDS回路及びアナログアンプを含み、CDS回路は、CDSパルスに基づいてCCD出力信号を相関二重サンプリング処理し、アナログアンプは、メインCPU10から加えられる撮影感度設定用ゲインによってCDS回路から出力される画像信号を増幅する。A/D変換器30a、30bにおいて、それぞれアナログの画像信号からデジタルの画像信号に変換される。
The A /
A/D変換器30a、30bから出力された右眼用画像データおよび左眼用画像データは、それぞれ画像信号処理手段31a、31bで階調変換、ホワイトバランス調整、γ調整処理などの各種画像処理を施され、バッファメモリ32a、32bに一旦蓄えられる。
The image data for the right eye and the image data for the left eye output from the A /
バッファメモリ32a、32bから読み出されたR、G、Bの画像信号は、YC処理部35a、35bにより輝度信号Yと色差信号Cr、Cb(YC信号)に変換され、Y信号は、輪郭調整手段により輪郭強調処理される。YC処理部35a、35bで処理されたYC信号は、それぞれワークメモリ24a、24bに蓄えられる。
The R, G, and B image signals read from the
上記のようにしてバッファメモリ32a、32bに蓄えられたYC信号は、圧縮伸張処理手段36a、36bによって圧縮され、所定のフォーマットの画像ファイルとして、I/F39を介してメモリカード38に記録される。本例の複眼デジタルカメラ1の場合、静止画の2次元画像のデータは、所定のフォーマットの画像ファイル(画像ファイルについては後に詳述する)としてメモリカード38に格納される。Exifファイルは、主画像のデータを格納する領域と、縮小画像(サムネイル画像)のデータを格納する領域とを有している。撮影によって取得された主画像のデータから画素の間引き処理その他の必要なデータ処理を経て、規定サイズ(例えば、160×120又は80×60ピクセルなど)のサムネイル画像が生成される。こうして生成されたサムネイル画像は、主画像とともにExifファイル内に書き込まれる。また、Exifファイルには、撮影日時、撮影条件、顔検出情報等のタグ情報が付属されている。動画のデータは、MPEG2、MPEG4、H.264方式等の所定の圧縮形式に従って圧縮処理が施されてメモリカード38に格納される。
The YC signals stored in the
また、メインCPU10は、このS2ON信号に応動して距離用駆動/制御手段60を制御し、距離用撮像素子61a、61bを介して距離用発光素子52a、52bにより投光スポットの照射された被写体像を取得する。取得された被写体像は、距離情報処理手段64で処理が行われ、各画素の画素値が距離の値である距離画像が距離用撮像素子61a、61bのそれぞれに対して生成され、距離情報記憶手段65に記憶される。そして、所定のフォーマットの画像ファイルと共にメモリカード38に記録される。
The main CPU 10 controls the distance driving / control means 60 in response to the S2ON signal, and the subject irradiated with the projection spot by the distance light emitting elements 52a and 52b via the distance imaging elements 61a and 61b. Get a statue. The acquired subject image is processed by the distance information processing means 64, and a distance image in which the pixel value of each pixel is a distance value is generated for each of the distance image sensors 61a and 61b, and the distance information is stored. It is stored in the
このようにしてメモリカード38に記録された画像データは、複眼デジタルカメラ1のモードを再生モードに設定することにより、画像表示LCD6に再生表示される。再生モードへの移行は、再生ボタン(図示せず)を押下することにより行われる。
The image data recorded on the
再生モードが選択されると、メモリカード38に記録されている最終コマの画像ファイルがI/F39を介して読み出される。この読み出された画像ファイルの圧縮データは、圧縮伸張処理手段36a、36bを介して非圧縮のYC信号に伸長される。
When the playback mode is selected, the image file of the last frame recorded on the
伸長されたYC信号は、バッファメモリ32a、32b(又は図示しないVRAM)に保持され、コントローラ34によって表示用の信号形式に変換されて画像表示LCD6に出力される。
The decompressed YC signal is held in the
その後、順コマ送りスイッチ(十字キーの右キー)が押されると、順方向にコマ送りされ、逆コマ送りスイッチ(十字キーの左キー)が押されると、逆方向にコマ送りされる。そして、コマ送りされたコマ位置の画像ファイルがメモリカード38から読み出され、上記と同様にして画像が画像表示LCD6に再生される。
Thereafter, when the forward frame advance switch (right key of the cross key) is pressed, the frame is advanced in the forward direction, and when the reverse frame advance switch (left key of the cross key) is pressed, the frame is advanced in the reverse direction. Then, the frame-positioned image file at the frame position is read from the
画像表示LCD6に再生表示された画像を確認しながら、必要に応じて、メモリカード38に記録された画像を消去することができる。画像の消去は、画像が画像表示LCD6に再生表示された状態でフォトモードボタンが押下されることによって行われる。
While confirming the image reproduced and displayed on the
また、画像表示LCD6に再生表示された画像を確認しながら、必要に応じて、メモリカード38に記録された画像を編集することができる。画像の編集は、画像が画像表示LCD6に再生表示された状態で、操作部3により編集モードが選択されることによって行われる。
Further, the image recorded on the
以上のように、複眼デジタルカメラ1は画像の撮影、記録及び再生を行う。上記説明は、静止画を撮影する場合について説明したが、動画の場合も同様である。動画、静止画の撮影は、個々のレリーズボタンにより制御される。また、動画、静止画のモードセレクトSWやメニューにより、動画、静止画の切り替えを行うようにしてもよい。また、上記説明は、1回のシャッターレリーズ動作で第1撮像系2a及び第2撮像系2bの2つの撮像系を介して2枚の画像を撮影する場合について説明したが、1回のシャッターレリーズ動作で第1撮像系2a及び第2撮像系2bにおいて連続的に画像データを取得することにより、2枚以上の画像を撮影し、それらの画像の中から所望の複数枚の画像を選択して立体表示するようにしてもよい。
As described above, the compound-eye
[本願発明の概要]
さて、本願発明では、画像ファイル生成手段53において、第1撮像系2a及び第2撮像系2bで撮影された多視点画像を構成する各画像毎にそれぞれ別個の画像ファイルが生成され、それぞれの画像ファイルが関連付けられてメモリカード38に記録される。画像ファイルには、各画像の画像データ(主画像の画像データ)と、主画像を復元するための関連画像情報と、主画像の画像データと関連画像情報に関する付属情報とが各画像ファイルに含まれる。以下、画像ファイルの構成、配置等の詳細について説明する。
[Outline of the present invention]
In the present invention, the image file generating means 53 generates separate image files for each of the images constituting the multi-viewpoint image captured by the
[画像ファイルの構成について]
<画像ファイルの構成についての第1の実施の形態>
画像ファイルの構成についての第1の実施の形態は、主画像とは異なる視点から撮影された画像を関連画像情報として記録する形態である。以下、多視点画像として第1撮像系2a及び第2撮像系2bにより各2枚(合計4枚)の画像が撮影された場合における画像ファイルの構成についての第1の実施の形態について、図2及び図3を用いて説明する。便宜上、第1撮像系2aで1回目に撮影された画像を視点1の画像とし、第1撮像系2aで2回目に撮影された画像を視点2の画像とし、第2撮像系2bで1回目に撮影された画像を視点3の画像とし、第2撮像系2bで2回目に撮影された画像を視点4の画像として説明する。
[Image file structure]
<First Embodiment Regarding Configuration of Image File>
The first embodiment of the configuration of the image file is a mode in which an image taken from a viewpoint different from the main image is recorded as related image information. Hereinafter, the first embodiment of the configuration of the image file in the case where two images (four images in total) are captured by the
多視点画像の画像ファイルは、視点1の画像ファイルF10(ファイル名:ABCD0001.JPG)と、視点2の画像ファイルF11(ファイル名:ABCD0002.JPG)と、視点3の画像ファイルF12(ファイル名:ABCD0003.JPG)と、視点4の画像ファイルF13(ファイル名:ABCD0004.JPG)との4個の画像ファイルで構成されている。視点1の画像ファイルF10、視点2の画像ファイルF11、視点3の画像ファイルF12及び視点4の画像ファイルF13には連続したファイル名が自動的に付けられ、これらの画像ファイルの関連付けが行われる。
The image file of the multi-viewpoint image includes the image file F10 of the viewpoint 1 (file name: ABCD0001.JPG), the image file F11 of the viewpoint 2 (file name: ABCD0002.JPG), and the image file F12 of the viewpoint 3 (file name: ABCD0003.JPG) and an image file F13 (file name: ABCD0004.JPG) of viewpoint 4 are configured. A continuous file name is automatically assigned to the image file F10 of the
視点1の画像ファイルF10は、画像ファイルF10のデータの先頭を示すマーカSOI(Start of Image)の格納領域A101と、タグ情報格納領域A102と、視点1の画像(主画像)の画像データ格納領域A103と、データの終了を示すマーカEOI(End of Image)の格納領域A104と、関連画像情報格納領域A105とで構成される。視点2の画像ファイルF11は、画像ファイルF11のデータの先頭を示すマーカSOIの格納領域A111と、タグ情報格納領域A112と、視点2の画像(主画像)の画像データ格納領域A113と、データの終了を示すマーカEOIの格納領域A114と、関連画像情報格納領域A115とで構成される。視点3の画像ファイルF12は、画像ファイルF12のデータの先頭を示すマーカSOIの格納領域A121と、タグ情報格納領域A122と、視点3の画像(主画像)の画像データ格納領域A123と、データの終了を示すマーカEOIの格納領域A124と、関連画像情報格納領域A125とで構成される。視点4の画像ファイルF13は、画像ファイルF13のデータの先頭を示すマーカSOIの格納領域A131と、タグ情報格納領域A132と、視点4の画像(主画像)の画像データ格納領域A133と、データの終了を示すマーカEOIの格納領域A134と、関連画像情報格納領域A135とで構成される。
The image file F10 of the
画像データ格納領域A103、A113、A123、A133には、各画像ファイルの主画像の画像データが格納される。ここで、主画像とは第1撮像系2a及び第2撮像系2bで撮影された画像のうちの所望の1枚の画像であり、視点1の画像ファイルF10の場合には視点1の画像が主画像であり、視点2の画像ファイルF11の場合には視点2の画像が主画像であり、視点3の画像ファイルF12の場合には視点3の画像が主画像であり、視点4の画像ファイルF13の場合には視点4の画像が主画像である。
The image data storage areas A103, A113, A123, and A133 store the image data of the main image of each image file. Here, the main image is a desired one of the images captured by the
関連画像情報格納領域A105、A115、A125、A135には、主画像とは異なる所望の1枚の視点の画像の画像データが格納される。視点1の画像ファイルF10の関連画像情報格納領域A105には、視点4の画像の画像データが格納され、視点2の画像ファイルF11の関連画像情報格納領域A115には、視点1の画像の画像データが格納され、視点3の画像ファイルF12の関連画像情報格納領域A125には、視点2の画像の画像データが格納され、視点4の画像ファイルF13の関連画像情報格納領域A135には、視点1の画像の画像データが格納される。このように、関連画像情報格納領域A105、A115、A125、A135に格納される画像データが重複せず、これにより関連画像情報格納領域A105、A115、A125、A135により視点1、視点2、視点3及び視点4の全ての主画像の画像データを容易に作成することができる。
In the related image information storage areas A105, A115, A125, and A135, image data of one desired viewpoint image different from the main image is stored. The image data of the viewpoint 4 image is stored in the related image information storage area A105 of the
タグ情報格納領域A102、A112、A122、A132には、図3に示すように、Exif識別情報A1021と、TIFFヘッダA1022と、IFD0領域A1023と、付属情報A1024とで構成される。付属情報A1024には、全視点数を格納する領域B11と、主画像がどの視点で撮影された画像かを示す情報を格納する領域(視点画像領域)B12と、関連画像情報に含まれる画像がどの視点で撮影された画像かを示す情報を格納する領域(関連画像領域)B13と、主画像の画像データがどの画像ファイルの関連画像領域に格納されているかを示す情報を格納する領域(関連視点画像情報領域)B14と、その他付属情報を格納する領域B15とが設けられている。 As shown in FIG. 3, the tag information storage areas A102, A112, A122, and A132 include Exif identification information A1021, a TIFF header A1022, an IFD0 area A1023, and attached information A1024. The attached information A1024 includes an area B11 that stores the total number of viewpoints, an area (viewpoint image area) B12 that stores information indicating which viewpoint the main image is captured from, and an image included in the related image information. An area (related image area) B13 for storing information indicating an image taken from which viewpoint, and an area for storing information indicating the image data of the main image stored in the related image area (related) (Viewpoint image information area) B14 and an area B15 for storing other attached information.
全視点数領域B11には、多視点画像を構成する画像の枚数(視点数)が格納される。本実施の形態では、視点1〜4の4枚の画像で多視点画像が構成されるため、全視点数領域B11には「4」が格納される。
The total number of viewpoints area B11 stores the number of images (number of viewpoints) constituting the multi-viewpoint image. In the present embodiment, since the multi-viewpoint image is composed of four images of the
視点画像領域B12には、画像ファイルの主画像の視点番号が格納される。画像ファイルF10は視点1が主画像の場合であるため、視点画像領域B12には「1」が格納される。
In the viewpoint image area B12, the viewpoint number of the main image of the image file is stored. Since the image file F10 is a case where the
関連画像領域B13には、関連画像情報に含まれる画像の視点が格納される。画像ファイルF10の場合には、視点4の画像データが関連画像情報に格納されているため、関連画像領域B13には「4」が格納される。 In the related image area B13, the viewpoint of the image included in the related image information is stored. In the case of the image file F10, since the image data of the viewpoint 4 is stored in the related image information, “4” is stored in the related image area B13.
関連視点画像情報領域B14には、主画像が関連画像情報として格納されている画像ファイルのファイル名及びその画像ファイルが配置されている位置が格納される。画像ファイルF10の場合には、主画像は視点1の画像であり、視点1が関連画像情報として格納されている画像ファイルは視点2の画像ファイルF11であり、視点2の画像ファイルF11はDCIMフォルダ内の100ABCDEフォルダに配置されているため、関連視点画像情報領域には、「/DCIM/100ABCDE/ABCD0002.JPG」が格納される。
In the related viewpoint image information area B14, the file name of the image file in which the main image is stored as the related image information and the position where the image file is arranged are stored. In the case of the image file F10, the main image is the image of
このように、付属情報により画像ファイルF10〜F13の関連付けが行われる。全視点数領域B11に格納されている全視点数が「4」であり、視点画像領域B12に格納されている主画像の視点番号が「1」であるため、視点1の画像ファイルF10(ファイル名:ABCD0001.JPG)を先頭に4枚の画像で多視点画像として関連付けられていることが分かる。なお、画像ファイルの配置については、後に詳述する。
As described above, the image files F10 to F13 are associated with each other by the attached information. Since the total number of viewpoints stored in the total viewpoint number area B11 is “4” and the viewpoint number of the main image stored in the viewpoint image area B12 is “1”, the
このように、視点1〜4の全ての画像に対して生成された画像ファイルF10〜F13の関連画像情報に重複する情報が含まれないように、関連画像情報に格納する画像を選択されることにより、最低限の関連画像情報で、関連画像情報に基づいて主画像を復元することができる。また、付属情報に主画像の画像データが関連画像情報として格納されている画像ファイルを示す情報が格納されているため、主画像が復元可能な関連画像情報がどの画像ファイルに含まれているかを、画像ファイルの付属情報から知ることができる。
As described above, an image to be stored in the related image information is selected so that duplicate information is not included in the related image information of the image files F10 to F13 generated for all the images of the
<画像ファイルの構成についての第2の実施の形態>
画像ファイルの構成についての第2の実施の形態は、主画像と、主画像とは異なる視点から撮影された画像との差分情報を関連画像情報として記録する形態である。以下、第1撮像系2a及び第2撮像系2bにより各2枚の画像が撮影され、その中から選択された3枚の画像で多視点画像が構成された場合における画像ファイルの構成についての第2の実施の形態について図4及び図5を用いて説明する。なお、画像ファイルの構成についての第1の実施の形態と同一の部分については、同一の符号を付し、説明を省略する。便宜上、第1撮像系2aで1回目に撮影された画像を視点1の画像とし、第1撮像系2aで2回目に撮影された画像を視点2の画像とし、第2撮像系2bで1回目に撮影された画像を視点3の画像とし、第2撮像系2bで2回目に撮影された画像は使用しないとして説明する。
<Second Embodiment Regarding Configuration of Image File>
The second embodiment of the configuration of the image file is a mode in which difference information between a main image and an image taken from a viewpoint different from the main image is recorded as related image information. Hereinafter, the first
視点画像の画像ファイルは、視点1の画像ファイルF20(ファイル名:3DF_0001.JPG)と、視点2の画像ファイルF21(ファイル名:3DF_0002.JPG)と、視点3の画像ファイルF22(ファイル名:3DF_0003.JPG)との3個の画像ファイルで構成されている。視点1の画像ファイルF20、視点2の画像ファイルF21及び視点3の画像ファイルF22には連続したファイル名が自動的に付けられ、これらの画像ファイルの関連付けが行われる。
The image file of the viewpoint image includes the image file F20 of the viewpoint 1 (file name: 3DF_0001.JPG), the image file F21 of the viewpoint 2 (file name: 3DF_0002.JPG), and the image file F22 of the viewpoint 3 (file name: 3DF_0003). .JPG) and three image files. A continuous file name is automatically given to the image file F20 of the
視点1の画像ファイルF20は、画像ファイルF20のデータの先頭を示すマーカSOIの格納領域A101と、タグ情報格納領域A202と、視点1の画像(主画像)の画像データ格納領域A103と、データの終了を示すマーカEOIの格納領域A104と、付属情報領域A206と、関連画像情報格納領域A205とで構成される。視点2の画像ファイルF21は、画像ファイルF21のデータの先頭を示すマーカSOIの格納領域A111と、タグ情報格納領域A212と、視点2の画像(主画像)の画像データ格納領域A113と、データの終了を示すマーカEOIの格納領域A114と、付属情報領域A216と、関連画像情報格納領域A215とで構成される。視点3の画像ファイルF22は、画像ファイルF12のデータの先頭を示すマーカSOIの格納領域A121と、タグ情報格納領域A222と、視点3の画像(主画像)の画像データ格納領域A123と、データの終了を示すマーカEOIの格納領域A124と、付属情報領域A226と、関連画像情報格納領域A225とで構成される。
The
なお、図4に示す例では、付属情報領域A206、A216、A226及び関連画像情報格納領域A205、A215、A225が、EOIの格納領域A104、A114、A124の次にそれぞれ格納されているが、図5に示すように、付属情報領域A206、A216、A226及び関連画像情報格納領域A205、A215、A225をタグ情報格納領域A202’ 、A212’、A222 ’の中にそれぞれ格納してもよい。この場合には、タグ情報格納領域A202’には、タグ情報格納領域A202に格納されているExif識別情報A1021、TIFFヘッダA1022、IFD0領域A1023及び付属情報A1024に加えて、付属情報領域A206及び関連画像情報格納領域A205画が格納される。タグ情報格納領域A212’、A222’については、タグ情報格納領域A202’と同様の構成であるため、説明を省略する。 In the example shown in FIG. 4, the auxiliary information areas A206, A216, A226 and the related image information storage areas A205, A215, A225 are respectively stored after the EOI storage areas A104, A114, A124. As shown in FIG. 5, the auxiliary information areas A206, A216, A226 and the related image information storage areas A205, A215, A225 may be stored in the tag information storage areas A202 ′, A212 ′, A222 ′, respectively. In this case, in the tag information storage area A202 ′, in addition to the Exif identification information A1021, the TIFF header A1022, the IFD0 area A1023, and the auxiliary information A1024 stored in the tag information storage area A202, the auxiliary information area A206 and the related information An image information storage area A205 is stored. Since the tag information storage areas A212 'and A222' have the same configuration as the tag information storage area A202 ', description thereof will be omitted.
関連画像情報格納領域A205、A215、A225には、主画像以外の全ての画像の画像データと、主画像の画像データとの差分情報が格納される。視点1の画像ファイルF20の関連画像情報格納領域A205には、視点2の画像データと視点1(主画像)の画像データとの差分画像データ及び視点3の画像データと視点1の画像データとの差分画像データが格納され、視点2の画像ファイルF21の関連画像情報格納領域A215には、視点1の画像データと視点2(主画像)の画像データとの差分画像データ及び視点3の画像データと視点2の画像データとの差分画像データが格納され、視点3の画像ファイルF22の関連画像情報格納領域A225には、視点1の画像データと視点3(主画像)の画像データとの差分画像データ及び視点2の画像データと視点3の画像データとの差分画像データが格納される。このように、関連画像情報格納領域A205、A215、A225に主画像以外の所望の画像の画像データと、主画像の画像データとの差分情報を関連画像情報として格納することにより、関連画像情報を保存するのに必要な記憶容量を少なくすることができる。また、主画像以外の全ての画像の画像データと、主画像の画像データとの差分情報が関連画像情報として生成されることにより、1つの画像ファイルの関連画像情報に基づいて、全ての主画像を復元することができる。
In the related image information storage areas A205, A215, and A225, difference information between the image data of all images other than the main image and the image data of the main image is stored. In the related image information storage area A205 of the
付属情報領域A206、A216、A226には、図5に示すように、全視点数を格納する領域B21と、主画像がどの視点で撮影された画像かを示す情報を格納する領域(視点画像領域)B22と、関連画像情報に含まれる画像がどの視点で撮影された画像かを示す情報を格納する領域(関連画像領域)B23、B24と、主画像の画像データがどの画像ファイルの関連画像領域に格納されているかを示す情報を格納する領域(関連視点画像情報領域)B25、B26と、その他付属情報を格納する領域B27とが設けられている。 In the attached information areas A206, A216, and A226, as shown in FIG. 5, an area B21 that stores the total number of viewpoints and an area that stores information indicating the viewpoint at which the main image was captured (viewpoint image area) ) B22, areas (related image areas) B23 and B24 for storing information indicating from which viewpoint the image included in the related image information is captured, and the related image area of which image file the main image image data is Regions (related viewpoint image information regions) B25 and B26 for storing information indicating whether they are stored in the area B27, and an area B27 for storing other attached information.
全視点数領域B21には、多視点画像を構成する画像の枚数(視点数)が格納される。本実施の形態では、視点1〜3の3枚の画像で多視点画像が構成されるため、全視点数領域B21には「3」が格納される。
The total number of viewpoints area B21 stores the number of images (number of viewpoints) constituting the multi-viewpoint image. In the present embodiment, since the multi-viewpoint image is composed of the three images of the
視点画像領域B22には、画像ファイルの主画像の視点番号が格納される。画像ファイルF20は視点1が主画像の場合であるため、視点画像領域B22には「1」が格納される。
In the viewpoint image area B22, the viewpoint number of the main image of the image file is stored. Since the image file F20 is the case where the
関連画像領域1B23、関連画像領域2B24には、関連画像情報に含まれる画像データの情報が格納される。画像ファイルF20の場合には、視点2の画像データと視点1の画像データとの差分画像データと、視点3の画像データと視点1の画像データとの差分画像データとが関連画像情報に格納されているため、関連画像領域1B23には「△(2−1)」が格納され、関連画像領域2B24には「△(3−1)」が格納される。
Information of image data included in the related image information is stored in the related image area 1B23 and the related image area 2B24. In the case of the image file F20, the difference image data between the viewpoint 2 image data and the
関連視点画像情報領域1B25、関連視点画像情報領域2B26には、主画像が関連画像情報として格納されている画像ファイルのファイル名及びその画像ファイルが配置されている位置が格納される。画像ファイルF20の場合には、主画像は視点1の画像であり、視点1が関連画像情報として格納されている画像ファイルは、視点2の画像ファイルF21及び視点3の画像ファイルF22であり、視点2の画像ファイルF21及び視点3の画像ファイルF22はDCIMフォルダ内の101_3DVFフォルダ内に配置されているため、関連視点画像情報領域1B25には、「/DCIM/101_3DVF/3DF_0002.JPG」が格納され、関連視点画像情報領域2B26には、「/DCIM/101_3DVF/3DF_0003.JPG」が格納される。
In the related viewpoint image information area 1B25 and the related viewpoint image information area 2B26, the file name of the image file in which the main image is stored as the related image information and the position where the image file is arranged are stored. In the case of the image file F20, the main image is the image of the
このように、付属情報により画像ファイルF20〜F22の関連付けが行われる。なお、画像ファイルの配置については、後に詳述する。 As described above, the image files F20 to F22 are associated with each other based on the attached information. The arrangement of the image file will be described later in detail.
このように、主画像以外の全ての画像の画像データ又は主画像以外の全ての画像の画像データと、主画像の画像データとの差分情報が関連画像情報として生成されることにより、1つの画像ファイルの関連画像情報に基づいて、主画像を復元することができる。また、主画像以外の画像データと、主画像の画像データとの差分情報を関連画像情報とすることにより、複数枚の画像に関する情報が関連画像情報に含まれているとしても、関連画像情報を格納するのに必要な記憶容量を少なくすることができる。 As described above, the difference data between the image data of all the images other than the main image or the image data of all the images other than the main image and the image data of the main image is generated as the related image information. The main image can be restored based on the related image information of the file. Further, by making the difference information between the image data other than the main image and the image data of the main image as the related image information, the related image information can be changed even if the information related to a plurality of images is included in the related image information. The storage capacity required for storage can be reduced.
なお、本実施の形態において関連画像情報に格納された視点画像の画像データを用いる場合には、まず関連画像情報に格納された差分画像データと主画像の画像データを足し合わせることにより関連画像情報の視点番号の画像データを作成する必要がある。その後で、後に詳述する画像ファイルの復元処理や関連画像情報の修復処理に使用すればよい。 When image data of the viewpoint image stored in the related image information is used in the present embodiment, first, the related image information is obtained by adding the difference image data stored in the related image information and the image data of the main image. It is necessary to create image data of the viewpoint number. Thereafter, the image file may be used for image file restoration processing and related image information restoration processing, which will be described in detail later.
[画像ファイルの配置について]
<画像ファイルの配置についての第1の実施の形態>
多視点画像をフォルダ別に保存する方法について、4枚の画像から多視点画像が構成されている場合(視点数:4)を例に図6を用いて説明する。視点1の画像ファイルABCD0001、視点2の画像ファイルABCD0002、視点3の画像ファイルABCD0003及び視点4の画像ファイルABCD0004が同一のフォルダ100ABCDEに保存される。別の多視点画像を構成する4枚の画像の画像ファイルABCD0005、ABCD0006、ABCD0007及びABCD0008は、画像ファイルABCD0001、ABCD0002、ABCD0003及びABCD0004が保存されているフォルダとは別のフォルダ101ABCDEに保存される。このように多視点画像をフォルダ別に保存することにより、多視点画像を構成する4枚の画像の関連付け及び他の多視点画像との識別が可能となる。
[About image file layout]
<First Embodiment of Image File Arrangement>
A method for storing multi-viewpoint images for each folder will be described with reference to FIG. 6, taking as an example a case where a multi-viewpoint image is composed of four images (number of viewpoints: 4). The image file ABCD0001 of the
なお、本実施の形態では、複眼デジタルカメラ1を用いて多視点画像が撮影された場合を例に説明したが、これに限らず、パノラマ画像等の複数枚の画像を用いることではじめて画像表示ができるようなあらゆる場合にも適用することができる。
In the present embodiment, the case where a multi-viewpoint image is captured using the compound-eye
<画像ファイルの配置についての第2の実施の形態>
3枚の画像から多視点画像が構成されている場合(視点数:3)を例に図7を用いて説明する。画像ファイルのファイル名ABCD0001の下2桁01を01,02,03、11,12,13、21,22,23・・・というように変化させる命名規則を設ける。命名された全ての画像ファイルは同一フォルダ100ABCDEに保存される。このように多視点画像毎にファイル名を変えることにより、多視点画像を構成する3枚の画像の関連付け及び他の多視点画像を構成する3枚の画像との識別が可能となる。
<Second Embodiment of Image File Arrangement>
A case where a multi-viewpoint image is composed of three images (number of viewpoints: 3) will be described as an example with reference to FIG. A naming rule is provided that changes the last two digits 01 of the image file name ABCD0001 as 01, 02, 03, 11, 12, 13, 21, 22, 23. All the named image files are stored in the same folder 100ABCDE. In this way, by changing the file name for each multi-viewpoint image, it becomes possible to associate the three images that make up the multi-viewpoint image and to identify the three images that make up another multi-viewpoint image.
<画像ファイルの配置についての第3の実施の形態>
3枚の画像から多視点画像が構成されている場合(視点数:3)を例に図8を用いて説明する。画像ファイルのファイル名ABCD0001の下2桁01を01,02,03、04,05,06・・・のように昇順に変化させるという命名規則を設ける。命名された全ての画像ファイルは同一フォルダ100ABCDEに保存される。この場合には、画像ファイルの関連付けは付属情報のみで行われ、多視点画像を構成する画像の枚数や視点番号は、画像ファイル中の付属情報を参照することで判断される。
<Third Embodiment of Image File Arrangement>
A case where a multi-viewpoint image is composed of three images (number of viewpoints: 3) will be described as an example with reference to FIG. A naming rule is provided in which the last two digits 01 of the file name ABCD0001 of the image file are changed in ascending order as 01, 02, 03, 04, 05, 06. All the named image files are stored in the same folder 100ABCDE. In this case, the image file is associated with only the attached information, and the number of images constituting the multi-viewpoint image and the viewpoint number are determined by referring to the attached information in the image file.
[画像ファイルの復元処理]
多視点画像を構成する画像のうちの1枚の画像の画像ファイルを紛失した場合における当該画像ファイルの復元処理について、図9を用いて説明する。以下の処理は、メインCPU10によって行われる。
[Image file restoration processing]
With reference to FIG. 9, a description will be given of the restoration processing of an image file in the case where the image file of one image among the images constituting the multi-viewpoint image is lost. The following processing is performed by the main CPU 10.
まず、多視点画像を構成する視点数分の画像ファイルを取得する(ステップS1)。視点数分の画像ファイルの取得方法は、先述した画像ファイルの配置の形態によって異なる。図6に示す画像ファイルの配置の場合には、フォルダにより関連付けされているため、所定のフォルダ内の4ファイル(4視点分)、例えばフォルダ100ABCDE内にある4枚の画像ファイルABCD0001、ABCD0002、ABCD0003及びABCD0004を取得する。図7に示す画像ファイルの配置の場合には、ファイル名で関連付けされているため、ファイル名から必要な3視点分のファイルを識別して取得する。例えば、フォルダ100ABCDE内にある画像ファイルのファイル名がABCD0001, ABCD0002, ABCD0003, ABCD0011, ABCD0012, ABCD0013・・・となっているため、ファイル名ABCD0001, ABCD0002, ABCD0003の3枚の画像ファイルで多視点画像を構成すると識別して、これら3枚の画像ファイルを取得する。図8に示す画像ファイルの配置の場合には、まず、任意の1ファイルを取得し、そのファイルの付属情報から視点数と視点番号を取得する。次に、取得した視点数と視点番号から多視点画像を構成する画像ファイルを識別して取得する。例えば、画像ファイルABCD0023.JPGを任意の1ファイルとして取得した場合には、画像ファイルABCD0023.JPGの視点数が3であり、かつ視点番号が2であり、これらの情報から視点番号1の画像ファイルABCD0022.JPGと、視点番号3の画像ファイルはABCD0024.JPGを識別することができる。
First, image files for the number of viewpoints constituting the multi-viewpoint image are acquired (step S1). The method of acquiring image files for the number of viewpoints differs depending on the arrangement form of the image files described above. In the case of the arrangement of the image files shown in FIG. 6, since they are related by folders, four files (for four viewpoints) in a predetermined folder, for example, four image files ABCD0001, ABCD0002, ABCD0003 in the folder 100ABCDE. And ABCD0004. In the case of the arrangement of the image files shown in FIG. 7, since the file names are associated with each other, necessary three viewpoint files are identified and acquired from the file names. For example, the file names of the image files in the folder 100ABCDE are ABCD0001, ABCD0002, ABCD0003, ABCD0011, ABCD0012, ABCD0013... These three image files are acquired. In the case of the image file arrangement shown in FIG. 8, first, an arbitrary file is acquired, and the number of viewpoints and the viewpoint number are acquired from the attached information of the file. Next, an image file constituting a multi-viewpoint image is identified and acquired from the acquired number of viewpoints and viewpoint number. For example, when the image file ABCD0023.JPG is acquired as an arbitrary file, the number of viewpoints of the image file ABCD0023.JPG is 3, and the viewpoint number is 2, and the image file with the
次に、全ての視点画像が揃っているかどうかを判定する(ステップS2)。全ての視点画像が揃っている場合(ステップS2でYES)には、主画像の画像データや関連画像情報の修復要否を判定し、必要に応じて修復処理(後述)を行う(ステップS3)。そして、画像ファイルを紛失した場合の処理を終了して、編集、再生、複製などの所望の別処理を行う。 Next, it is determined whether all viewpoint images are prepared (step S2). When all the viewpoint images are prepared (YES in step S2), it is determined whether or not the image data of the main image and related image information need to be repaired, and repair processing (described later) is performed as necessary (step S3). . Then, the processing when the image file is lost is terminated, and other desired processing such as editing, reproduction, and duplication is performed.
全ての視点画像が揃っていない場合(ステップS2でNO)には、復元が必要な視点画像の特定を行う(ステップS4)。復元が必要な視点画像は、取得した画像ファイルのファイル名や、画像ファイル内の付属情報を参照することによって行うことができる。 If all the viewpoint images are not complete (NO in step S2), the viewpoint images that need to be restored are identified (step S4). The viewpoint image that needs to be restored can be obtained by referring to the file name of the acquired image file or the attached information in the image file.
ステップS4で特定された画像ファイルの復元が可能かどうか判定する(ステップS5)。例えば、視点数が4の場合で2視点の画像ファイルが無い場合や、視点1の画像ファイルのみが無い場合でも、当該視点画像を関連画像として持つべき画像ファイルから関連画像が消えてしまっている場合などは、復元不可(ステップS5でNO)としてエラー処理を行う(ステップS6)。 It is determined whether or not the image file specified in step S4 can be restored (step S5). For example, even when the number of viewpoints is 4 and there is no two-viewpoint image file, or when there is no viewpoint-1 image file alone, the related image disappears from the image file that should have the viewpoint image as the related image. In some cases, restoration is impossible (NO in step S5), and error processing is performed (step S6).
以下、ステップS5で画像ファイルの復元が可能な場合(ステップS5でYES)について、図2に示す形態の画像ファイルで「視点2画像ファイル」が無くなっていた場合を例に説明する。 Hereinafter, the case where the image file can be restored in step S5 (YES in step S5) will be described as an example in which the “viewpoint 2 image file” is lost in the image file in the form shown in FIG.
まず、主画像の復元用の画像を抽出する(ステップS7)。視点3画像ファイルの付属情報には、関連画像情報に視点2の画像ファイルが格納されていることが記載されているため、視点2の画像データを視点3画像ファイルから抽出する。
First, an image for restoring the main image is extracted (step S7). Since the attached information of the
次に、関連画像情報の復元用の画像を抽出する(ステップS8)。視点1画像ファイルの付属情報には、主画像として視点1の画像データが格納されていることが記載されているため、視点1の画像データを視点1画像ファイルから抽出する。
Next, an image for restoring related image information is extracted (step S8). Since the attached information of the
そして、画像ファイルの復元用の付属情報を生成する(ステップS9)。他の画像ファイルの付属情報を参照して、復元する視点2画像ファイル用の付属情報(図3参照)を生成する。 Then, auxiliary information for restoring the image file is generated (step S9). By referring to the attached information of the other image file, attached information (see FIG. 3) for the viewpoint 2 image file to be restored is generated.
最後に、ステップS7で抽出された主画像の画像データと、ステップS8で抽出された関連画像情報と、ステップS9で生成された付属情報とを結合することにより、紛失等された画像ファイルを復元して、当該復元した画像ファイルを他の画像ファイルと同じ位置に書き込み(ステップS10)、処理を終了する。 Finally, the lost image file is restored by combining the image data of the main image extracted in step S7, the related image information extracted in step S8, and the attached information generated in step S9. Then, the restored image file is written in the same position as other image files (step S10), and the process is terminated.
これにより、削除、紛失、離散などにより、記録されているはずの画像ファイルが使用できない場合においても、使用できない画像ファイルをその他の画像ファイルから自動的に復元することができる。 Thus, even when an image file that should have been recorded cannot be used due to deletion, loss, discreteness, etc., the unusable image file can be automatically restored from other image files.
また、多視点画像の一部の視点の画像が使用できなくなった場合においても、その画像を復元することができるため、多視点画像が表示できなくなるという不具合を防止することができる。 In addition, even when some viewpoint images of the multi-viewpoint image cannot be used, the image can be restored, so that a problem that the multi-viewpoint image cannot be displayed can be prevented.
[画像ファイルの関連画像情報の修復]
編集モードにおいて画像を編集する場合に、関連画像情報が使用できないかどうかを判断し、使用できない場合には当該関連画像情報を修復する処理について、図10を用いて説明する。以下の処理は、メインCPU10によって行われる。
[Repair related image information of image file]
A process for determining whether or not the related image information can be used when editing the image in the edit mode and repairing the related image information when it cannot be used will be described with reference to FIG. The following processing is performed by the main CPU 10.
編集したい画像が主画像として格納されている画像ファイルを取得し(ステップS1)、当該画像ファイルの付属情報を読み込む(ステップS2)。 An image file in which an image to be edited is stored as a main image is acquired (step S1), and attached information of the image file is read (step S2).
付属情報に記載された通りの関連画像情報が画像ファイルに格納されているかどうかを判断し(ステップS13)、付属情報に記載された通りの関連画像情報が画像ファイルに格納されていない場合(ステップS13でNO)には、その他付属情報を格納する領域B27に関連画像修復フラグをセットし(ステップS14)、主画像の画像データを編集するステップ(ステップS15)へ進む。付属情報に記載された通りの関連画像情報が画像ファイルに格納されている場合(ステップS13でYES)には、主画像の画像データを編集するステップ(ステップS15)へ進む。 It is determined whether or not the related image information as described in the attached information is stored in the image file (step S13). When the related image information as described in the attached information is not stored in the image file (step S13) In NO in S13, the related image restoration flag is set in the area B27 for storing other attached information (step S14), and the process proceeds to the step of editing the image data of the main image (step S15). If the related image information as described in the attached information is stored in the image file (YES in step S13), the process proceeds to the step of editing the image data of the main image (step S15).
主画像の画像データの編集(ステップS15)が終了したら、当該画像ファイルの関連画像情報として持つべき視点画像(関連視点画像)が主画像又は関連画像情報として格納されている画像ファイルを取得する(ステップS16)。 When the editing of the image data of the main image (step S15) is completed, an image file in which a viewpoint image (related viewpoint image) to be held as related image information of the image file is stored as the main image or related image information is acquired ( Step S16).
ステップS16で取得された画像ファイルの主画像の画像データ及び関連画像情報の修復が必要かどうかを判断する(ステップS17)。修復の要否は、付属情報に記載された主画像及び関連画像情報の情報と、実際に画像データ格納領域及び関連画像情報格納領域に格納された画像とを比較することによって行われる。ステップS16で取得された画像ファイルの修復が必要ない場合(ステップS17でNO)の場合には、ステップS14において関連画像修復フラグがセットされたかどうかを判断し(ステップS18)、関連画像修復フラグがセットされている場合(ステップS18でYES)には、主画像の編集を行った画像ファイルの関連画像情報を修復し(ステップS19)、当該画像ファイルを修復前と同じフォルダ内に書き込む、すなわち上書き処理を行う(ステップS20)。関連画像修復フラグがセットされていない場合(ステップS18でNO)には、当該画像ファイルの書き込み処理を行う(ステップS20)。 It is determined whether or not the image data of the main image and the related image information of the image file acquired in step S16 need to be restored (step S17). The necessity of restoration is determined by comparing the information of the main image and related image information described in the attached information with the images actually stored in the image data storage area and the related image information storage area. If the image file acquired in step S16 does not need to be repaired (NO in step S17), it is determined whether the related image repair flag is set in step S14 (step S18), and the related image repair flag is set. If it is set (YES in step S18), the related image information of the image file whose main image has been edited is repaired (step S19), and the image file is written in the same folder as before the repair, that is, overwritten. Processing is performed (step S20). If the related image restoration flag is not set (NO in step S18), the image file is written (step S20).
ステップS16で取得された画像ファイルの主画像の画像データ及び関連画像情報の修復が必要な場合、すなわち付属情報に記載された主画像及び関連画像情報の情報と、実際に画像データ格納領域及び関連画像情報格納領域に格納された画像と同じでない場合や、主画像の画像データ又は願練画像情報が使用できない場合など(ステップS17でYES)には、視点画像の修復(ステップS21)及び関連画像情報の修復(ステップS22)を行い、主画像の画像データや関連画像情報が修復された画像ファイルを修復前と同じフォルダ内に書き込む、すなわち上書きを行い(ステップS23)、その後編集が行われた画像ファイルの関連画像情報修復処理(ステップS18〜S20)を行う。なお、視点画像の修復(ステップS21)及び関連画像情報の修復(ステップS22)は、ステップS12、S16及びS18〜S20とほぼ同様の流れで処理を行なえばよいため、説明を省略する。 When it is necessary to restore the image data and related image information of the main image of the image file acquired in step S16, that is, the information of the main image and related image information described in the attached information, the actual image data storage area and the related image information When the image is not the same as the image stored in the image information storage area, or when the image data of the main image or the desired image information cannot be used (YES in step S17), the restoration of the viewpoint image (step S21) and the related image The information is restored (step S22), and the image file in which the image data of the main image and the related image information are restored is written in the same folder as before the restoration, that is, overwritten (step S23) and then edited. The related image information restoration process (steps S18 to S20) of the image file is performed. Note that the viewpoint image restoration (step S21) and the related image information restoration (step S22) may be performed in substantially the same flow as steps S12, S16, and S18 to S20, and thus description thereof is omitted.
このように、編集対象となる画像を主画像とする画像ファイルの関連画像情報に問題がないかどうかを判断し、関連画像情報に問題があると判断された場合には、当該画像ファイルの付属情報及び当該画像ファイル以外の主画像の画像データ又は関連画像情報に基づいて、問題がある関連画像情報を修復することで、関連画像情報から主画像が修復可能な状態を常に保つことができる。これにより、多視点画像が表示できなくなるという不具合を防止することができる。 In this way, it is determined whether or not there is a problem with the related image information of the image file whose main image is the image to be edited, and if it is determined that there is a problem with the related image information, the attached image file is attached. By repairing the related image information having a problem based on the information and the image data of the main image other than the image file or the related image information, it is possible to always maintain a state in which the main image can be repaired from the related image information. Thereby, the malfunction that a multi-viewpoint image cannot be displayed can be prevented.
また、多視点画像を構成する画像の一部が使用できなくなった場合においても、使用できなくなった画像の復元が可能な状態を維持しながら画像データの編集を行うことができる。 Further, even when some of the images constituting the multi-viewpoint image cannot be used, it is possible to edit the image data while maintaining a state where the unusable image can be restored.
<他の実施の形態>
また、本実施の形態では、複眼デジタルカメラ1を用いて画像ファイルの復元処理や、関連画像情報修復処理を行ったが、画像の記録、編集等が可能なパーソナルコンピュータ(PC)等の画像処理装置を用いてもよい。以下、図11を用いて画像記録装置100について説明する。
<Other embodiments>
In the present embodiment, image file restoration processing and related image information restoration processing are performed using the compound-eye
中央処理装置(CPU)102は、バス104を介して画像記録装置100内の各ブロックに接続されており、各ブロックの動作を制御する。また、CPU102は、複眼デジタルカメラ1又はメモリカード38から画像ファイルを読み込み、先に述べたような画像ファイルの復元処理や、関連画像情報修復処理などを行う。
A central processing unit (CPU) 102 is connected to each block in the
主メモリ106は、制御プログラムが格納される記憶領域や、プログラム実行時の作業領域を含んでいる。
The
ハードディスク装置108には、画像記録装置100のオペレーティングシステム(OS)や、各種のアプリケーションソフト、撮影装置1又はメモリカード38から読み込まれた記録用画像データ(基本ファイルF10及び拡張画像ファイルF100)等が格納される。
The
CD−ROM装置110は、図示しないCD−ROMからのデータの読み込みを行う。
The CD-
カードインターフェース部(カードI/F)112は、メモリカード38から画像データを読み取る。
A card interface unit (card I / F) 112 reads image data from the
表示メモリ116は、表示用データを一時記憶する。
The
モニタ118は、例えば、CRT(Cathode Ray Tube)モニタや液晶モニタにより構成され、この表示メモリ116から出力される画像データ、文字データ等に基づいて画像や文字等を表示する。
The
キーボード120及びマウス122は、操作者からの操作入力を受け付けて、操作入力に応じた信号をCPU102に入力する。なお、ポインティングデバイスとしては、マウス122のほか、タッチパネルやタッチパッド等を用いることができる。
The
マウスコントローラ124は、マウス122の状態を検出してモニタ118上のマウスポインタの位置や、マウス122の状態等の信号をCPU102に出力する。
The
オーディオ入出力回路126には、マイク128及びスピーカ130が接続され、各種の音声信号が入力されるとともに、キーボード120等からの操作入力に応じて各種動作音が再生出力される。通信インターフェイス部(通信I/F)132は、ネットワークNWとの通信を行う。カメラ接続インターフェイス部(カメラ接続I/F)134は、撮影装置(電子カメラ、デジタルカメラ)1との間でデータの送受信を行う。
A
また、本実施の形態では、画像ファイル生成手段53において画像ファイルの作成を行い、メインCPU10において画像ファイルの復元処理や関連画像情報修復処理などを行う複眼デジタルカメラ1という装置について説明したが、装置に限らず、例えば、撮像装置、PC、携帯情報端末のような装置に適用するプログラムとして提供してもよい。
In the present embodiment, an image file is created by the image
1:複眼デジタルカメラ、2a:第1撮像系、2b:第2撮像系、6a、6b:画像表示LCD、10:メインCPU、38:メモリカード、50:2D/3Dモード切替フラグ設定手段、51:基線長/輻輳角記憶手段、53:画像ファイル生成手段 1: compound eye digital camera, 2a: first imaging system, 2b: second imaging system, 6a, 6b: image display LCD, 10: main CPU, 38: memory card, 50: 2D / 3D mode switching flag setting means, 51 : Baseline length / convergence angle storage means, 53: Image file generation means
Claims (10)
前記複数枚の画像に基づいて前記複数枚の画像と同数の画像ファイルを作成する画像ファイル作成手段と、
前記画像ファイル作成手段によって作成された複数の画像ファイルを記録媒体に記録する記録手段と、を備え、
前記画像ファイル作成手段は、
前記複数の画像ファイルのうちのいずれか1つの画像ファイルが欠落しても該画像ファイルを復活させるための複数の関連画像情報を、前記複数枚の画像に基づいて生成する関連画像情報生成手段を有し、
前記複数の画像ファイルのうちの任意の1つの画像ファイルを作成するときに、前記複数枚の画像のうちの任意の1つの画像と、前記関連画像情報生成手段によって生成された関連画像情報であって、前記任意の1つの画像以外の画像を復活させるための関連画像情報とが記録された画像ファイルを作成する、
ことを特徴とする画像記録装置。 Image acquisition means for acquiring a plurality of images used simultaneously during reproduction of a predetermined image;
Image file creation means for creating the same number of image files as the plurality of images based on the plurality of images;
Recording means for recording a plurality of image files created by the image file creating means on a recording medium,
The image file creating means
Related image information generating means for generating, based on the plurality of images, a plurality of related image information for reviving the image file even if any one of the plurality of image files is lost. Have
When creating any one image file among the plurality of image files, and any one image among the plurality of images, there Related image information generated by the relevant image information generating means Creating an image file in which related image information for restoring an image other than the one arbitrary image is recorded;
An image recording apparatus.
前記複数枚の画像の関係を特定するための付属情報を生成する付属情報生成手段を更に有し、
前記複数の画像ファイルのうちの任意の1つの画像ファイルを作成するときに、前記複数枚の画像のうちの任意の1つの画像と、前記関連画像情報生成手段によって生成された関連画像情報であって、前記任意の1つの画像以外の画像を復活させるための関連画像情報と、前記付属情報生成手段によって生成された前記任意の1つの画像と前記関連画像情報に対応する前記任意の1つの画像以外の画像との関係と特定するための付属情報とが記録された画像ファイルを作成する、
ことを特徴とする請求項1又は2に記載の画像記録装置。 The image file creating means
Further comprising auxiliary information generation means for generating auxiliary information for specifying a relationship between the plurality of images,
When creating any one image file among the plurality of image files, and any one image among the plurality of images, there Related image information generated by the relevant image information generating means Related image information for reviving an image other than the arbitrary one image, the arbitrary one image generated by the auxiliary information generation means, and the arbitrary one image corresponding to the related image information Create an image file that records the relationship with other images and the attached information for identification,
The image recording apparatus according to claim 1, wherein:
前記複数枚の画像に基づいて、前記判断手段により修復が必要と判断された関連画像情報を修復する修復手段と、 Based on the plurality of images, a repair unit that repairs related image information determined to be repaired by the determination unit;
を備えたことを特徴とする請求項1から7のいずれかに記載の画像記録装置。 The image recording apparatus according to claim 1, further comprising:
編集対象である画像を任意の1つの画像とする画像ファイルの任意の1つの画像を編集する第1の編集手段と、 A first editing means for editing any one image of an image file in which the image to be edited is any one image;
前記編集対象である画像に基づいて作成された関連画像情報に対して、前記第1の編集手段により行われた編集と同じ編集を行う第2の編集手段と、 A second editing unit that performs the same editing as the editing performed by the first editing unit on the related image information created based on the image to be edited;
を備えたことを特徴とする画像編集装置。 An image editing apparatus comprising:
(b)前記複数枚の画像のうちの任意の1つの画像を選択するステップと、
(c)前記選択された任意の1つの画像以外の画像を復活させるための関連画像情報を作成するステップと、
(d)前記選択された任意の1枚の画像と、前記作成された関連画像情報とが記録された画像ファイルを作成するステップと、
を含み、
前記複数枚の画像に基づいて前記複数枚の画像と同数の画像ファイルを作成するように、かつ前記複数の画像ファイルのうちのいずれか1つの画像ファイルが欠落しても該画像ファイルが復活可能なように、前記ステップ(b)〜(d)を繰り返して複数の画像ファイルを作成し、該複数の画像ファイルを記録媒体に記録することを特徴とする画像記録方法。 (A) obtaining a plurality of images used simultaneously during reproduction of a predetermined image;
(B) selecting any one image among the plurality of images,
(C) creating related image information for restoring an image other than the selected one arbitrary image;
(D) creating an image file in which the selected arbitrary one image and the created related image information are recorded;
Including
The same number of image files as the plurality of images are created based on the plurality of images, and the image file can be restored even if any one of the plurality of image files is lost As described above, an image recording method characterized by repeating the steps (b) to (d) to create a plurality of image files and recording the plurality of image files on a recording medium.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007247120A JP4833947B2 (en) | 2007-09-25 | 2007-09-25 | Image recording apparatus, image editing apparatus, and image recording method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007247120A JP4833947B2 (en) | 2007-09-25 | 2007-09-25 | Image recording apparatus, image editing apparatus, and image recording method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009081493A JP2009081493A (en) | 2009-04-16 |
JP4833947B2 true JP4833947B2 (en) | 2011-12-07 |
Family
ID=40655953
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007247120A Expired - Fee Related JP4833947B2 (en) | 2007-09-25 | 2007-09-25 | Image recording apparatus, image editing apparatus, and image recording method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4833947B2 (en) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5322817B2 (en) | 2009-07-17 | 2013-10-23 | 富士フイルム株式会社 | 3D image pickup apparatus and 3D image display method |
JP5804055B2 (en) | 2011-05-30 | 2015-11-04 | 株式会社ニコン | Image processing apparatus, image processing method, and program |
JP4887461B2 (en) * | 2011-07-27 | 2012-02-29 | 富士フイルム株式会社 | 3D image pickup apparatus and 3D image display method |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3081675B2 (en) * | 1991-07-24 | 2000-08-28 | オリンパス光学工業株式会社 | Image recording device and image reproducing device |
JP4175003B2 (en) * | 2002-03-11 | 2008-11-05 | 株式会社ニコン | Electronic camera |
JP2004363758A (en) * | 2003-06-03 | 2004-12-24 | Konica Minolta Photo Imaging Inc | Image processing method, imaging apparatus, image processing apparatus, and image recording apparatus |
JP4347724B2 (en) * | 2004-03-05 | 2009-10-21 | 富士フイルム株式会社 | Image file generating apparatus and method, and image file reproducing apparatus and method |
US20070283234A1 (en) * | 2004-05-20 | 2007-12-06 | Po-Chieh Hung | Image Data Management and Management Program |
JP4668602B2 (en) * | 2004-12-24 | 2011-04-13 | 富士フイルム株式会社 | Stereoscopic image generation apparatus and method, and program |
-
2007
- 2007-09-25 JP JP2007247120A patent/JP4833947B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2009081493A (en) | 2009-04-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4720785B2 (en) | Imaging apparatus, image reproducing apparatus, imaging method, and program | |
JP5096048B2 (en) | Imaging apparatus, stereoscopic image reproduction apparatus, and stereoscopic image reproduction program | |
JP4662071B2 (en) | Image playback method | |
JP4914278B2 (en) | Image processing apparatus, method, and program | |
JP5101101B2 (en) | Image recording apparatus and image recording method | |
JP4809294B2 (en) | Image recording apparatus and image recording method | |
US10587860B2 (en) | Imaging apparatus and method for controlling same | |
JP2008294530A (en) | Imaging apparatus, image reproducing device, imaging method, image reproducing method, and program | |
JP2011075675A (en) | Compound-eye imaging apparatus | |
JP4671053B2 (en) | Image recording apparatus and image recording method | |
JP4748398B2 (en) | Imaging apparatus, imaging method, and program | |
JP4833947B2 (en) | Image recording apparatus, image editing apparatus, and image recording method | |
JP2008310187A (en) | Image processing device and image processing method | |
JP2008311943A (en) | Method and device for recording image | |
JP4809295B2 (en) | Image recording apparatus and image recording method | |
JP5144782B2 (en) | Imaging apparatus, image reproducing apparatus, imaging method, and program | |
JP4874923B2 (en) | Image recording apparatus and image recording method | |
JP2011082757A (en) | Display mode determination device and method, and imaging device and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100222 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110526 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110627 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110816 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110831 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110922 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140930 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |