[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6376813B2 - 画像処理装置、画像処理方法およびプログラム、並びに撮像装置 - Google Patents

画像処理装置、画像処理方法およびプログラム、並びに撮像装置 Download PDF

Info

Publication number
JP6376813B2
JP6376813B2 JP2014078841A JP2014078841A JP6376813B2 JP 6376813 B2 JP6376813 B2 JP 6376813B2 JP 2014078841 A JP2014078841 A JP 2014078841A JP 2014078841 A JP2014078841 A JP 2014078841A JP 6376813 B2 JP6376813 B2 JP 6376813B2
Authority
JP
Japan
Prior art keywords
image
unit
display
development
file
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014078841A
Other languages
English (en)
Other versions
JP2015201730A (ja
JP2015201730A5 (ja
Inventor
奈奈 大山
奈奈 大山
賢道 伊藤
賢道 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014078841A priority Critical patent/JP6376813B2/ja
Publication of JP2015201730A publication Critical patent/JP2015201730A/ja
Publication of JP2015201730A5 publication Critical patent/JP2015201730A5/ja
Application granted granted Critical
Publication of JP6376813B2 publication Critical patent/JP6376813B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Description

本発明は、画像処理装置及び画像処理方法に関し、特に、動画又は静止画のRAW画像に係わる画像処理技術に関する。
従来の撮像装置では、撮像センサーによって撮像された生の画像情報(RAW画像)をデベイヤー処理(デモザイク処理)して輝度と色差から成る信号に変換し、各信号についてノイズ除去、光学的な歪補正、画像の適正化などの所謂現像処理を行っている。そして、現像処理された輝度信号及び色差信号を圧縮符号化して、記録媒体に記録するのが一般的である。
一方で、RAW画像を記録できる撮像装置も存在する。RAW画像は記録に必要なデータ量が膨大になるが、オリジナル画像に対する補正や劣化を最低限に抑えられ、撮影後に編集できる利点があるので、上級者によって好んで使われている。
RAW画像を記録する撮像装置の構成は特許文献1に開示されている。特許文献1には、RAW画像と共に現像パラメータを記録しておき、再生時に当該現像パラメータを用いてRAW画像の現像及び再生を行う構成が記載されている。
特開2011−244423号公報
RAW画像の確認用画像として、200万画素程度の比較的低い解像度にて簡易的に現像しておき、RAW画像と対応付けて記録されている構成が考えられる。再生時に所望のコンテンツを再生装置で拡大表示させる場合、この簡易現像画像を用いた場合にはすぐさま表示することが可能である。しかし拡大率が大きくなるにつれ、表示する画像が粗くなってしまう。
一方で、200万画素程度の簡易現像画像から、RAW画像から改めて高画質に現像した本現像画像に切り替えるとすると、現像処理に時間がかかり表示するまでユーザーにストレスを与えてしまうという課題が挙げられる。
そこで、本発明の目的は、このような課題を解決し、所望のコンテンツの拡大表示時にRAW画像の高画質現像を必要とおけるユーザーにストレスを軽減した表示システムを提供することを目的とする。
上記目的を達成するために、本発明の一実施形態によれば、画像処理装置は、RAW画像情報に第1の処理を行うことにより生成された第1の画像を取得する第1の取得手段と、前記RAW画像情報に第2の処理を行うことにより生成された第2の画像を取得する第2の取得手段と、前記第1の画像又は前記第2の画像を表示する表示手段と、前記表示手段に表示された前記第1の画像に対して拡大表示を指示する指示手段と、前記指示手段により指示された拡大表示の拡大率に応じて、前記拡大率が所定の拡大率より大きくなったときに前記第1の画像から前記第2の画像へと切り替えて拡大表示を行うよう前記表示手段を制御する表示制御手段と、を有し、前記第2の処理は、前記拡大表示が指示されて前記拡大率が前記所定の拡大率より大きくなるより前にあらかじめ開始される。
本発明によれば、画像処理装置が、画像再生時の拡大表示のためにRAW画像の高画質現像を必要とした場合でも、ユーザーのストレス低減の効果を得る画像処理構成を提供することができる。
本発明の第1の実施形態に係る撮像装置の構成例を示すブロック図である。 図1の撮像装置の状態遷移図である。 本発明の第1の実施形態に係わる撮像装置の静止画撮影モードの処理動作のフローチャートを示す図である。 本発明の第1の実施形態に係わる撮像装置が生成する静止画ファイルとRAWファイルの構成例を示す図である。 本発明の第1の実施形態に係わる撮像装置のアイドル状態の処理に係るフローチャートである。 本発明の第1の実施形態に係わる撮像装置の静止画再生モードの処理動作に係るフローチャートである。 本発明の第1の実施形態に係わる撮像装置の静止画再生モードにおける表示処理の例を示す図である。 本発明の第1の実施形態に係わる撮像装置の動画撮影モードの処理に係るフローチャートである。 本発明の第1の実施形態に係わる撮像装置が生成する動画ファイルとRAW動画ファイルの構成例を示す図である。 本発明の第1の実施形態に係わる撮像装置の動画再生モードの処理動作のフローチャートを示す図である。 図1の撮像装置が有する撮像センサー部102の画素配列の説明図である。 本発明の第1の実施形態に係わる撮像装置の拡大表示処理動作のフローチャートを示す図である。 本発明の第1の実施形態に係わる表示拡大処理動作における視覚効果画像の表示例を示す図である。 本発明の第1の実施形態に係わる表示拡大処理動作における視覚効果画像の表示例を示す図である。 本発明の第1の実施形態に係わる表示拡大処理動作における視覚効果画像の表示例を示す図である。 本発明の第1の実施形態に係わる表示拡大処理動作における視覚効果画像の表示例を示す図である。 本発明の1の実施形態の変形例に係わる拡大表示処理動作のフローチャートを示す図である。 本発明の第2の実施形態に係る撮像装置の構成例を示すブロック図である。 本発明の第2の実施形態の拡大表示処理のフローチャートを示す図である。 本発明の第2の実施形態の変形例に係わる拡大表示処理動作のフローチャートを示す図である。 本発明の第3の実施形態に係る撮像装置の構成例を示すブロック図である。 本発明の第3の実施形態に係わる撮像装置の静止画再生モードの処理動作のフローチャートを示す図である。 本発明の第3の実施形態に係わる撮像装置の拡大表示処理動作のフローチャートを示す図である。 本発明の第3の実施形態の変形例に係わる拡大表示処理動作のフローチャートを示す図である。 本発明の第4の実施形態に係る撮像装置の構成例を示すブロック図である。 本発明の第4の実施形態に係わる撮像装置の拡大表示処理動作のフローチャートを示す図である。 本発明の第4の実施形態の変形例に係わる拡大表示処理動作のフローチャートを示す図である。
以下、図面を参照しながら、本発明の実施の形態を詳細に説明する。
(実施形態1)
図1は、本発明の第1の実施形態に係る撮像装置の構成例を示すブロック図である。図1に示す撮像装置100は、被写体を撮像して得られた画像情報を外部の装置やサーバ(クラウド)等と送受信する機能や、外部の装置やサーバから得た画像情報を再生し、現像処理をして表示する機能を有する。従って、これらの機能に着目した場合、本実施形態に係る撮像装置は、画像処理装置、或いは、通信装置等と表現することができる。
図1において、制御部161は、CPUと、当該CPUが実行する制御プログラムを格納するメモリを含み、撮像装置100の各部の処理動作を制御する。操作部162は、ユーザーが撮像装置100に対して指示を与えるために用いるキーやボタン、タッチパネルなどの入力デバイスを含む。制御部161は、操作部162からの操作信号を検出し、操作に応じた動作が実行されるよう撮像装置の各部を制御する。表示部123は、撮像装置100において、撮影、或いは再生された画像や、メニュー画面、各種情報等を表示するための液晶ディスプレイ(LCD)等を含む。
操作部162によって撮影動作の開始が指示されると、撮像対象となる被写体の光学像が、撮像光学部101により撮像センサー部102上に結像される。撮影時の撮像光学部101及び撮像センサー部102の動作は、評価値算出部105により取得される絞り、フォーカス、手ぶれ等の評価値算出結果や認識部131によって抽出される顔認識結果等の被写体情報に基づき、カメラ制御部104によって制御される。
撮像センサー部102は、画素毎に配置される赤、緑、青(RGB)のモザイクカラーフィルターを透過した光を電気信号に変換する。図11は、撮像センサー部102の撮像面に配置されるカラーフィルターの一例を示す図であり、撮像装置100が扱う画像の画素配列を表している。図11に示すように、赤(R)、緑(G)、青(B)が画素毎にモザイク状に配置されていて、2×2の4画素につき赤1画素、青1画素、緑2画素を1セットにして規則的に並べられた構造となっている。このような画素の配置は、一般にベイヤー配列と呼ばれる。
撮像センサー部102によって光学像を光電変換して得られた電気信号は、センサー信号処理部103によって画素の修復処理が施される。修復処理には、撮像センサー部102の欠落画素や信頼性の低い画素に対し、周辺画素値を用いて修復対象の画素の値を補間したり、所定のオフセット値を減算したりする処理が含まれる。本実施形態では、センサー信号処理部103から出力される画像情報を、生(未現像)の画像を意味するRAW画像情報(以降、RAW画像)と称す。
RAW画像は、現像部110で現像処理される。現像部110は、複数の異なる現像処理部を有し、第1の現像部としての簡易現像部111と、第2の現像部としての高画質現像部112とから成り、それらの出力を選択するスイッチ部121を含んで構成される。簡易現像部111、高画質現像部112は共に、RAW画像に対してデベイヤー処理(デモザイク処理)即ち色補間処理を施し、輝度と色差(や原色)の信号に変換し、各信号に含まれるノイズの除去、光学的な歪の補正をして、画像を適正化する現像処理を行う。
特に、高画質現像部112は、簡易現像部111よりも各々の処理を高精度に行うものである。高精度であるため、簡易現像部111よりも高画質な現像画像が得られるが、一方で、処理負荷が大きくなってしまう。そこで、本実施形態の高画質現像部112は、撮影と並行したリアルタイムの現像に特化したものではなく、撮影後のアイドル期間に時間をかけて分散処理を行う(後述する追いかけ現像)ことが可能な構成になっている。このように高画質現像を撮影時ではなく、時間をかけて後から行うようにすることで、回路規模や消費電力の増大(ピーク)を低く抑えることができる。他方、簡易現像部111は、高画質現像部112よりも、画質は低いものの、撮影中に高速に現像処理を行えるよう、高画質現像よりも現像に係る処理量が少なくなるように構成されている。このように、簡易現像部111の処理負荷は小さいので、主に撮影動作と並行したリアルタイムの現像の際に用いるようにする。スイッチ部121は、操作部162によりユーザーから指示された操作内容や実行中の動作モードに応じた制御に従って、制御部161によって切り替えられる。また、スイッチ部121の切換に連動して、簡易現像部111と高画質現像部112のうち、信号出力の対象となる一方だけが現像動作を行うように構成しても良い。
なお、本実施形態では、現像部110の中に簡易現像部111と高画質現像部112が独立に存在する構成を示しているが、一つの現像部が動作モードを切り替えて、簡易現像と高画質現像の処理を選択的に行っても良い。
現像部110によって現像処理された画像情報は、表示処理部122によって所定の表示処理がなされた後、表示部123にて表示される。また、現像処理された画像情報は、映像出力端子124により、外部に接続された外部表示機器に出力することもできる。映像出力端子124は、例えばHDMI(登録商標)やSDIのような汎用インタフェースを含む。
現像部110によって現像処理された画像情報は、評価値算出部105にも供給される。評価値算出部105は、画像情報からフォーカス状態や露出状態などの評価値を算出する。
現像部110によって現像処理された画像情報は、認識部131にも供給される。認識部131は、画像情報中の顔や人物等の被写体情報を検出及び認識する機能を有する。例えば、画像情報によって表される画像内における顔を検出し、有る場合は顔の位置を示す情報を出力し、さらに顔などの特徴情報に基づいて特定の人物の認証などを行う。
現像部110によって現像処理された画像情報は、静止画圧縮部141又は動画圧縮部142に供給される。画像情報を静止画として圧縮する場合は、静止画圧縮部141を用いる。画像情報を動画として圧縮する場合は、動画圧縮部142を用いる。静止画圧縮部141及び動画圧縮部142は、それぞれ対象となる画像情報を高能率符号化(圧縮符号化)し、情報量が圧縮された画像情報を生成して、画像ファイル(静止画ファイル、又は、動画ファイル)に変換する。静止画圧縮はJPEGなどを、動画圧縮にはMPEG−2、H.264、H.265等を用いることができる。
RAW圧縮部113は、センサー信号処理部103が出力したRAW画像のデータを、ウエーブレット変換や、差分符号化等の技術を用いて高能率符号化し、圧縮された状態のRAWファイルに変換して、バッファ部(記憶媒体)115に格納する。RAWファイルは、バッファ部115内に残しておいて再び読み出すことができるが、バッファ部115に格納された後、別の記録媒体に移動して記録する(バッファ部115から削除する)ようにしても良い。
RAWファイルと、上述の静止画ファイル及び動画ファイルは、記録再生部151から通信部152を介して、外部のストレージやサーバに記録される。記録再生部151は、通信部152を介して、外部のストレージやサーバから静止画ファイル、動画ファイル、RAWファイルを読み出すこともできる。
通信部152は通信端子154を用いて、無線通信や有線通信によりインターネットや外部機器にアクセス可能な構成を有する。
再生動作が開始されると、記録再生部151は、通信部152を介して、外部のストレージやサーバから所望のファイルを取得して再生する。再生対象のファイルがRAWファイルであれば、記録再生部151は、取得されたRAWファイルをバッファ部115に格納する。再生対象のファイルが静止画ファイルであれば、記録再生部151は、取得された静止画ファイルを静止画伸張部143に供給する。再生対象のファイルが動画ファイルであれば、記録再生部151は、取得された動画ファイルを動画伸張部144に供給する。
RAW伸張部114は、バッファ部115に格納されているRAWファイルを読みだして、圧縮された状態のRAWファイルを復号して伸張する。RAW伸張部114によって伸張されたRAWファイルは、現像部110に供給されて、現像部110内の簡易現像部111や高画質現像部112に入力される。
静止画伸張部143は、入力された静止画ファイルを復号して伸張し、また伸張済みのファイルである場合は何もせずに、静止画の再生画像として表示処理部122に供給する。動画伸張部144は、入力された動画ファイルを復号して伸張し、また伸張済みのファイルである場合は何もせずに、動画の再生画像として表示処理部122に供給する。
再生時、簡易現像部111によって現像された簡易現像画像に対し、タッチパネルなどの操作部162によって拡大指示がなされると、制御部161によって検出され、拡大率情報が現像開始指示部153に入力される。拡大率に応じて現像開始指示部153は対応するRAWを高画質に現像するよう現像開始指示を高画質現像部112に対して行う。高画質現像部112にて現像している間、表示処理部122にて視覚効果の付加処理を行い、表示部123にて表示される。
次に、本実施形態の撮像装置100の動作モードに関して、図を用いて詳細に説明する。図2は、撮像装置100における、各動作モードの遷移を示す状態遷移図である。このようなモードの遷移は、操作部162からのユーザー操作指示や、制御部161の判断に応じて実行され、操作に応じて手動で遷移することもあれば、自動で遷移することもある。図2のように、撮像装置100は、アイドル状態(200)を経由して4つのモード、静止画撮影モード(201)、静止画再生モード(202)、動画撮影モード(203)、動画再生モード(204)に適宜切り替わって動作する。
次に、撮像装置100の静止画撮影モードにおける動作について説明する。
図3に、本実施形態に係わる撮像装置の静止画撮影モードの処理動作のフローチャートを示す。図3のフローチャートは、制御部161によって各処理ブロックを制御して実行される処理動作の手順を図示したものであり、制御部161が有するメモリ(ROM)に格納されるプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。
図3において静止画撮影モードの処理が開始されると(S300)、制御部161が撮像装置100の処理負荷状況が低いか否かを判定し(S301)、負荷状況に応じた頻度でアイドル状態(S320)へ遷移し、そうでなければS302へ進む。例えば、高速連写中は処理負荷が高いため、S320へは遷移せず、常にS302へ進む。通常の単発の撮影を行う場合においては、第1の撮影と第2の撮影の合間に例えば半分の頻度でS320へ遷移する。
S302において、カメラ制御部104が、好適な条件で撮影を行うよう、撮像光学部101や撮像センサー部102の動作を制御する。例えば、ユーザーのズームやフォーカスの指示に従って、撮像光学部101に含まれるレンズが移動されたり、撮影画素数の指示に従って撮像センサー部102の読み出し領域が設定されたりする。また、後述の評価値算出部105や認識部131から供給される評価値の情報や被写体情報に基づいて、特定被写体へのフォーカス調整や追尾などの制御が行われる。
S303において、撮像センサー部102によって被写体光から光電変換された電気信号に対して、センサー信号処理部103が画素の修復のための信号処理を施す。すなわち、センサー信号処理部103が、欠落画素や、信頼性の低い画素の値に対し、周辺画素値を用いて補間したり、所定のオフセット値を減算したりする。本実施形態では、S303の処理を終えて、センサー信号処理部103から出力される画像情報を、生(未現像)の画像を意味するRAW画像と呼ぶ。
S304において、簡易現像部111がRAW画像を現像処理する。このとき、制御部161が現像部110内のスイッチ部121を切り替えて、簡易現像部111で現像処理された画像情報の出力を選択する。
簡易現像部111は、RAW画像に対してデベイヤー処理(デモザイク処理)、即ち色補間処理を施し、輝度と色差(や原色)から成る信号へ変換して、各信号に含まれるノイズを除去、光学的な歪を補正し、画像を適正化するなどの所謂現像処理を行う。ここで、簡易現像部111が行う現像処理(簡易現像)について説明する。簡易現像部111は、現像後の画像サイズを例えば200万画素以下の低画質に制限したり、ノイズ除去や光学的な歪補正を限定的な処理に留めたり或いは省いたりすることで、現像の高速処理や簡易処理を実現している。簡易現像部111が、画像サイズを縮小した上で処理を行ったり、現像処理の機能を一部制限したりすることで、撮像装置100は、例えば200万画素の毎秒60コマというパフォーマンスの撮影を、小さい回路規模で少ない消費電力で実現することができる。
簡易現像部111で現像処理された画像情報は、評価値算出部105に供給される。評価値算出部105は、画像情報に含まれる輝度値やコントラスト値などからフォーカス状態や露出状態などの評価値を算出する(S305)。なお、評価値算出部105は、現像処理前のRAW画像を取得して、RAW画像から同様に評価値を算出するようにしても良い。
また、簡易現像部111で現像処理された画像情報は、認識部131に供給される。認識部131は、画像情報から被写体(顔など)の検出を行い、被写体情報を認識する。例えば、画像情報内における顔の有無や、その位置、特定の人物の認証などを行って、その結果を情報として出力する(S306)。
また、簡易現像部111で現像処理された画像情報は、表示処理部122に供給される。表示処理部122は、取得した画像情報から表示画像を形成し、表示部123又は外部の表示装置に出力して、表示する(S307)。表示部123による表示画像は、静止画撮影モードにおいて、ユーザーが被写体を適切にフレーミングするためのライブビュー表示(撮影スルー画像表示)のために用いられる。なお、表示画像は、表示処理部122から映像出力端子124を経由して、外部のテレビジョンなどの他の表示装置にて表示されてもよい。さらに、表示処理部122は、評価値算出部105や認識部131から供給される、評価値情報や被写体情報を活用して、例えば、表示画像上のフォーカスの合焦領域にマーキング表示したり、認識された顔の位置に枠を表示したりすることもできる。
S308において、制御部161は、ユーザーからの撮影指示の入力を判定し、撮影の指示があった場合は、S310へ進む。S308で撮影指示が無い場合は、S301へ戻って、撮影の準備動作とライブビュー表示を繰り返す。
S308における撮影指示に応答して、簡易現像部111で現像処理された画像情報が、静止画圧縮部141に供給される。静止画圧縮部141は、取得した画像情報に対して高能率符号化処理(静止画圧縮)を施し(S310)、静止画ファイルを生成する。なお、静止画圧縮部141は、JPEGなどの公知の静止画圧縮技術を用いて圧縮処理を行う。
S311において、記録再生部151が静止画ファイルを、通信部152を介して外部のストレージやサーバに記録する。
さらに、S308における撮影指示に応答して、RAW圧縮部113が、撮影された静止画に対応するセンサー信号処理部103から出力されたRAW画像を取得し、RAW画像を高能率符号化(RAW圧縮)してRAWファイルに変換する(S312)。RAWファイルはバッファ部115に格納される。RAW圧縮部113が行う高能率符号化は、ウエーブレット変換や、差分符号化などの公知の技術により処理されるものとするが、非可逆符号化でも可逆符号化でも良い。或いは、RAW圧縮部113のRAW圧縮を省略して、RAW画像が非圧縮の状態のままスルー出力されても良い。RAW圧縮の有無に関わらず、本実施形態では、センサー信号処理部103から供給される画像情報を大きく損なわない、高画質ファイルとして復元可能なRAWファイルを生成する。
S313において、記録再生部151がRAWファイルを、通信部152を介して外部のストレージやサーバに記録した後、フローはS301に遷移する。
以上が、本実施形態の静止画撮影モードの処理に係るフローの説明である。
ここで、本実施形態に係る、静止画ファイルの構造と、RAWファイルの構造について説明する。図4(a)、(b)は、静止画ファイル及びRAWファイルの構成例を示す図である。
図4(a)に示す静止画ファイル400は、記録再生部151によって通信部152を介して、例えば外部のストレージやサーバである記録媒体の所定の記録エリアに記録されている。静止画ファイル400は、ヘッダ部401、メタデータ部402、圧縮データ部403から成る。ヘッダ部401には、このファイルが静止画ファイルの形式であることを示す識別コードなどが含まれている。圧縮データ部403には、高能率符号化された静止画の圧縮データが含まれている。
メタデータ部402には、この静止画ファイルと同時に生成されたRAWファイルのファイル名の情報404が含まれる。また、この静止画ファイルが簡易現像部111によって簡易現像されたことを示す現像ステータスの情報405が含まれる。また、評価値算出部105や認識部131で検知された評価値や被写体情報、及び、撮像光学部101や撮像センサー部102からの撮影時の情報(例えば、レンズ種別識別情報、センサー種別識別情報など)を含む撮影メタデータ406が含まれる。また、図示していないが、同時に生成されたRAWファイルが記録されている、外部のストレージやサーバである記録媒体の識別コードや、記録されているフォルダのパス情報などを更に含んでも良い。
図4(b)に示すRAWファイル410は、記録再生部151によって、例えば外部ストレージやサーバの記録媒体の所定の記録エリアに記録されている。RAWファイル410は、ヘッダ部411、メタデータ部412、圧縮データ部413から成る。ヘッダ部411には、このファイルがRAWファイルの形式であることを示す識別コードなどが含まれている。圧縮データ部413には、高能率符号化された静止画のRAW圧縮データが含まれている(圧縮されていない静止画のRAW画像データであっても良い)。
メタデータ部412には、このRAWファイルと同時に生成された静止画ファイルのファイル名の情報414が含まれる。また、その静止画ファイルが簡易現像部111によって簡易現像されたことを示す現像ステータスの情報415が含まれる。また、評価値算出部105や認識部131で検知された評価値や被写体情報、及び、撮像光学部101や撮像センサー部102からの撮影時の情報(例えば、レンズ種別識別情報、センサー種別識別情報など)を含む撮影メタデータ416が含まれる。撮影メタデータ416のうち、撮影メタデータ406と共通するものは同じデータを用いる。また、図示していないが、同時に生成された静止画ファイルが記録されている、外部のストレージやサーバである記録媒体の識別コードや、記録されているフォルダのパス情報などを更に含んでも良い。或いはまた、同時に生成された静止画ファイルそのものをメタデータ化して、メタデータ部412に格納しても良い。
上述した本実施形態に係る各種ファイルの構造は一例であり、DCFやEXIFなどの標準規格と同じ又は類似の構成であっても良い。なお、DCFとは、Design rule for Camera File systemの意味であり、EXIFとは、Exchangeable Image File formatの意味である。
本実施形態に係る撮像装置100は、上述のように、静止画撮影モードにおける、撮影指示が行われるまでのライブビュー表示や、撮影指示に応答して生成される静止画ファイルのための現像処理を、簡易現像部111によって行う。簡易現像部111は、現像後の画像サイズを例えば200万画素以下に制限したり、ノイズ除去や光学的な歪補正を限定的な処理に留めたり、或いは省いたりする。そうすることで、例えば200万画素の毎秒60コマというパフォーマンスの現像処理を、小さい回路規模で少ない消費電力で実現することができる。一方で、本実施形態に係る撮像装置100は、上述のように、静止画の撮影指示に応答して、RAWファイルを生成する。RAWファイルは、センサー信号処理部103から供給される画像情報を大きく損なわない高画質ファイルであるが、このファイルの生成に現像処理を必要としない。そのため、画像の画素数や連写のスピードを高めながらも、小規模な回路によって少ない消費電力でRAWファイルを記録することが可能である。
続いて、図3のS301で遷移するステップであるS320について、図5のフローチャートを用いて説明する。図5に、本実施形態に係わる撮像装置のアイドル状態の処理動作のフローチャートを示す。図5のフローチャートは、制御部161によって、各処理ブロックを制御し実行される処理手順を図示したものであり、制御部161が有するメモリ(ROM)に格納されているプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。
図5においてアイドル状態の処理が開始されると(S500)、制御部161が、ユーザーの設定により追いかけ現像を行うか否かを判定し(S501)、追いかけ現像を行わない場合はS502に、追いかけ現像を行う場合はS520に遷移する。
S501で追いかけ現像を行わない場合、ユーザーからの命令やモード設定に従って、制御部161が図2に示した201,202,203,204の何れかのモードに遷移するか判定する(S502、S503、S504、S505)。そして、制御部161が、選ばれたモードの処理フローへ遷移するよう制御する(S510、S511、S512、S513)。S502〜S505において、静止画撮影モードならばS510に、静止画再生モードならばS511に、動画撮影モードならばS512に、動画再生モードならばS513に、それぞれフローが遷移する。
ここで、「追いかけ現像」とは、撮影動作を終えた後、バッファ部115又は外部ストレージやサーバの記録媒体等に記録されたRAWファイルをソースとして、高画質に現像処理を施し、高画質の表示画像や高画質の静止画ファイルを生成する処理を意味する。本実施形態に係る追いかけ現像の対象となるRAWファイルは、静止画と動画の両方を対象とするが、以下では静止画を例に説明する。
上述したように、撮影時に生成される静止画ファイルは、簡易現像部111で現像されているため、画素数が200万画素以下であったり、現像処理を一部省いていたりするために、画質は限定的な品質である。撮影内容の大まかな確認としては有効であるが、画像の細部を確認したり、プリントアウトしたりする用途には十分ではない場合がある。一方、静止画と同時に生成するRAWファイルは、センサー信号処理部103から供給される画像情報を大きく損なわない高品質を有するが、現像処理前のデータであるため、表示やプリントアウトには即時対応ができず、RAW現像のための時間を要してしまう。また、RAWはJPEGなどのように広く普及したファイルではないため、RAWファイルを扱える再生環境も限定されてしまう。
そこで、本実施形態の追いかけ現像が有効な機能となる。本実施形態では、追いかけ現像が実行されると、既に記録されているRAWファイルを読みだして、高画質現像部112によって高画質に現像処理を行い、生成した高画質の静止画ファイルを外部ストレージやサーバの記録媒体等へ記録する。そして、このような追いかけ現像を、撮影と撮影の合間や、再生モードやスリープ状態などユーザー操作待ちの、比較的、装置の処理負荷が小さい状態において実行させる。追いかけ現像は手動に限らず、制御部161が自動に実行させるように設計すると良い。
このように構成することにより、その後に、細部の確認表示やプリントアウトなど、高画質な再生の要求においても、その都度現像処理(再生出力)の遅れが発生せず、また、従来の静止画ファイルと同様の一般的な操作環境における使用が可能となる。
外部ストレージやサーバの記録媒体等には、1回の静止画撮影指示に対して、静止画ファイルとRAWファイルが1つずつの組として記録されている。手動または自動によって追いかけ現像を行う場合、制御部161が、各画像の組について、追いかけ現像が処理済みか未処理かを判定する(S520)。判定の方法は、例えば静止画ファイル400のメタデータ部402に格納されている現像ステータス405に含まれる、この静止画ファイルが簡易現像部111で処理されたものなのか否かを識別するためのフラグを参照し、このフラグから判定する方法がある。或いはRAWファイル410の中の現像ステータス415を参照し、同様に判定しても良い。或いは、一連の撮影された静止画に対して、現像処理の状態を示すテーブルファイルを別に用意して判定しても良い。
制御部161によって、追いかけ現像が処理済みと判断されれば、S502に遷移する。追いかけ現像が未処理の静止画があれば、S521に遷移する。追いかけ現像が未処理である静止画に対応するRAWファイルが、バッファ部115にバッファリングされていれば(S521)、S523に進む。一方、バッファリングされていなければ、対応するRAWファイルを外部ストレージやサーバの記録媒体等から読み出す(S522)。外部ストレージやサーバの記録媒体等から読み出されたRAWファイルは、バッファ部115によって一時保持される。
バッファ部115は、静止画撮影モードで撮影された、新しい画像から優先的に保持されるように、データが更新される。すなわち、過去に撮影された画像から順にバッファから取り除かれる。こうすることにより、直前に撮影された画像は常にバッファに保持されているので、S522をスキップし、高速に処理できる。さらに、直前に撮影された画像から時刻を遡って、追いかけ現像を実行するようにすれば、バッファに保持されている画像から優先的に処理が完了できるため、処理の効率化ができる。
S523において、RAW伸張部114が、バッファ部115又は外部ストレージやサーバの記録媒体等から読み出したRAWファイルを伸張処理し、RAW画像を復元する。
復元されたRAW画像は、高画質現像部112で高画質に現像されて(S524)、スイッチ部121を経由して表示処理部122や静止画圧縮部141に出力される。
高画質現像部112は、RAW画像をデベイヤー処理(デモザイク処理)、即ち色補間処理を施し、輝度と色差(や原色)から成る信号へ変換して、各信号に含まれるノイズを除去、光学的な歪を補正し、画像を適正化するなどの所謂現像処理を行う。高画質現像部112によって生成される現像処理済みの画像のサイズ(画素数)は、撮像センサー部102から読出されたフルサイズのまま、或いはユーザーから設定されたサイズとなり、200万画素以下に制限された簡易現像の画像よりも格段に高品質となる。
高画質現像部112は簡易現像部111よりも各々の処理が高精度であるため、より高画質な現像画像が得られるが、一方で、処理負荷が大きくなってしまう。本実施形態の高画質現像部112は、撮影と並行したリアルタイムの現像処理を避け、時間をかけて現像処理可能としたことで、回路規模や消費電力の増大を抑える構成となっている。
高画質現像部112で現像処理された画像情報は、静止画圧縮部141に供給され、静止画圧縮部141は、取得した画像情報に対して高能率符号化処理(静止画圧縮)を施し(S525)、高画質の静止画ファイルを生成する。なお、静止画圧縮部141は、JPEGなどの公知の技術により圧縮処理を行う。
S526において、記録再生部151が高画質の静止画ファイルを外部ストレージやサーバの記録媒体等に記録したら、フローはS502に遷移する。なお、追いかけ現像の処理は、追いかけ現像が未処理の静止画がある場合、その画像毎に同様の処理を繰り返して実行可能である。
S526で記録される静止画ファイルは、図4(a)に示す静止画ファイル400のようなファイル構成であり、ヘッダ部401、メタデータ部402、圧縮データ部403から成る。ヘッダ部401には、このファイルが静止画ファイルの形式であることを示す識別コードなどが含まれている。圧縮データ部403には、高能率符号化された静止画の圧縮データが含まれている。
メタデータ部402には、この静止画ファイルの元となったRAWファイルのファイル名の情報404が含まれる。また、この静止画ファイルが高画質現像部112によって高画質現像されたことを示す現像ステータスの情報405が含まれる。また、元のRAWファイルのメタデータから抽出された、評価値算出部105や認識部131で検知された評価値や被写体情報、及び、撮像光学部101や撮像センサー部102からの撮影時の情報を含む撮影メタデータ406が含まれる。
記録再生部151は、高画質現像を経て、S526で記録される新たな静止画ファイルには、元となったRAWファイルと同時に記録された簡易現像による静止画ファイルと同じファイル名を与えて、上書き記録する。すなわち簡易現像による静止画ファイルは削除される。そして、記録再生部151は、追いかけ現像の元となったRAWファイルは、メタデータ部412内の現像ステータス415を、高画質現像済(又は追いかけ現像済)を示す情報にて更新する。なお、上書き記録ではなく、例えば、ファイル名はほぼ同じでファイル名の一部(例えば拡張子や末尾の文字)のみを変更した別のファイルとして記録し、元のファイルを削除しても良い(勿論、記録容量に余裕があれば元のファイルを残しておいてもよい)。
このように、本実施形態の撮像装置100は、撮影と撮影の合間や、再生モードやスリープ状態などユーザー操作待ちの、比較的、装置の処理負荷が小さい状態(アイドル状態)のときに追いかけ現像を実行する。そして、撮影時の簡易現像による静止画ファイルを、RAWファイルを用いた高画質現像による静止画ファイルに置き換えて行く。撮影時の簡易現像による動画ファイルも、RAWファイルを用いた高画質現像による動画ファイルに置き換えて行く。こうすることにより、細部の確認表示やプリントアウトなど、高画質な再生の要求が与えられた場合であっても、その都度現像処理(再生出力)の遅れが発生せず、また、従来の静止画ファイルと同様の一般的な操作環境における使用が可能となる。
次に、撮像装置100の静止画再生モードにおける動作について説明する。
図6に、本実施形態に係わる撮像装置の静止画再生モードにおける処理動作のフローチャートを示す。図6のフローチャートは、制御部161によって、各処理ブロックを制御し実行される処理動作の手順を図示したものであり、制御部161が有するメモリ(ROM)に格納されるプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。
図6において静止画再生モードの処理が開始されると(S600)、制御部161が撮像装置100の処理負荷状況が低いか否かを判定し(S601)、負荷状況に応じた頻度でアイドル状態(S610)へ遷移し、そうでなければS602へ進む。例えば、再生指示などのユーザー操作を待っている間は、処理負荷が低いため、S610へ遷移する。ユーザーからの操作に応じて静止画の再生が開始されている(再生中の状態を含む)場合はS602へ進む。
S602において、制御部161が、再生される静止画について、ユーザーから拡大表示の指示を受けているかを判定する。拡大表示があればS603に進み、拡大表示がなければS620に進む。
図7に、拡大表示を含む表示形態の種類を説明する。図7(a)、(b)、(c)は、本実施形態の静止画再生モードの表示処理の例を示す図である。
図7(a)の表示例700は、701に示す6つの画像を縮小して表示部123に縮小表示している例である。図7(b)の表示例710は、ある1つの画像711の全体を表示部123に表示している例であり、この表示の状態を通常表示とする。図7(c)の表示例720は、ある1つの画像の一部領域を拡大した画像721を表示部123に拡大表示している例である。例えば、撮影直後にフォーカスの適否の確認を行うような場合に、表示例720のように被写体像の細部を拡大表示する使われ方が一般的である。
表示例720のように拡大表示する場合、図6のフローはS602からS603へ遷移する。表示例700のように縮小表示する場合は、S602からS620へ遷移する。表示例710のような場合は、表示部123の表示画素数が簡易現像による静止画ファイルの画素数(上述の例ならば200万画素以下)、であれば等倍もしくは縮小での表示であるため、S602からS620へ遷移する。
S620において、記録再生部151が、外部ストレージやサーバの記録媒体等から再生対象の静止画ファイルを読み出す。そして、S621において、静止画伸張部143が、静止画ファイルを復号して伸張し、S622において、表示処理部122が図7の各図に示すような形態で表示画像を表示部123へ出力する。
表示される画像が、簡易現像による静止画ファイルの画素数(上述の例ならば200万画素以下)で足りる場合は、静止画ファイルが簡易現像部111で現像処理されたものであっても、十分な画質で表示できる。なお、静止画ファイルが高画質現像部112で現像処理されたものであるならば、勿論、表示に十分な画質であるということは言うまでも無い。
一方、拡大表示の場合、表示される画像が、簡易現像による静止画ファイルの画素数(上述の例ならば200万画素以下)では足りないことが起こり得る。すなわち、簡易現像による静止画ファイルを用いて表示したのでは、解像感の低下を招いてしまう。よって、拡大表示の場合は、S603の拡大表示処理を行う。
図12に本実施形態に係わる拡大表示処理動作のフローチャートを示す。タッチパネルなどの操作部162によってユーザーから拡大指示がなされると、S1201において、制御部161が、再生対象となって表示されるべき画像の静止画ファイルが、高画質現像されたものであるかどうかを判定する。判定方法は、例えば静止画ファイル400のメタデータ部402に格納されている現像ステータス405に含まれる、この静止画ファイルが簡易現像部111で処理されたものなのか否かを識別するためのフラグを参照し、このフラグから判定する方法がある。或いはRAWファイル410の中の現像ステータス415を参照し、同様に判定しても良い。或いは、一連の撮影された静止画に対して、現像処理の状態を示すテーブルファイルを別に用意して判定しても良い。
S1201で、高画質現像されたものである場合は、拡大されても十分な画質で表示可能な高画質の静止画ファイルであることを意味するので、S1202に進む。S1202では、記録再生部151が該当する高画質の静止画ファイルを外部ストレージやサーバの記録媒体等から読み出し、拡大処理を行い再生表示する。拡大表示が終了するまで、S1202−S1203を繰り返す。
S1201で、高画質現像されたものでない場合は、簡易現像部111で現像処理された静止画ファイルであることを意味しS1204に進む。ユーザーから指示された拡大率Mが所定の拡大率以下の場合、簡易現像部111で現像処理された静止画ファイルでも十分な画質で表示することができる。所定の拡大率として、あらかじめ、高画質現像を開始する高画質現像開始拡大率α、簡易現像部111で現像処理された静止画ファイルの表示限界拡大率βを設定しておく。S1204で拡大率Mがあらかじめ設定した高画質現像開始拡大率αを超えていなければ、S1205に進み、記録再生部151が該当する静止画ファイルを外部ストレージやサーバの記録媒体等から読み出して、拡大処理を行い再生表示する。
S1204で拡大率Mが高画質現像開始拡大率αを超えていた場合、S1207に進み、外部ストレージやサーバの記録媒体等に対し、対応するRAWファイルを取得するよう指示を行う。
S1208で外部ストレージやサーバの記録媒体等からRAWファイルの取得が完了していなかった場合はS1209へ進む。一方、拡大率Mがあらかじめ設定した表示限界拡大率βを超えていなければ、S1210に進み、記録再生部151が該当する静止画ファイルを外部ストレージやサーバ等の記録媒体から読み出して、拡大処理を行い再生表示する。
S1209で拡大率Mが表示限界拡大率βを超えた場合、S1211にて視覚効果画像を表示する。
S1208で外部ストレージやサーバの記録媒体等からRAWファイルの取得が完了していた場合、S1213に進み、高画質現像部112にて高画質現像を実行する。この場合、対応するRAWファイル全体を現像するのではなく、拡大表示するエリアのみを切り出して現像することにより、処理負荷の軽減となる。また、高画質現像を行う場合の現像パラメータは、簡易現像部111にて行った簡易現像処理時のものと同じものを使用する。
その後S1214へ進み、拡大率Mがあらかじめ設定した表示限界拡大率βを超えていなければ、S1215に進み、記録再生部151が該当する静止画ファイルを外部ストレージやサーバ等の記録媒体から読み出して、拡大処理を行い再生表示する。
S1214で、拡大率Mが表示限界拡大率βを超えた場合S1217に進む。ここで、S1213にて開始した高画質現像処理が終了しているかどうかを判定する。終了していなかった場合は、S1218にて視覚効果画像を表示する。S1217で高画質現像処理が終了していた場合、S1220で高画質現像画像を用いて拡大表示を行い再生表示する。
S1203、S1206、S1212、S1216、S1219、S1221にて拡大表示が終了するまで、各々処理を繰り返す。
なお、S603、S622の表示が停止されると、フローはS601に戻る。S601において、アイドル状態S610に遷移した場合は、上述した図5のフローチャートに従って処理される。
ここで、S1211とS1218の視覚効果画像について説明する。図13A、図13B、図13C、図13Dは、本実施形態における視覚効果を説明する為の図である。
図13Aはユーザーの拡大指示に応じて画像を拡大表示していく中で、ある間隔毎の表示を抜き出したものである。1311は拡大する前の画像全体を表示しているものであり、この大きさを基準とする(表示100%)。本実施形態では、現像開始拡大率α=200%、表示限界拡大率β=210%と設定する。ユーザーの拡大指示による拡大率Mに応じて、1312(表示146%)、1313(表示210%)と簡易現像画像を元に拡大表示をしていく。拡大率Mが200%に達した時に高画質現像の開始指示を行う。簡易画像での表示限界拡大率は1313の210%であるので、1313以降の表示画像は高画質現像画像からの拡大表示に切り替える。高画質現像処理が終了していない場合は、1314にて視覚効果の画像を表示する。高画質現像処理が終了したら、高画質現像画像をもとに1315(表示242%)、1316(表示297%)、1317(表示396%)とユーザーの拡大指示に応じて拡大表示を行う。
図13B、図13C、図13Dは1314視覚効果の例を示したものである。
図13Bは、簡易画像を用いて徐々に切り出し拡大し(1321、1322,1323、1324)、動画エフェクトのように表示する視覚効果である。
図13Cは、簡易画像の拡大はせずに枠をOSD(On Screen Display)などで重ね、枠を徐々に拡大し(1331、1332、1333、1334)表示する視覚効果である。
図13Dは、その他の視覚効果の例を示したものである。1341は簡易画像の上に、現在高画質現像を行っている状態を示すアイコンを表示する視覚効果である。1342、1343は、例えばGIFアニメーションなどのファイルを予め用意しておき、視覚効果表示期間中再生する。
次に、撮像装置100の動画撮影モードにおける動作について説明する。
図8に、本実施形態に係わる撮像装置の動画撮影モードにおける処理動作のフローチャートを示す。図8のフローチャートは、制御部161によって、各処理ブロックを制御し実行される処理動作の手順を図示したものであり、制御部161が有するメモリ(ROM)に格納されるプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。
図8において動画撮影モードの処理が開始されると(S800)、制御部161が撮像装置100の処理負荷状況が低いか否かを判定し(S801)、負荷状況に応じた頻度でアイドル状態(S820)へ遷移し、そうでなければS802へ進む。例えば、水平解像度が4000画素相当(4K)のように画素数の多い動画や、毎秒120コマ(120P)のようにフレームレートの高い動画が設定されているときは処理負荷が高いため、S820へは遷移せず、常にS802へ進む。画素数が所定値より少なかったり、フレームレートが所定の速度より低かったりする動画の撮影を行う設定のときは、動画の第1のフレームと第2のフレームの処理の合間に、例えば半分の頻度でS820へ遷移する。
S802において、カメラ制御部104が、好適な条件で動画撮影を行うよう、撮像光学部101や撮像センサー部102の動作を制御する。例えば、ユーザーのズームやフォーカスの指示に従って、撮像光学部101に含まれるレンズが移動されたり、撮影画素数の指示に従って撮像センサー部102の読み出し領域が設定されたりする。また、後述の評価値算出部105や認識部131から供給される評価値の情報や被写体情報に基づいて、特定被写体へのフォーカス調整や追尾などの制御が行われる。
S803において、撮像センサー部102によって変換された電気信号に対して、センサー信号処理部103が画素の修復のための信号処理を施す。すなわち、センサー信号処理部103が、欠落画素や、信頼性の低い画素の値に対し、周辺画素値を用いて補間したり、所定のオフセット値を減算したりする。本実施形態では、S803の処理を終えて、センサー信号処理部103から出力される画像情報を、生(未現像)の動画を意味するRAW画像(特に、RAW動画像)と呼ぶ。
S804において、簡易現像部111がRAW画像を現像処理する。このとき、制御部161が現像部110内のスイッチ部121を切り替えて、簡易現像部111で現像処理された画像情報の出力を選択する。
簡易現像部111は、動画の各フレームを構成するRAW動画像に対してデベイヤー処理(デモザイク処理)を施し、輝度と色差(や原色)から成る信号へ変換し、各信号に含まれるノイズを除去、光学的な歪を補正し、画像を適正化する等の現像処理を行う。ここで、簡易現像部111が行う動画の現像処理(簡易現像)について説明する。簡易現像部111は、現像後の画像サイズを例えばHD映像の200万画素以下に制限したり、ノイズ除去や光学的な歪補正を限定的な処理に留めたり或いは省いたりすることで、現像の高速処理や簡易処理を実現している。簡易現像部111が、画像サイズを縮小した上で処理を行ったり、現像処理の機能を一部制限したりすることで、撮像装置100は、例えばHDサイズの動画の高速撮影を、小さい回路規模で少ない消費電力で実現することができる。
簡易現像部111で現像処理された画像情報は、評価値算出部105に供給される。評価値算出部105は、画像情報に含まれる輝度値やコントラスト値などからフォーカス状態や露出状態などの評価値を算出する(S805)。なお、評価値算出部105は、現像処理前のRAW動画像を取得して、RAW動画像から同様に評価値を算出するようにしても良い。
また、簡易現像部111で現像処理された画像情報は、認識部131に供給される。認識部131は、画像情報から被写体(顔など)の検出を行い、被写体情報を認識する。例えば、画像情報内における顔の有無や、その位置、特定の人物の認証などを行って、その結果を情報として出力する(S806)。
また、簡易現像部111で現像処理された画像情報は、表示処理部122に供給される。表示処理部122は、取得した画像情報から表示画像を形成し、表示部123又は外部の表示装置に出力して、表示する(S807)。表示部123による表示画像は、動画撮影モードにおいて、ユーザーが被写体を適切にフレーミングするための確認表示のために用いられる。具体的に、動画撮影特有の使用形態として、撮影された動画の記録開始前(スタンバイ中)だけでなく、動画の記録中(REC中)においても、被写体を適切にフレーミングするためのライブビュー表示のために用いられる。なお、表示画像は、表示処理部122から映像出力端子124を経由して、外部のテレビジョンなどの他の表示装置にて表示することもできる。さらに、表示処理部122は、評価値算出部105や認識部131から供給される、評価値情報や被写体情報を活用して、例えば、表示画像上のフォーカスの合焦領域にマーキング表示したり、認識された顔の位置に枠を表示したりすることもできる。
S808において、制御部161は、ユーザーからの記録の開始指示を受けて撮影された動画を記録中(REC中)であるか否かを判定し、REC中の場合は、S810へ進む。S808でREC中では無い場合(すなわちスタンバイ中)は、S801へ戻って、動画の記録開始前の撮影動作とライブビュー表示を繰り返す。
S808によって、撮影された動画のうち、記録開始から記録終了までの記録対象となる動画が、フレーム単位で動画圧縮部142によって圧縮される(S810)。なお、図面を用いての説明は省略するが、動画の撮影と同時に、不図示のマイクロフォンによって入力された音声情報が取得されている。動画圧縮部142は、取得した簡易現像済の動画の画像情報及び音声情報に対して高能率符号化処理(動画圧縮)を施し、動画ファイルを生成する。なお、動画圧縮部142は、MPEG−2、H.264、H.265などの公知の動画圧縮技術を用いて圧縮処理を行う。
S811において、記録再生部151が生成された動画ファイルを外部ストレージやサーバの記録媒体に記録する。
さらに、S808によって記録対象となった動画に対応する期間のRAW動画像が、センサー信号処理部103からRAW圧縮部113に供給される。RAW圧縮部113は、記録対象となった動画と同じシーンを示すRAW動画像を高能率符号化(RAW圧縮)してRAWファイル(RAW動画ファイル)に変換する(S812)。RAW動画ファイルはバッファ部115に格納される。RAW圧縮部113が行う高能率符号化は、ウエーブレット変換や、差分符号化などの公知の技術により処理されるものとするが、非可逆符号化でも可逆符号化でも良い。或いは、RAW圧縮部113のRAW圧縮を省略して、RAW動画像が非圧縮の状態のままスルー出力されても良い。RAW圧縮の有無に関わらず、本実施形態では、センサー信号処理部103から供給される画像情報を大きく損なわない、高画質ファイルとして復元可能なRAW動画ファイルを生成する。
S813において、記録再生部151がRAW動画ファイルを外部ストレージやサーバの記録媒体に記録した後、フローはS801に遷移する。
以上が、本実施形態の動画撮影モードの処理に係るフローの説明である。
ここで、本実施形態に係る、動画ファイルの構造と、RAW動画ファイルの構造について説明する。図9(a)、(b)は、動画ファイル及びRAW動画ファイルの構成例を示す図である。
図9(a)に示す動画ファイル900は、記録再生部151によって、例えば外部ストレージやサーバの記録媒体の所定の記録エリアに記録されている。動画ファイル900は、ヘッダ部901、メタデータ部902、圧縮データ部903から成る。ヘッダ部901には、このファイルが動画ファイルの形式であることを示す識別コードなどが含まれている。圧縮データ部903には、高能率符号化された動画と音声の圧縮データが含まれている。
メタデータ部902には、この動画ファイルと同時に生成されたRAW動画ファイルのファイル名の情報904が含まれる。また、この動画ファイルが簡易現像部111によって簡易現像されたことを示す現像ステータスの情報905が含まれる。また、評価値算出部105や認識部131で検知された評価値や被写体情報、及び、撮像光学部101や撮像センサー部102からの撮影時の情報(例えば、レンズ種別識別情報、センサー種別識別情報など)を含む撮影メタデータ906が含まれる。また、図示していないが、同時に生成されたRAW動画ファイルが記録されている、外部ストレージやサーバの記録媒体の識別コードや、記録されているフォルダのパス情報などを更に含んでも良い。
図9(b)に示すRAW動画ファイル910は、記録再生部151によって、例えば外部ストレージやサーバの記録媒体の所定の記録エリアに記録されている。RAW動画ファイル910は、ヘッダ部911、メタデータ部912、圧縮データ部913から成る。ヘッダ部911には、このファイルがRAW動画ファイルの形式であることを示す識別コードなどが含まれている。圧縮データ部913には、高能率符号化された動画のRAW圧縮データが含まれている(圧縮されていない動画のRAW画像データであっても良い)。
メタデータ部912には、このRAW動画ファイルと同時に生成された動画ファイルのファイル名の情報914が含まれる。また、その動画ファイルが簡易現像部111によって簡易現像されたことを示す現像ステータスの情報915が含まれる。また、評価値算出部105や認識部131で検知された評価値や被写体情報、及び、撮像光学部101や撮像センサー部102からの撮影時の情報(例えば、レンズ種別識別情報、センサー種別識別情報など)を含む撮影メタデータ916が含まれる。撮影メタデータ916のうち、撮影メタデータ906と共通するものは同じデータを用いる。また、図示していないが、同時に生成された動画ファイルが記録されている、外部ストレージやサーバの記録媒体の識別コードや、記録されているフォルダのパス情報などを更に含んでも良い。或いはまた、同時に生成された動画ファイルそのもの全部又は一部(先頭フレームなど)を抽出してメタデータ化して、メタデータ部912に格納しても良い。
上述した本実施形態に係る各種ファイルの構造は一例であり、DCF、AVCHD、MXFなどの標準規格と同じ又は類似の構成であっても良い。なお、AVCHDとは、Advanced Video Codec High Definitionの意味であり、MXFとは、Material eXchange Formatの意味である。
本実施形態に係る撮像装置100は、上述のように、動画撮影モードにおける撮影画像表示(ライブビュー表示)や、撮影時に生成される動画ファイルのための現像処理を、簡易現像部111によって行う。簡易現像部111は、現像後の画像サイズを例えば200万画素以下に制限したり、ノイズ除去や光学的な歪補正を限定的な処理に留めたり或いは省いたりして、例えばHDサイズの動画の現像処理を、小さい回路規模で少ない消費電力で実現することができる。一方で、本実施形態に係る撮像装置100は、上述のように、動画ファイルと共に、その動画の記録期間に対応するRAW動画ファイルを生成する。RAW動画ファイルは、センサー信号処理部103から供給される画像情報を大きく損なわない高画質ファイルであるが、このファイルの生成に現像処理を必要としない。そのため、4Kや8K(水平解像度が8000画素相当)のように画像の画素数を高めたり、毎秒120コマ(120P)のようにフレームレートを高めたりしても、小規模な回路によって少ない消費電力でRAW動画ファイルを記録することが可能である。
次に、撮像装置100の動画再生モードにおける動作について説明する。
図10に、本実施形態に係わる撮像装置の動画再生モードにおける処理動作のフローチャートを示す。図10のフローチャートは、制御部161によって、各処理ブロックを制御し実行される処理手順を図示したものであり、制御部161が有するメモリ(ROM)に格納されているプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。
図10において動画再生モードの処理が開始されると(S1000)、制御部161が撮像装置100の処理負荷状況が低いか否かを判定し(S1001)、負荷状況に応じた頻度でアイドル状態(S1010)へ遷移し、そうでなければS1002へ進む。例えば、再生指示などのユーザー操作を待っている間は、処理負荷が低いため、S1010へ遷移する。ユーザーからの操作に応じて動画の再生が開始されている(再生中の状態を含む)場合はS1002へ進む。
S1002において、制御部161が、再生される動画について、ユーザーから再生の一時停止(ポーズ)の指示を受けているかを判定する。S1002で一時停止指示がなければ動画再生を継続するためにフローはS1003に進む。
S1003において、記録再生部151が、通信端子154を介して、外部のストレージやサーバ等から再生対象の動画ファイルを読み出す。そして、S1004において、動画伸張部144が、動画ファイルを1フレームずつ復号して伸張し、S1005において、表示処理部122が再生された動画の表示画像を表示部123へ出力する。
S1002で一時停止指示を受けた場合、制御部161が、再生及び表示中の動画を一時停止状態にするともに、一時停止されたときの停止位置のフレームを静止画として表示させるために、S1020へフローを遷移させる。一時停止状態では、画像が静止して表示されるので、動いているときよりも細部の画質を視認しやすい状態になる。さらに、一時停止中には拡大表示の指示を受けやすいと考えられる。S1020において、制御部161が、再生される動画について、ユーザーから拡大表示の指示を受けているかを判定する。拡大表示があればS1021に進み、拡大表示がなければS1003へ進む。拡大表示S1021の処理については、静止画再生モードでの拡大表示と同じフローであるものとし、ここでの説明は省略する。
なお、S1005の表示は1フレーム毎に行われ、動画再生中は、次のフレームの表示を行うため、フローはS1001に戻る。S1001において、アイドル状態S1010に遷移した場合は、上述した図5のフローチャートに従って処理される。
上述した本実施形態によれば、画像処理装置が、画像再生時の拡大表示において、RAW画像の高画質現像を必要とした場合でも、ユーザーのストレス低減の効果を得ることができる画像処理を提供することが可能となる。
(実施形態1の変形例)
第1の実施形態では、画像拡大時のRAW現像開始指示タイミング(RAW画像取得指示)は、ユーザーが指示した拡大率Mがあらかじめ設定された拡大率(α)に到達した場合とした。ここでは、拡大操作の開始タイミングを、現像開始指示タイミングとする例を、第1の実施形態の変形例として説明する。本変形例は、拡大表示処理動作のフローチャートが第1の実施形態と異なるだけで、それ以外の撮像装置、動作モード、視覚効果画像等の他の構成は同様であるのでそれらの説明は省略する。
図14に本変形例における拡大表示処理動作のフローチャートを示す。同図において、第1の実施形態(図12)と同様の部分は同じ符号を付して示す。第1の実施形態の拡大表示処理動作(図12)と異なるのは、S1204〜S1206がないことである。従って、拡大表示処理動作が開始され、高画質現像済みの静止画ファイルがないと判断された時点で(S1201でNO)、RAWファイルの取得の指示を出して高解像現像処理を開始させる(S1207)。
タッチパネルなどの操作部162によってユーザーから拡大指示がなされると、S1201において、制御部161が、再生対象となって表示されるべき画像の静止画ファイルが、高画質現像部112で現像されたものであるかどうかを判定する。判定方法は、第1の実施形態と同様であり、また、操作部162による拡大操作方法についても同様である。
S1201で、高画質現像されたものである場合は、拡大されても十分な画質で表示可能な高画質の静止画ファイルであることを意味するので、S1202に進む。ここで、記録再生部151が該当する高画質の静止画ファイルを外部ストレージやサーバの記録媒体等から読み出し、拡大処理を行い再生表示する。拡大表示が終了するまで、S1202−S1203を繰り返す。
S1201で、高画質現像されたものがない場合は、簡易現像部111で現像処理された静止画ファイルであることを意味するのでS1207に進み、外部ストレージやサーバの記録媒体等に対し、対応するRAWファイルを取得するよう指示を行う。その後S1208へ進み、以下、第1の実施形態と同様の処理動作を行う。
(実施形態2)
図15は、本発明の第2の実施形態に係る撮像装置の構成例を示すブロック図である。同図において、第1の実施形態(図1)と同様の構成要素には同じ符号を付して示す。
本実施形態では、撮像装置の構成を、第1の実施形態に係わる撮像装置から高画質現像部112とスイッチ部121を取り除いた構成とし、高画質現像処理を撮像装置の外部に委託する構成とする。これにより、撮像装置の処理動作における高画質現像処理の負荷の問題に縛られることなく、高画質現像処理の実行指示をすることが可能となる。
図15に示した撮像装置1500は、被写体を撮像して得られた画像情報を外部の装置やサーバ(クラウド)等と送受信する機能や、外部の装置やサーバから得た画像情報を再生し、表示する機能を有する。従って、これらに着目した場合、第1の実施形態と同様に、本実施形態に係る撮像装置も、画像処理装置、記録装置、再生装置、記録再生装置、通信装置等と表現することが出来る。
まず、図15において第1の実施形態と異なる部分にいて説明する。他の部分は、第1の実施形態と同様であるのでここでの説明を省略する。
センサー信号処理部103から出力されたRAW画像は、簡易現像部1510で現像処理される。簡易現像部1510は、RAW画像に対してデベイヤー処理(デモザイク処理)、即ち色補間処理を施し、輝度と色差(や原色)の信号に変換し、各信号に含まれるノイズを除去、光学的な歪を補正し、画像を適正化する所謂現像処理を行う。本実施形態における簡易現像部1510も、第1の実施形態と同様、撮影中に高速に現像処理を行えるよう画質を低くし、現像に係る処理量が少なくなるように構成されている。従って、簡易現像部1510の処理負荷は小さく、撮影動作と並行したリアルタイムの現像の際に用いることが可能である。
簡易現像部1510によって現像処理された画像情報は、表示処理部122、評価値算出部105、認識部131、静止画圧縮部141又は動画圧縮部142に供給される。これらに係わる処理動作は第1の実施形態と同様である。
再生動作が開始されると、記録再生部1551は、通信部152を介して、外部のストレージやサーバから所望のファイルを取得して再生する。再生対象のファイルがRAWファイルであれば、ネットワーク上の高画質現像機能に対して現像指示を行う。ネットワーク上にて、圧縮された状態のRAWファイルを復号して伸張する。伸張されたRAWファイルは、デベイヤー処理(デモザイク処理)、即ち色補間処理を施し、輝度と色差(や原色)の信号に変換し、各信号に含まれるノイズを除去、光学的な歪を補正し、画像を適正化する所謂現像処理を行う。現像された画像情報は、通信部152を介して撮像装置1500に入力される。この時、現像された画像情報はあらかじめネットワーク上にて圧縮処理をされていても良い。
再生対象のファイルが静止画ファイルであれば、記録再生部1551は、取得された静止画ファイルを静止画伸張部143に供給する。再生対象のファイルが動画ファイルであれば、記録再生部1551は、取得された動画ファイルを動画伸張部144に供給する。
静止画伸張部143は、入力された静止画ファイルを復号して伸張し、伸張済みのファイルである場合はそのまま、静止画の再生画像として表示処理部122に供給する。動画伸張部144は、入力された動画ファイルを復号して伸張し、伸張済みのファイルである場合はそのまま、動画の再生画像として表示処理部122に供給する。
再生時、簡易現像部1510によって現像された簡易現像画像に対し、タッチパネルなどの操作部162によって拡大指示がなされると、制御部161によって検出され、拡大率情報が現像開始指示部1553に入力される。拡大率に応じて現像開始指示部1553は対応するRAWを高画質に現像するよう現像開始指示を、通信部152を介してネットワーク上の高画質現像機能に対して行う。高画質現像し、現像された画像をネットワーク上より転送し、表示部123にて表示可能なるまでの間、表示処理部122にて視覚効果の付加処理を行い、表示部123にて表示される。
図16に本実施形態に係わる撮像装置の拡大表示処理動作のフローチャートを示す。同図において、第1の実施形態(図12)と同様の部分には同じ符号を付して示し、特に必要がある場合を除き、ここでの説明を省略する。
タッチパネルなどの操作部162によってユーザーから拡大指示がなされると、S1201において、制御部161が、再生対象となって表示されるべき画像の静止画ファイルが、高画質現像されたものであるかどうかを判定する。判定方法は、第1の実施形態と同様であり、また、操作部162による拡大操作方法についても同様である。S1204で拡大率Mが高画質現像開始拡大率αを超えていた場合、S1607に進み、現像開始指示部1553がネットワーク上の高画質現像機能に高画質現像を指示する。この場合、対応するRAWファイル全体を現像するのではなく、拡大表示するエリアのみを切り出して現像することにより、処理負荷の軽減となる。また、高画質現像を行う場合の現像パラメータは、簡易現像部1510にて行った簡易現像処理時のものと同じものを使用する。
ユーザーから指示された拡大率Mが所定の拡大率以下の場合、簡易現像部1510で現像処理された静止画ファイルでも十分な画質で表示することができる。所定の拡大率として、予め、簡易現像部1510で現像処理された静止画ファイルの表示限界拡大率βを設定しておく。S1214へ進み、拡大率Mがあらかじめ設定した表示限界拡大率βを超えていなければ、S1215に進み、記録再生部1551が該当する静止画ファイルを外部ストレージやサーバ等の記録媒体から読み出して、拡大処理を行い再生表示する。
S1214で、拡大率Mが表示限界拡大率βを超えた場合S1217に進む。ここで、S1607にて開始した高画質現像処理が終了していなかった場合、S1218にて視覚効果画像を表示する。S1217で高画質現像処理が終了していた場合、S1220で外部ストレージやサーバの記録媒体から高画質現像画像を読み出し、拡大表示を行い再生表示する。図16のフローチャートにおける他の処理動作は、第1の実施形態での動作(図12)と同様である。
上述した本実施形態によっても、画像処理装置が、画像再生時の拡大表示において、RAW画像の高画質現像を必要とした場合でも、ユーザーのストレス低減の効果を得ることができる画像処理を提供することが可能となる。
(第2の実施形態の変形例)
実施形態2では、画像拡大時のRAW現像開始指示タイミングは(RAW画像取得指示)、ユーザー指示の拡大率Mが予め設定された拡大率(α)に到達した場合とした。ここでは、拡大操作が開始されたタイミングを、現像開始指示タイミングとする例を、第2の実施形態の変形例として説明する。本変形例は、拡大表示処理動作のフローチャートが第2の実施形態と異なるだけで、それ以外の撮像装置、動作モード、視覚効果画像等の他の構成は同様であるのでここでの説明は省略する。
図17に本実施形態に係わる拡大表示処理動作のフローチャートを示す。同図において、第2の実施形態(図16)と同様の部分は同じ符号を付して示す。第2の実施形態の拡大表示処理動作(図16)と異なるのは、S1204〜S1206がないことである。従って、拡大表示処理動作が開始され、高画質現像済みの静止画ファイルがないと判断されて時点で(S1201でNO)、現像開始指示部1553がRAWファイルの取得の指示を出して高解像現像処理を開始させる(S1607)。
タッチパネルなどの操作部162によってユーザーから拡大指示がなされると、S1201において、制御部161が、再生対象となって表示されるべき画像の静止画ファイルが、ネットワーク上の高画質現像機能で現像されたものであるかどうかを判定する。判定方法は、第1の実施形態と同様であり、また、操作部162による拡大操作方法についても同様である。
S1201で、高画質現像されたものである場合は、拡大されても十分な画質で表示可能な高画質の静止画ファイルであることを意味するので、S1702に進む。そこでは、記録再生部1551が該当する高画質の静止画ファイルを外部ストレージやサーバの記録媒体等から読み出し、拡大処理を行い再生表示する。拡大表示が終了するまで、S1702−S1703を繰り返す。
S1201で、高画質現像されたものでない場合は、簡易現像部1510で現像処理された静止画ファイルであることを意味するのでS1607に進み、ネットワーク上の高画質現像機能にて高画質現像を実行するための指示を行う。この場合、対応するRAWファイル全体を現像するのではなく、拡大表示するエリアのみを切り出して現像することにより、処理負荷の軽減となる。また、高画質現像を行う場合の現像パラメータは、簡易現像部1510にて行った簡易現像処理時のものと同じものを使用する。
ユーザーから指示された拡大率Mが所定の拡大率以下の場合、簡易現像部1510で現像処理された静止画ファイルでも十分な画質で表示することができる。所定の拡大率として、あらかじめ、簡易現像部1510で現像処理された静止画ファイルの表示限界拡大率βを設定しておく。S1214へ進み、拡大率Mがあらかじめ設定した表示限界拡大率βを超えていなければ、S1215に進み、記録再生部1551が該当する静止画ファイルを記録媒体から読み出して、拡大処理を行い再生表示する。
S1214で、拡大率Mが表示限界拡大率βを超えた場合S1217に進む。ここで、S1607にて開始した高画質現像処理が終了していなかった場合、S1218にて視覚効果画像を表示する。S1217で高画質現像処理が終了していた場合、S1220で外部ストレージやサーバの記録媒体から高画質現像画像を読み出し、拡大表示を行い再生表示する。
S1203、S1216、S1219、S1221にて拡大表示が終了するまで、各々処理を繰り返す。
視覚効果画像の表示例については、第2の実施形態と同じものとし、ここでの説明は省略する。また、ファイル構成など、ここで言及していない部分は第2の実施形態と同様とし、ここでの説明は省略する。
(実施形態3)
図18は、本実施形態に係る撮像装置の構成例を示すブロック図である。同図において、第1の実施形態または第2の実施形態と同様の部分は、同じ符号を付して示す。図18に示した撮像装置1800は、被写体を撮像して得られた画像情報を外部の装置やサーバ(クラウド)等と送受信する機能や、外部の装置やサーバから得た画像情報を再生し、表示する機能を有する。これらに着目した場合、本実施形態に係る撮像装置も、画像処理装置、記録装置、再生装置、記録再生装置、通信装置等と表現することが出来る。
本実施形態に係わる撮像装置1800は、第2の実施形態と同様に高画質現像処理を外部に付託する構成をとると共に、拡大表示のための処理および視覚効果画像処理も外部に付託する構成とする。このため、高画質現像処理及び拡大表示のための画像処理が外部で終了するまでに待ち時間が生じた場合は、視覚効果画像の表示を行う。また、静止画再生モードにおいては、拡大表示だけでなく、縮小表示も可能とする。
再生動作が開始されると、記録再生部1851は、通信部152を介して、外部のストレージやサーバから所望のファイルを取得して再生する。再生対象のファイルがRAWファイルであれば、ネットワーク上の高画質現像機能に対して再生対象のファイルの現像指示を行う。ネットワーク上にて、圧縮された状態のRAWファイルを復号して伸張し、画像ファイル(静止画ファイル、又は、動画ファイル)に変換したものを、通信部152を介して取得する。
再生時、簡易現像部1510によって現像された簡易現像画像に対し、タッチパネルなどの操作部162によって拡大指示がなされると、制御部1861によって検出され、拡大率情報が現像開始指示部1553と画像処理指示部1852に入力される。画像処理指示部1852は拡大率に応じた画像処理指示を、通信部152を介してネットワーク上の画像処理機能に対して行う。また拡大率に応じて現像開始指示部1553は対応するRAWを高画質に現像するよう現像開始指示を、通信部152を介してネットワーク上の高画質現像機能に対して行う。高画質現像し、現像された画像をネットワーク上より転送し、表示部123にて表示可能となるまでの間、ネットワーク上の画像処理機能に対して視覚効果画像処理の指示を行い、視覚効果を処理された画像が表示部123にて表示される。
次に、撮像装置1800の静止画再生モードにおける動作について説明する。
図19に、本実施形態に係わる撮像装置の静止画再生モードの処理動作のフローチャートを示す。同図において、第1の実施形態(図6)と同様の部分は同じ符号を付して示す。図19のフローチャートは、制御部1861によって、各処理ブロックを制御し実行される処理手順を図示したものであり、制御部1861が有するメモリ(ROM)に格納されるプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。
図19において静止画再生モードの処理が開始されると(S1900)、制御部1861が撮像装置1800の処理負荷状況が低いか否かを判定し(S601)、負荷状況に応じた頻度でアイドル状態(S610)へ遷移し、そうでなければS602へ進む。例えば、再生指示などのユーザー操作を待っている間は、処理負荷が低いため、S610へ遷移する。ユーザーからの操作に応じて静止画の再生が開始されている(再生中の状態を含む)場合はS602へ進む。
S602において、制御部1861が、再生される静止画について、ユーザーから拡大表示の指示を受けているかを判定する。拡大表示があればS603に進み、拡大表示がなければS1920に進む。S1920において、制御部1861が、再生される静止画について、ユーザーから縮小表示の指示を受けているかを判定する。縮小表示があればS1924に進み、縮小表示がなければS620に進む。
表示例720のように拡大表示する場合、図19のフローはS602からS603へ遷移する。表示例700のように縮小表示する場合は、S602からS1920、S1924と遷移する。表示例710のような場合は、表示部123の表示画素数が簡易現像による静止画ファイルの画素数(上述の例ならば200万画素以下)、であれば等倍もしくは縮小での表示であるため、S602からS1920へ遷移する。
S1920において、再生対象の静止画ファイルを縮小表示しない場合、S620へ進み、記録再生部1851が、外部ストレージやサーバの記録媒体等から再生対象の静止画ファイルを読み出す。そして、S621において、静止画伸張部143が、静止画ファイルを復号して伸張し、S622において、表示処理部122が図7の各図に示すような形態で表示画像を表示部123へ出力する(S622)。
図20に、本実施形態に係わる撮像装置おける拡大表示処理動作のフローチャートを示す。同図において、第1の実施形態(図12)又は第2の実施形態(図16)と同様の部分は同じ符号を付して示す。S2001で、高画質現像されたものである場合は、拡大されても十分な画質で表示可能な高画質の静止画ファイルであることを意味するので、S2002に進む。S2002では、該当する高画質の静止画ファイルを外部ストレージやサーバの記録媒体等から読み出し、ネットワーク上の画像処理機能に対し拡大処理指示を行う。記録再生部1851が拡大処理後の画像ファイルを読み出し、S2003にて再生表示する。拡大表示が終了するまで、S2002−S2004を繰り返す。
S1201で、高画質現像されたものでない場合は、簡易現像部1510で現像処理された静止画ファイルであることを意味するのでS1204に進む。ユーザーから指示された拡大率Mが所定の拡大率以下の場合、簡易現像部1510で現像処理された静止画ファイルでも十分な画質で表示することができる。所定の拡大率として、あらかじめ、高画質現像を開始する高画質現像開始拡大率α、簡易現像部1810で現像処理された静止画ファイルの表示限界拡大率βを設定しておく。S1204で拡大率Mがあらかじめ設定した高画質現像開始拡大率αを超えていなければ、S2006に進み、該当する高画質の静止画ファイルを外部ストレージやサーバの記録媒体等から読み出し、ネットワーク上の画像処理機能に対し拡大処理指示を行う。記録再生部1851が拡大処理後の画像ファイルを読み出し、S2007にて再生表示する。
S1204で拡大率Mが高画質現像開始拡大率αを超えていた場合、S1607に進み、ネットワーク上の高画質現像機能に高画質現像を指示する。この場合、対応するRAWファイル全体を現像するのではなく、拡大表示するエリアのみを切り出して現像することにより、処理負荷の軽減となる。また、高画質現像を行う場合の現像パラメータは、簡易現像部1510にて行った簡易現像処理時のものと同じものを使用する。
その後S1214へ進み、拡大率Mがあらかじめ設定した表示限界拡大率βを越えているかどうかを判定する。S1214で拡大率Mが表示限界拡大率βを超えていなければ、S2011に進み、記録再生部1851が該当する静止画ファイルを外部ストレージやサーバ等の記録媒体から読み出して、ネットワーク上の画像処理機能に対し拡大処理指示を行う。記録再生部1851が拡大処理後の画像ファイルを読み出し、S2012にて再生表示する。
S1214で、拡大率Mが表示限界拡大率βを超えた場合S1217に進む。ここで、S1607にて開始した高画質現像処理が終了していなかった場合、S2015にて、現像開始指示部1553がネットワーク上の画像処理機能に対して視覚効果画像処理を指示する。記録再生部1851が処理された視覚効果画像ファイルを読み出し、S2016にて表示する。
S1217にて開始した高画質現像処理が終了した場合、S2018にてRAW現像画像を用いた拡大処理を、ネットワーク上の画像処理機能に対し指示を行う。S2019にて、S2018で指示を行った拡大画像をネットワーク上から取得し表示可能な状態でなかった場合、S2020にてネットワーク上の画像処理機能に対して視覚効果画像処理を指示する。記録再生部1851が処理された視覚効果画像ファイルを読み出し、S2021にて表示する。S2019にて拡大画像をネットワーク上から取得し表示可能な状態になった場合、S1220で高画質現像画像の拡大画像を再生表示する。
S1203、S1206、S1216、S1219、S2022、S1221にて拡大表示が終了するまで、各々処理を繰り返す。
上述した本実施形態によっても、画像処理装置が、画像再生時の拡大表示において、RAW画像の高画質現像を必要とした場合でも、ユーザーのストレス低減の効果を得ることができる画像処理を提供することが可能となる。(第3の実施形態の変形例)
実施形態3では、画像拡大時のRAW現像開始指示タイミング(RAW現像開始指示)、ユーザー指示の拡大率Mが予め設定された拡大率(α)に到達した場合とした。ここでは、拡大操作が開始されたタイミングを、現像開始指示タイミングとする例を、第3の実施形態の変形例として説明する。本変形例は、拡大表示処理動作のフローチャートが第3の実施形態と異なるだけで、それ以外の撮像装置、動作モード、視覚効果画像等の他の構成は同様であるのでここでの説明は省略する。
図21に、本実施形態に係わる拡大表示処理動作のフローチャートを示す。同図において、第3の実施形態(図20)と同様の部分は同じ符号を付して示す。第3の実施形態の拡大表示処理動作(図20)と異なるのは、S2006、S2007、S1206がないことである。従って、拡大表示処理動作が開始され、高画質現像済みの静止画ファイルがないと判断されて時点で(S1201でNO)、RAWファイルの取得の指示を出して高解像現像処理を開始させる(S1607)。
タッチパネルなどの操作部162によってユーザーから拡大指示がなされると、S1201において、制御部1861が、再生対象となって表示されるべき画像の静止画ファイルが、ネットワーク上の高画質現像機能で現像されたものであるかどうかを判定する。判定方法は、第3の実施形態と同様であり、また、操作部162による拡大操作方法についても同様である。S1201で、高画質現像されたものである場合は、拡大されても十分な画質で表示可能な高画質の静止画ファイルであることを意味するので、S2002に進む。そこでは、記録再生部1851が該当する高画質の静止画ファイルを外部ストレージやサーバの記録媒体等から読み出し、ネットワーク上の画像処理機能に対し拡大処理指示を行う。記録再生部1851が拡大処理後の画像ファイルを読み出し、S2003にて再生表示する。拡大表示が終了するまで、S2002−S1203を繰り返す。
S1201で、高画質現像されたものでない場合は、簡易現像部1510で現像処理された静止画ファイルであることを意味しS1607に進み、ネットワーク上の高画質現像機能にて高画質現像を実行する。この場合、対応するRAWファイル全体を現像するのではなく、拡大表示するエリアのみを切り出して現像することにより、処理負荷の軽減となる。また、高画質現像を行う場合の現像パラメータは、簡易現像部1510にて行った簡易現像処理時のものと同じものを使用する。
ユーザーから指示された拡大率Mが所定の拡大率以下の場合、簡易現像部1510で現像処理された静止画ファイルでも十分な画質で表示することができる。所定の拡大率として、あらかじめ、簡易現像部1510で現像処理された静止画ファイルの表示限界拡大率βを設定しておく。S1214へ進み、拡大率Mがあらかじめ設定した表示限界拡大率βを超えているかどうかを判定し、超えていなければ、S2011に進む。S2011では、記録再生部1851が該当する静止画ファイルを外部ストレージやサーバ等の記録媒体から読み出して、ネットワーク上の画像処理機能に対し拡大処理指示を行う。記録再生部1851が拡大処理後の画像ファイルを読み出し、S2012にて再生表示する。
S1214で、拡大率Mが表示限界拡大率βを超えた場合S1217に進む。ここで、S1607にて開始した高画質現像処理が終了していなかった場合、S2015にてネットワーク上の画像処理機能に対して視覚効果画像処理を指示する。記録再生部1851が処理された視覚効果画像ファイルを読み出し、S2016にて表示する。
S1607にて開始した高画質現像処理が終了した場合、S2018にて、画像処理指示部1852が、RAW現像画像を用いた拡大処理をネットワーク上の画像処理機能に対し指示する。S2019にて、S2018で指示を行った拡大画像をネットワーク上から取得し表示可能な状態でなかった場合、S2020にて、現像開始指示部1553が、ネットワーク上の画像処理機能に対して視覚効果画像処理を指示する。記録再生部1851が処理された視覚効果画像ファイルを読み出し、S2021にて表示する。S2019にて拡大画像をネットワーク上から取得し表示可能な状態になった場合、S1220で高画質現像画像の拡大画像を再生表示する。
S1203、S1216、S1219、S2022、S1221にて拡大表示が終了するまで、各々処理を繰り返す。
視覚効果画像の表示例については、第3の実施形態と同じものとし、ここでの説明は省略する。
(実施形態4)
図22は、本実施形態に係る撮像装置の構成例を示すブロック図である。なお、同図において、第1の実施形態(図1)と同様の部分は、同じ符号を付して示す。図22に示した撮像装置2200は、被写体を撮像して得られた画像情報を記録媒体に記録したり、画像情報を記録媒体から再生したり、現像処理して表示する機能を有する。これらに着目すると、本実施形態に係る撮像装置も、画像処理装置、記録装置、再生装置、記録再生装置等と表現することができる。
図22に示した撮像装置2200は、通信部152や通信端子154に替えて、記録媒体155を備えている。すなわち、本実施形態の撮像装置2200は、外部の装置やサーバに画像情報を転送記録するのではなく、撮像装置内のストレージ(記録媒体155)で画像情報を記録する構成を有する。なお、その他の構成は上述した第1の実施形態と同様のため、説明は省略する。
撮影によって得られたRAWファイルと、静止画ファイルや動画ファイルは、記録再生部151によって、記録媒体155に記録される。記録媒体155は、例えば内蔵式の大容量半導体メモリやハードディスク、又は、着脱式のメモリカード等である。記録再生部151は、記録媒体155から静止画ファイル、動画ファイル、RAWファイルを読み出すこともできる。
再生動作が開始されると、記録再生部151は、記録媒体155から所望のファイルを取得して再生する。記録媒体155からの画像の再生時、簡易現像部111によって現像された簡易現像画像に対し、タッチパネルなどの操作部162によって拡大指示がなされると、制御部161によって検出され、拡大率情報が現像開始指示部153に入力される。拡大率に応じて現像開始指示部153は対応するRAWを高画質に現像するよう現像開始指示を高画質現像部112に対して行う。高画質現像部112にて現像している間、表示処理部122にて視覚効果の付加処理を行い、表示部123にて表示される。
図23に本実施形態に係わる撮像装置における拡大表示処理動作のフローチャートを示す。同図において、第1の実施形態と同様の部分は同じ符号を付して示す。
タッチパネルなどの操作部162によってユーザーから拡大指示がなされると、S1201において、制御部161が、再生対象となって表示されるべき画像の静止画ファイルが、高画質現像部112で現像されたものであるかどうかを判定する。判定方法は、第1の実施形態と同様であり、また、操作部162による拡大操作方法についても同様である。
S1201で、高画質現像されたものである場合は、拡大されても十分な画質で表示可能な高画質の静止画ファイルであることを意味するので、S1202に進む。そこでは、記録再生部151が該当する高画質の静止画ファイルを記録媒体155等から読み出し、拡大処理を行い再生表示する。拡大表示が終了するまで、S1202−S1203を繰り返す。
S1201で、高画質現像されたものでない場合は、簡易現像部111で現像処理された静止画ファイルであることを意味するのでS1204に進む。ユーザーから指示された拡大率Mが所定の拡大率以下の場合、簡易現像部111で現像処理された静止画ファイルでも十分な画質で表示することができる。所定の拡大率として、予め、高画質現像を開始する高画質現像開始拡大率α、簡易現像部111で現像処理された静止画ファイルの表示限界拡大率βを設定しておく。S1204で拡大率Mがあらかじめ設定した高画質現像開始拡大率αを超えていなければ、S1205に進み、記録再生部151が該当する静止画ファイルを記録媒体から読み出して、拡大処理を行い再生表示する。
S1204で拡大率Mが高画質現像開始拡大率αを超えていた場合、S1207に進み、高画質現像部112にて高画質現像の実行を開始する。この場合、対応するRAWファイル全体を現像するのではなく、拡大表示するエリアのみを切り出して現像することにより、処理負荷の軽減となる。また、高画質現像を行う場合、対応する簡易現像画像が簡易現像部111にて簡易現像処理された時と同じ現像パラメータを用いて現像処理を行う。
その後S1214へ進み、拡大率Mが表示限界拡大率βを超えているかどうかを判定し、超えていなければS1215に進み、記録再生部151が該当する静止画ファイルを記録媒体から読み出して、拡大処理を行い再生表示する。
S1214で、拡大率Mが表示限界拡大率βを越えている場合は、S1217に進む。ここで、S1217にて開始した高画質現像処理が終了しているかどうかを判定し、終了していなかった場合、S1218にて視覚効果画像を表示する。S1217で高画質現像処理が終了していた場合、S1220で高画質現像画像を用いて拡大表示を行い再生表示する。
S1203、S1206、S1216、S1221にて拡大表示が終了するまで、各々処理を繰り返す。
視覚効果画像の表示例については、上述の各実施形態と同じものとし、ここでの説明は省略する。
なお、本実施形態は、記録再生部151の構成を、第1の実施形態における通信部152と本実施形態の記録媒体155に対して選択的に接続する構成とし、記録先及び再生元を選択する構成としてもよい。この場合、第2および第3の実施形態で示した外部への高画質現像処理を付託し、現像処理部を簡易現像部111だけにすることも可能である。
上述した本実施形態によっても、画像処理装置が、画像再生時の拡大表示において、RAW画像の高画質現像を必要とした場合でも、ユーザーのストレス低減の効果を得ることができる画像処理を提供することが可能となる。
(第4の実施形態の変形例)
上述の第4の実施形態では、画像拡大時のRAW現像開始指示タイミングは(RAW現像開始指示)、予め設定された拡大率(α)に到達した場合とした。本実施形態では、拡大操作が開始されたタイミングを、現像開始指示タイミングとする例を、第4の実施形態の変形例として説明する。本変形例は、拡大表示処理動作のフローチャートが第4の実施形態と異なるだけで、それ以外の撮像装置、動作モード、視覚効果画像等の他の構成は同様であるのでここでの説明は省略する。
図24に、本変形例に係わる拡大表示処理動作のフローチャートを示す。同図において、第1の実施形態(図12)と同様の部分は同じ符号を付して示す。本変形例の拡大表示処理動作において、第1の実施形態の拡大表示処理動作(図12)と異なるのは、S1204〜S1206がないことである。従って、拡大表示処理動作が開始され、高画質現像済みの静止画ファイルがないと判断されて時点で(S1201でNO)、RAWファイルの取得の指示を出して高解像現像処理を開始させる(S1207)。
タッチパネルなどの操作部162によってユーザーから拡大指示がなされると、S1201において、制御部161が、再生対象となって表示されるべき画像の静止画ファイルが、高画質現像部112で現像されたものであるかどうかを判定する。判定方法は、第1の実施形態と同様であり、また、操作部162による拡大操作方法についても同様である。
S1201で、高画質現像されたものである場合は、拡大されても十分な画質で表示可能な高画質の静止画ファイルであることを意味するので、S1202に進む。そこでは、記録再生部151が該当する高画質の静止画ファイルを記録媒体155等から読み出し、拡大処理を行い再生表示する。拡大表示が終了するまで、S1202−S1203を繰り返す。
S1201で、高画質現像されたものでない場合は、簡易現像部111で現像処理された静止画ファイルであることを意味するのでS1207に進み、高画質現像部112にて高画質現像を実行させる。この場合、対応するRAWファイル全体を現像するのではなく、拡大表示するエリアのみを切り出して現像することにより、処理負荷の軽減となる。また、高画質現像を行う場合、対応する簡易現像画像が簡易現像部111にて簡易現像処理された時と同じ現像パラメータを用いて現像処理を行う。
ユーザーから指示された拡大率Mが所定の表示限界拡大率(β)以下の場合、簡易現像部111で現像処理された静止画ファイルでも十分な画質で表示することができる。あらかじめ、簡易現像部111で現像処理された静止画ファイルの表示限界拡大率βを設定しておく。S1214で、拡大率Mがあらかじめ設定した表示限界拡大率βを超えているかどうかを判定し、越えていなければ、S1215に進み、記録再生部151が該当する静止画ファイルを記録媒体から読み出して、拡大処理を行い再生表示する。
S1214で、拡大率Mが表示限界拡大率βを超えていた場合は、S1217に進む。ここで、S1207にて開始した高画質現像処理が終了していなかった場合、S1218にて視覚効果画像を表示する。S1218で高画質現像処理が終了していた場合、S1220で高画質現像画像を用いて拡大表示を行い再生表示する。
S1203、S1216、S1221にて拡大表示が終了するまで、各々処理を繰り返す。
視覚効果画像の表示例については、上述の第4の実施形態と同じものとし、ここでの説明は省略する。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (20)

  1. RAW画像情報に第1の処理を行うことにより生成された第1の画像を取得する第1の取得手段と、
    前記RAW画像情報に第2の処理を行うことにより生成された第2の画像を取得する第2の取得手段と、
    前記第1の画像又は前記第2の画像を表示する表示手段と、
    前記表示手段に表示された前記第1の画像に対して拡大表示を指示する指示手段と、
    前記指示手段により指示された拡大表示の拡大率に応じて、前記拡大率が所定の拡大率より大きくなったときに前記第1の画像から前記第2の画像へと切り替えて拡大表示を行うよう前記表示手段を制御する表示制御手段と、を有し、
    前記第2の処理は、前記拡大表示が指示されて前記拡大率が前記所定の拡大率より大きくなるより前にあらかじめ開始されることを特徴とする画像処理装置。
  2. 前記第2の処理は、前記表示制御手段が前記第1の画像から前記第2の画像へと表示を切り替える制御を行うか否かを判定する条件とは異なる条件に基づいて開始されることを特徴とする請求項1に記載の画像処理装置。
  3. 前記表示制御手段は、前記拡大率が第1の所定値より大きい場合には前記第1の画像から前記第2の画像へと切り替えて拡大表示を行い、前記第1の所定値以下の場合には前記第1の画像を拡大表示するよう前記表示手段を制御することを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記表示制御手段は、前記拡大率が第1の所定値より大きい場合に前記第2の処理の実行状態を識別可能に表示するよう前記表示手段を制御することを特徴とする請求項1乃至3のいずれか一項に記載の画像処理装置。
  5. 前記第2の処理は、前記指示手段により指示された拡大表示の前記拡大率に応じて取得された前記RAW画像情報に対して行われることを特徴とする請求項1乃至4のいずれか一項に記載の画像処理装置。
  6. 前記RAW画像情報は、前記拡大率が、第1の所定値よりも小さい第2の所定値より大きい場合に、取得されることを特徴とする請求項5に記載の画像処理装置。
  7. 前記第2の処理は、前記拡大率が、第1の所定値よりも小さい第2の所定値より大きい場合に開始されることを特徴とする請求項5又は6に記載の画像処理装置。
  8. 前記第2の処理は、前記指示手段が拡大表示を指示した時に開始されることを特徴とする請求項5に記載の画像処理装置。
  9. 前記表示制御手段は、前記第1の画像から前記第2の画像へと切り替える拡大表示において、前記第2の処理が終了していない場合には、前記第2の処理の実行状態を識別可能に表示し、前記第2の処理が終了している場合には、前記第2の画像を表示するよう前記表示手段を制御することを特徴とする請求項1乃至8のいずれか一項に記載の画像処理装置。
  10. 前記第2の処理の実行状態を識別可能に表示する処理は、所定の視覚効果を表示する処理を含むことを特徴とする請求項4又は9に記載の画像処理装置。
  11. 前記視覚効果は、あらかじめ用意されている画像であることを特徴とする請求項10に記載の画像処理装置。
  12. 前記第1の処理及び前記第2の処理は、前記RAW画像情報の現像処理であり、前記第2の画像の画素数は、前記第1の画像の画素数よりも多いことを特徴とする請求項1乃至11のいずれか一項に記載の画像処理装置。
  13. 前記第2の処理は、画像処理装置の外部の処理手段において行われ、
    前記第2の取得手段は、前記処理手段によって前記第2の処理が行われたRAW画像情報を取得することを特徴とする請求項1乃至12のいずれか一項に記載の画像処理装置。
  14. 前記処理手段と通信を行う通信手段をさらに備え、
    前記表示手段は、前記拡大表示において、前記処理手段に対し、前記第2の処理の実行を、前記通信手段を介して指示することを特徴とする請求項13に記載の画像処理装置。
  15. 前記処理手段は、前記第1の処理のパラメータを前記第2の処理のパラメータとして用いることを特徴とする請求項13又は14に記載の画像処理装置。
  16. 前記指示手段はタッチパネルを含み、前記表示手段は、前記タッチパネルの操作を検出して前記拡大率の情報を取得することを特徴とする請求項1乃至15のいずれか一項に記載の画像処理装置。
  17. 前記第2の処理は、前記RAW画像情報のうちの一部である拡大表示される領域に対して行われることを特徴とする請求項1乃至16のいずれか一項に記載の画像処理装置。
  18. RAW画像情報に第1の処理を行うことにより生成された第1の画像を取得する第1の取得ステップと、
    前記RAW画像情報に第2の処理を行うことにより生成された第2の画像を取得する第2の取得ステップと、
    前記第1の画像又は前記第2の画像を表示手段に表示する表示ステップと、
    前記表示手段に表示された前記第1の画像に対して拡大表示を指示する指示ステップと、
    前記指示ステップにより指示された拡大表示の拡大率に応じて、前記拡大率が所定の拡大率より大きくなったときに前記第1の画像から前記第2の画像へと切り替えて拡大表示を行うよう前記表示手段を制御する表示制御ステップと、を有し、
    前記第2の処理は、前記拡大表示が指示されて前記拡大率が所定の拡大率より大きくなるより前にあらかじめ開始されることを特徴とする画像処理方法。
  19. コンピュータに、請求項18に記載の画像処理方法の各ステップを実行させるためのプログラム。
  20. 請求項19に記載のプログラムを記録したコンピュータが読み取り可能な記録媒体。
JP2014078841A 2014-04-07 2014-04-07 画像処理装置、画像処理方法およびプログラム、並びに撮像装置 Active JP6376813B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014078841A JP6376813B2 (ja) 2014-04-07 2014-04-07 画像処理装置、画像処理方法およびプログラム、並びに撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014078841A JP6376813B2 (ja) 2014-04-07 2014-04-07 画像処理装置、画像処理方法およびプログラム、並びに撮像装置

Publications (3)

Publication Number Publication Date
JP2015201730A JP2015201730A (ja) 2015-11-12
JP2015201730A5 JP2015201730A5 (ja) 2017-06-01
JP6376813B2 true JP6376813B2 (ja) 2018-08-22

Family

ID=54552669

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014078841A Active JP6376813B2 (ja) 2014-04-07 2014-04-07 画像処理装置、画像処理方法およびプログラム、並びに撮像装置

Country Status (1)

Country Link
JP (1) JP6376813B2 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4845382B2 (ja) * 2004-02-06 2011-12-28 キヤノン株式会社 画像処理装置及びその制御方法、並びに、コンピュータプログラム及びコンピュータ可読記憶媒体
JP4440120B2 (ja) * 2004-02-06 2010-03-24 キヤノン株式会社 画像処理装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
JP4407454B2 (ja) * 2004-09-30 2010-02-03 セイコーエプソン株式会社 ディジタルカメラ及び画像処理方法
JP2007142551A (ja) * 2005-11-15 2007-06-07 Nikon Corp プログラムおよび情報処理装置

Also Published As

Publication number Publication date
JP2015201730A (ja) 2015-11-12

Similar Documents

Publication Publication Date Title
JP6335563B2 (ja) 撮像装置及びその制御方法
JP6472253B2 (ja) 画像処理装置及びその制御方法
JP6373056B2 (ja) 撮像装置、撮像装置の制御方法及び画像処理方法
EP3490250B1 (en) Image processing apparatus and image processing method
EP2974265B1 (en) Imaging apparatus and imaging apparatus control method
JP6406949B2 (ja) 画像処理装置及び画像処理方法
JP5883052B2 (ja) 画像処理装置及びその制御方法
JP6278712B2 (ja) 撮像装置およびその制御方法
WO2016038808A1 (en) Image processing apparatus and image processing method
JP6245819B2 (ja) 画像処理装置及び画像処理方法
JP2016005103A (ja) 撮像装置およびその制御方法
JP6327939B2 (ja) 撮像装置及び撮像装置の制御方法
JP2015119403A (ja) 画像記録装置、画像記録方法およびプログラム並びに撮像装置
JP6376813B2 (ja) 画像処理装置、画像処理方法およびプログラム、並びに撮像装置
JP6366268B2 (ja) 撮像装置及びその制御方法
JP6192319B2 (ja) 画像処理装置及び画像処理方法
JP6245818B2 (ja) 撮像装置及び撮像装置の制御方法
JP6452362B2 (ja) 撮像装置及び撮像方法
JP6294725B2 (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、及び、プログラム
JP6282136B2 (ja) 撮像装置及びその制御方法
JP2014179851A (ja) 撮像装置及び撮像装置の制御方法
JP6333008B2 (ja) 撮像装置及び撮像装置の制御方法
JP2016063252A (ja) 画像処理装置及び画像処理方法
JP2016063254A (ja) 撮像装置及び撮像方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170407

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170407

RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20171214

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180123

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20180126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180323

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180424

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180613

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180626

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180724

R151 Written notification of patent or utility model registration

Ref document number: 6376813

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151