JP4914460B2 - Imaging device - Google Patents
Imaging device Download PDFInfo
- Publication number
- JP4914460B2 JP4914460B2 JP2009055040A JP2009055040A JP4914460B2 JP 4914460 B2 JP4914460 B2 JP 4914460B2 JP 2009055040 A JP2009055040 A JP 2009055040A JP 2009055040 A JP2009055040 A JP 2009055040A JP 4914460 B2 JP4914460 B2 JP 4914460B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- processing
- data
- image data
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Studio Devices (AREA)
Description
本発明は、例えばデジタルカメラ等として適用される撮像装置に関し、特に高速な画像処理や多機能のカメラシステムを構成する場合の応用技術に適用されるものである。 The present invention relates to an imaging apparatus applied as, for example, a digital camera and the like, and is particularly applied to applied technology in the case of configuring a high-speed image processing and a multifunctional camera system.
従来、デジタルカメラ等として適用される撮像装置としては、例えば図8に示すような構成のデジタルスチルカメラがある。なお、図示の例では、撮影者自身による不図示のカメラ操作スイッチ (カメラのメインSW及びレリーズSWで構成される)の状態変化を全
体制御CPU116が検出し、その他の各回路ブロックへの電源供給及び初期設定を行うようにする。
Conventionally, as an imaging apparatus applied as a digital camera or the like, for example, there is a digital still camera configured as shown in FIG. In the illustrated example, the
撮影画面範囲内の被写体像は、主撮影光学系118を通して撮像素子(この場合ではCCD)100上に結像し、この撮像素子100からの出力信号をCDS/AGC/AD回路103を介して各画素毎に順々に所定のデジタル信号に変換する。
The subject image within the imaging screen range is imaged on the image sensor (CCD in this case) 100 through the main imaging
ここで、撮像手段(撮像素子)100は、全体の駆動タイミングを決定しているタイミングジェネレータ(TG/SSG)102からの信号に基づき、各画素毎の水平駆動並びに垂直駆動のためのドライバー回路101の出力で所定駆動することにより、画像信号出力を発生する。
Here, the image pickup means (image pickup element) 100 is based on a signal from a timing generator (TG / SSG) 102 that determines the overall drive timing, and a
CDS/AGC/AD回路103の出力信号は、補正ブロック104に入力し、ここで撮像素子100と主撮影光学系118との組み合わせ等で生ずるシェーディング補正を実行したり、センサ固有のパターンノイズを除去するための補正を実行する。
The output signal of the CDS / AGC /
以上のように、補正ブロック104の出力は、フロントメモリコントローラ105を介してバッファメモリ106へ順々にフレームデータとして記憶し、カメラの連写撮影時の画像を一時的に記憶してゆくことになる。
As described above, the output of the
なお、図示したようにフロントメモリコントローラ105は、タイミングジェネレータ102と同期して動作するタイミング制御ブロック107の信号に基づいて動作することにより、撮像素子100との同期をとっている。
As shown in the figure, the
最低でも1駒以上の撮影が完了した時点で、フロントメモリコントローラ105の制御により、撮影データを記憶しているバッファメモリ106のデータを、リアメモリコントローラ108を介してワークメモリ111へ一時的に転送する。
When shooting of at least one frame is completed, the data in the
なお、このリアメモリコントローラ108は、同様にタイミングジェネレータ102と同期して動作するタイミング制御ブロック109の信号に基づいて動作する。
The
次に、ワークメモリ111のデータを、同じバスAに接続されているカラー処理処理ブロック112にて色補間処理やマトリックス補正等のいわゆる絵作りを実施してR,G,B更にはY,Cr,Cbの変換処理を行ってその結果を再度ワークメモリ111に記憶する。
Next, the data in the
ワークメモリ111に記憶したデータは、JPEG処理ブロック113を介して所定の圧縮フォーマットに基づきデータ圧縮し、その結果をカードコントローラ114を介して
カードメモリ115(通常では、フラッシュメモリ等の不揮発性メモリを使用する。)に記憶する。
The data stored in the
It is stored in the card memory 115 (usually a non-volatile memory such as a flash memory is used).
また、逆に撮影済みの画像データを観察する場合には、カードメモリ115に圧縮記憶さレータデータをJPEG処理ブロック113を通して通常の撮影画素毎のデータに伸張し、その結果をワークメモリ111へ転送することにより、不図示のモニター表示手段を通して外部表示することができる。
Conversely, when observing image data that has already been photographed, the data stored in the
一方、カメラ全体の制御に関しては、全体制御CPU116が、同じバスBに接続されたインストラクションメモリ117に記憶してあるインストラクションコードに従って命令を実行し、レンズ制御手段119を介して主撮影光学系118を駆動制御すると共に、通信I/F110を介して画像に添付する様々な情報をカードメモリのデータとして記録する。
On the other hand, regarding the control of the entire camera, the
上述したように、通常のデジタルカメラにおける画像処理の場合、途中迄連写撮影駒を生データとしてバッファメモリに記憶しておきながら、順次後方の処理ブロックに転送してカラー処理及びJPEG処理を実行するが、実際の動作の中では撮像素子からの読み出し速度をより高速化させることにより、いわゆるプロ仕様の銀塩カメラと同等の8駒/秒以上のスペックを実現することが可能となってきている。 As described above, in the case of image processing in a normal digital camera, the continuous shooting frames are stored as raw data in the buffer memory until halfway, and then sequentially transferred to the subsequent processing block to execute color processing and JPEG processing. However, in actual operation, it is possible to realize a spec of 8 frames / second or more equivalent to that of a so-called professional silver halide camera by increasing the reading speed from the image sensor. Yes.
撮像素子の読み出し速度を上げる方法としては、タイミングジェネレータの駆動クロックの周波数をアップさせてドライバーの駆動を単に高速化させる方法や、撮像素子からの読み出しを2つ以上の出力から同時に実行し、その後のバッファメモリに記憶するまでの処理をその読み出し出力数に合わせた複数ラインで並列に行う方法が提案されている。 As a method for increasing the reading speed of the image sensor, a method of simply increasing the driving speed of the driver by increasing the frequency of the timing generator drive clock, or performing reading from the image sensor simultaneously from two or more outputs, A method has been proposed in which processing up to storage in the buffer memory is performed in parallel on a plurality of lines in accordance with the number of read outputs.
しかしながら、前述したように、バッファメモリの内容をメモリコントローラを介してワークメモリに展開した後、そのデータを順次カラー処理ブロックに引き渡した上で所定のR,G,B画像データ若しくはY,Cr,Cb画像データに変換して再度ワークメモリに順次一時的に記憶し、更に引き続きこのデータをJPEG処理ブロックへ転送する場合には、いわゆるラスターブロック変換に伴う8×8単位でのブロック単位での読み出しを図示した各ブロック間に接続されたバスAを介して行うため、この処理ではバスAをかなりの頻度で占有してしまう。 However, as described above, after the contents of the buffer memory are expanded to the work memory via the memory controller, the data is sequentially transferred to the color processing block and then predetermined R, G, B image data or Y, Cr, When converting to Cb image data and temporarily storing it again in the work memory again, and subsequently transferring this data to the JPEG processing block, reading in block units of 8 × 8 units accompanying so-called raster block conversion Is performed via the bus A connected between the blocks shown in the figure, the bus A is occupied with considerable frequency in this processing.
また、JPEG処理を介して実際に圧縮した画像データはカードメモリに記憶することになるが、この場合、カードメモリ自体の書き込み速度がネックとなり、当然のことながらJPEG処理した結果をワークメモリから掃出する速度が遅くなってしまい、結果的にはワークメモリに多くのデータが溜まった状態となる。 In addition, the image data actually compressed through JPEG processing is stored in the card memory. In this case, the writing speed of the card memory itself becomes a bottleneck, and naturally the result of JPEG processing is swept from the work memory. As a result, the output speed becomes slow, and as a result, a large amount of data is accumulated in the work memory.
この結果、撮影者自身にとっては、如何にカメラの駒速がアップしたとしても、実際の後処理の遅さがネックとなり、バッファメモリ又はワークメモリの容量を相当数増加させない限り、連写撮影した後のレリーズ動作に直ぐには移行できないという撮影上の不具合が発生してしまう。 As a result, for the photographer himself, continuous shooting was taken unless the actual post-processing slowed down and the capacity of the buffer memory or work memory increased considerably, no matter how the camera frame speed increased. There is a problem in photographing that it is not possible to immediately shift to a later release operation.
本発明は、上記の課題に鑑みてなされたものであり、撮影シーケンスの中で撮像手段からのデータ読み出しと組み合わせて撮影後の処理を高速化させ、撮影上の不具合を解消して信頼性の高い撮像装置を提供することを目的とする。 The present invention has been made in view of the above-described problems, and in combination with data reading from the imaging means in the imaging sequence, speeds up the processing after imaging, eliminates imaging problems, and improves reliability. An object is to provide a high imaging device.
本発明の撮像装置は、1回の撮像動作に応じて撮像手段により得られた1画面の電気信号から領域分割された複数の画像データを生成する生成手段と、前記生成手段に並列に接続されており、前記生成手段により生成された複数の領域分割された画像データに所定の処理を施して圧縮対象の画像データを生成する圧縮前処理と、前記圧縮前処理により得られた圧縮対象の画像データを圧縮する画像圧縮処理とを実行する複数の画像処理手段と、前記撮像手段による連写撮影において、1回の撮像動作ごとに、前記複数の画像処理手段の前記圧縮前処理により得られた複数の圧縮対象の画像データを1つの画像処理手段に集め、前記1つの画像処理手段において前記集められた複数の圧縮対象の画像データを用いて1画面の画像データの画像圧縮処理を行なわせ、前記画像圧縮処理された画像データから1つの圧縮画像ファイルを生成する制御手段と、を有し、前記制御手段は、前記連写撮影の1回の撮像動作ごとに、前記複数の圧縮対象の画像データを集めて画像圧縮処理を行わせるための前記1つの画像処理手段を互いに異なる画像処理手段に切り替える。 An imaging apparatus according to the present invention includes a generation unit that generates a plurality of image data divided into regions from an electric signal of one screen obtained by the imaging unit in response to one imaging operation, and is connected in parallel to the generation unit. A pre-compression process for generating a compression target image data by performing a predetermined process on the plurality of region-divided image data generated by the generation unit, and a compression target image obtained by the pre-compression process A plurality of image processing means for performing image compression processing for compressing data, and continuous shooting by the imaging means, obtained by the pre-compression processing of the plurality of image processing means for each imaging operation A plurality of image data to be compressed is collected in one image processing means, and the image pressure of one screen image data is collected using the plurality of image data to be compressed collected in the one image processing means. Control means for performing a compression process and generating one compressed image file from the image data subjected to the image compression process, the control means for each imaging operation of the continuous shooting The one image processing means for collecting a plurality of image data to be compressed and performing image compression processing is switched to different image processing means .
本発明によれば、撮影シーケンスの中で撮像手段からのデータ読み出しと組み合わせて撮影後の処理を高速化させ、撮影上の不具合を解消して、通常画像処理の遅さによって連写撮影時の駒数が制限されるという問題点を大幅に改善し、信頼性の高い撮像装置及び方法が実現する。 According to the present invention, the processing after shooting is speeded up in combination with the data reading from the imaging means in the shooting sequence, the shooting trouble is solved, and the slowdown of the normal image processing makes it possible to perform continuous shooting. The problem that the number of frames is limited is greatly improved, and a highly reliable imaging apparatus and method are realized.
本発明は、撮影画像をそのまま取り込むメモリコントローラブロック、実際に絵作りを行うためのカラー処理ブロック、JPEG処理ブロック、カードメモリコントローラ及びカードメモリを含む画像処理手段(画像処理ブロック)に関しては、同一機能を有するものを撮像手段に対して2つ以上並列で接続配置する構成とする。 The present invention has the same function with respect to a memory controller block for capturing a photographed image as it is, a color processing block for actually making a picture, a JPEG processing block, a card memory controller, and an image processing means (image processing block) including a card memory. A configuration in which two or more devices having the above are connected and arranged in parallel to the imaging means.
具体的には、連写撮影時に撮像手段からの画像データを、例えば2チャンネル出力を通して読み出したうえで、各チャンネル毎のデータを別々のバッファメモリに記憶する。
この撮影データの一方側の出力は第1の画像処理ブロックで処理し、同時に他方側の出力は第2の画像処理ブロックで処理するというように、1つの撮影画像を同時に2つの画像処理ブロックで処理するという方法が考えられる。
Specifically, the image data from the imaging means is read through, for example, 2-channel output during continuous shooting, and the data for each channel is stored in separate buffer memories.
The output of one side of this photographic data is processed by the first image processing block, and at the same time the output of the other side is processed by the second image processing block. A method of processing can be considered.
この場合、それぞれが画像処理に必要な領域分だけは多少のオーバーラップ(CH1側
とCH2側とで撮像素子上の同一領域をそれぞれ処理するということ)をさせて処理した
うえで、JPEG処理に関しては片方側にデータを転送することにより1つの処理ブロックで行う方が望ましく、その場合には撮影の奇数駒と偶数駒で処理ブロックを切り替えるという方法を採るものとする。
In this case, each area necessary for image processing is processed with some overlap (that is, the same area on the image sensor is processed on the CH1 side and the CH2 side), and then JPEG processing is performed. Is preferably performed by one processing block by transferring data to one side. In this case, a method of switching the processing block between the odd-numbered frame and the even-numbered frame is taken.
以下、本発明を適用した及び方法の具体例について、図面を参照しながら詳細に説明する。
図1は、本実施形態による撮像装置全体のハードウェア構成を示すブロック図である。図示の例では、撮影者自身による不図示のカメラ操作スイッチ (カメラのメインSW及びレリーズSWで構成される)の状態変化を全体制御CPU26が検出し、その他の各回路ブロックへの電源供給並びに初期設定を開始する。
Hereinafter, specific examples of the method and method to which the present invention is applied will be described in detail with reference to the drawings.
FIG. 1 is a block diagram illustrating a hardware configuration of the entire imaging apparatus according to the present embodiment. In the illustrated example, the
この撮像装置は、被写体像を結像し、その像データを各画素毎に電気信号に変換する撮像手段である撮像素子1と、撮像素子1から出力された電気信号を処理して画像信号を生成する画像処理手段である2つの画像処理ブロック31,32を有し、撮像素子1の出力端子であるCH1,CH2に画像処理ブロック31,32が接続され、撮像素子1に対して並列接続とされて構成される。
The imaging device forms an image of a subject and converts the image data into an electrical signal for each pixel. The
画像処理ブロック31は、撮像素子1から出力された電気信号を一時的に記憶する一時記憶手段を構成するメモリコントローラ8及びバッファメモリ9と、メモリコントローラ8の撮像素子1との同期をとるためのタイミング制御ブロック10と、一時記憶手段に記憶されている電気信号を読み出して前記画像信号を生成する画像信号生成手段を構成するJPEG処理ブロック14、カラー処理ブロック13及びワークメモリ12と、ワークメモリ12に記憶された画像データをカードコントローラ15を介して記憶するカードメモリ16と、通信I/F11とを有し、メモリコントローラ8、JPEG処理ブロック14、カラー処理ブロック13、ワークメモリ12、カードコントローラ15及び通信I/F11がバスA1に接続されている。
The
画像処理ブロック32も、画像処理ブロック31と同様に、撮像素子1から出力された電気信号を一時的に記憶する一時記憶手段を構成するメモリコントローラ17及びバッファメモリ18と、メモリコントローラ17の撮像素子1との同期をとるためのタイミング制御ブロック19と、一時記憶手段に記憶されている電気信号を読み出して前記画像信号を生成する画像信号生成手段を構成するJPEG処理ブロック23、カラー処理ブロック22及びワークメモリ21と、ワークメモリ21に記憶された画像データをカードコントローラ24を介して記憶するカードメモリ25と、通信I/F20とを有し、メモリコントローラ17、JPEG処理ブロック23、カラー処理ブロック22、ワークメモリ21、カードコントローラ17及び通信I/F20がバスA2に接続されている。
Similarly to the
撮影画面範囲内の被写体像は、主撮影光学系28を通して撮像素子(この場合はCCD)1上に結像し、この撮像素子1からの出力信号であるCH1出力を、CDS/AGC/AD回路4を介して各画素毎に相関二重サンプリング、ゲイン設定、AD変換を順次実施して順々に所定のデジタル信号に変換し、撮像素子1からのもう一方の出力信号であるCH2出力を、CDS/AGC/AD回路6を介して各画素毎に相関二重サンプリング、ゲイン設定、AD変換を順次実施して順々に所定のデジタル信号に変換する。
The subject image within the photographing screen range is imaged on the image sensor (CCD in this case) 1 through the main photographing
撮像素子1は、全体の駆動タイミングを決定しているタイミングジェネレータ(TG/SSG)3からの信号に基づき、各画素毎の水平駆動並びに垂直駆動のためのドライバー回路2の出力で所定駆動することにより画像信号出力を発生するが、図1に示すように、出力チャンネルを2CH(実際にはこれ以上のチャンネル数を持つことも可能である。)を有しており、このチャンネルから同時に画像データを読み出すことで、図7に示したような単一チャンネルしか持たない撮像素子と比較してより高速に画像データを読み出すことが可能となる。
The
ここで、本実施形態で使用する撮像素子の具体的構成に関して、図3の構成図を用いて説明を行う。
図3は、CH1とCH2の2つの出力を持つ撮像素子の内部構成を示したものであり、aは実際の受光入力を電荷量に変換するフォトダイオード部、bはこのフォトダイオードで発生した電荷を図上の上から下へ向かっていわゆるバケツリレー形式で転送するための垂直CCD部、cはこの垂直CCDによって運ばれた電荷を左右の出力へ向かって水平方向にバケツリレー形式で転送するための水平CCD部を表したものであり、画面の中央から左右対称に各画素を読み出すタイプのものである。
Here, a specific configuration of the image sensor used in the present embodiment will be described with reference to the configuration diagram of FIG.
FIG. 3 shows an internal configuration of an image sensor having two outputs of CH1 and CH2, wherein a is a photodiode portion that converts an actual light receiving input into a charge amount, and b is a charge generated by this photodiode. A vertical CCD section for transferring the electric charge carried by the vertical CCD from the top to the bottom of the figure in the so-called bucket relay format, in order to transfer the charge carried by the vertical CCD in the bucket relay format in the horizontal direction toward the left and right outputs This is a type that reads each pixel symmetrically from the center of the screen.
画面の右側点線部40で示した各画素は、水平CCD部42から右側出力チャンネルCH1を介してデータを読み出してCDS/AGC/AD44へ入力し、一方画面の左側点線部41で示した各画素は、水平CCD部43から左側出力チャンネルCH2を介してデータを読み出してCDS/AGC/AD45へ入力するようになっている。
Each pixel indicated by the right dotted
再び図1に戻り、CDS/AGC/AD回路4の出力信号は補正ブロック5に入力し、ここで撮像素子1と主撮影光学系28との組み合わせ等で生ずるシェーディング補正を実行したり、センサ固有のパターンノイズを除去するための補正を実行するためのものであり、2次元画像データの水平方向及び垂直方向に対して、内部に組み込んでいる乗算回路や加算回路及びデータ記憶用のメモリを使って各画素毎の補正を行う。
Returning to FIG. 1 again, the output signal of the CDS / AGC /
同様にして、CDS/AGC/AD回路6の出力信号は補正ブロック7に入力し、ここでも撮像素子1と主撮影光学系28との組み合わせ等で生ずるシェーディング補正や固定パターンノイズの除去といった補正を実行する。
Similarly, the output signal of the CDS / AGC /
続いて、図1に示すように、メモリコントローラ8は、タイミングジェネレータ3と同期して動作するタイミング制御ブロック10の信号に基づいて動作することで撮像素子1との同期をとっていて、上述したように撮像素子1からのセンサ信号を、CDS/AGC/AD回路4、補正回路ブロック5を順次通して所定のバス巾データに変換し、バースト(連続)書き込みによってバッファメモリ9へデータを転送する。
Subsequently, as shown in FIG. 1, the
同様の方法により、メモリコントローラ17は、タイミングジェネレータ3と同期して動作するタイミング制御ブロック19の信号に基づいて動作することで撮像素子1との同期をとっていて、上述したように撮像素子1からのセンサ信号を、CDS/AGC/AD回路6、補正回路ブロック7を順次通して所定のバス巾データに変換し、バースト(連続)書き込みによってバッファメモリ18へデータを転送する。
By the same method, the
以上のように、撮像素子1のCH1側出力(図3に示した撮像素子の右画面)はバッファメモリ9へ、撮像素子1のCH2側出力(図3に示した撮像素子の左画面)はバッファメモリ18へそれぞれ記録されることになり、その結果、1枚の撮影画像が物理的にも論理的にも別空間に存在するメモリに記憶されることになる。
As described above, the CH1 side output of the image sensor 1 (right screen of the image sensor shown in FIG. 3) is output to the
所定サイズの画像書き込みが完了した時点で、メモリコントローラ8は撮影データを記憶しているバッファメモリ9のデータをワークメモリ12へ一時的に転送する。
When the writing of the image of the predetermined size is completed, the
次に、このメモリコントローラ8は、ワークメモリ12のデータを同じバスA1に繋がっているカラー処理ブロック13に順次転送し、いわゆる絵作り動作を行う。
Next, the
この動作に関しては、図4に示したカラー処理ブロックの内部構成図を使って説明する。
バスAを介してワークメモリ12から入力した画像データは、データ入出力I/F50を通してここで所定のデータ巾に変換した後、色補間ブロック52へ入力するが、ここではまず通常センサの画素配列がいわゆるベイヤー配列で構成されているものに対して、色補間処理を行ってRGBの3プレーンのデータに変換する。
This operation will be described with reference to the internal configuration diagram of the color processing block shown in FIG.
Image data input from the
この色補間処理に続いてマトリックス補正ブロック53へ入力し、センサ固有のカラーフィルターの持つ分光特性から所望の色を出力するためのマトリックス補正を実行してRGBからRGBへ変換を行う。
Subsequent to this color interpolation processing, the data is input to the
次に、ガンマ変換ブロック54へ入力して、通常CDS/AGC/ADでデジタルデータに変換したデータ巾12ビットを8ビットに変換する処理を行い、所定のダイナミックレンジに入るようにデータの変換いわゆるγ変換を行う。
Next, a process of converting the data width of 12 bits, which is input to the
続いて、RGBからYCrCb変換ブロック55へ入力してRGBからYCrCbの色変換処理を行った後、偽色除去ブロック56へ入力してCrCb成分に対する偽色除去処理を行う。
Subsequently, RGB to
ここで、偽色除去処理としては、いわゆるサンプリング周波数と画像周波数との関係から生ずる色モアレ等の発生に対してメディアンフィルター(中間値フィルター)を使用する等が挙げられる。 Here, the false color removal process includes using a median filter (intermediate value filter) for the occurrence of color moiré or the like caused by the relationship between so-called sampling frequency and image frequency.
更に、エッジ強調ブロック57へ入力し、いわゆる画像の中間周波数付近のゲインを持ち上げるエッジ強調処理を行って画像の輪郭強調等の加工を行った後、解像度変換ブロック58へ入力して所定の画像サイズにリサイズする。
Further, the image is input to the
ここで、所定の画像サイズにリサイズする場合には、実際にフィルター処理を行ってから間引き処理を行うことになるが、水平及び垂直方向に対して同等の処理を行う。 Here, when resizing to a predetermined image size, the thinning process is performed after actually performing the filter process, but the same process is performed in the horizontal and vertical directions.
以上の動作を1フレーム分順々に行ってゆき、その結果をデータ入出力I/F50を介して再度ワークメモリ12上の別領域上に展開してゆくことになる。
The above operation is performed sequentially for one frame, and the result is developed again on another area on the
以上の動作が、図1に示した実際のカラー処理ブロック13の実際の動作であるが、各ブロックの動作は基本的にパラメーター設定ブロック51を介してその特性の設定を自由に全体制御CPU26からのデータによって変更可能であり、撮影駒毎に絵作り条件を変更することができる。
The above operation is the actual operation of the actual
続いて、メモリコントローラ8は、このワークメモリ12に展開したカラー処理後のデータを同じバスA1に繋がっているJPEG処理ブロック14に順次転送し、ここで実際の画像の圧縮処理を実行する。
Subsequently, the
このJPEG処理ブロック14の動作に関しては、図5及び図6に示した内部構成図を使って説明する。
図5はいわゆる非可逆タイプのJPEG処理に関するものであり、DCT変換をベースにした周波数変換を基本としている。
The operation of the
FIG. 5 relates to a so-called irreversible type JPEG process, and is based on frequency conversion based on DCT conversion.
はじめに上述した方法でカラー処理を行った結果を記憶しているワークメモリ12の画像処理後のデータを、データ入出力I/F60を介して読み込み、ラスターブロック変換ブロック63へ入力して、画像データを水平8画素、垂直8画素単位での2次元単位でのブロックに変換する。
First, data after image processing in the
次に、DCT変換ブロック64にデータを入力し、ここでは8×8ブロック単位でいわゆる周波数成分毎の8×8のデータに変換するDCT変換を行い、2次元単位での低周波成分から高周波成分への係数を算出する。
Next, data is input to the
次に、量子化ブロック65へ入力して上記DCT変換で算出した係数値に対する量子化を行うが、この量子化に関しては事前に値が設定されている量子化テーブル61の値に基づいて各係数毎の除算にて実現している。
Next, quantization is performed on the coefficient value input to the
更に、この量子化した結果を所定のスキャン方向に沿ってデータを読み出しながら、ハフマン符号化ブロック66へ入力して、ここではやはり事前に値が設定されているハフマンテーブル62の値に沿ったエントロピー符号化を実施する。
Further, the quantized result is inputted to the
上記の方法で圧縮したデータを、再度データ入出力I/F60を介してワークメモリ12の所定領域内に書き戻すことで一連の圧縮処理を終了する。
The data compressed by the above method is written back into a predetermined area of the
一方、別のタイプのJPEG処理としては可逆タイプの圧縮方法があるが、この方法に関しては図6の内部ブロック構成図を用いて説明を行う。
図6は、いわゆるDPCMをベースにした可逆タイプのJPEG処理に関するものであり、はじめに上述した方法でカラー処理を行った結果を記憶しているワークメモリ12の画像処理後のデータを、データ入出力I/F70を介して読み込み、DPCM変換ブロック72へ入力して、予測値との差分データとして画像データを変換する。
On the other hand, as another type of JPEG processing, there is a reversible compression method. This method will be described with reference to the internal block diagram of FIG.
FIG. 6 relates to a reversible type JPEG process based on a so-called DPCM. First, the data after image processing in the
次に、このDPCM変換したデータを読み出しながらハフマン符号化ブロック73へ入力して、ここでは事前に値が設定されているハフマンテーブル71の値に沿ったエントロピー符号化を実施する。
Next, the DPCM-converted data is input to the
上記の方法で圧縮したデータを、再度データ入出力I/F70を介してワークメモリ12の別の所定領域内に書き戻すことで一連の圧縮処理を終了する。
The data compressed by the above method is written back into another predetermined area of the
以上の方法で、JPEG処理ブロック14を介して所定の圧縮フォーマットに基づきデータ圧縮した上で、その圧縮データをカードコントローラ15を介してカードメモリ16(通常フラッシュメモリ等の不揮発性メモリを使用)に記憶する。
After compressing data based on a predetermined compression format via the
また、逆に撮影済みの画像データを観察する場合には、上記カードメモリ16に圧縮記憶さレータデータをJPEG処理ブロック14(但し前述した図5及び図6のJPEG処理ブロック構成図の中では圧縮したデータを伸張するブロックは記載していない。)を通して通常の撮影画素毎のデータに伸張し、その結果をワークメモリ12へ転送することで、不図示のモニター表示手段を通して撮影画像を縮小して外部表示することができる。
On the other hand, when observing captured image data, the data stored in the
以上が図1の破線で示した画像処理ブロック31の構成を説明したものであるが、全く同様にメモリコントローラ6を介して出力されるデータを処理する画像処理ブロック32が同様に破線で示されている。
The above is a description of the configuration of the
この画像処理ブロック32では、補正ブロック7からのデータをメモリコントローラ17を介してバッファメモリ18に予め記憶しておき、その撮影画像をメモリコントローラ17を介してワークメモリ21へ転送する。
In this
更に、メモリコントローラ17はタイミング制御ブロック19からのタイミング信号に基づいて、ワークメモリ21のデータを読み出してカラー処理ブロック22へ転送し、ここで前述した方法に沿って実際の絵作り処理を行い、その結果を再度ワークメモリ21へ転送する。
Further, the
続いて、メモリコントローラ17はワークメモリ21に記憶した画像処理後のデータを読み出してJPEG処理ブロック23へ転送し、ここで前述した方法に沿ってJPEG圧縮処理を行って、その圧縮データを再度ワークメモリ21へ書き戻すことになる。
Subsequently, the
更に、この圧縮後のデータをカードコントローラ24を介してカードメモリ25へ書き込み、撮影画像の記録を完了する。
Further, the compressed data is written into the
一方、カメラ全体の制御及び上記コントローラに対するシーケンス制御に関しては、全体制御CPU26がバスBに接続されているインストラクションメモリ27に記憶してあるインストラクションコードに従って命令を実行することで動作を行い、レンズ制御手段29を介して主撮影光学系28を駆動制御(レンズ内のフォーカス駆動や絞り駆動制御)したり不図示のシャッター制御手段を介して実際のシャッター露光制御を行い、通信I/F11を介して画像処理ブロック31内での撮影処理画像に対してヘッダー情報を付加したり、撮影条件等の情報をカードメモリ内のデータとして付加したりして記録する。
On the other hand, with respect to the control of the entire camera and the sequence control for the controller, the
同様に、画像処理ブロック32に対しても、通信I/F20を介して上記と同様の処理を行い、様々な情報を付加して記録する。
Similarly, the same processing as described above is performed on the
以上が図1に示した全体ブロックの構成に関する説明であるが、上記構成にもあるように撮像素子1の画面右側は画像処理ブロック31で処理し、画面左側は画像処理ブロック32で処理する形を採っているので、実際にはカラー処理のところでのフィルター処理に関しては、画面中央部の領域について画像処理ブロック31,32の両方でオーバーラップさせながら処理する必要がある。
The above is a description of the configuration of the entire block shown in FIG. 1. As shown in the above configuration, the right side of the screen of the
また、JPEG処理に関しても1つの撮影駒を左右に分割して処理するという方法は現実的ではなく、実際にはカラー処理が完了した時点で画像処理ブロック31,32のいずれかにデータを転送して、一方のJPEG処理ブロックを使って圧縮処理を行うという方法が採られる。 Also, with regard to JPEG processing, it is not practical to divide and process one photographic frame into left and right. Actually, when color processing is completed, data is transferred to one of the image processing blocks 31 and 32. Thus, a method of performing compression processing using one JPEG processing block is adopted.
この場合、画像処理ブロック31と画像処理ブロック32の間では、何らかのデータ受け渡しが必要になるが、画像処理ブロック31,32間のデータ受け渡し方法に関して、図2に示した撮影シーケンスタイミング図を用いて説明を行う。
In this case, some kind of data transfer is required between the
図2は、実際のカメラで連写撮影等を行った場合のタイミングを簡単に表したものである。
ここで、一番上にシャッター露光タイミングを示しており、この場合連写撮影動作としてほぼ同間隔で撮影を行い10駒目迄の撮影を行っている。
FIG. 2 simply shows the timing when continuous shooting or the like is performed with an actual camera.
Here, the shutter exposure timing is shown at the top, and in this case, as a continuous shooting operation, shooting is performed at approximately the same interval, and shooting is performed up to the 10th frame.
その下はセンサ読出しタイミングを示したものであり、各駒共にシャッター露光完了と同時にセンサ読出しを行い、前述したように画像処理ブロック31内のメモリコントローラ8の制御に従ってバッファメモリ9に撮影画像データを書き込んでいる。
Below that, the sensor readout timing is shown. The sensor readout is performed simultaneously with the completion of the shutter exposure for each frame, and the captured image data is stored in the
同様に、上から8番目のタイミングが画像処理ブロック32に対するセンサ読み出しタイミングを示したものであり、画像処理ブロック31のタイミングと全く同じようにしてメモリコントローラ17の制御に従ってバッファメモリ18に撮影データを書き込んでいる。
Similarly, the eighth timing from the top indicates the sensor readout timing for the
次に、この最初の1駒目の撮影画像に対しての画像処理を開始するが、この場合上から7番目に示した通信I/Fタイミングのように、全体制御CPU26からの指示によってメモリコントローラ8が動作を開始し、図2の上から3番目に示したタイミングのように、バッファメモリ9の記憶画像をワークメモリ12に転送する。
Next, image processing is started with respect to the first photographed image. In this case, the memory controller is in accordance with an instruction from the
同様に、画像処理ブロック32に対しても図2の1番下のタイミングに示したように、全体制御CPU26からの指示によってメモリコントローラ17が動作を開始し、図2の下から5番目に示したタイミングのように、バッファメモリ18の記録画像をワークメモリ21に転送する。
Similarly, for the
上から4番目は画像処理ブロック31におけるカラー処理の動作タイミングの様子を示したものであり、その下は同様に画像処理ブロック31におけるJPEG処理の動作タイミングの様子を示したものである。
同様に下から4番目は、画像処理ブロック32におけるカラー処理の動作タイミングの様子を示したものであり、その下は画像処理ブロック32におけるJPEG処理の動作タイミングの様子を示したものである。
The fourth from the top shows the operation timing of the color processing in the
Similarly, the fourth from the bottom shows the operation timing of color processing in the
ここで、それぞれのブロックでカラー処理を実行する場合は、図3に示したような撮像素子を前提として画像処理を行う時に、画面中央部の境界付近を互いにオーバーラップさせる(図7に模式的に示したように画面中央を境界としてある所定範囲に関しては、画面の左側も画像処理ブロック31側でも処理し、画面の右側も画像処理ブロック32側で処理する)必要がある。
Here, when color processing is executed in each block, when image processing is performed on the premise of the image sensor as shown in FIG. 3, the vicinity of the boundary at the center of the screen overlaps each other (schematically shown in FIG. 7). As shown in FIG. 5, the predetermined range with the screen center as a boundary needs to be processed on both the left side of the screen and the
従ってこの場合には、図2の通信I/Fのタイミングに示したように、この画像データを互いに相手側に転送する動作を行っている。
例えば、図2の上から7番目に示した通信I/Fタイミングでは、ワークメモリ間転送としてワークメモリ21に記憶している画像の一部をワークメモリ12に転送し、同様に図2の一番下に示した通信I/Fタイミングでは、ワークメモリ間転送としてワークメモリ12に記憶している画像の一部をワークメモリ21に転送するという方法を採っている。
Therefore, in this case, as shown in the timing of the communication I / F in FIG. 2, the operation of transferring the image data to the other party is performed.
For example, at the communication I / F timing shown at the seventh position from the top in FIG. 2, a part of the image stored in the
また、JPEG処理に関しては、通信I/Fを介して一方のブロックから一方のブロックに対して、上記カラー処理ブロックで処理した結果を記憶しているワークメモリ上の画像データを転送したうえで、一方のJPEG処理ブロックで圧縮動作を行うものとする。 As for JPEG processing, after transferring the image data on the work memory storing the result processed by the color processing block from one block to one block via the communication I / F, It is assumed that the compression operation is performed in one JPEG processing block.
これは、通信I/Fタイミングに示したように、1駒目の撮影データに関しては画像処理ブロック32側でカラー処理した結果を記憶している画像データの内容を画像処理ブロック31のワークメモリ12に転送したうえで、1駒目の全体画像をJPEG処理ブロック14で処理することになる。
As shown in the communication I / F timing, the contents of the image data storing the result of the color processing on the
更に、上から6番目のタイミングに示したように、ワークメモリ12に記憶してある圧縮データをカードコントローラ15を介してカードメモリ16へ書き込む。
Furthermore, as shown at the sixth timing from the top, the compressed data stored in the
最後に、画像処理ブロック31における1駒目のカード書込み動作が完了した時点で、メモリコントローラ8からの完了割り込み信号を全体制御CPU26へ伝達して1駒目の処理が完了したことを通知する。
Finally, when the card writing operation for the first frame in the
次に、2駒目の撮影画像に対する処理の場合は、前述したのと同様に通信I/F11及び20を介して画像処理ブロック31内のメモリコントローラ8及び画像処理ブロック32内のメモリコントローラ17の動作を開始し、同様のカラー処理及びJPEG処理を各ブロックで同時に開始する。
Next, in the case of processing for the second frame, the
但し今回の場合には、カラー処理の結果を通信I/F11及び20を介して画像処理ブロック31から画像処理ブロック32のワークメモリに転送したうえで、画像処理ブロック32内のJPEG処理ブロック23で圧縮処理を実行し、カードコントローラ24を介してカードメモリ25へデータを書き込む。
However, in this case, the color processing result is transferred from the
最後に、画像処理ブロック32での1駒目のカード書込み動作が完了した時点で、メモリコントローラ17からの完了割り込み信号を全体制御CPU26へ伝達して2駒目の処理が完了したことを通知する。
実際の動作では画像処理ブロック31での1駒目の画像圧縮処理が完了する前に、2駒目の撮影画像に対する画像圧縮処理を開始するので1駒目の撮影画像と2駒目の撮影画像は別々のカードメモリに記憶することになる。
Finally, when the first card writing operation in the
In actual operation, before the image compression process for the first frame in the
この図で示したタイミングでは、奇数撮影駒に対する処理は画像処理ブロック31で、偶数撮影駒に対する処理は画像処理ブロック32で処理する構成となっているが、必ずしもそういう撮影駒に限定する必要はなく、処理を開始する前に動作が完了しているブロックを使用する方法も考えられる。
At the timing shown in this figure, the processing for odd-numbered frames is processed by the
例えば、1駒目の処理が画像処理ブロック31で完了する前に、2駒目の処理が画像処理ブロック32で完了した場合(1駒目と2駒目はこのタイミング図では時間差があるが、処理が進むにつれ画像処理ブロック31と画像処理ブロック32が処理を開始するタイミングは近づいてゆき、処理時間が逆転する場合もある。)には、3駒目の処理は画像処理ブロック32で続けて行うことも可能である。
For example, when the processing of the second frame is completed in the
これは、各ブロック内のメモリコントローラからの処理完了割り込みを各通信I/Fブロックを介して全体制御CPU26が検出することにより、次の撮影駒に対する処理をどちらのブロックで実行するかを決定することによって実現している。
This is because the
なお、本実施形態では、撮像素子1に2つの画像処理ブロック31,32が並列接続された場合を例示したが、本発明はこの構成に限定されるものではなく、3つ以上の画像処理ブロックを並列接続し、撮影状況等に適合させて適宜切り替えるように構成しても良い。
In the present embodiment, the case where the two image processing blocks 31 and 32 are connected in parallel to the
以上説明したように、本実施形態によれば、撮影シーケンスの中で撮像手段からのデータ読み出しと組み合わせて撮影後の処理を高速化させ、撮影上の不具合を解消して信頼性の高い撮像装置が実現する。即ち、カメラの高速連写撮影時などで撮像素子からの画像データを複数ライン出力を介して高速に読み出して、一時的にそのままの形(RAWデータ形式)で各ライン毎に接続したコントローラ経由で各々のバッファメモリに連続的に記憶してゆきながら、1駒目の撮影画像に対する処理を同時に別々のブロックで分割処理する一方で、2駒目の撮影画像に対する処理も一部の動作は開始するという方法を採ることにより、通常画像処理の遅さによって連写撮影時の駒数が制限されるという問題点が大幅に改善される。 As described above, according to the present embodiment, a high-reliability imaging apparatus that speeds up post-shooting processing in combination with data reading from the imaging means in the shooting sequence, eliminates shooting problems, and is highly reliable. Is realized. That is, during high-speed continuous shooting of the camera, image data from the image sensor is read out at a high speed via a plurality of line outputs, and temporarily passed through a controller connected to each line in the form (RAW data format). While continuously storing in each buffer memory, the processing for the first frame of the captured image is divided into separate blocks at the same time, while the processing for the second frame of the captured image also starts partly. By adopting this method, the problem that the number of frames during continuous shooting is limited due to the slowness of normal image processing is greatly improved.
また、このようなマルチ処理を実行する際に、単に奇数駒に対する処理は第1の画像処理ブロックで行い、偶数駒に対する処理は第2の画像処理ブロックで行うというような固定的な構成とする替わりに、複数の画像処理ブロックにおいて、その時その時で画像処理が完了しており、次の処理を開始できる準備が整っている画像処理ブロックを優先的に使用するというように、より高機能のマルチ処理システムを構成することにより、更に高速な画像処理システムを実現することができる。 Further, when such multi-processing is executed, a fixed configuration is employed in which processing for odd frames is simply performed by the first image processing block and processing for even frames is performed by the second image processing block. Instead, in a plurality of image processing blocks, image processing is completed at that time, and an image processing block that is ready to start the next processing is preferentially used. By configuring the processing system, a higher-speed image processing system can be realized.
本発明によれば、撮影シーケンスの中で撮像手段からのデータ読み出しと組み合わせて撮影後の処理を高速化させ、撮影上の不具合を解消して、通常画像処理の遅さによって連写撮影時の駒数が制限されるという問題点を大幅に改善し、信頼性の高い撮像装置及び方法が実現する。 According to the present invention, the processing after shooting is speeded up in combination with the data reading from the imaging means in the shooting sequence, the shooting trouble is solved, and the slowdown of the normal image processing makes it possible to perform continuous shooting. The problem that the number of frames is limited is greatly improved, and a highly reliable imaging apparatus and method are realized.
1 撮像素子
2 ドライバー回路
3 TG/SSG
4,6 CDS/AGC/AD回路
5,7 補正ブロック
8,17 メモリコントローラ
9,18 バッファメモリ
10,19 タイミング制御ブロック
11,20 通信I/F
12,21 ワークメモリ
13,22 カラー処理ブロック
14,23 JPEG処理ブロック
15,24 カードコントローラ
16,25 カードメモリ
26 全体制御CPU
27 インストラクションメモリ
28 主撮影光学系
29 レンズ制御手段
31,32 画像処理ブロック
1 Image sensor 2 Driver circuit 3 TG / SSG
4, 6 CDS / AGC /
12, 21
27
Claims (4)
前記生成手段に並列に接続されており、前記生成手段により生成された複数の領域分割された画像データに所定の処理を施して圧縮対象の画像データを生成する圧縮前処理と、前記圧縮前処理により得られた圧縮対象の画像データを圧縮する画像圧縮処理とを実行する複数の画像処理手段と、
前記撮像手段による連写撮影において、1回の撮像動作ごとに、前記複数の画像処理手段の前記圧縮前処理により得られた複数の圧縮対象の画像データを1つの画像処理手段に集め、前記1つの画像処理手段において前記集められた複数の圧縮対象の画像データを用いて1画面の画像データの画像圧縮処理を行なわせ、前記画像圧縮処理された画像データから1つの圧縮画像ファイルを生成する制御手段と、を有し、
前記制御手段は、前記連写撮影の1回の撮像動作ごとに、前記複数の圧縮対象の画像データを集めて画像圧縮処理を行わせるための前記1つの画像処理手段を互いに異なる画像処理手段に切り替えることを特徴とする撮像装置。 Generating means for generating a plurality of image data divided into regions from an electric signal of one screen obtained by the imaging means in response to one imaging operation;
Pre-compression processing connected in parallel to the generation means, and performing predetermined processing on a plurality of area-divided image data generated by the generation means to generate image data to be compressed; a plurality of image processing means for executing image compression processing for compressing the image data to be compressed, obtained by,
In the continuous shooting by the imaging unit, for each imaging operation, a plurality of compression target image data obtained by the pre-compression processing of the plurality of image processing units is collected in one image processing unit, and the 1 Control that causes one image processing means to perform image compression processing of image data of one screen using the collected plurality of image data to be compressed, and generates one compressed image file from the image compression processed image data Means,
The control means uses the one image processing means for collecting the plurality of image data to be compressed and performing image compression processing for each imaging operation of the continuous shooting as different image processing means. An imaging device characterized by switching .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009055040A JP4914460B2 (en) | 2009-03-09 | 2009-03-09 | Imaging device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009055040A JP4914460B2 (en) | 2009-03-09 | 2009-03-09 | Imaging device |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003399319A Division JP4310177B2 (en) | 2003-11-28 | 2003-11-28 | Imaging apparatus and imaging method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009124760A JP2009124760A (en) | 2009-06-04 |
JP4914460B2 true JP4914460B2 (en) | 2012-04-11 |
Family
ID=40816339
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009055040A Expired - Fee Related JP4914460B2 (en) | 2009-03-09 | 2009-03-09 | Imaging device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4914460B2 (en) |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4338156B2 (en) * | 1999-08-31 | 2009-10-07 | キヤノン株式会社 | Imaging apparatus, imaging method, and storage medium |
JP2002084493A (en) * | 2000-09-08 | 2002-03-22 | Matsushita Electric Ind Co Ltd | Solid-state image pickup device and image pickup method |
-
2009
- 2009-03-09 JP JP2009055040A patent/JP4914460B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2009124760A (en) | 2009-06-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9560256B2 (en) | Image capture apparatus and image capture method in which an image is processed by a plurality of image processing devices | |
JP4840967B2 (en) | Imaging apparatus, image processing method, program, and storage medium | |
JP3822380B2 (en) | Image signal processing device | |
JP4304795B2 (en) | Electronic camera | |
JP6603558B2 (en) | Imaging device and imaging apparatus | |
JP3311715B2 (en) | Digital camera | |
US7365777B2 (en) | Digital camera | |
JP4004346B2 (en) | Imaging apparatus and distortion correction method | |
CN101282421B (en) | Image pickup apparatus and control method thereof | |
JP4560180B2 (en) | Imaging device | |
JP5959194B2 (en) | Imaging device | |
JP5820720B2 (en) | Imaging device | |
JP4310177B2 (en) | Imaging apparatus and imaging method | |
JP2006080860A (en) | Camera and camera image transfer system | |
WO2020137663A1 (en) | Imaging element, imaging device, imaging element operation method, and program | |
JP5355664B2 (en) | Digital camera and control method thereof | |
JP4250511B2 (en) | Imaging device | |
JP4914460B2 (en) | Imaging device | |
JP5484616B2 (en) | Digital camera and control method thereof | |
JP6702792B2 (en) | Image processing apparatus and control method thereof | |
JP6467455B2 (en) | IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND RECORDING MEDIUM | |
JP2009135968A (en) | Digital camera and its control method | |
JP2000101916A (en) | Electronic still camera and its control method | |
JPH07131721A (en) | Digital still camera | |
JP3815068B2 (en) | Electronic still camera and control method thereof |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090309 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110825 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110830 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111031 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120117 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120120 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4914460 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150127 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |