[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP7468632B2 - Image pickup device, image pickup device and apparatus - Google Patents

Image pickup device, image pickup device and apparatus Download PDF

Info

Publication number
JP7468632B2
JP7468632B2 JP2022515422A JP2022515422A JP7468632B2 JP 7468632 B2 JP7468632 B2 JP 7468632B2 JP 2022515422 A JP2022515422 A JP 2022515422A JP 2022515422 A JP2022515422 A JP 2022515422A JP 7468632 B2 JP7468632 B2 JP 7468632B2
Authority
JP
Japan
Prior art keywords
block
exposure
setting unit
exposure condition
chip
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022515422A
Other languages
Japanese (ja)
Other versions
JPWO2021210621A1 (en
Inventor
暢志 雄賀多
えりか 小石
茂 土井田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Publication of JPWO2021210621A1 publication Critical patent/JPWO2021210621A1/ja
Priority to JP2024060589A priority Critical patent/JP2024094339A/en
Application granted granted Critical
Publication of JP7468632B2 publication Critical patent/JP7468632B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10FINORGANIC SEMICONDUCTOR DEVICES SENSITIVE TO INFRARED RADIATION, LIGHT, ELECTROMAGNETIC RADIATION OF SHORTER WAVELENGTH OR CORPUSCULAR RADIATION
    • H10F39/00Integrated devices, or assemblies of multiple devices, comprising at least one element covered by group H10F30/00, e.g. radiation detectors comprising photodiode arrays
    • H10F39/10Integrated devices
    • H10F39/12Image sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮像素子、撮像装置及び装置に関する。 The present invention relates to an imaging element, an imaging device and an apparatus.

特許文献1には、1つの画面を複数のブロックに分割し、各ブロック毎に動き検出してそれぞれ露光時間を制御する撮像装置が記載されている。
[先行技術文献]
[特許文献]
[特許文献1] 特開2006-197192号公報
Japanese Patent Laid-Open No. 2003-233693 describes an imaging device that divides one screen into a plurality of blocks, detects the movement of each block, and controls the exposure time for each block.
[Prior Art Literature]
[Patent Documents]
[Patent Document 1] JP 2006-197192 A

一般的開示General Disclosure

本発明の第1の態様においては、撮像素子を提供する。撮像素子は、入射光に応じて画素信号を発生させる複数の画素と、それぞれが少なくとも二つの画素を含む複数のブロック毎に露光条件を設定する設定部とを備え、設定部は、それぞれのブロックにおける露光条件のブロック間での差が閾値以下となるように、それぞれのブロックに露光条件を設定する。In a first aspect of the present invention, an imaging device is provided. The imaging device includes a plurality of pixels that generate pixel signals in response to incident light, and a setting unit that sets exposure conditions for each of a plurality of blocks, each of which includes at least two pixels, and the setting unit sets exposure conditions for each of the blocks such that the difference between the exposure conditions for each of the blocks is equal to or less than a threshold value.

本発明の第2の態様においては、撮像素子を提供する。撮像素子は、入射光に応じて画素信号を発生させる複数の画素と、それぞれが少なくとも二つの画素を含む複数のブロック毎に露光条件を設定する設定部とを備え、設定部は、ブロック内の画素に対応する輝度の少なくとも2つの代表値に応じて、ブロックに露光条件を設定する。In a second aspect of the present invention, an imaging device is provided. The imaging device includes a plurality of pixels that generate pixel signals in response to incident light, and a setting unit that sets exposure conditions for a plurality of blocks, each block including at least two pixels, and the setting unit sets exposure conditions for the blocks in response to at least two representative values of luminance corresponding to the pixels in the blocks.

本発明の第3の態様においては、第1又は第2の態様の撮像素子を備える撮像装置を提供する。In a third aspect of the present invention, there is provided an imaging device comprising an imaging element of the first or second aspect.

本発明の第4の態様においては、装置を提供する。装置は、入射光に応じて画素信号を発生させる複数の画素を有する撮像素子と、それぞれが少なくとも二つの画素を含む複数のブロック毎に露光条件を設定する設定部と、を備え、設定部は、それぞれのブロックにおける露光条件のブロック間での差が閾値以下となるように、それぞれのブロックに露光条件を設定する。In a fourth aspect of the present invention, there is provided an apparatus. The apparatus includes an image sensor having a plurality of pixels that generate pixel signals in response to incident light, and a setting unit that sets exposure conditions for a plurality of blocks, each of which includes at least two pixels, and the setting unit sets exposure conditions for each block such that the difference between the exposure conditions for each block is equal to or smaller than a threshold value.

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。Note that the above summary of the invention does not list all of the necessary features of the present invention. Also, subcombinations of these features may also be inventions.

本実施形態に係る撮像素子の断面図である。1 is a cross-sectional view of an imaging element according to an embodiment of the present invention. 撮像チップの画素配列とブロックを説明する図である。FIG. 2 is a diagram illustrating a pixel array and blocks of an imaging chip. 撮像チップのブロックに対応する回路図である。FIG. 2 is a circuit diagram corresponding to a block of the imaging chip. 撮像素子の機能的構成を示すブロック図である。FIG. 2 is a block diagram showing a functional configuration of an imaging element. 撮像素子100の機能的構成を示すブロック図である。FIG. 2 is a block diagram showing the functional configuration of the image sensor 100. 撮像素子100の機能的構成を示すブロック図である。FIG. 2 is a block diagram showing the functional configuration of the image sensor 100. 本実施形態に係る撮像装置の構成を示すブロック図である。1 is a block diagram showing a configuration of an imaging device according to an embodiment of the present invention. 露光条件の設定処理の一例を示すフロー図である。FIG. 11 is a flow chart showing an example of a process for setting an exposure condition. 図7のフローに従って設定された露光条件で撮影した画像と、他の方法で設定された露光条件で撮影した画像とを比較した図である。8 is a diagram comparing an image captured under exposure conditions set according to the flow of FIG. 7 with an image captured under exposure conditions set by another method. 露光条件の補正処理の一例を示すフロー図である。FIG. 11 is a flow chart showing an example of a correction process of an exposure condition. 図9に示す露光条件の上限及び下限を設定する具体例を示す図である。10 is a diagram showing a specific example of setting upper and lower limits of the exposure conditions shown in FIG. 9 . FIG. 図10の例に従って露光条件の範囲を制限した撮影画像と、他の方法で露光条件の範囲を制限した撮影画像とを比較した図である。11 is a diagram comparing a captured image in which the range of the exposure condition is restricted according to the example of FIG. 10 with a captured image in which the range of the exposure condition is restricted by another method. 図11に示すそれぞれの撮影画像で使用した露光条件のヒストグラムを示す図である。FIG. 12 is a diagram showing histograms of the exposure conditions used for the respective captured images shown in FIG. 11 . 露光条件の補正処理の他の例を示すフロー図である。FIG. 11 is a flow chart showing another example of the exposure condition correction process. 図13に示す露光条件の均し処理の具体例を示す図である。14A and 14B are diagrams illustrating a specific example of the exposure condition smoothing process illustrated in FIG. 13 . 図14の例に従って均し処理を実行する前後の露光条件を比較した図である。15 is a diagram comparing exposure conditions before and after performing the smoothing process according to the example of FIG. 14. 露光条件の設定処理の変形例を示すフロー図である。FIG. 11 is a flowchart showing a modified example of the exposure condition setting process.

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。The present invention will be described below through embodiments of the invention, but the following embodiments do not limit the scope of the invention. Furthermore, not all of the combinations of features described in the embodiments are necessarily essential to the solution of the invention.

図1は、本実施形態に係る撮像素子100の断面図である。撮像素子100は、入射光に対応した画素信号を出力する撮像チップ113と、画素信号を処理する信号処理チップ111と、画素信号を記憶するメモリチップ112とを備える。これら撮像チップ113、信号処理チップ111およびメモリチップ112は積層されており、Cu等の導電性を有する接続部であるバンプ109により互いに電気的に接続される。 Figure 1 is a cross-sectional view of an image sensor 100 according to this embodiment. The image sensor 100 comprises an image sensor chip 113 that outputs pixel signals corresponding to incident light, a signal processing chip 111 that processes the pixel signals, and a memory chip 112 that stores the pixel signals. The image sensor chip 113, the signal processing chip 111, and the memory chip 112 are stacked and electrically connected to each other by bumps 109, which are conductive connection parts made of Cu or the like.

なお、図示するように、入射光は主に白抜き矢印で示すZ軸プラス方向へ向かって入射する。本実施形態においては、撮像チップ113において、入射光が入射する側の面を裏面と称する。また、座標軸に示すように、Z軸に直交する紙面左方向をX軸プラス方向、Z軸およびX軸に直交する紙面手前方向をY軸プラス方向とする。以降のいくつかの図においては、図1の座標軸を基準として、それぞれの図の向きがわかるように座標軸を表示する。As shown in the figure, incident light is mainly incident in the positive direction of the Z axis, as indicated by the white arrow. In this embodiment, the surface of the imaging chip 113 on which the incident light is incident is referred to as the back surface. Also, as shown on the coordinate axes, the left direction on the paper, perpendicular to the Z axis, is the positive X axis, and the front direction on the paper, perpendicular to the Z axis and the X axis, is the positive Y axis. In the following figures, the coordinate axes are displayed so that the orientation of each figure can be understood, based on the coordinate axes in Figure 1.

撮像チップ113の一例は、裏面照射型のMOSイメージセンサである。PD層106は、配線層108の裏面側に配されている。PD層106は、二次元的に配された複数のPD(フォトダイオード)104、および、PD104に対応して設けられたトランジスタ105を有する。An example of the imaging chip 113 is a back-illuminated MOS image sensor. The PD layer 106 is disposed on the back side of the wiring layer 108. The PD layer 106 has a plurality of PDs (photodiodes) 104 arranged two-dimensionally and transistors 105 provided corresponding to the PDs 104.

PD層106における入射光の入射側にはパッシベーション膜103を介してカラーフィルタ102が設けられる。カラーフィルタ102は、互いに異なる波長領域を透過する複数の種類を有しており、PD104のそれぞれに対応して特定の配列を有している。カラーフィルタ102の配列については後述する。カラーフィルタ102、PD104およびトランジスタ105の組が一つの画素を形成する。A color filter 102 is provided on the incident light side of the PD layer 106 via a passivation film 103. There are multiple types of color filters 102 that transmit different wavelength ranges, and each has a specific arrangement corresponding to each PD 104. The arrangement of the color filters 102 will be described later. A set of a color filter 102, a PD 104, and a transistor 105 forms one pixel.

カラーフィルタ102における入射光の入射側には、それぞれの画素に対応して、マイクロレンズ101が設けられる。マイクロレンズ101は、対応するPD104へ向けて入射光を集光する。A microlens 101 is provided on the incident light side of the color filter 102, corresponding to each pixel. The microlens 101 focuses the incident light onto the corresponding PD 104.

配線層108は、PD層106からの画素信号を信号処理チップ111に伝送する配線107を有する。配線107は多層であってもよく、また、受動素子および能動素子が設けられてもよい。The wiring layer 108 has wiring 107 that transmits pixel signals from the PD layer 106 to the signal processing chip 111. The wiring 107 may be multi-layered and may include passive and active elements.

配線層108の表面には接続部である複数のバンプ109が配される。当該複数のバンプ109が信号処理チップ111の対向する面に設けられた複数のバンプ109と位置合わせされて接合されることにより、撮像チップ113と信号処理チップ111とが電気的に接続される。A plurality of bumps 109, which are connection parts, are arranged on the surface of the wiring layer 108. The plurality of bumps 109 are aligned with and joined to a plurality of bumps 109 provided on the opposing surface of the signal processing chip 111, thereby electrically connecting the imaging chip 113 and the signal processing chip 111.

同様に、信号処理チップ111およびメモリチップ112の互いに対向する面には、接続部である複数のバンプ109が配される。これらのバンプ109が互いに位置合わせされて接合されることにより、信号処理チップ111とメモリチップ112とが電気的に接続される。Similarly, a plurality of bumps 109, which are connection parts, are arranged on the opposing surfaces of the signal processing chip 111 and the memory chip 112. These bumps 109 are aligned with each other and joined, so that the signal processing chip 111 and the memory chip 112 are electrically connected.

なお撮像素子100は、撮像チップ113、信号処理チップ111及びメモリチップ112がチップ化される前のウエハの状態で接合を行い、接合されたウエハをダイシングすることにより形成される。The imaging element 100 is formed by bonding the imaging chip 113, the signal processing chip 111, and the memory chip 112 in the wafer state before they are made into chips, and then dicing the bonded wafer.

ウエハ同士を接合する際、活性化装置によりウエハの表面にプラズマを照射して、ウエハの接合面を活性化する。表面が活性化されたウエハは、接触により生じる水素結合、ファンデルワールス結合、および、共有結合等により接合され、積層基板を形成する。二つのウエハが相互の接触により水素結合をしている場合は、積層基板を形成した後、アニール炉のような加熱装置に積層基板を搬入して加熱することにより、ウエハ間に共有結合を生じさせる。When bonding wafers together, an activation device irradiates the wafer surfaces with plasma to activate the bonding surfaces of the wafers. The wafers with activated surfaces are then bonded together through hydrogen bonds, van der Waals bonds, covalent bonds, and other bonding that occur when the wafers come into contact with each other, forming a laminated substrate. If the two wafers are hydrogen bonded through contact with each other, after the laminated substrate is formed, the laminated substrate is placed in a heating device such as an annealing furnace and heated to create covalent bonds between the wafers.

尚、活性化とは、ウエハの接合面が他のウエハの接合面と接触した場合に、水素結合、ファンデルワールス結合、共有結合等を生じて、溶融することなく固相で接合される状態にすべく、少なくとも一方の基板の接合面を処理する場合を含む。すなわち、活性化とは、ウエハの表面にダングリングボンド(未結合手)を生じさせることによって、結合を形成しやすくすることを含む。 Activation includes treating the bonding surface of at least one of the substrates so that when the bonding surface of the wafer comes into contact with the bonding surface of another wafer, hydrogen bonds, van der Waals bonds, covalent bonds, etc. are generated, resulting in solid-phase bonding without melting. In other words, activation includes making it easier to form bonds by generating dangling bonds on the surface of the wafer.

より具体的には、活性化装置では、例えば減圧雰囲気下において処理ガスである酸素ガスを励起してプラズマ化し、酸素イオンを二つの基板のそれぞれの接合面となる表面に照射する。例えば、ウエハがSi上にSiO膜を形成した基板である場合には、この酸素イオンの照射によって、積層時に接合面となるウエハ表面におけるSiOの結合が切断され、SiおよびOのダングリングボンドが形成される。ウエハの表面にこのようなダングリングボンドを形成することを活性化という場合がある。 More specifically, in the activation device, oxygen gas, which is the process gas, is excited to form plasma in a reduced pressure atmosphere, and oxygen ions are irradiated onto the surfaces that will become the bonding surfaces of the two substrates. For example, if the wafer is a substrate with a SiO film formed on Si, the oxygen ion irradiation breaks the SiO bonds on the wafer surface that will become the bonding surface during lamination, forming dangling bonds of Si and O. The formation of such dangling bonds on the wafer surface is sometimes referred to as activation.

ダングリングボンドが形成された状態の基板を、例えば大気に晒した場合、空気中の水分がダングリングボンドに結合して、基板表面が水酸基(OH基)で覆われる。基板の表面は、水分子と結合しやすい状態、すなわち親水化されやすい状態となる。つまり、活性化により、結果として基板の表面が親水化しやすい状態になる。また、固相の接合では、接合界面における、酸化物等の不純物の存在、接合界面の欠陥等が接合強度に影響する。よって、接合面の清浄化を活性化の一部と見做してもよい。 For example, if a substrate with dangling bonds is exposed to the atmosphere, moisture in the air will bind to the dangling bonds and the substrate surface will become covered with hydroxyl groups (OH groups). The substrate surface will be in a state where it is likely to bind with water molecules, i.e., it will be easily hydrophilized. In other words, activation results in the substrate surface being easily hydrophilized. In solid-phase bonding, the presence of impurities such as oxides at the bonding interface, and defects at the bonding interface, affect the bonding strength. Therefore, cleaning of the bonding surface can be considered part of the activation.

更に、ウエハの活性化は、図示しない装置を用いて、親水化されたウエハの接合面となる表面に純水等を塗布してもよい。これにより、ウエハの表面は、OH基が付着した状態、すなわちOH基で終端された状態となる。Furthermore, the wafer may be activated by applying pure water or the like to the hydrophilized surface of the wafer that will become the bonding surface, using an apparatus not shown. This causes the wafer surface to have OH groups attached to it, i.e., to be terminated with OH groups.

積層基板を加熱処理することにより、二つのウエハの接合面のそれぞれに設けられたバンプ109が互いに一体化されて、ウエハ間で電気的接続が形成される。バンプ109を、例えば、インジウム、錫-銀合金のように低温で溶融する材料で形成することにより、200度以下の低い温度で積層基板をリフロー処理できる。または、バンプ109を銅のように導電性を有する金属で形成した場合、加熱処理によって膨張することによりウエハ間のバンプ109同士が圧接し、固相拡散により接合される。By heating the laminated substrate, the bumps 109 on each of the bonding surfaces of the two wafers are integrated with each other, forming an electrical connection between the wafers. By forming the bumps 109 from a material that melts at a low temperature, such as indium or a tin-silver alloy, the laminated substrate can be reflowed at a low temperature of 200 degrees or less. Alternatively, if the bumps 109 are made from a conductive metal such as copper, they expand during the heating process, causing the bumps 109 between the wafers to be pressed together and bonded by solid-phase diffusion.

なお、バンプ109間の接合には、固相拡散によるCuバンプ接合に限らず、はんだ溶融によるマイクロバンプ結合を採用しても良い。また、バンプ109は、例えば後述する一つの画素ブロックに対して一つ程度設ければ良い。したがって、バンプ109の大きさは、PD104のピッチよりも大きくても良い。また、画素が配列された画素領域以外の周辺領域において、画素領域に対応するバンプ109よりも大きなバンプを併せて設けても良い。The bonding between the bumps 109 is not limited to Cu bump bonding by solid-phase diffusion, but may also employ micro-bump bonding by solder melting. Also, it is sufficient to provide one bump 109 for each pixel block, which will be described later. Therefore, the size of the bump 109 may be larger than the pitch of the PD 104. Also, in a peripheral region other than the pixel region where the pixels are arranged, a bump larger than the bump 109 corresponding to the pixel region may also be provided.

信号処理チップ111は、表裏面にそれぞれ設けられた回路を互いに接続するTSV(シリコン貫通電極)110を有する。TSV110は、周辺領域に設けられることが好ましい。また、TSV110は、撮像チップ113の周辺領域、メモリチップ112にも設けられて良い。また、TSV110は、メモリチップ112に設けられた回路と撮像チップ113に設けられた回路とを電気的に接続するために用いられてもよい。The signal processing chip 111 has TSVs (through silicon vias) 110 that connect the circuits provided on the front and back surfaces of the chip to each other. The TSVs 110 are preferably provided in the peripheral region. The TSVs 110 may also be provided in the peripheral region of the imaging chip 113 and in the memory chip 112. The TSVs 110 may also be used to electrically connect the circuits provided in the memory chip 112 and the circuits provided in the imaging chip 113.

このように、撮像チップ113および信号処理チップ111は、それぞれの対向する面およびバンプ109により接合される。また信号処理チップ111およびメモリチップ112は、それぞれの対向する面で互いに接合されると共に、バンプ109および信号処理チップ111に設けられたTSV110で互いに接続される。尚、信号処理チップ111およびメモリチップ112を、それぞれの対向する面で互いに接合すると共に、バンプ109およびTSV110の少なくとも一方で互いに接続してもよい。In this manner, the imaging chip 113 and the signal processing chip 111 are bonded to each other by their opposing surfaces and the bumps 109. The signal processing chip 111 and the memory chip 112 are bonded to each other by their opposing surfaces and are connected to each other by the bumps 109 and the TSVs 110 provided in the signal processing chip 111. The signal processing chip 111 and the memory chip 112 may be bonded to each other by their opposing surfaces and connected to each other by at least one of the bumps 109 and the TSVs 110.

図2は、撮像チップ113の画素配列とブロック131を説明する図である。特に、撮像チップ113を裏面側から観察した様子を示す。画素領域には2000万個以上もの画素がマトリックス状に配列されている。これらの画素は、少なくとも二つの画素を含むブロックに分割される。本実施形態においては、隣接する4画素×4画素の16画素が一つのブロックを形成する。図の格子線は、隣接する画素が集合的にブロック131を形成する概念を示す。 Figure 2 is a diagram explaining the pixel arrangement of the imaging chip 113 and the block 131. In particular, it shows the imaging chip 113 observed from the back side. More than 20 million pixels are arranged in a matrix in the pixel area. These pixels are divided into blocks containing at least two pixels. In this embodiment, 16 pixels, 4 pixels x 4 adjacent pixels, form one block. The grid lines in the figure show the concept that adjacent pixels collectively form the block 131.

画素領域の部分拡大図に示すように、ブロック131は、緑色画素Gb、Gr、青色画素Bおよび赤色画素Rの4画素から成るいわゆるベイヤー配列を、上下左右に4つ内包する。緑色画素は、カラーフィルタ102として緑色フィルタを有する画素であり、入射光のうち緑色波長帯の光を受光する。同様に、青色画素は、カラーフィルタ102として青色フィルタを有する画素であって青色波長帯の光を受光し、赤色画素は、カラーフィルタ102として赤色フィルタを有する画素であって赤色波長帯の光を受光する。As shown in the enlarged partial view of the pixel area, block 131 contains four so-called Bayer arrays, each consisting of four pixels: green pixels Gb, Gr, blue pixel B, and red pixel R, arranged vertically and horizontally. The green pixels are pixels that have a green filter as the color filter 102 and receive light in the green wavelength band of the incident light. Similarly, the blue pixels are pixels that have a blue filter as the color filter 102 and receive light in the blue wavelength band, and the red pixels are pixels that have a red filter as the color filter 102 and receive light in the red wavelength band.

図3は、撮像チップ113のブロック131に対応する回路図である。図において、代表的に点線で囲む矩形が、1画素に対応する回路を表す。なお、以下に説明する各トランジスタの少なくとも一部は、図1のトランジスタ105に対応する。 Figure 3 is a circuit diagram corresponding to block 131 of imaging chip 113. In the figure, a rectangle surrounded by a dotted line typically represents a circuit corresponding to one pixel. Note that at least some of the transistors described below correspond to transistor 105 in Figure 1.

上述のように、ブロック131は、16画素から形成される。それぞれの画素に対応する16個のPD104は、それぞれ転送トランジスタ302に接続され、各転送トランジスタ302の各ゲートには、転送パルスが供給されるTX配線307に接続される。本実施形態において、TX配線307は、16個の転送トランジスタ302に対して共通接続される。As described above, the block 131 is formed of 16 pixels. The 16 PDs 104 corresponding to each pixel are connected to a transfer transistor 302, and each gate of the transfer transistor 302 is connected to a TX wiring 307 to which a transfer pulse is supplied. In this embodiment, the TX wiring 307 is commonly connected to the 16 transfer transistors 302.

各転送トランジスタ302のドレインは、対応する各リセットトランジスタ303のソースに接続されると共に、転送トランジスタ302のドレインとリセットトランジスタ303のソース間のいわゆるフローティングディフュージョンFDが増幅トランジスタ304のゲートに接続される。リセットトランジスタ303のドレインは電源電圧が供給されるVdd配線310に接続され、そのゲートはリセットパルスが供給されるリセット配線306に接続される。本実施形態において、リセット配線306は、16個のリセットトランジスタ303に対して共通接続される。The drain of each transfer transistor 302 is connected to the source of the corresponding reset transistor 303, and a so-called floating diffusion FD between the drain of the transfer transistor 302 and the source of the reset transistor 303 is connected to the gate of the amplification transistor 304. The drain of the reset transistor 303 is connected to a Vdd wiring 310 to which a power supply voltage is supplied, and its gate is connected to a reset wiring 306 to which a reset pulse is supplied. In this embodiment, the reset wiring 306 is commonly connected to the 16 reset transistors 303.

各々の増幅トランジスタ304のドレインは電源電圧が供給されるVdd配線310に接続される。また、各々の増幅トランジスタ304のソースは、対応する各々の選択トランジスタ305のドレインに接続される。選択トランジスタの各ゲートには、選択パルスが供給されるデコーダ配線308に接続される。本実施形態において、デコーダ配線308は、16個の選択トランジスタ305に対してそれぞれ独立に設けられる。そして、各々の選択トランジスタ305のソースは、共通の出力配線309に接続される。負荷電流源311は、出力配線309に電流を供給する。すなわち、選択トランジスタ305に対する出力配線309は、ソースフォロアにより形成される。なお、負荷電流源311は、撮像チップ113側に設けても良いし、信号処理チップ111側に設けても良い。The drain of each amplification transistor 304 is connected to a Vdd wiring 310 to which a power supply voltage is supplied. The source of each amplification transistor 304 is connected to the drain of the corresponding selection transistor 305. Each gate of the selection transistor is connected to a decoder wiring 308 to which a selection pulse is supplied. In this embodiment, the decoder wiring 308 is provided independently for each of the 16 selection transistors 305. The source of each selection transistor 305 is connected to a common output wiring 309. The load current source 311 supplies a current to the output wiring 309. In other words, the output wiring 309 for the selection transistor 305 is formed by a source follower. The load current source 311 may be provided on the imaging chip 113 side or on the signal processing chip 111 side.

ここで、画素の露光開始から露光終了後の画素信号出力までの流れを説明する。リセット配線306を通じてリセットパルスがリセットトランジスタ303に印加され、同時にTX配線307を通じて転送パルスが転送トランジスタ302に印加されると、PD104およびフローティングディフュージョンFDの電位はリセットされ、露光を開始する。Here, we will explain the flow from the start of pixel exposure to the output of a pixel signal after exposure is completed. When a reset pulse is applied to the reset transistor 303 via the reset wiring 306 and at the same time a transfer pulse is applied to the transfer transistor 302 via the TX wiring 307, the potentials of the PD 104 and the floating diffusion FD are reset and exposure begins.

PD104は、転送パルスの印加が解除されると、受光する入射光を電荷に変換して蓄積する。その後、リセットパルスが印加されていない状態で再び転送パルスが印加されると、露光が終了する。露光終了までに蓄積された電荷はフローティングディフュージョンFDへ転送され、フローティングディフュージョンFDの電位は、リセット電位から露光終了後の信号電位になる。そして、デコーダ配線308を通じて選択パルスが選択トランジスタ305に印加されると、フローティングディフュージョンFDの信号電位の変動が、増幅トランジスタ304および選択トランジスタ305を介して出力配線309に伝わる。これにより、リセット電位と信号電位とに対応する画素信号は、単位画素から出力配線309に出力される。When the transfer pulse is released, the PD 104 converts the incident light it receives into electric charge and accumulates it. After that, when the transfer pulse is applied again without the reset pulse being applied, the exposure ends. The electric charge accumulated until the end of the exposure is transferred to the floating diffusion FD, and the potential of the floating diffusion FD changes from the reset potential to the signal potential after the exposure ends. Then, when a selection pulse is applied to the selection transistor 305 through the decoder wiring 308, the fluctuation of the signal potential of the floating diffusion FD is transmitted to the output wiring 309 via the amplification transistor 304 and the selection transistor 305. As a result, a pixel signal corresponding to the reset potential and the signal potential is output from the unit pixel to the output wiring 309.

図示するように、本実施形態においては、ブロック131を形成する16画素に対して、リセット配線306とTX配線307が共通である。すなわち、リセットパルスと転送パルスはそれぞれ、16画素全てに対して同時に印加される。したがって、ブロック131を形成する全ての画素は、同一のタイミングで露光を開始し、同一のタイミングで露光を終了する。ただし、蓄積された電荷に対応する画素信号は、それぞれの選択トランジスタ305に選択パルスが順次印加されて、選択的に出力配線309に出力される。As shown in the figure, in this embodiment, the reset wiring 306 and TX wiring 307 are common to the 16 pixels that form block 131. That is, the reset pulse and transfer pulse are each applied simultaneously to all 16 pixels. Therefore, all pixels that form block 131 start exposure at the same timing, and end exposure at the same timing. However, pixel signals corresponding to the accumulated charges are selectively output to the output wiring 309 by sequentially applying selection pulses to the respective selection transistors 305.

このようにブロック131を基準として回路を構成することにより、ブロック131ごとに露光時間を制御することができる。ブロックごとに露光時間を制御できるので、隣接するブロック131同士で、異なった露光時間による画素信号をそれぞれ出力させることができる。さらには、全てのブロック131について共通の露光時間を設定しておき、あるブロック131については、1回分の露光と画素信号出力を実行させ、隣接するブロック131については、2回分の露光と画素信号出力を繰り返させるといった制御もできる。後者のような、共通の単位時間による露光および画素信号出力の繰り返し制御を単位時間制御という。なお、単位時間制御を行う場合であって、露光の開始時点および終了時点を、全てのブロック131で同期させるのであれば、リセット配線306は、撮像チップ113上の全てのリセットトランジスタ303に対して共通接続されて良い。 In this way, by configuring the circuit based on the block 131, the exposure time can be controlled for each block 131. Since the exposure time can be controlled for each block, adjacent blocks 131 can output pixel signals with different exposure times. Furthermore, a common exposure time can be set for all blocks 131, and one block 131 can be subjected to one exposure and pixel signal output, while an adjacent block 131 can be subjected to two exposures and pixel signal outputs. The latter type of repeated control of exposure and pixel signal output based on a common unit time is called unit time control. In addition, when performing unit time control, if the start and end points of exposure are synchronized for all blocks 131, the reset wiring 306 may be commonly connected to all reset transistors 303 on the imaging chip 113.

図4は、撮像素子100の機能的構成を示すブロック図である。特にここでは画素信号の流れを説明する。 Figure 4 is a block diagram showing the functional configuration of the image sensor 100. In particular, the flow of pixel signals is explained here.

アナログのマルチプレクサ411は、ブロック131を形成する16個のPD104を順番に選択して、それぞれの画素信号を出力配線309へ出力させる。マルチプレクサ411は、PD104と共に、撮像チップ113に形成される。The analog multiplexer 411 sequentially selects the 16 PDs 104 that form the block 131 and outputs the pixel signals of each to the output wiring 309. The multiplexer 411 is formed in the imaging chip 113 together with the PDs 104.

マルチプレクサ411を介して出力された画素信号は、信号処理チップ111に形成された、相関二重サンプリング(CDS)・アナログ/デジタル(A/D)変換を行う信号処理回路412により、CDSおよびA/D変換が行われる。A/D変換は、入力されるアナログ画素信号を、12bitのデジタル画素信号に変換する。A/D変換された画素信号は、同じく信号処理チップ111に形成された、演算回路415に引き渡される。演算回路415は、受け取った画素信号に、後段の画像処理のために必要な演算処理を施して、デマルチプレクサ413へ引き渡す。The pixel signals output via the multiplexer 411 are subjected to CDS and A/D conversion by a signal processing circuit 412 formed in the signal processing chip 111, which performs correlated double sampling (CDS) and analog-to-digital (A/D) conversion. The A/D conversion converts the input analog pixel signals into 12-bit digital pixel signals. The A/D converted pixel signals are passed to an arithmetic circuit 415, also formed in the signal processing chip 111. The arithmetic circuit 415 performs arithmetic processing required for subsequent image processing on the received pixel signals, and passes them to the demultiplexer 413.

デマルチプレクサ413は、受け取った画素信号をそれぞれの画素に対応する画素メモリ414に格納する。画素メモリ414のそれぞれは、演算処理を実行した後の画素信号を格納できる容量を有する。デマルチプレクサ413および画素メモリ414は、メモリチップ112に形成される。The demultiplexer 413 stores the received pixel signals in pixel memories 414 corresponding to each pixel. Each pixel memory 414 has a capacity capable of storing the pixel signals after arithmetic processing is performed. The demultiplexer 413 and the pixel memories 414 are formed in the memory chip 112.

演算回路415は、演算処理に用いる画素信号を、デマルチプレクサ413を介して画素メモリ414から読み出す。あるいは、外部からの引渡要求に従って、デマルチプレクサ413を介して画素メモリ414から読み出した画素信号を、後段の画像処理部に引き渡す。なお、演算回路415は、メモリチップ112に設けられても良い。The arithmetic circuit 415 reads out pixel signals to be used in the arithmetic processing from the pixel memory 414 via the demultiplexer 413. Alternatively, in response to a transfer request from the outside, the arithmetic circuit 415 transfers the pixel signals read out from the pixel memory 414 via the demultiplexer 413 to a downstream image processing unit. The arithmetic circuit 415 may be provided in the memory chip 112.

また、図では1ブロック分の画素信号の流れを示すが、実際にはこれらがブロックごとに存在して、並列で動作する。ただし、演算回路415はブロックごとに存在しなくても良く、例えば、一つの演算回路415がそれぞれのブロックに対応する画素メモリ414の値を順に参照しながらシーケンシャルに処理しても良い。 Although the figure shows the flow of pixel signals for one block, in reality, these exist for each block and operate in parallel. However, a calculation circuit 415 does not have to exist for each block. For example, one calculation circuit 415 may process sequentially while referring to the values of the pixel memories 414 corresponding to each block in order.

図5Aは、撮像素子100の機能的構成を示すブロック図である。ここでは主に信号処理チップ111の具体的構成と、メモリチップ112に設けられた設定部460について説明する。 Figure 5A is a block diagram showing the functional configuration of the image sensor 100. Here, we will mainly explain the specific configuration of the signal processing chip 111 and the setting unit 460 provided in the memory chip 112.

信号処理チップ111は、分担化された制御機能としてのセンサ制御部441、同期制御部443、信号制御部444と、これらの各制御部を統括制御する駆動制御部420とを含む。駆動制御部420は、撮像装置全体の統合制御を担うシステム制御部501からの指示を、各制御部が実行可能な制御信号に変換してそれぞれに引き渡す。The signal processing chip 111 includes a sensor control unit 441, a synchronization control unit 443, and a signal control unit 444 as distributed control functions, and a drive control unit 420 that controls these control units. The drive control unit 420 converts instructions from a system control unit 501 that is responsible for the overall control of the entire imaging device into control signals that can be executed by each control unit and passes them on to each unit.

センサ制御部441は、撮像チップ113へ送出する、各画素の電荷蓄積、電荷読み出しに関わる制御パルスの送出制御を担う。具体的には、センサ制御部441は、対象画素に対してリセットパルスと転送パルスを送出することにより、露光の開始と終了を制御し、読み出し画素に対して選択パルスを送出することにより、画素信号を出力配線309へ出力させる。The sensor control unit 441 is responsible for controlling the sending of control pulses related to charge accumulation and charge readout of each pixel to be sent to the imaging chip 113. Specifically, the sensor control unit 441 controls the start and end of exposure by sending a reset pulse and a transfer pulse to the target pixel, and outputs a pixel signal to the output wiring 309 by sending a selection pulse to the readout pixel.

同期制御部443は、同期信号を撮像チップ113へ送出する。各パルスは、同期信号に同期して撮像チップ113においてアクティブとなる。例えば、同期信号を調整することにより、同一のブロック131に属する画素の特定画素のみを制御対象とするランダム制御、間引き制御等を実現する。The synchronization control unit 443 sends a synchronization signal to the imaging chip 113. Each pulse becomes active in the imaging chip 113 in synchronization with the synchronization signal. For example, by adjusting the synchronization signal, random control, thinning control, etc., in which only specific pixels belonging to the same block 131 are the control targets, can be realized.

信号制御部444は、主にA/D変換器412bに対するタイミング制御を担う。出力配線309を介して出力された画素信号は、マルチプレクサ411を経てCDS回路412aおよびA/D変換器412bに入力される。A/D変換器412bは、信号制御部444によって制御されて、入力された画素信号をデジタル信号に変換する。デジタル信号に変換された画素信号は、演算回路415に引き渡され、演算処理が施される。演算処理が施された画素信号は、メモリチップ112のデマルチプレクサ413に引き渡され、そしてそれぞれの画素に対応する画素メモリ414にデジタルデータの画素値として格納される。The signal control unit 444 is mainly responsible for timing control of the A/D converter 412b. The pixel signal output via the output wiring 309 is input to the CDS circuit 412a and the A/D converter 412b via the multiplexer 411. The A/D converter 412b is controlled by the signal control unit 444 to convert the input pixel signal into a digital signal. The pixel signal converted into a digital signal is passed to the arithmetic circuit 415, where it is subjected to arithmetic processing. The pixel signal subjected to arithmetic processing is passed to the demultiplexer 413 of the memory chip 112, and is stored as a pixel value of digital data in the pixel memory 414 corresponding to each pixel.

また、駆動制御部420は、システム制御部501からの引渡要求に従って、対象画素信号を演算回路415およびデマルチプレクサ413を介して画素メモリ414から読み出し、撮像装置に設けられた画像処理部511へ引き渡す。画素メモリ414には、引渡要求に従って画素信号を伝送するデータ転送インタフェースが設けられている。データ転送インタフェースは、画像処理部511と繋がるデータ転送ラインと接続されている。データ転送ラインは例えばバスラインのうちのデータバスによって構成される。この場合、システム制御部501から駆動制御部420への引渡要求は、アドレスバスを利用したアドレス指定によって実行される。In addition, the drive control unit 420 reads out the target pixel signal from the pixel memory 414 via the arithmetic circuit 415 and the demultiplexer 413 in accordance with a delivery request from the system control unit 501, and delivers it to the image processing unit 511 provided in the imaging device. The pixel memory 414 is provided with a data transfer interface that transmits the pixel signal in accordance with the delivery request. The data transfer interface is connected to a data transfer line that connects to the image processing unit 511. The data transfer line is, for example, constituted by a data bus among the bus lines. In this case, the delivery request from the system control unit 501 to the drive control unit 420 is executed by address specification using the address bus.

データ転送インタフェースによる画素信号の伝送は、アドレス指定方式に限らず、さまざまな方式を採用しうる。例えば、データ転送を行うときに、各回路の同期に用いられるクロック信号の立ち上がり・立ち下がりの両方を利用して処理を行うダブルデータレート方式を採用し得る。また、アドレス指定などの手順を一部省略することによってデータを一気に転送し、高速化を図るバースト転送方式を採用し得る。また、制御部、メモリ部、入出力部を並列に接続している回線を用いたバス方式、直列にデータを1ビットずつ転送するシリアル方式などを組み合わせて採用することもできる。 Transmission of pixel signals through the data transfer interface is not limited to the addressing method, and various other methods may be used. For example, a double data rate method may be used, which uses both the rising and falling edges of the clock signal used to synchronize each circuit when transferring data. A burst transfer method may also be used, which transfers data all at once by omitting some steps such as addressing, thereby increasing speed. A bus method using lines connecting the control unit, memory unit, and input/output unit in parallel, and a serial method in which data is transferred serially one bit at a time may also be used in combination.

このように構成することにより、画像処理部511は、必要な画素信号に限って受け取ることができるので、特に低解像度の画像を形成する場合などにおいて、高速に画像処理を完了させることができる。 By configuring in this manner, the image processing unit 511 can receive only the necessary pixel signals, thereby completing image processing quickly, especially when forming low-resolution images.

メモリチップ112は、ブロック131毎に露光条件を設定する設定部460を更に含む。設定部460は、システム制御部501からシーンの輝度分布を取得し、輝度分布に応じて、ブロック131毎に露光条件を設定する。露光条件とは、取得する画像の明るさを変化させる条件で、例えば、露光時間、絞り値、ISO感度等である。The memory chip 112 further includes a setting unit 460 that sets exposure conditions for each block 131. The setting unit 460 acquires the luminance distribution of the scene from the system control unit 501, and sets exposure conditions for each block 131 according to the luminance distribution. The exposure conditions are conditions that change the brightness of the image to be acquired, such as exposure time, aperture value, and ISO sensitivity.

また設定部460は、メモリ容量、要求されるダイナミックレンジ等の様々な要件に応じて、露光条件を補正する。設定部460による露光条件の設定及び補正処理については後述する。また設定部460は、それぞれのブロック131の露光時間に応じてシャッタの開閉タイミングを決定する。The setting unit 460 also corrects the exposure conditions according to various requirements such as memory capacity and required dynamic range. The setting and correction process of the exposure conditions by the setting unit 460 will be described later. The setting unit 460 also determines the timing of opening and closing the shutter according to the exposure time of each block 131.

メモリチップ112は、露光条件に応じて撮像モードを切り替えるモード切替部470を更に含む。一例として、モード切替部470は、複数のブロックにおける最大露光条件と最小露光条件との差が第1の値である第1モードと、差が第1の値よりも小さい第2モードとを切り替える。The memory chip 112 further includes a mode switching unit 470 that switches the imaging mode according to the exposure conditions. As an example, the mode switching unit 470 switches between a first mode in which the difference between the maximum exposure condition and the minimum exposure condition in the multiple blocks is a first value, and a second mode in which the difference is smaller than the first value.

あるいは、モード切替部470は、複数のブロックのうち第1ブロックの露光条件と、第1ブロックに隣接した複数のブロックのそれぞれの露光条件との差の絶対値の最大値が第1の値である第1モードと、最大値が第1の値よりも小さい第2モードとを切り替えてもよい。Alternatively, the mode switching unit 470 may switch between a first mode in which the maximum absolute value of the difference between the exposure conditions of a first block among the multiple blocks and the exposure conditions of each of the multiple blocks adjacent to the first block is a first value, and a second mode in which the maximum value is smaller than the first value.

設定部460による露光条件の設定及び補正処理については後述するが、第1モードでは、画像全体ではなく、隣接するブロック間での差が小さくなるように露光条件が設定されるので、明領域及び暗領域の犠牲を抑制しつつ均等化された露光条件での撮像が可能である。第2モードでは、第1モードよりもさらに均等化された露光条件での撮像が可能である。The setting and correction processing of exposure conditions by the setting unit 460 will be described later, but in the first mode, the exposure conditions are set so as to reduce the difference between adjacent blocks rather than the entire image, making it possible to capture images under equalized exposure conditions while minimizing the sacrifice of bright and dark areas. In the second mode, it is possible to capture images under even more equalized exposure conditions than in the first mode.

例えば、モード切替部470は、システム制御部501を介してユーザからの指示を受け、第1モード又は第2モードのいずれかを設定部460に指示する。第1モードにおいて、設定部460は、露光条件の差の最大値が第1の値以下となるようにブロック131毎に露光条件を設定し、設定した露光条件を駆動制御部420に引き渡す。一方、第2モードにおいて、設定部460は、露光条件の差の最大値が第1の値より小さくなるようにブロック131毎に露光条件を設定し、設定した露光条件を駆動制御部420に引き渡す。駆動制御部420は、取得した露光条件に従ってそれぞれの画素を露光させるように、センサ制御部441を制御する。For example, the mode switching unit 470 receives an instruction from the user via the system control unit 501 and instructs the setting unit 460 to select either the first mode or the second mode. In the first mode, the setting unit 460 sets the exposure conditions for each block 131 so that the maximum value of the difference between the exposure conditions is equal to or less than the first value, and passes the set exposure conditions to the drive control unit 420. On the other hand, in the second mode, the setting unit 460 sets the exposure conditions for each block 131 so that the maximum value of the difference between the exposure conditions is smaller than the first value, and passes the set exposure conditions to the drive control unit 420. The drive control unit 420 controls the sensor control unit 441 to expose each pixel according to the acquired exposure conditions.

あるいは、モード切替部470は、第1の露光条件を用いる標準モードと、第1の露光条件を補正した第2の露光条件を用いる補正モードとの間で撮像モードを切り替えてもよい。一例として、第1の露光条件とは、設定部460がシーンの輝度分布に応じて初期設定した露光条件であり、第2の露光条件とは、第1の露光条件に補正処理が施された露光条件である。Alternatively, the mode switching unit 470 may switch the imaging mode between a standard mode using a first exposure condition and a correction mode using a second exposure condition obtained by correcting the first exposure condition. As an example, the first exposure condition is an exposure condition initially set by the setting unit 460 according to the luminance distribution of the scene, and the second exposure condition is an exposure condition obtained by performing a correction process on the first exposure condition.

一例としてモード切替部470は、システム制御部501を介してユーザからの指示を受け、標準モード又は補正モードのいずれかを設定部460に指示する。標準モードにおいて、設定部460は、ブロック131毎に露光条件を設定した後、設定された露光条件を補正することなく、駆動制御部420に引き渡す。一方、補正モードにおいて、設定部460は、ブロック131毎に露光条件を設定した後、設定された露光条件を補正し、補正後の露光条件を駆動制御部420に引き渡す。駆動制御部420は、取得した露光条件に従ってそれぞれの画素を露光させるように、センサ制御部441を制御する。As an example, the mode switching unit 470 receives an instruction from the user via the system control unit 501 and instructs the setting unit 460 to select either the standard mode or the correction mode. In the standard mode, the setting unit 460 sets the exposure conditions for each block 131, and then passes the set exposure conditions to the drive control unit 420 without correcting them. On the other hand, in the correction mode, the setting unit 460 sets the exposure conditions for each block 131, and then corrects the set exposure conditions, and passes the corrected exposure conditions to the drive control unit 420. The drive control unit 420 controls the sensor control unit 441 to expose each pixel according to the acquired exposure conditions.

図5Bは、撮像素子100の機能的構成を示すブロック図である。ここでは、設定部460が信号処理チップ111に設けられた場合について説明する。 Figure 5B is a block diagram showing the functional configuration of the image sensor 100. Here, we explain the case where the setting unit 460 is provided in the signal processing chip 111.

設定部460は、図5Aに示す例と同様に、システム制御部501からシーンの輝度分布を取得し、輝度分布に応じて、ブロック131毎に露光条件を設定する。また設定部460は、メモリ容量、要求されるダイナミックレンジ等の様々な要件に応じて、露光条件を補正する。また設定部460は、それぞれのブロック131の露光時間に応じてシャッタの開閉タイミングを決定する。 As in the example shown in FIG. 5A, the setting unit 460 acquires the luminance distribution of the scene from the system control unit 501, and sets the exposure conditions for each block 131 according to the luminance distribution. The setting unit 460 also corrects the exposure conditions according to various requirements such as memory capacity and required dynamic range. The setting unit 460 also determines the timing of opening and closing the shutter according to the exposure time of each block 131.

図5Bに示す例では、モード切替部470も信号処理チップ111に設けられている。モード切替部470は、図5Aに示す例と同様に、システム制御部501を介してユーザからの指示を受け、標準モード又は補正モードのいずれかを設定部460に指示する。標準モードにおいて、設定部460は、ブロック131毎に露光条件を設定した後、設定された露光条件を補正することなく、駆動制御部420に引き渡す。一方、補正モードにおいて、設定部460は、ブロック131毎に露光条件を設定した後、設定された露光条件を補正し、補正後の露光条件を駆動制御部420に引き渡す。In the example shown in FIG. 5B, a mode switching unit 470 is also provided in the signal processing chip 111. As in the example shown in FIG. 5A, the mode switching unit 470 receives an instruction from the user via the system control unit 501 and instructs the setting unit 460 to select either the standard mode or the correction mode. In the standard mode, the setting unit 460 sets the exposure conditions for each block 131, and then passes the set exposure conditions to the drive control unit 420 without correcting them. On the other hand, in the correction mode, the setting unit 460 sets the exposure conditions for each block 131, and then corrects the set exposure conditions, and passes the corrected exposure conditions to the drive control unit 420.

このように、設定部460およびモード切替部470は、メモリチップ112に設けられてもよく、信号処理チップ111に設けられてもよい。図5Aに示すように、設定部460およびモード切替部470がメモリチップ112に設けられた場合、バンプ109およびTSV110を介して伝送の高速化を図りつつ、信号処理チップ111ではより広いスペースが確保される。図5Bに示すように、設定部460およびモード切替部470が信号処理チップ111に設けられた場合、各制御部を統括制御する駆動制御部420と同じチップ上にあることから、処理の高速化が実現される。In this way, the setting unit 460 and the mode switching unit 470 may be provided in the memory chip 112 or in the signal processing chip 111. As shown in FIG. 5A, when the setting unit 460 and the mode switching unit 470 are provided in the memory chip 112, a larger space is secured in the signal processing chip 111 while speeding up transmission via the bump 109 and the TSV 110. As shown in FIG. 5B, when the setting unit 460 and the mode switching unit 470 are provided in the signal processing chip 111, they are on the same chip as the drive control unit 420 that controls each control unit, so that high-speed processing is realized.

図6は、本実施形態に係る撮像装置の構成を示すブロック図である。撮像装置500は、撮影光学系としての撮影レンズ520を備え、撮影レンズ520は、光軸Oに沿って入射する被写体光束を撮像素子100へ導く。撮影レンズ520は、撮像装置500に対して着脱できる交換式レンズであっても構わない。撮像装置500は、撮像素子100、システム制御部501、測光部503、ワークメモリ504、記録部505、および表示部506を主に備える。システム制御部501は、ユーザからの指示を受けて、撮像素子100へ送信する撮像指示を生成する撮像指示部の機能を担う。 Figure 6 is a block diagram showing the configuration of an imaging device according to this embodiment. The imaging device 500 includes a photographing lens 520 as an imaging optical system, which guides a subject light beam incident along an optical axis O to the imaging element 100. The photographing lens 520 may be an interchangeable lens that can be attached to and detached from the imaging device 500. The imaging device 500 mainly includes the imaging element 100, a system control unit 501, a photometry unit 503, a work memory 504, a recording unit 505, and a display unit 506. The system control unit 501 functions as an imaging instruction unit that receives instructions from a user and generates imaging instructions to be sent to the imaging element 100.

撮影レンズ520は、複数の光学レンズ群から構成され、シーンからの被写体光束をその焦点面近傍に結像させる。なお、図6では瞳近傍に配置された仮想的な1枚のレンズで代表して表している。上述の通り、撮像素子100の駆動制御部420は、システム制御部501からの指示に従って撮像素子100の露光制御を実行する制御回路である。The photographing lens 520 is composed of a group of multiple optical lenses, and focuses the subject light beam from the scene near its focal plane. Note that in FIG. 6, it is represented by a virtual single lens placed near the pupil. As described above, the drive control unit 420 of the image sensor 100 is a control circuit that performs exposure control of the image sensor 100 according to instructions from the system control unit 501.

撮像素子100は、画素信号をシステム制御部501の画像処理部511へ引き渡す。画像処理部511は、ワークメモリ504をワークスペースとして種々の画像処理を施し、画像データを生成する。例えば、JPEGファイル形式の画像データを生成する場合は、ホワイトバランス処理、ガンマ処理等を施した後に圧縮処理を実行する。生成された画像データは、記録部505に記録されるとともに、表示信号に変換されて予め設定された時間の間、表示部506に表示される。なお、画像処理部511は、システム制御部501とは独立したASICとして構成されても良く、メモリチップ112に設けられてもよい。The image sensor 100 passes the pixel signal to the image processing unit 511 of the system control unit 501. The image processing unit 511 performs various image processing using the work memory 504 as a workspace to generate image data. For example, when generating image data in a JPEG file format, compression processing is performed after white balance processing, gamma processing, etc. The generated image data is recorded in the recording unit 505 and converted into a display signal and displayed on the display unit 506 for a preset time. The image processing unit 511 may be configured as an ASIC independent of the system control unit 501, or may be provided in the memory chip 112.

測光部503は、画像データを生成する一連の撮影シーケンスに先立ち、シーンの輝度分布を検出する。測光部503は、例えば100万画素程度のAEセンサを含む。システム制御部501の演算部512は、測光部503の出力を受けてシーンの領域ごとの輝度を算出する。なお、演算部512は、撮像装置500を動作させるための各種演算も実行する。また演算部512は、上述した設定部460の機能を担ってもよい。The photometry unit 503 detects the luminance distribution of the scene prior to a series of shooting sequences that generate image data. The photometry unit 503 includes an AE sensor with approximately 1 million pixels, for example. The calculation unit 512 of the system control unit 501 receives the output of the photometry unit 503 and calculates the luminance of each area of the scene. The calculation unit 512 also performs various calculations to operate the imaging device 500. The calculation unit 512 may also perform the functions of the setting unit 460 described above.

次に、本実施形態の撮像素子における露光条件の設定及び補正について、図を参照しながら説明する。Next, the setting and correction of exposure conditions in the image sensor of this embodiment will be explained with reference to the figures.

従来、カメラが一度に撮影できるダイナミックレンジには限りがある。例えば、シーンの明領域に合わせて短い露光時間(「短秒」という場合がある)で撮影すると、画像の暗領域で黒潰れが発生する。逆に、シーンの暗領域に合わせて長い露光時間(「長秒」という場合がある)で撮影すると、画像の明領域で白飛びが発生する。 Traditionally, cameras have a limited dynamic range that they can capture in one shot. For example, shooting with a short exposure time (sometimes called "short seconds") to match the bright areas of a scene results in crushed shadows in the dark areas of the image. Conversely, shooting with a long exposure time (sometimes called "long seconds") to match the dark areas of a scene results in blown-out highlights in the bright areas of the image.

そこで近年、ダイナミックレンジの広い画像を取得するために、複数枚の画像を撮影し、合成するハイダイナミックレンジ技術が用いられている。ハイダイナミックレンジ技術とは、露光条件を変えて複数枚の画像を撮影し、各画像の必要な領域だけを抽出して合成する技術である。これにより、実質的にダイナミックレンジを拡大することができる。In recent years, therefore, high dynamic range technology has been used to capture multiple images and combine them to obtain images with a wide dynamic range. High dynamic range technology is a technique in which multiple images are captured under different exposure conditions, and only the necessary areas of each image are extracted and combined. This effectively expands the dynamic range.

しかしながら、シーンの明領域と暗領域とのギャップが大きいと、ダイナミックレンジが広くなりすぎ、メモリがオーバーフローするという問題がある。例えばダイナミックレンジをEV値の差ΔEVとすると、合成に必要な撮影枚数は2ΔEV枚以上となる。 However, if the gap between the bright and dark areas of a scene is large, the dynamic range becomes too wide, causing a problem of memory overflow. For example, if the dynamic range is the difference in EV value, ΔEV, the number of shots required for composition is 2 ΔEV or more.

[露光条件の設定]
図7は、露光条件の設定処理の一例を示すフロー図である。上述したように、設定部460は、システム制御部501から取得したシーンの輝度分布に従って、ブロック131毎に露光条件を設定する。なお、シーンの輝度分布は、ユーザからの事前撮影指示を受けて算出されてよい。例えば、システム制御部501がシャッタスイッチの押下を検知すると、測光部503が測光処理を実行し、演算部512が測光部503からの出力に基づいてシーンの輝度分布を算出する。
[Setting exposure conditions]
7 is a flow diagram showing an example of the exposure condition setting process. As described above, the setting unit 460 sets the exposure condition for each block 131 according to the luminance distribution of the scene acquired from the system control unit 501. The luminance distribution of the scene may be calculated in response to a pre-shooting instruction from the user. For example, when the system control unit 501 detects the pressing of the shutter switch, the photometry unit 503 executes a photometry process, and the calculation unit 512 calculates the luminance distribution of the scene based on the output from the photometry unit 503.

処理710において、設定部460は、輝度分布から代表値1を算出する。一例として代表値1は、対象とするブロック131内の画素に対応する輝度の平均値(平均輝度)である。In process 710, the setting unit 460 calculates a representative value 1 from the luminance distribution. As an example, the representative value 1 is the average value (average luminance) of the luminance values corresponding to the pixels in the target block 131.

処理720において、設定部460は、輝度分布から代表値2を算出する。一例として代表値2は、対象とするブロック131内の画素に対応する輝度の最大値(最大輝度)である。In process 720, the setting unit 460 calculates a representative value 2 from the luminance distribution. As an example, the representative value 2 is the maximum luminance value (maximum luminance) corresponding to the pixels in the target block 131.

処理730において、設定部460は、代表値1及び2に応じて、対象とするブロック131の露光条件を設定する。一例として、設定部460は、平均輝度および最大輝度が等しいか否かを判断する。設定部460は、平均輝度および最大輝度が等しいと判断した場合は、平均輝度に対応する露光時間を、対象とするブロック131の露光条件として設定する。設定部460は、最大輝度が平均輝度よりも大きいと判断した場合は、平均輝度に対応する露光時間で、対象とするブロック131内の画素が飽和するか否かを判断する。飽和しないと判断した場合、設定部460は、平均輝度に対応する露光時間を、対象とするブロック131の露光条件として設定する。逆に、飽和すると判断した場合、設定部460は、最大輝度に対応する露光時間を、対象とするブロック131の露光条件として設定する。In process 730, the setting unit 460 sets the exposure conditions of the target block 131 according to the representative values 1 and 2. As an example, the setting unit 460 judges whether the average brightness and the maximum brightness are equal. If the setting unit 460 judges that the average brightness and the maximum brightness are equal, it sets the exposure time corresponding to the average brightness as the exposure condition of the target block 131. If the setting unit 460 judges that the maximum brightness is greater than the average brightness, it judges whether the pixels in the target block 131 will be saturated at the exposure time corresponding to the average brightness. If it is judged that they will not be saturated, the setting unit 460 sets the exposure time corresponding to the average brightness as the exposure condition of the target block 131. Conversely, if it is judged that they will be saturated, the setting unit 460 sets the exposure time corresponding to the maximum brightness as the exposure condition of the target block 131.

処理740において、駆動制御部420は、ブロック131毎に設定された露光条件でそれぞれの画素を露光させるようにセンサ制御部441を制御し、画像処理部511は生成した複数の画像を合成する。なお、後述するように、設定部460は、処理740の前に、設定された露光条件を補正し、補正された露光条件を駆動制御部420に引き渡してよい。In process 740, the drive control unit 420 controls the sensor control unit 441 to expose each pixel under the exposure conditions set for each block 131, and the image processing unit 511 synthesizes the generated multiple images. Note that, as described below, the setting unit 460 may correct the set exposure conditions before process 740 and transfer the corrected exposure conditions to the drive control unit 420.

なお最大輝度は、事前撮影された画像における輝度のヒストグラムにおいて、上位から予め定められた範囲の輝度から算出してもよい。最大輝度及び平均輝度に対応する露光時間は、事前撮影された画像における輝度の最大値及び平均値をそれぞれ目標最大値及び平均値に換算した場合の露光時間であり、以下の式に従って算出してよい。

Figure 0007468632000001
Figure 0007468632000002
The maximum luminance may be calculated from a predetermined range of luminance from the top in a luminance histogram of the pre-captured image. The exposure times corresponding to the maximum luminance and the average luminance are exposure times when the maximum and average luminance values in the pre-captured image are converted to target maximum and average values, respectively, and may be calculated according to the following formula.
Figure 0007468632000001
Figure 0007468632000002

ここで、I0,Max及びI0,Ave.は、それぞれ事前撮影された画像における輝度の最大値及び平均値であり、tはその露光時間である。ITarget,Max及びITarget,Ave.は、それぞれ目標最大値及び平均値であり、tMax及びtAve.は、それぞれ目標最大値及び平均値に対応する露光時間である。 Here, I0,Max and I0 ,Ave are the maximum and average luminance values in the pre-captured image, respectively, and t0 is the exposure time. ITarget,Max and ITarget,Ave are the target maximum and average values, respectively, and tMax and tAve are the exposure times corresponding to the target maximum and average values, respectively.

設定部460は、下記の式の通り、2つの代表値に対応する露光時間のうち短い方、すなわち明領域寄りの露光時間を採用してよい。

Figure 0007468632000003
The setting section 460 may use the shorter of the exposure times corresponding to the two representative values, that is, the exposure time closer to the bright region, as shown in the following formula.
Figure 0007468632000003

ここでtは、露光条件として設定される露光時間である。ただし、露光時間tAve.を採用するとブロック131内の画素が飽和する場合には、設定部460は暗領域寄りの露光時間であるtMaxを採用してよい。 Here, t is the exposure time set as an exposure condition. However, if the pixels in the block 131 are saturated when the exposure time t Ave is adopted, the setting unit 460 may adopt t Max , which is an exposure time closer to the dark region.

図8は、図7のフローに従って設定された露光条件で撮影した画像と、他の方法で設定された露光条件で撮影した画像とを比較した図である。上段の(A)は、輝度の平均値のみを使用して露光時間を設定した場合の撮影画像と、その露光時間設定である。下段の(B)は、輝度の平均値及び最大値を使用して露光時間を設定した場合の撮影画像と、その露光時間設定である。いずれの画像も同じシーン、すなわち室内から窓越しに屋外の景色を撮影したものである。なお露光時間設定は、ブロックの色が明るい(白に近い)ほど長秒露光(暗領域重視)であり、暗い(黒に近い)ほど短秒露光(明領域重視)であることを意味する。 Figure 8 is a diagram comparing an image taken under exposure conditions set according to the flow in Figure 7 with an image taken under exposure conditions set by another method. (A) in the top row shows an image taken when the exposure time was set using only the average brightness value, and the corresponding exposure time setting. (B) in the bottom row shows an image taken when the exposure time was set using the average and maximum brightness values, and the corresponding exposure time setting. Both images are of the same scene, that is, an outdoor view taken from indoors through a window. Note that the exposure time setting means that the brighter the color of the block (closer to white), the longer the exposure time (emphasis on dark areas), and the darker the color (closer to black), the shorter the exposure time (emphasis on bright areas).

(A)の撮影画像では、窓枠近傍及び窓に組み付けられた格子が交差する領域(特に、白矢印で示す部分)でブロック境界が目立っている。これは、窓枠及び格子と窓ガラスのような明暗差の大きい領域が1つのブロック131内に含まれる場合に、輝度の平均値のみを使用した露光時間設定では明領域に対応する画素が飽和し、十分に情報が取得できなかったためである。一方で(B)は、このようなブロックでは平均値を採用せず、最大値に対応する露光時間が設定されるため、飽和が生じることなく、(A)のような弊害は見られない。In the captured image of (A), the block boundaries are noticeable near the window frame and in the area where the lattice attached to the window intersects (particularly the area indicated by the white arrow). This is because when a single block 131 contains an area with a large difference in brightness, such as the window frame and lattice and the window glass, the pixels corresponding to the bright areas become saturated when the exposure time is set using only the average brightness value, making it impossible to obtain sufficient information. On the other hand, in (B), the average value is not used for such blocks, and the exposure time corresponding to the maximum value is set, so saturation does not occur and the adverse effects of (A) are not seen.

以上のように、ブロック131の露光条件を平均輝度に応じて設定すると、平均値よりも大きい輝度に対応する画素で飽和が生じるおそれがある。そこで平均輝度に対応する露光条件でも飽和が生じない場合にはその露光条件を採用し、飽和が生じる場合にはもう1つの代表値に対応する露光条件を採用する。これにより、ブロック131内における飽和を防止しつつ、適正露光を実現することができる。As described above, if the exposure conditions for block 131 are set according to the average brightness, there is a risk of saturation occurring in pixels corresponding to brightness greater than the average value. Therefore, if saturation does not occur under the exposure conditions corresponding to the average brightness, those exposure conditions are adopted, and if saturation does occur, exposure conditions corresponding to another representative value are adopted. This makes it possible to prevent saturation within block 131 while achieving proper exposure.

なお、上述した露光条件の設定処理は、次に説明する露光条件の補正処理を行うベースとなる露光条件を設定するときに実行される。あるいは、上述した露光条件の設定処理は、露光条件の補正処理で設定された露光条件で白飛び又は黒潰れが発生するか否かを判断するために実行され、白飛び等が発生すると判断した場合には、補正処理が繰り返し実行される。The exposure condition setting process described above is executed when setting the exposure conditions that serve as the basis for the exposure condition correction process described next. Alternatively, the exposure condition setting process described above is executed to determine whether or not highlight blowout or blackout will occur under the exposure conditions set in the exposure condition correction process, and if it is determined that highlight blowout or blackout will occur, the correction process is executed repeatedly.

[露光条件の補正]
図9は、露光条件の補正処理の一例を示すフロー図である。まず処理910において、設定部460は、上述したようにブロック131毎に露光条件を設定する。
[Correction of Exposure Conditions]
9 is a flow chart showing an example of a correction process for the exposure conditions. First, in process 910, the setting unit 460 sets the exposure conditions for each block 131 as described above.

設定部460は、それぞれのブロック131における露光条件の差が閾値以下となるように、それぞれのブロックに設定された露光条件を補正する。具体的には、処理920において、設定部460は、それぞれのブロック131の露光条件のヒストグラムを作成する。処理930において、設定部460は、ヒストグラムに応じて上限及び下限を設定する。すなわち、設定部460は、ヒストグラムにおける最大値と最小値との差が閾値以下となるように、それぞれのブロック131に設定された露光条件を補正する。The setting unit 460 corrects the exposure conditions set for each block 131 so that the difference between the exposure conditions in each block 131 is equal to or less than a threshold value. Specifically, in process 920, the setting unit 460 creates a histogram of the exposure conditions in each block 131. In process 930, the setting unit 460 sets upper and lower limits according to the histogram. That is, the setting unit 460 corrects the exposure conditions set for each block 131 so that the difference between the maximum and minimum values in the histogram is equal to or less than a threshold value.

図10は、図9に示す露光条件の上限及び下限を設定する具体例を示す図である。ここで、露光条件を露光時間TV、閾値TH(最大TVと最小TVとのTV差)を5とする。(1)のヒストグラムHは、初期設定の露光条件のヒストグラムを示し、最大TVは9、最小TVは2である。従ってTV差は7であり、THより大きいので、露光条件を補正する必要がある。 Figure 10 is a diagram showing a specific example of setting the upper and lower limits of the exposure conditions shown in Figure 9. Here, the exposure condition is the exposure time TV, and the threshold value TH (TV difference between maximum TV and minimum TV) is 5. Histogram H in (1) shows a histogram of the initial exposure conditions, where the maximum TV is 9 and the minimum TV is 2. Therefore, the TV difference is 7, which is greater than TH, so the exposure conditions need to be corrected.

設定部460は、最大TVの頻度と最小TVの頻度とを比較する。ここで、最大TVの頻度は最小TVの頻度より小さいので、設定部460は、最大TVを2番目に大きいTVに補正する。つまり、TV9の頻度が2番目に大きいTV8に加算される。このように最大TVのTV9が丸められた結果、(2)のヒストグラムHが得られる。The setting unit 460 compares the frequency of the maximum TV with the frequency of the minimum TV. Here, since the frequency of the maximum TV is smaller than the frequency of the minimum TV, the setting unit 460 corrects the maximum TV to the second largest TV. In other words, the frequency of TV9 is added to the second largest TV8. As a result of rounding the maximum TV, TV9, in this way, histogram H of (2) is obtained.

(2)のヒストグラムHでは、最大TVは8、最小TVは2である。従ってTV差は6であり、THより大きいので、露光条件を補正する必要がある。設定部460は、最大TVの頻度と最小TVの頻度とを比較する。ここで、最小TVの頻度は最大TVの頻度より小さいので、設定部460は、最小TVを2番目に小さいTVに補正する。つまり、TV2の頻度が2番目に小さいTV3に加算される。このように最小TVのTV2が丸められた結果、(3)のヒストグラムHが得られる。In histogram H of (2), the maximum TV is 8 and the minimum TV is 2. Therefore, the TV difference is 6, which is greater than TH, and so the exposure conditions need to be corrected. The setting unit 460 compares the frequency of the maximum TV with the frequency of the minimum TV. Here, since the frequency of the minimum TV is smaller than the frequency of the maximum TV, the setting unit 460 corrects the minimum TV to the second smallest TV. In other words, the frequency of TV2 is added to the second smallest TV3. As a result of rounding the minimum TV TV2 in this way, histogram H of (3) is obtained.

(3)のヒストグラムHでは、最大TVは7、最小TVは3である。従ってTV差は5であり、THに等しいので、露光条件をこれ以上補正することなく処理は終了する。設定部460は、(3)のヒストグラムHに応じて対応するブロック131の露光条件を補正し、補正された露光条件を駆動制御部420に引き渡す。以後の処理は上述したとおりなので説明を省略する。 In histogram H of (3), the maximum TV is 7 and the minimum TV is 3. Therefore, the TV difference is 5, which is equal to TH, and processing ends without further correction of the exposure conditions. The setting unit 460 corrects the exposure conditions of the corresponding block 131 according to histogram H of (3), and passes the corrected exposure conditions to the drive control unit 420. The subsequent processing is as described above, so explanation is omitted.

図11は、図10の例に従って露光条件の範囲を制限した撮影画像と、他の方法で露光条件の範囲を制限した撮影画像とを比較した図である。(A)は、最大TVを保持しつつ範囲を制限した場合の撮影画像(暗領域重視)、(B)は、最小TVを保持しつつ範囲を制限した場合の撮影画像(明領域重視)、(C)は、図10の例に従ってTVを制限した撮影画像である。いずれの画像も同じシーン、すなわち室内から窓越しに屋外の景色を撮影したものである。 Figure 11 is a diagram comparing images captured when the range of exposure conditions is restricted according to the example of Figure 10 with images captured when the range of exposure conditions is restricted by another method. (A) is an image captured when the range is restricted while maintaining maximum TV (emphasis on dark areas), (B) is an image captured when the range is restricted while maintaining minimum TV (emphasis on light areas), and (C) is an image captured when TV is restricted according to the example of Figure 10. All images are of the same scene, i.e., an outdoor view captured from indoors through a window.

図12は、図11に示すそれぞれの撮影画像で使用した露光条件のヒストグラムを示す図である。(A)、(B)及び(C)は、元設定(O)のTV範囲3~17に対し、許容差(閾値TH)8TVで制限がかけられている。最大TVを保持した(A)のTV範囲は9~17TVであり、下限9TV未満のTVがカットされている。最小TVを保持(B)のTV範囲は3~11TVであり、上限11TVを超えるTVがカットされている。頻度に応じて制限した(C)のTV範囲は7~15であり、下限7TV未満のTVと、上限15TVを超えるTVがカットされている。 Figure 12 shows histograms of the exposure conditions used for each captured image shown in Figure 11. In (A), (B), and (C), the TV range of 3 to 17 in the original setting (O) is limited by a tolerance (threshold TH) of 8 TV. The TV range of (A), which maintains the maximum TV, is 9 to 17 TV, with TVs below the lower limit of 9 TV being cut off. The TV range of (B), which maintains the minimum TV, is 3 to 11 TV, with TVs exceeding the upper limit of 11 TV being cut off. The TV range of (C), which is limited according to frequency, is 7 to 15, with TVs below the lower limit of 7 TV and TVs exceeding the upper limit of 15 TV being cut off.

再び図11に戻ると、明領域重視の(B)では窓の外の景色(建物及び樹木)の情報が取得できているのに対し、暗領域重視の(A)では同じ明領域の情報が取得できず、白飛びが発生していることがわかる。一方、(C)では、同じ明領域の情報の情報がある程度取得できている。なお図示していないが、反対に明領域重視の(B)では、暗領域のS/N比が悪化し、黒潰れが発生するおそれがある。Returning to Figure 11, we can see that (B), which emphasizes bright areas, is able to capture information about the view outside the window (buildings and trees), whereas (A), which emphasizes dark areas, is unable to capture the same information in the bright areas, resulting in blown-out highlights. On the other hand, (C) is able to capture a certain amount of information about the same bright areas. Conversely, although not shown, (B), which emphasizes bright areas, has a worsening S/N ratio in dark areas, which may result in crushed shadows.

このように、露光条件の範囲を単純に制限すると明領域又は暗領域のいずれかを犠牲にすることになるが、露光条件の頻度に応じて範囲を制限することにより、メモリのオーバーフローを防止しつつ、明領域及び暗領域の犠牲を最小限にすることができる。In this way, simply limiting the range of exposure conditions would result in the sacrifice of either bright or dark areas, but by limiting the range according to the frequency of the exposure conditions, it is possible to minimize the sacrifice of bright and dark areas while preventing memory overflow.

また設定部460は、露光条件をカットした結果、画素信号のデータ量がメモリの容量以下となるように、露光条件の範囲を制限する。また設定部460は、暗領域に対応する露光条件を優先的にカットしてよい。暗領域の情報は、短秒露光であっても少なくとも取得できるので、大量の撮影画像を加算することにより十分な情報を取得することができる。また、長秒の露光条件をカットすることで、撮影時間を短縮することができる。 The setting unit 460 also limits the range of exposure conditions so that the amount of pixel signal data is equal to or less than the memory capacity as a result of cutting the exposure conditions. The setting unit 460 may also preferentially cut exposure conditions that correspond to dark areas. Since information on dark areas can at least be obtained even with short exposure times, sufficient information can be obtained by adding together a large number of captured images. Furthermore, by cutting long exposure times, the shooting time can be shortened.

図13は、露光条件の補正処理の他の例を示すフロー図である。なお、図13の補正処理は、図9の補正処理に続けて実行されてもよい。 Figure 13 is a flow diagram showing another example of the exposure condition correction process. Note that the correction process of Figure 13 may be performed following the correction process of Figure 9.

処理1310において、設定部460は、ブロック131毎に露光条件を設定する。処理1310は、図9の処理910と同様であるので、説明を省略する。図13の補正処理を図9の補正処理に続けて実行する場合は、図9の処理930を実行した後で、次に説明する処理1320を実行する。In process 1310, the setting unit 460 sets exposure conditions for each block 131. Process 1310 is similar to process 910 in Fig. 9, and therefore description thereof will be omitted. When the correction process in Fig. 13 is executed following the correction process in Fig. 9, process 1320, which will be described next, is executed after process 930 in Fig. 9.

処理1320において、設定部460は、対象ブロック131に対して露光条件の均し処理を実行する。ここで、均し処理とは、隣接するブロック131における露光条件の差が境界閾値以下となるように、それぞれのブロック131に設定された露光条件を補正することを指す。In process 1320, the setting unit 460 performs an equalization process of the exposure conditions for the target block 131. Here, the equalization process refers to correcting the exposure conditions set for each block 131 so that the difference in exposure conditions between adjacent blocks 131 is equal to or less than the boundary threshold value.

図14は、図13に示す露光条件の均し処理の具体例を示す図である。(1)は、3×4に配列されたそれぞれのブロック131に、処理1310で設定された露光条件を示す。ここで、露光条件は露光時間TVであり、隣接ブロック間のTV差の閾値(境界閾値)を3とする。 Figure 14 is a diagram showing a specific example of the exposure condition smoothing process shown in Figure 13. (1) shows the exposure conditions set in process 1310 for each block 131 arranged in a 3 x 4 matrix. Here, the exposure condition is the exposure time TV, and the threshold value (boundary threshold) of the TV difference between adjacent blocks is set to 3.

設定部460は、配列されたブロック313から均し処理を施される対象ブロックを選択し、対象ブロックの上下左右に隣接する9つのブロック131のうち、上側の3つのブロック131及び左側の1つのブロック131からなるL字型の4つのブロック131を比較ブロックとする。なお、対象ブロックが配列の端に位置する場合には、比較ブロックの数は4未満であってもよい。The setting unit 460 selects a target block to be subjected to the smoothing process from the arranged blocks 313, and of the nine blocks 131 adjacent to the target block on all four sides, sets four L-shaped blocks 131 consisting of three blocks 131 on the top and one block 131 on the left as comparison blocks. Note that if the target block is located at the end of the arrangement, the number of comparison blocks may be less than four.

設定部460は、ブロック配列から順方向に沿って対象ブロックを順次選択し、1回目の均し処理を実行する。ここで順方向は、ブロック配列の上側、左側を起点とする。すなわち、順方向は、最上列左端のブロック131から右端のブロック131に進み、次に、上から2列目の左端のブロック131から右端のブロック131に進み、最後に、最下列の左端のブロック131から右端のブロック131に進む。The setting unit 460 sequentially selects target blocks from the block array in the forward direction and executes the first smoothing process. Here, the forward direction starts from the upper left side of the block array. That is, the forward direction proceeds from the leftmost block 131 in the top row to the rightmost block 131, then from the leftmost block 131 in the second row from the top to the rightmost block 131, and finally from the leftmost block 131 in the bottom row to the rightmost block 131.

均し処理の具体的な手順について説明する。設定部460は、対象ブロックのTVと、比較ブロックのTV最小値とを比較する。対象ブロックのTVが比較ブロックのTV最小値より大きく、その差が閾値より大きい場合、設定部460は、差が閾値以下となるように対象ブロックのTVを補正する。The specific steps of the smoothing process are described below. The setting unit 460 compares the TV of the target block with the minimum TV value of the comparison block. If the TV of the target block is greater than the minimum TV value of the comparison block and the difference is greater than a threshold, the setting unit 460 corrects the TV of the target block so that the difference is equal to or less than the threshold.

例えば、(1)のブロック配列に順方向の均し処理を実行する場合、まず、左上のブロック131(TV10)が対象ブロックとして選択される。ただしこの対象ブロックは比較ブロックを有さないため、設定部460は対象ブロックに均し処理を実行せず、次の対象ブロックに移る。次に対象ブロックとして選択されるのは、最上列左から2番目のブロック131(TV9)である。この対象ブロックは左側に比較ブロック(TV10)を有するので、そのTVが比較ブロックのTV最小値となる。対象ブロックのTV(TV9)<比較ブロックのTV最小値(TV10)であるから、設定部460は対象ブロックに均し処理を実行せず、次の対象ブロックに移る。このように設定部460は、順方向に順次対象ブロックを選択し、TV差に応じて均し処理を実行する。For example, when performing forward smoothing on the block array of (1), first, the upper left block 131 (TV10) is selected as the target block. However, since this target block does not have a comparison block, the setting unit 460 does not perform smoothing on the target block, and moves on to the next target block. The next target block selected is the second block from the left in the top row, 131 (TV9). Since this target block has a comparison block (TV10) on its left, its TV becomes the minimum TV value of the comparison block. Since the TV of the target block (TV9) is less than the minimum TV value of the comparison block (TV10), the setting unit 460 does not perform smoothing on the target block, and moves on to the next target block. In this way, the setting unit 460 sequentially selects target blocks in the forward direction, and performs smoothing according to the TV difference.

(2)に示すように、右上のブロック131(TV8)が対象ブロックとして選択された場合を考える。この対象ブロックは左側に比較ブロック(TV3)を有するので、そのTVが比較ブロックのTV最小値となる。対象ブロックのTV(TV8)>比較ブロックのTV最小値(TV3)であるから、設定部460は、比較ブロックのTV最小値(TV3)との差が閾値である3以下となるように、対象ブロックのTVを6に補正する。 Consider the case where the upper right block 131 (TV8) is selected as the target block, as shown in (2). This target block has a comparison block (TV3) on its left, so its TV becomes the minimum TV value of the comparison block. Since the TV of the target block (TV8) is greater than the minimum TV value of the comparison block (TV3), the setting unit 460 corrects the TV of the target block to 6 so that the difference with the minimum TV value of the comparison block (TV3) is less than or equal to the threshold value of 3.

(3)は、順方向に均し処理を実行した結果のブロック配列であり、白抜き文字で示す数値が、補正されたTVである。ただし、最上列の左から2番目のブロック131(TV9)と3番目のブロック131(TV3)のように、隣接するブロックのTV差が閾値を超えた状態のTVがいくつか残されている。 (3) shows the block array resulting from the forward smoothing process, and the values shown in white are the corrected TVs. However, there are still some TVs where the TV difference between adjacent blocks exceeds the threshold, such as the second block 131 (TV9) and the third block 131 (TV3) from the left in the top row.

順方向に均し処理を実行した後、(4)に示すように、設定部460は、比較ブロックの設定をリセットする。設定部460は、対象ブロックの上下左右に隣接する9つのブロック131のうち、下側の3つのブロック131及び右側の1つのブロック131からなるL字型の4つのブロック131を比較ブロックとする。なお、対象ブロックが配列の端に位置する場合には、比較ブロックの数は4未満であってもよい。After performing the smoothing process in the forward direction, as shown in (4), the setting unit 460 resets the setting of the comparison blocks. The setting unit 460 sets, as the comparison blocks, four L-shaped blocks 131 consisting of three blocks 131 on the lower side and one block 131 on the right side, out of the nine blocks 131 adjacent to the target block on the top, bottom, left, and right sides. Note that if the target block is located at the end of the array, the number of comparison blocks may be less than four.

設定部460は、ブロック配列から逆方向に沿って対象ブロックを順次選択し、2回目の均し処理を実行する。ここで逆方向は、ブロック配列の下側、右側を起点とする。すなわち、逆方向は、最下列右端のブロック131から左端のブロック131に進み、次に、下から2列目の右端のブロック131から左端のブロック131に進み、最後に、最上列の右端のブロック131から左端のブロック131に進む。(5)に示すように、設定部460は、順方向の均し処理と同様に、対象ブロックのTVを比較ブロックのTV最小値との差に応じて補正する。The setting unit 460 sequentially selects target blocks in the reverse direction from the block array, and executes a second smoothing process. Here, the reverse direction starts from the lower right side of the block array. That is, the reverse direction proceeds from the rightmost block 131 in the bottom row to the leftmost block 131, then from the rightmost block 131 in the second row from the bottom to the leftmost block 131, and finally from the rightmost block 131 in the top row to the leftmost block 131. As shown in (5), the setting unit 460 corrects the TV of the target block according to the difference with the minimum TV value of the comparison block, as in the forward smoothing process.

(6)は、逆方向に均し処理を実行した結果のブロック配列であり、白抜き文字で示す数値が、逆方向の均し処理で補正されたTVである。順方向の均し処理の後で逆方向にも均し処理を実行した結果、全ての隣接するブロック間で、TV差が閾値以下になったことがわかる。 (6) is the block array resulting from performing the smoothing process in the reverse direction, and the values shown in white are the TVs corrected by the smoothing process in the reverse direction. As a result of performing the smoothing process in the reverse direction after the smoothing process in the forward direction, it can be seen that the TV differences between all adjacent blocks are below the threshold.

S/N比は露光時間の影響を受けるので、隣接ブロック間でS/N比の差が大きいとブロック境界が目立ってしまう。そこで、隣接ブロック間のTV差を均すことで、S/N比は悪化するものの、ブロック境界の目立たない自然な画像を得ることができる。 Because the S/N ratio is affected by the exposure time, if the difference in S/N ratio between adjacent blocks is large, the block boundaries become noticeable. Therefore, by averaging the TV difference between adjacent blocks, it is possible to obtain a natural image in which the block boundaries are not noticeable, although the S/N ratio will worsen.

なお閾値は、撮像素子の特性に応じて一意に決定されてもよい。あるいは、S/N比と露光時間との関係を予め把握し、ノイズの算出式から得られたS/N比の差に基づいて、適切な境界閾値が判定されてもよい。The threshold value may be uniquely determined according to the characteristics of the image sensor. Alternatively, the relationship between the S/N ratio and the exposure time may be determined in advance, and an appropriate boundary threshold value may be determined based on the difference in the S/N ratio obtained from the noise calculation formula.

再び図13に戻ると、処理1330において、駆動制御部420は、補正された露光条件でそれぞれの画素を露光させるようにセンサ制御部441を制御し、画像処理部511は生成した複数の画像を合成する。ここで画像処理部511は、ブロック間のS/N比の差を埋めるために、ノイズを削除してもよい。あるいは画像処理部511は、ブロック間のS/N比の差を埋めるために、長秒露光のブロック131にノイズを付加してもよく、又は短秒露光のブロック131からノイズを除去してもよい。Returning to FIG. 13 again, in process 1330, the drive control unit 420 controls the sensor control unit 441 to expose each pixel under the corrected exposure conditions, and the image processing unit 511 synthesizes the generated multiple images. Here, the image processing unit 511 may delete noise to fill in the difference in S/N ratio between the blocks. Alternatively, the image processing unit 511 may add noise to the long-exposure block 131 or remove noise from the short-exposure block 131 to fill in the difference in S/N ratio between the blocks.

さらに、設定部460は、ブロック131内で白飛び又は黒潰れが発生する画素の割合が所定の割合になるように、ブロック131毎の露光条件を設定してよい。例えば、所定の割合は、16×16画素のブロック131に対して、1割以下である。このように、具体的に数値で制御することにより、白飛び又は黒潰れが発生する画素がブロック境界に存在する確率を低減し、ブロック境界の目立たない自然な画像を得ることができる。 Furthermore, the setting unit 460 may set the exposure conditions for each block 131 so that the proportion of pixels in which whiteout or blackout occurs within the block 131 is a predetermined proportion. For example, the predetermined proportion is 10% or less for a block 131 of 16 x 16 pixels. In this way, by controlling specifically with numerical values, it is possible to reduce the probability that pixels in which whiteout or blackout occurs exist at block boundaries, and obtain a natural image in which the block boundaries are not noticeable.

図15は、図14の例に従って均し処理を実行する前後の露光条件を比較した図である。(A)は、均し処理を実行する前の露光時間設定と、撮影した画像である。(B)は、均し処理を実行した後の露光時間設定である。被写体は、夜間の高層ビルである。露光時間設定は、ブロックの色の明るい(白に近い)ほど長秒露光(暗領域重視であり)、暗い(黒に近い)ほど短秒露光(明領域重視)であることを意味する。 Figure 15 is a diagram comparing the exposure conditions before and after performing the smoothing process according to the example of Figure 14. (A) is the exposure time setting before performing the smoothing process and the captured image. (B) is the exposure time setting after performing the smoothing process. The subject is a high-rise building at night. The exposure time setting means that the brighter (closer to white) the color of the block is, the longer the exposure time (emphasis on dark areas) and the darker (closer to black) the shorter the exposure time (emphasis on bright areas).

(A)の画像において矢印で示したように、高層ビルの最上階で点灯する航空障害灯の周辺で、隣接するブロックの境界が目立ってしまっている。これは、航空障害灯と背景の夜空との明暗差が大きいために、S/N比の差が大きいことによるものである。(A)の露光時間設定を見ると、航空障害灯の位置に対応するブロックのみが航空障害灯の輝度に影響されて短秒露光となっており、隣接ブロックの露光時間との差が大きいことがわかる。そこで、図14の例に従って均し処理を施すことで、(B)に示すように、航空障害灯の位置に対応するブロックの露光時間と周辺のブロックの露光時間との差が均され、ブロック境界の目立たない自然な画像を得ることができる。As shown by the arrow in image (A), the boundaries between adjacent blocks are conspicuous around the obstruction lights on the top floor of a high-rise building. This is because there is a large difference in the S/N ratio due to the large difference in brightness between the obstruction lights and the night sky in the background. Looking at the exposure time setting in (A), we can see that only the block corresponding to the position of the obstruction light is exposed for a short time due to the influence of the brightness of the obstruction light, and there is a large difference in exposure time between the adjacent blocks. Therefore, by performing an equalization process according to the example in Figure 14, the difference in exposure time between the block corresponding to the obstruction light and the surrounding blocks is equalized, as shown in (B), and a natural image with inconspicuous block boundaries can be obtained.

図16は、露光条件の設定処理の変形例を示すフロー図である。処理1610において、設定部460は、明領域に合わせて露光条件を設定する。具体的には、設定部460は、システム制御部501から取得したシーンの輝度分布から明領域に対応する露光条件を取得し、取得した露光条件を全てのブロック131に設定する。 Figure 16 is a flow diagram showing a modified example of the exposure condition setting process. In process 1610, the setting unit 460 sets the exposure conditions according to the bright area. Specifically, the setting unit 460 obtains the exposure conditions corresponding to the bright area from the luminance distribution of the scene obtained from the system control unit 501, and sets the obtained exposure conditions to all blocks 131.

なお、明領域に対応する露光条件は、上述したように、輝度分布から最大輝度を取得する方法に従って算出してよい。露光条件の算出にあたっては、手振れ抑制を考慮した最大露光時間を考慮してもよい。The exposure conditions corresponding to the bright regions may be calculated according to the method of obtaining the maximum brightness from the brightness distribution, as described above. When calculating the exposure conditions, the maximum exposure time that takes into account camera shake suppression may also be taken into account.

処理1620において、設定部460は、取得するダイナミックレンジに応じて撮影枚数を設定する。取得するダイナミックレンジは、ユーザ又は設計者が任意に設定してもよく、あるいは撮影シーンの輝度分布に応じて、システム制御部501が自動的に設定してもよい。なお上述したように、必要な撮影枚数は、ダイナミックレンジをΔEVとすると、2ΔEV枚以上となる。 In process 1620, the setting unit 460 sets the number of shots depending on the dynamic range to be acquired. The dynamic range to be acquired may be arbitrarily set by a user or a designer, or may be automatically set by the system control unit 501 depending on the luminance distribution of the shooting scene. As described above, the required number of shots is 2 ΔEV or more, where ΔEV is the dynamic range.

処理1630において、設定部460は、設定された露光条件及び撮影枚数に従って撮影を実行し、処理1640において、画像処理部511は撮影画像を加算して取得画像を合成する。なお、処理1640の前に、画像処理部511は、手振れ等による不正画像の検出及び位置合わせ処理をさらに実行してもよい。不正画像の除外により必要枚数が不足した場合には、画像処理部511から駆動制御部420にフィードバックを送出し、撮影枚数を追加してもよい。In process 1630, the setting unit 460 performs shooting according to the set exposure conditions and number of shots, and in process 1640, the image processing unit 511 adds the shot images to synthesize the obtained image. Note that before process 1640, the image processing unit 511 may further perform detection and alignment processing of improper images caused by camera shake, etc. If the required number of shots is insufficient due to the elimination of improper images, feedback may be sent from the image processing unit 511 to the drive control unit 420 to add more shots.

このように本例では、それぞれのブロック131にそれぞれの露光条件を設定した図1~図15の例と異なり、全てのブロック131に共通の露光条件を設定する。明領域に合わせた露光条件を設定するので白飛びのおそれがなく、暗領域の情報も、大量の画像を加算することによって得ることができる。また、ブロック単位で露光条件を変化させる場合と比べ、撮影及び合成のプロセスが単純化される。また、全てのブロック131に同じ露光条件が設定されるので、手振れ等による位置ずれが原因で露光条件がずれ、情報が適切に取得できなかったことによる画質の劣化を抑制することができる。 Thus, in this example, unlike the examples in Figures 1 to 15 in which different exposure conditions are set for each block 131, a common exposure condition is set for all blocks 131. Because exposure conditions are set to match the bright areas, there is no risk of whiteout, and information on dark areas can also be obtained by adding a large number of images. Furthermore, compared to when exposure conditions are changed on a block-by-block basis, the shooting and synthesis process is simplified. Furthermore, because the same exposure conditions are set for all blocks 131, it is possible to suppress deterioration in image quality caused by misalignment of the exposure conditions due to camera shake or the like, which can lead to inability to properly acquire information.

また、取得した全ての情報を加算するので、無駄がなく、良好なS/N比を得ることができる。さらに、短秒露光での撮影のため、手振れに強く、撮影枚数を増やすだけでダイナミックレンジを拡大することができる。 In addition, because all acquired information is added together, there is no waste and a good S/N ratio can be obtained. Furthermore, because it is shot with a short exposure time, it is resistant to camera shake and the dynamic range can be expanded simply by increasing the number of shots.

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、請求の範囲の記載から明らかである。 Although the present invention has been described above using an embodiment, the technical scope of the present invention is not limited to the scope described in the above embodiment. It is clear to those skilled in the art that various modifications and improvements can be made to the above embodiment. It is clear from the claims that forms incorporating such modifications or improvements can also be included in the technical scope of the present invention.

上記した実施の形態では、設定部460およびモード切替部470が、撮像素子100のメモリチップ112または信号処理チップ111に設けられた例を示したが、撮像素子100とは別の素子、回路または基板に、設定部460およびモード切替部470を設けてもよい。この場合、例えば、各ブロック131における画素の輝度に関する情報等を撮像素子100から設定部460およびモード切替部470にそれぞれ送信し、これに基づいて設定部460が露光条件を設定したり、モード切替部470がモードを切り替えたりし、その結果を設定部460及びモード切替部470から撮像素子100に送信してもよい。In the above embodiment, the setting unit 460 and the mode switching unit 470 are provided in the memory chip 112 or the signal processing chip 111 of the image sensor 100, but the setting unit 460 and the mode switching unit 470 may be provided in an element, circuit, or board other than the image sensor 100. In this case, for example, information on the luminance of the pixels in each block 131 may be transmitted from the image sensor 100 to the setting unit 460 and the mode switching unit 470, respectively, and the setting unit 460 may set the exposure conditions or the mode switching unit 470 may switch the mode based on this, and the results may be transmitted from the setting unit 460 and the mode switching unit 470 to the image sensor 100.

設定部460及びモード切替部470は、同一の素子、回路または基板に設けられていてもよく、別の素子、回路または基板に設けられていてもよい。また、設定部460及びモード切替部470が設けられる素子、回路または基板は、撮像装置500以外の装置に設けられていてもよい。The setting unit 460 and the mode switching unit 470 may be provided in the same element, circuit, or board, or may be provided in different elements, circuits, or boards. In addition, the element, circuit, or board on which the setting unit 460 and the mode switching unit 470 are provided may be provided in a device other than the imaging device 500.

請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。It should be noted that the order of execution of each process, such as operations, procedures, steps, and stages, in the devices, systems, programs, and methods shown in the claims, specifications, and drawings is not specifically stated as "before" or "prior to," and that the processes may be performed in any order, unless the output of a previous process is used in a later process. Even if the operational flow in the claims, specifications, and drawings is explained using "first," "next," etc. for convenience, this does not mean that it is essential to perform the processes in that order.

100 撮像素子、101 マイクロレンズ、102 カラーフィルタ、103 パッシベーション膜、104 PD、105 トランジスタ、106 PD層、107 配線、108 配線層、109 バンプ、110 TSV、111 信号処理チップ、112 メモリチップ、113 撮像チップ、131 ブロック、302 転送トランジスタ、303 リセットトランジスタ、304 増幅トランジスタ、305 選択トランジスタ、306 リセット配線、307 TX配線、308 デコーダ配線、309 出力配線、310 Vdd配線、311 負荷電流源、411 マルチプレクサ、412 信号処理回路、413 デマルチプレクサ、414 画素メモリ、415 演算回路、420 駆動制御部、441 センサ制御部、443 同期制御部、444 信号制御部、460 設定部、470 モード切替部、500 撮像装置、501 システム制御部、503 測光部、504 ワークメモリ、505 記録部、506 表示部、511 画像処理部、512 演算部100 imaging element, 101 microlens, 102 color filter, 103 passivation film, 104 PD, 105 transistor, 106 PD layer, 107 wiring, 108 wiring layer, 109 bump, 110 TSV, 111 signal processing chip, 112 memory chip, 113 imaging chip, 131 block, 302 transfer transistor, 303 reset transistor, 304 amplification transistor, 305 selection transistor, 306 reset wiring, 307 TX wiring, 308 decoder wiring, 309 output wiring, 310 Vdd wiring, 311 load current source, 411 multiplexer, 412 signal processing circuit, 413 demultiplexer, 414 pixel memory, 415 arithmetic circuit, 420 drive control unit, 441 sensor control unit, 443 synchronization control unit, 444 Signal control unit, 460 setting unit, 470 mode switching unit, 500 imaging device, 501 system control unit, 503 photometry unit, 504 work memory, 505 recording unit, 506 display unit, 511 image processing unit, 512 calculation unit

Claims (17)

入射光に応じて画素信号を発生させる複数の画素と、
それぞれが少なくとも二つの前記画素を含む複数のブロック毎に露光条件を設定する設定部と
を備え、
前記設定部は、それぞれのブロックにおける露光条件の前記ブロック間での差が閾値以下となるように、それぞれのブロックに露光条件を設定する
撮像素子。
A plurality of pixels that generate pixel signals in response to incident light;
a setting unit that sets an exposure condition for each of a plurality of blocks, each of which includes at least two of the pixels;
The setting unit sets exposure conditions for each block such that a difference between the exposure conditions for each block is equal to or smaller than a threshold value.
前記設定部は、最大露光条件と最小露光条件との差が前記閾値以下となるように、それぞれのブロックにおける露光条件を設定する
請求項1に記載の撮像素子。
The image sensor according to claim 1 , wherein the setting section sets the exposure condition for each block such that a difference between a maximum exposure condition and a minimum exposure condition is equal to or smaller than the threshold value.
前記設定部は、前記最大露光条件及び前記最小露光条件のブロックの出現頻度を比較し、前記最大露光条件の出現頻度が小さい場合は前記最大露光条件をカットし、前記最小露光条件のブロックの出現頻度が小さい場合は前記最小露光条件をカットする
請求項2に記載の撮像素子。
3. The image sensor according to claim 2, wherein the setting unit compares the frequency of occurrence of the blocks under the maximum exposure condition with the frequency of occurrence of the blocks under the minimum exposure condition, and eliminates the maximum exposure condition if the frequency of occurrence of the blocks under the maximum exposure condition is low, and eliminates the minimum exposure condition if the frequency of occurrence of the blocks under the minimum exposure condition is low.
前記設定部は、暗領域に対応する露光条件を優先的にカットする
請求項3に記載の撮像素子。
The image sensor according to claim 3 , wherein the setting unit preferentially cuts exposure conditions corresponding to dark regions.
前記画素信号を格納するメモリを更に備え、
前記設定部は、前記画素信号のデータ量が前記メモリの容量以下となるように、それぞれのブロックにおける露光条件を設定する
請求項2又は3に記載の撮像素子。
A memory for storing the pixel signal is further provided,
The image sensor according to claim 2 , wherein the setting section sets the exposure conditions for each block so that an amount of data of the pixel signals is equal to or smaller than a capacity of the memory.
前記設定部は、隣接するブロックにおける露光条件の差が前記閾値以下となるように、それぞれのブロックに露光条件を設定する
請求項1から5の何れか一項に記載の撮像素子。
The image sensor according to claim 1 , wherein the setting unit sets the exposure conditions for each block such that a difference between the exposure conditions for adjacent blocks is equal to or smaller than the threshold value.
前記設定部は、ブロック内の画素に対応する輝度の少なくとも2つの代表値に応じて、前記ブロックに露光条件を設定する
請求項1から6の何れか一項に記載の撮像素子。
The image sensor according to claim 1 , wherein the setting unit sets an exposure condition for the block in accordance with at least two representative values of luminance corresponding to pixels in the block.
前記少なくとも2つの代表値は、前記ブロック内の画素に対応する最大輝度及び平均輝度を含み、
前記設定部は、
前記平均輝度に対応する露光時間で前記ブロック内の画素が飽和する場合は、前記最大輝度に対応する露光時間を露光条件として前記ブロックに設定し、
前記平均輝度に対応する露光時間で前記ブロック内の画素が飽和しない場合は、前記平均輝度に対応する露光時間を露光条件として前記ブロックに設定する
請求項7に記載の撮像素子。
the at least two representative values include a maximum luminance and an average luminance corresponding to pixels in the block;
The setting unit is
if the pixels in the block are saturated at the exposure time corresponding to the average luminance, an exposure time corresponding to the maximum luminance is set as an exposure condition for the block;
The image sensor according to claim 7 , wherein, if the pixels in the block are not saturated with the exposure time corresponding to the average luminance, the exposure time corresponding to the average luminance is set as an exposure condition for the block.
前記複数のブロックにおける最大露光条件と最小露光条件との差が第1の値である第1モードと、前記差が前記第1の値よりも小さい第2モードとを切り替えるモード切替部を備える
請求項1から8の何れか一項に記載の撮像素子。
9. The imaging element according to claim 1 , further comprising a mode switching unit that switches between a first mode in which a difference between a maximum exposure condition and a minimum exposure condition in the plurality of blocks is a first value, and a second mode in which the difference is smaller than the first value.
前記複数のブロックのうち第1ブロックの露光条件と、前記第1ブロックに隣接した複数のブロックのそれぞれの露光条件との差の絶対値の最大値が第1の値である第1モードと、前記最大値が前記第1の値よりも小さい第2モードとを切り替えるモード切替部を備える
請求項1から8の何れか一項に記載の撮像素子。
9. The imaging element according to claim 1, further comprising a mode switching unit that switches between a first mode in which a maximum value of an absolute value of a difference between an exposure condition of a first block among the plurality of blocks and an exposure condition of each of a plurality of blocks adjacent to the first block is a first value, and a second mode in which the maximum value is smaller than the first value.
第1の露光条件を用いる標準モードと、前記第1の露光条件を補正した第2の露光条件を用いる補正モードとの間で撮像モードを切り替えるモード切替部を更に備える
請求項1から8の何れか一項に記載の撮像素子。
The image sensor according to claim 1 , further comprising a mode switching unit that switches an image capturing mode between a standard mode using a first exposure condition and a correction mode using a second exposure condition obtained by correcting the first exposure condition.
前記複数の画素が設けられた撮像チップと、前記撮像チップに積層され、前記設定部が設けられたチップとを備える
請求項1から11の何れか一項に記載の撮像素子。
The imaging element according to claim 1 , comprising: an imaging chip on which the plurality of pixels are provided; and a chip on which the setting unit is provided, the chip being stacked on the imaging chip.
前記撮像チップと、
前記撮像チップに積層され、前記画素信号を処理する信号処理チップと、
前記信号処理チップに積層され、前記設定部が設けられたチップと、を備える
請求項12に記載の撮像素子。
The imaging chip;
a signal processing chip that is stacked on the imaging chip and processes the pixel signals;
The imaging element according to claim 12 , further comprising: a chip, the chip being stacked on the signal processing chip and including the setting unit.
前記撮像チップおよび前記信号処理チップは、それぞれの対向する面と、それぞれの対向する面に設けられた接続部とにより接合されており、
前記信号処理チップおよび前記設定部が設けられたチップは、それぞれの対向する面と、それぞれの対向する面に設けられた接続部および前記信号処理チップに設けられた貫通電極の少なくとも一方とで接続されている
請求項13に記載の撮像素子。
the imaging chip and the signal processing chip are joined by their respective opposing surfaces and connection portions provided on the respective opposing surfaces,
The imaging element according to claim 13 , wherein the signal processing chip and the chip on which the setting unit is provided are connected to each other by their respective opposing surfaces and at least one of a connection portion provided on each of the opposing surfaces and a through electrode provided on the signal processing chip.
さらに、前記画素信号を格納するメモリを有するメモリチップが積層されている
請求項12に記載の撮像素子。
The image sensor according to claim 12 , further comprising a memory chip having a memory for storing the pixel signals stacked thereon.
請求項1から15の何れか一項に記載の撮像素子を備える撮像装置。 An imaging device comprising the imaging element according to claim 1 . 入射光に応じて画素信号を発生させる複数の画素を有する撮像素子と、
それぞれが少なくとも二つの前記画素を含む複数のブロック毎に露光条件を設定する設定部と、
を備え、
前記設定部は、それぞれのブロックにおける露光条件の前記ブロック間での差が閾値以下となるように、それぞれのブロックに露光条件を設定する装置。
an imaging element having a plurality of pixels that generate pixel signals in response to incident light;
a setting unit that sets an exposure condition for each of a plurality of blocks, each of which includes at least two of the pixels;
Equipped with
The setting unit is an apparatus that sets exposure conditions for each block such that a difference between the exposure conditions for each block is equal to or smaller than a threshold value.
JP2022515422A 2020-04-15 2021-04-14 Image pickup device, image pickup device and apparatus Active JP7468632B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2024060589A JP2024094339A (en) 2020-04-15 2024-04-04 Image pickup device, image pickup device and apparatus

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020072912 2020-04-15
JP2020072912 2020-04-15
PCT/JP2021/015498 WO2021210621A1 (en) 2020-04-15 2021-04-14 Imaging element, imaging device, and device

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2024060589A Division JP2024094339A (en) 2020-04-15 2024-04-04 Image pickup device, image pickup device and apparatus

Publications (2)

Publication Number Publication Date
JPWO2021210621A1 JPWO2021210621A1 (en) 2021-10-21
JP7468632B2 true JP7468632B2 (en) 2024-04-16

Family

ID=78084979

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2022515422A Active JP7468632B2 (en) 2020-04-15 2021-04-14 Image pickup device, image pickup device and apparatus
JP2024060589A Pending JP2024094339A (en) 2020-04-15 2024-04-04 Image pickup device, image pickup device and apparatus

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2024060589A Pending JP2024094339A (en) 2020-04-15 2024-04-04 Image pickup device, image pickup device and apparatus

Country Status (2)

Country Link
JP (2) JP7468632B2 (en)
WO (1) WO2021210621A1 (en)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012111401A1 (en) 2011-02-18 2012-08-23 ソニー株式会社 Image capturing device, image capturing element, method for controlling image capturing, and program

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4789365B2 (en) * 2001-08-02 2011-10-12 キヤノン株式会社 Imaging apparatus and exposure control method thereof
JP4277216B2 (en) * 2005-01-13 2009-06-10 ソニー株式会社 Imaging apparatus and imaging result processing method

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012111401A1 (en) 2011-02-18 2012-08-23 ソニー株式会社 Image capturing device, image capturing element, method for controlling image capturing, and program

Also Published As

Publication number Publication date
JP2024094339A (en) 2024-07-09
WO2021210621A1 (en) 2021-10-21
JPWO2021210621A1 (en) 2021-10-21

Similar Documents

Publication Publication Date Title
JP7264189B2 (en) Imaging element and imaging device
JP6780745B2 (en) Electronics
JP7222377B2 (en) Imaging element and imaging device
CN110265415A (en) Shooting unit, filming apparatus and shooting control program
WO2015080163A1 (en) Electronic device, imaging device, and imaging element
JP2006121151A (en) Signal processing method, signal processing apparatus and physical information acquiring apparatus
JP6705436B2 (en) Imaging device and imaging device
JP7064322B2 (en) Electronic devices and their control methods, as well as image sensors
JP7468632B2 (en) Image pickup device, image pickup device and apparatus
WO2022107860A1 (en) Image capture apparatus and image capture method
WO2023027143A1 (en) Imaging element and imaging device
JP2022175755A (en) Image processing device and image sensor
JP7468519B2 (en) Image pickup element and image pickup device
WO2023027017A1 (en) Imaging element and imaging device
JP7491363B2 (en) Image pickup element and image pickup device
JP7230946B2 (en) Imaging element and imaging device
JP6610648B2 (en) Imaging device
JP2023031837A (en) Imaging element and imaging apparatus
WO2023027018A1 (en) Imaging element and imaging device
JP2022155409A (en) Imaging element and imaging device
JP2023031696A (en) Imaging element and imaging device
JP2023104965A (en) Imaging device and imaging apparatus
JP2023031698A (en) Imaging element and imaging device
JP2023010785A (en) Imaging element and imaging device
JP2020108158A (en) Electronic apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231031

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240305

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240318

R150 Certificate of patent or registration of utility model

Ref document number: 7468632

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150