[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

WO2011043051A1 - 撮像装置および固体撮像素子 - Google Patents

撮像装置および固体撮像素子 Download PDF

Info

Publication number
WO2011043051A1
WO2011043051A1 PCT/JP2010/005936 JP2010005936W WO2011043051A1 WO 2011043051 A1 WO2011043051 A1 WO 2011043051A1 JP 2010005936 W JP2010005936 W JP 2010005936W WO 2011043051 A1 WO2011043051 A1 WO 2011043051A1
Authority
WO
WIPO (PCT)
Prior art keywords
light
pattern
pixel
image
transmittance
Prior art date
Application number
PCT/JP2010/005936
Other languages
English (en)
French (fr)
Inventor
政夫 平本
正之 三崎
輝之 滝沢
正明 鈴木
Original Assignee
パナソニック株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by パナソニック株式会社 filed Critical パナソニック株式会社
Priority to US13/142,021 priority Critical patent/US8537256B2/en
Priority to CN2010800028948A priority patent/CN102177706B/zh
Priority to JP2011501830A priority patent/JPWO2011043051A1/ja
Publication of WO2011043051A1 publication Critical patent/WO2011043051A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B11/00Filters or other obturators specially adapted for photographic purposes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/48Increasing resolution by shifting the sensor relative to the scene

Definitions

  • the present invention relates to an imaging apparatus and a solid-state imaging device that improve the definition of an image with subpixel accuracy.
  • image sensors In recent years, there has been a remarkable increase in functionality and performance of digital cameras and digital movies that use solid-state image sensors such as CCDs and CMOSs (hereinafter sometimes referred to as “image sensors”).
  • image sensors due to advances in semiconductor manufacturing technology, the pixel structure in a solid-state image sensor has been miniaturized. As a result, the pixels of the solid-state image sensor and the drive circuit are highly integrated, and the number of pixels of the image sensor is rapidly increasing from about 1 million pixels to over 10 million pixels.
  • the manufacturing process of a multi-pixel solid-state imaging device the higher the pixel density, the more complicated the manufacturing process and the lower the production quality. In addition, the time required for the image quality inspection becomes longer, and as a result, the yield and productivity are affected.
  • the first pixel shifting technique is a pixel shifting with an image spatial displacement in which a plurality of pixels arranged in a matrix within the imaging surface of a solid-state imaging device are arranged with a half-pixel pitch shifted for each row or column.
  • the second pixel shifting technique is a time-varying pixel shifting that mechanically finely moves at least one of the two-dimensional square array solid-state imaging device and the optical system.
  • Patent Document 1 An example of the basic principle of a pixel shifting technique based on image spatial displacement is disclosed in Patent Document 1.
  • a pixel shifting technique based on an image spatial positional shift is applied to a three-plate type color camera using three imaging elements. This color camera increases the resolution in the horizontal direction by adopting a configuration in which the pixels of the green (G) image sensor, which has high human visibility, are shifted in the horizontal direction by 1/2 pitch every other row.
  • G green
  • Patent Document 2 An example in which pixels are shifted not only in the horizontal direction but also in the vertical direction is disclosed in Patent Document 2.
  • the shape of the light sensing portion corresponding to a pixel is rhombused and arranged in a meandering manner.
  • the resolution in the horizontal and vertical directions is enhanced by arranging each pixel by shifting it by a half pitch of the pixel in both the horizontal and vertical directions.
  • Patent Document 3 discloses an example of mechanically moving an optical system with respect to an image sensor.
  • a translucent parallel plate is installed between an image sensor and a lens. By shaking the parallel plate with respect to the optical axis, the optical image formed on the image sensor is finely moved, and the resolution in the fine movement direction is improved.
  • Patent Document 4 describes an example in which the resolution is improved by finely moving the image sensor itself without moving the optical system.
  • a piezoelectric element is used as the fine movement means, and the resolution is improved by finely moving the image pickup element by 1 ⁇ 2 pitch of the pixel.
  • the conventional pixel shifting technique can reduce the resolution by shifting the pixels by 1/2 pitch in the horizontal and vertical directions or by mechanically moving the image sensor by 1/2 pitch in the horizontal and vertical directions. Improve. In principle, if the aperture ratio of the light sensing unit is 100%, the resolution is doubled by shifting the pixels by 1/2 pitch.
  • the resolution can be improved by a factor of about 2, but no further increase can be expected.
  • the pixel arrangement density had to be increased.
  • An object of the present invention is to provide a pixel shifting technique for improving the resolution to a value exceeding twice, which cannot be realized by the conventional pixel shifting technique without increasing the pixel arrangement density.
  • An imaging apparatus is a pixel array including a plurality of pixels arranged two-dimensionally along a first direction and a second direction intersecting the first direction on the imaging surface, each of which is N
  • An image is formed on the imaging surface of the solid-state imaging device having a plurality of light-transmitting portions with different arrangement patterns of light transmittances of the N light-transmitting portions corresponding to the N pixels, and the solid-state imaging device.
  • the relative position of the image with respect to the optical system and the plurality of light transmission parts Based on a position shift unit that shifts in at least one of the first direction and the second direction, and a signal output from each pixel of the solid-state imaging device, the pixel pitch in the first direction of the pixel array is defined.
  • a signal processing unit that generates an image having a resolution higher than the resolution.
  • the optical system includes an optical low-pass filter that reduces a resolution of the image formed by the optical system in the second direction
  • the position shift unit includes the image with respect to the plurality of light transmission units. Are shifted in the first direction.
  • an arrangement pattern of light transmittances of the N light transmitting portions corresponding to the N pixels included in each unit pixel block is determined based on orthogonal wavelet coefficients.
  • the optical system includes a translucent member having a surface that is inclined with respect to a plane perpendicular to the optical axis, and the position shifting unit causes the translucent member to move in a direction perpendicular to the optical axis. To shift the relative position of the image with respect to the plurality of light transmission portions.
  • At least N ⁇ 1 of the N light transmission units corresponding to the N pixels included in each unit pixel block have a first transmission or a second transmission different from the first transmission. Rate is set.
  • the first transmittance is “1”, and the second transmittance is “ ⁇ 1”, four pixels included in each unit pixel block
  • the arrangement patterns of the light transmittances of the corresponding four light transmission parts are respectively the first pattern represented by “1, ⁇ 1, 1, ⁇ 1” or the contradiction pattern of the first pattern, “ ⁇ 1, 1”.
  • the first transmittance is “1”, and the second transmittance is “ ⁇ 1”, four pixels included in each unit pixel block
  • the arrangement patterns of the light transmittances of the corresponding four light transmitting portions are respectively represented by the first pattern represented by “1, ⁇ 1, 1, ⁇ 1” and “ ⁇ 1, 1, 1, ⁇ 1”.
  • the second pattern to be turned or the turn pattern of the second turn, the third pattern represented by “ ⁇ 1, ⁇ 1, 1, 1” or the turn pattern of the third pattern, and the turn pattern of the first pattern is there.
  • the solid-state imaging device of the present invention is a pixel array including a plurality of pixels arranged two-dimensionally along a first direction and a second direction intersecting the first direction on the imaging surface, A pixel array divided into a plurality of unit pixel blocks including N (N is an integer of 2 or more) pixels, and a plurality of light transmission portions each arranged corresponding to each pixel, each light transmission
  • the unit is divided into M regions (M is an integer equal to or greater than N) arranged along the first direction, and each region has a light transmittance set individually and is included in each unit pixel block
  • the N light transmissive portions corresponding to the N pixels include a plurality of light transmissive portions having different light transmittance arrangement patterns.
  • the imaging apparatus and the solid-state imaging device of the present invention since a pixel signal can be acquired with sub-pixel accuracy, higher resolution than the conventional pixel shifting technique can be realized.
  • FIG. 1 is a block diagram illustrating a schematic configuration of an imaging apparatus according to Embodiment 1 of the present invention. It is a block diagram which shows arrangement
  • (A) is a figure which shows the basic composition of the ND filter of the solid-state image sensor in Embodiment 1 of this invention
  • (b) is a figure which shows signal distribution before and behind the movement of an image
  • (c) It is a figure which shows the light transmittance and pixel signal of pixel 30b, 30d
  • (d) is a figure which shows the light transmittance and pixel signal of pixel 30a, 30c.
  • (A) is a figure which shows the basic composition of the ND filter of the solid-state image sensor in Embodiment 2 of this invention
  • (b) is a figure which shows signal distribution before and behind the movement of an image
  • (c) is It is a figure which shows the light transmittance and pixel signal of pixel 30b, 30e
  • (d) is a figure which shows the light transmittance and pixel signal of pixel 30a, 30c when an image has shifted
  • (E) is a figure which shows the light transmittance and pixel signal of the pixels 30a and 30c when an image has shifted
  • (f) is a figure which the image has shifted
  • (A) is a figure which shows the basic composition of the ND filter of the solid-state image sensor in Embodiment 4 of this invention
  • (b) is a figure which shows signal distribution before and behind the movement of an image
  • (c) It is a figure which shows the light transmittance and pixel signal of pixel 30b, 30e
  • (d) is a figure which shows the light transmittance and pixel signal of pixel 30a, 30c.
  • FIG. 1 is a block diagram showing a schematic configuration of an imaging apparatus according to the first embodiment of the present invention.
  • the imaging apparatus of this embodiment is a digital video camera, and includes an imaging unit 100 and a video signal processing unit 200 that generates a video signal (video signal) based on a signal transmitted from the imaging unit 100.
  • the imaging device of this embodiment is a video camera, the imaging device may be a camera that acquires only a still image.
  • the imaging unit 100 includes an optical system 11 and a solid-state imaging device 1 (image sensor) that converts optical information imaged through the optical system 11 into an electrical signal by photoelectric conversion.
  • the optical system 11 includes an optical lens 4, an optical low-pass filter 2 made of quartz, and a transparent glass plate 3 whose thickness changes according to the distance from the end.
  • the transparent glass plate 3 is configured to be finely movable in a direction perpendicular to the optical axis by the optical system driving unit 7.
  • the imaging unit 100 further generates a basic signal for driving the solid-state imaging device 1, receives an output signal from the solid-state imaging device 1, and sends it to the video signal processing unit 10.
  • an element driving unit 6 that drives the image sensor 1 based on the basic signal generated by the generation / reception unit 5.
  • the element driving unit 6 may be incorporated in the signal generation / reception unit 5.
  • the optical lens 4 is a known lens and may be a lens unit having a plurality of lenses.
  • the optical low-pass filter 2 is an optical element for reducing a moire pattern generated due to the pixel arrangement.
  • the image sensor 1 is typically a CCD or CMOS sensor, and is manufactured by a known semiconductor manufacturing technique.
  • the signal generation / reception unit 5 and the element driving unit 6 are configured by an LSI such as a CCD driver, for example.
  • the optical system driving unit 7 is composed of, for example, a known piezoelectric element.
  • the video signal processing unit 200 processes a signal transmitted from the imaging unit 100 to generate a video signal, and an image memory unit 8 that stores various data generated in the video signal generation process. And a video interface unit 10 for transmitting the generated video signal to the outside.
  • the video signal generation unit 9 can be suitably realized by a combination of hardware such as a known digital signal processor (DSP) and software that executes image processing including video signal generation processing.
  • DSP digital signal processor
  • the video signal generation unit 9 and the image memory unit 8 are included in the signal processing unit in the present invention.
  • the image memory unit 8 is configured by a DRAM or the like.
  • the image memory unit 8 records the signal transmitted from the imaging unit 100 and temporarily records the image data generated by the video signal generation unit 9 and the compressed image data. These image data are sent to a recording medium (not shown) or a display unit via the video interface unit 10.
  • the imaging apparatus may include known components such as an electronic shutter, a viewfinder, a power source (battery), and a flashlight, but a description thereof is omitted because it is not particularly necessary for understanding the present invention.
  • the above structure is an example to the last, and it can use it combining a well-known element suitably for the component except the solid-state image sensor 1.
  • FIG. 2 is a diagram schematically showing a state in which light transmitted through the optical lens 4 is incident on the image sensor 1 during exposure.
  • the lens 4 can be generally composed of a plurality of lenses arranged in the optical axis direction, but is drawn as a single lens for simplicity.
  • a pixel array including a plurality of pixels arranged two-dimensionally is arranged on the imaging surface 1a of the imaging element 1.
  • Each pixel typically includes a photodiode and outputs a photoelectric conversion signal (pixel signal) corresponding to the amount of received light (light reception amount).
  • Light transmitted through the optical system 11 is incident on the imaging surface 1a.
  • FIG. 3A is a plan view showing a pixel arrangement in the present embodiment.
  • the pixel array 200 has a plurality of pixels arranged in a square lattice pattern on the imaging surface 1a.
  • the pixel array 200 is divided into a plurality of unit pixel blocks 40, and each unit pixel block 40 includes four pixels 20a, 20b, 20c, and 20d arranged in two rows and two columns.
  • the pixel array in the present invention is not a square lattice array shown in FIG. 3A, but may be, for example, an oblique array as shown in FIG. 3B or another array.
  • the pixel array may be any array as long as a plurality of pixels are arrayed two-dimensionally along the first direction and the second direction intersecting the first direction.
  • the pixel arrangement of FIG. 3A is assumed, but even with the pixel arrangement of FIG. 3B and the like, the same effect can be obtained by appropriately changing the direction of the ND filter and the image moving direction, which will be described later. It is done.
  • XY coordinates shown in FIGS. 3A and 3B are used. In this specification, for convenience, the X direction is referred to as a “horizontal direction” and the Y direction is referred to as a “vertical direction”.
  • the optical low-pass filter 2 birefringes incident light by one pixel in the vertical direction of the image, and lowers the resolution in that direction.
  • the pixel array 200 of the solid-state imaging device has 2 ⁇ 2 pixels as a basic configuration, and an ND (Neutral Density) filter is disposed facing each of the pixels.
  • Each ND filter is arranged separately, but may be arranged facing the pixel array 200 as one filter layer without being separated.
  • it is sufficient that a plurality of light transmission portions are provided in one-to-one correspondence with the pixels.
  • “corresponding” means facing at the start of signal accumulation.
  • each ND filter functions as one light transmission unit.
  • FIG. 4 is a diagram showing a basic pixel configuration and signal distribution of the solid-state imaging device 1 in the present embodiment.
  • the ND filters 30a, 30b, 30c, and 30d are arranged in one-to-one correspondence with the pixels 20a, 20b, 20c, and 20d having an aperture ratio of 100%.
  • Each of the ND filters 30a to 30d includes four regions having a width of 1/4 of the pixel pitch (a) in the horizontal direction.
  • Each region in the ND filters 30a to 30c is either a region having a relatively high light transmittance (represented as “light”) or a region having a relatively low light transmittance (represented as “dark”).
  • the arrangement pattern of the light transmittance of the ND filter 30a is a striped pattern of “dark”, “light”, “dark”, and “light” in order from the left side in FIG.
  • the ND filter 30b has a striped pattern of “light”, “dark”, “dark”, and “light”.
  • the ND filter 30c has a striped pattern of “light”, “light”, “dark”, and “dark”.
  • the ND filter 30d does not have a striped pattern, and the light transmittance of the four regions is the same.
  • the light transmittance of the “light” portion is ⁇ (> 0)
  • the light transmittance of the “dark” portion is ⁇ (> 0, but smaller than ⁇ )
  • the light transmittance of the ND filter 30d not set is set to ( ⁇ + ⁇ ) / 2. As a result, the amount of light transmitted through each ND filter is substantially the same.
  • the shading pattern is based on an orthogonal wavelet transform coefficient composed of the Haar basis scaling function u (t) shown in FIG. 9A and the basis wavelet function v (t) shown in FIG. 9B.
  • the data group can be converted into another data group by addition or subtraction, and can be returned to the original data group by the same processing.
  • the pattern components of the ND filters 30a, 30b, 30d, and 30d are ( ⁇ 1, 1), respectively.
  • a signal corresponding to the amount of received light is accumulated in each pixel for a certain period of time.
  • the accumulated signal is read from the image sensor 1 and sent to the image memory unit 8 via the signal generation / reception unit 5.
  • the optical system driving unit 7 finely moves the transparent glass plate 3 in the direction perpendicular to the optical axis (the horizontal direction of the image), and moves the image formed on the imaging surface by one pixel pitch in the horizontal direction.
  • the signal is accumulated in each pixel again for a certain time.
  • the accumulated signal is read again from the image sensor 1 and sent to the image memory unit 8.
  • the optical low-pass filter 2 reduces the resolution in the vertical direction of the image, but does not affect the horizontal direction.
  • pixel signals to be read will be described with reference to FIGS. 4 (b) to (d).
  • the amount of light incident on the ND filters 30b and 30d is considered to be the same due to the influence of the optical low-pass filter 2.
  • FIG. 4B shows a graph 19a illustrating the horizontal dependency of the signals accumulated in the pixels 20b and 20d when it is assumed that there is no ND filter.
  • a signal indicating the amount of light incident on each region having a width of 1/4 of one pixel pitch is denoted as X1, X2, X3,.
  • FIG. 4B also shows a graph 19b illustrating the horizontal dependency of signals accumulated in the pixels 20a and 20c after the image has moved by one pixel pitch in the horizontal direction.
  • First, first, photoelectrically converted signals are read out through the ND filters 30b and 30d, respectively.
  • the transmittance of the two regions at both ends of the ND filter 30b is ⁇
  • the transmittance of the two inner regions is ⁇ , so that the pixel 20b facing the ND filter 30b
  • the signal Sb is expressed as ⁇ (X1 + X4) + ⁇ (X2 + X3).
  • the signal Sd obtained through the ND filter 30d is expressed as (X1 + X2 + X3 + X4) ( ⁇ + ⁇ ) / 2.
  • the image moves one pixel pitch in the horizontal left direction, and pixel signals that have undergone photoelectric conversion are read out via the ND filters 30a and 30c.
  • the signal Sa obtained through the ND filter 30a is expressed as ⁇ (X2 + X4) + ⁇ (X1 + X3).
  • the signal Sc obtained through the ND filter 30c is expressed as ⁇ (X1 + X2) + ⁇ (X3 + X4). That is, the signals Sa to Sd are expressed by the following equations 1 to 4, respectively.
  • signals (Y1, Y2, Y3, Y4) obtained by processing the signals obtained via the ND filters 30a to 30d by the above calculation are signals subjected to wavelet transform.
  • the original signals (X1, X2, X3, X4) can be calculated by performing the same addition / subtraction processing as described above on those results. That is, pixel signals X1 to X4 in each region having a width of 1/4 of one pixel pitch can be obtained by the addition / subtraction processing shown in the following equations 13 to 16.
  • X1 Y1 + Y2 + Y3 + Y4
  • X2 Y1 + Y2-Y3-Y4
  • X3 Y1-Y2 + Y3-Y4
  • X4 Y1-Y2-Y3 + Y4
  • the above signal calculation processing is an example, and the processing is not limited to the above procedure as long as the signals X1 to X4 are obtained.
  • the imaging apparatus of the present embodiment four types of ND filters having different light transmittance arrangement patterns that are arranged in one-to-one correspondence with the pixels of the solid-state imaging device 1 are used.
  • the horizontal resolution can be substantially increased by a factor of four.
  • Three of the four types of ND filters are divided into four regions whose width is 1/4 of the horizontal pixel pitch.
  • the first ND filter 30a has a striped pattern of “dark”, “light”, “dark”, and “light”.
  • the second ND filter 30b has a striped pattern of “light”, “dark”, “dark”, and “light”.
  • the third ND filter 30c has a striped pattern of “light”, “light”, “dark”, and “dark”.
  • the fourth ND filter 30d does not have a striped pattern, and its transmittance is uniform.
  • a pixel signal in each region having a width of 1 ⁇ 4 of one pixel pitch can be obtained by moving the image by one pixel pitch in the horizontal direction so as to cross these striped patterns and capturing the image before and after the movement. . That is, since the pixel signal can be acquired with the accuracy of the sub-pixel, there is an effect that the resolution can be increased more than before.
  • the aperture ratio of each pixel is assumed to be 100%, but may be smaller than 100%. The same effect can be obtained by correcting the signal according to the aperture ratio of each pixel.
  • the arrangement pattern of the light transmittance of each ND filter in the present embodiment is not limited to the above pattern.
  • the arrangement pattern of the light transmittance of each ND filter may be a reverse pattern of the above-described pattern.
  • “reverse” means that the “light” region having the transmittance ⁇ and the “dark” region having the transmittance ⁇ are reversed.
  • the pattern shown in FIG. 5 may be adopted instead of the pattern shown in FIG.
  • FIG. 5 shows a configuration in which ND filters 30e, 30f, and 30g having inverted shades are arranged in place of the ND filters 30a, 30b, and 30c.
  • the shades of the three ND filters are reversed, but the configuration may be such that the shades of one or two ND filters are reversed.
  • one pixel is associated with one ND filter, but there is no problem even if a plurality of pixels are associated with one ND filter.
  • two pixels can correspond to one ND filter.
  • FIG. 6 shows an example in which two pixels 20a and 20b are associated with one ND filter 30h.
  • the ND filter 30h is disposed so as to cover the two pixels 20a and 20b.
  • the ND filter 30h is divided into four regions each having a width of 1/2 the pixel pitch in the X direction.
  • the arrangement pattern of the light transmittance of the ND filter 30h is expressed as “dark”, “light”, “light”, and “dark”.
  • the resolution in the X direction is 1 ⁇ 2 of the normal resolution.
  • the ND filter 30h a portion facing the pixel 20a and a portion facing the pixel 20b function as different light transmission portions. Therefore, the ND filter 30h is configured such that the portion facing the pixel 20a and the portion facing the pixel 20b have different light transmittance arrangement patterns.
  • the light image is moved by moving the transparent glass plate 3, but the image may be moved by other methods.
  • any means may be used as long as the relative position of the image is changed with respect to the plurality of light transmission portions.
  • a transparent glass plate having a uniform thickness is arranged to be inclined with respect to the optical axis, and the position of the image can be shifted by finely moving the glass plate.
  • the same effect can be obtained by finely moving the translucent member having a surface inclined with respect to a plane perpendicular to the optical axis.
  • the element driving unit 6 includes a mechanism for finely moving the ND filter.
  • the light transmittance of the fourth ND filter 30d is set to ( ⁇ + ⁇ ) / 2 in order to make the amount of light incident on each pixel substantially equal.
  • the resolution in the horizontal direction is improved to four times the normal resolution, but since the optical low-pass filter 2 is used, the resolution in the vertical direction is reduced to half of the normal resolution. Therefore, in order to suppress a reduction in resolution in the vertical direction, the pixel pitch in the vertical direction may be halved. In this way, even if the optical low-pass filter 2 is used, the vertical resolution is maintained at the same level as the normal resolution.
  • an imaging apparatus according to a second embodiment of the present invention will be described with reference to FIG.
  • the imaging apparatus according to the present embodiment is different from the imaging apparatus according to the first embodiment only in the configuration of the ND filter, and other configurations are the same as those in the first embodiment.
  • the description will be focused on differences from the imaging apparatus according to the first embodiment, and description of overlapping points will be omitted.
  • FIG. 7 is a basic pixel configuration and signal distribution diagram of the solid-state imaging device 1 in the present embodiment.
  • FIG. 7A shows a state in which ND filters 30a, 30b, 30c, and 30d having a striped pattern are arranged on a one-to-one basis for a pixel having an aperture ratio of 100%.
  • the configuration of the ND filter of the first embodiment (FIG. 4) is partially changed, and an ND filter 30e having a reverse pattern of the ND filter 30a is disposed to face the pixel 20d instead of the ND filter 30d. .
  • the “dark” portion has a very low light transmittance ( ⁇ 0), and the “light” portion has a very high light transmittance ( ⁇ 1).
  • the total transmitted light amount of each ND filter is made substantially the same.
  • the transparent glass plate 3 finely moves in the direction perpendicular to the optical axis (the horizontal direction of the image), and finely moves the image formed on the imaging surface in the horizontal direction.
  • the optical low-pass filter 2 reduces the resolution in the vertical direction of the image, but does not affect the horizontal direction.
  • the image is moved from the stationary state to a position shifted by one pixel pitch in the horizontal direction, to a position shifted by 5/4 pitch, to a position shifted by 3/2 pitch, and an image generated by photoelectric conversion each time.
  • a signal is read from the solid-state imaging device 1.
  • the ND filters 30b and 30e attention is paid to the ND filters 30b and 30e. The amount of light on the ND filters 30b and 30e is considered to be the same due to the influence of the optical low-pass filter 2.
  • FIG. 7B shows a graph 19a illustrating the horizontal dependency of the signals accumulated in the pixels 20b and 30e when it is assumed that there is no ND filter.
  • FIG. 7B is a graph 19b illustrating the horizontal dependency of signals accumulated in the pixels 30a and 30c when the image is moved by 1 pitch, 5/4 pitch, and 3/2 pitch in the horizontal direction. , 19c, 19d are also shown.
  • signals photoelectrically converted are read through the ND filters 30b and 30e, respectively.
  • the signals obtained through the ND filters 30b and 30e are expressed as (X1 + X4) and (X1 + X3), respectively.
  • the image is shifted by one pixel pitch in the horizontal direction, and the pixel signal photoelectrically converted through the ND filters 30a and 30c is read out.
  • the signals read through the ND filters 30a and 30c at this time are expressed as (X2 + X4) and (X1 + X2), respectively.
  • the 5/4 pixel pitch image moves in the horizontal direction from the stationary state, and the pixel signals photoelectrically converted are read out through the ND filters 1a and 1c.
  • the signals read through the ND filters 30a and 30c at this time are expressed as (X3 + X5) and (X2 + X3), respectively.
  • the 3/2 pixel pitch image moves in the horizontal direction from the stationary state, and the pixel signal photoelectrically converted is read through the ND filters 1a and 1c.
  • the signals read through the ND filters 30a and 30c at this time are represented as (X4 + X6) and (X3 + X4), respectively.
  • (X3 + X5) and (X4 + X6) are not used, but other signals are used.
  • (X1 + X2 + X3 + X4) is calculated by adding the signal (X1 + X3) obtained through the ND filter 30e and the signal (X2 + X4) obtained through the ND filter 30a when the image moves by one pixel pitch, It is set as Y1 (Formula 17).
  • subtraction between the signals shown in the following equations 18 to 20 is performed.
  • Y1 (X1 + X2 + X3 + X4)
  • Y2 (X1 + X2) ⁇ (X3 + X4)
  • Y3 (X1 + X3) ⁇ (X2 + X4)
  • Y4 (X1 + X4) ⁇ (X2 + X3)
  • the signals Y1, Y2, Y3, and Y4 obtained by these calculations are the same as those in the first embodiment except for the coefficients. It can be said that (Y1, Y2, Y3, Y4) are wavelet transformed signals.
  • the original signals (X1, X2, X3, X4) can be calculated by performing the same arithmetic processing as above on those results. That is, pixel signals X1 to X4 in each region having a width of 1/4 of one pixel pitch can be obtained by the arithmetic processing shown in the following equations 21 to 24.
  • X1 (Y1 + Y2 + Y3 + Y4) / 4
  • X2 ((Y1 + Y2)-(Y3 + Y4)) / 4
  • X3 ((Y1 + Y3)-(Y2 + Y4)) / 4
  • X4 ((Y1 + Y4)-(Y2 + Y3)) / 4
  • the signal calculation process is not limited to the above procedure, and the process may be performed by any procedure as long as the signals X1 to X4 are obtained.
  • each ND filter is divided into four regions in which the stripe interval is 1/4 of the horizontal pixel pitch.
  • the first ND filter 30a has a striped pattern of “dark”, “light”, “dark”, and “light”.
  • the second ND filter 30b has a striped pattern of “light”, “dark”, “dark”, and “light”.
  • the third ND filter 30c has a striped pattern of “light”, “light”, “dark”, and “dark”.
  • the fourth ND filter 30d has a striped pattern of “light”, “dark”, “light”, and “dark”.
  • the image is shifted by 1 pixel pitch, 5/4 pixel pitch, 3/2 pixel pitch in the horizontal direction from the initial position so as to cross these striped patterns, and each image is taken to obtain a width of 1/4 of the 1 pixel pitch.
  • the pixel signal in each region having That is, since the pixel signal can be acquired with the accuracy of the sub-pixel, there is an effect that the resolution can be increased more than before.
  • the transmittance of the “light” region is set to 100% and the transmittance of the “light” region is set to 0%.
  • the above-described calculation processing is generally established.
  • the arrangement pattern of the light transmittance of each ND filter in the present embodiment is not limited to the above pattern.
  • the arrangement pattern of the light transmittance of each ND filter may be a reverse pattern of the above-described pattern.
  • the fine movement of the image is not limited to the method of finely moving the transparent glass plate 3, but may be performed by other methods.
  • a transparent glass plate having a uniform thickness is arranged to be inclined with respect to the optical axis, and the position of the image can be shifted by finely moving the glass plate.
  • the same effect can be obtained by finely moving the translucent member having a surface inclined with respect to a plane perpendicular to the optical axis.
  • the same effect can be obtained by fixing the image and the image sensor 1 and moving all the ND filters horizontally by one pixel pitch.
  • the imaging apparatus of the present embodiment has the same configuration and signal readout process as the imaging apparatus of the second embodiment, but the signals to be calculated are different. Therefore, it demonstrates centering on a different point from the imaging device of Embodiment 2, and abbreviate
  • X1 (Y2 + Y3 + Y4) / 4
  • X2 (Y2-Y3-Y4) / 4
  • X3 (Y3-Y2-Y4) / 4
  • X4 (Y4-Y2-Y3) / 4
  • each ND filter is divided into four regions in which the stripe interval is 1/4 of the horizontal pixel pitch.
  • the first ND filter 30a has a striped pattern of “dark”, “light”, “dark”, and “light”.
  • the second ND filter 30b has a striped pattern of “light”, “dark”, “dark”, and “light”.
  • the third ND filter 30c has a striped pattern of “light”, “light”, “dark”, and “dark”.
  • the fourth ND filter 30d has a striped pattern of “light”, “dark”, “light”, and “dark”.
  • the image is shifted by 1 pixel pitch, 5/4 pixel pitch, and 3/2 pixel pitch in the horizontal direction from the initial position so as to cross these striped patterns, and imaging is performed for each.
  • the signal processing by setting the signal that is a direct current component to 0, an alternating pixel signal in each region having a width of 1/4 of one pixel pitch can be obtained. As a result, there is an effect that a higher resolution image than the conventional one can be obtained for the AC component.
  • the imaging device of the present embodiment has the same arrangement pattern of each region of the light transmission part as that of the second embodiment, but the light transmittance and light in the shading part of each ND filter.
  • the image shift method and signal processing method are different.
  • the description will focus on the points that are different from the imaging apparatus of the second embodiment, and a description of the overlapping points will be omitted.
  • the light transmittance in the “light” part is ⁇ (> 0) and the light transmittance in the “dark” part is ⁇ (> 0, as in the first embodiment. Smaller).
  • the method of shifting the image of light and imaging are the same as in the first embodiment. That is, the image formed on the imaging surface is moved by one pixel pitch in the horizontal direction from the stationary state, and pixel signals photoelectrically converted before and after the movement of the image are read from the solid-state imaging device 1, respectively.
  • FIG. 8 is a basic pixel configuration and signal distribution diagram of the solid-state imaging device 1 in the present embodiment.
  • the signal Sb obtained through the ND filter 30b is expressed as ⁇ (X1 + X4) + ⁇ (X2 + X3).
  • the signal Se obtained through the ND filter 30e is expressed as ⁇ (X1 + X3) + ⁇ (X2 + X4).
  • the image moves one pixel pitch in the horizontal left direction, and the pixel signal photoelectrically converted is read through the ND filters 30a and 30e.
  • the signal Sa obtained through the ND filter 30a is expressed as ⁇ (X2 + X4) + ⁇ (X1 + X3).
  • the signal Sc obtained through the ND filter 30c is expressed as ⁇ (X1 + X2) + ⁇ (X3 + X4). Therefore, the signals Sa, Sb, and Sc are expressed by Equations 1 to 3, respectively.
  • (X2 + X4) ( ⁇ Sa ⁇ Se) / ( ⁇ 2 ⁇ 2 )
  • X3 ( ⁇ Se ⁇ Sa) / ( ⁇ 2 ⁇ 2 ) ⁇ X1
  • X4 ( ⁇ Sa ⁇ Se) / ( ⁇ 2 ⁇ 2 ) ⁇ X2
  • X1 and X2 are obtained by substituting X3 and X4 into Equations 2 and 3.
  • X1 and X2 are represented by the following formulas 34 and 35, respectively.
  • X3 and X4 are represented by the following Expression 36 and Expression 37, respectively.
  • X1 ( ⁇ ( ⁇ + 2 ⁇ ) Sa + ( ⁇ + ⁇ ) (Sb + Sc) ⁇ Se) / 2 ( ⁇ 2 ⁇ 2 )
  • X2 (( ⁇ + 2 ⁇ ) Sa ⁇ ( ⁇ + ⁇ ) (Sb ⁇ Sc) + ⁇ Se) / 2 ( ⁇ 2 ⁇ 2 )
  • X3 ( ⁇ Sa ⁇ ( ⁇ + ⁇ ) (Sb + Sc) + (2 ⁇ + ⁇ ) Se) / 2 ( ⁇ 2 ⁇ 2 )
  • X4 (( ⁇ -2 ⁇ ) Sa + ( ⁇ + ⁇ ) (Sb-Sc) -3 ⁇ Se) / 2 ( ⁇ 2 - ⁇ 2 )
  • each ND filter is divided into four regions in which the stripe interval is 1/4 of the horizontal pixel pitch.
  • the first ND filter 30a has a striped pattern of “dark”, “light”, “dark”, and “light”.
  • the second ND filter 30b has a striped pattern of “light”, “dark”, “dark”, and “light”.
  • the third ND filter 30c has a striped pattern of “light”, “light”, “dark”, and “dark”.
  • the fourth ND filter 30d has a striped pattern of “light”, “dark”, “light”, and “dark”.
  • a pixel signal in each region having a width of 1 ⁇ 4 of one pixel pitch can be obtained by moving the image by one pixel pitch in the horizontal direction so as to cross these striped patterns and capturing the image before and after the movement. . That is, since the pixel signal can be acquired with the accuracy of the sub-pixel, there is an effect that the resolution can be increased more than before.
  • each ND filter is divided into four striped regions having the same width in the X direction. However, even if these regions have different widths, It is possible to obtain an effect. When the widths of these regions are different, each signal may be corrected in consideration of the difference in the amount of transmitted light caused by the difference between the widths.
  • the arrangement pattern of the light transmittance of each light transmitting portion in the present invention is not limited to the ND filter pattern shown in the first to fourth embodiments.
  • the arrangement pattern of the light transmittance of each light transmitting portion may be any pattern as long as a signal indicating the amount of light incident on each region of the light transmitting portion can be obtained.
  • the number of regions in the light transmission part is not limited to four.
  • N N is an integer of 2 or more
  • M is an integer of 2 or more
  • the light transmittance of each region of each ND filter is set to ⁇ , ⁇ , or ( ⁇ + ⁇ ) / 2, but the present invention is limited to such an example. is not. In the present invention, even if the light transmittances of all the regions of each light transmitting part are different, the signals of each region can be obtained by signal calculation if the light transmittances are known.
  • the resolution is improved only in the horizontal direction by lowering the resolution in the vertical direction by the optical low-pass filter 2 made of crystal and shifting the image in the horizontal direction. This is to reduce the number of times of shifting the image. If the image is finely moved in the vertical direction, the optical low-pass filter 2 may not be used. Even if the image is shifted in the horizontal and vertical directions without using the optical low-pass filter 2, the same effects as those of the embodiments can be obtained.
  • each light transmission part may be divided not only in the horizontal direction but also into a plurality of regions arranged along the vertical direction. Further, if the arrangement pattern of the light transmittance of each light transmitting portion is a two-dimensional pattern, it is possible to achieve high resolution in the horizontal and vertical directions.
  • the imaging apparatus and the solid-state imaging device of the present invention are effective for all cameras using the solid-state imaging device.
  • it can be used for consumer cameras such as digital still cameras and digital video cameras, and industrial solid-state surveillance cameras.
  • Solid-state image sensor 1a Imaging surface of solid-state image sensor 2
  • Optical low-pass filter 3 Transparent glass plate 4
  • Optical lens 5 Signal generation / reception part 6
  • Element drive part 7 Optical system drive part 8 Image memory part 9
  • Video signal generation part 10 Video interface Part 11
  • Optical system 19a, 19b, 19c, 19d Pixel signal 20a, 20b, 20c, 20d Pixel 30a, 30b, 30c, 30d, 30e, 30f, 30g, 30h, 30i ND filter (light transmission part) 40 unit pixel block 100 imaging unit 200 video signal processing unit

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Studio Devices (AREA)
  • Blocking Light For Cameras (AREA)

Abstract

 固体撮像素子は、N個(Nは2以上の整数)の画素を含む複数の単位画素ブロックに分割された画素アレイと、各々が各画素に対応して配置された複数の光透過部30a、30b、30c、30dとを備える。各光透過部は、M個(Mは2以上の整数)の縞状の領域に分割され、各領域は個別に設定された光透過率を有している。光透過部30a、30b、30c、30dにおける光透過率の配列パターンは互いに異なっている。撮像装置は、撮像面上において第1の方向に像を移動させる位置ずらし部を備え、移動の前後で画素信号の読出しを行うことによって画素ピッチで規定される解像度よりも高い解像度の画像を生成する。

Description

撮像装置および固体撮像素子
 本発明は、サブピクセルの精度で画像の精細度を向上させる撮像装置および固体撮像素子に関する。
 近年、CCDやCMOS等の固体撮像素子(以下、「撮像素子」と呼ぶことがある。)を用いたデジタルカメラやデジタルムービーの高機能化、高性能化には目を見張るものがある。特に半導体製造技術の進歩により、固体撮像素子における画素構造の微細化が進んでいる。その結果、固体撮像素子の画素及び駆動回路の高集積化が図られ、撮像素子の画素数は100万画素程度から1000万画素以上へと急速に多画素化が進んでいる。その一方で、多画素の固体撮像素子の製造プロセスでは、画素密度が高くなる程、製造工程が複雑になると共に生産品質も低下する。また、画質検査に要する時間も長くなり、その結果、歩留りや生産性にも影響が出ている。
 画像の高解像度化には、撮像素子の多画素化による方法以外に、光学系により結像した画像に対して撮像素子の画素をずらすという、所謂、画素ずらし技術による方法もある。画素ずらし技術には、大きく分けて2種類の技術がある。第1の画素ずらし技術は、固体撮像素子の撮像面内において行列状に配列された複数の画素を1行あるいは1列毎に半画素ピッチずらして配置する画像空間的位置ずれの画素ずらしである。第2の画素ずらし技術は、2次元正方配列の固体撮像素子および光学系の少なくとも一方を機械的に微動させる時間変動の画素ずらしである。
 画像空間的位置ずれによる画素ずらし技術の基本原理の一例が特許文献1に開示されている。特許文献1では、画像空間的位置ずれによる画素ずらし技術が撮像素子を3つ用いた3板式のカラーカメラに適用されている。このカラーカメラは、人間の視感度の高い緑(G)の撮像素子の画素を1行おきに1/2ピッチ水平方向にずらした構成を採用することにより、水平方向の解像度を高めている。
 水平方向だけでなく垂直方向にも画素をずらした一例が、特許文献2に開示されている。特許文献2のCCD撮像素子では、画素に相当する光感知部の形状をひし形にして、蛇行状に配置している。各画素を水平方向にも垂直方向にも画素の1/2ピッチ分ずらして配列することにより、水平及び垂直方向における解像度を高めている。
 時間変動の画素ずらしの技術については、撮像素子に対して光学系を機械的に微動させる一例が、特許文献3に開示されている。特許文献3では、撮像素子とレンズとの間に透光性の平行平板が設置されている。光軸に対して平行平板を振らせることにより、撮像素子に結像した光学像を微動させ、微動方向の解像度を向上させている。光学系は動かさず、撮像素子そのものを微動させ、解像度を向上させた例が特許文献4に記されている。特許文献4に開示された例では、微動手段として圧電素子を用い、撮像素子を画素の1/2ピッチ微動させることによって、解像度を向上させている。
 以上のように、従来の画素ずらし技術は、画素を水平および垂直方向に1/2ピッチずらして配置するか、機械的に撮像素子を水平および垂直方向に1/2ピッチ微動させることによって解像度を向上させる。原理的には、光感知部の開口率が100%であれば、画素を1/2ピッチずらすことにより、解像度は2倍に向上する。
特開昭58-137247号公報 特開昭60-187187号公報 特開昭63-284979号公報 特開昭64-69160号公報
 従来の画素ずらし技術によれば、解像度を約2倍に向上させることができるが、それ以上の増加は望めない。さらに解像度を向上させるには、画素の配置密度を高めなければならなかった。
 本発明は、画素の配置密度を高めることなく、従来の画素ずらし技術では実現できなかった、解像度を2倍を超える値に向上させる画素ずらし技術を提供することを目的とする。
 本発明の撮像装置は、撮像面上において、第1方向および前記第1方向と交差する第2方向に沿って2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含む複数の単位画素ブロックに分割された画素アレイ、および各々が各画素に対応して配置された複数の光透過部であって、各光透過部は前記第1の方向に沿って配列されたM個(Mは2以上の整数)の領域に分割され、各領域は個別に設定された光透過率を有し、各単位画素ブロックに含まれる前記N個の画素に対応するN個の光透過部の光透過率の配列パターンは互いに異なっている複数の光透過部を有する固体撮像素子と、前記固体撮像素子の撮像面に像を形成する光学系と、前記複数の光透過部に対する前記像の相対位置を前記第1方向および前記第2方向の少なくとも一方にシフトさせる位置ずらし部と、前記固体撮像素子の各画素から出力される信号に基づいて、前記画素アレイの前記第1方向における画素ピッチで規定される解像度よりも高い解像度の画像を生成する信号処理部と、を備えている。
 ある実施形態において、前記光学系は、前記光学系によって形成される像の前記第2方向における解像度を低下させる光学ローパスフィルタを有し、前記位置ずらし部は、前記複数の光透過部に対する前記像の相対位置を前記第1方向にシフトさせる。
 ある実施形態において、各単位画素ブロックに含まれる前記N個の画素に対応する前記N個の光透過部の光透過率の配列パターンは、直交ウェーブレット係数に基づいて決定されている。
 ある実施形態において、前記光学系は、光軸に垂直な平面に対して傾斜した表面を有する透光性部材を含み、前記位置ずらし部は、前記透光性部材を前記光軸に垂直な方向に移動させることによって前記複数の光透過部に対する前記像の相対位置をシフトさせる。
 ある実施形態において、各単位画素ブロックに含まれるN個の画素に対応するN個の光透過部のうち少なくともN-1個は、第1透過率または前記第1透過率とは異なる第2透過率に設定されている。
 ある実施形態において、N=4、M=4であり、前記第1透過率を「1」、前記第2透過率を「-1」と表すとき、各単位画素ブロックに含まれる4つの画素に対応する4つの光透過部の光透過率の配列パターンは、それぞれ、「1、-1、1、-1」で表される第1パターンまたは前記第1パターンの背反パターン、「-1、1、1、-1」で表される第2パターンまたは前記第2ターンの背反パターン、「-1、-1、1、1」で表される第3パターンまたは前記第3パターンの背反パターン、および各領域の光透過率が0よりも大きい第3透過率に設定された第4パターンである。
 ある実施形態において、N=4、M=4であり、前記第1透過率を「1」、前記第2透過率を「-1」と表すとき、各単位画素ブロックに含まれる4つの画素に対応する4つの光透過部の光透過率の配列パターンは、それぞれ、「1、-1、1、-1」で表される第1パターン、「-1、1、1、-1」で表される第2パターンまたは前記第2ターンの背反パターン、「-1、-1、1、1」で表される第3パターンまたは前記第3パターンの背反パターン、および前記第1パターンの背反パターンである。
 本発明の固体撮像素子は、撮像面上において、第1方向および前記第1方向と交差する第2方向に沿って2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含む複数の単位画素ブロックに分割された画素アレイと、各々が各画素に対応して配置された複数の光透過部であって、各光透過部は前記第1の方向に沿って配列されたM個(MはN以上の整数)の領域に分割され、各領域は個別に設定された光透過率を有し、各単位画素ブロックに含まれる前記N個の画素に対応するN個の光透過部の光透過率の配列パターンは互いに異なっている複数の光透過部とを備える。
 本発明の撮像装置および固体撮像素子によれば、サブピクセルの精度で画素信号を取得できるため、従来の画素ずらし技術以上の高解像度化が実現でき得る。
本発明の実施形態1における撮像装置の概略構成を示すブロック図である。 本発明の実施形態1におけるレンズと固体撮像素子の配置を示すブロック図である。 本発明の実施形態1における画素配列の一例を示す図である。 本発明の実施形態1における画素配列の他の例を示す図である。 (a)は、本発明の実施形態1における固体撮像素子のNDフィルタの基本構成を示す図であり、(b)は、像の移動前後の信号分布を示す図であり、(c)は、画素30b、30dの光透過率および画素信号を示す図であり、(d)は、画素30a、30cの光透過率および画素信号を示す図である。 本発明の実施形態1における固体撮像素子のNDフィルタの基本構成の他の例を示す図である。 本発明の実施形態1における固体撮像素子のNDフィルタの基本構成のさらに他の例を示す図である。 (a)は、本発明の実施形態2における固体撮像素子のNDフィルタの基本構成を示す図であり、(b)は、像の移動前後の信号分布を示す図であり、(c)は、画素30b、30eの光透過率および画素信号を示す図であり、(d)は、像が1ピッチ水平方向にずれた際の画素30a、30cの光透過率および画素信号を示す図であり、(e)は、像が5/4ピッチ水平方向にずれた際の画素30a、30cの光透過率および画素信号を示す図であり、(f)は、像が3/2ピッチ水平方向にずれた際の画素30a、30cの光透過率および画素信号を示す図である。 (a)は、本発明の実施形態4における固体撮像素子のNDフィルタの基本構成を示す図であり、(b)は、像の移動前後の信号分布を示す図であり、(c)は、画素30b、30eの光透過率および画素信号を示す図であり、(d)は、画素30a、30cの光透過率および画素信号を示す図である。 Haar基底によるスケーリング関数のグラフである。 Haar基底のウェーブレット関数のグラフである。
 以下、図面を参照しながら、本発明の実施形態を説明する。複数の図にわたって共通する要素には同一の参照符号を付している。
 (実施形態1)
 図1は本発明の第1の実施形態における撮像装置の概略構成を示すブロック図である。本実施形態の撮像装置は、デジタル式のビデオカメラであり、撮像部100と、撮像部100から送出される信号に基づいて映像信号(ビデオ信号)を生成する映像信号処理部200とを備えている。なお、本実施形態の撮像装置はビデオカメラであるが、撮像装置は静止画のみを取得するカメラであってもよい。
 撮像部100は、光学系11と、光学系11を通して結像した光情報を、光電変換によって電気信号に変換する固体撮像素子1(イメージセンサ)とを備えている。光学系11は、光学レンズ4と、水晶からなる光学的ローパスフィルタ2と、端部からの距離に応じて厚さが変化している透明ガラス板3とを含んでいる。透明ガラス板3は、光学系駆動部7によって光軸に垂直な方向に微動できるように構成されている。撮像部100はさらに、固体撮像素子1を駆動するための基本信号を発生するとともに固体撮像素子1からの出力信号を受信して映像信号処理部10に送出する信号発生/受信部5と、信号発生/受信部5によって発生された基本信号に基づいて撮像素子1を駆動する素子駆動部6とを備えている。なお、素子駆動部6は、信号発生/受信部5に組み込まれていてもよい。
 光学レンズ4は、公知のレンズであり、複数のレンズを有するレンズユニットであり得る。光学的ローパスフィルタ2は、画素配列が原因で発生するモアレパターンを低減するための光学素子である。撮像素子1は、典型的にはCCDまたはCMOSセンサであり、公知の半導体製造技術によって製造される。信号発生/受信部5および素子駆動部6は、例えばCCDドライバなどのLSIから構成される。光学系駆動部7は、例えば公知の圧電素子から構成される。
 映像信号処理部200は、撮像部100から送出される信号を処理してビデオ信号を生成するビデオ信号生成部9と、ビデオ信号の生成過程で発生する各種のデータを格納する画像メモリー部8と、生成したビデオ信号を外部に送出するビデオインターフェース部10とを備えている。ビデオ信号生成部9は、公知のデジタル信号処理プロセッサ(DSP)などのハードウェアと、ビデオ信号生成処理を含む画像処理を実行するソフトウェアとの組合せによって好適に実現され得る。本実施形態では、ビデオ信号生成部9や画像メモリー部8が本発明における信号処理部に含まれる。画像メモリー部8は、DRAMなどによって構成される。画像メモリー部8は、撮像部100から送出された信号を記録するとともに、ビデオ信号生成部9によって生成された画像データや、圧縮された画像データを一時的に記録する。これらの画像データは、ビデオインターフェース部10を介して不図示の記録媒体や表示部などに送出される。
 本実施形態の撮像装置は、電子シャッタ、ビューファインダ、電源(電池)、フラッシュライトなどの公知の構成要素を備え得るが、それらの説明は本発明の理解に特に必要でないため省略する。また、以上の構成はあくまでも一例であり、固体撮像素子1を除く構成要素には、公知の要素を好適に組み合わせて用いることができる。
 図2は、露光中に光学レンズ4を透過した光が撮像素子1に入射する様子を模式的に示す図である。図2では、簡単のため光学レンズ4および撮像素子1以外の構成要素の記載は省略されている。また、レンズ4は、一般には光軸方向に並んだ複数のレンズによって構成され得るが、簡単のため、単一のレンズとして描かれている。撮像素子1の撮像面1aには、2次元状に配列された複数の画素を含む画素アレイが配置されている。各画素は、典型的にはフォトダイオードを含み、受けた光の量(受光量)に応じた光電変換信号(画素信号)を出力する。撮像面1aには光学系11を透過した光が入射する。
 図3Aは、本実施形態における画素配列を示す平面図である。画素アレイ200は、図3Aに示すように、撮像面1a上に正方格子状に配列された複数の画素を有している。画素アレイ200は、複数の単位画素ブロック40に分割され、各単位画素ブロック40は、2行2列に配置された4つの画素20a、20b、20c、20dを含んでいる。なお、本発明における画素配列は、図3Aに示す正方格子状の配列ではなく、例えば、図3Bに示すような斜交型の配列であってもよいし、他の配列であってもよい。画素配列は、第1方向および第1方向と交差する第2方向に沿って2次元状に複数の画素が配列されていればどのような配列であってもよい。以下の説明では、図3Aの画素配列を前提にするが、図3Bなどの画素配列であっても、後述するNDフィルタの向きおよび像の移動方向を適宜変更することにより、同様の効果が得られる。以下の説明において、図3A、3Bに示すXY座標を用いる。本明細書では、便宜上、X方向を「水平方向」、Y方向を「垂直方向」と呼ぶこととする。
 以上の構成により、入射光は光学レンズ4、光学ガラス板3、光学的ローパスフィルタ2を通して固体撮像素子1の撮像面1a上に結像され、固体撮像素子1の各画素で光電変換される。ここで、光学的ローパスフィルタ2は、入射光を画像の垂直方向に1画素分複屈折させ、当該方向の解像度を低下させている。本実施形態では、固体撮像素子の画素アレイ200は、2×2画素を基本構成として、それらの画素各々に対向して、ND(Neutral Density)フィルタが配置されている。各NDフィルタは、個々に分離して配置されているが、分離せず1つのフィルタ層として画素アレイ200に対向して配置されていてもよい。なお、本発明においては、画素に1対1に対応して複数の光透過部が設けられていればよい。ここで、「対応」とは、信号蓄積開始時に対向していることを意味するものとする。本実施形態では、各NDフィルタが1つの光透過部として機能する。
 図4は、本実施形態における固体撮像素子1の基本画素構成及び信号分布を示す図である。図4(a)に示すように、開口率100%の画素20a、20b、20c、20dに1対1に対応してNDフィルタ30a、30b、30c、30dがそれぞれ配置されている。NDフィルタ30a~30dの各々は、水平方向の画素ピッチ(a)の1/4の幅をもつ4つの領域から構成される。NDフィルタ30a~30cにおける各領域は、相対的に光透過率が高い領域(「淡」と表す)、および相対的に光透過率が低い領域(「濃」と表す)のいずれかである。NDフィルタ30aの光透過率の配列パターンは、図4における左側から順に「濃」「淡」「濃」「淡」の縞状のパターンである。NDフィルタ30bは「淡」「濃」「濃」「淡」の縞状パターンを有している。NDフィルタ30cは「淡」「淡」「濃」「濃」の縞状パターンを有している。NDフィルタ30dは、縞状パターンを有しておらず、4つの領域の光透過率は同一である。本実施形態では、「淡」の部分の光透過率をα(>0)、「濃」の部分の光透過率をβ(>0、ただしαよりも小さい)として、縞状パターンを有していないNDフィルタ30dの光透過率は(α+β)/2に設定されている。その結果、各NDフィルタを透過する光の量はほぼ同じである。
 ここで、本実施形態におけるNDフィルタの光透過率の配列パターンについて説明しておく。上記の濃淡パターンは、図9Aに示すHaar基底によるスケーリング関数u(t)と、図9Bに示す同基底のウェーブレット関数v(t)とからなる直交ウェーブレット変換の係数に基づいている。本実施形態では単位画素ブロックあたり、4つの画素から出力される4つのデータを取り扱う。直交ウェーブレット変換に基づくと、データ群の加算や減算によって別なデータ群に変換し、また、同じ処理で元のデータ群に戻すことができる。本実施形態の場合、「淡」及び縞模様のない領域を1とし、「濃」領域を-1と表すと、NDフィルタ30a、30b、30d、30dのパターン成分は、それぞれ(-1,1,-1,1)、(1,-1,-1,1)、(1,1,-1,―1)、(1,1,1,1)と表すことができる。それらの直交性はベクトルの内積と同じ処理で確認できる。すなわち、各NDフィルタを4つの成分からなるベクトルと考えると、それらの内積は0になり、直交していることがわかる。
 以下、本実施形態における撮像時の動作を説明する。
 露光が開始すると、まず、一定時間、各画素に受光量に応じた信号が蓄積する。蓄積した信号は、撮像素子1から読み出され、信号発生/受信部5を経由して画像メモリ―部8に送出される。次に、光学系駆動部7は、透明ガラス板3を、光軸に対して垂直方向(画像の水平方向)に微動させ、撮像面に形成される像を水平方向に1画素ピッチ移動させる。移動後の状態で、再び一定の時間、各画素に信号が蓄積する。蓄積した信号は、再度、撮像素子1から読み出され、画像メモリー部8に送出される。ここで、光学的ローパスフィルタ2は画像の垂直方向に解像度を低下させるが、水平方向には影響を及ぼさない。
 次に、図4(b)~(d)を参照しながら、読み出される画素信号を説明する。最初に、NDフィルタ30b、30dに注目する。光学的ローパスフィルタ2の影響により、NDフィルタ30b、30dに入射する光の量は同じと考える。
 図4(b)には、NDフィルタがないと仮定した場合に画素20b、20dに蓄積される信号の水平方向の依存性を例示するグラフ19aが示されている。ここで、1画素ピッチの1/4の幅を有する各領域に入射する光の量を示す信号をX1、X2、X3、・・・、Xnと表記する。図4(b)には、像が水平方向に1画素ピッチ移動した後に画素20a、20cに蓄積される信号の水平方向の依存性を例示するグラフ19bも示されている。
 以下、各画素から読み出される画素信号に基づいてビデオ信号生成部9が行う処理を説明する。
 まず第1に、静止状態においてNDフィルタ30b、30dを介して光電変換された信号がそれぞれ読み出される。図4(c)に示すように、NDフィルタ30bの両端の2つの領域の透過率はαであり、内側の2つの領域の透過率はβであるため、NDフィルタ30bに対向する画素20bの信号Sbは、α(X1+X4)+β(X2+X3)と表される。同様に、NDフィルタ30dを介して得られる信号Sdは、(X1+X2+X3+X4)(α+β)/2と表される。
 第2に、水平左方向に像が1画素ピッチ移動し、NDフィルタ30a、30cを介して光電変換された画素信号が読み出される。図4(d)に示すように、NDフィルタ30aを介して得られる信号Saはα(X2+X4)+β(X1+X3)と表される。同様に、NDフィルタ30cを介して得られる信号Scはα(X1+X2)+β(X3+X4)と表される。すなわち、上記信号Sa~Sdは、それぞれ以下の式1~式4で表される。
 (式1)Sa=α(X2+X4)+β(X1+X3)
 (式2)Sb=α(X1+X4)+β(X2+X3)
 (式3)Sc=α(X1+X2)+β(X3+X4)
 (式4)Sd=(X1+X2+X3+X4)(α+β)/2
 次に、これらの信号について以下の処理を行う。最初に、Sdを2(α+β)で除算する。次に、Sdとその他の信号との減算を行い、それらの結果を2(α-β)で除算する。これらの演算により、式5~式8でそれぞれ表される信号Y1、Y2、Y3、Y4が得られる。
 (式5)Y1=Sd/2(α+β)
 (式6)Y2=(Sc-Sd)/2(α-β)
 (式7)Y3=(Sd-Sa)/2(α-β)
 (式8)Y4=(Sb-Sd)/2(α-β)
 その結果、Y1~Y4とX1~X4との関係が以下の式9~式12で表される。
 (式9)Y1=(X1+X2+X3+X4)/4
 (式10)Y2=(X1+X2-X3-X4)/4
 (式11)Y3=(X1-X2+X3-X4)/4
 (式12)Y4=(X1-X2-X3+X4)/4
 NDフィルタ30a~30dを介して得られた信号を上記演算により処理して得られる信号(Y1、Y2、Y3、Y4)は、ウェーブレット変換された信号であるといえる。それらの結果に対して上記と同じ加減算処理を施すと元の信号(X1、X2、X3、X4)を算出できる。すなわち、以下の式13~式16に示す加減算処理により、1画素ピッチの1/4の幅をもつ各領域における画素信号X1~X4を得ることができる。
 (式13)X1=Y1+Y2+Y3+Y4
 (式14)X2=Y1+Y2-Y3-Y4
 (式15)X3=Y1-Y2+Y3-Y4
 (式16)X4=Y1-Y2-Y3+Y4
 なお、上記の信号演算処理は一例であり、信号X1~X4が求められれば、上記の手順に限らず、どのような手順で処理を行ってもよい。
 以上のように、本実施形態の撮像装置によれば、固体撮像素子1の画素に1対1に対応して配置された、光透過率の配列パターンが互いに異なる4種類のNDフィルタを利用することにより、水平方向の解像度を実質的に4倍に高めることが可能となる。4種類のNDフィルタのうちの3種類は、幅が水平画素ピッチの1/4である4つの領域に分割されている。第1のNDフィルタ30aは、「濃」「淡」「濃」「淡」の縞状パターンを有する。第2のNDフィルタ30bは、「淡」「濃」「濃」「淡」の縞状パターンを有する。第3のNDフィルタ30cは、「淡」「淡」「濃」「濃」の縞状パターンを有する。第4のNDフィルタ30dは、縞模様のパターンを有しておらず、その透過率は均一である。これらの縞状パターンを横切るように像を水平方向に1画素ピッチ移動させ、移動の前後で撮像することにより、1画素ピッチの1/4の幅を有する各領域における画素信号を得ることができる。すなわち、サブピクセルの精度で画素信号を取得できるため、従来以上の高解像度化が図れるという効果を奏する。
 なお、本実施形態では、各画素の開口率は100%であるものとしているが、100%よりも小さくてもよい。各画素の開口率に応じて信号を補正すれば同様の効果を得ることができる。
 また、本実施形態における各NDフィルタの光透過率の配列パターンは、上記のパターンに限るものではない。各NDフィルタの光透過率の配列パターンは、上記に示すパターンの背反なパターンであってもよい。ここで、「背反」とは、透過率αである「淡」領域と透過率βである「濃」領域とが逆転していることを意味する。例えば、図4(a)に示すパターンの代わりに図5に示すパターンを採用してもよい。図5は、NDフィルタ30a、30b、30cの代わりに、濃淡を逆転させたNDフィルタ30e、30f、30gをそれぞれ配置した構成を示している。この構成を採用した場合、上記の信号演算処理において、αとβとを逆転させれば同様の結果が得られる。この例では、3つのNDフィルタの濃淡を逆転させているが、1つまたは2つのNDフィルタの濃淡を逆転させた構成であってもよい。
 NDフィルタと画素との対応に関して、本実施形態では1つのNDフィルタに対して1画素を対応させているが、複数の画素を1つのNDフィルタに対応させても問題はない。例えば、1つのNDフィルタに対して2画素を対応させることが可能である。図6は、1つのNDフィルタ30hに対して2画素20a、20bを対応させる例を示している。この例では、2つの画素20a、20bを覆うようにNDフィルタ30hが配置されている。NDフィルタ30hは、各々がX方向に画素ピッチの1/2の幅をもつ4つの領域に分割されている。このNDフィルタ30hの光透過率の配列パターンは、「濃」「淡」「淡」「濃」と表される。2つの画素20a、20bから得られる2つの画素信号に基づいて4つの領域の輝度を示す信号を求めることができる。この例では、X方向の解像度は通常の解像度の1/2になる。なお、この例では、NDフィルタ30hのうち、画素20aに対向する部分と、画素20bに対向する部分とがそれぞれ異なる光透過部として機能する。そのため、NDフィルタ30hは、画素20aに対向する部分と画素20bに対向する部分とが異なる光透過率の配列パターンとなるように構成される。
 また、本実施形態では、透明ガラス板3を移動させることによって光の像を移動させるが、像の移動を他の方法で行ってもよい。本発明においては、複数の光透過部に対して像の相対位置が変化するように構成されていれば、どのような手段によって実現されていてもよい。例えば、厚さが均一な透明ガラス板を光軸に対して傾斜させて配置し、そのガラス板を微動させても像の位置をずらすことができる。このように、光軸に垂直な平面に対して傾斜した表面を有する透光性部材を微動させることによって同様の効果を得ることができる。また、像と撮像素子1を固定し、全てのNDフィルタを1画素ピッチ水平に移動させても信号処理によって同様の効果が得られる。NDフィルタを微動させる構成では、例えば、素子駆動部6がNDフィルタを微動させる機構を備える。
 本実施形態では、各画素に入射する光の量をほぼ等しくするために、第4のNDフィルタ30dの光透過率を(α+β)/2に設定しているが、このように設定する必要は必ずしもない。第4のNDフィルタ30dの4つの領域の光透過率が0でない限り、どのような値に設定されていても、信号演算によって同様の効果を得ることができる。
 本実施形態では、水平方向の解像度が通常の4倍に向上するが、光学的ローパスフィルタ2を用いるため、垂直方向の解像度は通常の1/2に低下する。そこで、垂直方向の解像度の低下を抑えるため、垂直方向の画素ピッチを通常の半分にしてもよい。このようにすれば、光学的ローパスフィルタ2を用いても、垂直方向の解像度は通常の解像度と同程度に維持される。
 (実施形態2)
 次に、図7を参照しながら本発明の第2の実施形態による撮像装置を説明する。本実施形態の撮像装置は、NDフィルタの構成のみが実施形態1の撮像装置と異なっており、その他の構成は実施形態1と同じである。以下、実施形態1の撮像装置と異なる点を中心に説明し、重複する点については説明を省略する。
 図7は本実施形態における固体撮像素子1の基本画素構成及び信号分布図である。図7(a)は、開口率100%の画素に1対1に対応して縞状パターンのNDフィルタ30a、30b、30c、30dが配置された状態を示している。本実施形態では、実施形態1(図4)のNDフィルタの構成を一部変更し、NDフィルタ30dの代わりにNDフィルタ30aの背反模様のNDフィルタ30eが画素20dに対向して配置されている。また、濃淡パターンの光透過率に関して、「濃」の部分は極めて光透過率が低く(β≒0)、「淡」の部分では光透過率が極めて高く(α≒1)設定されている。このような構成により、各NDフィルタの全透過光量をほぼ同じにしている。
 以下、本実施形態における撮像時の動作を説明する。
 撮像のための露光が開始すると、透明ガラス板3は光軸に対して垂直方向(画像の水平方向)に微動し、撮像面に形成される像を水平方向に微動させる。光学的ローパスフィルタ2は画像の垂直方向に解像度を低下させるが、水平方向には影響を及ぼさない。本実施形態では、像は静止状態から水平方向に1画素ピッチずれた位置、5/4ピッチずれた位置、3/2ピッチずれた位置にそれぞれ移動し、その度に光電変換によって生成された画像信号が固体撮像素子1から読み出される。
 次に、図7(b)~(f)を参照しながら、読み出される画素信号を説明する。本実施形態では、「濃」領域および「淡」領域の光透過率をそれぞれ0%および100%とする。すなわち、α=1、β=0とする。最初に、NDフィルタ、30b、30eに注目する。光学的ローパスフィルタ2の影響により、NDフィルタ30b、30e上の光量は同じと考える。
 図7(b)には、NDフィルタがないと仮定した場合に画素20b、30eに蓄積される信号の水平方向の依存性を例示するグラフ19aが示されている。図7(b)には、像が水平方向に1ピッチ、5/4ピッチ、3/2ピッチ移動した際に画素30a、30cに蓄積される信号の水平方向の依存性をそれぞれ例示するグラフ19b、19c、19dも示されている。
 以下、各画素から読み出される画素信号に基づいてビデオ信号生成部9で行われる処理を説明する。
 まず第1に、静止状態において、NDフィルタ30b、30eを介して光電変換された信号がそれぞれ読み出される。図7(c)に示すように、NDフィルタ30b、30eを介して得られる信号は、それぞれ(X1+X4)、(X1+X3)と表される。第2に、水平方向に像が1画素ピッチ移動し、NDフィルタ30a、30cを介して光電変換された画素信号が読み出される。図7(d)に示すように、このときNDフィルタ30a、30cを介して読み出される信号は、それぞれ(X2+X4)、(X1+X2)と表される。第3に、静止状態から水平方向に5/4画素ピッチ像が移動し、NDフィルタ1a、1cを介して光電変換された画素信号が読み出される。図7(e)に示すように、このときNDフィルタ30a、30cを介して読み出される信号は、それぞれ(X3+X5)、(X2+X3)と表される。第4に、静止状態から水平方向に3/2画素ピッチ像が移動し、NDフィルタ1a、1cを介して光電変換された画素信号が読み出される。図7(f)に示すように、このときNDフィルタ30a、30cを介して読み出される信号は、それぞれ(X4+X6)、(X3+X4)と表される。
 読み出された信号の中で、(X3+X5)と(X4+X6)は利用せず、その他の信号を利用する。まず、NDフィルタ30eを介して得られた信号(X1+X3)と、像が1画素ピッチ移動した際にNDフィルタ30aを介して得られた信号(X2+X4)の加算により、(X1+X2+X3+X4)を算出し、それをY1とおく(式17)。次に、以下の式18~式20で示す各信号間の減算を行う。
 (式17)Y1=(X1+X2+X3+X4)
 (式18)Y2=(X1+X2)-(X3+X4)
 (式19)Y3=(X1+X3)-(X2+X4)
 (式20)Y4=(X1+X4)-(X2+X3)
 これらの演算によって得られる信号Y1、Y2、Y3、Y4は、係数を除けば実施形態1と同じでありる。(Y1、Y2、Y3、Y4)は、ウェーブレット変換された信号であるといえる。それらの結果に対して上記と同じ演算処理を施すと元の信号(X1、X2、X3、X4)を算出できる。すなわち、以下の式21~式24に示す演算処理により、1画素ピッチの1/4の幅をもつ各領域における画素信号X1~X4を得ることができる。
 (式21)X1=(Y1+Y2+Y3+Y4)/4
 (式22)X2=((Y1+Y2)-(Y3+Y4))/4
 (式23)X3=((Y1+Y3)-(Y2+Y4))/4
 (式24)X4=((Y1+Y4)-(Y2+Y3))/4
 なお、信号演算処理は上記の手順に限らず、信号X1~X4が求められれば、どのような手順で処理を行ってもよい。
 以上のように、本実施形態の撮像装置によれば、固体撮像素子1の画素に1対1に対応して配置された、光透過率の配列パターンが互いに異なる4種類のNDフィルタを利用することにより、水平方向の解像度を実質的に4倍に高めることが可能となる。各NDフィルタは、縞の間隔が水平画素ピッチの1/4である4つの領域に分割されている。第1のNDフィルタ30aは、「濃」「淡」「濃」「淡」の縞状パターンを有している。第2のNDフィルタ30bは、「淡」「濃」「濃」「淡」の縞状パターンを有している。第3のNDフィルタ30cは、「淡」「淡」「濃」「濃」の縞状パターンを有している。第4のNDフィルタ30dは、「淡」「濃」「淡」「濃」の縞状パターンを有している。これらの縞状パターンを横切る形で像を初期位置から水平方向に1画素ピッチ、5/4画素ピッチ、3/2画素ピッチずらし、各々で撮像することにより、1画素ピッチの1/4の幅を有する各領域における画素信号を得ることができる。すなわち、サブピクセルの精度で画素信号を取得できるため、従来以上の高解像度化が図れるという効果を奏する。
 なお、本実施形態では「淡」の領域の透過率を100%とし、「淡」の領域の透過率を0%としたが、濃淡の差が十分大きければ、上記演算処理は概ね成立するので、必ずしも上記透過率に設定する必要はない。
 本実施形態における各NDフィルタの光透過率の配列パターンは、上記のパターンに限るものではない。各NDフィルタの光透過率の配列パターンは、上記に示すパターンの背反なパターンであってもよい。ただし、本実施形態では、NDフィルタ30aとNDフィルタ30eとは背反の関係になるように構成されている必要がある。
 また、本実施形態でも、結像の微動に関して、透明ガラス板3を微動させる方法に限らず、他の方法で行ってもよい。例えば、厚さが均一な透明ガラス板を光軸に対して傾斜させて配置し、そのガラス板を微動させても像の位置をずらすことができる。このように、光軸に垂直な平面に対して傾斜した表面を有する透光性部材を微動させることによって同様の効果を得ることができる。また、像と撮像素子1を固定し、全てのNDフィルタを1画素ピッチだけ水平に移動させても同様の効果が得られる。
 (実施形態3)
 次に、本発明の第3の実施形態による撮像装置を説明する。本実施形態の撮像装置において、実施形態2の撮像装置と構成や信号読み出し処理は同じであるが、算出する信号が異なる。そのため、実施形態2の撮像装置と異なる点を中心に説明し、重複する点については説明を省略する。
 本実施形態では、画像の特徴を画素値の変化分と考え、1/4画素ピッチ毎の交流信号を算出することを目的とする。すなわち、直流成分を0としたときの各画素信号を算出する。そこで、Y1=0としてX1~X4の信号を算出する。このような処理によって直流成分に影響されない画素信号が得られる。具体的には、式21~式24において、Y1=0とおいて、各画素信号を算出すれば、以下の式25~式28に示す1/4画素ピッチ毎の交流信号X1~X4が得られる。
 (式25) X1=(Y2+Y3+Y4)/4
 (式26) X2=(Y2-Y3-Y4)/4
 (式27) X3=(Y3-Y2-Y4)/4
 (式28) X4=(Y4-Y2-Y3)/4
 以上のように、本実施形態の撮像装置によれば、固体撮像素子1の画素に1対1に対応して配置された、光透過率の配列パターンが互いに異なる4種類のNDフィルタを利用することにより、水平方向の解像度を実質的に4倍に高めることが可能となる。各NDフィルタは、縞の間隔が水平画素ピッチの1/4である4つの領域に分割されている。第1のNDフィルタ30aは、「濃」「淡」「濃」「淡」の縞状パターンを有している。第2のNDフィルタ30bは、「淡」「濃」「濃」「淡」の縞状パターンを有している。第3のNDフィルタ30cは、「淡」「淡」「濃」「濃」の縞状パターンを有している。第4のNDフィルタ30dは、「淡」「濃」「淡」「濃」の縞状パターンを有している。これらの縞状パターンを横切る形で像を初期位置から水平方向に1画素ピッチ、5/4画素ピッチ、3/2画素ピッチずらし、各々について撮像を行う。本実施形態では、信号処理において、直流成分である信号を0とおくことにより、1画素ピッチの1/4の幅をもつ各領域における交流の画素信号を得ることができる。その結果、交流成分についても従来以上の高解像度画像が得られるという効果を奏する。
 (実施形態4)
 次に、図8を参照しながら本発明の第4の実施形態による撮像装置を説明する。本実施形態の撮像装置は、実施形態2の撮像装置と比較して、光透過部の各領域の配列パターンは実施形態2と同様であるが、各NDフィルタの濃淡部における光透過率、光の像のずれ方、および信号処理方法が異なる。以下、実施形態2の撮像装置と異なる点を中心に説明し、重複する点についての説明を省略する。
 NDフィルタの濃淡部における光透過率に関して、実施形態1と同じく、「淡」の部分の光透過率はα(>0)、「濃」の部分の光透過率はβ(>0、ただしαよりも小さい)に設定される。光の像のずれ方及び撮像に関しては、実施形態1と同様である。すなわち、撮像面に形成される像が静止状態から水平方向に1画素ピッチ移動し、像の移動前後で光電変換された画素信号が固体撮像素子1からそれぞれ読み出される。
 以下、図8を参照しながら、読み出される画素信号を説明する。図8は、本実施形態における固体撮像素子1の基本画素構成及び信号分布図である。
 本実施形態では、まず第1に、静止状態において、NDフィルタ30b、30eを介して光電変換された信号がそれぞれ読み出される。図8(c)に示すように、NDフィルタ30bを介して得られる信号Sbは、α(X1+X4)+β(X2+X3)と表される。NDフィルタ30eを介して得られる信号Seはα(X1+X3)+β(X2+X4)と表される。第2に、水平左方向に像が1画素ピッチ移動し、NDフィルタ30a、30eを介して光電変換された画素信号が読み出される。図8(d)に示すように、NDフィルタ30aを介して得られる信号Saはα(X2+X4)+β(X1+X3)と表される。NDフィルタ30cを介して得られる信号Scはα(X1+X2)+β(X3+X4)と表される。したがって、信号Sa、Sb、Scは、それぞれ式1~式3で表される。信号Seは、次の式29で表される。
 (式29)Se=α(X1+X3)+β(X2+X4)
 ここで、式1と式25により、(X1+X3)と(X2+X4)に関して連立方程式を解くと、それらはそれぞれ以下の式30、31で表される。
 (式30)(X1+X3)=(αSe-βSa)/(α2-β2
 (式31)(X2+X4)=(αSa-βSe)/(α2-β2
 さらに、式30と式31から、以下の式32と式33で示すように、X3をX1とその他の項で表し、またX4をX2とその他の項で表す。
 (式32)X3=(αSe-βSa)/(α2-β2)-X1
 (式33)X4=(αSa-βSe)/(α2-β2)-X2
 次に、X3、X4を式2と式3に代入することにより、X1とX2を求める。X1、X2は、それぞれ以下の式34、式35で表される。さらに、X3、X4は、それぞれ以下の式36、式37で表される。
 (式34)X1=(-(α+2β)Sa+(α+β)(Sb+Sc)-βSe)/2(α2-β2
 (式35)X2=((α+2β)Sa-(α+β)(Sb-Sc)+βSe)/2(α2-β2
 (式36)X3=(αSa-(α+β)(Sb+Sc)+(2α+β)Se)/2(α2-β2
 (式37)X4=((α-2β)Sa+(α+β)(Sb-Sc)-3βSe)/2(α2-β2
 このように、図8(a)に示すNDフィルタの構成で、1画素ピッチ水平方向に像をずらすことにより、水平方向の画素ピッチが通常の1/4である画像に相当する高精細な画像信号が得られる。なお、信号演算処理は上記の手順に限らず、信号X1~X4が求められれば、どのような手順で行ってもよい。
 以上のように本実施形態の撮像装置によれば、固体撮像素子1の画素に1対1に対応して配置された、光透過率の配列パターンが互いに異なる4種類のNDフィルタを利用することにより、水平方向の解像度を実質的に4倍に高めることが可能となる。各NDフィルタは、縞の間隔が水平画素ピッチの1/4である4つの領域に分割されている。第1のNDフィルタ30aは、「濃」「淡」「濃」「淡」の縞状パターンを有している。第2のNDフィルタ30bは、「淡」「濃」「濃」「淡」の縞状パターンを有している。第3のNDフィルタ30cは、「淡」「淡」「濃」「濃」の縞状パターンを有している。第4のNDフィルタ30dは、「淡」「濃」「淡」「濃」の縞状パターンを有している。これらの縞状パターンを横切るように像を水平方向に1画素ピッチ移動させ、移動の前後で撮像することにより、1画素ピッチの1/4の幅を有する各領域における画素信号を得ることができる。すなわち、サブピクセルの精度で画素信号を取得できるため、従来以上の高解像度化が図れるという効果を奏する。
 なお、以上の実施形態1~4では、各NDフィルタは、X方向に等しい幅をもった4つの縞状の領域に分割されているが、これらの領域の幅が異なっていても本発明の効果を得ることは可能である。これらの領域の幅が異なっている場合、それらの幅の差に起因する透過光量の差を考慮して各信号を補正すればよい。
 本発明における各光透過部の光透過率の配列パターンは、上記の実施形態1~4で示したNDフィルタのパターンに限るものではない。各光透過部の光透過率の配列パターンは、光透過部の各領域に入射する光の量を示す信号を求めることができれば、どのようなパターンであってもよい。また、光透過部における領域の数も4つに限るものではない。本発明では、1つの単位画素ブロックにN個(Nは2以上の整数)の画素が含まれ、各光透過部がM個(Mは2以上の整数)の領域に分割されていればよい。
 また、上記の各実施形態において、各NDフィルタの各領域の光透過率は、α、β、(α+β)/2のいずれかに設定されるが、本発明はこのような例に限られるものではない。本発明において、各光透過部の全ての領域の光透過率が異なっていても、それらの光透過率が既知であれば、信号演算によって各領域の信号を求めることができる。
 上記の各実施形態では、水晶からなる光学的ローパスフィルタ2によって垂直方向の解像度を下げ、水平方向に像をずらすことにより、水平方向のみ解像度を向上させている。これは、像をずらす回数を削減するためであり、もし垂直方向にも像を微動させるなら、光学的ローパスフィルタ2を用いなくてもよい。光学的ローパスフィルタ2を用いず、像を水平及び垂直方向にシフトさせる構成であっても、各実施形態と同様の効果を得ることができる。さらに、各光透過部は、水平方向に限らず、垂直方向に沿って配列された複数の領域に分割されていてもよい。また、各光透過部の光透過率の配列パターンが2次元的なパターンであれば、水平及び垂直方向の高解像度化も図ることができる。
 本発明の撮像装置および固体撮像素子は、固体撮像素子を用いるすべてのカメラに有効である。例えば、デジタルスチルカメラやデジタルビデオカメラなどの民生用カメラや、産業用の固体監視カメラなどに利用可能である。
 1  固体撮像素子
 1a 固体撮像素子の撮像面
 2  光学的ローパスフィルタ
 3  透明ガラス板
 4  光学レンズ
 5  信号発生/受信部
 6  素子駆動部
 7  光学系駆動部
 8  画像メモリー部
 9  ビデオ信号生成部
 10  ビデオインターフェース部
 11 光学系
 19a、19b、19c、19d 画素信号
 20a、20b、20c、20d 画素
 30a、30b、30c、30d、30e、30f、30g、30h、30i NDフィルタ(光透過部)
 40 単位画素ブロック
 100 撮像部
 200 映像信号処理部

Claims (8)

  1.  撮像面上において、第1方向および前記第1方向と交差する第2方向に沿って2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含む複数の単位画素ブロックに分割された画素アレイ、および各々が各画素に対応して配置された複数の光透過部であって、各光透過部は前記第1の方向に沿って配列されたM個(Mは2以上の整数)の領域に分割され、各領域は個別に設定された光透過率を有し、各単位画素ブロックに含まれる前記N個の画素に対応するN個の光透過部の光透過率の配列パターンは互いに異なっている複数の光透過部を有する固体撮像素子と、
     前記固体撮像素子の撮像面に像を形成する光学系と、
     前記複数の光透過部に対する前記像の相対位置を前記第1方向および前記第2方向の少なくとも一方にシフトさせる位置ずらし部と、
     前記固体撮像素子の各画素から出力される信号に基づいて、前記画素アレイの前記第1方向における画素ピッチで規定される解像度よりも高い解像度の画像を生成する信号処理部と、
    を備える撮像装置。
  2.  前記光学系は、前記光学系によって形成される像の前記第2方向における解像度を低下させる光学ローパスフィルタを有し、
     前記位置ずらし部は、前記複数の光透過部に対する前記像の相対位置を前記第1方向にシフトさせる、請求項1に記載の撮像装置。
  3.  各単位画素ブロックに含まれる前記N個の画素に対応する前記N個の光透過部の光透過率の配列パターンは、直交ウェーブレット係数に基づいて決定されている、請求項1または2に記載の撮像装置。
  4.  前記光学系は、光軸に垂直な平面に対して傾斜した表面を有する透光性部材を含み、
     前記位置ずらし部は、前記透光性部材を前記光軸に垂直な方向に移動させることによって前記複数の光透過部に対する前記像の相対位置をシフトさせる、請求項1から3のいずれかに記載の撮像装置。
  5.  各単位画素ブロックに含まれるN個の画素に対応するN個の光透過部のうち少なくともN-1個は、第1透過率または前記第1透過率とは異なる第2透過率に設定されている、請求項1から4のいずれかに記載の撮像装置。
  6.  N=4、M=4であり、
     前記第1透過率を「1」、前記第2透過率を「-1」と表すとき、各単位画素ブロックに含まれる4つの画素に対応する4つの光透過部の光透過率の配列パターンは、それぞれ、「1、-1、1、-1」で表される第1パターンまたは前記第1パターンの背反パターン、「-1、1、1、-1」で表される第2パターンまたは前記第2ターンの背反パターン、「-1、-1、1、1」で表される第3パターンまたは前記第3パターンの背反パターン、および各領域の光透過率が0よりも大きい第3透過率に設定された第4パターンである、請求項5に記載の撮像装置。
  7.  N=4、M=4であり、
     前記第1透過率を「1」、前記第2透過率を「-1」と表すとき、各単位画素ブロックに含まれる4つの画素に対応する4つの光透過部の光透過率の配列パターンは、それぞれ、「1、-1、1、-1」で表される第1パターン、「-1、1、1、-1」で表される第2パターンまたは前記第2ターンの背反パターン、「-1、-1、1、1」で表される第3パターンまたは前記第3パターンの背反パターン、および前記第1パターンの背反パターンである、請求項5に記載の撮像装置。
  8.  撮像面上において、第1方向および前記第1方向と交差する第2方向に沿って2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含む複数の単位画素ブロックに分割された画素アレイと、
     各々が各画素に対応して配置された複数の光透過部であって、各光透過部は前記第1の方向に沿って配列されたM個(MはN以上の整数)の領域に分割され、各領域は個別に設定された光透過率を有し、各単位画素ブロックに含まれる前記N個の画素に対応するN個の光透過部の光透過率の配列パターンは互いに異なっている複数の光透過部と、
    を備える固体撮像素子。
PCT/JP2010/005936 2009-10-07 2010-10-04 撮像装置および固体撮像素子 WO2011043051A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US13/142,021 US8537256B2 (en) 2009-10-07 2010-10-04 Image pickup device and solid-state image pickup element
CN2010800028948A CN102177706B (zh) 2009-10-07 2010-10-04 摄像装置和固体摄像元件
JP2011501830A JPWO2011043051A1 (ja) 2009-10-07 2010-10-04 撮像装置および固体撮像素子

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2009-233287 2009-10-07
JP2009233287 2009-10-07

Publications (1)

Publication Number Publication Date
WO2011043051A1 true WO2011043051A1 (ja) 2011-04-14

Family

ID=43856535

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2010/005936 WO2011043051A1 (ja) 2009-10-07 2010-10-04 撮像装置および固体撮像素子

Country Status (4)

Country Link
US (1) US8537256B2 (ja)
JP (1) JPWO2011043051A1 (ja)
CN (1) CN102177706B (ja)
WO (1) WO2011043051A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103004218A (zh) * 2011-05-19 2013-03-27 松下电器产业株式会社 三维摄像装置、摄像元件、透光部、及图像处理装置

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9066072B2 (en) * 2010-07-20 2015-06-23 Semiconductor Components Industries, Llc Systems and methods for calibrating image sensors
US10110834B2 (en) * 2011-11-07 2018-10-23 Raytheon Company Hadamard enhanced sensors
JP6080505B2 (ja) * 2012-11-06 2017-02-15 キヤノン株式会社 像振れ補正装置およびその制御方法
US9363425B2 (en) * 2012-12-06 2016-06-07 Semiconductor Components Industries, Llc Color filter arrangements for fused array imaging systems
WO2016200792A1 (en) * 2015-06-07 2016-12-15 Barrows, Geoffrey, Louis Localization method and apparatus
JP2018157074A (ja) * 2017-03-17 2018-10-04 キヤノン株式会社 電子部品、電子部品の製造方法及び電子機器
US10951825B2 (en) * 2017-05-23 2021-03-16 Huawei Technologies Co., Ltd. Image photographing method applied to terminal, and terminal device
JP6814762B2 (ja) * 2018-03-16 2021-01-20 株式会社日立製作所 撮像装置
EP3863278B1 (en) * 2018-10-03 2023-04-19 FUJIFILM Corporation Imaging device

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09214988A (ja) * 1996-02-05 1997-08-15 Olympus Optical Co Ltd 静止画像撮像装置
JP2009010847A (ja) * 2007-06-29 2009-01-15 Toshiba Corp 色成分補間装置及びその方法
JP2009225454A (ja) * 2005-07-26 2009-10-01 Panasonic Corp 複眼方式の撮像装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS58137247A (ja) 1982-02-10 1983-08-15 Hitachi Ltd 固体撮像装置
JPS60187187A (ja) 1984-03-06 1985-09-24 Matsushita Electronics Corp 固体撮像装置およびその駆動方法
US4907074A (en) * 1985-10-31 1990-03-06 Canon Kabushiki Kaisha Image pickup apparatus having color separation filters and forming line-sequential luminance and color-difference signals
JPS63284979A (ja) 1987-05-15 1988-11-22 Fujitsu Ltd 固体撮像装置
JPS6469160A (en) 1987-09-10 1989-03-15 Canon Kk Picture input device
JP3762049B2 (ja) * 1997-06-27 2006-03-29 キヤノン株式会社 撮像装置及び撮像方法及びその撮像方法を記録した記録媒体
JP3970185B2 (ja) * 2003-01-14 2007-09-05 富士フイルム株式会社 固体撮像素子及びデジタルカメラ
JP3877695B2 (ja) * 2003-04-03 2007-02-07 松下電器産業株式会社 カラー固体撮像装置
JP2005167874A (ja) * 2003-12-05 2005-06-23 Sanyo Electric Co Ltd 固体撮像素子及び画像信号処理装置
US7157690B2 (en) * 2004-03-31 2007-01-02 Matsushita Electric Industrial Co., Ltd. Imaging device with triangular photodetector array for use in imaging
JP2008011467A (ja) * 2006-06-30 2008-01-17 Toshiba Corp 表示パネルの撮像方法及び表示パネルの撮像装置
US7602427B2 (en) * 2006-07-07 2009-10-13 Honeywell International Inc. Image sensor that provides raw output comprising compressed data
JP2009093020A (ja) * 2007-10-10 2009-04-30 Olympus Corp 光学装置及びその光学装置を用いた撮像装置
JP2009116216A (ja) * 2007-11-09 2009-05-28 Seiko Epson Corp 画像表示装置及び画像表示方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09214988A (ja) * 1996-02-05 1997-08-15 Olympus Optical Co Ltd 静止画像撮像装置
JP2009225454A (ja) * 2005-07-26 2009-10-01 Panasonic Corp 複眼方式の撮像装置
JP2009010847A (ja) * 2007-06-29 2009-01-15 Toshiba Corp 色成分補間装置及びその方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103004218A (zh) * 2011-05-19 2013-03-27 松下电器产业株式会社 三维摄像装置、摄像元件、透光部、及图像处理装置

Also Published As

Publication number Publication date
CN102177706B (zh) 2013-11-27
JPWO2011043051A1 (ja) 2013-03-04
US8537256B2 (en) 2013-09-17
US20110254985A1 (en) 2011-10-20
CN102177706A (zh) 2011-09-07

Similar Documents

Publication Publication Date Title
WO2011043051A1 (ja) 撮像装置および固体撮像素子
JP5503458B2 (ja) 固体撮像素子および撮像装置
JP5232118B2 (ja) 撮像デバイスおよび電子カメラ
JP5739640B2 (ja) 撮像素子及び撮像装置
RU2490715C1 (ru) Устройство захвата изображения
CN104517984B (zh) 固体摄像装置、固体摄像装置制造方法和电子设备
JP2013157883A (ja) 固体撮像素子およびカメラシステム
JP2015015295A (ja) 固体撮像装置およびその製造方法、並びに電子機器
CN105518862A (zh) 固态成像器件、固态成像器件的驱动方法及电子装置
JP5621059B2 (ja) カラー撮像素子及び撮像装置
CN104025584B (zh) 彩色摄像元件及摄像装置
CN103460703B (zh) 彩色摄像元件及摄像装置
CN103460704B (zh) 彩色摄像元件及摄像装置
CN102668571A (zh) 具有像素替代的稀疏色彩像素阵列
WO2010038378A1 (ja) 画素ずらし型撮像装置
WO2011043045A1 (ja) 撮像装置、固体撮像素子、画像生成方法、およびプログラム
US20140375857A1 (en) Solid-state imaging device and electronic apparatus
CN106506997B (zh) 包括相位差检测像素的图像传感器
JP2015115527A (ja) 固体撮像装置及びカメラシステム
JP2015029012A (ja) 撮像素子および電子機器
JP5698555B2 (ja) 撮像素子、撮像装置
JP5411390B2 (ja) カラー撮像素子
JP2013106217A (ja) 奥行き推定撮像装置
WO2014097507A1 (ja) 固体撮像素子
WO2022149353A1 (ja) 受光素子、撮像装置及び補正処理方法

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 201080002894.8

Country of ref document: CN

WWE Wipo information: entry into national phase

Ref document number: 2011501830

Country of ref document: JP

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 10821728

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 13142021

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 10821728

Country of ref document: EP

Kind code of ref document: A1