CN112135017A - 图像传感器、图像处理方法及装置、成像模组、存储介质 - Google Patents
图像传感器、图像处理方法及装置、成像模组、存储介质 Download PDFInfo
- Publication number
- CN112135017A CN112135017A CN202010905595.0A CN202010905595A CN112135017A CN 112135017 A CN112135017 A CN 112135017A CN 202010905595 A CN202010905595 A CN 202010905595A CN 112135017 A CN112135017 A CN 112135017A
- Authority
- CN
- China
- Prior art keywords
- pixel
- type
- pixels
- unit
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 47
- 238000003672 processing method Methods 0.000 title claims abstract description 24
- 230000003287 optical effect Effects 0.000 claims abstract description 55
- 230000000694 effects Effects 0.000 claims description 70
- 238000000034 method Methods 0.000 claims description 41
- 239000002131 composite material Substances 0.000 claims description 26
- 230000004927 fusion Effects 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 11
- 238000004891 communication Methods 0.000 claims description 8
- 238000006243 chemical reaction Methods 0.000 claims description 3
- 238000001914 filtration Methods 0.000 claims 1
- 230000001678 irradiating effect Effects 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 30
- 230000015572 biosynthetic process Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000003786 synthesis reaction Methods 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 230000008030 elimination Effects 0.000 description 2
- 238000003379 elimination reaction Methods 0.000 description 2
- 238000007499 fusion processing Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000001308 synthesis method Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Solid State Image Pick-Up Elements (AREA)
Abstract
本申请实施例公开了一种图像传感器、图像处理方法及装置、成像模组、存储介质,能够降低图像传感器曝光的复杂度。该图像传感器包括微透镜阵列、滤光片阵列以及像素阵列,滤光片阵列由至少一个滤光片单元构成,至少一个滤光片单元中的每个滤光片单元对应像素阵列中的n个像素单元,n个像素单元的面积不同,n个像素单元与微透镜阵列中的n个微透镜一一对应,n个微透镜为独立微透镜,其中,n为大于等于2的正整数。
Description
技术领域
本申请涉及图像传感器成像领域,尤其涉及一种图像传感器、图像处理方法及装置、成像模组、存储介质。
背景技术
目前,对于不同曝光状态下图像的合成处理,如合成高动态范围图像(HDR,High-Dynamic Range)图像,常用的方式是在图像传感器中隔行交替使用一行长曝光、一行中曝光、一行短曝光的方式来得到三种曝光状态的图像,再融合三种曝光状态的图像得到HDR图像;或者是将图像传感器的像素阵列划分为四合一的像素结构,通过分别控制四合一像素结构中的每个像素的曝光时间,对四合一像素分别进行长曝光、中曝光、短曝光处理,得到长、中、短三种曝光状态的图像,然后融合三种曝光状态的图像得到HDR图像。上述两种方案需要通过对不同行像素控制不同的曝光时间,或是对同一像素中的不同位置控制不同的曝光时间,对于图像传感器的曝光控制要求较高,并且需要配合控制逻辑来对控制电路进行特殊设计,从而增加了图像传感器曝光的复杂度。
发明内容
本申请实施例期望提供一种图像传感器、图像处理方法及装置、成像模组、存储介质,能够降低图像传感器曝光的复杂度。
本申请的技术方案是这样实现的:
本申请实施例提供一种图像传感器,所述图像传感器包括微透镜阵列、滤光片阵列以及像素阵列,所述滤光片阵列由至少一个滤光片单元构成,所述至少一个滤光片单元中的每个滤光片单元对应所述像素阵列中的n个像素单元,所述n个像素单元的面积不同,所述n个像素单元与所述微透镜阵列中的n个微透镜一一对应,所述n个微透镜为独立微透镜,其中,n为大于等于2的正整数。
本申请实施例提供一种图像处理方法,应用于图像处理装置,所述图像处理装置包括如上述所述的图像传感器,所述方法包括:
在使用所述图像传感器成像时,基于n个像素单元的不同面积生成不同曝光状态的至少两类像素;
根据所述至少两类像素,生成至少两种曝光效果的图像;
将所述至少两种曝光效果的图像进行融合,实现不同曝光状态的图像处理,得到合成图像。
本申请实施例提供一种成像模组,包括:
上述所述的图像传感器、镜头模组以及图像处理芯片,其中,
所述镜头模组,用于采集外部光信号传递给所述图像传感器;
所述图像传感器用于将所述外部光信号转换为电信号;
所述图像处理芯片,用于根据上述所述的图像处理方法,对所述电信号进行成像处理,得到图像处理效果。
本申请实施例提供一种图像处理装置,包括像素生成单元、图像生成单元和融合单元,其中,
所述像素生成单元,用于在使用所述图像传感器成像时,基于n个像素单元的不同面积生成不同曝光状态的至少两类像素;
所述图像生成单元,用于根据所述至少两类像素,生成至少两种曝光效果的图像;
所述融合单元,用于将所述至少两种曝光效果的图像进行融合,实现不同曝光状态的图像处理,得到合成图像。
本申请实施例提供一种图像处理装置,包括:其特征在于,包括:如上述所述的成像模组、处理器、存储器以及通信总线,所述成像模组通过所述通信总线与所述处理器进行通信,所述存储器通过所述通信总线与所述处理器进行通信,所述存储器存储所述处理器可执行的一个或者多个程序,当所述一个或者多个程序被执行时,所述处理器执行如上述所述的图像处理方法。
本申请实施例提供一种存储介质,其存储有一个或者多个计算机程序,所述一个或者多个计算机程序可被一个或者多个处理器执行,以实现如上述任一项所述的图像处理方法。
本申请实施例提供了一种图像传感器、图像处理方法及装置、成像模组、存储介质,该图像传感器包括图像传感器包括微透镜阵列、滤光片阵列以及像素阵列,滤光片阵列由至少一个滤光片单元构成,至少一个滤光片单元中的每个滤光片单元对应像素阵列中的n个像素单元,n个像素单元的面积不同,n个像素单元与微透镜阵列中的n个微透镜一一对应,n个微透镜为独立微透镜,其中,n为大于等于2的正整数;该方法包括:在使用图像传感器成像时,基于n个像素单元的不同面积生成不同曝光状态的至少两类像素;根据至少两类像素,生成至少两种曝光效果的图像;将至少两种曝光效果的图像进行融合,实现不同曝光状态的图像处理,得到合成图像。采用上述方法实现方案,图像处理装置可以通过不同面积的n个像素单元所对应的不同面积的微透镜,获取不同信号量的光信号,然后根据各种不同的光信号量得到不同曝光状态的至少两类像素;进而可以根据不同曝光状态的至少两类像素生成至少两种曝光效果的图像,并最终融合得到合成图像。因此,本申请实施例中的图像传感器可以通过使用一套曝光参数,基于不同面积的微透镜和像素单元实现不同曝光状态的拍摄,而不需要分别对每个像素控制曝光时间,从而简化了传感器的曝光控制方式。
附图说明
图1为本申请实施例提供的一种成像模组的结构示意图;
图2为本申请实施例提供的一种滤光片单元、像素单元与微透镜对应关系示意图;
图3为本申请实施例提供的一种像素单元排布示意图一;
图4为本申请实施例提供的一种像素单元排布示意图二;
图5为本申请实施例提供的一种像素单元排布示意图三;
图6为本申请实施例提供的图像处理方法的一个可选的流程示意图;
图7为本申请实施例提供的图像处理方法的一个可选的流程示意图;
图8为本申请实施例提供的像素单元对应的子像素的示意图;
图9为本申请实施例提供的图像处理方法的一个可选的流程示意图;
图10-1为本申请实施例提供的一种子像素集合示意图一;
图10-2为本申请实施例提供的一种子像素集合示意图二;
图10-3为本申请实施例提供的一种子像素集合示意图三;
图11-1为本申请实施例提供的像素合并过程的示意图一;
图11-2为本申请实施例提供的像素合并过程的示意图二;
图11-3为本申请实施例提供的像素合并过程的示意图三;
图12为本申请实施例提供的图像处理方法的一个可选的流程示意图;
图13为本申请实施例提供的中间像素示意图;
图14-1为本申请实施例提供的中间像素合并过程的示意图一;
图14-2为本申请实施例提供的中间像素合并过程的示意图二;
图15-1为本申请实施例提供的一种根据像素组合得到对应曝光效果的图像的过程示意图一;
图15-2为本申请实施例提供的一种根据像素组合得到对应曝光效果的图像的过程示意图二;
图15-3为本申请实施例提供的一种根据像素组合得到对应曝光效果的图像的过程示意图三;
图15-4为本申请实施例提供的一种根据像素组合得到对应曝光效果的图像的过程示意图四;
图15-5为本申请实施例提供的一种根据像素组合得到对应曝光效果的图像的过程示意图五;
图16-1为本申请实施例提供的一种根据不同曝光效果的图像得到HDR图像的示意图一;
图16-2为本申请实施例提供的一种根据不同曝光效果的图像得到HDR图像的示意图二;
图17为本申请实施例提供的一种图像处理装置的结构示意图一;
图18为本申请实施例提供的一种图像处理装置的结构示意图二。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。
图1为本申请实施例提供的一种成像模组的结构示意图,如图1所示,成像模组5包含沿成像模组5到拍摄对象的光轴方向依次排列的图像处理芯片4、图像传感器1和镜头模组3;其中,镜头模组3可以是物镜模组,用于采集外部光信号传递给图像传感器1;具体的,镜头模组3可以接收拍摄对象反射的光线,使拍摄对象在焦点附近成像。图像传感器1包括微透镜阵列10、滤光片阵列20和像素阵列30,其中,微透镜阵列10覆盖在滤光片阵列20上,滤光片阵列20覆盖在像素阵列30上。其中,滤光片阵列20可以是颜色滤波阵列,由至少一个滤光片单元构成,至少一个滤光片单元属于至少一种颜色类型,并按照预设排列规律排列组成滤光片阵列20。像素阵列30由至少一个像素单元构成,至少一个滤光片单元中的每个滤光片单元与至少一个像素单元中的n个像素单元一一对应。其中,n个像素单元的面积不同,n个像素单元与微透镜阵列10中的n个微透镜一一对应;n个微透镜为独立微透镜,即每个像素单元的上方对应覆盖微透镜阵列10中一个独立的微透镜。
本申请实施例中,n为大于等于2的正整数。n个像素单元的面积不同,可以是n个像素单元中每个像素单元的面积均不同;也可以将n个像素单元的面积分为至少两种,使得其中部分像素单元的面积相同,部分像素单元的面积不同。具体的根据实际情况进行选择,本申请实施例不作限定。
在一些实施例中,如图2所示,滤光片阵列20的至少一个滤光片单元可以包括红色(Red,R)类型滤光片单元、绿色(Green,G)类型滤光片单元和蓝色(Blue,B)类型滤光片单元,其中,R、G、B类型滤光片单元的预设排列规律符合拜耳阵列。图2中示出的每个滤光片单元对应像素阵列中的9个像素单元,示例性的,一个R类型滤光片单元200对应9个像素单元300_1、300_2…300_9。9个像素单元300_1、300_2…300_9中的每个像素单元上对应覆盖有一个独立微透镜,示例性的,像素单元300_1上对应覆盖有微透镜400_1,像素单元300_2上对应覆盖有微透镜400_2…像素单元300_9上对应覆盖有微透镜400_9;其中,9个像素单元300_1、300_2…300_9包含三种不同的面积:300_1、300_3、300_7与300_9的面积相同,都属于最小面积的像素单元,300_2、300_4、300_6与300_8的面积相同,都属于中等面积的像素单元,300_5为面积最大的像素单元;相应地,与9个像素单元一一对应的9个微透镜400_1、400_2…400_9的面积也不同:400_1、400_3、400_7与400_9的面积最小,400_2、400_4、400_6与400_8的面积中等,400_5的面积最大。
在一些实施例中,滤光片阵列20也可以是其他类型的滤光片阵列,如RYYB阵列、RGBW、或补色CMY阵列等,本申请实施例不做限定。
在本申请的一些实施例中,n个微透镜与n个像素单元的面积种类均为m种;m为大于等于2,且小于等于n的正整数。在使用图像传感器1成像的过程中,外部光线通过m种面积的n个微透镜,转换为m种光信号;m种光信号中不同种光信号的信号量与其对应的微透镜面积成正比。m种光信号通过滤光片阵列20的每个滤光片单元,被过滤为不同颜色的m种光信号,对应照射在每个滤光片单元所对应的n个像素单元上。其中,像素阵列30的每个像素单元中包括一个光电二极管(PD,Photo Diode)结构,用于将接收到的光信号转换为电信号。因此,n个像素单元中的每个像素单元,可以通过光电转换元件,将不同颜色的m种光信号转换为m种电信号。与图像传感器1与图像处理芯片4相连接,图像处理芯片4用于根据m种电信号实现对外部光线不同曝光效果的成像,得到合成图像。具体地,图像处理芯片4可以根据m种电信号生成每个像素单元对应的不同曝光状态的像素,并可以基于每个不同曝光状态的像素实现对外部光线不同曝光效果的成像,并进一步根据不同曝光效果的成像进行图像融合,最终得到合成图像。
在一些实施例中,图像处理芯片4中包含PCB电路板,PCB电路板可通过模数转化器(ADC,Analog-to-Digital Converter)等元器件,将m种电信号转换为数字信号,并基于数字信号在图像处理芯片4中进行成像处理以及图像融合处理。
可以理解的是,本申请实施例中,由于每个像素单元对应的微透镜面积大小不同,因此每个像素单元接收到的光信号量也不同,基于不同光信号量所生成的像素的曝光状态也不同。这样使用图像传感器1就可以通过一套曝光参数、相同的曝光时间,得到不同曝光状态的像素,进而基于不同曝光状态的像素实现不同曝光效果的成像并最终得到合成图像,从而降低了图像传感器曝光的复杂度。进一步的,由于本申请实施例提供的图像处理方法对所有像素的曝光时间相同,因此只要调节整体曝光时间和增益即可消除拍照中因曝光不一致而造成的画面忽亮忽暗的闪烁(Flicker)现象,无需为了消除Flicker的进行不同曝光时间下曝光参数计算,从而也降低了消除Flicker的复杂度。
在本申请的一些实施例中,基于图1中所示的图像传感器,n个像素单元包括至少两类像素单元;n个像素单元的m种面积包括:至少两类像素面积;至少两类像素面积的面积均不相同;其中,至少两类像素单元与至少两类像素面积一一对应。
在本申请的一些实施例中,当n=9且m=3时,n个像素单元为9个像素单元;9个像素单元包括:第一类像素单元,第二类像素单元和第三类像素单元;m种面积包括:第一类像素面积、第二类像素面积和第三类像素面积;其中,第一类像素单元的面积最小,第三类像素单元的面积最大,第二类像素单元的面积大于一类像素单元的面积且小于三类像素单元的面积。
在一些实施例中,如图3所示,当n=9,且m=3时,9个像素单元中包括4个第一类像素单元500、4个第二类像素单元510与1个第三类像素单元520。其中,第一类像素单元500与第三类像素单元520为正方形,第二类像素单元510为长方形。第二类像素单元510的第一边的边长等于第三类像素单元520的边长,第二类像素单元510的第二边的边长等于第一类像素单元300的边长。
图3中,9个像素单元按照三层阵列排布,三层阵列的第一层和第三层的排布相同,其中,第一层依次排布有第一类像素单元500_1、第二类像素单元510_1和第一类像素单元500_2;第二层依次排布有第二类像素单元510_2、第三类像素单元520和第二类像素单元510_3;第三层依次排布有第一类像素单元500_3、第二类像素单元510_4和第一类像素单元500_4。第一层中的第二类像素单元510_1的第一边与第二层的第三类像素单元520的边相邻,510_1的第二边分别与第一层的第一类像素单元500_1与500_2的边相邻;第二层中的第二类像素单元510_2与510_3的第一边与第二层的第三类像素单元520的边均相邻,第二层中的第二类像素单元510_2与510_3的第二边分别与其对应位置上的第一层的第一类像素单元500_1与500_2的边相邻,第二类像素单元510_2与510_3的第一边也分别与其对应位置上的第三层的第一类像素单元500_3与500_4的边相邻。
本申请实施例中,基于图3所示的n个像素单元的排布,第一类像素面积、第二类像素面积和第三类像素面积之间的比例可以根据实际的需要调节,在一些实施例中,第一类像素面积、第二类像素面积和第三类像素面积之间的比例可以是1:2:4,也可以是1:3:9,本申请实施例不做限定。
在本申请的一些实施例中,当n=9,且m=2时,n个像素单元为9个像素单元;9个像素单元包括:第一类像素单元和第二类像素单元;m种面积包括:第一类像素面积和第二类像素面积;其中,第一类像素单元的面积最小,第二类像素单元的面积最大。
在一些实施例中,如图4所示,当n=9,且m=2时,第一类像素单元600为正方形,第二类像素单元610为长方形,第一类像素单元600的边长等于第二类像素单元610的第一边的边长的四分之一;其中,9个像素单元按照三层阵列排布,三层阵列的第一层和第三层的排布相同,三层阵列的第一层依次排布有4个第一类像素单元600_1、600_2、600_3与600_4;第三层依次排布有4个第一类像素单元600_5、600_6、600_7与600_8;第二层排布有第二类像素单元610;第二层中的第二类像素单元610的第一边与第一层的第一类像素单元600_1、600_2、600_3、600_4的边均相邻,并与第三层的第一类像素单元600_5、600_6、600_7、600_8的边均相邻。
在本申请的一些实施例中,当n=4,且m=3时,n个像素单元为4个像素单元;4个像素单元包括:第一类像素单元,第二类像素单元和第三类像素单元;m种面积包括:第一类像素面积、第二类像素面积和第三类像素面积;其中,第一类像素单元的面积最小,第三类像素单元的面积最大,第二类像素单元的面积大于一类像素单元的面积且小于三类像素单元的面积。
在一些实施例中,如图5所示,当n=4,且m=3时,第一类像素单元700与第三类像素单元720均为正方形,第二类像素单元710为长方形,第二类像素单元710的第一边的边长等于第三类像素单元720的边长,第二类像素单元710的第二边的边长等于第一类像素单元700的边长;其中,9个像素单元按照两层阵列排布,第一层依次排布有第一类像素单元700_1与第二类像素单元710_1;第二层依次排布有第二类像素单元710_2与第三类像素单元520。第一层中的第二类像素单元710_1的第一边与第二层的第三类像素单元720的边相邻,710_1的第二边与第一层的第一类像素单元700_1的边相邻;第二层中的第二类像素单元710_2第一边与其对应位置上的第一层的第一类像素单元700_1的边相邻,第二层中的第二类像素单元710_2的第二边与第二层的第三类像素单元720的边相邻。
需要说明的是,本申请实施例中,也可以对n个像素单元各自的面积、类型、形状和排列方式进行其他形式的布局和划分,具体的根据实际情况进行选择,本申请实施例不作限定。
本申请实施例提供了一种图像处理方法,应用于图像处理装置,该图像处理装置包括图1中所示的图像传感器;图6为本申请实施例提供的图像处理方法的一个可选的流程示意图,将结合图6示出的步骤进行说明。
S101、在使用图像传感器成像时,基于不同面积的n个像素单元生成不同曝光状态的至少两类像素。
本申请实施例中,在使用本申请实施例中的图像传感器成像时,由于n个像素单元的面积不同,而每个像素单元又对应有独立微透镜,因此n个像素单元中每个像素单元接收到的光信号量也不同。示例性的,基于图3中示出的9个像素单元的划分和排列,第三类像素单元接收到的光较多,光信号量较大,因此图像处理装置根据第三类像素单元接收到的光信号所生成的像素会呈现出长曝光的状态;相应的,第一类像素单元接收到的光较少,光信号量较小,因此图像处理装置根据第一类像素单元接收到的光信号所生成的像素会呈现出短曝光的状态。图像处理装置从而可以根据不同面积的9个像素单元生成不同曝光状态的至少两类像素。
本申请实施例中,图像处理装置可以将n个像素单元中每个像素单元生成的像素作为一类像素,从而得到至少两类像素,示例性的,当n=2,且m=2时,图像处理装置可以通过小面积的像素单元生成短曝光状态的像素,并通过大面积的像素单元生成长曝光状态的像素,从而得到n个像素单元对应的至少两个像素。图像处理装置也可以将n个像素单元中每个像素单元生成的像素作为子像素,得到n个子像素;再对n个子像素进行分类和像素合并,从而得到至少两类像素。
在一些实施例中,至少两类像素可以是长曝光像素与短曝光像素,也可以是长曝光像素、中曝光像素与短曝光像素。其中,长曝光像素在最终成像中呈现为较亮的效果,中曝光像素在最终成像中呈现为中等亮度效果,短曝光像素在最终成像中呈现为较暗的效果。
S102、根据至少两类像素,生成至少两种曝光效果的图像。
本申请实施例中,由于图像传感器中的n个像素单元对应滤光片阵列中的一个滤光片单元,在使用图像传感器进行成像时,对于一个滤光片单元对应的n个像素单元,图像处理装置可以得到不同曝光状态的至少两类像素;对于滤光片阵列的至少一个滤光片单元,图像处理装置将每个滤光片单元对应的n个像素单元作为一组进行相同的处理,从而可以得到像素阵列中每n个像素单元对应的至少两类像素。其中,每n个像素单元为像素阵列中与每个滤光片单元对应的n个像素单元。
在一些实施例中,像素阵列的每n个像素单元对应的至少两类像素为长曝光像素与短曝光像素,图像处理装置可以在像素阵列中,将每n个像素单元对应的短曝光像素进行类型组合,得到短曝光像素组合;以及将每n个像素单元对应的长曝光像素进行类型组合,得到长曝光像素组合。图像处理装置可以根据长曝光像素组合,生成长曝光效果的图像;并通过短曝光像素组合,生成短曝光效果的图像,图像处理装置将长曝光效果的图像与短曝光效果的图像作为至少两种曝光效果的图像。
S103、将至少两种曝光效果的图像进行融合,实现不同曝光状态的图像处理,得到合成图像。
本申请实施例中,图像处理装置可以通过图像合成的方法,将至少两种曝光效果的图像进行融合,以实现不同曝光状态的图像处理,最终得到合成图像。
本申请实施例中,动态范围表征图像处理装置对拍摄场景中景物光照反射的适应能力,体现在图像中即为图像的亮度及色温的变化范围。当拍摄场景中同时存在强光源照射下的高亮度区域以及阴影、逆光等相对亮度较低的区域时,为了避免在最终生成的图像中,明亮区域因曝光过度成为白色,黑暗区域因曝光不足成为黑色而严重影响图像质量,图像处理装置可以使用多张不同曝光效果的图像组合成一张合成图像,以使得合成图像中无论是阴影部分还是高光部分都可以较好的呈现图像的细节。
在一些实施例中,合成图像可以是生成单帧或多帧的高动态范围HDR图像。对于单帧HDR图像的合成,图像处理装置可以通过本申请实施例中的方法,得到像素阵列中每组n个像素单元对应的长曝光像素、中曝光像素与短曝光像素,进而得到长曝光图像、中曝光图像、与短曝光图像,进而将长曝光图像、中曝光图像、与短曝光图像进行融合,得到单帧HDR图像,从而实现使用同一套曝光参数即可生成HDR图像。
在一些实施例中,图像处理装置可以对将短曝光图像、中曝光图像与长曝光图像帧设置不同的亮度阈值,对短曝光图像、中曝光图像与长曝光图像中超过各自对应阈值的部分图像信息进行保留,从而得到整张图像的暗部,亮部和中等亮度部分的信息,图像处理装置将这些信息对应映射到最终的图像上,完成短曝光图像、中曝光图像与长曝光图像融合,得到对应的HDR图像,作为合成图像。
本申请实施例中,对于多帧HDR图像的合成,可以在多帧HDR合成前的每单帧图像中使用本申请实施例中的方法,以实现进一步拉宽多帧HDR亮度动态范围的效果。
可以理解的是,图像处理装置可以通过不同面积的像素单元和微透镜获取到不同的光信号量,进而对实现不同程度的曝光状态,使得图像处理装置可以对像素阵列中的所有像素使用同一个曝光参数来实现不同曝光状态的拍摄,而不需要分别对每个像素控制曝光时间,从而降低了图像传感器曝光的复杂度。进一步的,由于本申请实施例提供的图像处理方法对所有像素的曝光时间相同,因此只要调节整体曝光时间和增益即可消除拍照中因曝光不一致而造成的画面忽亮忽暗的闪烁(Flicker)现象,无需为了消除Flicker的进行不同曝光时间下曝光参数计算,从而也降低了消除Flicker的复杂度。
本申请实施例中,基于图6,S101中基于不同面积的n个像素单元生成不同曝光状态的至少两类像素的过程具体可以如图7所示,包括S1011-S1013,如下:
S1011、在使用图像传感器成像时,对于n个像素单元中的每个像素单元,通过该像素单元对应的微透镜接收目标光信号,目标光信号为m种光信号中的一种;m种光信号为外部光线通过m种面积的n个微透镜后转换的不同信号量的光信号。
本申请实施例中,在使用图像传感器成像时,由于n个像素单元中的每个像素单元的面积不同,对应的独立微透镜的面积也不同,因此,图像处理装置可以通过n个像素单元上覆盖的m种面积的微透镜接收到不同信号量的m种光信号。对于n个像素单元中的每个像素单元,图像处理装置可以通过该像素单元上覆盖的独立微透镜,接收目标光信号,目标光信号为m种光信号中的一种。
在一些实施例中,对于图3中示出的9个像素单元的排布方式,9个像素单元中的第一类像素单元对应的微透镜面积最小,因此对应的进光量也最少,图像处理装置可以通过每个第一类像素单元对应的微透镜分别接收到较小信号量的目标光信号;第二类像素单元对应的微透镜的进光量中等,图像处理装置可以通过每个第二类像素单元对应的微透镜分别接收到中等信号量的目标光信号;同样的,图像处理装置可以通过第三类像素单元对应的微透镜接收到最大信号量的目标光信号。
S1012、根据目标光信号,生成该像素单元对应的子像素,从而得到n个子像素。
本申请实施例中,对于n个像素单元中的每个像素单元,图像处理装置根据该像素单元所接收到的目标光信号,通过光电转换方法,生成该像素单元对应的子像素,从而得到n个子像素。
本申请实施例中,图像处理装置根据信号量较小的目标光信号,可以生成该像素单元对应的短曝光状态的子像素;根据信号量较大的目标光信号,可以生成该像素单元对应的长曝光状态的子像素。在一些实施例中,基于图2中示出的9个像素单元,图像处理装置可以如图8所示,根据9个像素单元中每个第一类像素单元接收到的目标光信号,生成S子像素,从而得到4个S子像素;根据每个第二类像素单元接收到的目标光信号,生成M子像素,从而得到4个M子像素;根据第三类像素单元接收到的目标光信号,生成L子像素,从而得到9个像素单元对应的9个子像素。
S1013、在n个像素单元中,基于微透镜的面积,对n个子像素进行分类与合并,得到至少两类像素。
本申请实施例中,对于n个像素单元生成的n个子像素,图像处理装置可以基于微透镜的面积,对n个子像素进行分类与合并,得到至少两类像素。
在本申请的一些实施例中,基于图7,S1013的具体实现过程可以如图9所示,通过S201-S202实现,如下:
S201、在n个子像素中,将相同面积的微透镜对应的子像素归为一个子像素集合,从而得到至少两个子像素集合。
本申请实施例中,由于相同面积的微透镜接收到的光信号量相同,图像处理装置通过同一种光信号所生成的子像素的曝光状态也相同,因此,图像处理装置可以在n个子像素中,将相同面积的微透镜对应的子像素归为一个子像素集合,从而得到至少两个子像素集合。
在一些实施例中,基于图8中示出的9个像素单元对应生成的9个子像素,图像处理装置可以如图10-1所示,将4个S子像素归为一个子像素集合,得到S子像素集合,如图10-2所示,将4个M子像素归为一个子像素集合,得到M子像素集合,再如图10-3所示,将L类型子像素归为一个子像素集合,得到L子像素集合。
需要说明的是,本申请实施例中,图像处理装置将相同面积的微透镜对应的子像素归为一个子像素集合可以是将全部相同面积的微透镜对应的子像素归为一个子像素集合,也可以是将图3中所示的S子像素进行两两组合,分别作为一个子像素集合。对于子像素集合组合的具体方式,本申请实施例不做限定。
S202、将每个子像素集合中的子像素进行像素合并,得到每个子像素集合对应的一类像素,从而得到与至少两个子像素集合对应的至少两类像素。
本申请实施例中,图像处理装置可以将每个子像素集合中的子像素进行像素合并(binning),得到每个子像素集合对应的一类像素,图像处理装置对至少两个子像素集合使用同样的方法处理,从而得到与至少两个子像素集合对应的至少两类像素。
本申请实施例中,图像处理装置可以通过对一个子像素集合中的至少一个子像素进行求和平均的方法,实现像素合并,得到该子像素集合对应的一类像素。
在一些实施例中,基于图10-1中所示的S子像素集合,图像处理装置可以如图11-1所示,对S子像素集合中的4个S子像素进行求和平均,得到S子像素集合对应的S像素,即短曝光状态的像素。基于图10-2中所示的M子像素集合,图像处理装置可以如图11-2所示,对M子像素集合中的4个M子像素进行求和平均,得到M子像素集合对应的M像素,即中曝光状态的像素。基于图10-3中所示的L子像素集合,图像处理装置可以如图11-3所示,将L子像素集合中的L子像素作为L子像素集合对应的L像素,即长曝光状态的像素。
需要说明的是,本申请实施例中,图像处理装置可以对从n个子像素生成至少两类像素的过程进行并行处理,示例性的,基于图8中示出的9个像素单元所对应的9个子像素,图像处理装置可以对9个子像素并行进行图10-1至图10-3的处理,从而可以同时得到S子像素集合、M子像素集合与L子像素集合;图像处理装置对S子像素集合、M子像素集合与L子像素集合并行进行图11-1至图11-3的处理,从而同时得到9个像素单元对应的S像素、M像素与L像素。
在本申请的一些实施例中,基于图7,S1012之后,还可以如图12所示,包括S301-S302,如下:
S301、在n个像素单元中,对同一行或者同一列的子像素进行像素合并,得到至少两个中间像素。
本申请实施例中,图像处理装置可以对n个像素单元中,位置处于同一行或者同一列的像素单元所生成的子像素进行像素合并(binning),从而得到至少两个中间像素。
在一些实施例中,基于图8中示出的9个子像素,图像处理装置可以如图13所示,分别对第一列的两个S子像素和一个M子像素进行求和平均,得到第一列对应的一个S中间像素;对第二列的两个M子像素和一个L子像素进行求和平均,得到第二列对应的一个L中间像素;对第三列上的两个S子像素和一个M子像素进行求和平均,得到第三列对应的一个S中间像素,图像处理装置将得到的两个S中间像素和一个L中间像素作为至少两个中间像素。
S302、将至少两个中间像素进行分类,得到至少两个中间像素集合;其中,每个中间像素集合中包含的多个目标中间像素之间的差值满足预设范围。
本申请实施例中,图像处理装置可以根据曝光状态对至少两个中间像素进行分类,将差值满足预设范围的中间像素归类在同一个中间像素集合中。示例性的,图像处理装置可以将差值小于预设分类阈值的中间像素认为是曝光状态相近的像素,归类在同一个中间像素集合中,从而可以根据至少两个中间像素得到至少两个中间像素集合。这样,图像处理装置所得到的每个中间像素集合中所包含的多个目标中间像素之间的差值满足预设范围。
在一些实施例中,基于图13中示出的3个中间像素,由于第一列的S中间像素和第三列的S中间像素的曝光状态相同,都比第二列的L中间像素的亮度小,因此,图像处理装置可以将第一列的S中间像素和第三列的S中间像素归为一个S中间像素集合,再将第二列的L中间像素作为一个L中间像素集合,从而得到至少两个中间像素集合。
S303、在每个中间像素集合中,对多个目标中间像素进行像素合并,得到每个中间像素集合对应的一类像素,从而得到至少两类像素。
本申请实施例中,对于一个中间像素集合,图像处理装置对每个中间像素集合中包含的多个目标中间像素进行像素合并,得到该中间像素集合对应的一类像素。图像处理装置对至少两个中间像素集合中的每个中间像素集合进行相同的处理,从而得到至少两类像素。
在一些实施例中,基于图13中示出的对同一列的子像素进行像素合并所得到的两个S中间像素与一个L中间像素,图像处理装置可以如图14-1所示,对S中间像素集合中第一列的S中间像素和第三列的S中间像素进行求和平均,得到该9个像素单元对应的S像素,即短曝光状态的像素;图像处理装置可以如图14-2所示,将第二列的L中间像素作为该9个像素单元对应的L像素,即长曝光状态的像素,图像处理装置将得到的S像素和L像素作为该9个像素单元对应的至少两类像素。
需要说明的是,本申请实施例中,图像处理装置可以对从n个子像素生成至少两类像素的过程进行并行处理,示例性的,基于图8中示出的9个像素单元所对应的9个子像素,图像处理装置可以对9个子像素并行进行如图13的处理,从而可以同时得到两个S中间像素与一个L中间像素;图像处理装置对两个S中间像素构成的S中间像素集合、以及一个L中间像素构成的L中间像素集合并行进行图14-1与图14-2中的处理,从而同时得到9个像素单元对应的S像素与L像素。
需要说明的是,S201-S202与S301-S303是本申请实施例中S1012之后两种并列的可选的方法流程,在实际应用中可以根据需要选择对应的方法流程执行,本申请实施例不作限定。
需要说明的是,在使用图像传感器在暗光场景下成像时,由于夜光场景下通常有极亮和极暗并存的情况,采用S301-S303中的方法进行像素合并可以获得更高的灵敏度,使得最终得到的合成图像中的亮暗效果有更明显的区别。
可以理解的是,本申请实施例中,图像处理装置可以通过对不同曝光状态的子像素进行像素合并,得到n个像素单元对应的至少两类像素,从而实现了使用同一曝光时间和曝光参数得到不同曝光状态的像素,降低了图像传感器曝光的复杂度。
本申请实施例中,S102的具体实现过程可以包括S1021-S1022,如下:
S1021、在像素阵列中,对每n个像素单元对应的至少两类像素进行类型组合,得到至少两类像素组合;至少两类像素组合中的每类像素组合包含相同类型的像素;每n个像素单元为像素阵列中与每个滤光片单元对应的n个像素单元。
本申请实施例中,图像处理装置可以在像素阵列中,将每n个像素单元对应的至少两类像素中相同类型的像素进行组合,得到一类像素组合,进而通过类型组合的方式得到至少两类像素组合。
在一些实施例中,基于图11-1至图11-3中示出的9个像素单元对应的S像素、M像素和L像素,图像处理装置可以在像素阵列的每9个像素单元中,将每9个像素单元对应的S像素进行类型组合,得到S像素组合;将每9个像素单元对应的M像素进行类型组合,得到M像素组合;将每9个像素单元对应的L像素进行类型组合,得到L像素组合。
在一些实施例中,基于图14-1至图14-2中示出的9个像素单元对应的S像素和L像素,图像处理装置可以在像素阵列的每9个像素单元中,将每9个像素单元对应的S像素进行类型组合,得到S像素组合;将每9个像素单元对应的L像素进行类型组合,得到L像素组合。
S1022、根据至少两类像素组合中的每类像素组合,分别生成一种曝光效果的图像,从而得到至少两种曝光效果的图像。
本申请实施例中,图像处理装置根据至少两类像素组合中的每类像素组合,生成该像素组合的像素类型对应的一种曝光效果的图像,从而得到至少两种曝光效果的图像。
在一些实施例中,基于图2中所示的滤光片阵列以及图11-1、图11-2与图11-3中得到的S像素、M像素和L像素,图像处理装置可以如图15-1所示,将每个滤光片单元所对应的9个像素单元,即每9个像素单元的S像素进行类型组合,得到S像素组合,进而根据S像素组合生成短曝光效果的图像。图像处理装置可以如图15-2所示,将每个滤光片单元所对应的9个像素单元的M像素进行类型组合,得到M像素组合,进而根据M像素组合生成中曝光效果的图像。图像处理装置可以如图15-3所示,将每个滤光片单元所对应的9个像素单元的L像素进行类型组合,得到L像素组合,进而根据L像素组合生成长曝光效果的图像。
在一些实施例中,基于图2中所示的滤光片阵列以及图14-1与图14-2中得到的S像素和L像素,图像处理装置可以如图15-4所示,将每个滤光片单元所对应的9个像素单元的S像素进行类型组合,得到S像素组合,进而根据S像素组合生成短曝光效果的图像。图像处理装置可以如图15-5所示,将每个滤光片单元所对应的9个像素单元的L像素进行类型组合,得到L像素组合,进而根据L像素组合生成长曝光效果的图像。
可以理解的是,本申请实施例中,图像处理装置可以通过将不同曝光状态的像素进行类型组合,得到不同曝光效果的图像,从而扩大了图像亮度的动态范围,使得图像处理装置可以通过不同曝光效果的图像的进行融合得到更高动态范围的合成图像。
本申请实施例中,S103具体可以包括S1031,如下:
S1031、将至少两种曝光效果的图像进行图像融合,得到高动态范围图像,作为合成图像。
本申请实施例中,图像处理装置基于得到的至少两种曝光效果的图像进行图像融合处理,通过不同的曝光效果扩大了融合后的图像的动态范围,从而得到了高动态范围图像,作为合成图像。
在一些实施例中,基于图15-1至图15-3中示出的短曝光效果的图像、中曝光效果的图像与长曝光效果的图像,图像处理装置可以如图16-1所示,将上述三种曝光效果的图像进行融合,并得到HDR图像作为合成图像。在另一些实施例中,基于图15-4至图15-5中示出的短曝光效果的图像与长曝光效果的图像,图像处理装置也可以如图16-2所示,将上述两种曝光效果的图像进行融合,并得到HDR图像作为合成图像。
可以理解的是,本申请实施例中,图像处理装置通过可以将不同曝光效果的图像进行融合,以形成最终的合成图像中对应的亮区和暗区,从而增强了合成图像中亮区和暗区的细节表现。
本申请实施例提供了一种图像处理装置2,如图17所示,所述图像处理装置2包括像素生成单元60、图像生成单元61和融合单元62,其中,
所述像素生成单元60,用于在使用所述图像传感器成像时,通过所述至少两个子像素单元获取所述每个滤光片单元对应的至少一种曝光状态像素;
所述图像生成单元61,用于根据所述至少两类像素,生成至少两种曝光效果的图像;
所述融合单元62,用于将所述至少两种曝光效果的图像进行融合,实现不同曝光状态的图像处理,得到合成图像。
在本申请的一些实施例中,所述像素生成单元60,还用于在使用所述图像传感器成像时,对于所述n个像素单元中的每个像素单元,通过该像素单元对应的微透镜接收目标光信号,所述目标光信号为m种光信号中的一种;所述m种光信号为外部光线通过m种面积的n个微透镜后转换的不同信号量的光信号;根据所述目标光信号,生成该像素单元对应的子像素,从而得到n个子像素;在所述n个像素单元中,基于微透镜的面积,对所述n个子像素进行分类与合并,得到所述至少两类像素。
在本申请的一些实施例中,所述图像生成单元61,还用于在所述像素阵列中,对每n个像素单元对应的所述至少两类像素进行类型组合,得到至少两类像素组合;所述至少两类像素组合中的每类像素组合包含相同类型的像素;所述每n个像素单元为所述像素阵列中与所述每个滤光片单元对应的n个像素单元;
根据所述至少两类像素组合中的每类像素组合,分别生成一种曝光效果的图像,从而得到所述至少两种曝光效果的图像。
在本申请的一些实施例中,所述像素生成单元60,还用于在所述n个子像素中,将相同面积的微透镜对应的子像素归为一个子像素集合,从而得到至少两个子像素集合;将每个子像素集合中的子像素进行像素合并,得到所述每个子像素集合对应的一类像素,从而得到与所述至少两个子像素集合对应的所述至少两类像素。
在本申请的一些实施例中,所述像素生成单元60,还用于所述根据所述目标光信号,生成该像素单元对应的子像素,从而得到n个子像素之后,在所述n个像素单元中,对同一行或者同一列的子像素进行像素合并,得到至少两个中间像素;将所述至少两个中间像素进行分类,得到至少两个中间像素集合;其中,每个中间像素集合中包含的多个目标中间像素之间的差值满足预设范围;在所述每个中间像素集合中,对所述多个目标中间像素进行像素合并,得到所述每个中间像素集合对应的一类像素,从而得到所述至少两类像素。
在本申请的一些实施例中,所述融合单元62,还用于将所述至少两种曝光效果的图像进行图像融合,得到高动态范围图像,作为所述合成图像。
需要说明的是,以上装置实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本申请装置实施例中未披露的技术细节,请参照本申请方法实施例的描述而理解。
本申请实施例提供一种图像处理装置6,如图18所示,所述图像处理装置6包括:如图1所示的成像模组125、处理器126、存储器127以及通信总线128,所述成像模组125通过所述通信总线128与所述处理器126进行通信,所述存储器127通过所述通信总线128与所述处理器进行通信,所述存储器127存储所述处理器126可执行的一个或者多个程序,当所述一个或者多个程序被执行时所述处理器126执行如上述任一项所述的图像处理方法。
本申请实施例提供一种存储介质,其存储有一个或者多个计算机程序,所述一个或者多个计算机程序可被一个或者多个处理器执行,以实现如上述任一项所述的图像处理方法。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述,仅为本申请的较佳实施例而已,并非用于限定本申请的保护范围。
Claims (18)
1.一种图像传感器,其特征在于,所述图像传感器包括微透镜阵列、滤光片阵列以及像素阵列,所述滤光片阵列由至少一个滤光片单元构成,所述至少一个滤光片单元中的每个滤光片单元对应所述像素阵列中的n个像素单元,所述n个像素单元的面积不同,所述n个像素单元与所述微透镜阵列中的n个微透镜一一对应,所述n个微透镜为独立微透镜,其中,n为大于等于2的正整数。
2.根据权利要求1所述的图像传感器,其特征在于,
所述n个微透镜与所述n个像素单元的面积种类均为m种;m为大于等于2,且小于等于n的正整数;
所述n个微透镜,用于在使用所述图像传感器成像的过程中,外部光线通过m种面积的n个微透镜,转换为m种光信号;所述m种光信号中不同种光信号的信号量与其对应的微透镜面积成正比;
所述滤光片阵列的每个滤光片单元,用于通过对所述m种光信号的过滤,对应照射在所述n个像素单元上;
所述n个像素单元中每个像素单元,用于通过光电转换元件,将所述m种光信号转换为m种电信号。
3.根据权利要求2所述的图像传感器,其特征在于,所述图像传感器与图像处理芯片连接;
所述图像处理芯片,用于根据所述m种电信号实现对所述外部光线不同曝光效果的成像,得到合成图像。
4.根据权利要求2或3所述的图像传感器,其特征在于,
所述n个像素单元包括:至少两类像素单元;
所述n个像素单元的m种面积包括:至少两类像素面积;所述至少两类像素面积的面积均不相同;其中,所述至少两类像素单元与所述至少两类像素面积一一对应。
5.根据权利要求4所述的图像传感器,其特征在于,
当n=9时,所述n个像素单元为9个像素单元;所述9个像素单元包括:第一类像素单元,第二类像素单元和第三类像素单元;
当m=3时,所述m种面积包括:第一类像素面积、第二类像素面积和第三类像素面积;其中,所述第一类像素单元的面积最小,所述第三类像素单元的面积最大,所述第二类像素单元的面积大于所述一类像素单元的面积且小于所述三类像素单元的面积。
6.根据权利要求5所述的图像传感器,其特征在于,所述第一类像素单元与所述第三类像素单元为正方形,所述第二类像素单元为长方形,所述第二类像素单元的第一边的边长等于所述第三类像素单元的边长,所述第二类像素单元的第二边的边长等于所述第一类像素单元的边长;其中,
所述9个像素单元按照三层阵列排布,所述三层阵列的第一层和第三层的排布相同,所述第一层和所述第三层均依次排布有1个第一类像素单元、1个第二类像素单元和1个第一类像素单元;所述三层阵列的第二层依次排布有1个第二类像素单元、1个第三类像素单元和1个第二类像素单元;
所述第一层中的第二类像素单元的第一边与所述第二层的第三类像素单元的边相邻,所述第一层中的第二类像素单元的第二边与所述第一层的第一类像素单元的边相邻;所述第二层中的第二类像素单元的第一边与所述第二层的第三类像素单元的边相邻,所述第二层中的第二类像素单元的第二边与其对应位置上的所述第一层的第一类像素单元的边相邻,所述第二层中的第二类像素单元的第一边与其对应位置上的所述第三层的第一类像素单元的边相邻。
7.根据权利要求4所述的图像传感器,其特征在于,
当n=9时,所述n个像素单元为9个像素单元;所述9个像素单元包括:第一类像素单元和第二类像素单元;
当m=2时,所述m种面积包括:第一类像素面积和第二类像素面积;其中,所述第一类像素单元的面积最小,所述第二类像素单元的面积最大。
8.根据权利要求7所述的图像传感器,其特征在于,所述第一类像素单元为正方形,所述第二类像素单元为长方形,所述第一类像素单元的边长等于所述第二类像素单元的第一边的边长的四分之一;其中,
所述9个像素单元按照三层阵列排布,所述三层阵列的第一层和第三层的排布相同,所述第一层和第三层均依次排布有4个第一类像素单元,所述三层阵列的第二层排布有1个第一类像素单元;
所述第二层中的第二类像素单元的第一边与所述第一层的4个第一类像素单元的边均相邻。
9.一种图像处理方法,其特征在于,应用于图像处理装置,所述图像处理装置包括如权利要求1至8任一项所述的图像传感器,所述方法包括:
在使用所述图像传感器成像时,基于n个像素单元的不同面积生成不同曝光状态的至少两类像素;
根据所述至少两类像素,生成至少两种曝光效果的图像;
将所述至少两种曝光效果的图像进行融合,实现不同曝光状态的图像处理,得到合成图像。
10.根据权利要求9所述的方法,其特征在于,所述在使用所述图像传感器成像时,基于所述n个像素单元生成至少两类像素,包括:
在使用所述图像传感器成像时,对于所述n个像素单元中的每个像素单元,通过该像素单元对应的微透镜接收目标光信号,所述目标光信号为m种光信号中的一种;所述m种光信号为外部光线通过m种面积的n个微透镜后转换的不同信号量的光信号;
根据所述目标光信号,生成该像素单元对应的子像素,从而得到n个子像素;
在所述n个像素单元中,基于微透镜的面积,对所述n个子像素进行分类与合并,得到所述至少两类像素。
11.根据权利要求9所述的方法,其特征在于,所述根据所述至少两类像素,生成至少两种曝光效果的图像,包括:
在所述像素阵列中,对每n个像素单元对应的所述至少两类像素进行类型组合,得到至少两类像素组合;所述至少两类像素组合中的每类像素组合包含相同类型的像素;所述每n个像素单元为所述像素阵列中与所述每个滤光片单元对应的n个像素单元;
根据所述至少两类像素组合中的每类像素组合,分别生成一种曝光效果的图像,从而得到所述至少两种曝光效果的图像。
12.根据权利要求10所述的方法,其特征在于,所述在所述n个像素单元中,基于微透镜的面积,对所述n个子像素进行分类与合并,得到所述至少两类像素,包括:
在所述n个子像素中,将相同面积的微透镜对应的子像素归为一个子像素集合,从而得到至少两个子像素集合;
将每个子像素集合中的子像素进行像素合并,得到所述每个子像素集合对应的一类像素,从而得到与所述至少两个子像素集合对应的所述至少两类像素。
13.根据权利要求10所述的方法,其特征在于,所述根据所述目标光信号,生成该像素单元对应的子像素,从而得到n个子像素之后,所述方法还包括:
在所述n个像素单元中,对同一行或者同一列的子像素进行像素合并,得到至少两个中间像素;
将所述至少两个中间像素进行分类,得到至少两个中间像素集合;其中,每个中间像素集合中包含的多个目标中间像素之间的差值满足预设范围;
在所述每个中间像素集合中,对所述多个目标中间像素进行像素合并,得到所述每个中间像素集合对应的一类像素,从而得到所述至少两类像素。
14.根据权利要求9至13任一项所述的方法,其特征在于,所述将所述至少两种曝光效果的图像进行融合,实现不同曝光状态的图像处理,得到合成图像,包括:
将所述至少两种曝光效果的图像进行图像融合,得到高动态范围图像,作为所述合成图像。
15.一种成像模组,其特征在于,包括:
如权利要求1-8任一项所述的图像传感器、镜头模组以及图像处理芯片,其中,
所述镜头模组,用于采集外部光信号传递给所述图像传感器;
所述图像传感器,用于将所述外部光信号转换为电信号;
所述图像处理芯片,用于根据权利要求9-14任一项所述的图像处理方法,对所述电信号进行成像处理,得到合成图像。
16.一种图像处理装置,其特征在于,所述图像处理装置包括像素生成单元、图像生成单元和融合单元,其中,
所述像素生成单元,用于在使用所述图像传感器成像时,基于n个像素单元的不同面积生成不同曝光状态的至少两类像素;
所述图像生成单元,用于根据所述至少两类像素,生成至少两种曝光效果的图像;
所述融合单元,用于将所述至少两种曝光效果的图像进行融合,实现不同曝光状态的图像处理,得到合成图像。
17.一种图像处理装置,其特征在于,包括:如权利要求15所述的成像模组、处理器、存储器以及通信总线,所述成像模组通过所述通信总线与所述处理器进行通信,所述存储器通过所述通信总线与所述处理器进行通信,所述存储器存储所述处理器可执行的一个或者多个程序,当所述一个或者多个程序被执行时,所述处理器执行如权利要求9-14任一项所述的图像处理方法。
18.一种存储介质,其特征在于,其存储有一个或者多个计算机程序,所述一个或者多个计算机程序可被一个或者多个处理器执行,以实现如权利要求9-14任一项所述的图像处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010905595.0A CN112135017A (zh) | 2020-09-01 | 2020-09-01 | 图像传感器、图像处理方法及装置、成像模组、存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010905595.0A CN112135017A (zh) | 2020-09-01 | 2020-09-01 | 图像传感器、图像处理方法及装置、成像模组、存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112135017A true CN112135017A (zh) | 2020-12-25 |
Family
ID=73848433
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010905595.0A Pending CN112135017A (zh) | 2020-09-01 | 2020-09-01 | 图像传感器、图像处理方法及装置、成像模组、存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112135017A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112839149A (zh) * | 2020-12-31 | 2021-05-25 | 光沦科技(深圳)有限公司 | 异构微光学成像模块及其图像重建方法和装置 |
CN113671606A (zh) * | 2021-08-02 | 2021-11-19 | 维沃移动通信有限公司 | 超构透镜、摄像模组和电子设备 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103024304A (zh) * | 2011-09-22 | 2013-04-03 | 株式会社东芝 | 固态摄像器和固态摄像系统 |
CN204720451U (zh) * | 2014-06-03 | 2015-10-21 | 半导体元件工业有限责任公司 | 成像系统和处理器系统 |
CN105611124A (zh) * | 2015-12-18 | 2016-05-25 | 广东欧珀移动通信有限公司 | 图像传感器、成像方法、成像装置及电子装置 |
CN107026961A (zh) * | 2016-01-29 | 2017-08-08 | 松下知识产权经营株式会社 | 摄像装置 |
CN107180840A (zh) * | 2016-03-10 | 2017-09-19 | 松下知识产权经营株式会社 | 摄像装置 |
CN110460781A (zh) * | 2019-08-26 | 2019-11-15 | Oppo广东移动通信有限公司 | 一种图像传感器、图像处理方法及存储介质 |
CN111385543A (zh) * | 2020-03-13 | 2020-07-07 | Oppo广东移动通信有限公司 | 图像传感器、摄像头组件、移动终端及图像获取方法 |
-
2020
- 2020-09-01 CN CN202010905595.0A patent/CN112135017A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103024304A (zh) * | 2011-09-22 | 2013-04-03 | 株式会社东芝 | 固态摄像器和固态摄像系统 |
CN204720451U (zh) * | 2014-06-03 | 2015-10-21 | 半导体元件工业有限责任公司 | 成像系统和处理器系统 |
CN105611124A (zh) * | 2015-12-18 | 2016-05-25 | 广东欧珀移动通信有限公司 | 图像传感器、成像方法、成像装置及电子装置 |
CN107026961A (zh) * | 2016-01-29 | 2017-08-08 | 松下知识产权经营株式会社 | 摄像装置 |
CN107180840A (zh) * | 2016-03-10 | 2017-09-19 | 松下知识产权经营株式会社 | 摄像装置 |
CN110460781A (zh) * | 2019-08-26 | 2019-11-15 | Oppo广东移动通信有限公司 | 一种图像传感器、图像处理方法及存储介质 |
CN111385543A (zh) * | 2020-03-13 | 2020-07-07 | Oppo广东移动通信有限公司 | 图像传感器、摄像头组件、移动终端及图像获取方法 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112839149A (zh) * | 2020-12-31 | 2021-05-25 | 光沦科技(深圳)有限公司 | 异构微光学成像模块及其图像重建方法和装置 |
CN112839149B (zh) * | 2020-12-31 | 2022-05-06 | 光沦科技(深圳)有限公司 | 异构微光学成像模块及其图像重建方法和装置 |
CN113671606A (zh) * | 2021-08-02 | 2021-11-19 | 维沃移动通信有限公司 | 超构透镜、摄像模组和电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20210358981A1 (en) | Image-capturing device and image sensor | |
CN212785522U (zh) | 图像传感器和电子设备 | |
CN213279832U (zh) | 图像传感器、相机和终端 | |
CN104221365B (zh) | 拍摄元件、摄影方法及拍摄装置 | |
US8558915B2 (en) | Photographing apparatus and method | |
CN104662887B (zh) | 图像处理设备、图像处理方法和具有该图像处理设备的摄像设备 | |
CN103999458A (zh) | 图像捕获设备 | |
US20140253753A1 (en) | Image processing apparatus, image processing method, image pickup apparatus, and display device | |
CN112118378A (zh) | 图像获取方法及装置、终端和计算机可读存储介质 | |
CN104010128A (zh) | 摄像设备及其控制方法 | |
CN105611123B (zh) | 成像方法、图像传感器、成像装置及电子装置 | |
CN101437168A (zh) | 图像拾取装置 | |
WO2010114594A1 (en) | Exposing pixel groups in producing digital images | |
CN102859995B (zh) | 成像装置和驱动固态成像器件的方法 | |
CN105684421A (zh) | 电子设备 | |
US8111298B2 (en) | Imaging circuit and image pickup device | |
CN114650377A (zh) | 摄像模组、摄像模组的控制方法以及电子设备 | |
CN112135017A (zh) | 图像传感器、图像处理方法及装置、成像模组、存储介质 | |
CN103379289A (zh) | 摄像装置 | |
CN105516699A (zh) | 图像传感器及其成像方法、成像装置和电子装置 | |
CN105578081A (zh) | 成像方法、图像传感器、成像装置及电子装置 | |
US11056521B2 (en) | Imaging device and image sensor | |
CN105516700A (zh) | 图像传感器的成像方法、成像装置和电子装置 | |
CN104010134B (zh) | 用于形成具有宽动态范围的系统和方法 | |
CN113891006A (zh) | 对焦控制方法、装置、图像传感器、电子设备和计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20201225 |