CN115239550A - 图像处理方法、图像处理装置、存储介质与电子设备 - Google Patents
图像处理方法、图像处理装置、存储介质与电子设备 Download PDFInfo
- Publication number
- CN115239550A CN115239550A CN202210868174.4A CN202210868174A CN115239550A CN 115239550 A CN115239550 A CN 115239550A CN 202210868174 A CN202210868174 A CN 202210868174A CN 115239550 A CN115239550 A CN 115239550A
- Authority
- CN
- China
- Prior art keywords
- color
- image
- conversion
- sub
- displayed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 84
- 238000003672 processing method Methods 0.000 title claims abstract description 21
- 238000003860 storage Methods 0.000 title claims abstract description 15
- 238000006243 chemical reaction Methods 0.000 claims abstract description 217
- 230000009466 transformation Effects 0.000 claims abstract description 116
- 238000001228 spectrum Methods 0.000 claims abstract description 114
- 230000003595 spectral effect Effects 0.000 claims abstract description 101
- 238000001514 detection method Methods 0.000 claims abstract description 86
- 230000004044 response Effects 0.000 claims abstract description 85
- 230000006978 adaptation Effects 0.000 claims abstract description 48
- 238000005316 response function Methods 0.000 claims abstract description 32
- 239000011159 matrix material Substances 0.000 claims description 174
- 238000012937 correction Methods 0.000 claims description 45
- 238000000034 method Methods 0.000 claims description 31
- 230000003044 adaptive effect Effects 0.000 claims description 24
- 238000005286 illumination Methods 0.000 claims description 24
- 238000004590 computer program Methods 0.000 claims description 2
- 230000004438 eyesight Effects 0.000 abstract description 2
- 230000003287 optical effect Effects 0.000 description 18
- 230000000694 effects Effects 0.000 description 11
- 230000000007 visual effect Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 7
- 238000003384 imaging method Methods 0.000 description 5
- 238000000605 extraction Methods 0.000 description 4
- 238000013507 mapping Methods 0.000 description 4
- 238000010295 mobile communication Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 238000009792 diffusion process Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 210000001525 retina Anatomy 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003631 expected effect Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 210000000964 retinal cone photoreceptor cell Anatomy 0.000 description 1
- 230000004382 visual function Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
本公开提供一种图像处理方法、装置、存储介质与电子设备,涉及计算机视觉技术领域。该图像处理方法包括:获取待显示图像,以及由多个光谱传感器所采集的多个检测区域的光谱数据;根据每个检测区域的光谱数据与人眼响应函数确定每个子区域在XYZ颜色空间的响应数据,根据每个子区域在XYZ颜色空间的响应数据与每个子区域在RGB颜色空间的响应数据,确定每个子区域的第一转换参数;基于待显示图像显示环境的亮度信息与色温信息,确定LMS颜色空间内的色适应转换参数;根据第一转换参数、色适应转换参数与第二转换参数,确定每个子区域的颜色变换参数;利用颜色变换参数对待显示图像进行颜色变换处理。本公开提高了图像处理效率。
Description
技术领域
本公开涉及计算机视觉技术领域,尤其涉及一种图像处理方法、图像处理装置、计算机可读存储介质与电子设备。
背景技术
相关技术中,通常通过在电脑端手动调整图像参数,使得图像在终端屏幕中的显示效果与人眼保持一致。显然,该方法使用手动调整图像参数需要耗费较高的人力成本和时间成本;且由于调试设备与图像显示设备的屏幕尺寸,及各种显示参数可能均有所差异,使得处理后的图像并未达到预期效果,导致图像处理效率低下。
发明内容
本公开提供了一种图像处理方法、图像处理装置、计算机可读存储介质与电子设备,进而至少在一定程度上改善图像处理效率低的问题。
本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
根据本公开的第一方面,提供一种图像处理方法,包括:获取由图像传感器所采集的待显示图像,以及由多个光谱传感器所采集的多个检测区域的光谱数据;每个光谱传感器对应一个检测区域,每个检测区域对应所述待显示图像中的一个子区域;根据每个检测区域的光谱数据与人眼响应函数确定所述待显示图像的每个子区域在XYZ颜色空间的响应数据,根据所述每个子区域在XYZ颜色空间的响应数据与所述每个子区域在RGB颜色空间的响应数据,确定所述每个子区域的第一转换参数;所述第一转换参数为XYZ颜色空间与RGB颜色空间之间的转换参数;基于所述待显示图像的显示环境的亮度信息与色温信息,确定LMS颜色空间内的色适应转换参数;根据所述每个子区域的第一转换参数、所述色适应转换参数与第二转换参数,确定所述每个子区域的颜色变换参数;所述第二转换参数为LMS颜色空间与XYZ颜色空间之间的转换参数;利用所述颜色变换参数对所述待显示图像进行颜色变换处理,经过颜色变换处理后的待显示图像用于在所述显示环境中进行显示。
根据本公开的第二方面,提供一种图像处理装置,包括:数据获取模块,被配置为获取由图像传感器所采集的待显示图像,以及由多个光谱传感器所采集的多个检测区域的光谱数据;每个光谱传感器对应一个检测区域,每个检测区域对应所述待显示图像中的一个子区域;第一转换参数确定模块,被配置为根据每个检测区域的光谱数据与人眼响应函数确定所述待显示图像的每个子区域在XYZ颜色空间的响应数据,根据所述每个子区域在XYZ颜色空间的响应数据与所述每个子区域在RGB颜色空间的响应数据,确定所述每个子区域的第一转换参数;所述第一转换参数为XYZ颜色空间与RGB颜色空间之间的转换参数;色适应转换参数确定模块,被配置为基于所述待显示图像的显示环境的亮度信息与色温信息,确定LMS颜色空间内的色适应转换参数;颜色变换参数确定模块,被配置为根据所述每个子区域的第一转换参数、所述色适应转换参数与第二转换参数,确定所述每个子区域的颜色变换参数;所述第二转换参数为LMS颜色空间与XYZ颜色空间之间的转换参数;图像颜色变换处理模块,被配置为利用所述颜色变换参数对所述待显示图像进行颜色变换处理,经过颜色变换处理后的待显示图像用于在所述显示环境中进行显示。
根据本公开的第三方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面的图像处理方法及其可能的实现方式。
根据本公开的第四方面,提供一种电子设备,包括:处理器;存储器,用于存储所述处理器的可执行指令。其中,所述处理器配置为经由执行所述可执行指令,来执行上述第一方面的图像处理方法及其可能的实现方式。
本公开的技术方案具有以下有益效果:
一方面,基于待显示图像中每个子区域的光谱数据获取子区域在XYZ颜色空间与RGB颜色空间之间的转换参数,将每个子区域的光谱数据灵活调整转换参数,提高了颜色转换的精准度。另一方面,根据待显示图像的显示环境的亮度信息与色温信息,确定LMS颜色空间内的色适应转换参数,可以根据图像的显示设备所处的环境对图像进行颜色调节,改善了图像调节质量,确保了图像在屏幕中的显示效果与人眼一致,以达到预期的显示效果。再一方面,相比于手动调节图像参数的方式,本方案的图像处理方法节省了人力成本和时间成本,增强了可移植性,进一步提高了图像处理效率。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出一种图像处理器的处理过程的流程示意图;
图2示出本示例性实施方式运行环境的系统架构;
图3示出本示例性实施方式中一种图像处理方法的流程示意图;
图4示出本示例性实施方式中一组光谱分光器与一组光谱传感器的示意图;
图5示出本示例性实施方式中光谱传感器的排布阵列示意图;
图6示出本示例性实施方式中获取色适应转换参数的过程示意图;
图7示出本示例性实施方式中基于待显示图像的每个子区域的颜色变换参数对待显示图像进行颜色变换处理的过程的示意图;
图8示出本示例性实施方式中一种图像处理方法的流程图;
图9示出本示例性实施方式中根据颜色变换矩阵更新图像处理器的示意图;
图10示出本示例性实施方式中一种图像处理装置的结构示意图;
图11示出本示例性实施方式中一种电子的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本公开的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而省略特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
相关技术中,通常根据人眼实际所看到的物体颜色,如图1所示,采用手动调整自动白平衡(Auto White Balance,AWB),颜色校正矩阵(Color Corrected Matrix,CCM),伽马校正,三维查找表等显示参数,使得图像在屏幕中的显示颜色与人眼实际看到的颜色一致;如果需要使处理后的图像达到“所见即所得”的显示效果,则需要耗费大量时间,导致图像处理过程效率低下;且整个图像处理过程主要依赖人工手动调整,使得该方法的无法被复用,导致方法的可移植性较差。
鉴于上述一个或多个问题,本公开示例性实施方式提供一种图像处理方法。下面结合图2对本示例性实施方式运行环境的系统架构进行说明。
参考图2所示,系统架构200可以包括终端设210和服务器220。终端设备210可以是智能手机、平板电脑、相机等具有拍照功能的电子设备,终端设备210可以包括图像传感器与多个光谱传感器,如图像传感器与多个光谱传感器可以集成于终端设备210的摄像模组中,用于采集待显示图像与光谱数据。服务器220泛指提供本示例性实施方式中用于图像的光照检测相关服务的后台系统,如可以是实现光照检测方法的服务器。服务器220可以是一台服务器或多台服务器形成的集群,本公开对此不做限定。终端设备210与服务器220之间可以通过有线或无线的通信链路形成连接,以进行数据交互。
在一种实施例中,终端设备210可以首先获取到由图像传感器所采集的待显示图像图像,以及由多个光谱传感器所采集的多个检测区域的光谱数据,其中,每个光谱传感器对应获取一个检测区域的光谱数据,每个检测区域对应待显示图像中的一个子区域;再根据每个检测区域的光谱数据和人眼响应函数确定每个子区域的第一转换参数;基于待显示图像的显示环境的亮度信息与色温信息,确定色适应转换参数;根据每个子区域的第一转换参数,色适应转换参数与第二转换参数,确定每个子区域的颜色变换参数;最后利用颜色变换参数对待显示图像进行颜色变换处理。
在一种实施例中,终端设备210获取到由图像传感器所采集的待显示图像,以及由多个光谱传感器所采集的多个检测区域的光谱数据,再将该多个检测区域的光谱数据发送至服务器220,服务器220接收到终端设备210发送的多个检测区域的光谱数据后,根据每个检测区域的光谱数据和人眼响应函数确定每个子区域的第一转换参数;基于待显示图像的显示环境的亮度信息与色温信息,确定色适应转换参数;根据每个子区域的第一转换参数,色适应转换参数与第二转换参数,确定每个子区域的颜色变换参数;最后利用颜色变换参数对待显示图像进行颜色变换处理。
由上可知,本示例性实施方式中用于图像的光照检测方法可以由上述终端设备210或服务器220执行。
下面结合图3对图像处理方法进行说明。图3示出了图像处理方法的示例性流程,包括以下步骤S310至S350:
步骤S310,获取由图像传感器所采集的待显示图像,以及由多个光谱传感器所采集的多个检测区域的光谱数据;每个光谱传感器对应一个检测区域,每个检测区域对应待显示图像中的一个子区域;
步骤S320,根据每个检测区域的光谱数据与人眼响应函数确定待显示图像的每个子区域在XYZ颜色空间的响应数据,根据每个子区域在XYZ颜色空间的响应数据与每个子区域在RGB颜色空间的响应数据,确定每个子区域的第一转换参数;第一转换参数为XYZ颜色空间与RGB颜色空间之间的转换参数;
步骤S330,基于待显示图像的显示环境的亮度信息与色温信息,确定LMS颜色空间内的色适应转换参数;
步骤S340,根据每个子区域的第一转换参数、色适应转换参数与第二转换参数,确定每个子区域的颜色变换参数;第二转换参数为LMS颜色空间与XYZ颜色空间之间的转换参数;
步骤S350,利用颜色变换参数对待显示图像进行颜色变换处理,经过颜色变换处理后的待显示图像用于在显示环境中进行显示。
基于上述方法,一方面,基于待显示图像中每个子区域的光谱数据获取子区域在XYZ颜色空间与RGB颜色空间之间的转换参数,将每个子区域的光谱数据灵活调整转换参数,提高了颜色转换的精准度。另一方面,根据待显示图像的显示环境的亮度信息与色温信息,确定LMS颜色空间内的色适应转换参数,可以根据图像的显示设备所处的环境对图像进行颜色调节,改善了图像调节质量,确保了图像在屏幕中的显示效果与人眼一致,以达到预期的显示效果。再一方面,相比于手动调节图像参数的方式,本方案的图像处理方法节省了人力成本和时间成本,增强了可移植性,进一步提高了图像处理效率。
下面对图3中的每个步骤进行具体说明。
参考图3,在步骤S310中,获取由图像传感器所采集的待显示图像,以及由多个光谱传感器所采集的多个检测区域的光谱数据;每个光谱传感器对应一个检测区域,每个检测区域对应待显示图像中的一个子区域。
其中,图像传感器是将光信号转换为电信号的传感器,通过对光信号进行定量表征来实现成像。本公开对于图像传感器的具体类型不做限定,如可以是CMOS(Complementary Metal Oxide Semiconductor,互补金属氧化物半导体)或CCD(ChargeCoupled Device,电荷耦合器件)传感器。在一种实施方式中,图像传感器位于图像滤镜的出射光路上,用于感测经过图像滤镜的光信号,生成拍摄对象的待显示图像。拍摄对象是指位于摄像模组正前方的被拍摄的场景、物体或人等对象,待显示图像即是摄像模组拍摄该拍摄对象所得到的图像,可以是原始图像,如RAW图像,也可以是经过ISP(Image SignalProcessor,图像信号处理器)处理后的RGB图像或YUV图像等。
一般的,图像传感器由一定数量的感光元件按照阵列排布而成,每个感光元件对应待显示图像的一个像素。感光元件的数量可表示图像传感器的分辨率,例如,感光元件按照H×W阵列排布,H表示行数,W表示列数,则图像传感器的分辨率可以是H×W,所生成的待显示图像的尺寸也是H×W,在该尺寸中H表示图像高度,W表示图像宽度。示例性的,H为3000,W为4000。
在一种实施方式中,图像滤镜可以包括拜耳滤镜;拜耳滤镜可以将RGB单色滤光片按照阵列排布所形成的滤镜,可以位于图像传感器的入射光路上,使得图像传感器能够接收经过拜耳滤镜的单色光(即R、G、B三种不同光谱范围的光)。本公开对于拜耳滤镜的排布方式不做限定,可以采用传统拜耳阵列排布方式,或者采用四拜耳(quad-bayer)阵列排布方式。
待显示图像可以是由上述可以拍照的终端设备210所拍摄的经由图像传感器输出的RAW图像,也可以是终端设备210中已存储的图像等,本公开对待显示图像的来源不作特殊限定,例如,待显示图像可以是手机相册中所存储的需要进行图像处理的照片。
光谱传感器可以是用于采集待显示图像的光谱数据的传感器,光谱传感器可以位于光谱分光器的出射光路上,用于感测经过光谱分光器的光信号,得到光谱数据。本公开对于光谱传感器的具体类型不做限定,如可以是CMOS或CCD传感器,其与图像传感器的类型可以相同,也可以不同。
其中,上述光谱分光器用于从入射光线中分离出特定波段的光,可以位于光谱传感器的入射光路上,使得光谱传感器能够接收经过光谱分光器后的特定波段的光,从而感测到光谱数据。相比之下,图像滤镜通常仅能提供可见光范围内的红、绿、蓝三种单色光,而光谱分光器能够在更大的光谱范围内(如350~1000nm,覆盖紫外到红外波段)提供种类更多的不同波段的光。将光谱分光器的分光种类数称为光谱分光器或光谱传感器的通道数。光谱分光器可以是滤镜、棱锥体等类型的光学器件。以滤镜为例,在一种实施方式中,每一组光谱分光器可以包括L个具有不同峰值波长(或中心波长)的滤光片,使得入射光线经过光谱分光器后被分离为L种不同波段的光,光谱分光器的通道数为L。若L为1,即光谱分光器的通道数为1,则光谱分光器为单光谱分光器;若L为不小于2的正整数,即光谱分光器的通道数大于或等于2,则光谱分光器为多光谱分光器。示例性的,L可以是13。
在一种实施方式中,每一组光谱分光器中的L个滤光片可以按照p×q的阵列排布,p表示行数,q表示列数,L=p×q。图4示出了一组光谱分光器的示意图,其通道数为3×4,该光谱分光器包括按照3×4阵列排布的12个滤光片,分别记为C1~C12,表示用于过滤C1~C12通道的光,每个通道的光的峰值波长(Peak Wavelength)与半高宽(Full Width atHalf Maximum,FWHM)可以参考表1所示,其覆盖了350~1000nm范围内的12个重要波段。
表1
通道 | 峰值波长/nm | 半高宽/nm |
C1 | 395 | 20 |
C2 | 405 | 30 |
C3 | 425 | 22 |
C4 | 440 | 36 |
C5 | 475 | 42 |
C6 | 515 | 40 |
C7 | 550 | 35 |
C8 | 596 | 46 |
C9 | 640 | 50 |
C10 | 690 | 55 |
C11 | 745 | 60 |
C12 | 855 | 54 |
在一种实施方式中,每一组光谱传感器可以包括L个感光元件,分别用于感测光谱分光器中对应的L个滤光片所滤过的光信号,得到L个通道的响应数据,即L个波段的光谱数据。若L为1,即光谱传感器的通道数为1,则光谱传感器为单光谱传感器;若L为不小于2的正整数,即光谱传感器的通道数大于或等于2,则光谱传感器为多光谱传感器。
在一种实施方式中,每一组光谱传感器中的L个感光元件可以按照p×q的阵列排布,p表示行数,q表示列数,L=p×q。例如,参考图4所示,光谱传感器可以包括3×4个感光元件,分别记为Z1~Z12,其与光谱分光器的滤光片C1~C12一一对应,分别接收12个通道的光信号,得到12个通道的响应数据。
需要说明的是,可以将光谱分光器与光谱传感器作为一个整体,称为光谱传感器。
每一组光谱分光器对应一组光谱传感器,并对应一个检测区域。检测区域是指拍摄对象中的一个局部区域,在拍摄过程中,每一个检测区域所反射的光线入射至终端设备210的摄像模组中,经过其对应的一组光谱分光器进行分光,最终入射至其对应的一组光谱传感器,使得光谱传感器感测该检测区域所反射的经过光谱分光器分光的光信号,得到该检测区域的光谱数据。光谱分光器与光谱传感器可以对应设置,例如可以沿光轴方向设置光谱分光器与光谱传感器的位置一一对应,使得每一组光谱传感器接收其对应的那一组光谱分光器所透过的光线(在一些情况下,每一组光谱传感器还可能接收到少量的相邻位置的光谱分光器所透过的光线,可以通过算法消除其影响)。
每一个检测区域可以对应待显示图像中的一个子区域。例如,通过K组光谱传感器分别检测K个检测区域的光谱数据,该K个检测区域相当于将拍摄场景划分为K块,而图像传感器对同一拍摄对象拍摄得到待显示图像,该待显示图像也可以被划分为K个子区域,每一个检测区域对应一个子区域。
本公开使用光谱传感器获取待显示图像每个检测区域的光谱数据有利于对待显示图像进行更为精细地优化处理,例如可以对待显示图像中不同子区域的不同光照情况分别进行表征,进而针对不同子区域采用不同的处理。
上述K可视为光谱传感器的分辨率,每一组光谱传感器输出一个检测区域的光谱数据,可视为光谱数据的一个像素,K组光谱传感器可输出像素为K的光谱数据。也就是说,光谱数据的一个像素相当于待显示图像的一个子区域。本示例性实施方式中,K<H×W,即光谱传感器的分辨率低于图像传感器的分辨率。其中,图像传感器用于成像,高分辨率的图像传感器可生成高清晰度的待显示图像;而光谱传感器用于检测光谱数据,光谱数据的检测无需精细化到图像像素那样的程度,通过K组光谱传感器检测待显示图像中K个子区域的光谱数据,表征出待显示图像中不同局部之间的差异,这样已能够满足使用需求。因此,本示例性实施方式中结合图像传感器进行高清成像与光谱传感器进行光谱信息检测的两方面特点,既能得到高清晰度的待显示图像,又能得到较为丰富、精细的光谱信息。并且,提高光谱传感器的分辨率,会导致终端设备中摄像模组的制造成本升高,将光谱传感器的分辨率控制在低于(一般是远低于)图像传感器的分辨率水平,有利于控制成本。
在一种实施方式中,上述K组光谱传感器可以按照m×n的阵列排布,m表示行数,n表示列数,则K=m×n。应当理解,K组光谱分光器也可以按照m×n的阵列排布。图5示出了光谱传感器的排布阵列示意图,其中m=6,n=8,即终端设备的摄像模组可以包括48组光谱分光器与48组光谱传感器。每一组光谱传感器又可以包括3×4个感光元件,以输出12个通道的响应数据。
在一种实施方式中,H/W=m/n,即图像传感器与m×n组光谱传感器的比例相同。例如,图像传感器的分辨率为3000*4000,48组光谱传感器按照6×8的阵列排布,两者的宽高比例相同。由此使得m×n个检测区域与待显示图像中的子区域更容易对应起来。例如,每一组光谱传感器对应一个检测区域,该检测区域对应待显示图像中500*500大小的子区域,6×8个检测区域分别对应待显示图像中的6×8个子区域。
在一种实施方式中,在设置光谱传感器时,考虑检测光照情况的需求,可以设置m与n均为不小于3的正整数,这样可以将待显示图像划分为至少9个子区域,检测每个子区域的光谱数据,进而确定每个子区域的光照情况,从而充分检测出拍摄对象中不同局部的不同光照情况。
在一种实施方式中,在对待显示图像进行提取特征等操作时,可能使用3×3的提取模板(即3×3个子区域),方便对3×3范围内的RGB数据或光谱数据进行滤波、均值、取边等操作,有利于实现光照分析的精细化等效果。为了便于使用3×3的提取模板,可以将光谱传感器的分辨率设置为6×8,即终端设备的摄像模组可以包括48组光谱传感器,其按照6×8的阵列排布。
在一种实施方式中,每一组光谱分光器可以包括L个具有不同峰值波长的滤光片;每一组光谱传感器包括L个感光元件,分别用于感测对应的L个滤光片所滤过的光信号;每一个检测区域的光谱数据包括L个通道的响应数据。其中,L为不小于2的正整数,即光谱分光器或光谱传感器通道数至少为2。参考上述图4所示,L个滤光片可以按照p×q的阵列排布,p×q个感光元件也可以按照p×q的阵列排布,p表示行数,q表示列数。
在一种实施方式中,考虑到一般光源的光照强度按照圆扩散的方式逐渐衰减,可以设置p=q,即每一组光谱传感器按照正方形阵列排布其感光元件,以符合光照强度的圆扩散规律,便于更加准确地检测每一个检测区域(或子区域)的光谱数据。
光谱数据可以是光谱传感器根据对应的待显示图像的子区域所采集的光谱数据。本公开对光谱数据的具体内容不作特殊限定,例如,光谱数据可以是由光谱传感器直接采集待显示图像的子区域所得到的光谱数据,还可以是将光谱传感器直接采集待显示图像的子区域所得到的光谱数据中的图像传感器的响应扣除之后,得到的光谱数据。
在一种实施方式中,光谱数据可以包括单光谱数据和多光谱数据,在生成多光谱数据时,光谱传感器可以对应多个探测器,每个探测器可以探测到检测区域中不同波段的光谱,该不同波段的光谱可以组成该检测区域中的多光谱数据。
在获取到每个检测区域的光谱数据后,继续参考图3,在步骤S320中,可以根据每个检测区域的光谱数据与人眼响应函数确定待显示图像的每个子区域在XYZ颜色空间的响应数据,根据每个子区域在XYZ颜色空间的响应数据与每个子区域在RGB颜色空间的响应数据,确定每个子区域的第一转换参数;第一转换参数为XYZ颜色空间与RGB颜色空间之间的转换参数。
其中,上述人眼响应函数可以是一种模拟人眼对不同波长的单色光所产生的视觉响应的函数,本公开对人眼响应函数的具体内容不作特殊限定,例如,人眼响应函数可以是一种XYZ颜色空间的XYZ响应,或者是一种视见函数。
上述XYZ颜色空间可以反映人眼对于不同波长的单色光所产生的标准反应,可以展现出视网膜的长、中、短感光锥细胞对于光的光谱功率分布反应。上述XYZ颜色空间的响应数据可以是待显示图像的子区域在XYZ颜色空间的响应,本公开对XYZ颜色空间的响应数据的获取方式不作特殊限定,例如,可以通过XYZ传感器直接获取待显示图像的每个子区域在XYZ颜色空间的响应数据,还可以根据每个检测区域的光谱数据和人眼响应函数得到每个子区域在XYZ颜色空间的响应数据。
在一种实施方式中,首先可以使用光谱传感器采集待显示图像的每个子区域的光谱数据,再将每个子区域的光谱数据中的图像传感器的响应进行扣除,以得到待显示图像的每个子区域的光谱数据;再将该光谱数据与上述人眼响应函数进行卷积,以获取待显示图像的每个子区域在XYZ颜色空间的响应数据。
上述RGB颜色空间的响应数据可以是图像传感器通过捕捉拍摄景象的光信号所输出的待显示图像在RGB颜色空间的响应,本公开对待显示图像的每个子区域的RGB颜色空间的响应数据的获取方式不作特殊限定,例如,可以基于光谱数据和图像传感器获取待显示图像的每个子区域的RGB颜色空间的响应数据,还可以通过待显示图像本身获取。
在一种实施方式中,可以根据每个检测区域的光谱数据与图像传感器的响应函数,确定每个子区域在RGB颜色空间的响应数据;或者将每个子区域的RGB数据作为每个子区域在RGB颜色空间的响应数据。
其中,图像传感器的响应函数可以是图像传感器的光电转换器件在可见光或不可见光的波长范围内的能量响应状态,本公开对图像传感器的响应函数的获取方式不作特殊限定,例如,可以使用光谱仪测量图像传感器得到图像传感器的响应函数。
在本示例性实施方式中,可以首先使用光谱传感器采集待显示图像的每个子区域的光谱数据,再将每个子区域的光谱数据中的图像传感器的响应进行扣除,以得到待显示图像的每个子区域的光谱数据;根据上述图像传感器的响应函数与待显示图像的每个子区域的光谱数据的卷积结果得到每个子区域在RGB颜色空间的响应数据。
在一种实施方式中,可以在D65、D50、TL84、A等光照条件下,分别获取24色卡在RGB颜色空间的映射结果与24色卡在XYZ颜色空间的映射结果,再根据24色卡在RGB颜色空间的映射结果与24色卡在XYZ颜色空间的映射结果得到上述几种光照条件下的颜色校正矩阵(Color CorrectionMatrix,CCM),将D65、D50、TL84、A等光照条件下的CCM的插值运算结果作为待显示图像的每个子区域的RGB颜色空间的响应数据。然而,基于该方法得到的RGB颜色空间的响应数据进行转换所得到的XYZ颜色空间的响应数据与人眼所看的景象差距较大。
在一种实施方式中,在获取到待显示图像的每个子区域在XYZ颜色空间的响应数据和每个子区域在RGB颜色空间的响应数据后,可以根据每个子区域在XYZ颜色空间的响应数据和每个子区域在RGB颜色空间的响应数据,确定每个子区域的第一转换参数。
其中,第一转换参数为XYZ颜色空间与RGB颜色空间之间的转换参数,在一种实施方式中,第一转换参数包括第一正转换矩阵与第一逆转换矩阵,第一正转换矩阵为从RGB颜色空间到XYZ颜色空间的转换矩阵,第一逆转换矩阵为从XYZ颜色空间到RGB颜色空间的转换矩阵。由于本示例性实施方式的第一转换参数基于待显示图像的每个检测区域的光谱数据得到,因此第一转换参数的精度更高,可以避免由于另一种实施方式中采用升温,低照度实现颜色空间转换所导致的响应漂移现象。
在另一种实施方式中,通过升高温度(35度以上)且保持低照度(如1勒克斯以下),将RGB颜色空间的响应数据转换为XYZ颜色空间的响应数据,然而该方法通常会导致图像传感器的响应函数发生响应漂移,导致转换效果较差。
继续参考图3,在步骤S330中,基于待显示图像的显示环境的亮度信息与色温信息,确定LMS颜色空间内的色适应转换参数;
其中,待显示图像的显示环境可以是待显示图像最终被显示的屏幕所在的终端设备所处的环境,例如,在室内用手机或其他成像设备透过窗户拍摄窗外的景象时,手机所处的室内环境即为待显示图像的显示环境;将手机A拍摄的图像发送给手机B,则此时手机B所处的环境即为显示环境;将早晨拍摄的图像保存在手机A中晚上再查看该图像,则晚上手机A所处的环境为显示环境。上述显示环境的亮度信息与色温信息可由终端设备中的感光传感器获取,本公开对显示环境的亮度信息与色温信息的获取方式不作特殊限定。
LMS颜色空间是由人眼的三种锥体的响应表示的颜色空间,以人眼的三种锥体在长波长,中波长和短波长处的响应度(灵敏度)峰命名,在执行色适应时估计图像在不同光源下的颜色时,通常使用LMS色彩空间。
色适应可以是对光源的适应,也可以是人眼对不同照明光源或不同观察条件的白点变化的适应能力,人的视觉系统在光照条件发生变化时,可以自动调节视网膜三种锥体细胞的相对灵敏度,以尽量维持物体的色貌不变。由于人眼存在色适应,可以混合光源下自动平衡不同光源的显色情况,也就是说,人眼在不同色温,亮度环境下观察到同一个物体的颜色不同,例如,从色温为5000K的环境到色温为3000K的环境,人眼会根据环境的亮度和色温将当前物体的实际颜色匹配到另外一种颜色上。
色适应转换参数是根据待显示图像在LMS颜色空间内的色适应结果确定的转换参数,本公开可以通过色适应转换参数实现人眼的色适应结果,也就是说,本公开可以通过色适应转换参数将待显示图像在显示环境的显示结果还原为待显示图像在其被拍摄的环境中所呈现的结果。
在一种实施方式中,如图6所示,上述基于待显示图像的显示环境的亮度信息与色温信息,确定LMS颜色空间内的色适应转换参数,可以包括步骤S610~S620:
步骤S610,根据每个检测区域的光谱数据确定每个子区域的光照信息;
步骤S620,基于每个子区域的光照信息、显示环境的亮度信息与色温信息,确定每个子区域在LMS颜色空间内的色适应转换参数。
其中,每个子区域的光照信息可以反映待显示图像的拍摄环境的光照情况,本公开对每个子区域的光照信息的具体内容不作特殊限定,例如,每个子区域的光照信息可以包括待显示图像的每个子区域的色温,色偏差值等可以表示光源信息的指标值。
在一种实施方式中,每个子区域的光照信息可以是待显示图像的拍摄环境的色温,在本示例性实施方式中,拍摄环境可以是待显示图像中的景象所处的实际环境,例如,在室内用手机或其他成像设备透过窗户拍摄窗外的景象时,窗外的景象所处的环境即为待显示图像的拍摄环境;将手机A拍摄的图像发送给手机B,若手机A与待拍摄图像处于同一环境,则此时手机A所处的环境即为拍摄环境;将早晨拍摄的图像保存在手机A中晚上再查看该图像,则早晨手机A所处的环境为拍摄环境。
在本示例性实施方式中,可以在步骤S610中根据每个检测区域的光谱数据确定待显示图像的每个子区域在拍摄环境的色温;在步骤S620中,基于每个子区域在拍摄环境的色温、显示环境的亮度信息与色温信息,确定每个子区域在LMS颜色空间内的色适应转换参数。
进一步的,在一种实施方式中,可以首先获取待显示图像的每个子区域在LMS颜色空间的响应数据;基于待显示图像的每个子区域在拍摄环境的色温以及每个子区域的显示环境的色温的对应关系,确定子区域在当前显示环境的目标屏幕色温;基于子区域的显示环境的亮度信息以及该目标屏幕色温更新色貌模型,以得到目标色貌模型;结合目标色貌模型以及待显示图像的每个子区域在LMS颜色空间的响应数据获取每个子区域在LMS颜色空间的色适应结果;根据待显示图像的每个子区域在LMS颜色空间的色适应结果与每个子区域在LMS颜色空间的响应数据的比值确定色适应转换参数;在一种实施方式中,色适应转换参数包括色适应转换矩阵。
由于色适应转换参数基于待显示图像在拍摄环境的色温、显示环境的亮度信息与色温信息得到,因此可以直接以端到端的方式实现“所见即所得”的视觉效果,使得用户从屏幕中看到的物体颜色与用户实际看到的物体颜色保持一致,改善了用户的视觉体验。
在一种实施方式中,还可以根据待显示图像在拍摄环境的色温,待显示图像所显示的屏幕的色域与待显示图像的显示环境的色温确定每个子区域的色适应转换参数。在本示例性实施方式中,可以将待显示图像的每个子区域在拍摄环境的色温和显示环境的色温进行融合,以获取融合色温;将该融合色温作为子区域的目标色温,并计算该目标色温对应的色坐标;再根据待显示图像的子区域所处的显示环境的亮度信息获取白色的色坐标;根据目标色温对应的色坐标的与白色的色坐标的比值确定色适应转换参数。
继续参考图3,在获取到每个子区域的第一转换参数和色适应转换参数后,可以在步骤S340中,根据每个子区域的第一转换参数、色适应转换参数与第二转换参数,确定每个子区域的颜色变换参数;第二转换参数为LMS颜色空间与XYZ颜色空间之间的转换参数;
其中,颜色变换参数可以是对待显示图像的每个子区域进行颜色变换处理的依据,在一种实施方式中,颜色变换参数可以包括颜色变换矩阵。
在一种实施方式中,上述第二转换参数包括第二正转换矩阵与第二逆转换矩阵,第二正转换矩阵为从XYZ颜色空间到LMS颜色空间的转换矩阵,第二逆转换矩阵为从LMS颜色空间到XYZ颜色空间的转换矩阵。
进一步的,在一种实施方式中,可以根据色貌模型获取第二正转换矩阵和第二逆转换矩阵,例如,可以根据色貌模型CIE CAM02或CIE CAM16确定第二正转换矩阵和第二逆转换矩阵。
在一种实施方式中,上述根据每个子区域的第一转换参数、色适应转换参数与第二转换参数,确定每个子区域的颜色变换参数,可以包括下述步骤:
将任一子区域的第一正转换矩阵、第二正转换矩阵、色适应转换矩阵、该子区域的第二逆转换矩阵、第一逆转换矩阵依次相乘,得到该子区域的颜色变换矩阵。
上述颜色变换矩阵可以根据光谱数据以及待显示图像的显示环境和拍摄环境的变化动态生成,提高了待显示图像颜色变换过程的灵活性;在得到颜色变换矩阵后,在一种实施方式中,可以将颜色变换矩阵应用于待显示图像的白平衡处理和颜色校正处理。
在本示例性实施方式中,可以将颜色变换矩阵分解为目标白平衡矩阵与目标颜色校正矩阵;其中,目标白平衡矩阵可以为对角矩阵,目标颜色校正矩阵的每一行元素之和可以为1。
一般的,目标白平衡矩阵可以是一个3*3的对角矩阵,在一种实施方式中,可以将待显示图像的每个子区域在RGB颜色空间的响应数据与目标白平衡矩阵相乘,以获取待显示图像的每个子区域的白平衡结果;将待显示图像的每个子区域的白平衡结果与目标颜色校正矩阵相乘,以获取待显示图像的每个子区域的颜色变换结果。
由于颜色变换矩阵可以根据光谱数据以及待显示图像的显示环境和拍摄环境的变化动态生成,而根据颜色变换矩阵可以动态获取目标白平衡矩阵和目标颜色校正矩阵,使用该目标白平衡矩阵和目标颜色校正矩阵对待显示图像进行颜色变换处理,在混合光源条件下,不需要手动调整待显示图像的颜色属性参数,就可以模拟人眼的色适应效果,使得待显示图像达到了“所见即所得”的视觉效果。
在一种实施方式中,在获取到待显示图像的每个子区域通过目标白平衡矩阵与目标颜色校正矩阵的处理后,可以得到24色卡或SG色卡通过目标白平衡矩阵与目标颜色校正矩阵的处理结果,再根据目视色卡的结果与色卡通过目标白平衡矩阵与目标颜色校正矩阵的处理结果得到视觉误差,最后使用三维查找表补偿该视觉误差,以得到更符合目视效果的颜色变换结果。
在另一种实施方式中,在混合光源条件下对图像进行颜色变换,还可以采用不同比例的光源对图像进行倾向性处理,例如,当图像的低色温占比较高时,对图像进行颜色变换时可以偏向低色温。
继续参考图3,在获取到颜色变换参数后,在步骤S350中,可以利用颜色变换参数对待显示图像进行颜色变换处理,经过颜色变换处理后的待显示图像用于在显示环境中进行显示。
在一种实施方式中,上述利用颜色变换参数对待显示图像进行颜色变换处理,可以包括下述步骤:
利用目标白平衡矩阵与目标颜色校正矩阵对待显示图像进行白平衡处理与颜色校正处理。
在一种实施方式中,如图7所示,上述利用颜色变换参数对待显示图像进行颜色变换处理,可以包括下述步骤S710~S730:
步骤S710,将每个子区域的颜色变换参数分别作为每个子区域内的参考点的颜色变换参数;
步骤S720,通过对相邻的子区域内的参考点的颜色变换参数进行插值,得到待显示图像中每个像素点的颜色变换参数;
步骤S730,利用每个像素点的颜色变换参数对待显示图像进行颜色变换处理。
在本示例性实施方式中,在步骤S710中,将每个子区域的颜色变换参数分别作为每个子区域内的参考点的颜色变换参数,进一步的,在一种实施方式中,可以将每个子区域的目标白平衡矩阵与目标颜色校正矩阵作为每个子区域中心像素的颜色变换参数;在得到每个子区域中心像素的颜色变换参数后,可以在步骤S720中,对相邻的子区域内的中心像素点的目标白平衡矩阵与目标颜色校正矩阵进行插值,得到待显示图像的每个像素点的目标白平衡矩阵与目标颜色校正矩阵,以确定待显示图像中每个像素点的颜色变换参数;在得待显示图像中每个像素的颜色变换参数后,可以在步骤S730中,利用每个像素点的颜色变换参数对待显示图像进行颜色变换处理,以得到待显示图像在上述显示环境中的显示效果。
在一种实施方式中,可以根据相邻的子区域内的中心像素点的目标白平衡矩阵与目标颜色校正矩阵的双线性插值运算结果确定待显示图像的每个像素点的目标白平衡矩阵与目标颜色校正矩阵,本公开对上述插值运算的具体计算方式不作特殊限定。
由于现有的图像信号处理器(Image Signal Processor,ISP)对待显示图像的呈现效果可能无法达到与目视效果一致,因此,在一种实施方式中,上述利用目标白平衡矩阵与目标颜色校正矩阵对待显示图像进行白平衡处理与颜色校正处理,可以包括下述步骤:
将目标白平衡矩阵替换掉图像信号处理器中的常规白平衡矩阵,将目标颜色校正矩阵替换掉图像信号处理器中的常规颜色校正矩阵,通过图像信号处理器对待显示图像进行白平衡处理与颜色校正处理。
基于上述方法,提高了图像颜色变换的精准度,节省了人力成本和时间成本,进而提高了图像处理效率,改善了用户的视觉体验。
在一种实施方式中,本公开的图像处理方法的示例性流程如图8所示,可以根据步骤S801~S815对待显示图像进行图像处理:
步骤S801,获取待显示图像;
步骤S802,将多个光谱传感器的检测区域与待显示图像的子区域一一对应;
步骤S803,光谱传感器采集对应的检测区域的光谱数据;
步骤S804,根据每个检测区域的光谱数据和人眼响应函数确定每个子区域在XYZ颜色空间的响应数据;
步骤S805,根据每个检测区域的光谱数据与图像传感器的响应函数确定每个子区域在RGB颜色空间的响应数据;或将每个子区域的RGB数据作为每个子区域在RGB颜色空间的响应数据;
步骤S806,根据每个子区域在XYZ颜色空间的响应数据和RGB颜色空间的响应数据确定每个子区域的第一正转换矩阵和第一逆转换矩阵;
步骤S807,根据每个检测区域的光谱数据确定每个子区域的光照信息;
步骤S808,基于每个子区域的光照信息,显示环境的亮度信息与色温信息确定每个子区域在LMS颜色空间的色适应转换矩阵;
步骤S809,将每个子区域在XYZ颜色空间与LMS颜色空间之间的转换参数确定为第二正转换矩阵和第二逆转换矩阵;
步骤S810,将任一子区域的第一正转换矩阵,第二正转换矩阵,色适应转换矩阵,第二逆转换矩阵,以及第一逆转换矩阵依次相乘,得到任一子区域的颜色变换矩阵;
步骤S811,将每个子区域的颜色变换矩阵分别作为每个子区域内的参考点的颜色变换矩阵;
步骤S812,对相邻子区域内的参考点的颜色变换矩阵进行插值,得到待显示图像中每个像素点的颜色变换矩阵;
步骤S813,将颜色变换矩阵分解为目标白平衡矩阵与目标颜色矫正矩阵;
步骤S814,将目标白平衡矩阵与目标颜色矫正矩阵分别替换掉图像信号处理器中的常规白平衡矩阵和常规颜色校正矩阵,得到待显示图像信号处理器;
步骤S815,利用待显示图像信号处理器对待显示图像进行处理。
在一种实施方式中,待显示的图像可以是由终端设备所拍摄的待被ISP处理的图像,每个检测区域的光谱数据可以是光谱传感器得到的光谱数据扣除了图像传感器的响应函数后得到的光谱数据,可以通过本公开的图像处理方法对待显示的图像进行图像处理。
在本示例性实施方式中,可以使用分布方式为6*8的多个光谱传感器获取待显示图像每个检测区域对应的光谱数据R.L,其中每个检测区域对应待显示图像中的一个子区域,R可以是待显示图像中的拍摄目标,L可以是拍摄环境的光照信息,“.”可以是积分符号;通过光谱仪测量图像传感器模组可以得到图像传感器的响应函数S,根据每个检测区域的光谱数据R.L与图像传感器的响应函数S的卷积结果,得到每个子区域在RGB颜色空间的响应数据;获取待显示图像的每个子区域在XYZ颜色空间的人眼响应函数,将图像传感器的响应函数S与人眼响应函数卷积,以获取每个子区域在XYZ颜色空间的响应数据;根据待显示图像的每个子区域在RGB颜色空间的响应数据和每个子区域在XYZ颜色空间的响应数据得到第一正转换矩阵Mrgb2xyz和第一逆转换矩阵Mxyz2rgb,其中,Mrgb2xyz为从RGB颜色空间到XYZ颜色空间的转换矩阵,Mxyz2rgb为从XYZ颜色空间到RGB颜色空间的转换矩阵。
可以根据色貌模型CIE CAM02的Mcam02矩阵得到从XYZ颜色空间到LMS颜色空间的转换矩阵;结合Mcam02矩阵和待显示图像的每个子区域在XYZ颜色空间的响应数据得到待显示图像的每个子区域在LMS颜色空间的响应数据lms;再根据每个检测区域的光谱数据确定待显示图像的每个子区域的光照信息;基于每个子区域的光照信息,显示环境的亮度信息与色温信息,以及CIE CAM02色貌模型确定每个子区域在色适应后的结果lmsc;根据lmsc/lms的结果可以得到色适应转换矩阵Madp。
根据色貌模型CIE CAM02的inv矩阵得到从LMS颜色空间到XYZ颜色空间的转换矩阵;可以根据inv矩阵将待显示图像的每个子区域的lmsc转换为待显示图像的每个子区域在XYZ颜色空间的响应结果;将Mrgb2xyz,Mcam02,Madp,inv,以及Mxyz2rgb依次相乘,以获取颜色转换矩阵MadpE,即:
MadpE=Mrgb2xyz*Mcam02*Madp*inv*Mxyz2rgb;
将MadpE矩阵分解为目标白平衡(White Balance,WB)矩阵以及目标颜色校正矩阵(Color Correction Matrix,CCM),如图9所示,可以根据MadpE矩阵更新ISP,以实现动态的WB+CCM图像处理。
可以将待显示图像的每个子区域的动态WB+CCM结果作为每个子区域的中心像素的图像处理结果;将相邻两个子区域的中心像素的动态WB+CCM结果进行双线性插值运算,以得到待显示图像中每个像素点的动态WB+CCM结果,从而得到了待显示图像的图像处理结果。
本公开的示例性实施方式还提供一种图像处理装置。如图10所示,该图像处理装置1000可以包括:
数据获取模块1010,被配置为获取由图像传感器所采集的待显示图像,以及由多个光谱传感器所采集的多个检测区域的光谱数据;每个光谱传感器对应一个检测区域,每个检测区域对应待显示图像中的一个子区域;
第一转换参数确定模块1020,被配置为根据每个检测区域的光谱数据与人眼响应函数确定待显示图像的每个子区域在XYZ颜色空间的响应数据,根据每个子区域在XYZ颜色空间的响应数据与每个子区域在RGB颜色空间的响应数据,确定每个子区域的第一转换参数;第一转换参数为XYZ颜色空间与RGB颜色空间之间的转换参数;
色适应转换参数确定模块1030,被配置为基于待显示图像的显示环境的亮度信息与色温信息,确定LMS颜色空间内的色适应转换参数;
颜色变换参数确定模块1040,被配置为根据每个子区域的第一转换参数、色适应转换参数与第二转换参数,确定每个子区域的颜色变换参数;第二转换参数为LMS颜色空间与XYZ颜色空间之间的转换参数;
图像颜色变换处理模块1050,被配置为基于待显示图像的显示环境的亮度信息与色温信息,确定LMS颜色空间内的色适应转换参数。
在一种实施方式中,上述基于待显示图像的显示环境的亮度信息与色温信息,确定LMS颜色空间内的色适应转换参数,可以包括:
根据每个检测区域的光谱数据确定每个子区域的光照信息;
基于每个子区域的光照信息、显示环境的亮度信息与色温信息,确定每个子区域在LMS颜色空间内的色适应转换参数。
在一种实施方式中,上述图像处理装置1000还可以包括RGB颜色空间的响应数据获取模块,被配置为根据每个检测区域的光谱数据与图像传感器的响应函数,确定每个子区域在RGB颜色空间的响应数据;或者将每个子区域的RGB数据作为每个子区域在RGB颜色空间的响应数据。
在一种实施方式中,上述第一转换参数包括第一正转换矩阵与第一逆转换矩阵,第一正转换矩阵为从RGB颜色空间到XYZ颜色空间的转换矩阵,第一逆转换矩阵为从XYZ颜色空间到RGB颜色空间的转换矩阵;第二转换参数包括第二正转换矩阵与第二逆转换矩阵,第二正转换矩阵为从XYZ颜色空间到LMS颜色空间的转换矩阵,第二逆转换矩阵为从LMS颜色空间到XYZ颜色空间的转换矩阵;色适应转换参数包括色适应转换矩阵;颜色变换参数包括颜色变换矩阵;
上述根据每个子区域的第一转换参数、色适应转换参数与第二转换参数,确定每个子区域的颜色变换参数,可以包括:
将任一子区域的第一正转换矩阵、第二正转换矩阵、色适应转换矩阵、任一子区域的第二逆转换矩阵、第一逆转换矩阵依次相乘,得到任一子区域的颜色变换矩阵。
在一种实施方式中,上述图像处理装置还可以包括矩阵分解模块,被配置为将颜色变换矩阵分解为目标白平衡矩阵与目标颜色校正矩阵;(目标白平衡矩阵为对角矩阵,目标颜色校正矩阵的每一行元素之和为1);
在一种实施方式中,上述利用颜色变换参数对待显示图像进行颜色变换处理,可以包括:
利用目标白平衡矩阵与目标颜色校正矩阵对待显示图像进行白平衡处理与颜色校正处理。
在一种实施方式中,上述利用目标白平衡矩阵与目标颜色校正矩阵对待显示图像进行白平衡处理与颜色校正处理,可以包括:
将目标白平衡矩阵替换掉图像信号处理器中的常规白平衡矩阵,将目标颜色校正矩阵替换掉图像信号处理器中的常规颜色校正矩阵,通过图像信号处理器对待显示图像进行白平衡处理与颜色校正处理。
在一种实施方式中,上述利用颜色变换参数对待显示图像进行颜色变换处理,可以包括:
将每个子区域的颜色变换参数分别作为每个子区域内的参考点的颜色变换参数;
通过对相邻的子区域内的参考点的颜色变换参数进行插值,得到待显示图像中每个像素点的颜色变换参数;
利用每个像素点的颜色变换参数对待显示图像进行颜色变换处理。
上述装置中各部分的具体细节在方法部分实施方式中已经详细说明,因而不再赘述。
本公开的示例性实施方式还提供了一种计算机可读存储介质,可以实现为一种程序产品的形式,其包括程序代码,当程序产品在电子设备上运行时,程序代码用于使电子设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。在一种可选的实施方式中,该程序产品可以实现为便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在电子设备,例如个人电脑上运行。然而,本公开的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
本公开的示例性实施方式还提供一种电子设备。该电子设备可以包括处理器与存储器。存储器存储有处理器的可执行指令,如可以是程序代码。处理器通过执行该可执行指令来执行本示例性实施方式中的方法。
下面参考图11,以移动终端的形式对电子设备进行示例性说明。应当理解,图11显示的电子设备1100仅仅是一个示例,不应对本公开实施方式的功能和使用范围带来限制。
参考图11所示,电子设备1100可以包括:处理器1101、存储器1102、移动通信模块1104、无线通信模块1105、显示屏1106、摄像模块1107、音频模块1108、电源模块1109与传感器模块1110。
处理器1101可以包括一个或多个处理单元,例如:处理器1101可以包括中央处理器(Central Processing Unit,CPU)、AP(Application Processor,应用处理器)、调制解调处理器、显示处理器(Display Process Unit,DPU)、GPU(Graphics Processing Unit,图形处理器)、ISP(Image Signal Processor,图像信号处理器)、控制器、编码器、解码器、DSP(Digital Signal Processor,数字信号处理器)、基带处理器和/或NPU(Neural-NetworkProcessing Unit,神经网络处理器)等。本示例性实施方式中的图像处理方法可以由CPU执行,在一种实施方式中,摄像模块1107中的图像传感器可以采集待显示图像,并基于多个光谱传感器采集多个检测区域的光谱数据,其中,每个光谱传感器对应一个检测区域,每个检测区域对应待显示图像中的一个子区域,CPU接收到上述每个检测区域的光谱数据后,根据每个检测区域的光谱数据与人眼响应函数确定待显示图像的每个子区域在XYZ颜色空间的响应数据,根据每个子区域在XYZ颜色空间的响应数据与每个子区域在RGB颜色空间的响应数据,确定每个子区域的第一转换参数;再基于待显示图像的显示环境的亮度信息与色温信息,确定LMS颜色空间内的色适应转换参数;根据每个子区域的第一转换参数、色适应转换参数与第二转换参数,确定每个子区域的颜色变换参数;第二转换参数为LMS颜色空间与XYZ颜色空间之间的转换参数;最后基于待显示图像的显示环境的亮度信息与色温信息,可以确定LMS颜色空间内的色适应转换参数。
存储器1102可以用于存储计算机可执行程序代码,可执行程序代码包括指令。处理器1101通过运行存储在存储器1102的指令,执行电子设备1100的各种功能应用以及数据处理。存储器1102还可以存储应用数据以及各种中间数据,例如存储器1102可以存储图像,视频,以及上述光谱数据等。
电子设备1100的通信功能可以通过移动通信模块1104、天线1、无线通信模块1105、天线2、调制解调处理器以及基带处理器等实现。天线1和天线2用于发射和接收电磁波信号。移动通信模块1104可以提供应用在电子设备1100上3G、4G、5G等移动通信解决方案。无线通信模块1105可以提供应用在电子设备1100上的无线局域网、蓝牙、近场通信等无线通信解决方案。
显示屏1106用于实现显示功能,如显示用户界面、图像、视频等,在一种实施方式中,显示屏1106可以用于显示本公开实施方式的图像处理方法对待显示图像进行处理后的显示结果。摄像模块1107用于实现拍摄功能,如拍摄图像、视频等,例如,摄像模块1107可以包括图像传感器和上述光谱传感器,图像传感器可以用于采集待显示图像,将多个光谱传感器进行组合可以更精确的获取待显示图像的光谱数据,提高了对图像的光照信息的检测精度和检测效率,从而提高了图像处理效率。音频模块1108用于实现音频功能,如播放音频,采集语音等。电源模块1109用于实现电源管理功能,如为电池充电、为设备供电、监测电池状态等。传感器模块1110可以包括一种或多种传感器,其用于获取电子设备1100各个方面的状态评估。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的示例性实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
所属技术领域的技术人员能够理解,本公开的各个方面可以实现为系统、方法或程序产品。因此,本公开的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其他实施方式。本公开旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施方式仅被视为示例性的,本公开的真正范围和精神由权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限定。
Claims (10)
1.一种图像处理方法,其特征在于,包括:
获取由图像传感器所采集的待显示图像,以及由多个光谱传感器所采集的多个检测区域的光谱数据;每个光谱传感器对应一个检测区域,每个检测区域对应所述待显示图像中的一个子区域;
根据每个检测区域的光谱数据与人眼响应函数确定所述待显示图像的每个子区域在XYZ颜色空间的响应数据,根据所述每个子区域在XYZ颜色空间的响应数据与所述每个子区域在RGB颜色空间的响应数据,确定所述每个子区域的第一转换参数;所述第一转换参数为XYZ颜色空间与RGB颜色空间之间的转换参数;
基于所述待显示图像的显示环境的亮度信息与色温信息,确定LMS颜色空间内的色适应转换参数;
根据所述每个子区域的第一转换参数、所述色适应转换参数与第二转换参数,确定所述每个子区域的颜色变换参数;所述第二转换参数为LMS颜色空间与XYZ颜色空间之间的转换参数;
利用所述颜色变换参数对所述待显示图像进行颜色变换处理,经过颜色变换处理后的待显示图像用于在所述显示环境中进行显示。
2.根据权利要求1所述的方法,其特征在于,所述基于所述待显示图像的显示环境的亮度信息与色温信息,确定LMS颜色空间内的色适应转换参数,包括:
根据所述每个检测区域的光谱数据确定所述每个子区域的光照信息;
基于所述每个子区域的光照信息、所述显示环境的亮度信息与色温信息,确定所述每个子区域在LMS颜色空间内的色适应转换参数。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
根据所述每个检测区域的光谱数据与所述图像传感器的响应函数,确定所述每个子区域在RGB颜色空间的响应数据;或者将所述每个子区域的RGB数据作为所述每个子区域在RGB颜色空间的响应数据。
4.根据权利要求1所述的方法,其特征在于,所述第一转换参数包括第一正转换矩阵与第一逆转换矩阵,所述第一正转换矩阵为从RGB颜色空间到XYZ颜色空间的转换矩阵,所述第一逆转换矩阵为从XYZ颜色空间到RGB颜色空间的转换矩阵;所述第二转换参数包括第二正转换矩阵与第二逆转换矩阵,所述第二正转换矩阵为从XYZ颜色空间到LMS颜色空间的转换矩阵,所述第二逆转换矩阵为从LMS颜色空间到XYZ颜色空间的转换矩阵;所述色适应转换参数包括色适应转换矩阵;所述颜色变换参数包括颜色变换矩阵;
所述根据所述每个子区域的第一转换参数、所述色适应转换参数与第二转换参数,确定所述每个子区域的颜色变换参数,包括:
将任一子区域的第一正转换矩阵、第二正转换矩阵、所述色适应转换矩阵、所述任一子区域的第二逆转换矩阵、第一逆转换矩阵依次相乘,得到所述任一子区域的颜色变换矩阵。
5.根据权利要求4所述的方法,其特征在于,所述方法还包括:
将所述颜色变换矩阵分解为目标白平衡矩阵与目标颜色校正矩阵;(所述目标白平衡矩阵为对角矩阵,所述目标颜色校正矩阵的每一行元素之和为1)
所述利用所述颜色变换参数对所述待显示图像进行颜色变换处理,包括:
利用所述目标白平衡矩阵与所述目标颜色校正矩阵对所述待显示图像进行白平衡处理与颜色校正处理。
6.根据权利要求5所述的方法,其特征在于,所述利用所述目标白平衡矩阵与所述目标颜色校正矩阵对所述待显示图像进行白平衡处理与颜色校正处理,包括:
将所述目标白平衡矩阵替换掉图像信号处理器中的常规白平衡矩阵,将所述目标颜色校正矩阵替换掉所述图像信号处理器中的常规颜色校正矩阵,通过所述图像信号处理器对所述待显示图像进行白平衡处理与颜色校正处理。
7.根据权利要求1所述的方法,其特征在于,所述利用所述颜色变换参数对所述待显示图像进行颜色变换处理,包括:
将所述每个子区域的颜色变换参数分别作为所述每个子区域内的参考点的颜色变换参数;
通过对相邻的子区域内的参考点的颜色变换参数进行插值,得到所述待显示图像中每个像素点的颜色变换参数;
利用所述每个像素点的颜色变换参数对所述待显示图像进行颜色变换处理。
8.一种图像处理装置,其特征在于,包括:
数据获取模块,被配置为获取由图像传感器所采集的待显示图像,以及由多个光谱传感器所采集的多个检测区域的光谱数据;每个光谱传感器对应一个检测区域,每个检测区域对应所述待显示图像中的一个子区域;
第一转换参数确定模块,被配置为根据每个检测区域的光谱数据与人眼响应函数确定所述待显示图像的每个子区域在XYZ颜色空间的响应数据,根据所述每个子区域在XYZ颜色空间的响应数据与所述每个子区域在RGB颜色空间的响应数据,确定所述每个子区域的第一转换参数;所述第一转换参数为XYZ颜色空间与RGB颜色空间之间的转换参数;
色适应转换参数确定模块,被配置为基于所述待显示图像的显示环境的亮度信息与色温信息,确定LMS颜色空间内的色适应转换参数;
颜色变换参数确定模块,被配置为根据所述每个子区域的第一转换参数、所述色适应转换参数与第二转换参数,确定所述每个子区域的颜色变换参数;所述第二转换参数为LMS颜色空间与XYZ颜色空间之间的转换参数;
图像颜色变换处理模块,被配置为利用所述颜色变换参数对所述待显示图像进行颜色变换处理,经过颜色变换处理后的待显示图像用于在所述显示环境中进行显示。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7任一项所述的方法。
10.一种电子设备,其特征在于,包括:
处理器;
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1至7任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210868174.4A CN115239550A (zh) | 2022-07-21 | 2022-07-21 | 图像处理方法、图像处理装置、存储介质与电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210868174.4A CN115239550A (zh) | 2022-07-21 | 2022-07-21 | 图像处理方法、图像处理装置、存储介质与电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115239550A true CN115239550A (zh) | 2022-10-25 |
Family
ID=83675380
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210868174.4A Pending CN115239550A (zh) | 2022-07-21 | 2022-07-21 | 图像处理方法、图像处理装置、存储介质与电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115239550A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115619628A (zh) * | 2022-12-05 | 2023-01-17 | 荣耀终端有限公司 | 图像处理方法和终端设备 |
CN118354500A (zh) * | 2024-05-20 | 2024-07-16 | 湖州泰灵电力设备有限公司 | 一种基于电气参数的色温可变的律动光照方法 |
-
2022
- 2022-07-21 CN CN202210868174.4A patent/CN115239550A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115619628A (zh) * | 2022-12-05 | 2023-01-17 | 荣耀终端有限公司 | 图像处理方法和终端设备 |
CN115619628B (zh) * | 2022-12-05 | 2023-05-23 | 荣耀终端有限公司 | 图像处理方法和终端设备 |
CN118354500A (zh) * | 2024-05-20 | 2024-07-16 | 湖州泰灵电力设备有限公司 | 一种基于电气参数的色温可变的律动光照方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111432099B (zh) | 图像传感器、处理系统及方法、电子设备和存储介质 | |
WO2021208593A1 (zh) | 高动态范围图像处理系统及方法、电子设备和存储介质 | |
US10136107B2 (en) | Imaging systems with visible light sensitive pixels and infrared light sensitive pixels | |
CN103327342B (zh) | 具有透明滤波器像素的成像系统 | |
CN111491111B (zh) | 高动态范围图像处理系统及方法、电子设备和可读存储介质 | |
US8803994B2 (en) | Adaptive spatial sampling using an imaging assembly having a tunable spectral response | |
US10560670B2 (en) | Imaging apparatus and imaging control method | |
US8629919B2 (en) | Image capture with identification of illuminant | |
CN111586375B (zh) | 高动态范围图像处理系统及方法、电子设备和可读存储介质 | |
CN104661008A (zh) | 低照度条件下彩色图像质量提升的处理方法和装置 | |
US20160182837A1 (en) | Image pickup apparatus | |
CN115239550A (zh) | 图像处理方法、图像处理装置、存储介质与电子设备 | |
CN115314617A (zh) | 图像处理系统及方法、计算机可读介质和电子设备 | |
CN114584752B (zh) | 图像颜色还原方法及相关设备 | |
US20230342895A1 (en) | Image processing method and related device thereof | |
JP2015194567A (ja) | 表示装置 | |
CN115100085B (zh) | 图像颜色校正方法、装置、存储介质与电子设备 | |
US10593717B2 (en) | Image processing apparatus, image processing method, and imaging apparatus | |
CN115550575B (zh) | 图像处理方法及其相关设备 | |
CN115242949A (zh) | 摄像模组与电子设备 | |
CN115187559A (zh) | 用于图像的光照检测方法、装置、存储介质与电子设备 | |
CN115190282B (zh) | 一种避免高色温下摄像头模组白平衡失真的方法 | |
JP2005323141A (ja) | 撮像装置、カメラ、及び信号処理方法 | |
CN112335233B (zh) | 图像生成装置以及摄像装置 | |
CN118233766A (zh) | 图像数据的处理方法、装置、终端、存储介质及程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |