[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

CN108760245B - 光学元件检测方法和装置、电子设备、可读存储介质 - Google Patents

光学元件检测方法和装置、电子设备、可读存储介质 Download PDF

Info

Publication number
CN108760245B
CN108760245B CN201810404506.7A CN201810404506A CN108760245B CN 108760245 B CN108760245 B CN 108760245B CN 201810404506 A CN201810404506 A CN 201810404506A CN 108760245 B CN108760245 B CN 108760245B
Authority
CN
China
Prior art keywords
speckle pattern
optical element
image
camera
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810404506.7A
Other languages
English (en)
Other versions
CN108760245A (zh
Inventor
谭国辉
周海涛
谭筱
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN201810404506.7A priority Critical patent/CN108760245B/zh
Publication of CN108760245A publication Critical patent/CN108760245A/zh
Priority to EP19736569.5A priority patent/EP3567851A4/en
Priority to PCT/CN2019/075386 priority patent/WO2019174435A1/zh
Priority to TW108108335A priority patent/TWI696391B/zh
Application granted granted Critical
Publication of CN108760245B publication Critical patent/CN108760245B/zh
Priority to US16/684,299 priority patent/US11348217B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M11/00Testing of optical apparatus; Testing structures by optical methods not otherwise provided for

Landscapes

  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Image Analysis (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本申请涉及一种光学元件检测方法和装置、电子设备、计算机可读存储介质。所述方法包括:接收摄像头启动请求,根据摄像头启动请求获取散斑图,散斑图是投射器中光源产生的激光通过光学元件照射到物体上所形成的图像,根据散斑图对光学元件进行异常检测。由于可以在摄像头启动过程中,根据获取的散斑图对光学元件进行异常检测,可以提高使用安全性。

Description

光学元件检测方法和装置、电子设备、可读存储介质
技术领域
本申请涉及计算机技术领域,特别是涉及一种光学元件检测方法、装置、电子设备、计算机可读存储介质。
背景技术
随着计算机技术的发展,深度图像技术广泛的应用于人脸识别、人机交互、图像美化等场景。深度图像是投射器中光源产生的激光通过光学元件照射到物体上所形成的散斑图像计算得到的。当衍射光学元件损坏时,激光照射到人眼时会对人眼造成严重的伤害,存在使用安全性低的问题。
发明内容
本申请实施例提供一种光学元件检测方法、装置、电子设备、计算机可读存储介质,可以在使用过程中对光学元件进行异常检测,提高使用安全性。
一种光学元件检测方法,所述方法包括:
接收摄像头启动请求;
根据所述摄像头启动请求获取散斑图,所述散斑图是投射器中光源产生的激光通过光学元件照射到物体上所形成的图像;
根据所述散斑图对所述光学元件进行异常检测。
一种光学元件检测装置,所述装置包括:
请求接收模块,用于接收摄像头启动请求;
散斑图获取模块,用于根据所述摄像头启动请求获取散斑图,所述散斑图是投射器中光源产生的激光通过光学元件照射到物体上所形成的图像;
检测模块,用于根据所述散斑图对所述光学元件进行异常检测。
一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如下步骤:
接收摄像头启动请求;
根据所述摄像头启动请求获取散斑图,所述散斑图是投射器中光源产生的激光通过光学元件照射到物体上所形成的图像;
根据所述散斑图对所述光学元件进行异常检测。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如下步骤:
接收摄像头启动请求;
根据所述摄像头启动请求获取散斑图,所述散斑图是投射器中光源产生的激光通过光学元件照射到物体上所形成的图像;
根据所述散斑图对所述光学元件进行异常检测。
上述光学元件检测方法、装置、电子设备和计算机可读存储介质,可以在接收摄像头启动请求时,获取由投射器中光源产生的激光通过光学元件照射到物体上所形成的散斑图,根据散斑图对光学元件进行异常检测。由于可以在使用过程中对光学元件进行异常检测,提高了使用安全性。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为一个实施例光学元件检测方法的应用场景图;
图2为一个实施例中光学元件检测方法的流程图;
图3为另一个实施例中光学元件检测方法的流程图;
图4为另一个实施例中光学元件检测方法的流程图;
图5为另一个实施例中光学元件检测方法的流程图;
图6为一个实施例中对光学元件进行异常检测的流程图;
图7为另一个实施例对光学元件进行异常检测的流程图;
图8为一个实施例中光学元件检测装置的结构框图;
图9为一个实施例中图像处理电路的示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
可以理解,本申请所使用的术语“第一”、“第二”等可在本文中用于描述各种元件,但这些元件不受这些术语限制。这些术语仅用于将第一个元件与另一个元件区分。举例来说,在不脱离本申请的范围的情况下,可以将第一客户端称为第二客户端,且类似地,可将第二客户端称为第一客户端。第一客户端和第二客户端两者都是客户端,但其不是同一客户端。
图1为一个实施例中光学元件检测方法的应用场景图。如图1所示,电子设备10可包括摄像头模组110、第二处理单元120,第一处理单元130。上述第二处理单元120可为CPU(Central Processing Unit,中央处理器)模块。上述第一处理单元130可为MCU(Microcontroller Unit,微控制单元)模块130等。其中,第一处理单元130连接在第二处理单元120和摄像头模组110之间,上述第一处理单元130可控制摄像头模组110中激光摄像头112、泛光灯114和镭射灯118,上述第二处理单元120可控制摄像头模组110中RGB摄像头116。
摄像头模组110中包括激光摄像头112、泛光灯114、RGB(Red/Green/Blue,红/绿/蓝色彩模式)摄像头116和镭射灯118。上述激光摄像头112为红外摄像头,用于获取红外图像。上述泛光灯114为可发生红外光的面光源;上述镭射灯118为可发生激光的点光源且为带有图案的点光源。其中,当泛光灯114发射面光源时,激光摄像头112可根据反射回的光线获取红外图像。当镭射灯118发射点光源时,激光摄像头112可根据反射回的光线获取散斑图像。上述散斑图像是镭射灯118发射的带有图案的点光源被反射后图案发生形变的图像。
第一处理单元130包括PWM(Pulse Width Modulation,脉冲宽度调制)模块132、SPI/I2C(Serial Peripheral Interface/Inter-Integrated Circuit,串行外设接口/双向二线制同步串行接口)接口134、RAM(Random Access Memory,随机存取存储器)模块136和深度引擎138。上述PWM模块132可向摄像头模组发射脉冲,控制泛光灯114或镭射灯118开启,使得激光摄像头112可采集到红外图像或散斑图像。上述SPI/I2C接口134用于接收第二处理单元120发送的人脸采集指令。上述深度引擎138可对散斑图像进行处理得到深度视差图。
当第二处理单元120接收到应用程序的数据获取请求时,例如,当应用程序需要进行人脸解锁、人脸支付时,可通过运行在TEE环境下的CPU内核向第一处理单元130发送人脸采集指令。当第一处理单元130接收到人脸采集指令后,可通过PWM模块132发射脉冲波控制摄像头模组110中泛光灯114开启并通过激光摄像头112采集红外图像、控制摄像头模组110中镭射灯118开启并通过激光摄像头112采集散斑图像。摄像头模组110可将采集到的红外图像和散斑图像发送给第一处理单元130。第一处理单元130可对接收到的红外图像进行处理得到红外视差图;对接收到的散斑图像进行处理得到散斑视差图或深度视差图。其中,第一处理单元130对上述红外图像和散斑图像进行处理是指对红外图像或散斑图像进行校正,去除摄像头模组110中内外参数对图像的影响。其中,第一处理单元130可设置成不同的模式,不同模式输出的图像不同。当第一处理单元130设置为散斑图模式时,第一处理单元130对散斑图像处理得到散斑视差图,根据上述散斑视差图可得到目标散斑图像;当第一处理单元130设置为深度图模式时,第一处理单元130对散斑图像处理得到深度视差图,根据上述深度视差图可得到深度图像,上述深度图像是指带有深度信息的图像。第一处理单元130可将上述红外视差图和散斑视差图发送给第二处理单元120,第一处理单元130也可将上述红外视差图和深度视差图发送给第二处理单元120。第二处理单元120可根据上述红外视差图获取目标红外图像、根据上述深度视差图获取深度图像。进一步的,第二处理单元120可根据目标红外图像、深度图像来进行人脸识别、人脸匹配、活体检测以及获取检测到的人脸的深度信息。
第一处理单元130与第二处理单元120之间通信是通过固定的安全接口,用以确保传输数据的安全性。如图1所示,第二处理单元120发送给第一处理单元130的数据是通过安全串行外设接口或双向二线制同步串行接口(SECURE SPI/I2C)140,第一处理单元130发送给第二处理单元120的数据是通过安全移动产业处理器接口(SECURE MIPIMobile,Industry Processor Interface)150。
在一个实施例中,第二处理单元120接收到应用程序的摄像头启动请求,可以向第一处理单元130发送图像采集指令。第一处理单元130通过控制摄像头模组110中镭射灯118开启并通过激光摄像头112采集散斑图。摄像头模组可以将采集到的散斑图发送给第一处理单元130,第一处理单元130可根据获取的散斑图对光学元件进行异常检测。
在一个实施例中,第一处理单元130还可以获取摄像头模组110采集的红外图像,第二处理单元120可根据上述红外图像进行人脸识别,当人脸识别通过后,第二处理单元120可根据散斑图进行活体检测,当活体检测通过时,第一处理单元可根据获取的散斑图对光学元件进行异常检测。
本申请实施例中电子设备可为手机、平板电脑、个人数字助理或可穿戴设备等。
在其他实施例中,电子设备可包括摄像头模组110和第二处理单元120。
图2为一个实施例中光学元件检测方法的流程图。如图2所示,该光学元件检测方法包括步骤202至步骤206。
步骤202,接收摄像头启动请求。
摄像头可以分为内置摄像头和外置摄像头。具体地,摄像头还可以是双摄像头。电子设备的摄像头可以是用于采集彩色图像的RGB摄像头、用于采集红外图像的红外摄像头、用于采集激光散斑图像的激光摄像头或上述摄像头的任意组合。摄像头启动请求可以是用户通过点击显示屏上的摄像头应用程序标识后生成的,也可以是用户通过按压电子设备上的摄像头控件生成的。
电子设备可以接收生成的摄像头启动请求。
步骤204,根据摄像头启动请求获取散斑图,散斑图是投射器中光源产生的激光通过光学元件照射到物体上所形成的图像。
电子设备在接收到摄像头启动请求后,可以根据该摄像头启动请求控制投射器向物体投射结构光图案,经过物体反射后,通过激光摄像头采集散斑图。散斑图是指激光摄像头采集的由投射器中光源产生的激光通过光学元件照射到物体上所形成的散斑图像。电子设备的投射器可以是镭射灯。投射器包括光源、准直镜和光学元件。其中,光源可为面发射激光、垂直腔面激光(VCSEL,Vertical Cavity Surface Emitting Laser)阵列。光学元件可以是DOE(Diffractive Optical Elements,衍射光学元件)、毛玻璃或者里面两者组合等。电子设备可以根据获取的散斑图,计算图片中物体的深度信息。
电子设备通过投射器中光源产生的激光通过光学元件照射到物体上,通过激光摄像头采集所形成的散斑图。
步骤206,根据散斑图对光学元件进行异常检测。
对光学元件的异常检测是指电子设备根据散斑图的亮度信息分析光学元件是否损坏。具体地,电子设备还可以根据散斑图的图像亮度的不同判定光学元件的损坏程度。电子设备可以通过设定散斑图的正常亮度范围,检测获取的散斑图的亮度值是否在设定的正常亮度范围内来对光学元件进行异常检测。电子设备还可以通过将散斑图与预先存储的散斑图进行对比来对光学元件进行异常检测等。
电子设备通过检测获取的散斑图,根据散斑图进行光学元件的异常检测。电子设备根据散斑图对光学元件进行异常检测的同时,可以获取摄像头采集RGB图像,当光学元件异常检测通过时,电子设备可以根据获取的散斑图计算得到图像中物体的深度信息,根据散斑图计算的深度信息和RGB图像得到物体的三维图像。三维图像是指可以描述物体在平面上和空间上的分布形态和构造关系图像,相比二维图像,三维图像除了高度和宽度外,还具有深度。
本申请实施例中的光学元件检测方法,通过在接收摄像头启动请求时,根据摄像头启动请求获取投射器中光源产生的激光通过光学元件照射到物体上所形成的散斑图,根据散斑图对光学元件进行异常检测。由于可以在摄像头启动过程中,根据获取的散斑图对光学元件进行异常检测,可以提高使用安全性。
如图3所示,在一个实施例中,提供的一种光学元件检测方法可以包括:
步骤302,获取采集的红外图像进行人脸检测。
红外图像是指电子设备通过控制泛光灯发射红外光照射到物体上,并通过红外摄像头采集的图像。人脸检测是指对于给定的图像,采用一定的算法对图像进行分析以确定图像中是否含有人脸的技术。通过红外摄像头采集的红外图像进行人脸识别,可以消除可见光在不同光线条件下识别效果差别较大,特别是在侧光拍摄或弱光环境下无法正确识别的问题。
步骤304,当人脸识别通过后,根据散斑图进行活体检测。
人脸识别通过是指电子设备采集的图像中包含人脸。具体地,图像中的人脸可以为一个或多个。当人脸识别不通过时,说明电子设备采集的图像中没有人脸,可以不对图像进行活体检测。活体检测是指通过散斑图得到图像中物体的深度信息,通过对深度信息进行分析可以得到图像中的人脸是否为活体。当图像中有活体或其他物体时,电子设备获取的散斑图与参考散斑图对应的像素之间会存在横向偏移,通过对获取的散斑图和参考散斑图的像素偏移量进行计算可以得到散斑图中各像素对应的空间点距离摄像头的深度值。当散斑图中各像素对应的空间点距离摄像头的深度值相同或相近时,则散斑图中的人脸信息为二维人脸信息。当散斑图人脸信息中各像素对应的空间点距离摄像头的深度值不相同时,可以确定散斑图中的人脸信息为活体人脸信息。
当人脸识别通过后,电子设备根据获取的散斑图和参考散斑图计算人脸的深度信息,从而进行活体检测。
步骤306,当活体检测通过时,根据散斑图对光学元件进行异常检测。
活体检测通过是指电子设备根据散斑图中人脸的深度信息,确定散斑图的人脸为活体人脸。
如果光学元件损坏,电子设备中投射器中光源产生的激光通过损坏的光学元件照射到活体人眼时,会对人眼造成严重伤害。通过在活体检测通过时,根据活体检测的散斑图对光学元件进行异常检测。当检测到光学元件异常时,可以及时关闭投射器的使用,以免对用户造成伤害,可以提高使用安全性。
如图4所示,在一个实施例中,提供的一种光学元件检测方法还可以包括以下步骤:
步骤402,获取采集的红外图像进行人脸检测。
步骤404,当人脸识别通过后,根据散斑图进行活体检测。
步骤406,当活体检测未通过时,根据散斑图获取摄像头与人像的距离值。
活体检测未通过是指电子设备采集的人脸识别通过的散斑图中的人脸为二维人脸信息。摄像头与人像的距离值是激光摄像头所在的位置与人像的位置的距离长度。摄像头与人像的距离值可以相当于电子设备与人像之间的距离值。当活体检测未通过时,电子设备可以根据散斑图与参考散斑图的像素偏移量得到散斑图各像素对应的空间点距离摄像头的深度值,进而获取散斑图中的人脸信息各像素对应的空间点距离摄像头的深度值,从而得到摄像头与人像的距离值。
步骤408,当距离值大于预设距离时,根据散斑图对光学元件进行异常检测。
预设距离值可以根据不同激光的特性和实际工作需求来设定。具体地,预设距离值可以为20厘米、30厘米等不限于此。当摄像头与人像的距离值大于预设距离值,电子设备根据散斑图对光学元件进行异常检测。在一个实施例中,当距离值小于预设距离时,电子设备可以对投射器的工作电流、工作频率等进行调整。具体地,电子设备可以将投射器的工作电流降为原来的20%、25%等不限于此,也可以将投射器的工作频率设为1fps(Frames PerSecond,每秒传输帧数)、2fps等不限于此。
图5为本申请光学元件检测方法一个具体实施例的流程图,包括:
步骤502,获取红外图像。红外图像是指电子设备通过控制泛光灯发射红外光照射到物体上,并通过红外摄像头采集的图像。
步骤504,检测红外图像中是否有人脸;若是,则进入步骤506;
步骤506,获取散斑图;
步骤508,检测散斑图中是否有活体;若否,则进入步骤514,若是,则进入步骤510;
步骤510,检测光学元件是否异常;若是,则进入步骤512
步骤512,将光学元件异常次数加1。
步骤514,根据散斑图获取摄像头与人像的距离值;
步骤516,根据散斑图获取距离值,距离值为摄像头与人像的距离值;
步骤518,检测光学元件是否异常;若是,则进入步骤520
步骤520,将光学元件的异常次数增加1。
通过在距离值小于预设距离时,调整投射器的工作电流和工作频率可以降低激光的光强和激光的照射时间,从而减少对人眼的伤害。通过,在距离值大于预设距离时,根据散斑图对光学元件进行异常检测,可以在投射器的使用过程中检测光学元件是否异常,提高使用安全性。
在其中一个实施例中,所提供的一种光学元件检测方法中根据散斑图对光学元件进行异常检测,具体包括:当连续检测到散斑图异常的次数超过第一预设值时,则判定光学元件异常。
具体地,电子设备根据散斑图对光学元件进行异常检测,可以根据散斑图的亮度信息对散斑图进行异常检测。当电子设备检测到散斑图非异常时,可以停止对光学元件的异常检测。当电子设备检测到散斑图异常时,可以记录散斑图的异常次数,将散斑图异常的次数增加1,并继续采集散斑图,对散斑图进行异常检测。电子设备在连续检测到散斑图异常的次数超过第一预设值时,判定光学元件异常。第一预设值可以根据实际应用中的需求来设定,具体地可以为3次、4次不限于此。
通过在连续检测到散斑图异常的次数超过第一预设值时判定光学元件异常,可以避免因环境因素例如图像中存在反射率较高的物体、室外自然光强度大等引起的散斑图异常而造成光学元件异常检测的结果错误,可以提高光学元件检测的准确性。
在一个实施例中,提供的一种光学元件检测方法中检测散斑图异常具体包括:获取散斑图的零级区域亮度值;当散斑图的零级区域亮度值超过预设阈值时,则判定散斑图异常。
零级区域是指散斑图中亮度值最大的区域。具体地,受拍摄距离的影响,散斑图的零级区域可能位于散斑图的中心,也可能位于散斑图的中心偏右的位置。电子设备可以通过设定预设大小的搜索框对散斑图进行遍历,将亮度值最大的搜索框所在的区域作为散斑图的零级区域。电子设备确定散斑图的零级区域后,可以获取散斑图的零级区域亮度值,当散斑图的零级区域亮度值超过预设阈值时,判定散斑图异常。预设阈值可以根据实验数据或实际使用的需求来设定。具体地,预设阈值应大于自然光下,投射器中光源产生的激光通过光学元件照射到物体上所形成的图像中像素的最大亮度。
在光学元件发生异常的情况下,由于激光的光学特性,会导致图像中心区域的亮度异常,电子设备通过检测散斑图亮度异常的区域的亮度值与预设阈值的大小,可以判定光学元件的异常情况。
在一个实施例中,提供的光学元件检测方法还可以包括检测光学元件异常次数的过程,如图6所示,具体步骤包括:
步骤602,当连续检测到散斑图异常的次数超过第一预设值时,判定光学元件异常。
当电子设备检测到散斑图非异常时,可以停止对光学元件的异常检测。当电子设备检测到散斑图异常时,可以记录散斑图的异常次数,将散斑图异常的次数增加1,并继续采集散斑图,对散斑图进行异常检测。电子设备在连续检测到散斑图异常的次数超过第一预设值时,判定光学元件异常。
步骤604,当判定光学元件异常时,将光学元件异常次数加1。
光学元件异常次数是指电子设备根据散斑图对光学元件进行异常检测时,判定光学元件异常的次数。电子设备可以在接收摄像头启动请求时对光学元件进行异常检测,还可以在人脸识别过程中活体检测通过时对光学元件进行异常检测,还可以在活体检测不通过时在人脸信息与摄像头大于预设距离值时对光学元件进行异常检测等。电子设备可以记录不同情况下对光学元件的异常检测结果。
当判定光学元件异常时,电子设备可以记录光学元件的异常次数,将光学元件异常次数增加1。
步骤606,当光学元件异常次数大于第二预设值时,禁止投射器的使用。
投射器包括光源、准直镜和光学元件。激光通过光学元件照射到物体上形成散斑图像,当光学元件损坏时,照射到物体的激光强度增加,当照射到人眼时会对人眼造成严重的伤害。电子设备在光学元件异常次数大于第二预设值时,禁止投射器的使用,可以减少因光学元件异常而造成对人眼的伤害。当光学元件异常次数小于第二预设值时,电子设备可以对用户发出光学元件损坏提醒,减少用户对摄像头或人脸识别功能的使用,并记录光学元件的异常次数,将光学元件异常的结果上传至服务器。第二预设值可以根据实际使用过程中的需求来确定。具体地,为了提高使用安全性,第二预设值可以为一个较小的数值,例如3次,5次不限于此。
电子设备在连续检测到散斑图像异常的次数超过第一预设值时,判定光学元件异常,将光学元件的异常次数增加1,当光学元件的异常次数大于第二预设值时,禁止投射器的使用。由于可以在多次检测确定光学元件异常并且在异常次数超过预设值时禁止投射器的使用,可以在兼顾检测准确性的同时提高投射器的使用安全性。
如图7所示,为本申请光学元件检测方法中对光学元件进行异常检测的另一个具体实施例的流程图,包括:
步骤702,获取散斑图;
步骤704,检测散斑图是否异常,若是则进入步骤706;
步骤706,判断检测次数是否大于第一预设值;若否,则返回步骤702,若是,则进入步骤708;
步骤708,判定光学元件异常;
步骤710,将光学元件异常次数加1;
步骤712,判断异常次数是否大于第二预设值;若否,则进入步骤714禁止投射器的使用,若是,则进入步骤716;
步骤716,提醒用户并上报至服务器。
在另一个实施例中,提供的一种光学元件检测方法包括以下步骤:
当人脸识别通过后,根据获取的散斑图进行活体检测,散斑图是投射器中光源产生的激光通过光学元件照射到物体上所形成的图像;当活体检测通过时,根据散斑图对光学元件进行异常检测。
人脸识别是指电子设备根据采集的RGB图像或红外图像,采用一定的算法对图像进行分析以确定图像中是否含有人脸的技术。人脸识别通过是指电子设备采集的图像中含有人脸。具体地,人脸识别通过时图像中的人脸可以为一个或多个。活体检测是指通过散斑图得到图像中物体的深度信息,通过对深度信息进行分析可以得到图像中的人脸是否为活体。当活体检测通过即散斑图中存在活体人脸时,电子设备可以根据获取的散斑图对光学元件进行异常检测。
当散斑图中存在活体人脸时,如果光学元件损坏,电子设备中投射器中光源产生的激光通过损坏的光学元件照射到活体人眼时,会对人眼造成严重伤害。通过在人脸识别过程中,根据活体检测的散斑图对光学元件进行异常检测,当检测到光学元件异常时,可以及时提醒用户减少摄像头的使用或停止投射器的使用,减少对用户造成伤害,可以提高使用安全性。
在一个实施例中,提供了一种光学元件检测方法,实现该方法的具体步骤如下所述:
首先,电子设备可以接收摄像头启动请求。摄像头可以分为内置摄像头和外置摄像头。具体地,摄像头还可以是双摄像头。电子设备的摄像头可以是用于采集彩色图像的RGB摄像头、用于采集红外图像的红外摄像头、用于采集激光散斑图像的激光摄像头或上述摄像头的任意组合。摄像头启动请求可以是用户通过点击显示屏上的摄像头应用程序标识后生成的,也可以是用户通过按压电子设备上的摄像头控件生成的。电子设备可以接收生成的摄像头启动请求。
接着,电子设备根据摄像头启动请求获取散斑图,散斑图是投射器中光源产生的激光通过光学元件照射到物体上所形成的图像。电子设备在接收到摄像头启动请求后,可以根据该摄像头启动请求控制投射器向物体投射结构光图案,经过物体反射后,通过激光摄像头采集散斑图。散斑图是指激光摄像头采集的由投射器中光源产生的激光通过光学元件照射到物体上所形成的散斑图像。投射器包括光源、准直镜和光学元件。其中,光源可为面发射激光、垂直腔面激光(VCSEL,Vertical Cavity Surface Emitting Laser)阵列。光学元件可以是DOE(Diffractive Optical Elements,衍射光学元件)、毛玻璃或者里面两者组合等。
可选地,电子设备还可以获取采集的红外图像进行人脸检测,当人脸识别通过后,电子设备可以获取采集的散斑图。红外图像是指电子设备通过控制泛光灯发射红外光照射到物体上,并通过红外摄像头采集的图像。人脸检测是指对于给定的图像,采用一定的算法对图像进行分析以确定图像中是否含有人脸的技术。人脸识别通过是指电子设备采集的图像中包含人脸。具体地,图像中的人脸可以为一个或多个。电子设备可以在人脸检测通过时,获取激光摄像头采集的散斑图,电子设备可以根据获取的散斑图对图像中的人脸信息进行活体检测。
接着,电子设备根据散斑图对光学元件进行异常检测。对光学元件的异常检测是指电子设备根据散斑图的亮度信息分析光学元件是否损坏。具体地,电子设备还可以根据散斑图的图像亮度的不同判定光学元件的损坏程度。电子设备可以通过设定散斑图的正常亮度范围,检测获取的散斑图的亮度值是否在设定的正常亮度范围内来对光学元件进行异常检测。电子设备还可以通过将散斑图与预先存储的散斑图进行对比来对光学元件进行异常检测等。
可选地,电子设备可以根据获取的散斑图进行活体检测,当活体检测通过时,根据散斑图对光学元件进行异常检测。活体检测是指通过散斑图得到图像中物体的深度信息,通过对深度信息进行分析可以得到图像中的人脸是否为活体。当图像中有活体或其他物体时,电子设备获取的散斑图与参考散斑图对应的像素之间会存在横向偏移,通过对获取的散斑图和参考散斑图的像素偏移量进行计算可以得到散斑图中各像素对应的空间点距离摄像头的深度值。当散斑图中的人脸信息为活体人脸时,电子获取的散斑图中个像素对应的空间点距离摄像头的深度值是不相同的。例如,散斑图人脸中鼻子所对应的空间点距离摄像头的深度值大于散斑图中人脸中眼镜所对应的空间点距离摄像头的深度值,从而可以确定散斑图中人脸为活体人脸。当活体检测通过即散斑图中的人脸信息为活体人脸时,电子设备根据散斑图对光学元件进行异常检测。
可选地,电子设备还可以在活体检测不通过时,根据散斑图获取摄像头与人像的距离值,当距离值大于预设距离时,根据散斑图对光学元件进行异常检测。预设距离值可以根据不同激光的特性和实际工作需求来设定。具体地,预设距离值可以为20厘米、30厘米等不限于此。例如,当散斑图的人脸信息实际为一张图片中人脸时,则电子设备获取的人脸各像素对应的空间点距离摄像头的深度值是相同的,也就是说激光摄像头拍摄的是二维的人脸信息,活体检测不通过,并且当深度值小于预设距离值如25厘米时,电子设备可以根据散斑图对光学元件进行异常检测。电子设备还可以在距离值小于预设距离时,对投射器的工作电流、工作频率等进行调整。具体地,电子设备可以将投射器的工作电流降为原来的20%、25%等不限于此,也可以将投射器的工作频率设为1fps(Frames Per Second,每秒传输帧数)、2fps等不限于此。电子设备在距离值小于预设距离时,调整投射器的工作电流和工作频率可以降低激光的光强和激光的照射时间,从而减少对人眼的伤害。
可选地,电子设备通过获取散斑图的零级区域亮度值,当散斑图的零级区域亮度值超过预设阈值时,则判定散斑图异常。零级区域是指散斑图中亮度值最大的区域。具体地,受拍摄距离的影响,散斑图的零级区域可能位于散斑图的中心,也可能位于散斑图的中心偏右的位置。电子设备可以通过设定预设大小的搜索框对散斑图进行遍历,将亮度值最大的搜索框所在的区域作为散斑图的零级区域。电子设备确定散斑图的零级区域后,可以获取散斑图的零级区域亮度值,当散斑图的零级区域亮度值超过预设阈值时,判定散斑图异常。预设阈值可以根据实验数据或实际使用的需求来设定。
可选地,当电子设备连续检测到散斑图异常的次数超过第一预设值时,判定光学元件异常。电子设备根据散斑图对光学元件进行异常检测,可以根据散斑图的亮度信息对散斑图进行异常检测。当电子设备检测到散斑图非异常时,可以停止对光学元件的异常检测。当电子设备检测到散斑图异常时,可以记录散斑图的异常次数,将散斑图异常的次数增加1,并继续采集散斑图,对散斑图进行异常检测。电子设备在连续检测到散斑图异常的次数超过第一预设值时,判定光学元件异常。
可选地,当判定光学元件异常时,电子设备将光学元件的异常次数加1,当光学元件异常次数大于第二预设值时,电子设备禁止投射器的使用。光学元件异常次数是指电子设备根据散斑图对光学元件进行异常检测时,判定光学元件异常的次数,当判定光学元件异常时,电子设备可以记录光学元件的异常次数,将光学元件异常次数增加1。电子设备在光学元件异常次数大于第二预设值时,禁止投射器的使用,可以减少因光学元件异常而造成对人眼的伤害。当光学元件异常次数小于第二预设值时,电子设备可以对用户发出光学元件损坏提醒,减少用户对摄像头功能或人脸识别功能的使用,并记录光学元件的异常次数,将光学元件异常的结果上传至服务器。
应该理解的是,虽然图2-7的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2-7中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
图8为一个实施例的光学元件检测装置的结构框图。如图8所示,该装置包括:
请求接收模块820,用于接收摄像头启动请求。
散斑图获取模块840,用于根据摄像头启动请求获取散斑图,散斑图是投射器中光源产生的激光通过光学元件照射到物体上所形成的图像。
检测模块860,用于根据散斑图对光学元件进行异常检测。
在一个实施例中,检测模块860还可以用于获取采集的红外图像进行人脸检测,当人脸识别通过后,根据散斑图进行活体检测,当活体检测通过时,根据散斑图对光学元件进行异常检测。
在一个实施例中,检测模块860还可以用于当活体检测未通过时,根据散斑图获取摄像头与人像的距离值,当距离值大于预设距离时,根据散斑图对所述光学元件进行异常检测。
在一个实施例中,检测模块860还可以用于当连续检测到散斑图异常的次数超过第一预设值时,判定光学元件异常。
在一个实施例中,检测模块860还可以用于获取散斑图的零级区域亮度值,当散斑图的零级区域亮度值超过预设阈值时,则判定散斑图异常。
在一个实施例中,检测模块860还可以用于当判定光学元件异常时,将光学元件异常次数加1,当光学元件异常次数大于第二预设值时,禁止投射器的使用。
上述光学元件检测装置可以根据摄像头启动请求获取投射器中光源产生的激光通过光学元件照射到物体上所形成的散斑图,或在人脸识别通过时获取散斑图进行活体检测后,根据散斑图对光学元件进行异常检测。由于可以在启动摄像头和人脸识别过程中,根据获取的散斑图对光学元件异常检测,可以提高使用安全性。
上述光学元件检测装置中各个模块的划分仅用于举例说明,在其他实施例中,可将光学元件检测装置按照需要划分为不同的模块,以完成上述光学元件检测装置的全部或部分功能。
本申请实施例中提供的光学元件检测装置中的各个模块的实现可为计算机程序的形式。该计算机程序可在电子设备或服务器上运行。该计算机程序构成的程序模块可存储在电子设备或服务器的存储器上。该计算机程序被处理器执行时,实现本申请实施例中所描述方法的步骤。
本申请实施例还提供了一种计算机可读存储介质。一个或多个包含计算机可执行指令的非易失性计算机可读存储介质,当所述计算机可执行指令被一个或多个处理器执行时,使得所述处理器执行光学元件检测方法的步骤。
一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行光学元件检测方法。
本申请实施例还提供一种电子设备。上述电子设备中包括图像处理电路,图像处理电路可以利用硬件和/或软件组件实现,可包括定义ISP(Image Signal Processing,图像信号处理)管线的各种处理单元。图9为一个实施例中图像处理电路的示意图。如图9所示,为便于说明,仅示出与本申请实施例相关的图像处理技术的各个方面。
如图9所示,图像处理电路包括ISP处理器940和控制逻辑器950。成像设备910捕捉的图像数据首先由ISP处理器940处理,ISP处理器940对图像数据进行分析以捕捉可用于确定和/或成像设备910的一个或多个控制参数的图像统计信息。成像设备910可包括具有一个或多个透镜912和图像传感器914的照相机。图像传感器914可包括色彩滤镜阵列(如Bayer滤镜),图像传感器914可获取用图像传感器914的每个成像像素捕捉的光强度和波长信息,并提供可由ISP处理器940处理的一组原始图像数据。传感器920(如陀螺仪)可基于传感器920接口类型把采集的图像处理的参数(如防抖参数)提供给ISP处理器940。传感器920接口可以利用SMIA(Standard Mobile Imaging Architecture,标准移动成像架构)接口、其它串行或并行照相机接口或上述接口的组合。
此外,图像传感器914也可将原始图像数据发送给传感器920,传感器920可基于传感器920接口类型把原始图像数据提供给ISP处理器940,或者传感器920将原始图像数据存储到图像存储器930中。
ISP处理器940按多种格式逐个像素地处理原始图像数据。例如,每个图像像素可具有8、10、12或14比特的位深度,ISP处理器940可对原始图像数据进行一个或多个图像处理操作、收集关于图像数据的统计信息。其中,图像处理操作可按相同或不同的位深度精度进行。
ISP处理器940还可从图像存储器930接收图像数据。例如,传感器920接口将原始图像数据发送给图像存储器930,图像存储器930中的原始图像数据再提供给ISP处理器940以供处理。图像存储器930可为存储器装置的一部分、存储设备、或电子设备内的独立的专用存储器,并可包括DMA(Direct Memory Access,直接直接存储器存取)特征。
当接收到来自图像传感器914接口或来自传感器920接口或来自图像存储器930的原始图像数据时,ISP处理器940可进行一个或多个图像处理操作,如时域滤波。处理后的图像数据可发送给图像存储器930,以便在被显示之前进行另外的处理。ISP处理器940从图像存储器930接收处理数据,并对所述处理数据进行原始域中以及RGB和YCbCr颜色空间中的图像数据处理。ISP处理器940处理后的图像数据可输出给显示器970,以供用户观看和/或由图形引擎或GPU(Graphics Processing Unit,图形处理器)进一步处理。此外,ISP处理器940的输出还可发送给图像存储器930,且显示器970可从图像存储器930读取图像数据。在一个实施例中,图像存储器930可被配置为实现一个或多个帧缓冲器。此外,ISP处理器940的输出可发送给编码器/解码器960,以便编码/解码图像数据。编码的图像数据可被保存,并在显示于显示器970设备上之前解压缩。编码器/解码器960可由CPU或GPU或协处理器实现。
ISP处理器940确定的统计数据可发送给控制逻辑器950单元。例如,统计数据可包括自动曝光、自动白平衡、自动聚焦、闪烁检测、黑电平补偿、透镜912阴影校正等图像传感器914统计信息。控制逻辑器950可包括执行一个或多个例程(如固件)的处理器和/或微控制器,一个或多个例程可根据接收的统计数据,确定成像设备910的控制参数及ISP处理器940的控制参数。例如,成像设备910的控制参数可包括传感器920控制参数(例如增益、曝光控制的积分时间、防抖参数等)、照相机闪光控制参数、透镜912控制参数(例如聚焦或变焦用焦距)、或这些参数的组合。ISP控制参数可包括用于自动白平衡和颜色调整(例如,在RGB处理期间)的增益水平和色彩校正矩阵,以及透镜912阴影校正参数。
在本申请实施例中,该移动终端执行存储在存储器上的计算机程序时实现本申请实施例中光学元件检测方法的步骤。
本申请所使用的对存储器、存储、数据库或其它介质的任何引用可包括非易失性和/或易失性存储器。合适的非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM),它用作外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDR SDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

Claims (10)

1.一种光学元件检测方法,所述方法包括:
接收摄像头启动请求;
根据所述摄像头启动请求获取散斑图,所述散斑图是投射器中光源产生的激光通过光学元件照射到物体上所形成的图像;
根据所述散斑图的亮度信息对所述光学元件进行异常检测。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取采集的红外图像进行人脸检测;
当人脸识别通过后,根据所述散斑图进行活体检测;
当活体检测通过时,根据所述散斑图对所述光学元件进行异常检测。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
当活体检测未通过时,根据所述散斑图获取摄像头与人像的距离值;
当所述距离值大于预设距离时,根据所述散斑图对所述光学元件进行异常检测。
4.根据权利要求1所述的方法,其特征在于,所述根据所述散斑图的亮度信息对所述光学元件进行异常检测,包括:
当连续检测到散斑图异常的次数超过第一预设值时,判定所述光学元件异常。
5.根据权利要求4所述的方法,其特征在于,所述检测到所述散斑图异常,包括:
获取所述散斑图的零级区域亮度值;
当所述散斑图的零级区域亮度值超过预设阈值时,则判定所述散斑图异常。
6.根据权利要求4所述的方法,其特征在于,所述方法还包括:
当判定所述光学元件异常时,将所述光学元件异常次数加1;
当所述光学元件异常次数大于第二预设值时,禁止所述投射器的使用。
7.一种光学元件检测方法,所述方法包括:
当人脸识别通过后,根据获取的散斑图进行活体检测,所述散斑图是投射器中光源产生的激光通过光学元件照射到物体上所形成的图像;
当活体检测通过时,根据所述散斑图对所述光学元件进行异常检测。
8.一种光学元件检测装置,其特征在于,包括:
请求接收模块,用于接收摄像头启动请求;
散斑图获取模块,用于根据所述摄像头启动请求获取散斑图,所述散斑图是投射器中光源产生的激光通过光学元件照射到物体上所形成的图像;
检测模块,用于根据所述散斑图的亮度信息对所述光学元件进行异常检测。
9.一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如权利要求1至7中任一项所述的光学元件检测方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的方法的步骤。
CN201810404506.7A 2018-03-12 2018-04-28 光学元件检测方法和装置、电子设备、可读存储介质 Active CN108760245B (zh)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN201810404506.7A CN108760245B (zh) 2018-04-28 2018-04-28 光学元件检测方法和装置、电子设备、可读存储介质
EP19736569.5A EP3567851A4 (en) 2018-03-12 2019-02-18 PROJECTOR, DETECTION METHOD AND DEVICE THEREFOR, IMAGE DETECTING DEVICE, ELECTRONIC DEVICE AND READABLE STORAGE MEDIUM
PCT/CN2019/075386 WO2019174435A1 (zh) 2018-03-12 2019-02-18 投射器及其检测方法和装置、图像获取装置、电子设备、可读存储介质
TW108108335A TWI696391B (zh) 2018-03-12 2019-03-12 投射器及其檢測方法和裝置、圖像獲取裝置、電子設備、可讀儲存媒介
US16/684,299 US11348217B2 (en) 2018-03-12 2019-11-14 Projector, detection method thereof, and electronic device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810404506.7A CN108760245B (zh) 2018-04-28 2018-04-28 光学元件检测方法和装置、电子设备、可读存储介质

Publications (2)

Publication Number Publication Date
CN108760245A CN108760245A (zh) 2018-11-06
CN108760245B true CN108760245B (zh) 2019-07-23

Family

ID=64008885

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810404506.7A Active CN108760245B (zh) 2018-03-12 2018-04-28 光学元件检测方法和装置、电子设备、可读存储介质

Country Status (1)

Country Link
CN (1) CN108760245B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3567851A4 (en) 2018-03-12 2020-07-29 Guangdong Oppo Mobile Telecommunications Corp., Ltd. PROJECTOR, DETECTION METHOD AND DEVICE THEREFOR, IMAGE DETECTING DEVICE, ELECTRONIC DEVICE AND READABLE STORAGE MEDIUM
CN209728345U (zh) * 2019-02-01 2019-12-03 杭州驭光光电科技有限公司 光投射装置和电子设备
CN112577715A (zh) * 2019-09-27 2021-03-30 三赢科技(深圳)有限公司 点检方法、点检装置及计算机装置
CN112629828B (zh) * 2020-11-27 2023-07-04 奥比中光科技集团股份有限公司 一种光学信息检测方法、装置及设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102970548A (zh) * 2012-11-27 2013-03-13 西安交通大学 一种图像深度感知装置
CN103268608A (zh) * 2013-05-17 2013-08-28 清华大学 基于近红外激光散斑的深度估计方法及装置
WO2017009808A3 (en) * 2015-07-15 2017-03-09 The Secretary, Department of Electronics and Information Technology (DeitY) Free space optical communication system, apparatus and a method thereof
CN106529545A (zh) * 2016-09-26 2017-03-22 北京林业大学 一种基于图像特征描述的散斑图像质量识别方法及系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102970548A (zh) * 2012-11-27 2013-03-13 西安交通大学 一种图像深度感知装置
CN103268608A (zh) * 2013-05-17 2013-08-28 清华大学 基于近红外激光散斑的深度估计方法及装置
WO2017009808A3 (en) * 2015-07-15 2017-03-09 The Secretary, Department of Electronics and Information Technology (DeitY) Free space optical communication system, apparatus and a method thereof
CN106529545A (zh) * 2016-09-26 2017-03-22 北京林业大学 一种基于图像特征描述的散斑图像质量识别方法及系统

Also Published As

Publication number Publication date
CN108760245A (zh) 2018-11-06

Similar Documents

Publication Publication Date Title
CN108716983B (zh) 光学元件检测方法和装置、电子设备、存储介质
US10997696B2 (en) Image processing method, apparatus and device
CN108716982B (zh) 光学元件检测方法、装置、电子设备和存储介质
CN108600740B (zh) 光学元件检测方法、装置、电子设备和存储介质
TWI696391B (zh) 投射器及其檢測方法和裝置、圖像獲取裝置、電子設備、可讀儲存媒介
US10616459B2 (en) Method and device for dual-camera-based imaging and storage medium
CN108760245B (zh) 光学元件检测方法和装置、电子设备、可读存储介质
JP5530440B2 (ja) 欠陥目を高精度で検知するインカメラに基づいた方法
CN108111749B (zh) 图像处理方法和装置
KR102281149B1 (ko) 고 조도 환경 및 저 조도 환경에서 동작 가능한 시점 추적 장치 및 그 방법
CN110536068A (zh) 对焦方法和装置、电子设备、计算机可读存储介质
US10540784B2 (en) Calibrating texture cameras using features extracted from depth images
TWI709110B (zh) 攝像頭校準方法和裝置、電子設備
CN108198175B (zh) 检测方法、检测装置、计算机设备和计算机可读存储介质
CN109040745B (zh) 摄像头自校准方法和装置、电子设备、计算机存储介质
CN109040746B (zh) 摄像头校准方法和装置、电子设备、计算机可读存储介质
JP2003308522A (ja) アイリス認識装置
CN109146906A (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
CN108921903A (zh) 摄像头标定方法、装置、计算机可读存储介质和电子设备
CN107172352A (zh) 对焦控制方法、装置、计算机可存储介质和移动终端
CN109683698B (zh) 支付验证方法、装置、电子设备和计算机可读存储介质
CN108093170B (zh) 用户拍照方法、装置及设备
CN109068060A (zh) 图像处理方法和装置、终端设备、计算机可读存储介质
CN108805025A (zh) 激光输出控制方法和装置、电子设备、存储介质
US11218650B2 (en) Image processing method, electronic device, and computer-readable storage medium

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant