[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

CN109314749B - 成像设备、成像方法和程序 - Google Patents

成像设备、成像方法和程序 Download PDF

Info

Publication number
CN109314749B
CN109314749B CN201780038247.4A CN201780038247A CN109314749B CN 109314749 B CN109314749 B CN 109314749B CN 201780038247 A CN201780038247 A CN 201780038247A CN 109314749 B CN109314749 B CN 109314749B
Authority
CN
China
Prior art keywords
resolution
subject
captured image
image
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201780038247.4A
Other languages
English (en)
Other versions
CN109314749A (zh
Inventor
岛内和博
关健三郎
下田哲也
桑添泰嘉
中尾优太
小桥贵志
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN109314749A publication Critical patent/CN109314749A/zh
Application granted granted Critical
Publication of CN109314749B publication Critical patent/CN109314749B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4023Scaling of whole images or parts thereof, e.g. expanding or contracting based on decimating pixels or lines of pixels; based on inserting pixels or lines of pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/815Camera processing pipelines; Components thereof for controlling the resolution by using a single image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/958Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging
    • H04N23/959Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging by adjusting depth of field during image capture, e.g. maximising or setting range based on scene characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/445Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by skipping some contiguous pixels within the read portion of the array

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

本技术涉及能够按照到被摄对象的距离,设定分辨率的成像设备、成像方法和程序。所述成像设备具备根据与拍摄的图像对应,并且与到包含在图像中的被摄对象的检测距离有关的距离信息,变更拍摄的图像的分辨率的控制单元。所述控制单元根据所述距离信息,变更拍摄的图像的部分区域的分辨率。所述部分区域是距离大于另一个区域的区域,所述控制单元变更所述部分区域的分辨率,以致高于所述另一个区域的分辨率。当被摄对象的距离大于规定标准时,所述控制单元对于被摄对象,设定较高的分辨率,而当被摄对象的距离小于规定标准时,所述控制单元对于被摄对象,设定较低的分辨率。本技术可适用于成像设备。

Description

成像设备、成像方法和程序
技术领域
本技术涉及成像设备、成像方法和程序,例如,利用图像的特征,设定分辨率的成像设备、成像方法和程序。
背景技术
现有技术中的摄像头通过用户聚焦于期望成像的被摄对象,或者变更变焦倍率,对被摄对象成像。另外,还存在即使当被摄对象移动时,在追踪被摄对象的同时,连续进行聚焦的摄像头。作为现有技术,提出了用于对移动被摄对象成像的以下技术。
在能够与能够获取位置信息的终端设备通信的成像设备中,提出了成像设备根据成像设备的位置信息,和终端设备的位置信息,判定终端设备是否在成像范围中,并在终端设备在成像范围中时,根据从拍摄图像中提取的特征量,和用于检测穿戴所述终端设备的被摄对象的特征量,检测被摄对象。另外,还提出了在检测到被摄对象时,调整焦距,以便聚焦于检测的被摄对象(参见专利文献1)。
引文列表
专利文献
专利文献1:JP 2013-251796A
发明内容
技术问题
近年来,拍摄图像的分辨率已提高,从而待处理的数据量一直在增大。另外,例如,将从成像元件传送给处理数据的处理单元的数据量也一直在增大。随着数据量的这种增大,例如,在进行连续检测高速移动的被摄对象的处理时,处理负荷增大,这导致处理有可能跟不上。
本技术是鉴于这种状况发明的,使得能够适当地减少数据量。
问题的解决方案
按照本技术的一个方面的成像设备包括:根据与拍摄的图像对应的,关于到包含在所述图像中的被摄对象的检测距离的距离信息,变更所述拍摄的图像的分辨率的控制单元。
按照本技术的一个方面的成像方法包括:根据与拍摄的图像对应的,关于到包含在所述图像中的被摄对象的检测距离的距离信息,变更所述拍摄的图像的分辨率的步骤。
按照本技术的一个方面的程序是使计算机执行包括以下步骤的处理的程序:根据与拍摄的图像对应的,关于到包含在所述图像中的被摄对象的检测距离的距离信息,变更所述拍摄的图像的分辨率的步骤。
在按照本技术的一个方面的成像设备、成像方法和程序中,根据与拍摄的图像对应的,关于到包含在图像中的被摄对象的检测距离的距离信息,变更拍摄的图像的分辨率。
注意,成像设备可以是独立设备,或者可以是构成一个设备的内部部件。
另外,可通过经传送介质传送或者记录在记录介质中,提供程序。
发明的有益效果
按照本技术的一个方面,能够适当地减少数据量。
注意,记载在这里的有益效果未必是受限的,可以是记载在本公开中的任意有益效果。
附图说明
图1是图解说明作为本技术适用于的成像设备的一个实施例的构成的示图。
图2是图解说明成像元件和图像处理单元的构成例子的示图。
图3是图解说明成像元件和图像处理单元中的每一个的另一构成例子的示图。
图4是图解说明成像元件和图像处理单元中的每一个的另一构成例子的示图。
图5是图解说明堆叠结构的示图。
图6是图解说明成像元件和图像处理单元的处理的流程图。
图7是图解说明对应于距离的分辨率的设定的示图。
图8是图解说明间除处理的示图。
图9是图解说明成像元件和图像处理单元中的每一个的另一构成例子的示图。
图10是图解说明与运动体的检测对应的分辨率的设定的示图。
图11是图解说明成像元件和图像处理单元中的每一个的另一构成例子的示图。
图12是图解说明与人的检测对应的分辨率的设定的示图。
图13是图解说明成像元件和图像处理单元中的每一个的另一构成例子的示图。
图14是图解说明成像元件和图像处理单元中的每一个的另一构成例子的示图。
图15是图解说明成像元件和图像处理单元中的每一个的另一构成例子的示图。
图16是图解说明成像元件和图像处理单元中的每一个的另一构成例子的示图。
图17是图解说明成像元件和图像处理单元中的每一个的另一构成例子的示图。
图18是图解说明成像元件和图像处理单元中的每一个的另一构成例子的示图。
图19是图解说明成像元件和图像处理单元中的每一个的另一构成例子的示图。
图20是图解说明成像元件和图像处理单元中的每一个的另一构成例子的示图。
图21是图解说明成像元件的使用例子的示图。
图22是图解说明记录介质的示图。
具体实施方式
下面,说明实现本技术的方式(下面称为实施例)。
图1是图解说明作为本技术适用于的电子设备的例子的成像设备10的构成例子的方框图。
<成像设备的构成>
如图1中图解所示,成像设备10包括包含透镜组21等的光学单元、成像元件22、作为摄像头信号处理单元的图像处理单元23、帧存储器24、显示单元25、记录单元26、操作单元27、电源28等。另外,成像设备被配置成以致图像处理单元23、帧存储器24、显示单元25、记录单元26、操作单元27、电源28、驱动单元29和通信单元30通过总线31相互连接。
透镜组21接收来自被摄对象的入射光(图像光),从而在成像元件22的成像面上形成图像。成像元件22以像素为单位,把由透镜组21成像在成像面上的入射光的光量变换成电信号,并输出通过所述变换而获得的电信号,作为像素信号。
显示单元25由诸如液晶显示单元或有机电致发光(EL)显示单元之类的平板式显示单元构成,显示由成像单元22拍摄的运动或静止图像。记录单元26把由成像单元22拍摄的运动或静止图像,记录在诸如存储卡、录像带或数字通用光盘(DVD)之类的记录介质中。
操作单元27按照用户的操作,关于成像设备10的各种功能发出操作指令。电源28适当地把充当图像处理单元23、帧存储器24、显示单元25、记录单元26、操作单元27和驱动单元29的工作电力的各种电力,提供给这些供给对象。
驱动单元29控制构成透镜组21的透镜的驱动,以进行聚焦控制(所谓的自动聚焦)。通信单元30通过网络,往来于另一个设备发送和接收数据。
这样的成像设备10适用于摄像机、数字静止照相机、和用于诸如智能电话机或移动电话机之类的移动设备的摄像头模块。
具有这种构成的成像设备10具有如下所述,按照拍摄图像的特征,变更分辨率的功能。例如,拍摄图像的特征包括将依次变得明显的被摄对象的距离和大小。另外,分辨率可被变更,以致例如远的被摄对象的分辨率被增大,或者近的被摄对象的分辨率被降低。
注意,分辨率可对应于图像的尺寸,可以利用例如形成一个画面的水平像素的数目和垂直像素的数目表示。另外,分辨率可被表示成相对于包含在以构成视频数据的帧为单位的图像数据中的像素,单位面积的像素数。
例如,排列在成像元件22的像素阵列部分101(图2)中的像素的数目可被用作表示分辨率的值。在成像元件22的像素的数目被设定为分辨率的情况下,拍摄图像的分辨率在各图像中可能相同。然而,按照本技术,如后所述,可以采用具有不同的分辨率的图像。
例如,在一个图像中,一些区域的分辨率可被设定成比其他区域的分辨率高或低。尽管细节将在后面说明,不过成像时的分辨率可被设定为成像元件22的像素数,拍摄图像内的预定区域中的像素数可被减少(像素被间除),从而降低该区域的分辨率。
另外,成像时的分辨率可被设定为成像元件22的像素数,通过进行用于增大拍摄图像内的预定区域的分辨率的处理(称为上变换等的处理),可以使像素数大于成像时的像素数,从而增大该区域的分辨率。
这样,关于本说明书中的分辨率,一个图像可具有多种不同的分辨率,从而可以处理分辨率的变更,包括按照成像元件22的像素数进行的成像时的分辨率的变更。另外,本说明书中的分辨率的变更意味图像内的预定区域中的像素数被变更,例如,可以进行减小或增大像素数的变更。
此外,换句话说,由于归因于像素数的变更,例如,像素数的减小,数据量可被减少,从而通过降低分辨率,能够减少数据量。因而,分辨率的变更也意味数据量的变更。
这样,下面将说明具有按照拍摄图像的特征变更分辨率的功能的成像设备10中的成像元件22和图像处理单元23的构成。首先,说明其中使用到被摄对象的距离,作为拍摄图像的特征的情况的例子。
<成像元件和图像处理单元的构成>
图2是图解说明在使用到被摄对象的距离,作为拍摄图像的特征的情况下的成像元件22和图像处理单元23的构成例子的示图。
图2中图解所示的成像元件22A包括像素阵列部分101、读出控制单元102、存储器接口103、存储器104、信号处理单元105、输出控制单元106、分辨率控制单元107、分辨率地图创建单元108和距离信息生成单元109。图像处理单元23A包括对拍摄图像,进行诸如去马赛克处理之类处理的拍摄图像处理单元121。
成像元件22A包括其中二维地排列多个电荷耦合器件(CCD)、互补金属氧化物半导体(CMOS)元件等的像素阵列部分101。
读出控制单元102控制从像素阵列部分101的各个像素的信号的读出。读出控制单元102被配置成能够进行从构成像素阵列部分101的所有像素,顺序读出信号的控制,和读出来自预定像素的信号(可不读出来自预定像素的信号)的控制。
存储器接口103进行把由读出控制单元102读出的来自像素的信号,提供给存储器104的控制,或者把存储器104保持的信号提供给信号处理单元105的控制。
信号处理单元105对信号进行各种处理,比如噪声消除。输出控制单元106进行把经过诸如噪声消除之类处理的信号输出给图像处理单元23A的控制。输出控制单元106可被配置成输出一个流,或者可被配置成能够并行地输出N个流。
分辨率控制单元107进行实现设定的分辨率的控制。如上所述,分辨率是按照拍摄图像的特征变更的,分辨率控制单元107控制读出控制单元102、存储器接口103、信号处理单元105和输出控制单元106中的每一个,以便获得变更的分辨率。
分辨率控制单元107进行的控制随实现设定的分辨率的方式而变化。然而,例如,在降低分辨率的情况下,通过把从中读出信号的像素阵列部分101的像素的数目设定成比通常情况下小,并且分辨率控制单元107控制读出控制单元102,以致进行这样的读出,可以降低分辨率。
例如,通过读出为像素阵列部分101的像素数的一半的像素数,能够把分辨率降低到一半。当进行这样的控制,以致从读出控制单元102供给存储器接口103及后续各个单元的信号数(数据量)被减小时,从而能够降低各个单元的处理负荷。
另外,如后所述,通过从像素阵列部分101,读出对应于所有像素的信号,并通过对读出的信号进行加法、除法等,生成新的像素值,可以降低分辨率。这种情况下,例如,对应于所有像素的信号被临时保持在存储器104中,并对信号进行诸如加法或除法之类的处理,以生成新的像素值,然后生成的新的像素值被输出给信号处理单元105。按照这样的处理,例如,生成具有一半的像素数的图像。
在按照这种方式进行控制的情况下,从存储器接口103提供给信号处理单元105的信号数被减少,从而能够减轻信号处理单元105和后续各个单元的处理负荷。
还能够对于待生成的整个图像,降低分辨率,和对于图像的各个预定区域(像素),降低分辨率。图像的各个预定区域的分辨率的降低意味在一个图像中可能存在具有不同分辨率的区域,比如具有分辨率A的区域,具有分辨率B的区域和具有分辨率C的区域,并且意味对于各个区域,可以设定不同的分辨率。
这里,将进行各个区域的说明,不过也可进行各个像素的说明。各个像素的分辨率的变更意味从预定像素读出或不读出信号。另外,也可每个图像地变更分辨率。例如,当拍摄视频时,也可对于每帧,设定不同的分辨率。
另外,这里,将举例说明降低分辨率的情况。在这种情况下,在通常情况下高分辨率地进行处理,并且归因于拍摄图像的特征,分辨率变得低于通常情况下的分辨率。换句话说,高分辨率地进行成像,具有该高分辨率的图像中的预定区域内的分辨率被降低。这样,生成在一个图像中,具有分辨率高的区域和分辨率被降低的区域的图像。
下面说明这种情况的例子,不过,在相反模式的情况下,也可应用本技术。即,也可在通常情况下,低分辨率地进行处理,并且归因于拍摄图像的特征,使分辨率变得高于通常情况下的分辨率。
另外,也可在通常情况下,中等分辨率地进行处理,并且归因于拍摄图像的特征,使分辨率变得高于或低于通常情况下的分辨率。
说明将返回图2。分辨率地图创建单元108按照从距离信息生成单元109接收的距离信息,设定一个图像中的分辨率。即,设定一个图像中的其中分辨率被降低的区域。由于所述设定是按照到被摄对象的距离进行的,因此距离信息生成单元109生成被摄对象的距离信息,并把生成的距离信息提供给分辨率地图创建单元108。
距离信息生成单元109利用从距离信息获取单元131接收的信息,生成距离信息。在距离信息获取单元131和距离信息生成单元109中,测量到被摄对象的距离,不过,所述测量可由利用例如主动光(active light)(红外光等)的距离测量传感器进行。对于利用主动光的距离测量传感器,可以应用飞行时间(TOF)方式、结构光方式等。
另外,立体摄像机可以用作距离信息获取单元131,距离信息生成单元109可利用由立体摄像机拍摄的图像,生成距离信息。另外,多摄像头可以用作距离信息获取单元131,采用利用多摄像头的基于三维重构的方法,可以生成距离信息。
另外,距离信息获取单元131可被配置成利用超声传感器,获取距离信息。另外,距离信息获取单元131可被配置成采用利用毫米波雷达的方法,获取距离信息。另外,也可应用利用光场摄像头的方法。
另外,距离信息获取单元131可被设定成相差检测用像素,距离信息生成单元109可利用来自相差检测用像素的信号,生成距离信息。在利用来自相差检测用像素的信号,生成距离信息的情况下,可在像素阵列部分101中,设置相差检测用像素。另外,也可利用来自相差检测用像素的信号,进行焦点检测处理。
按照这种方式,利用距离信息获取单元131和距离信息生成单元109,获取和生成距离信息。取决于构成(利用哪种方法,进行距离测量),距离信息获取单元131可被配置成包含在成像元件22A中,或者可以是独立于成像元件22A地设置的。
图3图解说明成像元件22和图像处理单元23中的每一个的另一构成例子。在图3中图解所示的构成中,和图2中图解所示的组件相同的组件用相同的附图标记表示,并适当地省略它们的说明。
比较图3中图解所示的成像元件22B和图像处理单元23B的构成与图2中图解所示的成像元件22A和图像处理单元23A的构成,它们的内部构成彼此不同。图3中图解所示的成像元件22B被配置成包括像素阵列部分101、读出控制单元102、存储器接口103、存储器104、信号处理单元105、输出控制单元106和分辨率控制单元107。
图3中图解所示的图像处理单元23B被配置成包括分辨率地图创建单元108、距离信息生成单元109和拍摄图像处理单元121。图3中图解所示的构成和图2中图解所示的构成的不同之处在于,包含在成像元件22A中的分辨率地图创建单元108和距离信息生成单元109包含在图像处理单元23B中。
按照这种方式,构成成像元件22和图像处理单元23的功能可被分配给成像元件22或图像处理单元23。
图2中图解所示的成像元件22A和图像处理单元23A的构成,或者图3中图解所示的成像元件22B和图像处理单元23B的构成是其中在成像元件22A侧,变更分辨率的构成。在采用这种构成的情况下,当设定低分辨率时,从成像元件22A供给图像处理单元23A的数据量按照设定分辨率被降低的程度被减少。
下面,说明其中在图像处理单元23侧,变更分辨率的构成的情况。在采用这种构成的情况下,当设定低分辨率时,从图像处理单元23输出的数据量按照设定分辨率被降低的程度被减少。于是,例如在通过网络向另一个设备供给数据之时等等,能够减少流经网络的数据量。
图4是图解说明其中在图像处理单元23侧,变更分辨率的情况下的成像元件22和图像处理单元23的构成例子的示图。在图4中图解所示的构成中,和图2中图解所示的组件相同的组件用相同的附图标记表示,并适当地省略它们的说明。
图4中图解所示的成像元件22C被配置成包括像素阵列部分101、读出控制单元102、信号处理单元105和输出控制单元106。图4中图解所示的成像元件22C不具有变更分辨率的功能,从而被配置成以致例如从图2中图解所示的成像元件22A中,省略了存储器接口103、存储器104和分辨率控制单元107。
注意,这里尽管将在假定为了进行变更分辨率的处理,设置存储器14,以临时保持信号的情况下继续进行说明,不过,在对于除变更分辨率的处理以外的处理,也期望设置用于临时保持信号的机构的情况等下,当然可以采用其中包含存储器接口103和存储器104的构成。
图4中图解所示的图像处理单元23C被配置成包括分辨率控制单元107、距离信息生成单元109和拍摄图像处理单元121。距离信息生成单元109生成的距离信息被提供给分辨率控制单元107。
分辨率控制单元107按照分辨率,间除将由拍摄图像处理单元121处理的图像中的像素,并把间除的结果输出给后一级的处理单元,例如通过网络,与另一设备通信的通信单元(未图示)等。
在这种构成的情况下,例如,能够把由图像处理单元23C处理的图像数据通过通信单元30,输出给网络,并且能够减少当通过网络,把数据输出给另一设备时的数据量。
图2-4中图解所示的成像元件22和图像处理单元23可由其中堆叠多个基板(小片)的堆叠图像传感器构成。这里,将以图2或3中图解所示的成像元件22和图像处理单元23为例,说明其中成像元件22和图像处理单元23由堆叠图像传感器构成的情况。
图5是图解说明图3的成像元件22和图像处理单元23都被内置于其中的堆叠图像传感器的构成例子的示图。图5的堆叠图像传感器具有其中像素基板201和信号处理基板202被相互堆叠的两层结构。
在像素基板201上,形成包含在成像元件22中的像素阵列部分101、读出控制单元102、存储器接口103、存储器104、信号处理单元105和输出控制单元106。另外,在像素基板201上,还形成距离信息获取单元131。
在利用例如TOF方式,获得距离信息的情况下,距离信息获取单元131被配置成包括用预定光,照射被摄对象的照射单元,和接收照射光的成像元件。可在像素基板201上,形成包括构成距离信息获取单元131的成像元件的部分,或者诸如照射单元之类的部分在内的各个部分。此外,在距离信息获取单元131由相差检测用像素形成的情况下等,距离信息获取单元131也在像素基板201上形成。
在信号处理基板202上,形成分辨率控制单元107、分辨率地图创建单元108、距离信息生成单元109和拍摄图像处理单元121。
这样,可作为堆叠图像传感器地形成成像元件22和图像处理单元23。注意,可以作出适当的变更,以致只有成像元件22被构成为堆叠图像传感器。
另外,除了两层基板或三层基板以外,还可作为四层或更多层的堆叠基板地构成堆叠图像传感器。例如,存储器104被设置在除像素基板201和信号处理基板202外的层(存储器层)上,存储器层可被配置成设置在像素基板201和信号处理基板202之间,或者设置在信号处理基板202的下面。
<基于距离的分辨率的变更>
下面参考图6的流程图,说明在图2-4中图解所示的成像元件22和图像处理单元23的构成中,根据距离,变更分辨率的情况。
在步骤S101,生成距离信息。距离信息生成单元109(例如,图3)根据由距离信息获取单元131(图3)获取的信息,生成距离信息。通过应用如上所述的TOF方式等,可生成距离信息。
在步骤S102·,创建分辨率地图。分辨率地图创建单元108根据由距离信息生成单元109生成的距离信息,创建分辨率地图。分辨率地图是其中记载在图像中,作为信息有用的,分辨率不期望被降低的区域(像素),和作为信息无用的,分辨率期望被降低的区域(像素)的地图。
此外,在以帧为单位,设定分辨率的情况下,就作为信息有用的,并且分辨率不期望被降低的帧来说,分辨率地图被设定成其中帧(图像)的分辨率被设定成一律较高的地图,而就作为信息无用的,并且分辨率被降低的帧来说,分辨率地图被设定成其中帧(图像)的分辨率被设定成一律较低的地图。
距离信息生成单元109例如生成深度地图(深度地图),作为距离信息,分辨率地图创建单元108通过在生成的深度地图中,检测具有预定阈值或更小的区域,和具有预定阈值或更大的区域,可生成分辨率地图。也可采用其中通过设置多个阈值,设定多个分辨率的构成。
在步骤S103,根据分辨率地图,调整间除率,以生成拍摄图像(输出数据)。间除率是为了实现设定的分辨率而设定的比率,具有如参考图7所述的值。
将参考图7,进一步说明这种处理。图7的A图解说明拍摄图像(被设定为输入图像301)的例子。在输入图像301中,4个人被成像在左上侧,而1个人被成像在前边。此外,在输入图像301中,1棵树被成像在右上侧,而1辆车被成像在中央。
在当获取这样的输入图像301时,根据距离信息生成例如深度地图的情况下,得到如在图7的B中图解所示的距离图像302。在图7的B中,较深的颜色(接近于黑色)意味较远的距离,而较浅的颜色(接近于白色)意味较近的距离。
注意,所述距离是从成像设备10起的距离,例如,近距离意味从成像设备10到被摄对象的距离较近。或者,所述距离可以是图像中的被摄对象之间的相对位置关系中的距离。在预定被摄对象被设定为基准,并且另一个被摄对象和基准被摄对象分离开的情况下,可以判定距离较远,而在另一个被摄对象靠近基准被摄对象的情况下,可以判定距离较近。利用预定的被摄对象作为基准,可以相对地判定远近。
另外,所述距离可以是按照通过距离信息获取单元131和距离信息生成单元109的处理进行的检测而获得的绝对距离信息。例如,距离信息可以是成像距离。例如,通过利用10米作为基准,获得成像距离,从而对于位于比10米远之处的被摄对象,可以判定距离较远,而对于位于比10米近之处的被摄对象,可以判定距离较近。
基准成像距离不限于10米,可被设定成任意值,或者可根据成像场景而变化。例如,在通过变焦等,像近景似地成像远景的情况下,对于整个图像,可以判定距离较近,从而可以利用当距离较近时获得的分辨率进行处理。
在获得如在图7的B中图解所示的距离图像302,作为距离信息的情况下,对于距离图像302的每个像素(具有预定大小的区域),设定分辨率。图7的C图解说明其中对于具有预定大小的每个区域,设定分辨率的例子,是图解说明分辨率地图的例子的示图。
图7的C图解说明数值越小,间除率越低,而数值越大,间除率越高。换句话说,图7的C图解说明数值越小,分辨率越高,而数值越大,分辨率越低。
参见在图7的C中图解所示的分辨率地图303,较近区域(近景)中的间除率被设定成较高(数值较大,从而分辨率被设定成较低),较远区域(远景)中的间除率被成较低(数值较小,从而分辨率被设定成较高)。
远景中的被摄对象很可能以较小的尺寸成像,从而当远景中的被摄对象的区域被间除(分辨率被降低)时,可能在视觉上无法识别出被摄对象。因而,远景中的被摄对象的分辨率被维持或增大(间除率被设定成较低)。
另外,远景中的被摄对象很可能以较小的尺寸成像,从而存在小尺寸的被摄对象可能被变更成较大的尺寸,以便在视觉上识别的可能性。在被成像之后,可能被放大地显示的这种区域是高分辨率地成像的,并在稍后的时刻被查看,以便被放大显示。因而,远景中的被摄对象的分辨率被维持或增大(间除率被设定成较低)。
另一方面,近景中的被摄对象很可能以较大的尺寸成像,从而即使当近景中的被摄对象的区域被间除(分辨率被降低)时,在视觉上无法识别出被摄对象的可能性低。因而,近景中的被摄对象的分辨率被降低(间除率被设定成较高)。
或者,反过来,近景中的被摄对象的分辨率可被增大,而远景中的被摄对象的分辨率可被降低。例如,在只有近景中的被摄对象被设定成待处理的对象的情况下,可以进行以致近景中的被摄对象的分辨率被增大,而远景中的被摄对象的分辨率被降低的变更。
按照这种方式,可按照变更分辨率的目的,适当地变更如何设定分辨率。
参见在图7的C中图解所示的分辨率地图303,在分辨率地图303中,设定了多个数值。即,相对于一个图像,对于多个区域中的每个区域,设定分辨率(间除率)。这种情况下,按照到被摄对象的距离,设定分辨率(间除率)。
在图7的C中图解所示的分辨率地图303中,设定了数值1~8。这种情况下,表示了其中设定8个等级的分辨率的情况。等级数可以是任意的,从而可以设定多种分辨率(多种间除率)。
例如,在10×10的100个像素被设定成待处理的对象的情况下,例如在图7的C中图解所示的分辨率地图303内,其中设定数值“1”的区域内的所有100个像素被读出,从而分辨率被维持。另外,例如,在图7的C中图解所示的分辨率地图303内,从其中设定数值“8”的区域中,间除80%的像素(80个像素),从100个像素中读出存在于预定位置处的20个像素,从而分辨率被降低。
按照这种方式,根据距离信息,创建分辨率地图,并根据分辨率地图,控制分辨率。
在图2或3中图解所示的成像元件22和图像处理单元23中,在分辨率控制单元107根据分辨率地图,控制分辨率的情况下,分辨率控制单元107例如向读出控制单元102发出指令,从而控制将从像素阵列部分101读出的像素的数目,以控制分辨率。
例如,和上述例子中一样,在图7的C中图解所示的分辨率地图303内,从其中设定数值“8”的区域内的100个像素中,存在于预定位置处的20个像素被设定成待读出的像素,然后从设定的像素读出像素值。这种情况下,通过控制读出控制单元102进行的读出,控制分辨率。
或者,分辨率控制单元107向存储器接口103发出指令,控制从存储器接口103向信号处理单元105输出的数据,从而控制分辨率。
例如,和上述例子中一样,在图7的C中图解所示的分辨率地图303内,从其中设定数值“8”的区域内的100个像素中,存在于预定位置处的20个像素被设定成待输出给信号处理单元105的像素,从存储器104读出从设定的像素读出的像素值,并输出给信号处理单元105。这种情况下,通过控制存储器接口103进行的读出,控制分辨率。
或者,分辨率控制单元107可向存储器接口103和存储器104发出指令,控制从存储器接口103向信号处理单元105输出的数据,从而控制分辨率。
例如,和上述例子中一样,在其中在图7的C中图解所示的分辨率地图303内,从其中设定数值“8”的区域内的100个像素中,存在于预定位置处的20个像素被设定成待输出给信号处理单元105的像素的情况下,从保持在存储器104中的对应于100个像素的像素值,生成对应于20个像素的像素值(该生成将在后面参考图8说明)。
生成的对应于20个像素的像素值从存储器104被读出,并被输出给信号处理单元105。这种情况下,通过控制存储器接口103和存储器104,控制分辨率。
诸如从100个像素的像素值,生成20个像素的像素值之类的这种间除处理也可由信号处理单元105进行。在间除处理由信号处理单元105进行的情况下,分辨率控制单元107向信号处理单元105发出指令,然后信号处理单元105进行间除处理(包括像素值的加法、除法等的处理),从而控制待输出的数据,由此控制分辨率。
或者,分辨率控制单元107可向输出控制单元106发出指令,可控制从输出控制单元106输出给图像处理单元23的数据,以控制分辨率。
例如,和上述例子中一样,在其中在图7的C中图解所示的分辨率地图303内,从其中设定数值“8”的区域内的100个像素中,存在于预定位置处的20个像素被设定成待输出给图像处理单元23的像素的情况下,100个像素的像素值从信号处理单元105被提供给输出控制单元106,输出控制单元106从供给的100个像素的像素值中,把对应于20个像素的像素值输出给图像处理单元23。这种情况下,通过控制输出控制单元106,控制分辨率。
在图4中图解所示的成像元件22C和图像处理单元23C中,在根据分辨率地图,控制分辨率的情况下,分辨率控制单元107向拍摄图像处理单元121发出指令,控制从拍摄图像处理单元121输出给总线31的像素的数目,以致能够控制分辨率。
例如,和上述例子中一样,在其中在图7的C中图解所示的分辨率地图303内,从其中设定数值“8”的区域内的100个像素中,输出对应于20个像素的像素值的情况下,对应于100个像素的像素值从成像元件22C被提供给图像处理单元23(内的拍摄图像处理单元121)。拍摄图像处理单元121根据从分辨率控制单元107发出的指令,从供给的100个像素中间除80个像素,然后输出对应于20个像素的像素值。按照这种方式,通过控制拍摄图像处理单元121,可控制分辨率。
下面参考图8,说明把像素值临时保持在存储器104中,和间除像素的情况。
如因图8的A中图解所示,将举例说明处理8个水平像素和2个垂直像素的情况。另外在这里,将以其中颜色排列(滤色器)为RGB(红、绿、蓝)的Bayer阵列的情况为例,继续进行说明,不过,本技术未记载应用范围局限于这样的颜色排列。
例如,水平方向和垂直方向的2×2像素被设定为重复单元,在重复单元中,排列红(R)/绿(G)/蓝(B)/透明(C)滤色器的情况,或者排列红(R)/透明(C)/透明(C)/透明(C)滤色器的情况下,也可应用本技术。
在其中维持分辨率,从而不进行间除的区域,换句话说,其中进行所有像素的读出的区域的情况下,如在图8的A中图解所示,所有像素被读出。即,这种情况下,从像素401-1~401-8,和像素402-1~402-8,读出像素值。
在读出所有像素的情况下,从像素阵列部分101,读出像素401-1~401-8,和像素402-1~402-8的像素值,并临时保持在存储器104中。之后,在存储器接口103的控制下,从存储器104读出像素401-1~401-8,和像素402-1~402-8的像素值,并提供给信号处理单元105。
在其中分辨率被降低的区域,例如,其中进行1/2间除的区域的情况下,例如,如在图8的B中图解所示,进行加法和除法,从而对应于2个像素的像素值被变换成对应于1个像素的像素值。在图8的B中图解所示的例子中,例如,R像素401-1和R像素401-3的像素值被相加,然后被除以2,从而获得的值被变换成对应于1个像素的R像素的像素值。
即,通过计算相邻的相同颜色的像素值的平均值,计算像素值。类似地,关于除R像素以外的G像素和B像素,通过获得平均值,计算像素值。
注意在这里,尽管说明了水平方向的间除,不过,按照和水平方向的间除相同的方式,可以进行垂直方向的间除。这里,说明水平方向的间除,垂直方向的间除是按照和水平方向的间除相同的方式进行的,不再说明。
在其中分辨率被降低的区域,例如,其中进行1/2间除的区域的情况下,例如,如在图8的C中图解所示,进行加法和除法,从而对应于2个像素的像素值可被变换成对应于1个像素的像素值。在图8的C中图解所示的例子中,例如,R像素401-1和R像素401-3的像素值按3:1的比率被相加,然后被除以4,从而,获得的值被变换成对应于1个像素的R像素的像素值。
即,在这种情况下,进行加权加法,然后对加权加法值进行除法,以生成对应于1个像素的像素值。在R像素的情况下,在相邻的R像素之中,位于左侧的R像素(例如,R像素401-1)的比例被设定为3,且位于右侧的R像素(例如,R像素401-3)的比例被设定为1,然后进行它们的加法。
作为G像素的水平方向和垂直方向的2×2像素被设定为重复单元。
在重复单元中,位于右上侧的Gr像素的情况下,相邻的Gr像素之中,位于左侧的Gr像素(例如,Gr像素401-2)的比例被设定为1,而位于右侧的Gr像素(例如,Gr像素401-4)的比例被设定为1,然后进行它们的加法。
作为G像素的水平方向和垂直方向的2×2像素被设定为重复单元。
在重复单元中,位于左下侧的Gb像素的情况下,相邻的Gb像素之中,位于左侧的Gb像素(例如,Gb像素402-1)的比例被设定为3,而位于右侧的Gb像素(例如,Gb像素402-3)的比例被设定为1,然后进行它们的加法。
在B像素的情况下,相邻的B像素之中,位于左侧的B像素(例如,B像素402-2)的比例被设定为1,而位于右侧的B像素(例如,B像素402-4)的比例被设定为1,然后进行它们的加法。
按照这种方式,在加法时进行加权。这种情况下,可以进行3:1或1:3的加权。自然地,可以进行另外的加权。
在其中分辨率被降低的区域,例如,其中进行间除到1/3的区域的情况下,例如,如在图8的D中图解所示,进行加法和除法,从而对应于3个像素的像素值被变换成对应于1个像素的像素值。在图8的D中图解所示的例子中,例如,R像素401-1、R像素401-3和R像素401-5这3个像素的像素值被相加,然后被除以3,从而获得的值被变换成对应于1个像素的R像素的像素值。
即,通过计算相同颜色的相邻3个像素的像素值的平均值,计算对应于1个像素的像素值。类似地,关于除R像素外的G像素和B像素,通过获得平均值,计算像素值。
这里,举例说明了用于把像素数减少到1/2和1/3的间除率的情况。然而,类似地,通过获得平均值,可以计算其他间除率,或者通过进行加权加法和除法,可以计算其他间除率。
注意,平均值是例子,可以如上所述进行加权,间除处理不限于上述方法。可以利用其他方法,进行间除处理。
<基于运动体的检测的分辨率的变更>
在上述实施例中,说明了根据距离,变更分辨率的情况。也可采用其中根据除距离外的信息,变更分辨率的构成。下面,将说明其中根据除距离外的信息,变更分辨率的情况。首先,说明其中检测运动体,并根据检测的运动体,变更分辨率的情况。
图9是图解说明当采用其中根据运动体的检测,变更分辨率的构成时的成像元件22和图像处理单元23的构成例子的示图。在图9中图解所示的成像元件22D和图像处理单元23D每一个的构成,和图3中图解所示的成像元件22B和图像处理单元23B每一个的构成中,相同的组件用相同的附图标记表示,其说明将被适当省略。
注意,尽管将说明在根据下面说明的除距离外的信息,变更分辨率的情况下的成像元件22和图像处理单元23的构成是以图3中图解所示的成像元件22B和图像处理单元23B的构成为基础的构成的例子,不过,所述构成可以是以图2中图解所示的成像元件22A和图像处理单元23A的构成为基础的构成,或者可以是以图4中图解所示的成像元件22C和图像处理单元23C的构成为基础的构成。
图9中图解所示的成像元件22D具有和图3中图解所示的成像元件22B相同的构成。图9中图解所示的图像处理单元23D和图3中图解所示的图像处理单元23B的不同之处在于图像处理单元23B的距离信息生成单元109被替换为运动体检测单元431。
图9中图解所示的图像处理单元23D的运动体检测单元431利用由拍摄图像处理单元121处理的拍摄图像,检测运动体。分辨率地图创建单元108D根据由运动体检测单元431检测的运动体(运动体的区域),创建分辨率地图。
注意在此处,尽管将在假定运动体检测单元431利用由拍摄图像处理单元121处理的拍摄图像,检测运动体的情况下继续进行说明,不过,也可采用其中运动体检测单元431利用直接从成像元件22D供给的拍摄图像,检测运动体的构成。即,也可采用其中运动体检测单元431从除拍摄图像处理单元121外的单元,接收拍摄图像的供给的构成。
另外,在下面的说明中,将在假定与运动体检测单元431相当的部分利用由拍摄图像处理单元121处理的拍摄图像进行处理的情况下进行说明,不过,也可采用其中从除拍摄图像处理单元121外的单元,接收拍摄图像的供给的构成。
由按照这种方式构成的成像元件22D和图像处理单元23D进行的处理基本上是根据在图6中图解所示的流程图进行的,从而其说明被省略。然而在步骤S101中,生成距离信息,不过不同之处在于该处理被替换为检测运动体的处理。
参考图10,增加其中依据运动体的检测,变更分辨率的情况的说明。图10的A是图解说明拍摄图像(待处理图像)的例子的示图。在图10的A中图解所示的输入图像301和在图7的A中图解所示的输入图像301相同。
在获取这样的输入图像301,并利用输入图像301,检测运动体的情况下,得到如在图10的B中图解所示的作为运动体检测的结果的图像332。在图10的B中,四边形所围绕的区域是作为运动体检测到的区域。
作为检测运动体的方法,可以使用任意方法。例如,通过利用2帧的输入图像301,相互比较像素值,可检测运动体。另外,相互匹配输入图像301内的被摄对象,和预先登记为运动体的图像,例如汽车的图像,在匹配度高的情况下,被摄对象的区域可被检测为运动体的区域。
在作为运动体检测信息,获得如在图10的B中图解所示的运动体检测结果图像332的情况下,对于运动体检测结果图像332的每个区域,设定分辨率。图10的C是图解说明其中对于各个区域,设定分辨率的例子,并且图解说明分辨率地图的例子的示图。
在图10的C中图解所示的分辨率地图333和在图7的C中图解所示的分辨率地图303相同,指示分辨率地图333内的数值越小,间除率越低,而数值越大,间除率越高。换句话说,在图10的C中,数值越小,分辨率越高,而数值越大,分辨率越低。
对于其中检测到运动体的区域,分辨率被设定为高(维持),而对于其他区域,分辨率被设定为低。基本上,进行这样的设定,不过也可与到被摄对象的距离结合地设定分辨率。图10的C图解说明在考虑到这样的距离,设定分辨率的情况下的分辨率地图333的例子。
例如,远景中的运动体的分辨率被设定为较高,而近景中的运动体的分辨率被设定为较低。在图10的C中图解所示的例子中,作为运动体,在左上区域中检测到的人是运动体,并且在远处,从而间除率被设定为诸如1或2之类的较小值。类似地,在右下区域中检测到的人在附近,从而间除率被设定为4,这是比在远处的人的间除率大的值。
另外,对于其中未检测到运动体的区域,设定等于10的高比率,作为间除率。例如,在设定1~10的10级间除率的情况下,当间除率为10时,可以防止从该区域读出像素值。
在打算检测运动体,并对运动体进行任意处理的情况下,对于除运动体外的部分,间除率被设定为10,以防止该部分被读出。按照这种方式,可以大幅减少待处理的数据量。
按照这种方式,还可以检测运动体,并按照检测的运动体设定分辨率。另外,还可以按照运动体检测的结果,和到运动体的距离,设定分辨率。
注意,在其中不仅利用运动体检测的结果,而且利用距离,设定分辨率的情况下,可以采用其中通过把距离信息获取单元131和距离信息生成单元109添加到图9中图解所示的构成中,执行上述处理的构成。
<基于人的检测的分辨率的变更>
下面,作为其中根据除距离外的信息,变更分辨率的情况的例子,将说明其中检测人,并根据检测的人(的区域),变更分辨率的情况。
图11是图解说明当采用其中根据人的检测,变更分辨率的构成时的成像元件22E和图像处理单元23E的构成例子的示图。在图11中图解所示的成像元件22E和图像处理单元23E每一个的构成,和图3中图解所示的成像元件22B和图像处理单元23B每一个的构成中,相同的组件用相同的附图标记表示,其说明将被适当省略。
图11中图解所示的成像元件22E具有和图3中图解所示的成像元件22B相同的构成。图11中图解所示的图像处理单元23E和图3中图解所示的图像处理单元23B的不同之处在于图像处理单元23B的距离信息生成单元109被替换为人检测单元451。
图11中图解所示的图像处理单元23E的人检测单元451利用由拍摄图像处理单元121处理的拍摄图像,检测人。分辨率地图创建单元108E根据由人检测单元451检测的人(的区域),创建分辨率地图。
由按照这种方式构成的成像元件22E和图像处理单元23E进行的处理基本上是根据在图6中图解所示的流程图进行的,从而其说明被省略。然而在步骤S101中,生成距离信息,不过不同之处在于该处理被替换为检测人的处理。
参考图12,增加其中依据人的检测,变更分辨率的情况的说明。图12的A是图解说明拍摄图像(待处理图像)的例子的示图。在图12的A中图解所示的输入图像301和在图7的A中图解所示的输入图像301相同。
在获取这样的输入图像301,并利用输入图像301,检测人的情况下,得到如在图12的B中图解所示的作为人检测的结果的图像352。在图12的B中,四边形所围绕的区域是作为人检测到的区域。
作为检测人的方法,可以使用任意方法。相互匹配输入图像301内的被摄对象,和预先登记为人的图像,在匹配度高的情况下,被摄对象的区域可被检测为人的区域。
在作为人检测信息,获得如在图12的B中图解所示的人检测结果图像352的情况下,对于人检测结果图像352的每个区域,设定分辨率。图12的C是图解说明其中对于各个区域,设定分辨率的例子,并且图解说明分辨率地图的例子的示图。
在图12的C中图解所示的分辨率地图353和在图7的C中图解所示的分辨率地图303相同,指示分辨率地图353内的数值越小,间除率越低,而数值越大,间除率越高。换句话说,在图12的C中,数值越小,分辨率越高,而数值越大,分辨率越低。
对于其中检测到人的区域,分辨率被设定为高(维持),而对于其他区域,分辨率被设定为低。基本上,进行这样的设定,不过也可与到被摄对象的距离结合地设定分辨率。图12的C图解说明在考虑到这样的距离,设定分辨率的情况下的分辨率地图353。
例如,远景中的人的分辨率被设定为较高,而近景中的人的分辨率被设定为较低。在图12的C中图解所示的例子中,作为人,在左上区域中检测到的人是人,并且在远处,从而间除率被设定为诸如1或2之类的较小值。类似地,在右下区域中检测到的人在附近,从而间除率被设定为4,这是比远景中的人的间除率大的值。
另外,对于其中未检测到人的区域,设定等于10的高比率,作为间除率。例如,在设定1~10的10级间除率的情况下,当间除率为10时,可以防止从该区域读出像素值。
在打算检测人,并对人进行任意处理的情况下,对于除人外的部分,间除率被设定为10,以防止该部分被读出。按照这种方式,可以大幅减少待处理的数据量。
按照这种方式,还可以检测人,并按照检测的人设定分辨率。另外,还可以按照人检测的结果,和到人的距离,设定分辨率。
注意,在其中不仅利用人检测的结果,而且利用距离,设定分辨率的情况下,可以采用其中通过把距离信息获取单元131和距离信息生成单元109添加到图11中图解所示的构成中,执行上述处理的构成。
注意在这里,尽管举例说明了人的检测的情况,不过,也可以检测人的一部分,比如人的面部、手或脚,并变更该部分的分辨率。另外,也可以检测人的一部分,并按照该部分的距离,变更分辨率。
另外,例如,可以采用其中在检测到人的面部,并且人的面部与满足预定条件的面部(例如,预先登记的面部)之间的匹配度高的情况下,该面部的区域的分辨率被设定为较高,相反,当检测到很可能不是预先登记的面部的面部时,该面部的区域的分辨率被设定为较高的构成。
<基于大小的检测的分辨率的变更>
下面,作为其中根据除距离外的信息,变更分辨率的情况的例子,将说明其中检测被摄对象的大小,并根据检测的大小,变更分辨率的情况。
图13是图解说明当采用其中根据大小的检测,变更分辨率的构成时的成像元件22I和图像处理单元23I的构成例子的示图。在图13中图解所示的成像元件22F和图像处理单元23F每一个的构成,和图3中图解所示的成像元件22B和图像处理单元23B每一个的构成中,相同的组件用相同的附图标记表示,其说明将被适当省略。
图13中图解所示的成像元件22F具有和图3中图解所示的成像元件22B相同的构成。图13中图解所示的图像处理单元23F和图3中图解所示的图像处理单元23B的不同之处在于图像处理单元23B的距离信息生成单元109被替换为大小检测单元471。
图13中图解所示的图像处理单元23F的大小检测单元471利用由拍摄图像处理单元121处理的拍摄图像,检测在拍摄图像内成像的被摄对象,并检测被摄对象的大小。分辨率地图创建单元108F根据由大小检测单元471检测的被摄对象的大小,创建分辨率地图。
由按照这种方式构成的成像元件22F和图像处理单元23F进行的处理基本上是根据在图6中图解所示的流程图进行的,从而其说明被省略。然而在步骤S101中,生成距离信息,不过不同之处在于该处理被替换为检测被摄对象的大小的处理。
参考图10,再次增加其中依据大小的检测,变更分辨率的情况的说明。图10的A是图解说明拍摄图像(待处理图像)的例子的示图。在图10的A中图解所示的输入图像301和在图7的A中图解所示的输入图像301相同。
在获取这样的输入图像301,利用输入图像301,检测被摄对象,并检测被摄对象的大小的情况下,得到如在图10的B中图解所示的作为大小检测的结果的图像332。在图10的B中,四边形所围绕的区域是其中检测到被摄对象(物体)的区域,是被设定为大小的区域。
作为检测大小的方法,可以使用任意方法。通过检测输入图像301内的被摄对象,并检测该被摄对象的区域作为大小,可以检测大小,任意方法可用于这种情况下的被摄对象的检测。
在作为大小检测信息,获得如在图10的B中图解所示的大小检测结果图像332的情况下,对于大小检测结果图像332的每个区域,设定分辨率。图10的C是图解说明其中对于各个区域,设定分辨率的例子,并且图解说明分辨率地图的例子的示图。
在图10的C中图解所示的分辨率地图333和在图7的C中图解所示的分辨率地图303相同,指示分辨率地图333内的数值越小,间除率越低,而数值越大,间除率越高。换句话说,在图10的C中,数值越小,分辨率越高,而数值越大,分辨率越低。
当其中检测到大小的区域中的检测大小变得较大时,可以设定较高的间除率(较低的分辨率)。这是因为考虑到在大小较大的情况下,即使当分辨率被降低时,也很可能得到期望的信息量。
基本上,进行这样的设定,不过,也可结合到被摄对象的距离,设定分辨率。图10的C图解说明在考虑到这样的距离,设定分辨率的情况下的分辨率地图333。
例如,远景中的较小被摄对象的分辨率被设定为较高(维持),而近景中的较大被摄对象的分辨率被设定为较低。在图10的C中图解所示的例子中,作为大小,在左上区域中检测到的人大小较小,并且在远处,从而间除率被设定为1或2的较小值。另外,在右下区域中检测到的人大小较大,并且在附近,从而间除率被设定为4。
按照这种方式,在其中远景中的较小被摄对象的分辨率被设定为较高,而近景中的较大被摄对象的分辨率被设定为较低的情况下,可以减小近景中的部分的数据量,和在不丢失被摄对象的情况下,连续检测远景中的较小被摄对象。
另外,远景中的较大被摄对象的分辨率可被设定为较低。即使在远景中,即使当分辨率被降低时,较大的被摄对象也很可能被检测出,从而也可以降低分辨率,因而减少数据量。
另外,近景中的较小被摄对象的分辨率可被设定为较高。即使在近景中,当分辨率被降低时,较小的被摄对象也很可能检测不出,从而也可以把分辨率设定为较高的值,在不丢失被摄对象的情况下检测这样的较小被摄对象。
这样,按照作为被摄对象的物体和距离,设定分辨率,从而即使当较大的物体在远处,而较小的物体在近景中时,也能够实现高效成像数据的获取。
可以进行这样的设定,不过,也可按照位于同一距离(预定范围内的距离)的被摄对象的大小,设定分辨率。例如,在位于同一距离的多个被摄对象之中,较大的被摄对象的分辨率被设定成较低,而较小的被摄对象的分辨率被设定成较高。
尽管距离相同,即使当分辨率被降低时,也很可能可从较大的被摄对象,获得期望的信息,从而分辨率被降低。另一方面,尽管距离相同,当分辨率被降低时,也很可能不能从较小的被摄对象,获得期望的信息,从而分辨率被维持或增大,而不被降低。
另外,在按照这种方式,按照被摄对象的大小和距离,设定分辨率的情况下,即使当较大的物体位于远处,较小的物体存在于近景中时,和当较大的物体和较小的物体位于相同距离时,也能够实现高效成像数据的获取。
对于其中未检测到大小(被摄对象)的区域,可以设定等于10的高比率,作为间除率。例如,在设定1~10的10级间除率的情况下,当间除率为10时,可以防止从该区域读出像素值。这样,可以大幅减少待处理的数据量。
按照这种方式,还可以检测大小,并按照检测的大小设定分辨率。另外,还可以按照大小检测的结果,和到其大小被检测的被摄对象的距离,设定分辨率。
注意,在其中不仅利用大小检测的结果,而且利用距离,设定分辨率的情况下,可以采用其中通过把距离信息获取单元131和距离信息生成单元109添加到图13中图解所示的构成中,执行上述处理的构成。
<基于纹理的检测的分辨率的变更>
下面,作为其中根据除距离外的信息,变更分辨率的情况的例子,将说明其中检测纹理或边缘的数量(下面,以纹理为例进行说明),并根据检测的纹理,变更分辨率的情况。
图14是图解说明当采用其中根据纹理的检测,变更分辨率的构成时的成像元件22G和图像处理单元23G的构成例子的示图。在图14中图解所示的成像元件22G和图像处理单元23G每一个的构成,和图3中图解所示的成像元件22B和图像处理单元23B每一个的构成中,相同的组件用相同的附图标记表示,其说明将被适当省略。
图14中图解所示的成像元件22G具有和图3中图解所示的成像元件22B相同的构成。图14中图解所示的图像处理单元23G和图3中图解所示的图像处理单元23B的不同之处在于图像处理单元23B的距离信息生成单元109被替换为纹理检测单元491。
图14中图解所示的图像处理单元23G的纹理检测单元491利用由拍摄图像处理单元121处理的拍摄图像,检测纹理。分辨率地图创建单元108G根据由纹理检测单元491检测的纹理,创建分辨率地图。
由按照这种方式构成的成像元件22G和图像处理单元23G进行的处理基本上是根据在图6中图解所示的流程图进行的,从而其说明被省略。然而在步骤S101中,生成距离信息,不过不同之处在于该处理被替换为检测纹理的处理。
作为检测纹理的方法,可以使用任意方法。可以检测输入图像301内的边缘(例如,物体和背景之间的边界),并根据边缘的数量,检测纹理。例如,通过检测纹理,可以检测除物体外的区域。
作为纹理,例如,认为在分辨率被设定为较高的情况,和分辨率被设定为较低的情况之间,平坦纹理(其颜色变化不大的纹理等)中的信息量变化不大。因而,对于其中检测到平坦纹理(少量的边缘)的区域,设定低分辨率(高间除率)。
另外,作为纹理,例如,对于其中检测到不是平坦纹理的纹理(大量的边缘)的区域,设定高分辨率(低间除率),并被设定为能够尽可能如实地再现纹理的分辨率。
这样,能够按照边缘的数量,设定间除率。
另外,还可以在其中检测到纹理的区域,和其中未检测到纹理的区域中,设定不同的分辨率。例如,对于其中检测到纹理的区域,设定低分辨率,而对于其中未检测到纹理的区域,设定高分辨率。
基本上,进行这样的设定,不过,也可结合到被摄对象的距离,设定分辨率。例如,也可以按照到被摄对象的距离,设定分辨率,和按照纹理的检测,设定分辨率。
例如,和上面说明的基于距离的分辨率的变更相似,远景中的被摄对象的分辨率被设定为较高,而近景中的被摄对象的分辨率被设定为较低。按照这种方式设定分辨率,从而可以在不丢失被摄对象的情况下,检测远景中的被摄对象,和减少近景中的数据量。
此外,即使在较远的区域中,对于被判定为具有纹理或少量边缘的区域,例如,诸如天空、路面或平直墙壁之类的区域,也不必通过增大分辨率来获取图像,从而分辨率被设定为较低。
这样,即使在较远的区域中,通过按照纹理或边缘的数量,降低分辨率,也可以减少数据量。
注意,在其中检测纹理的区域,并对检测的纹理进行任意处理的情况下,其中检测到纹理的区域中的分辨率也可被设定成比其中未检测到纹理的其他区域中的分辨率高。
这样,也可以检测纹理,并按照检测的纹理,设定分辨率。另外,也可按照纹理检测的结果,和到该纹理的距离,设定分辨率。
注意,在其中不仅利用纹理检测的结果,而且利用距离,设定分辨率的情况下,可以采用其中通过把距离信息获取单元131和距离信息生成单元109添加到图14中图解所示的构成中,执行上述处理的构成。
<基于类型的检测的分辨率的变更>
下面,作为其中根据除距离外的信息,变更分辨率的情况的例子,将说明其中检测被摄对象的类型,并根据检测的类型,变更分辨率的情况。被摄对象的类型是诸如布或金属之类的物体的材料。另外,被摄对象的类型还包括诸如人和汽车之类的类型。
图15是图解说明当采用其中根据类型的检测,变更分辨率的构成时的成像元件22H和图像处理单元23H的构成例子的示图。在图15中图解所示的成像元件22H和图像处理单元23H每一个的构成,和图3中图解所示的成像元件22B和图像处理单元23B每一个的构成中,相同的组件用相同的附图标记表示,其说明将被适当省略。
图15中图解所示的成像元件22H具有和图3中图解所示的成像元件22B相同的构成。图15中图解所示的图像处理单元23H和图3中图解所示的图像处理单元23B的不同之处在于图像处理单元23B的距离信息生成单元109被替换为类型检测单元511。
图15中图解所示的图像处理单元23H的类型检测单元511利用由拍摄图像处理单元121处理的拍摄图像,检测被摄对象,并检测被摄对象的类型。分辨率地图创建单元108H根据由类型检测单元511检测的类型,创建分辨率地图。
由按照这种方式构成的成像元件22H和图像处理单元23H进行的处理基本上是根据在图6中图解所示的流程图进行的,从而其说明被省略。然而在步骤S101中,生成距离信息,不过不同之处在于该处理被替换为检测被摄对象的类型的处理。
作为检测类型的方法,可以使用任意方法,或者可以使用一般的识别技术等。例如,可以使用人检测技术、汽车检测技术等,可以使用基于诸如机器学习或深度学习之类技术的方法。另外,光泽度、图案等随材质而不同,从而提取这样的特征,以致可以检测类型。
在其中作为类型,检测诸如金属或木材之类的材料、面部、车牌照等,并检测到这样的类型的情况下,可按照检测的类型,设定分辨率。例如,在检测到车牌照等的情况下,分辨率被设定为较高,以致能够清晰地读取字符。
基本上,设定是按照这样的类型进行的,不过,也可结合到被摄对象的距离,设定分辨率。例如,也可以按照到被摄对象的距离,设定分辨率,和按照类型的检测,设定分辨率。
例如,和上面说明的基于距离的分辨率的变更相似,远景中的被摄对象的分辨率被设定为较高,而近景中的被摄对象的分辨率被设定为较低。按照这种方式设定分辨率,从而可以在不丢失被摄对象的情况下,检测远景中的被摄对象,和减少近景中的数据量。
此外,即使在近景中,也按照类型,例如对于被分类为诸如车牌照或面部之类的区域,把分辨率设定为较高。
这样,即使在近景中,也按照类型,增大分辨率,从而能够进一步提高预定物体的检测精度。
这样,通常,远处的较小物体的检测也是鲁棒的,并且可以把分辨率设定为较高,以便在通过间除近景,减少数据量的同时,进一步获得具有期望被关注类型的物体的区域的详细数据,从而可以实现高效成像数据的获取。
注意,在其中不仅利用类型检测的结果,而且利用距离,设定分辨率的情况下,可以采用其中通过把距离信息获取单元131和距离信息生成单元109添加到图15中图解所示的构成中,执行上述处理的构成。
<基于移动量的检测的分辨率的变更>
下面,作为其中根据除距离外的信息,变更分辨率的情况的例子,将说明其中检测被摄对象的移动量,并根据检测的移动量,变更分辨率的情况。
图16是图解说明当采用其中根据移动量的检测,变更分辨率的构成时的成像元件22I和图像处理单元23I的构成例子的示图。在图16中图解所示的成像元件22I和图像处理单元23I每一个的构成,和图3中图解所示的成像元件22B和图像处理单元23B每一个的构成中,相同的组件用相同的附图标记表示,其说明将被适当省略。
图16中图解所示的成像元件22I具有和图3中图解所示的成像元件22B相同的构成。图16中图解所示的图像处理单元23I和图3中图解所示的图像处理单元23B的不同之处在于图像处理单元23B的距离信息生成单元109被替换为移动量检测单元531。
图16中图解所示的图像处理单元23I的移动量检测单元531利用由拍摄图像处理单元121处理的拍摄图像,检测被摄对象,并检测被摄对象的移动量。分辨率地图创建单元108I根据由移动量检测单元531检测的移动量,创建分辨率地图。
由按照这种方式构成的成像元件22I和图像处理单元23I进行的处理基本上是根据在图6中图解所示的流程图进行的,从而其说明被省略。然而在步骤S101中,生成距离信息,不过不同之处在于该处理被替换为检测被摄对象的移动量的处理。
作为检测移动量的方法,可以使用任意方法。例如,通过利用2帧的输入图像301,相互比较像素值,可以检测运动体,然后可以进一步检测运动体的移动量。
在被摄对象的移动量较大的情况下,具有被摄对象(运动体)的区域中的分辨率被设定为较低,而在被摄对象的移动量较小的情况下,具有被摄对象(运动体)的区域中的分辨率被设定为较高。例如,在移动量较小,并且以像素为单位,只横越几个像素移动的移动体的区域被间除的情况下,存在不能高精度地检测物体(不能高精度地检测物体的移动量)的可能性,从而对于移动量小的物体,可以把分辨率设定为较高。
基本上,设定是按照这样的移动量进行的,不过,也可结合到被摄对象的距离,设定分辨率。例如,也可以按照到被摄对象的距离,设定分辨率,和按照移动量的检测,设定分辨率。
例如,和上面说明的基于距离的分辨率的变更相似,远景中的被摄对象的分辨率被设定为较高,而近景中的被摄对象的分辨率被设定为较低。按照这种方式设定分辨率,从而可以在不丢失被摄对象的情况下,检测远景中的被摄对象,和减少近景中的数据量。
此外,即使在近景中,例如对于具有以与周围物体的移动量不同的移动量移动的物体的区域,也按照移动量,把分辨率设定为较高。例如,超速汽车以不同于周围的以非超速速度行驶的汽车的速度行驶。可以检测以不同于周围汽车的速度行驶的这种汽车,并在所述汽车被成像的区域中,设定高分辨率,以便追踪该汽车。
另外,例如,在其中在人群中,存在以与其他人不同的速度移动的人,换句话说,存在正在逃离的人的情况下,可以检测以与周围的人不同的速度移动的这种人,并在所述人被成像的区域中,设定高分辨率,以便追踪该人。
这样,通过即使在近景中,也按照移动量,增大分辨率,可以进一步提高预定物体的检测精度。
这样,通常,远处的较小物体的检测也是鲁棒的,并且可把分辨率设定为较高,以便在通过间除近景,减少数据量的同时,在发生异常的情况下,进一步获得该区域的详细数据,从而实现高效成像数据的获取。
注意,在其中不仅利用移动量检测的结果,而且利用距离,设定分辨率的情况下,可以采用其中通过把距离信息获取单元131和距离信息生成单元109添加到图16中图解所示的构成中,执行上述处理的构成。
<基于移动方向的检测的分辨率的变更>
下面,作为其中根据除距离外的信息,变更分辨率的情况的例子,将说明其中检测被摄对象的移动方向,并根据检测的移动方向,变更分辨率的情况。
图17是图解说明当采用其中根据移动方向的检测,变更分辨率的构成时的成像元件22J和图像处理单元23J的构成例子的示图。在图17中图解所示的成像元件22J和图像处理单元23J每一个的构成,和图3中图解所示的成像元件22B和图像处理单元23B每一个的构成中,相同的组件用相同的附图标记表示,其说明将被适当省略。
图17中图解所示的成像元件22J具有和图3中图解所示的成像元件22B相同的构成。图17中图解所示的图像处理单元23J和图3中图解所示的图像处理单元23B的不同之处在于图像处理单元23B的距离信息生成单元109被替换为移动方向检测单元551。
图17中图解所示的图像处理单元23J的移动方向检测单元551利用由拍摄图像处理单元121处理的拍摄图像,检测被摄对象,并检测被摄对象的移动方向。分辨率地图创建单元108J根据由移动方向检测单元551检测的移动方向,创建分辨率地图。
由按照这种方式构成的成像元件22J和图像处理单元23J进行的处理基本上是根据在图6中图解所示的流程图进行的,从而其说明被省略。然而在步骤S101中,生成距离信息,不过不同之处在于该处理被替换为检测被摄对象的移动方向的处理。
作为检测移动方向的方法,可以使用任意方法。例如,通过利用2帧的输入图像301,相互比较像素值,可以检测运动体,然后可以进一步检测运动体的移动方向。
在存在移动方向与其他被摄对象不同的被摄对象的情况下,具有该被摄对象(运动体)的区域中的分辨率被设定为较高。例如,在成像设备10(图1)用于监控摄像头的用途,并对预定场所(例如检票口或单行道)成像的情况下,在这样的场所中,人或汽车基本上沿着同一方向移动。
在这样的场所中,沿着不同的方向移动的人或汽车很可能是可疑物体。因而,在检测到沿不同于其他物体的方向移动的这种物体的情况下,该物体的区域中的分辨率被设定为较高。
基本上,设定是按照这样的移动方向进行的,不过,也可结合到被摄对象的距离,设定分辨率。例如,也可以按照到被摄对象的距离,设定分辨率,和按照移动方向的检测,设定分辨率。
例如,和上面说明的基于距离的分辨率的变更相似,远景中的被摄对象的分辨率被设定为较高,而近景中的被摄对象的分辨率被设定为较低。按照这种方式设定分辨率,从而可以在不丢失被摄对象的情况下,检测远景中的被摄对象,和减少近景中的数据量。
此外,即使在近景中,例如对于具有沿与周围物体不同的移动方向移动的物体的区域,也按照移动方向,把分辨率设定为较高。
这样,通过即使在近景中,也按照移动方向,增大分辨率,可以进一步提高预定物体的检测精度。
这样,通常,远处的较小物体的检测也是鲁棒的,并且可把分辨率设定为较高,以便在通过间除近景,减少数据量的同时,在发生异常的情况下,进一步获得该区域的详细数据,从而实现高效成像数据的获取。
注意,在其中不仅利用移动方向检测的结果,而且利用距离,设定分辨率的情况下,可以采用其中通过把距离信息获取单元131和距离信息生成单元109添加到图17中图解所示的构成中,执行上述处理的构成。
<基于负荷的检测的分辨率的变更>
下面,作为其中根据除距离外的信息,变更分辨率的情况的例子,将说明其中检测网络或处理单元的负荷,并根据检测的负荷,变更分辨率的情况。
图18是图解说明当采用其中根据负荷的检测,变更分辨率的构成时的成像元件22K和图像处理单元23K的构成例子的示图。在图18中图解所示的成像元件22K和图像处理单元23K每一个的构成,和图3中图解所示的成像元件22B和图像处理单元23B每一个的构成中,相同的组件用相同的附图标记表示,其说明将被适当省略。
图18中图解所示的成像元件22K具有和图3中图解所示的成像元件22B相同的构成。图18中图解所示的图像处理单元23K和图3中图解所示的图像处理单元23B的不同之处在于图像处理单元23B的距离信息生成单元109被替换为负荷检测单元571。
图18中图解所示的图像处理单元23K的负荷检测单元571根据从图像处理单元23K的外部供给的负荷信息,检测在预定时刻的负荷。分辨率地图创建单元108K根据由负荷检测单元571检测的负荷,创建分辨率地图。
由按照这种方式构成的成像元件22K和图像处理单元23K进行的处理基本上是根据在图6中图解所示的流程图进行的,从而其说明被省略。然而在步骤S101中,生成距离信息,不过不同之处在于该处理被替换为检测负荷的处理。
例如,负荷检测单元571通过通信单元30(图1),获取网络的拥塞状态,作为负荷信息,并在判定网络拥塞的情况下,把拍摄图像的分辨率设定为较低,以便减少通过网络输入的成像数据的数量。
另外,例如,负荷检测单元571获取拍摄图像处理单元121的处理负荷,作为负荷信息,并在判定拍摄图像处理单元121的处理负荷不断增大的情况下,由成像元件22K成像和处理的拍摄图像的分辨率被设定为较低,以便减少输入拍摄图像处理单元121的成像数据(换句话说,从成像元件22K供给的成像数据)的数量。
测量成像设备10内的处理负荷,然后可获取测量的信息,作为负荷信息。
注意在这里,在假定当处理负荷被增大时,降低分辨率的情况下进行说明,不过,当处理负荷存在余量时,可以进行增大分辨率的处理。
基本上,设定是按照这样的负荷进行的,不过,也可结合到被摄对象的距离,设定分辨率。例如,也可以按照到被摄对象的距离,设定分辨率,和按照负荷的检测,设定分辨率。
当在成像设备10内的处理负荷较低的情况、网络未被拥塞或类似情况下,存在余量时,不必降低分辨率,从而分辨率被设定为高分辨率(进行降低间除率和不进行间除的设定),以致在图像内的所有区域中,输出高质量图像。
当成像设备10内的负荷,或者网络的负荷较高,从而必须降低分辨率时,例如,和上面说明的基于距离的分辨率的变更相似,通过对于远景中的被摄对象,设定高分辨率,而对于近景中的被摄对象,设定低分辨率,减少图像的数据量。
这样,即使当资源存在余量时,也可以防止分辨率的不必要降低,和图像质量的恶化。
这样,当负荷较高时,通过按照距离变更分辨率,而不在图像内一致地降低分辨率,可以使检测保持鲁棒。
注意,在其中不仅利用负荷检测的结果,而且利用距离,设定分辨率的情况下,可以采用其中通过把距离信息获取单元131和距离信息生成单元109添加到图18中图解所示的构成中,执行上述处理的构成。
<基于分辨率的决定的分辨率的变更>
下面,作为其中根据除距离外的信息,变更分辨率的情况的例子,将说明其中依据应用于下一级的算法,决定分辨率,并根据决定的分辨率,变更分辨率的情况。
图19是图解说明当采用其中根据应用于下一级的算法,变更分辨率的构成时的成像元件22L和图像处理单元23L的构成例子的示图。在图19中图解所示的成像元件22L和图像处理单元23L每一个的构成,和图3中图解所示的成像元件22B和图像处理单元23B每一个的构成中,相同的组件用相同的附图标记表示,其说明将被适当省略。
图19中图解所示的成像元件22L具有和图3中图解所示的成像元件22B相同的构成。图19中图解所示的图像处理单元23L和图3中图解所示的图像处理单元23B的不同之处在于图像处理单元23B的距离信息生成单元109被替换为分辨率决定单元591。
图19中图解所示的图像处理单元23L的分辨率决定单元591根据从图像处理单元23L的外部供给的分辨率决定信息,决定分辨率。分辨率地图创建单元108L根据由分辨率决定单元591决定的分辨率,创建分辨率地图。
由具有这样的构成的成像元件22L和图像处理单元23L进行的处理基本上是根据在图6中图解所示的流程图进行的,从而其说明被省略。尽管在步骤S101中,生成距离信息,不过不同之处在于该处理被替换为决定分辨率的处理。
例如,分辨率决定单元591决定满足下一级中的算法所需的分辨率的分辨率。下一级中的算法例如是面部识别、运动体检测等。
在下一级中的算法是面部识别的情况下,进行用于对于检测为面部的区域,设定高分辨率,而对于其他区域,设定低分辨率的分辨率的决定。另外,例如,在下一级中的算法是运动体的检测的情况下,进行用于对于检测为运动体的区域,设定高分辨率,而对于其他区域,设定低分辨率的分辨率的决定。
分辨率决定单元591从外部,获取指示下一级中的算法需要何种程度的分辨率的分辨率决定信息,以决定分辨率。另外,分辨率决定单元591保存其中使算法与分辨率相互关联的表格,参照所述表格,可决定分辨率。
基本上,设定是按照这样的分辨率决定进行的,不过,也可结合到被摄对象的距离,设定分辨率。例如,也可以按照到被摄对象的距离,设定分辨率,和按照分辨率决定的检测,设定分辨率。
例如,和上面说明的基于距离的分辨率的变更相似,远景中的被摄对象的分辨率被设定为较高,而近景中的被摄对象的分辨率被设定为较低。按照这种方式设定分辨率,从而可以在不丢失被摄对象的情况下,检测远景中的被摄对象,和减少近景中的数据量。
此外,即使在近景中,比如在其中下一级中的算法是利用边缘作为重要信息的算法,比如分割(区域分割)的情况下,在边缘附近的区域中的分辨率也可被设定为较高。
另外,即使在近景中,比如在其中下一级中的算法是利用被摄对象的纹理作为重要信息的算法的情况下,被摄对象的区域中的分辨率也可被设定为较高。另外,也可以酌情降低分辨率,比如在后一级中的算法是需要受噪声影响较小的成像数据的算法的情况下。
注意,这里说明了一个例子。在算法(应用)所需的分辨率被保持在其中的范围内,变更分辨率的情况下,可以应用本技术。
按照这种方式变更分辨率,以致远处的较小物体的检测也是鲁棒的,并且可以在通过间除近景,减少数据量的同时,生成并供给适合于下一级中的算法(应用)的数据,从而可以实现高效成像数据的获取。
注意,在其中不仅利用分辨率决定检测的结果,而且利用距离,设定分辨率的情况下,可以采用其中通过把距离信息获取单元131和距离信息生成单元109添加到图19中图解所示的构成中,执行上述处理的构成。
<基于透镜的分辨率的变更>
下面,作为其中根据除距离外的信息,变更分辨率的情况的例子,说明其中根据成像设备10的透镜组21(图1)的类型,变更分辨率的情况。
例如,作为在其中安装景深较浅的透镜的情况下的读出,对于在主要被摄对象附近一定距离的区域,设定高分辨率,而对于在其他距离的区域(在透镜中出现模糊的区域),设定低分辨率。
按照这种方式设定分辨率,从而可以在获得主要被摄对象的分辨率的同时,低分辨率地高效读出在透镜中出现模糊的其他原始区域。
<输出两个或更多个图像的构成>
顺便提及,例如,按照图9中图解所示的图像处理单元23D的构成,分辨率调整后的图像的图像数据从成像元件22D被提供给图像处理单元23D。运动体检测单元431利用从拍摄图像处理单元121供给的图像,换句话说,提供给图像处理单元23D的图像,检测运动体。
利用这种构成,运动体检测单元431利用分辨率调整后的图像,检测运动体,从而比如当利用分辨率高的图像检测运动体时,或者当利用分辨率低的图像检测运动体时,运动体检测单元431处理分辨率不固定的图像。从而,归因于运动体检测单元431,运动体的检测精度有可能不稳定。
因此,成像元件22M和图像处理单元23M的构成可被采用为如图20中图解所示的构成。图20中图解所示的成像元件22M基本上具有和图3中图解所示的成像元件22B相同的构成,不过不同之处在于输出控制单元106M被配置成输出N个流。例如,输出控制单元106M被配置成能够并行输出具有不同分辨率的图像数据的流。
输出控制单元106M向图像处理单元23M的运动体检测单元431M,输出具有预定分辨率(例如,诸如VGA之类的分辨率)的图像,作为具有不同分辨率的图像数据的流。提供给运动体检测单元431M的图像是未受分辨率控制单元107控制,从而始终具有固定分辨率的图像。
另外,输出控制单元106M通过接收来自分辨率控制单元107的指令,向图像处理单元23M的拍摄图像处理单元121,输出分辨率变更后的图像,作为具有不同分辨率的图像数据的流。
在按照这种方式构成成像元件22M的情况下,运动体检测单元431M从成像元件22M的输出控制单元106M,接收具有固定分辨率的图像的供给,并利用该图像,检测运动体。从而,可以稳定地检测运动体。
另外,按照从分辨率控制单元107发出的指令,分辨率变更后的图像被提供给拍摄图像处理单元121,从而能够接收其数据量被适当减小的图像数据。
这样,从成像元件22M,输出多个流。所述多个流中的一个流可被设定成其分辨率未被变更的图像的流,而另一个流可被设定成其分辨率已被变更的图像的流。
另外,提供其分辨率一直未被变更的图像,从而能够进行稳定的处理,例如,运动体的检测。
注意在这里,尽管举例说明了图9中图解所示的进行运动体的检测的成像设备10,不过,其中输出并处理多个流的结构可适用于在图10-19中图解所示的成像设备10。此外,例如,在图3中图解所示的成像设备10(内的图像处理单元23B)中,其中输出并处理多个流的结构也可适用于其中利用从成像元件22B获得的图像,生成距离信息的情况。
<使用例子>
图21是图解说明上述成像设备1的使用例子的示图。
上述成像设备例如可以在如下所述的其中感测光,比如可见光、红外光、紫外光和X射线的各种情况下使用。
-拍摄用于鉴赏的图像的设备,比如数字照相机和具有照相机功能的便携式设备。
-用于交通的设备,比如用于安全驾驶(例如,自动停止),驾驶员的状况的识别等的拍摄汽车的前方和后方、周围、车内等的图像的车载传感器,监视行驶中的车辆和道路的监视摄像头,和测量车辆等之间的距离的距离传感器。
-拍摄用户的手势的图像,并按照手势进行设备操作的用于家用电器,比如TV、电冰箱和空调器的设备。
-用于医疗护理和健康护理的设备,比如内窥镜和利用红外光的接收,进行血管造影的设备。
-用于安防的设备,比如用于预防犯罪的监视摄像头,和用于人认证的摄像头。
-用于美容的设备,比如拍摄皮肤的图像的皮肤测量设备,和拍摄头皮的图像的显微镜。
-用于体育运动的设备,比如用于体育运动等的运动型摄像机和可穿戴式摄像机。
-用于农业的设备,比如用于监视田地的情况的摄像机。
<记录介质>
上述一系列处理可以利用硬件或软件执行。当利用软件执行一系列的处理时,构成所述软件的程序安装在计算机中。这里,计算机的例子包括并入专用硬件中的计算机,和当在其中安装各种程序时,能够执行各种功能的通用个人计算机。
图22是图解说明利用程序,执行上述一系列处理的计算机的例证硬件构成的方框图。在计算机中,中央处理器(CPU)1001、只读存储器(ROM)1002、和随机存取存储器(RAM)1003通过总线1004相互连接。输入/输出接口1005也连接到总线1004。输入单元1006、输出单元1007、存储单元1008、通信单元1009和驱动器1010连接到输入/输出接口1005。
输入单元1006包括键盘、鼠标、麦克风等。输出单元1007包括显示器、扬声器等。存储单元1008包括硬盘、非易失性存储器等。通信单元1009包括网络接口等。驱动器1010驱动诸如磁盘、光盘、磁光盘或半导体存储器之类的可拆卸介质1011。
在如上所述构成的计算机中,CPU 1001通过输入/输出接口1005和总线1004,把例如保存在存储单元1008中的程序加载到RAM 1003上,并执行所述程序。从而,进行上述的一系列处理。
计算机(CPU 1001)执行的程序是记录在作为套装介质等的可拆卸介质1011中地提供的。另外,可通过有线或无线传输介质,比如局域网、因特网或数字卫星广播,提供程序。
在计算机中,通过把可拆卸介质1011插入驱动器1010中,通过输入/输出接口1005,程序可被安装在存储单元1008中。此外,程序可由通信单元1009通过有线或无线传输介质接收,并安装在存储单元1008中。此外,程序可被预先安装在ROM 1002或存储单元1008中。
应注意的是,计算机执行的程序可以是按照记载在本说明书中的顺序,时序地被处理的程序,或者可以是并行地,或者在需要的时候(比如当调用时)被处理的程序。
另外,在本说明书中,术语“系统”表示由多个设备构成的设备的全体。
注意,记载在本说明书中的效果不是限制性的,相反仅仅是例子,可存在另外的效果。
注意,本公开的实施例不限于上述实施例,可以作出各种变化和修改,而不脱离本公开的范围。
另外,也可如下构成本技术。
(1)一种成像设备,包括:
根据与拍摄的图像对应的,关于到包含在所述图像中的被摄对象的检测距离的距离信息,变更所述拍摄的图像的分辨率的控制单元。
(2)按照(1)所述的成像设备,
其中所述控制单元根据所述距离信息,变更所述拍摄图像的一部分的区域的分辨率。
(3)按照(2)所述的成像设备,
其中所述一部分的区域是远离另一个区域的区域,和
所述控制单元变更所述一部分的区域的分辨率,以致所述一部分的区域的分辨率变得比所述另一个区域的分辨率高。
(4)按照(1)-(3)任意之一所述的成像设备,
其中所述控制单元在到被摄对象的距离大于预定基准的情况下,把被摄对象的分辨率设定为较高,而在到被摄对象的距离小于预定基准的情况下,把被摄对象的分辨率设定为较低。
(5)按照(1)-(4)任意之一所述的成像设备,
其中所述控制单元根据在拍摄图像中检测的运动体的所述距离信息,控制分辨率。
(6)按照(1)-(4)任意之一所述的成像设备,
其中所述控制单元根据在拍摄图像中检测的人的所述距离信息,控制分辨率。
(7)按照(1)-(4)任意之一所述的成像设备,
其中所述控制单元根据在拍摄图像中检测的被摄对象的大小,和所述距离信息,控制分辨率。
(8)按照(1)-(4)任意之一所述的成像设备,
其中所述控制单元根据在拍摄图像中检测的纹理,和所述距离信息,控制分辨率。
(9)按照(1)-(4)任意之一所述的成像设备,
其中所述控制单元根据在拍摄图像中检测的被摄对象的类型,和所述距离信息,控制分辨率。
(10)按照(1)-(4)任意之一所述的成像设备,
其中所述控制单元根据在拍摄图像中检测的被摄对象的移动量,和所述距离信息,控制分辨率。
(11)按照(1)-(4)任意之一所述的成像设备,
其中所述控制单元根据在拍摄图像中检测的被摄对象的移动方向,和所述距离信息,控制分辨率。
(12)按照(1)-(4)任意之一所述的成像设备,
其中所述控制单元按照所述距离信息和处理负荷,控制分辨率。
(13)按照(1)-(4)任意之一所述的成像设备,
其中所述控制单元按照所述距离信息,和用于进行利用所述图像的处理的算法,控制分辨率。
(14)按照(1)-(4)任意之一所述的成像设备,
其中所述控制单元按照所述距离信息和安装的透镜,控制分辨率。
(15)按照(1)-(14)任意之一所述的成像设备,
其中输出其分辨率由所述控制单元控制的图像,和具有固定分辨率的图像。
(16)按照(1)-(15)任意之一所述的成像设备,
其中所述控制单元通过变更像素读出的间除率,变更分辨率。
(17)按照(16)所述的成像设备,
其中通过间除预定区域内的像素降低分辨率的处理是通过相加具有相同颜色的像素的像素值,然后把通过加法获得的值除以加法中的像素数进行的。
(18)按照(1)-(17)任意之一所述的成像设备,还包括:
拍摄图像的成像单元。
(19)一种成像方法,包括:
根据与拍摄的图像对应的,关于到包含在所述图像中的被摄对象的检测距离的距离信息,变更所述拍摄的图像的分辨率的步骤。
(20)一种使计算机执行处理的程序,所述处理包括:
根据与拍摄的图像对应的,关于到包含在所述图像中的被摄对象的检测距离的距离信息,变更所述拍摄的图像的分辨率的步骤。
附图标记列表
10 成像设备
21 透镜组
22 成像元件
23 图像处理单元
24 帧存储器
25 显示单元
26 记录单元
27 操作单元
28 电源
29 驱动单元
30 通信单元
31 总线
101 像素阵列部分
102 读出控制单元
103 存储器接口
104 存储器
105 信号处理单元
106 输出控制单元
107 分辨率控制单元
108 分辨率地图创建单元
109 距离信息生成单元
121 拍摄图像处理单元
131 距离信息获取单元
431 运动体检测单元
451 人检测单元
471 大小检测单元
491 纹理检测单元
511 类型检测单元
531 移动量检测单元
551 移动方向决定单元
571 负荷检测单元
591 分辨率决定单元

Claims (11)

1.一种成像设备,包括:
控制单元,所述控制单元被配置为:
基于与拍摄的图像对应的关于从所述成像设备或者从包含在所述图像中的基准被摄对象到包含在所述图像中的被摄对象的检测距离的距离信息以及其他信息,生成分辨率地图,所述分辨率地图将所拍摄的图像分割成多个区域,其中每个区域具有预定大小和指示相应区域的分辨率的值;以及
基于所述分辨率地图,变更所拍摄的图像中的包括被摄对象的部分的分辨率,
其中,所述其他信息包括在所拍摄的图像中检测到的被摄对象的大小、在所拍摄的图像中检测到的纹理、在所拍摄的图像中检测到的被摄对象的类型、在所拍摄的图像中检测到的被摄对象的移动量、在所拍摄的图像中检测到的被摄对象的移动方向、处理负荷、用于进行利用所拍摄的图像的处理的算法、安装的透镜中的至少一个。
2.按照权利要求1所述的成像设备,
其中所述控制单元变更所拍摄的图像中的包括被摄对象的部分的分辨率,以致所拍摄的图像中的包括被摄对象的部分的分辨率变得比所拍摄的图像中的另一个部分的分辨率高。
3.按照权利要求1所述的成像设备,
其中所述控制单元在到被摄对象的距离大于预定基准的情况下,把所拍摄的图像中的包括被摄对象的部分的分辨率设定为较高,而在到被摄对象的距离小于预定基准的情况下,把所拍摄的图像中的包括被摄对象的部分的分辨率设定为较低。
4.按照权利要求1所述的成像设备,
其中所述距离信息是在所拍摄的图像中检测到的运动体的距离信息。
5.按照权利要求1所述的成像设备,
其中所述距离信息是在所拍摄的图像中检测到的人的距离信息。
6.按照权利要求1所述的成像设备,
其中输出由所述控制单元控制了分辨率的所拍摄的图像和具有固定分辨率的图像。
7.按照权利要求1所述的成像设备,
其中所述控制单元通过变更像素读出的间除率,变更所拍摄的图像中的包括被摄对象的部分的分辨率。
8.按照权利要求7所述的成像设备,
其中所述控制单元相加具有相同颜色的像素的像素值,并把通过该相加获得的值除以该相加中的像素数,从而通过间除所拍摄的图像中的包括被摄对象的部分中的像素,降低所拍摄的图像的分辨率。
9.按照权利要求1所述的成像设备,还包括:
获得所拍摄的图像的成像单元。
10.一种成像方法,包括:
基于与拍摄的图像对应的关于从成像设备或者从包含在所述图像中的基准被摄对象到包含在所述图像中的被摄对象的检测距离的距离信息以及其他信息,生成分辨率地图,所述分辨率地图将所拍摄的图像分割成多个区域,其中每个区域具有预定大小和指示相应区域的分辨率的值;以及
基于所述分辨率地图,变更所拍摄的图像中的包括被摄对象的部分的分辨率,
其中,所述其他信息包括在所拍摄的图像中检测到的被摄对象的大小、在所拍摄的图像中检测到的纹理、在所拍摄的图像中检测到的被摄对象的类型、在所拍摄的图像中检测到的被摄对象的移动量、在所拍摄的图像中检测到的被摄对象的移动方向、处理负荷、用于进行利用所拍摄的图像的处理的算法、安装的透镜中的至少一个。
11.一种存储有指令的非暂态计算机可读介质,所述指令在由处理器执行时使所述处理器执行:
基于与拍摄的图像对应的关于从成像设备或者从包含在所述图像中的基准被摄对象到包含在所述图像中的被摄对象的检测距离的距离信息以及其他信息,生成分辨率地图,所述分辨率地图将所拍摄的图像分割成多个区域,其中每个区域具有预定大小和指示相应区域的分辨率的值;以及
基于所述分辨率地图,变更所拍摄的图像中的包括被摄对象的部分的分辨率,
其中,所述其他信息包括在所拍摄的图像中检测到的被摄对象的大小、在所拍摄的图像中检测到的纹理、在所拍摄的图像中检测到的被摄对象的类型、在所拍摄的图像中检测到的被摄对象的移动量、在所拍摄的图像中检测到的被摄对象的移动方向、处理负荷、用于进行利用所拍摄的图像的处理的算法、安装的透镜中的至少一个。
CN201780038247.4A 2016-06-28 2017-06-14 成像设备、成像方法和程序 Active CN109314749B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016-127686 2016-06-28
JP2016127686 2016-06-28
PCT/JP2017/021948 WO2018003502A1 (ja) 2016-06-28 2017-06-14 撮像装置、撮像方法、プログラム

Publications (2)

Publication Number Publication Date
CN109314749A CN109314749A (zh) 2019-02-05
CN109314749B true CN109314749B (zh) 2022-04-05

Family

ID=60786343

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201780038247.4A Active CN109314749B (zh) 2016-06-28 2017-06-14 成像设备、成像方法和程序

Country Status (5)

Country Link
US (2) US10742872B2 (zh)
EP (1) EP3477938B1 (zh)
JP (2) JP6897679B2 (zh)
CN (1) CN109314749B (zh)
WO (1) WO2018003502A1 (zh)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7402606B2 (ja) * 2018-10-31 2023-12-21 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び電子機器
CN109361875B (zh) * 2018-12-19 2021-07-23 努比亚技术有限公司 一种拍摄存储方法、设备及计算机可读存储介质
JP7115390B2 (ja) * 2019-03-28 2022-08-09 株式会社デンソー 測距装置
JP7279533B2 (ja) * 2019-06-14 2023-05-23 ソニーグループ株式会社 センサ装置、信号処理方法
JP7433792B2 (ja) * 2019-07-19 2024-02-20 キヤノン株式会社 撮像装置およびその制御方法
CN110855882B (zh) * 2019-11-01 2021-10-08 RealMe重庆移动通信有限公司 拍摄处理方法及装置、存储介质和电子设备
US20230156341A1 (en) * 2020-04-02 2023-05-18 Koito Manufacturing Co., Ltd. Gating camera, sensing system for vehicle, and lighting unit for vehicle
CN115918101A (zh) * 2020-10-08 2023-04-04 索尼半导体解决方案公司 摄像装置、信息处理装置、摄像系统和摄像方法
CN116438588A (zh) * 2020-11-04 2023-07-14 住友电气工业株式会社 图像数据传输装置、图像数据传输方法、计算机程序及存储介质
JPWO2022153896A1 (zh) * 2021-01-12 2022-07-21
US20240314456A1 (en) * 2021-08-18 2024-09-19 Sony Semiconductor Solutions Corporation Imaging device, sensor, and imaging control device
CN115460362A (zh) * 2022-11-08 2022-12-09 之江实验室 一种分辨率可重构视觉传感器
US20240223915A1 (en) * 2022-12-28 2024-07-04 Kodiak Robotics, Inc. Systems and methods for downsampling images

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1967566A (zh) * 2005-11-14 2007-05-23 索尼株式会社 图像处理设备和图像处理方法
CN101018299A (zh) * 2006-02-07 2007-08-15 日本胜利株式会社 摄像方法以及摄像装置
WO2011111247A1 (ja) * 2010-03-12 2011-09-15 日立オートモティブシステムズ株式会社 ステレオカメラ装置

Family Cites Families (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3613741B2 (ja) * 1995-07-10 2005-01-26 コニカミノルタホールディングス株式会社 デジタルスチルカメラ、及びテレビ会議システム
US5883678A (en) * 1995-09-29 1999-03-16 Kabushiki Kaisha Toshiba Video coding and video decoding apparatus for reducing an alpha-map signal at a controlled reduction ratio
US6178272B1 (en) * 1999-02-02 2001-01-23 Oplus Technologies Ltd. Non-linear and linear method of scale-up or scale-down image resolution conversion
US6664955B1 (en) * 2000-03-15 2003-12-16 Sun Microsystems, Inc. Graphics system configured to interpolate pixel values
JP4154178B2 (ja) 2002-06-21 2008-09-24 キヤノン株式会社 ビデオカメラ
US7616233B2 (en) * 2003-06-26 2009-11-10 Fotonation Vision Limited Perfecting of digital image capture parameters within acquisition devices using face detection
JP4371795B2 (ja) 2003-12-09 2009-11-25 キヤノン株式会社 撮像装置及び撮像システム
JP2006261871A (ja) * 2005-03-16 2006-09-28 Victor Co Of Japan Ltd ハンズフリーカメラにおける画像処理装置
JP3996631B2 (ja) * 2005-09-09 2007-10-24 松下電器産業株式会社 画像処理方法、画像記録方法、画像処理装置および画像ファイルフォーマット
JP2008091999A (ja) * 2006-09-29 2008-04-17 Olympus Corp カメラ
JP4858294B2 (ja) * 2007-05-09 2012-01-18 ソニー株式会社 撮像装置、撮像回路および画像処理回路
DE102008001076A1 (de) * 2008-04-09 2009-10-15 Robert Bosch Gmbh Verfahren, Vorrichtung sowie Computerprogramm zur Auflösungsreduktion eines Eingangsbilds
JP5129031B2 (ja) 2008-06-04 2013-01-23 富士フイルム株式会社 監視カメラ装置
JP2010081002A (ja) * 2008-09-24 2010-04-08 Sanyo Electric Co Ltd 撮像装置
JP5300133B2 (ja) * 2008-12-18 2013-09-25 株式会社ザクティ 画像表示装置及び撮像装置
TWI418210B (zh) * 2010-04-23 2013-12-01 Alpha Imaging Technology Corp 避免快門延遲之影像擷取模組及影像擷取方法
JP2012063869A (ja) * 2010-09-14 2012-03-29 Nippon Signal Co Ltd:The ナンバープレート読み取り装置
JP5809925B2 (ja) * 2010-11-02 2015-11-11 オリンパス株式会社 画像処理装置、それを備えた画像表示装置及び撮像装置、画像処理方法、並びに画像処理プログラム
JP2012248026A (ja) 2011-05-27 2012-12-13 Nikon Corp 画像生成装置およびプログラム
JP5600649B2 (ja) 2011-08-26 2014-10-01 日本電信電話株式会社 映像処理装置及び方法及びプログラム
TW201320734A (zh) * 2011-11-03 2013-05-16 Altek Corp 產生背景模糊的影像處理方法及其影像擷取裝置
JP6018419B2 (ja) 2012-06-01 2016-11-02 シャープ株式会社 撮影装置、その制御方法、およびその制御プログラム
KR101385599B1 (ko) * 2012-09-26 2014-04-16 한국과학기술연구원 몽타주 추론 방법 및 장치
KR101488074B1 (ko) * 2013-02-04 2015-01-29 주식회사 동부하이텍 이미지 센서와 이를 이용한 비닝 이미지 생성 방법
US9462164B2 (en) * 2013-02-21 2016-10-04 Pelican Imaging Corporation Systems and methods for generating compressed light field representation data using captured light fields, array geometry, and parallax information
JP6157234B2 (ja) 2013-06-18 2017-07-05 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP6174975B2 (ja) * 2013-11-14 2017-08-02 クラリオン株式会社 周囲環境認識装置
US20150194128A1 (en) * 2014-01-07 2015-07-09 Nvidia Corporation Generating a low-latency transparency effect
JP6409301B2 (ja) * 2014-03-31 2018-10-24 株式会社ニコン 電子機器
JP6456039B2 (ja) 2014-04-25 2019-01-23 株式会社 日立産業制御ソリューションズ 監視カメラシステム
US9544497B2 (en) * 2014-05-21 2017-01-10 Qualcomm Incorporated System and method for determining image resolution
US10279742B2 (en) * 2014-05-29 2019-05-07 Nikon Corporation Image capture device and vehicle
US9898868B2 (en) * 2014-11-06 2018-02-20 Seiko Epson Corporation Display device, method of controlling the same, and program
WO2016084608A1 (ja) * 2014-11-25 2016-06-02 ソニー株式会社 内視鏡システム、および内視鏡システムの動作方法、並びにプログラム
US10248241B2 (en) * 2015-05-07 2019-04-02 Ricoh Company, Ltd. Digital signage system
JP6529360B2 (ja) * 2015-06-26 2019-06-12 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
US9848118B2 (en) * 2016-03-11 2017-12-19 Intel Corporation Phase detection autofocus using opposing filter masks
US10148876B1 (en) * 2016-07-26 2018-12-04 360fly, Inc. Panoramic video cameras, camera systems, and methods that facilitate handling multiple video streams while tracking an object

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1967566A (zh) * 2005-11-14 2007-05-23 索尼株式会社 图像处理设备和图像处理方法
CN101018299A (zh) * 2006-02-07 2007-08-15 日本胜利株式会社 摄像方法以及摄像装置
WO2011111247A1 (ja) * 2010-03-12 2011-09-15 日立オートモティブシステムズ株式会社 ステレオカメラ装置

Also Published As

Publication number Publication date
US20200336652A1 (en) 2020-10-22
US11425298B2 (en) 2022-08-23
JP2021153310A (ja) 2021-09-30
EP3477938A1 (en) 2019-05-01
US20190158732A1 (en) 2019-05-23
JP7201021B2 (ja) 2023-01-10
CN109314749A (zh) 2019-02-05
JPWO2018003502A1 (ja) 2019-04-18
EP3477938A4 (en) 2019-09-11
US10742872B2 (en) 2020-08-11
WO2018003502A1 (ja) 2018-01-04
EP3477938B1 (en) 2023-09-13
JP6897679B2 (ja) 2021-07-07

Similar Documents

Publication Publication Date Title
CN109314749B (zh) 成像设备、成像方法和程序
US12130362B2 (en) Imaging device and electronic device
JP7500962B2 (ja) 固体撮像素子、撮像装置、撮像方法および撮像プログラム
KR102560795B1 (ko) 촬상 장치, 및 전자 기기
US8605185B2 (en) Capture of video with motion-speed determination and variable capture rate
US10264174B2 (en) Photographing apparatus and focus detection method using the same
EP2424226B1 (en) Image-processing apparatus and method, and program
US20210218923A1 (en) Solid-state imaging device and electronic device
JP2022103180A (ja) 固体撮像装置、及び電子機器
KR20230074608A (ko) 고체 촬상 장치 및 전자 기기
US11171164B2 (en) Image sensor, image processing method, and electronic device
CN110235432B (zh) 固态成像装置及其驱动方法
WO2019026718A1 (en) IMAGING APPARATUS AND ELECTRONIC DEVICE
US20210377428A1 (en) Monitor camera
JP2017158048A (ja) 画像処理装置、及び画像処理方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant