CN103516951B - 图像生成装置以及图像生成方法 - Google Patents
图像生成装置以及图像生成方法 Download PDFInfo
- Publication number
- CN103516951B CN103516951B CN201310247029.5A CN201310247029A CN103516951B CN 103516951 B CN103516951 B CN 103516951B CN 201310247029 A CN201310247029 A CN 201310247029A CN 103516951 B CN103516951 B CN 103516951B
- Authority
- CN
- China
- Prior art keywords
- image
- face
- mentioned
- face mask
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
Landscapes
- Engineering & Computer Science (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Processing Or Creating Images (AREA)
- Image Analysis (AREA)
Abstract
本发明提供一种图像生成装置,其特征在于,具备:第一获取单元,其获取图像;提取单元,其提取由上述第一获取单元获取到的图像内的脸部的主要的构成部涉及的脸部构成部图像;第二获取单元,其获取与由上述第一获取单元获取到的图像内的脸部的特征信息相对应的脸部轮廓图像;变形单元,其基于由上述第一获取单元获取到的图像内的脸部的朝向,对上述脸部构成部图像以及上述脸部轮廓图像当中至少一者,实施以规定方向的轴为中心进行旋转的变形;以及生成单元,其使用由上述变形单元对至少一者进行变形后得到的上述脸部构成部图像以及上述脸部轮廓图像来生成肖像画图像。
Description
技术领域
本发明涉及图像生成装置以及图像生成方法。
背景技术
现有技术中,已知有使用眼、鼻、口、耳、脸的轮廓等的脸部位的特征点来作成肖像画的肖像画作成装置(例如,日本国特开2004-145625号公报)。
此外,已知有将按每个各部位而预先准备的部分对象组合起来作成人物的游戏装置(例如,日本国特开2008-061896号公报)。
但是,由于输入的脸部图像的脸部的朝向不一定朝向正面,所以在将不朝向正面的限、鼻、口等的脸部的主要的构成部配置在预先准备的朝向正面的脸部轮廓图像的内部来作成肖像画的情况下,构成部和脸部轮廓图像之间的平衡变差,存在形成不自然的肖像画的问题点。
因此,本发明的课题在于提供一种能够对构成部或者脸部轮廓图像进行变形来生成自然的肖像画的图像生成装置以及图像生成方法。
发明内容
本发明提供一种图像生成装置,其特征在于,具备:第一获取单元,其获取图像;提取单元,其提取由上述第一获取单元获取到的图像内的脸部的主要的构成部涉及的脸部构成部图像;第二获取单元,其获取与由上述第一获取单元获取到的图像内的脸部的特征信息相对应的脸部轮廓图像;变形单元,其基于由上述第一获取单元获取到的图像内的脸部的朝向,对上述脸部构成部图像以及上述脸部轮廓图像当中至少一者,实施以规定方向的轴为中心进行旋转的变形;以及生成单元,其使用由上述变形单元对至少一者进行变形后得到的上述脸部构成部图像以及上述脸部轮廓图像来生成肖像画图像。
本发明提供一种使用图像生成装置的图像生成方法,其特征在于,包括:获取图像的处理;提取由上述第一获取单元获取到的图像内的脸部的主要的构成部涉及的脸部构成部图像的处理;获取与由上述第一获取单元获取到的图像内的脸部的特征信息相对应的脸部轮廓图像的处理;基于由上述第一获取单元获取到的图像内的脸部的朝向,对上述脸部构成部图像以及上述脸部轮廓图像当中至少一者,实施以规定方向的轴为中心进行旋转的变形的处理;以及使用由上述变形单元对至少一者进行变形后得到的上述脸部构成部图像以及上述脸部轮廓图像来生成肖像画图像的处理。
附图说明
图1是表示适用本发明的一实施方式的摄像装置的概略构成的框图。
图2是示意表示肖像画图像生成处理涉及的图像的一例的图。
图3是示意表示肖像画图像生成处理涉及的图像的一例的图。
图4是表示图1的摄像装置的肖像画图像生成处理涉及的动作的一例的流程图。
图5是表示脸部轮廓图像的变形涉及的详细动作的一例的流程图。
图6是示意表示脸部轮廓图像的变形涉及的图像的一例的图。
图7是示意表示脸部轮廓图像的变形涉及的图像的一例的图。
图8是示意表示在肖像画图像生成处理中生成的肖像画图像的一例的图。
图9是示意表示变形例1以及变形例2涉及的脸部轮廓图像的一例的图。
具体实施方式
以下,针对本发明,使用附图说明具体的方式。但是,发明的范围不限定为图示例。
(实施方式1)
图1是表示适用本发明的一实施方式的摄像装置100的概略构成的框图。
如图1所示,本实施方式的摄像装置100,具体来说,具备:摄像部1、摄像控制部2、图像数据生成部3、存储器4、图像记录部5、图像处理部6、显示控制部7、显示部8、操作输入部9、以及中央控制部10。
此外,摄像部1、摄像控制部2、图像数据生成部3、存储器4、图像记录部5、图像处理部6、显示控制部7、以及中央控制部10经由总线11连接。
摄像部1作为摄像单元拍摄规定的被拍摄对象并生成帧图像。
具体来说,摄像部1具备:透镜部1a、电子摄像部1b、以及透镜驱动部1c。
透镜部1a例如由变焦透镜和聚焦透镜等的多个透镜构成。
电子摄像部1b例如由CCD(ChargeCoupledDevice)或CMOS(ComplementaryMetal-oxideSemiconductor)等的图像传感器(摄像元件)构成。并且,电子摄像部1b将通过透镜部1a的各种透镜的光学像转换为二维的图像信号。
虽然省略图示,但是透镜驱动部1c例如具备:使变焦透镜在光轴方向上移动的变焦驱动部、以及使聚焦透镜在光轴方向上移动的合焦驱动部等。
另外,摄像部1除了透镜部1a、电子摄像部1b、以及透镜驱动部1c以外,还可以具备对通过透镜部1a的光的量进行调整的光圈(省略图示)。
摄像控制部2对摄像部1的被拍摄对象的拍摄进行控制。即,虽然省略图示,但是摄像控制部2具备定时发生器、驱动器等。并且,摄像控制部2通过定时发生器、驱动器对电子摄像部1b进行扫描驱动,通过电子摄像部1b将通过透镜的光学像按每规定周期转换为二维的图像信号,从该电子摄像部1b的摄像区域中按每一画面的量逐个读出帧图像,并输出至图像数据生成部3。
另外,摄像控制部2可以取代透镜部1a的聚焦透镜,使电子摄像部1b在光轴方向上移动,从而调整透镜部1a的合焦位置。
此外,摄像控制部2也可以进行AF(自动合焦处理)、AE(自动曝光处理)、AWB(自动白平衡)等的拍摄被拍摄对象时的条件的调整控制。
图像数据生成部3在对从电子摄像部1b传送来的帧图像的模拟值的信号按每RGB的各色成分适当进行增益调整后,由采样保持电路(省略图示)进行采样保持,由A/D转换器(省略图示)转换为数字数据,由彩色处理电路(省略图示)进行包括像素插值处理以及γ补正处理在内的彩色处理的处理之后,生成数字值的亮度信号Y以及色差信号Cb、Cr(YUV数据)。
从彩色处理电路输出的亮度信号Y以及色差信号Cb、Cr经由未图示的DMA(DirectMemoryAccess)控制器,传送至作为缓冲存储器使用的存储器4。
存储器4例如由DRAM(DynamicRandomAccessMemory)等构成,并暂时保存由图像处理部6或中央控制部10等处理的数据等。
图像记录部5例如由非易失性存储器(闪速存储器)等构成,记录通过图像处理部6的编码部(省略图示)按照规定的压缩形式(例如,JPEG形式等)编码后的记录用的图像数据。
此外,在图像记录部(记录单元)5中预先记录作为在肖像画图像的生成中使用的图解的多个发型的发型图像P1(省略图示)、以及与多个脸部的形状对应的脸部轮廓图像P2(省略图示)的图像数据。
发型图像P1的图像数据的每一个是例如示意表示人的头发的轮廓的图像,脸部轮廓图像P2的图像数据的每一个是例如示意表示人的脸部的轮廓的图像。
具体来说,发型图像P1的图像数据能够通过从由脸部检测处理(后述)检测到的脸部区域内消除脸部的颌部的轮廓以及比该颌部更靠内侧的部分来形成,此外,脸部轮廓图像P2能够通过从由脸部检测处理(后述)检测到的脸部区域内提取脸部的轮廓来形成。
进一步地,发型图像P1的图像数据能够通过以规定的颜色全面涂敷头发来形成,脸部轮廓图像P2能够通过以规定的颜色全面涂敷肌肤部分来形成。
此外,沿着脸部的轮廓和头发的前端部的线的描绘可以基于用户进行的操作输入部9的规定操作手动进行,也可以在中央控制部10的CPU的控制下自动进行。
此外,图像记录部5例如可以构成为记录介质(省略图示)装卸自由,并对来自安装的记录介质的数据的读出和针对记录介质的数据的写入进行控制。
图像处理部6具备:图像获取部6a、脸部检测部6b、构成部图像生成部6c、特征信息提取部6d、发型图像确定部6e、脸部轮廓图像确定部6f、颌部轮廓确定部6g、脸部轮廓图像分割部6h、脸部轮廓图像变形部6i、以及肖像画图像生成部6j。
另外,图像处理部6的各个部分虽然例如由规定的逻辑电路构成,但该构成只是一例,并不限于此。
图像获取部6a获取作为肖像画图像生成处理的处理对象的图像。
即,图像获取部6a作为第一获取单元获取原始图像(例如,照片图像等)P3的图像数据。具体来说,图像获取部6a或者通过摄像部1以及摄像控制部2对被拍摄对象的摄像从存储器4获取由图像数据生成部3生成的原始图像P3的图像数据(YUV数据)的复制,或者获取记录在图像记录部5中的原始图像P3的图像数据(YUV数据)的复制(参照图2A)。
脸部检测部6b从成为处理对象的原始图像P3中检测脸部区域F1(参照图2A)。
即,脸部检测部6b作为脸部检测单元从由图像获取部6a获取到的原始图像P3中检测包含脸部在内的脸部区域F1。具体来说,脸部检测部6b获取由图像获取部6a作为肖像画图像生成处理的处理对象的图像而获取到的原始图像P3的图像数据,对该图像数据进行规定的脸部检测处理来检测脸部区域F1。
另外,脸部检测处理由于是公知的技术,所以这里省略详细的说明。
构成部图像生成部6c生成表示脸部的主要的脸部构成部的脸部构成部图像P5(参照图3B)。
即,构成部图像生成部6c作为提取单元提取由图像获取部6a获取到的原始图像P3(参照图2A)内的脸部的主要的脸部构成部涉及的脸部构成部图像P5。具体来说,构成部图像生成部6c对包含原始图像P3的脸部在内的脸部区域F1实施细微部提取处理,例如生成用线表示眼、鼻、口、眉毛、头发的毛、脸部的轮廓等的脸部构成部而得到的脸部微细部图像P4(参照图2B)。例如,构成部图像生成部6c作为微细部提取处理,通过使用了AAM(ActiveAppearanceModel)的处理来生成脸部微细部图像P4。此外,构成部图像生成部6c对由脸检测部6b从原始图像P3的图像数据中检测到的脸部区域F1实施微细部提取处理。
这里,所谓AAM是视觉的现象的模型化的一种手法,是进行任意的脸部区域F1的图像的模型化的处理。例如,构成部图像生成部6c预先将多个采样脸部图像中的规定的特征部位(例如,眼角、鼻头、或脸线(faceline)等)的位置和像素值(例如,亮度值)的统计分析结果登录在登录单元中。并且,构成部图像生成部6c以上述的特征部位的位置作为基准,设定表示脸部的形状的形状模型和表示平均的形状的“Appearance”的外表模型,使用这些模型对脸部区域F1的图像进行模型化。由此,构成部图像生成部6c提取原始图像P3内的主要的构成来生成用线表示的脸部微细部图像P4。
此外,构成部图像生成部6c通过微细部提取处理来确定脸部区域F1内的脸部的轮廓W1(参照图3A),生成用线来表示存在于脸部的轮廓W1内的脸部构成部、以及与该轮廓W1相接的脸部构成部而得到的脸部构成部图像P5。
具体来说,构成部图像生成部6c在脸部微细部图像P4内确定与脸部的轮廓W1相接的像素,消除与该像素接连的像素中存在于比脸部的轮廓W1更靠外侧的像素集合G、......(参照图3A)。即,构成部图像生成部6c在消除脸部微细部图像P4中存在于比脸部的轮廓W1更靠外侧的部分的同时,保留存在于比脸部的轮廓W1更靠内侧并且与该轮廓W1相接的部分(例如,朝向图3A左侧的眉毛等),例如,生成包含眼、鼻、口、眉毛等的主要的脸部构成部的部分图像M在内的脸部构成部图像P5(参照图3B)。另外,在图3A中,用虚线示意表示脸部的轮廓W1。
这里,构成部图像生成部6c也可以提取并获取各脸部构成部的部分图像M的XY平面空间中的相对的位置关系涉及的信息、或坐标位置涉及的信息。
另外,作为微细部提取处理,虽然例示了使用AAM的处理,但是只是一例,并不限于此,可以适当进行任意的变更。
例如,作为微细部提取处理,可以进行边缘提取处理和各向异性扩散处理,生成包含脸部构成部的部分图像M在内的脸部构成部图像P5。具体来说,构成部图像生成部6c可以例如对原始图像P3的图像数据(YUV数据)使用规定的微分滤波器(例如,高通滤波器等)进行微分运算,进行将在亮度值、颜色、或浓度方面存在急剧的变化的部分作为边缘来检测的边缘检测处理。此外,构成部图像生成部6c例如也可以进行如下的各向异性扩散处理,即,对原始图像P3的图像数据使用规定的各向异性扩散滤波器,按照在线状的边缘的切线方向和边缘的垂直方向上使权重不同的方式来进行平滑化。
特征信息提取部6d从原始图像P3的脸部区域F1中提取特征信息。
即,特征信息提取部6d作为信息提取单元,从由图像获取部6a获取到的原始图像P3内的脸部中,提取例如脸部的轮廓W1的形状等的特征信息。具体来说,特征信息提取部6d基于原始图像P3的图像数据(YUV数据),进行在脸部区域F1内选择并提取特征高的块区域(特征点)的特征提取处理。例如,特征信息提取部6d作为微细部提取处理,例如,通过使用了AAM的处理针对构成在脸部区域F1内确定出的脸部的轮廓W1的像素来进行特征提取处理,将该脸部的轮廓W1的形状作为特征信息来提取。这里,作为脸部的轮廓W1的形状,例如,列举确定了长轴以及短轴的长度的椭圆形,特别是与各脸部的颌部的轮廓W1一致的椭圆形。
另外,作为通过特征提取处理来提取的特征信息,虽然例示了脸部的轮廓的形状,但是只是一例,并不限于此,如果是在原始图像P3和发型图像P1(或者,脸部轮廓图像P2)中能够对比的信息,则能够适当进行任意变更。例如,也可以在原始图像P3和发型图像P1(或者,脸部轮廓图像P2)中提取并使用脸部的轮廓的特征向量,也可以使用发型的形状。此外,特征提取处理由于是公知的技术,所以这里省略详细的说明。
发型图像确定部6e确定与由特征信息提取部6d提取出的特征信息对应的发型图像P1。
即,发型图像确定部6e作为发型确定单元,从在图像记录部5中与脸部的特征信息对应记录的发型图像P1中,确定与由特征信息提取部6d提取出的特征信息对应的发型图像P1。具体来说,发型图像确定部6e对用来规定记录在图像记录部5中的规定数目的脸部的轮廓的形状的椭圆形、和用来规定由特征信息提取部6d提取出的脸部的轮廓W1的形状的椭圆形进行比较,确定一致度比规定值高的椭圆形。并且,发型图像确定部6e对与确定出的椭圆形建立了对应的发型图像P1的图像数据进行确定。
另外,发型图像确定部6e也可以确定多个一致度比规定值高的椭圆形,在该多个椭圆形中,确定基于用户对操作输入部9的规定操作而选择出的用户希望的椭圆形。
脸部轮廓图像确定部6f确定与由特征信息提取部6d提取出的特征信息对应的脸部轮廓图像P2。
即,脸部轮廓图像确定部6f作为第二获取单元,从在图像记录部5中与脸部的特征信息对应记录的脸部轮廓图像P2中确定与由特征信息提取部6d提取出的特征信息对应的脸部轮廓图像P2。具体来说,发型图像确定部6e对用来规定记录在图像记录部5中的规定数目的脸部的轮廓的形状的椭圆形、和用来规定由特征信息提取部6d提取出的脸部的轮廓W1的形状的椭圆形进行比较,确定一致度比规定值高的椭圆形。并且,脸部轮廓图像确定部6f对与确定出的椭圆形建立了对应的脸部轮廓图像P2的图像数据进行确定。
另外,脸部轮廓图像确定部6f也可以确定多个一致度比规定值高的椭圆形,在该多个椭圆形中,确定基于用户对操作输入部9的规定操作而选择出的用户希望的椭圆形。
颌部轮廓确定部6g确定脸部微细部图像P4的颌部轮廓W2以及收容颌部轮廓W2的矩形区域F2、和脸部微细部图像P4中的颌部的前端。
即,颌部轮廓确定部6g作为确定单元,在通过使用了AAM的处理而得到的脸部微细部图像P4中确定颌部轮廓W2的同时,确定收容颌部轮廓W2的矩形区域F2(参照图6)。进一步地,颌部轮廓确定部6g计算脸部微细部图像P4中的两眼的中点,向下移动与连接两眼的中心的直线正交并且经过计算出的中点的直线,将与最初确定出的脸部微细部图像P4的颌部轮廓W2相交的点确定为脸部微细部图像P4中的颌部的前端。
此外,因为颌部轮廓W2、以及收容颌部轮廓W2的矩形区域F2的确定处理是公知的技术,所以这里省略详细的说明。
脸部轮廓图像分割部6h将脸部轮廓图像左右分割而生成分割脸部轮廓区域,此外,将分割脸部轮廓区域进一步左右分割而生成再次分割区域。
即,脸部轮廓图像分割部6h作为分割单元,以颌部的前端作为中心,将由脸部轮廓图像确定部6f确定出的脸部轮廓图像P2分割为左右的分割脸部轮廓区域,进一步地,将这些分割脸部轮廓区域左右分割而生成多个再次分割区域。
脸部轮廓图像变形部6i基于图像内的脸部的朝向,对由脸部轮廓图像确定部6f确定出的脸部轮廓图像P2实施以规定方向的轴为中心使其旋转这样的变形。
顺带地,所谓图像内的脸部的朝向是以在相互正交的前后方向、左右方向、以及上下方向中至少任一个方向上延伸的轴为中心,使从大致正前方观察到的状态的基准脸部在规定的方向上旋转时的偏移方向。
即,脸部轮廓图像变形部6i作为变形单元,在通过使用了AAM的处理而得到的脸部微细部图像P4中,按照两眼的位置成为水平的方式进行旋转补正,换言之,按照以在从大致正前方观察到的状态的脸部的前后方向上延伸的轴作为中心进行旋转的方式来使脸部微细部图像P4变形。
进一步地,脸部轮廓图像变形部6i按照使收容由脸部轮廓图像确定部6f确定出的脸部轮廓图像P2中的颌部轮廓的矩形区域、和收容最初计算出的脸部微细部图像P4中的颌部轮廓W2的矩形区域F2一致的方式,来整体放大或缩小脸部轮廓图像P2,并且按照使以颌部的前端为中心的左右的比率与脸部微细部图像P4一致的方式,来使脸部轮廓图像P2变形。
具体来说,对由脸部轮廓图像分割部6h左右分割后得到的分割脸部轮廓区域的左右任一方的分割脸部轮廓区域进行放大,对另一方的分割脸部轮廓区域进行缩小。
另外,在按照使以颌部的前端为中心的左右的比率与脸部微细部图像P4一致的方式来对脸部轮廓图像P2进行变形的情况下,当然没有必要完全一致,可以是使以颌部的前端为中心的左右的比率与脸部微细部图像P4大致一致的程度。
肖像画图像生成部6j使用发型图像P1、脸部构成部图像P5、以及脸部轮廓图像P2来生成肖像画图像P6。
即,肖像画图像生成部6j作为生成单元,使用由发型图像确定部6e确定出的发型图像P1的图像数据、由构成部图像生成部6c生成的脸部构成部图像P5的部分图像M、以及由脸部轮廓图像确定部6f确定并由脸部轮廓图像变形部6i变形后得到的脸部轮廓图像P2的图像数据来生成肖像画图像P6。
具体来说,肖像画图像生成部6j在比发型图像P1以及脸部轮廓图像P2的脸部的轮廓W1更靠内侧,确定例如使眼、鼻、口、眉毛等的各脸部构成部的部分图像M重叠的位置,使各脸部构成部的部分图像M重叠在该位置,生成由肖像画表示原始图像P3而得到的肖像画图像P6的图像数据。此时,肖像画图像生成部6j也可以使发型图像P1以及脸部轮廓图像P2按照以下方式变形,即,对该脸部的轮廓进行规定的椭圆形与对原始图像P3的脸部的轮廓W1进行规定的椭圆形一致。
此外,肖像画图像生成部6j也可以生成按照对肖像画图像P6的规定的部分(例如,眼、口、眉毛等的脸部构成部等)附加规定的颜色的方式来表示的图像。
显示控制部7进行读出暂时保存在存储器4中的显示用的图像数据并使其显示在显示部8中的控制。
具体来说,显示控制部7具备:VRAM(VideoRandomAccessMemory)、VRAM控制器、数字视频编码器等。并且,数字视频编码器经由VRAM控制器从VRAM中定期读出在中央控制部10的控制下从存储器4中读出并保存在VRAM(省略图示)中的亮度信号Y以及色差信号Cb、Cr,以这些数据为基础来产生视频信号,并输出至显示部8。
显示部8例如是液晶显示面板,基于来自显示控制部7的视频信号在显示画面中显示由摄像部1拍摄到的图像等。具体来说,显示部8在静止图像摄像模式和动态图像摄像模式下,一面按照规定的帧频逐次更新通过摄像部1以及摄像控制部2进行的被拍摄对象的摄像而生成的多个帧图像,一面显示实时取景图像。此外,显示部8或者显示作为静止图像记录的图像(记录浏览图像:recviewimage),或者作为动态图像而显示记录中的图像。
操作输入部9是用于进行该摄像装置100的规定操作的单元。具体来说,操作输入部9具备被拍摄对象的摄像指示涉及的快门按钮、摄像模式或功能等的选择指示涉及的选择决定按钮、变焦量的调整指示涉及的变焦按钮等(均未图示)的操作部,按照该操作部的各按钮的操作将规定的操作信号输出至中央控制部10。
中央控制部10是控制摄像装置100的各个部分的单元。具体来说,中央控制部10虽然省略图示,但是具备CPU(CentralProcessingUnit)等,按照摄像装置100用的各种处理程序(省略图示)来进行各种控制动作。
接着,参照图4说明摄像装置100的肖像画图像生成处理。图4是表示肖像画图像生成处理涉及的动作的一例的流程图。
肖像画图像生成处理是如下处理,即,基于用户对操作输入部9的选择决定按钮的规定操作,在从显示在菜单画面中的多个动作模式中选择指示了肖像画图像生成模式的情况下,在中央控制部10的控制下,由该摄像装置100的各部,特别是由图像处理部6来执行的处理。
此外,设成为肖像画图像生成处理的处理对象的原始图像P3的图像数据记录在图像记录部5中。
如图4所示,首先,图像记录部5在记录在图像记录部5中的图像数据中,读出基于用户对操作输入部9的规定操作而指定的原始图像P3(参照图2A)的图像数据,图像处理部6的图像获取部6a获取读出的图像数据作为该肖像画图像生成处理的处理对象(步骤S1)。
接着,脸部检测部6b对作为处理对象由图像获取部6a获取到的原始图像P3的图像数据进行规定的脸部检测处理来检测脸部区域F1(步骤S2)。
接着,构成部图像生成部6c对检测到的脸部区域F1进行微细部提取处理(例如,使用了AAM的处理等),生成用线来表示原始图像P3的脸部区域F1内的眼、鼻、口、眉毛、头发的毛、脸部的轮廓等的脸部构成部而得到的脸部微细部图像P4(参照图2B)(步骤S3)。并且,构成部图像生成部6c通过微细部提取处理来确定脸部区域F1内的脸部的轮廓W1,生成包含存在于脸部的轮廓W1内的脸部构成部以及与该轮廓W1相接的脸部构成部、即例如眼、鼻、口、眉毛等的主要的脸部构成部的部分图像M在内的脸部构成部图像P5(步骤S4;参照图3B)。
接着,特征信息提取部6d对构成通过微细部提取处理在脸部区域F1内确定出的脸部的轮廓W1的像素进行特征提取处理,确定对该脸部的轮廓W1的形状进行规定的椭圆形,并作为特征信息来提取(步骤S5)。
接着,发型图像确定部6e对用来规定记录在图像记录部5中的规定数目的脸部的轮廓的形状的椭圆形、和用来规定由特征信息提取部6d提取出的脸部的轮廓W1的形状的椭圆形进行比较。并且,发型图像确定部6e确定一致度比规定值高的椭圆形,对与确定出的椭圆形建立了对应的发型图像P1的图像数据进行确定,从图像记录部5中读出并获取(步骤S6)。
同样地,脸部轮廓图像确定部6f对用来规定记录在图像记录部5中的规定数目的脸部的轮廓的形状的椭圆形、和用来规定由特征信息提取部6d提取出的脸部的轮廓W1的形状的椭圆形进行比较。并且,脸部轮廓图像确定部6f确定一致度比规定值高的椭圆形,并对与确定出的椭圆形建立了对应的脸部轮廓图像P2的图像数据进行确定,从图像记录部5中读出并获取(步骤S7)。
并且,脸部轮廓图像变形部6i进行脸部轮廓图像P2的变形(步骤S8)。这里,参照图5详细说明脸部轮廓图像变形部6i的脸部轮廓图像P2的变形(步骤S8)。是表示脸部轮廓图像P2的变形涉及的详细动作的一例的流程图。
首先,脸部轮廓图像变形部6i按照以在从大致正前方观察到的状态的脸部的前后方向上延伸的轴为中心进行旋转的方式使脸部微细部图像P4变形(步骤S11)。
例如,如图6A所示,脸部轮廓图像变形部6i为了使通过使用了AAM的处理而得到的脸部微细部图像P4的两眼的位置为水平,按照以在从大致正前方观察到的状态的脸部的前后方向上延伸的轴为中心进行旋转的方式,使脸部微细部图像P4变形。
接着,颌部轮廓确定部6g对脸部微细部图像P4中的颌部轮廓W2、以及收容颌部轮廓W2的矩形区域F2进行确定(步骤S12)。但是,在图6A中为了说明简单,使脸部微细部图像P4的颌部轮廓W2重叠在原始图像P3上。
此外,颌部轮廓确定部6g进行脸部微细部图像P4中的颌部的前端PS2的确定(步骤S13)。
例如,如图6B所示,颌部轮廓确定部6g在通过使用了AAM的处理而得到的脸部微细部图像P4中,计算两眼的中点PS1,将与连接两眼的中心的直线正交并且通过计算出的两眼的中点PS1的直线与颌部轮廓W2相交叉的点确定为脸部微细部图像P4中的颌部的前端PS2。但是,在图6B中为了说明简单,使脸部微细部图像P4的颌部轮廓W2重叠在图像P3上。
接着,脸部轮廓图像变形部6i按照以在从大致正前方观察到的状态的脸部的左右方向上延伸的轴为中心进行转动的方式,使脸部轮廓图像P2变形(步骤S14)。
例如,如图7A所示,脸部轮廓图像变形部6i按照使收容由脸部轮廓图像确定部6f确定出的脸部轮廓图像P2中的颌部轮廓的矩形区域F3、与收容由颌部轮廓确定部6g确定出的脸部微细部图像P4中的颌部轮廓W2的矩形区域F2一致的方式,来放大或缩小脸部轮廓图像P2整体。
具体来说,在存储在图像记录部5中的脸部轮廓图像P2是表示图7A中“TP1”的尺寸的情况下,如图7A中“TP2”所示整体放大后收容颌部轮廓的矩形区域F3放大为矩形区域F4,与收容由颌部轮廓确定部6g确定出的脸部微细部图像P4中的颌部轮廓W2的矩形区域F2一致。
这样,通过整体放大或缩小脸部轮廓图像P2,能够按照以在从大致正前方观察到的状态的脸部的左右方向上延伸的轴为中心进行旋转的方式,使脸部轮廓图像P2变形。
即,在脸部不是正面,而是朝上或朝下的情况下,收容脸部的颌部轮廓的矩形区域的纵方向变短,通过使收容脸部轮廓图像P2中的颌部轮廓的矩形区域F3与这样的矩形区域一致,能够使脸部轮廓图像P2的纵方向变短,生成更自然的肖像画图像。
另外,在按照以在从大致正前方观察到的状态的脸部的左右方向上延伸的轴为中心进行旋转的方式而变形的情况下,如上所述,不只是单纯地整体放大或缩小,可以使脸部轮廓图像P2的横宽固定,仅放大或缩小纵宽。
接着,脸部轮廓图像变形部6i按照以在从大致正前方观察到的状态的脸部的上下方向上延伸的轴为中心进行旋转的方式,使脸部轮廓图像P2变形(步骤S15)之后,返回图4的流程图的步骤S9(return)。
例如,脸部轮廓图像变形部6i按照使在脸部微细部图像P4中确定出的颌部的前部PS2(参照图6B)、和脸部轮廓图像P2的颌部的前端PS3(参照图7A)一致的方式,对由脸部轮廓图像分割部6h将脸部轮廓图像P2左右分割后得到的分割脸部轮廓区域中左右任一方的分割脸部轮廓区域进行放大,并缩小另一方的分割脸部轮廓区域。
具体来说,由于脸部轮廓图像P2是正面图像,所以脸部轮廓图像P2的颌部的前端PS3存在于矩形区域F4的下边的中央。另一方面,在图6B中,脸部微细部图像P4中的颌部的前端PS2从颌部宽WD1的中心向附图左方向偏移一些。
由此,脸部轮廓图像变形部6i设脸部轮廓图像P2(参照图7B)中的颌部宽WD4(与颌部宽WD1相同长度)为固定,按照分别使从颌部的前端PS3至附图左侧的颌部宽的长度WD5、和从颌部的前端PS3至附图右侧的颌部宽的宽度WD6与图6B中的从颌部的前端PS2至附图左侧的颌部宽的宽度WD2、和从颌部的前端PS2至附图右侧的颌部宽的宽度WD3相等的方式,对将脸部轮廓图像P2左右分割后得到的分割脸部轮廓区域的左右任一方的分割脸部轮廓区域进行放大,并缩小另一方的分割脸部轮廓区域。
即,在图6B中,由于从颌部的前端PS2至附图左侧的颌部宽的宽度WD2比从颌部的前端PS2至附图右侧的颌部宽的宽度WD3短,所以脸部轮廓图像变形部6i设脸部轮廓图像P2(参照图7B)的颌部宽WD4固定,按照缩小宽度WD5使其变窄、并且放大宽度WD6使其变宽的方式,来调整将脸部轮廓图像P2左右分割后得到的分割脸部轮廓区域的缩放比率。
这样,通过对由脸部轮廓图像分割部6h将脸部轮廓图像P2左右分割后得到的分割脸部轮廓区域的左右任一方的分割脸部轮廓区域进行放大,并缩小另一方的分割脸部轮廓区域,能够按照以在从大致正前方观察到的状态的脸部的上下方向上延伸的轴为中心进行旋转的方式,使脸部轮廓图像P2变形。
最后,返回到图4的流程图,肖像画图像生成部6j对使发型图像P1、脸部轮廓图像P2、以及脸部构成部图像P5的例如眼、鼻、口、眉毛等的各脸部构成部的部分图像M重叠的位置进行确定,使各脸部构成部的部分图像M重叠在该位置上,生成以肖像画来表示原始图像P3而得到的肖像画图像P6的图像数据。
并且,图像记录部5获取并记录由肖像画图像生成部6j生成的肖像画图像P6的图像数据(YUV数据)(步骤S9;参照图4)。
由此,结束肖像画图像生成处理。
例如,在图8A所示的由肖像画图像生成部6j生成的肖像画图像P6中,由于脸部轮廓图像P2的颌部的前端PS4与在脸部微细部图像P4中确定出的颌部的前端PS2(参照图6B)一致,所以成为更自然的肖像画。
另一方面,图8B是未由脸部轮廓图像变形部6i进行脸部轮廓图像P2的变形的情况下的肖像画图像,由于作为颌部宽的中央部分的脸部轮廓图像P2的颌部的前端PS5与在脸部微细部图像P4中确定出的颌部的前端PS2(参照图6B)不一致,所以脸部的轮廓和所配置的眼、鼻、口、眉毛等的各脸部构成部的部分图像之间的平衡变得不自然。
如以上所述,根据本实施方式的摄像装置100,由于能够考虑成为肖像画图像的生成源的图像内的方向来使脸部构成图像和脸部轮廓图像变形,所以能够生成更自然的肖像画。
此外,通过按照使在脸部微细部图像P4中确定出的颌部的前端PS2与脸部轮廓图像P2的颌部的前端PS3一致的方式来对将脸部轮廓图像P2左右分割后得到的分割脸部轮廓区域的左右任一方的分割脸部轮廓区域进行放大并缩小另一方的分割脸部轮廓区域,能够按照以在从大致正前方观察到的状态的脸部的上下方向上延伸的轴为中心进行旋转的方式,使脸部轮廓图像P2变形。
此外,在通过使用了AAM的处理而得到的脸部微细部图像P4中,在计算收容颌部轮廓W2的矩形区域F2时,通过按照使两眼的位置成为水平的方式来进行旋转补正,能够按照在从大致正前方观察到的状态的脸的前后方向上延伸的轴为中心进行旋转的方式,使生成的肖像画图像P6变形。
此外,通过按照收容脸部微细部图像P4中的颌部轮廓的矩形区域、与收容脸部轮廓图像P2中的颌部轮廓的矩形区域一致的方式来整体放大或缩小脸部轮廓图像P2,或者使脸部轮廓图像P2的横宽固定而仅放大或缩小纵宽,能够按照以在从大致正前方观察到的状态的脸部的左右方向上延伸的轴为中心进行旋转的方式,使脸部轮廓图像P2变形。
(变形例1)
说明实施方式1的变形例1。但是,省略与实施方式1相同的说明。
在实施方式1中,通过放大加宽由宽度WD6表示的分割脸部轮廓区域,从而不仅仅是脸部轮廓,连构成脸部轮廓图像P2的耳朵也放大其宽度。
此外,相反,通过缩小缩窄由宽度WD5表示的分割脸部轮廓区域,从而不仅仅是脸部轮廓,连构成脸部轮廓图像P2的耳朵也缩小其宽度。但是,在缩小耳朵的宽度的情况下,与放大耳朵的宽度的情况相比,不适感较小。
由此,在耳朵的宽度的放大的比例大的情况下,生成的肖像画会不自然。
因此,在变形例1中,如图9A所示,作为分割单元的脸部轮廓图像分割部6h,对将脸部轮廓图像P2左右分割后得到的分割脸部轮廓区域R1以及R2内放大的分割脸部轮廓区域R2进一步进行分割,形成再次分割区域R21以及R22。但是,原始图像P3和其他条件与第一实施方式相同。
并且,作为变形单元的脸部轮廓图像变形部6i,在放大加宽再次分割区域R21以及R22时,使再次分割区域R22的放大的比例比放大再次分割区域21的比例小。
即,通过使放大包含耳朵在内的再次分割区域R22的比例比其他的再次分割区域R21小,能够防止放大耳朵的宽度后生成的肖像画变得不自然。
如以上所述,在变形例1中,作为变形单元的脸部轮廓图像变形部6i在进一步对分割脸部轮廓区域进行分割后得到的再次分割区域之间,改变横宽的放大或缩小的比例,特别,通过使放大包含耳朵在内的再次分割区域的比例比其他的再次分割区域小,能够生成更自然的肖像画。
(变形例2)
说明实施方式1的变形例2。但是,省略与实施方式1相同的说明。
在变形例2中,可以不将分割脸部轮廓区域进一步分割为再次分割区域,而在分割脸部轮廓区域内使宽度的放大或缩小的比例连续地进行变化。
例如,在图9B中,如表示放大或缩小的比例的曲线C1,在附图左侧连续缩小分割脸部轮廓区域的宽度,在附图右侧连续放大分割脸部轮廓区域的宽度,并且在耳朵部分的区域R3以及R4中进行放大或者缩小。
这样,通过在分割脸部轮廓区域内使宽度的放大或缩小的比例连续地变化,能够使耳朵的宽度一点不变,而是按照以在从正前方观察到的状态的脸部的上下方向上延伸的轴为中心进行旋转的方式,使脸部轮廓图像P2变形。
如以上所述,在变形例2中,作为变形单元的脸部轮廓图像变形部6i通过在分割脸部轮廓区域内使宽度的放大或缩小的比例连续地变化,能够生成更自然的肖像画。
(变形例3)
说明实施方式1的变形例3。但是,省略与实施方式1相同的说明。
在变形例3中,也可以使发型图像P1也对应于原始图像P3的脸部的朝向进行变形。
例如,作为变形单元的脸部轮廓图像变形部6i,通过在将发型图像P1和脸部轮廓图像P2进行合成的基础上,或者,与脸部轮廓图像P2不同地,按照在最初所述的图4中所示的步骤S8(详细参照图5)中示出的顺序来进行发型图像P1的变形,能够与图像P3的脸部的朝向相对应地生成发型图像P1以及脸部轮廓图像P2的变形后的肖像画。
即,通过对将发型图像P1左右分割后得到的一方的分割发型区域的横宽进行放大并缩小另一方的分割发型区域的横宽,能够按照包含发型并在从大致正前方观察到的状态的脸部的上下方向上延伸的轴为中心进行旋转的方式,使脸部轮廓图像P2变形。
如以上所述,在变形例3中,作为变形单元的脸部轮廓图像变形部6i通过对将发型图像P1左右分割后得到的一方的分割发型区域的横宽进行放大并缩小另一方的分割发型区域的横宽,能够生成更自然的肖像画。
(变形例4)
说明实施方式1的变形例4。但是,省略与实施方式1相同的说明。
在变形例4中,可以预先使用包含眼、鼻、口、眉毛等的各脸部构成部在内的脸部轮廓图像P2,与原始图像P3的脸部的朝向相对应地变形。
如以上所述,在变形例4中,作为变形单元的脸部轮廓图像变形部6i通过预先使用包含眼、鼻、口、眉毛等的各脸部构成部在内的脸部轮廓图像P2,与原始图像P3的脸部的朝向相对应地变形,能够不生成脸部构成部图像P5,而生成更自然的肖像画。
另外,本发明不限定为上述实施方式,而是可以在不脱离本发明的主旨的范围中,进行各种的改良以及设计的变更。
例如,在上述实施方式中,虽然在脸部构成部图像P5的生成后进行特征信息(脸部的轮廓W2的形状等)的提取,但是这些处理的顺序只是一例,并不限于此,也可以使顺序相反,即在特征信息的提取处理后,进行脸部构成部图像P5的生成处理。
此外,虽然根据由脸部检测部6b检测出的脸部区域F1来生成脸部构成部图像P5,但是关于是否具备实施脸部检测处理的脸部检测部6b,能够适当任意变更。
进一步地,成为脸部构成部图像P5的生成源的图像没有必要是表示正面脸部的图像P3,例如,在脸部按照朝向歪斜的方式而倾斜的图像的情况下,可以生成按照该脸部朝向正面的方式而变形后的图像,作为生成源来使用。
此外,虽然构成为具备记录发型图像P1以及脸部轮廓图像P2的图像记录部5,但是并不限于此,例如,也可以构成为将发型图像P1以及脸部轮廓图像P2预先记录在能够经由规定的通信网络与该装置本体连接的规定的服务器中,从未图示的通信处理部经由通信网络对规定的服务器进行访问,图像获取部6a也可以构成为从该服务器获取发型图像P1以及脸部轮廓图像P2。
此外,在上述实施方式中,使眼、鼻、口、眉毛等的各脸部构成部的部分图像M重叠在发型图像P1以及脸部轮廓图像P2上来生成肖像画图像P6,但这只是一例,并不限于此。
进一步地,关于摄像装置100的构成,上述实施方式中例示的是一例,并不限于此。此外,作为图像生成装置,虽然例示出摄像装置100,但是并不限于此,只要是能够执行本发明涉及的图像生成处理就可以是任意的构成。
此外,作为第二获取单元的脸部轮廓图像确定部6f虽然对与由特征信息提取部6d提取出的特征信息相对应的发型图像P1进行确定,但是脸部轮廓图像确定部6f也可以不利用由特征信息提取部6d提取出的特征信息就确定发型图像P1。
此外,在实施方式1中,为了说明简单,虽然按照分别对待发型图像P1和脸部轮廓图像P2的方式来进行了说明,但是也可以将发型图像P1和脸部轮廓图像P2成为了一体的图像作为脸部轮廓图像P2来对待。
即,在表示头发的轮廓的同时,也可以使用与脸部的形状相对应的脸部轮廓图像P2。
此外,当然,脸部轮廓图像P2只是脸部的轮廓,可以不包含发型的轮廓。
在此情况下,作为生成单元的肖像画图像生成部6j能够不使用由发型图像确定部6e确定出的发型图像P1的图像数据,而使用脸部构成部图像P5的部分图像M、以及由脸部轮廓图像确定部6f确定并由脸部轮廓图像变形部6i变形后得到的脸部轮廓图像P2的图像数据来生成肖像画图像P6。
同样地,在将发型图像P1和脸部轮廓图像P2成为了一体的图像作为脸部轮廓图像P2来对待的情况下,脸部轮廓图像P2,发型轮廓也同时表示,通过由作为变形单元的脸部轮廓图像变形部6i,按照使在脸部微细部图像P4中确定出的颌部的前端PS2、和脸部轮廓图像P2的颌部的前端PS3一致的方式对将脸部轮廓图像P2左右分割后得到的分割脸部轮廓区域的左右任一方的分割脸部轮廓区域进行放大,并缩小另一方的分割脸部轮廓区域,能够按照以在从大致正前方观察到的状态的脸部的上下方向上延伸的轴为中心进行旋转的方式,使发型变形。
此外,由作为变形单元的脸部轮廓图像变形部6i,在通过使用了AAM的处理而得到的脸部微细部图像P4中,在计算收容颌部轮廓W2的矩形区域F2时,通过按照两眼的位置处于水平的方式来进行旋转补正,能够按照以在从大致正前方观察到的状态的脸部的前后方向上延伸的轴为中心进行旋转,使发型变形。
进一步地,通过由作为变形单元的脸部轮廓图像变形部6i,按照使收容脸部微细部图像P4中的颌部轮廓的矩形区域、与收容脸部轮廓图像P2中的颌部轮廓的矩形区域一致的方式来放大或缩小脸部轮廓图像P2整体,或者使脸部轮廓图像P2的横宽固定而只放大或缩小纵宽,能够按照在从大致正前方观察到的状态的脸部的左右方向上延伸的轴为中心进行旋转的方式来使发型变形。
此外,在作为确定单元的颌部轮廓确定部6g中,计算通过使用了AAM的处理而得到的脸部微细部图像P4的两眼的中点,将与连接两眼的中心的直线正交并且经过计算出的中点的直线与颌部轮廓相交叉的点确定为脸部微细部图像P4中的颌部的前端,但是,当然也可以通过对脸部构成部图像P5进行上述处理,来确定为脸部构成部图像P5中的颌部的前端。
此外,在作为变形单元的脸部轮廓图像变形部6i中,虽然按照使收容脸部轮廓图像P2中的颌部轮廓的矩形区域、与收容脸部微细部图像P4中的颌部轮廓的矩形区域一致的方式来整体放大或缩小脸部轮廓图像P2,但是,也可以按照使收容脸部轮廓图像P2中的颌部轮廓的矩形区域、与收容脸部构成部图像P5中的颌部轮廓的矩形区域一致的方式来整体放大或缩小脸部轮廓图像P2。
此外,在作为变形单元的脸部轮廓图像变形部6i中,虽然按照使以颌部的前端为中心的左右的比率与脸部微细部图像P4一致的方式来对脸部轮廓图像P2进行变形,但是,当然也可以按照使以颌部的前端为中心的左右的比率与脸部构成部图像P5一致的方式来对脸部轮廓图像P2进行变形。
此外,脸部轮廓图像确定部6f虽然通过对用来规定记录在图像记录部5中的规定数目的脸部的轮廓的形状的椭圆形、和用来规定由特征信息提取部6d提取出的脸部的轮廓W1的形状的椭圆形进行比较,来确定脸部轮廓图像P2,但是也可以是脸部轮廓图像确定部6f在从原始图像P3的脸部区域F1中提取特征信息的同时,确定脸部轮廓图像P2。
此外,在作为变形单元的脸部轮廓图像变形部6i中,虽然对脸部轮廓图像P2进行了变形,但是,当然也可以对脸部构成部图像P5进行变形。例如,可以对脸部构成部图像P5的左右眼的大小进行变形。
除此以外,在上述实施方式中,虽然构成为,在中央控制部10的控制下,通过图像获取部6a、构成部图像生成部6c、脸部轮廓图像确定部6f、脸部轮廓图像变形部6i、肖像画图像生成部6j进行驱动来实现作为第一获取单元、提取单元、第二获取单元、变形单元、生成单元的功能,但是并不限于此,也可以通过由中央控制部10来执行规定的程序,从而实现上述功能。
即,在存储程序的程序存储器(省略图示)中预先存储包含第一获取处理例程、提取处理例程、第二获取处理例程、变形处理例程、生成处理例程在内的程序。并且,可以通过第一获取处理例程使中央控制部10的CPU作为获取图像的单元来发挥作用。此外,也可以通过提取处理例程使中央控制部10的CPU作为用来生成获取到的图像内的脸部的主要的构成部涉及的脸部构成部图像P5的单元来发挥作用。此外,也可以通过第二获取处理例程使中央控制部10的CPU作为从表示与脸部的特征信息对应记录在图像记录部5中的脸部的轮廓的脸部轮廓图像P2中确定与提取出的特征信息相对应的脸部轮廓图像P2的单元来发挥作用。此外,也可以通过变形处理例程使中央控制部10的CPU作为放大或缩小由脸部轮廓图像确定部6f确定出的脸部轮廓图像P2整体,或者对脸部轮廓图像P2的左右的分割轮廓区域的左右任一方的分割脸部轮廓区域进行放大并缩小另一方的分割脸部轮廓区域,使脸部轮廓图像P2变形的单元发挥作用。此外,也可以通过图像生成处理例程使中央控制部10的CPU作为使用确定出的发型图像P1以及变形后的脸部轮廓图像P2、和生成的脸部构成部图像P5来生成肖像画图像P6的单元来发挥作用。
同样地,在上述实施方式中,虽然构成为,在中央控制部10的控制下,通过颌部轮廓确定部6g、脸部轮廓图像分割部6h进行驱动来实现作为确定单元、分割单元的功能,但是并不限于此,也可以构成为,通过由中央控制部10来执行规定的程序等来实现。
即,在存储程序的程序存储器(省略图示)中预先存储包含确定处理例程、分割处理例程在内的程序。并且,在通过确定处理例程使中央控制部10的CPU作为在脸部微细部图像P4中确定颌部轮廓W2的同时,确定收容颌部轮廓W2的矩形区域F2的单元来发挥作用。此外,也可以通过分割处理例程使中央控制部10的CPU作为以颌部的前端为中心将脸部轮廓图像P2分割为左右的分割脸部轮廓区域,并进一步将这些分割脸部轮廓区域进行左右分割而生成多个再次分割区域的单元来发挥作用。
进一步地,作为保存用于执行上述的各处理的程序的计算机可读介质,除了ROM或硬盘等之外,还能够应用闪速存储器等的非易失性存储器、CD-ROM(CompactDiscReadOnlyMemory)、读出专用型DVD(DigitalVersatileDisc)以及可写入型DVD等的便携式记录介质。此外,作为经由规定的通信线路来提供程序的数据的介质,也适用载波(carrierwave)。
虽然说明了本发明的几个实施方式,但是本发明的范围不限定为上述实施方式,而是包含记载于权利要求书中的发明的范围及其等同的范围。
以下,备注记载于最初添加于本申请的申请书中的权利要求的范围中的发明。备注中记载的权利要求的项目编号如最初添加于本申请的申请书中的权利要求的范围。
Claims (8)
1.一种图像生成装置,其特征在于,具备:
第一获取单元,其获取照片图像;
提取单元,其提取由上述第一获取单元获取到的上述照片图像内的比脸部轮廓更靠内的脸部的主要的构成部涉及的线所表示的脸部构成部图像;
第二获取单元,其获取特征信息与由上述第一获取单元获取到的上述照片图像内的上述脸部的特征信息的一致度高且作为正面朝向的脸部的形状的图解图像的脸部轮廓图像;
变形单元,其基于由上述第一获取单元获取到的上述照片图像内的脸部的朝向,对上述脸部构成部图像以及上述脸部轮廓图像当中至少一者,实施以规定方向的轴为中心进行旋转的变形;以及
生成单元,其使用由上述变形单元对至少一者进行变形后得到的上述脸部构成部图像以及上述脸部轮廓图像来生成肖像画图像。
2.根据权利要求1所述的图像生成装置,其特征在于,
上述变形单元,在从大致正前方来观察脸部的状态下,按照以在该脸部的相互正交的前后方向、左右方向以及上下方向的各方向上延伸的3个轴中、在至少任一个方向上延伸的轴为中心进行旋转的方式来使上述脸部轮廓图像变形。
3.根据权利要求2所述的图像生成装置,其特征在于,
上述变形单元,将以上述脸部构成部图像的颌部的前端为中心的左右比率作为基准,按照以在上下方向上延伸的轴为中心使上述脸部轮廓图像进行旋转的方式而变形。
4.根据权利要求3所述的图像生成装置,其特征在于,
还具备颌部轮廓的确定单元,
上述确定单元,确定上述脸部构成部图像中的颌部轮廓,计算上述脸部构成部图像中的两眼的中点,将与连接两眼的中心的直线正交并且经过上述中点的直线与上述颌部轮廓之间的交点确定为上述脸部构成部图像的颌部的前端。
5.根据权利要求3所述的图像生成装置,其特征在于,
还具备分割单元,该分割单元以颌部的前端为中心将上述脸部轮廓图像分割为左右的分割脸部轮廓区域,
上述变形单元对一方的上述分割脸部轮廓区域的横宽进行放大,而对另一方的上述分割脸部轮廓区域的横宽进行缩小。
6.根据权利要求5所述的图像生成装置,其特征在于,
上述分割单元,将上述分割脸部轮廓区域左右分割而生成多个再次分割区域,
上述变形单元在多个上述再次分割区域之间改变横宽的放大或缩小的比例。
7.根据权利要求6所述的图像生成装置,其特征在于,
上述变形单元使多个上述再次分割区域当中包含耳朵在内的上述再次分割区域的放大或缩小的比例比其他的上述再次分割区域的比例小。
8.一种使用图像生成装置的图像生成方法,其特征在于,包括:
获取照片图像的处理;
提取由第一获取单元获取到的上述照片图像内的比脸部轮廓更靠内的脸部的主要的构成部涉及的脸部构成部图像的处理;
获取特征信息与由上述第一获取单元获取到的上述照片图像内的上述脸部的特征信息的一致度高且作为正面朝向的脸部的形状的图解图像的脸部轮廓图像的处理;
基于由上述第一获取单元获取到的上述照片图像内的脸部的朝向,对上述脸部构成部图像以及上述脸部轮廓图像当中至少一者,实施以规定方向的轴为中心进行旋转的变形的处理;以及
使用在上述变形的处理中对至少一者进行变形后得到的上述脸部构成部图像以及上述脸部轮廓图像来生成肖像画图像的处理。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012140288A JP5966657B2 (ja) | 2012-06-22 | 2012-06-22 | 画像生成装置、画像生成方法及びプログラム |
JP2012-140288 | 2012-06-22 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103516951A CN103516951A (zh) | 2014-01-15 |
CN103516951B true CN103516951B (zh) | 2016-05-25 |
Family
ID=49774523
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310247029.5A Active CN103516951B (zh) | 2012-06-22 | 2013-06-20 | 图像生成装置以及图像生成方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US8971636B2 (zh) |
JP (1) | JP5966657B2 (zh) |
CN (1) | CN103516951B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6098133B2 (ja) * | 2012-11-21 | 2017-03-22 | カシオ計算機株式会社 | 顔構成部抽出装置、顔構成部抽出方法及びプログラム |
JP7239148B2 (ja) * | 2018-11-21 | 2023-03-14 | 国立大学法人 新潟大学 | 画像処理装置、パズル遊技システム、画像処理方法及びプログラム |
CN109672830B (zh) * | 2018-12-24 | 2020-09-04 | 北京达佳互联信息技术有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN109919016B (zh) * | 2019-01-28 | 2020-11-03 | 武汉恩特拉信息技术有限公司 | 一种在无脸部器官的对象上生成人脸表情的方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101383001A (zh) * | 2008-10-17 | 2009-03-11 | 中山大学 | 一种快速准确的正面人脸判别方法 |
CN101452582A (zh) * | 2008-12-18 | 2009-06-10 | 北京中星微电子有限公司 | 一种实现三维视频特效的方法和装置 |
CN101739719A (zh) * | 2009-12-24 | 2010-06-16 | 四川大学 | 二维正面人脸图像的三维网格化方法 |
CN102172014A (zh) * | 2009-11-13 | 2011-08-31 | 日本胜利株式会社 | 影像处理装置及影像处理方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11203455A (ja) * | 1998-01-09 | 1999-07-30 | Omron Corp | 画像生成装置、画像生成方法および記録媒体 |
JPH11306372A (ja) * | 1998-04-17 | 1999-11-05 | Sharp Corp | 画像加工装置、画像加工方法およびその方法を記憶した記憶媒体 |
JP2001307123A (ja) * | 2000-02-18 | 2001-11-02 | Nippon Telegr & Teleph Corp <Ntt> | 表情変形のある似顔絵作成方法及び装置、似顔絵作成システム、似顔絵作成システム用送信機及び受信機、並びに、似顔絵作成プログラム及び似顔絵作成プログラムを記録した記録媒体 |
JP2004145625A (ja) | 2002-10-24 | 2004-05-20 | Mitsubishi Electric Corp | 似顔絵の作成装置 |
JP2007213378A (ja) * | 2006-02-10 | 2007-08-23 | Fujifilm Corp | 特定表情顔検出方法、撮像制御方法および装置並びにプログラム |
JP4986279B2 (ja) | 2006-09-08 | 2012-07-25 | 任天堂株式会社 | ゲームプログラムおよびゲーム装置 |
JP2011090466A (ja) * | 2009-10-21 | 2011-05-06 | Sony Corp | 情報処理装置及び方法、並びにプログラム |
-
2012
- 2012-06-22 JP JP2012140288A patent/JP5966657B2/ja active Active
-
2013
- 2013-06-20 CN CN201310247029.5A patent/CN103516951B/zh active Active
- 2013-06-20 US US13/923,253 patent/US8971636B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101383001A (zh) * | 2008-10-17 | 2009-03-11 | 中山大学 | 一种快速准确的正面人脸判别方法 |
CN101452582A (zh) * | 2008-12-18 | 2009-06-10 | 北京中星微电子有限公司 | 一种实现三维视频特效的方法和装置 |
CN102172014A (zh) * | 2009-11-13 | 2011-08-31 | 日本胜利株式会社 | 影像处理装置及影像处理方法 |
CN101739719A (zh) * | 2009-12-24 | 2010-06-16 | 四川大学 | 二维正面人脸图像的三维网格化方法 |
Also Published As
Publication number | Publication date |
---|---|
JP5966657B2 (ja) | 2016-08-10 |
US20130343656A1 (en) | 2013-12-26 |
US8971636B2 (en) | 2015-03-03 |
JP2014006604A (ja) | 2014-01-16 |
CN103516951A (zh) | 2014-01-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5949331B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
CN103369238B (zh) | 图像生成装置以及图像生成方法 | |
JP6111723B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
CN109639959B (zh) | 图像处理装置、图像处理方法以及记录介质 | |
CN108337450A (zh) | 图像处理装置、图像处理方法以及记录介质 | |
CN103516951B (zh) | 图像生成装置以及图像生成方法 | |
CN105744144A (zh) | 图像生成方法以及图像生成装置 | |
JP2018117289A (ja) | 画像処理装置、画像処理方法及びプログラム | |
US20160071236A1 (en) | Image correcting apparatus, image correcting method and computer readable recording medium recording program thereon | |
US9323981B2 (en) | Face component extraction apparatus, face component extraction method and recording medium in which program for face component extraction method is stored | |
CN102289785A (zh) | 图像处理装置以及图像处理方法 | |
US9626932B2 (en) | Image processing apparatus, image processing method and recording medium recording program for correcting image in predetermined area | |
CN104935805A (zh) | 图像处理装置以及图像处理方法 | |
JP2014174855A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2010226485A (ja) | 画像加工装置およびデジタルカメラ | |
JP6260094B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5927972B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
JP5962268B2 (ja) | 画像処理装置、画像処理方法、画像生成方法及びプログラム | |
JP6668646B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
US20140133777A1 (en) | Threshold setting apparatus, threshold setting method and recording medium in which program for threshold setting method is stored | |
JP6213619B2 (ja) | カメラおよびプログラム | |
JP2013183220A (ja) | カメラ、画像処理装置 | |
JP2014182672A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2014182722A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2014186404A (ja) | 画像処理装置、画像処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |