KR102655949B1

KR102655949B1 - 3d 영상 기반의 얼굴 인증 방법 및 장치

Info

Publication number: KR102655949B1
Application number: KR1020180061946A
Authority: KR
Inventors: 한승주; 고민수; 한재준; 최창규
Original assignee: 삼성전자주식회사
Priority date: 2018-05-30
Filing date: 2018-05-30
Publication date: 2024-04-09
Also published as: KR20190136349A; US11200405B2; US11790494B2; US20190370533A1; US20220092295A1

Abstract

3D 영상 기반의 얼굴 인증 방법 및 장치가 개시된다. 일 실시예에 따른 얼굴 인증 방법은 사용자의 3D 얼굴이 나타난 얼굴 영상을 획득하고, 상기 얼굴 영상 및 평균 얼굴 영상을 비교하여, 상기 얼굴 영상에 관한 폐색 영역을 결정하고, 상기 폐색 영역에 기초하여 상기 얼굴 영상 및 상기 평균 얼굴 영상을 합성하여, 합성 영상을 생성하고, 상기 합성 영상에 기초하여 상기 사용자를 인증하는 단계들을 포함한다.

Description

3D 영상 기반의 얼굴 인증 방법 및 장치{FACE VERIFYING METHOD AND APPARATUS BASED ON 3D IMAGE}

아래 실시예들은 3D 영상 기반의 얼굴 인증 방법 및 장치에 관한 것이다.

생체 인증 기술 중 하나인 얼굴 인증 기술은 정지 영상이나 동영상에 나타난 얼굴에 기초하여 사용자가 정당한 사용자인지 여부를 결정하는 인증 기술이다. 얼굴 인증 기술은 인증 대상자를 비접촉식으로 확인 가능하다는 이점을 가지고 있다. 최근에는, 얼굴 인증 기술의 편리함 및 효율성 때문에 보안 시스템, 모바일 인증 및 멀티미디어 데이터 검색 등의 다양한 응용 분야에서 얼굴 인증 기술이 널리 활용되고 있다.

일 실시예에 따르면, 얼굴 인증 방법은 사용자의 3D 얼굴이 나타난 얼굴 영상을 획득하는 단계; 상기 얼굴 영상 및 평균 얼굴 영상을 비교하여, 상기 얼굴 영상에 관한 폐색 영역을 결정하는 단계; 상기 폐색 영역에 기초하여 상기 얼굴 영상 및 상기 평균 얼굴 영상을 합성하여, 합성 영상을 생성하는 단계; 및 상기 합성 영상에 기초하여 상기 사용자를 인증하는 단계를 포함한다.

상기 폐색 영역을 결정하는 단계는 상기 얼굴 영상 및 상기 평균 얼굴 영상 내 대응 픽셀들의 픽셀 값들을 비교하여, 상기 폐색 영역을 결정하는 단계를 포함할 수 있다. 상기 합성 영상을 생성하는 단계는 상기 평균 얼굴 영상에서 상기 폐색 영역에 대응하는 대체 영역을 결정하는 단계; 및 상기 얼굴 영상에서 상기 폐색 영역을 상기 대체 영역으로 대체하여, 상기 합성 영상을 생성하는 단계를 포함할 수 있다.

상기 얼굴 인증 방법은 상기 얼굴 영상에 관하여, 상기 폐색 영역의 비율 및 상기 폐색 영역의 위치 중 적어도 하나를 결정하는 단계를 더 포함할 수 있다. 상기 폐색 영역의 비율은 상기 얼굴 영상의 면적 및 상기 폐색 영역의 면적 간의 비율, 및 상기 얼굴 영상에 속하는 랜드마크들의 수 및 상기 폐색 영역에 속하는 랜드마크들의 수 간의 비율 중 적어도 하나에 기초하여 결정될 수 있다. 상기 폐색 영역의 위치는 상기 얼굴 영상에 속하는 랜드마크들의 위치에 기초하여 결정될 수 있다.

상기 사용자를 인증하는 단계는 상기 폐색 영역의 비율 및 상기 폐색 영역의 위치 중 적어도 하나에 기초하여 상기 얼굴 영상의 신뢰도를 결정하는 단계; 및 상기 얼굴 영상의 신뢰도에 기초하여 상기 사용자를 인증하는 단계를 포함할 수 있다. 상기 얼굴 영상의 신뢰도는 상기 폐색 영역의 비율이 높을수록, 그리고 상기 폐색 영역이 주요 랜드마크에 근접할수록 낮게 결정될 수 있다.

상기 얼굴 영상의 신뢰도에 기초하여 상기 사용자를 인증하는 단계는 상기 얼굴 영상의 신뢰도 및 임계치를 비교하는 단계; 상기 비교 결과에 기초하여 상기 얼굴 영상에서 특징들을 추출하는 단계를 포함할 수 있다. 상기 사용자를 인증하는 단계는 상기 폐색 영역의 비율 및 상기 폐색 영역의 위치 중 적어도 하나에 기초하여 상기 얼굴 영상의 신뢰도를 결정하는 단계; 상기 사용자를 인증하기 위한 스코어를 산출하는 단계; 및 상기 얼굴 영상의 신뢰도에 대응하는 가중치를 상기 스코어에 적용하여 상기 사용자를 인증하는 단계를 포함할 수 있다.

상기 평균 얼굴 영상은 참조 영상들에 나타난 3D 얼굴들 내 대응 픽셀들의 평균 픽셀 값에 기초하여 생성될 수 있다. 상기 폐색 영역은 상기 얼굴 영상에서 상기 사용자의 3D 얼굴을 가리는 가림 요소에 대응하는 영역, 상기 사용자의 실제 얼굴에서 상기 얼굴 영상에 나타나지 않은 부분에 대응하는 영역, 및 상기 얼굴 영상 내 랜드마크들 중에 기준 배치를 크게 벗어나는 랜드마크들에 대응하는 영역 중 적어도 하나를 포함할 수 있다.

상기 얼굴 영상을 획득하는 단계는 상기 사용자의 3D 얼굴이 나타난 입력 영상을 수신하는 단계; 상기 입력 영상에서 상기 사용자의 3D 얼굴을 검출하는 단계; 상기 검출된 상기 사용자의 3D 얼굴에서 랜드마크들을 검출하는 단계; 상기 검출된 랜드마크들에 기초하여 상기 입력 영상에서 상기 사용자의 3D 얼굴을 분리하는 단계; 및 상기 분리된 상기 사용자의 3D 얼굴을 상기 검출된 랜드마크들에 기초하여 정규화하여, 상기 얼굴 영상을 생성하는 단계를 포함할 수 있다.

상기 사용자를 인증하는 단계는 상기 합성 영상에서 추출된 특징들 및 상기 사용자에 관해 미리 등록된 등록 영상에서 추출된 특징들을 비교하여, 상기 사용자를 인증하는 단계를 포함할 수 있다.

일 실시예에 따르면, 얼굴 인증 장치는 프로세서를 포함하고, 상기 프로세서는 사용자의 3D 얼굴이 나타난 얼굴 영상을 획득하고, 상기 얼굴 영상 및 평균 얼굴 영상을 비교하여, 상기 얼굴 영상에 관한 폐색 영역을 결정하고, 상기 폐색 영역에 기초하여 상기 얼굴 영상 및 상기 평균 얼굴 영상을 합성하여, 합성 영상을 생성하고, 상기 합성 영상에 기초하여 상기 사용자를 인증한다.

상기 프로세서는 상기 얼굴 영상에 관하여, 상기 폐색 영역의 비율 및 상기 폐색 영역의 위치 중 적어도 하나를 결정할 수 있다.

상기 프로세서는 상기 폐색 영역의 비율 및 상기 폐색 영역의 위치 중 적어도 하나에 기초하여 상기 얼굴 영상의 신뢰도를 결정하고, 상기 얼굴 영상의 신뢰도에 기초하여 상기 사용자를 인증할 수 있다. 상기 프로세서는 상기 얼굴 영상의 신뢰도 및 임계치를 비교하고, 상기 비교 결과에 기초하여 상기 얼굴 영상에서 특징들을 추출할 수 있다. 상기 프로세서는 상기 폐색 영역의 비율 및 상기 폐색 영역의 위치 중 적어도 하나에 기초하여 상기 얼굴 영상의 신뢰도를 결정하고, 상기 사용자를 인증하기 위한 스코어를 산출하고, 상기 얼굴 영상의 신뢰도에 대응하는 가중치를 상기 스코어에 적용하여 상기 사용자를 인증할 수 있다.

도 1은 일 실시예에 따른 얼굴 인증을 나타낸 도면.
도 2는 일 실시예에 따른 얼굴 영상에 나타나는 폐색의 유형들을 나타낸 도면.
도 3은 일 실시예에 따른 얼굴 인증 과정을 나타낸 동작 흐름도.
도 4는 일 실시예에 따른 얼굴 영상이 획득되는 과정을 나타낸 동작 흐름도.
도 5는 일 실시예에 따른 합성 영상이 생성되는 과정을 도면.
도 6은 일 실시예에 따른 폐색 영역의 비율 및 폐색 영역의 위치에 관한 동작을 나타낸 동작 흐름도.
도 7은 일 실시예에 따른 폐색 영역의 비율들을 나타낸 도면.
도 8은 일 실시예에 따른 폐색 영역의 위치들을 나타낸 도면.
도 9는 일 실시예에 따른 얼굴 영상의 신뢰도에 관한 동작을 나타낸 도면.
도 10은 일 실시예에 따른 얼굴 영상의 신뢰도에 기초한 얼굴 인증 과정을 나타낸 도면.
도 11은 일 실시예에 따른 얼굴 인증 장치를 나타낸 블록도.
도 12는 일 실시예에 따른 전자 장치를 나타낸 블록도.

본 명세서에 개시되어 있는 본 발명의 개념에 따른 실시예들에 대해서 특정한 구조적 또는 기능적 설명들은 단지 본 발명의 개념에 따른 실시예들을 설명하기 위한 목적으로 예시된 것으로서, 본 발명의 개념에 따른 실시예들은 다양한 형태로 실시될 수 있으며 본 명세서에 설명된 실시예들에 한정되지 않는다.

본 발명의 개념에 따른 실시예들은 다양한 변경들을 가할 수 있고 여러 가지 형태들을 가질 수 있으므로 실시예들을 도면에 예시하고 본 명세서에 상세하게 설명하고자 한다. 그러나, 이는 본 발명의 개념에 따른 실시예들을 특정한 개시형태들에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 변경, 균등물, 또는 대체물을 포함한다.

제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만, 예를 들어 본 발명의 개념에 따른 권리 범위로부터 이탈되지 않은 채, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.

어떤 구성요소가 다른 구성요소에 “연결되어” 있다거나 “접속되어” 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 “직접 연결되어” 있다거나 “직접 접속되어” 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 구성요소들 간의 관계를 설명하는 표현들, 예를 들어 “~사이에”와 “바로~사이에” 또는 “~에 직접 이웃하는” 등도 마찬가지로 해석되어야 한다.

본 명세서에서 사용한 용어는 단지 특정한 실시예들을 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, “포함하다” 또는 “가지다” 등의 용어는 설시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.

이하, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나, 특허출원의 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.

도 1은 일 실시예에 따른 얼굴 인증을 나타낸 도면이다.

얼굴 인증(face verification)은 인증을 시도한 사용자의 얼굴에 기초하여 해당 사용자가 유효한(valid) 사용자인지 여부를 판단하는 인증 방법이다. 예를 들어, 얼굴 인증은 기기 잠금 해제, 사용자 로그인, 결제 서비스 및 출입 통제 등에서 유효한 사용자를 인증하는데 이용될 수 있다. 도 1을 참조하면, 사용자(110)는 전자 장치(120)를 통해 얼굴 인증을 시도할 수 있다. 전자 장치(120)는 스마트폰, 웨어러블 기기(wearable device), 태블릿 컴퓨터, 넷북, 랩탑, 데스크탑, PDA(personal digital assistant), 셋탑 박스, 가전 기기, 생체 도어락, 보안 장치 혹은 차량 시동 장치일 수 있다.

얼굴 인증 장치는 전자 장치(120)의 적어도 일부로 구현되어, 사용자(110)가 전자 장치(120)에 액세스할 때 사용자(110)에 관한 얼굴 인증을 수행할 수 있다. 예를 들어, 얼굴 인증 장치는 카메라(130)를 통해 입력 영상(140)을 획득하고, 입력 영상(140)을 분석하여 전자 장치(120)의 잠금을 해제할지 결정할 수 있다. 얼굴 인증에 성공한 경우, 사용자(110)는 전자 장치(120)의 잠금을 성공적으로 해제할 수 있다. 반대로, 얼굴 인증에 실패한 경우, 사용자(110)는 전자 장치(120)의 잠금 상태를 해제할 수 없고, 전자 장치(120)는 계속 잠금 상태에서 동작할 수 있다.

실시예에 따르면 얼굴 인증을 위해 3D 영상이 이용될 수 있다. 카메라(130)는 다양한 방식을 통해 3D 영상을 생성할 수 있고, 3D 영상은 입력 영상(140)으로서 얼굴 인증 장치에 제공될 수 있다. 3D 영상은 3D 영상에 포함된 객체들의 깊이 정보를 포함할 수 있다. 카메라(130)는 ToF(Time-of-Flight) 방식 또는 구조형 광(structured light) 방식을 통해 3D 영상을 생성하는 3D 이미징 장치이거나, 스테레오 카메라 및 세 대 이상의 멀티-뷰 2D 카메라들과 같이 복수의 2D 영상들을 통해 3D 영상을 생성하는 3D 이미징 장치일 수 있다. 2D 영상은 컬러 영상, 흑백 영상, 및 적외선 영상 등을 포함할 수 있다. 그 밖에도 카메라(130)는 다양한 방식을 통해 3D 영상을 생성할 수 있으며, 카메라(130)의 종류나 카메라(130)의 동작 등이 상술된 예시에 한정되는 것은 아니다.

얼굴 인증 장치는 특징 추출기를 이용하여 입력 영상(140)에서 얼굴 특징을 추출하고, 추출된 얼굴 특징과 얼굴 등록 절차에서 미리 등록된 등록 특징 간의 비교에 기초하여 얼굴 인증의 성공 여부를 결정할 수 있다. 특징 추출기는 입력된 정보에 기초하여 특징 벡터 값 또는 확률 값과 같은 특징 정보를 출력하는 모델로서, 일례로 학습 데이터(training data)에 의해 학습된 뉴럴 네트워크 모델일 수 있다.

얼굴 인증을 시도하기 위해, 사용자(110)는 카메라(130)를 통해 자신의 얼굴을 촬영할 수 있다. 이 때, 도 1에 도시된 것처럼, 안경(115)과 같은 가림 요소에 의해 얼굴 영상에 폐색(occlusion)이 나타날 수 있다. 얼굴 영상은 입력 영상(140)에서 사용자(110)의 얼굴에 대응하는 영역을 나타낸다. 폐색은 안경(115)과 같은 가림 요소 이외에도 다양한 유형들로 나타날 수 있는데, 이러한 폐색의 유형들에 관해서는 도 2를 통해 후술한다.

얼굴 영상에 나타나는 폐색은 얼굴 인증의 정확한 판단을 어렵게 할 수 있다. 얼굴 인증은 얼굴 영상에 나타난 사용자(110)의 고유한 특징들을 통해 이루어지는데, 폐색으로 인해 이러한 사용자(110)의 고유한 특징들이 추출될 수 없기 때문이다. 예를 들어, 사용자(110)가 안경(115)을 착용하지 않은 상태에서 얼굴 등록 절차를 수행한 이후에, 얼굴 인증 절차에서 안경(115)을 착용하고 얼굴 인증을 시도하면, 안경(115)의 존재에 의해 오 거부(false rejection)가 발생할 가능성이 있다. 아래 실시예들에 따르면 안경(115)과 같은 폐색에 강인하게 혹은 폐색에 덜 민감하게 얼굴 인증을 수행하여 얼굴 인증의 인식률이 향상될 수 있다.

얼굴 인증 장치는 3D 얼굴 영상 및 3D 평균 얼굴 영상을 비교하여 폐색 영역(occlusion region)을 결정하고, 3D 얼굴 영상에서 폐색 영역의 영향을 제거한 채 얼굴 인증을 수행할 수 있다. 예를 들어, 얼굴 인증 장치는 3D 평균 얼굴 영상에서 3D 얼굴 영상 내 폐색 영역에 대응하는 대체 영역을 결정하고, 3D 얼굴 영상 내 폐색 영역을 대체 영역으로 대체하여 합성 영상을 생성할 수 있다. 얼굴 인증 장치는 폐색 영역의 픽셀 값들을 대체 영역 내 픽셀 값들로 대체할 수 있다. 얼굴 인증 장치는 3D 얼굴 영상 대신 합성 영상에서 얼굴 특징들을 추출하여 얼굴 인증을 수행할 수 있다. 인식기를 통해 입력 데이터가 인식되는 경우, 입력 데이터는 평균 값을 통해 정규화될 수 있고, 정규화된 입력 데이터가 인식기에 입력될 수 있다. 이러한 인식기의 동작 측면에서 볼 때 폐색 영역이 대체 영역으로 대체된 것은 폐색 영역이 노이즈로서 제거된 것으로 이해될 수 있다.

또한, 3D 얼굴 영상에서 폐색 영역이 결정되면, 얼굴 인증 장치는 해당 폐색 영역에 따른 3D 얼굴 영상의 신뢰도를 결정하고, 얼굴 인증 절차에 상기 결정된 3D 얼굴 영상의 신뢰도를 반영할 수 있다. 3D 얼굴 영상의 신뢰도는 해당 3D 얼굴 영상을 이용한 인증 과정을 신뢰할 수 있는 정도를 나타낼 수 있다. 3D 얼굴 영상의 신뢰도는 폐색 영역의 비율 및 폐색 영역의 위치 중 적어도 하나에 기초하여 결정될 수 있다. 예를 들어, 3D 얼굴 영상에서 폐색 영역에 의해 가려진 면적이 넓거나, 폐색 영역에 의해 중요한 랜드마크들이 가려진 경우, 해당 3D 얼굴 영상의 신뢰도는 낮은 것으로 결정될 수 있다. 특정 3D 얼굴 영상의 신뢰도가 낮은 경우, 얼굴 인증 장치는 해당 3D 얼굴 영상에 따른 얼굴 인증을 실패 처리하거나, 해당 3D 얼굴 영상에 따른 매칭 스코어를 낮게 책정할 수 있다.

도 2는 일 실시예에 따른 얼굴 영상에 나타나는 폐색의 유형들을 나타낸 도면이다.

도 2를 참조하면, 폐색의 유형들로는 가림 요소에 의한 제1 유형의 폐색(210), 카메라의 시야각에 따른 제2 유형의 폐색(220) 및 랜드마크들의 배치에 따른 제3 유형의 폐색(230)이 존재할 수 있다. 폐색의 유형들이 반드시 이들에 한정되는 것은 아니며, 얼굴 인식을 어렵게 하는 다양한 요인에 따라 다른 유형의 폐색이 존재할 수도 있다.

폐색은 사용자 얼굴의 특징을 파악하는데 방해가 되는데, 이와 같이 폐색으로 인하여 사용자 얼굴의 특징을 파악할 수 없거나, 파악하기 어려운 영역은 폐색 영역으로 지칭될 수 있다. 제1 유형의 폐색(210)에서 폐색 영역은 얼굴 영상에서 사용자의 3D 얼굴을 가리는 가림 요소에 대응하는 영역일 수 있다. 제2 유형의 폐색(220)에서 폐색 영역은 사용자의 실제 얼굴에서 얼굴 영상에 나타나지 않은 부분에 대응하는 영역일 수 있다. 폐색 영역은 반드시 얼굴 영상에 나타나는 것은 아니며, 제2 유형의 폐색(220)과 같이 얼굴 영상에 나타나지 않은 부분도 폐색 영역에 포함될 수 있다.

제3 유형의 폐색(230)에서 폐색 영역은 얼굴 영상 내 랜드마크들 중에 기준 배치를 크게 벗어나는 랜드마크들에 대응하는 영역일 수 있다. 일례로, 무표정에 대응하는 랜드마크들의 배치에 기초하여 랜드마크들의 기준 배치가 정의될 수 있다. 제3 유형의 폐색(230)은 사용자의 표정 변화에 의해 나타날 수 있는데, 예를 들어 하품을 하는 경우와 같이 사용자의 입이 크게 벌어진 경우, 및 사용자의 눈이 감긴 경우 등이 제3 유형의 폐색(230)에 포함될 수 있다. 어느 랜드마크들이 기준 배치를 크게 벗어난다는 것은 해당 랜드마크들의 위치 및 기준 배치에 따른 랜드마크들의 위치 간의 차이가 미리 정해진 임계치에 비해 크거나(입 벌림의 경우), 혹은 작은 것(눈 감김의 경우)을 의미할 수 있다.

얼굴 인증 장치는 얼굴 영상에 이와 같은 유형들의 폐색 중 적어도 하나가 나타난 경우, 얼굴 인증을 수행하기 위해 얼굴 영상 내 폐색 영상에 관해 적절한 처리를 수행할 수 있다.

도 3은 일 실시예에 따른 얼굴 인증 과정을 나타낸 동작 흐름도이다.

도 3을 참조하면, 단계(310)에서 얼굴 인증 장치는 사용자의 3D 얼굴이 나타난 얼굴 영상을 획득한다. 일 실시예에 따르면, 얼굴 영상은 입력 영상에 나타난 사용자의 3D 얼굴을 분리하여 정규화한 것일 수 있다. 아래에서 도 4를 통해 다시 설명하겠지만, 얼굴 인증 장치는 입력 영상에 관한 일련의 처리를 통해 얼굴 영상을 획득할 수 있다.

단계(320)에서 얼굴 인증 장치는 얼굴 영상 및 평균 얼굴 영상을 비교하여 얼굴 영상에 관한 폐색 영역을 결정한다.

평균 얼굴 영상은 다수의 사용자들의 평균적인 3D 얼굴을 포함할 수 있다. 다수의 사용자들의 3D 얼굴들이 나타난 참조 영상들(reference images)이 존재할 수 있다. 예를 들어, 참조 영상들은 학습 데이터(training data)에 대응할 수 있고, 폐색을 최소로 포함하도록 구성될 수 있다. 평균 얼굴 영상은 참조 영상들에 나타난 3D 얼굴들 내 대응 픽셀들의 평균 값에 기초하여 생성될 수 있다. 참조 영상들에 나타난 3D 얼굴들은 각각 분리 및 정규화될 수 있고, 분리 및 정규화된 상태의 3D 얼굴들 내 대응 픽셀들의 평균 값을 통해 사용자들의 평균적인 얼굴에 대응하는 평균 얼굴 영상이 생성될 수 있다. 대응 픽셀들이란 복수의 영상들 각각에서 동일 좌표에 위치하는 픽셀들을 의미할 수 있다.

일 실시예에 따르면, 얼굴 인증 장치는 얼굴 영상 및 평균 얼굴 영상 내 대응 픽셀들의 픽셀 값들을 비교하여, 폐색 영역을 결정할 수 있다. 본 실시예는 도 2를 통해 설명된 제1 유형의 폐색 및 제2 유형의 폐색을 검출하는데 이용될 수 있다.

3D 영상 내 픽셀 값은 깊이 정보를 포함할 수 있다. 얼굴 영상의 픽셀 값 및 평균 얼굴 영상의 픽셀 값 간에 큰 차이가 있는 부분이 있다면, 이 부분은 깊이가 크게 차이나는 부분에 해당할 수 있다. 따라서, 얼굴 영상의 픽셀 값 및 평균 얼굴 영상의 픽셀 값 간에 큰 차이가 있는 부분은 폐색 영역으로 결정될 수 있다. 이 경우는 도 2를 통해 설명된 제1 유형의 폐색에 해당할 수 있다.

또한, 얼굴 영상에서 평균 얼굴 영상에 대응하는 픽셀이 존재하지 않는 영역이 있다면, 이 영역은 도 2를 통해 설명된 제2 유형의 폐색에 해당할 수 있다. 얼굴 영상은 분리 및 정규화가 적용된 상태일 수 있고, 이 경우 사용자의 실제 얼굴에서 카메라 시야각에 따라 촬영되지 않은 부분에는 픽셀 값이 존재하지 않을 수 있다. 따라서, 얼굴 영상 및 평균 얼굴 영상 내 대응 픽셀들의 픽셀 값들을 비교하여 얼굴 영상에 관한 픽셀 값이 존재하지 않는 영역이 있다면, 이 영역은 폐색 영역으로 결정될 수 있다.

다른 실시예에 따르면, 얼굴 인증 장치는 얼굴 영상 내 랜드마크들의 배치와 기준 배치를 비교하여 폐색 영역을 결정할 수 있다. 본 실시예는 도 2를 통해 설명된 제3 유형의 폐색을 검출하는데 이용될 수 있다.

도 2에 관한 설명 시 언급된 것처럼, 무표정에 대응하는 랜드마크들의 배치에 기초하여 랜드마크들의 기준 배치가 정의될 수 있다. 입을 크게 벌리거나, 눈을 감는 것과 같이 얼굴 영상 내 랜드마크들 중에 기준 배치를 크게 벗어나는 랜드마크들이 있다면, 얼굴 인증 장치는 해당 랜드마크들에 대응하는 영역을 폐색 영역으로 결정할 수 있다. 어느 랜드마크들이 기준 배치를 크게 벗어난다는 것은 해당 랜드마크들의 위치 및 기준 배치에 따른 랜드마크들의 위치 간의 차이가 미리 정해진 임계치에 비해 크거나(입 벌림의 경우), 혹은 작은 것(눈 감김의 경우)을 의미할 수 있다.

예를 들어, 입의 윗부분을 나타내는 랜드마크 및 입의 아랫부분을 나타내는 랜드마크의 간격이 입 벌림을 판단하기 위한 임계치보다 큰 경우, 입을 나타내는 랜드마크들에 대응하는 영역이 폐색 영역으로 결정될 수 있다. 또한, 눈의 윗부분을 나타내는 랜드마크 및 눈의 아랫부분을 나타내는 랜드마크의 간격이 눈 감김을 판단하기 위한 임계치보다 작은 경우, 눈을 나타내는 랜드마크들에 대응하는 영역이 폐색 영역으로 결정될 수 있다.

단계(330)에서 얼굴 인증 장치는 폐색 영역에 기초하여 얼굴 영상 및 평균 얼굴 영상을 합성하여 합성 영상을 생성한다. 얼굴 인증 장치는 평균 얼굴 영상에서 얼굴 영상 내 폐색 영역에 대응하는 대체 영역을 결정하고, 얼굴 영상 내 폐색 영역을 대체 영역으로 대체하여 합성 영상을 생성할 수 있다.

단계(340)에서 얼굴 인증 장치는 합성 영상에 기초하여 사용자를 인증한다.

얼굴 등록 절차에서 사용자는 자신을 유효한 사용자로 등록하기 위해 자신의 얼굴을 촬영할 수 있다. 얼굴 등록 절차에서 촬영된 영상은 등록 영상으로 지칭될 수 있다. 특징 추출기는 등록 영상으로부터 특징들을 추출하여 데이터베이스에 저장할 수 있다. 얼굴 등록 절차에서 데이터베이스에 저장된 특징들은 등록 특징들로 지칭될 수 있다. 특징 추출기는 입력된 정보에 기초하여 특징 벡터 값 또는 확률 값과 같은 특징 정보를 출력하는 모델로서, 일례로 학습 데이터(training data)에 의해 학습된 뉴럴 네트워크 모델일 수 있다.

얼굴 인증 장치는 얼굴 인증 절차에서 특징 추출기를 이용하여 합성 영상에서 특징들을 추출할 수 있다. 얼굴 인증 절차에서 합성 영상으로부터 추출된 특징들은 얼굴 특징들로 지칭될 수 있다. 얼굴 인증 장치는 등록 특징들 및 얼굴 특징들을 비교하여 얼굴 인증의 성공 여부를 결정할 수 있다. 얼굴 인증 장치는 인식기를 이용하여 등록 특징들 및 얼굴 특징들을 비교하고, 그 비교 결과를 획득할 수 있다. 인식기는 입력된 정보에 기초하여 확률 값과 같은 인식 정보를 출력하는 모델로서, 일례로 학습 데이터(training data)에 의해 학습된 뉴럴 네트워크 모델일 수 있다. 폐색이 나타난 얼굴 영상 대신 평균 얼굴이 나타난 합성 영상에서 얼굴 특징들이 추출되므로, 특징 매칭 과정에서 폐색의 영향이 제거될 수 있다.

도 4는 일 실시예에 따른 얼굴 영상이 획득되는 과정을 나타낸 동작 흐름도이다. 도 4에 도시된 단계들(410 내지 450)은 도 3에 도시된 단계(310)에 대응할 수 있다.

도 4를 참조하면, 단계(410)에서 얼굴 인증 장치는 사용자의 3D 얼굴이 나타난 입력 영상을 수신한다. 입력 영상은 카메라에 의해 생성되어 얼굴 인증 장치에게 제공될 수 있다.

단계(420)에서 얼굴 인증 장치는 입력 영상에서 사용자의 3D 얼굴을 검출한다. 예를 들어, 얼굴 인증 장치는 Haar 기반의 캐스케이드 에이다부스트 분류기(Haar-based cascade adaboost classifier) 또는 Viola-Jones 검출기 등을 이용하여 얼굴 영역을 검출할 수 있다. 다만, 실시예의 범위가 이에 한정되는 것은 아니고, 얼굴 인증 장치는 다양한 얼굴 영역 검출 기법을 이용하여 입력 영상에서 사용자의 3D 얼굴을 검출할 수 있다. 입력 영상에서 사용자의 3D 얼굴을 검출하는 것은, 입력 영상에서 사용자의 3D 얼굴에 대응하는 얼굴 영역을 검출하는 것을 포함할 수 있다. 이 경우, 아래에서 설명되는 입력 영상에서 검출된 3D 얼굴에 관한 동작은 입력 영상에서 검출된 얼굴 영역에 관한 동작으로 이해될 수 있다.

단계(430)에서 얼굴 인증 장치는 검출된 사용자의 3D 얼굴에서 랜드마크들을 검출한다. 예를 들어, 얼굴 인증 장치는 ACM(Active Contour Model), ASM(Active Shape Model), AAM(Active Appearance model), SDM(Supervised Descent Method) 또는 뉴럴 네트워크 모델 등에 기초한 랜드마크 검출 기법을 이용하여 얼굴 영역에서 얼굴의 랜드마크들을 검출할 수 있다. 다만, 실시예의 범위가 이에 한정되는 것은 아니고, 얼굴 인증 장치는 다양한 랜드마크 검출 기법을 이용하여 랜드마크들을 검출할 수 있다. 얼굴의 랜드마크들은 주요 얼굴 부위에 대응하는 특징 점들로, 예를 들어 눈썹, 눈, 코, 입, 턱, 귀, 헤어 및 얼굴의 윤곽 등을 식별하기 위한 특징 점들일 수 있다.

단계(440)에서 얼굴 인증 장치는 검출된 랜드마크들에 기초하여 입력 영상에서 사용자의 3D 얼굴을 분리한다. 사용자의 3D 얼굴을 입력 영상에서 분리하는 것은 얼굴 인증 시 불필요한 정보를 제거하기 위한 것으로, 분리 과정을 통해 입력 영상에서 배경이나 헤어 등이 제거될 수 있다.

단계(450)에서 얼굴 인증 장치는 분리된 상기 사용자의 3D 얼굴을 검출된 랜드마크들에 기초하여 정규화하여 얼굴 영상 생성한다. 얼굴 정규화 과정은 아핀 변환(affine transform)이나 영상 스케일링 등을 통해 영상 내 랜드마크들을 미리 정해진 규격에 맞추는 것을 의미할 수 있다. 얼굴 정규화 과정은 얼굴 정렬(face alignment) 과정으로도 이해될 수 있다.

도면에는 도시되어 있지 않지만, 실시예에 따라 얼굴 인증 장치는 입력 영상에 대해 추가적인 전처리를 수행하여 얼굴 영상을 생성할 수 있다. 전처리 과정은 입력 영상을 얼굴 인증에 보다 적합한 형태로 처리하는 하나 이상의 과정을 포함할 수 있다. 예를 들어, 전처리 과정은 영상의 크기를 조절하는 과정, 영상을 회전하는 과정, 영상에 포함된 노이즈를 제거하는 과정, 영상의 컨트라스트(contrast)를 조절하는 과정, 영상에 포함된 블러(blur)를 제거하는 디블러링(deblurring) 과정, 배경 영역(background region)을 제거하는 과정, 영상에 포함된 왜곡(distortion)을 보정하는 와핑(warping) 과정, 영상에서 특정 영역을 크롭핑(cropping)하는 과정, 및 영상을 이진화(binarization)하는 과정 등을 포함할 수 있다.

도 5는 일 실시예에 따른 합성 영상이 생성되는 과정을 도면이다.

도 5를 참조하면, 얼굴 인증 장치는 얼굴 영상(510) 및 평균 얼굴 영상(520) 간의 비교에 기초하여 얼굴 영상(530)에 관한 폐색 영역(535)을 결정한다. 얼굴 영상(510) 및 얼굴 영상(530)은 동일한 영상이다. 얼굴 인증 장치는 평균 얼굴 영상(540)에서 폐색 영역(535)에 대응하는 대체 영역(545)을 결정한다. 평균 얼굴 영상(520) 및 평균 얼굴 영상(540)은 동일한 영상이다. 얼굴 인증 장치는 얼굴 영상(530)에서 폐색 영역(535)을 대체 영역(545)으로 대체하여, 합성 영상(550)을 생성한다.

도 6은 일 실시예에 따른 폐색 영역의 비율 및 폐색 영역의 위치에 관한 동작을 나타낸 동작 흐름도이다.

도 6을 참조하면, 얼굴 인증 장치는 얼굴 영상에 관하여 폐색 영역의 비율 및 폐색 영역의 위치 중 적어도 하나를 결정한다. 아래에서 다시 설명되겠지만, 폐색 영역의 비율 및 폐색 영역의 위치 중 적어도 하나에 기초하여 얼굴 영상의 신뢰도가 결정될 수 있고, 신뢰도에 기초하여 사용자가 인증될 수 있다. 예를 들어, 얼굴 영상에서 폐색 영역의 비율이 높은 경우, 및 얼굴 영상에서 중요한 랜드마크들에 폐색 영역이 위치하는 경우 중 적어도 하나의 경우에 해당 얼굴 영상에 따른 얼굴 인증에 실패할 확률이 높게 처리될 수 있다.

얼굴 장치는 얼굴 영상의 면적 및 폐색 영역의 면적 간의 제1 비율, 혹은 얼굴 영상에 속하는 랜드마크들의 수 및 폐색 영역에 속하는 랜드마크들의 수 간의 제2 비율에 기초하여 폐색 영역의 비율을 결정할 수 있다. 예를 들어, 얼굴 영상의 면적이 100이고, 폐색 영역의 면적이 30이라면, 제1 비율은 30%로 결정될 수 있다. 또한, 얼굴 영상에 속하는 랜드마크들의 수가 50개이고, 폐색 영역에 속하는 랜드마크들의 수가 10개인 경우, 제2 비율은 20%로 결정될 수 있다.

얼굴 장치는 제1 비율 및 제2 비율을 모두 고려하여 폐색 영역의 비율을 결정할 수 있다. 이 경우, 제1 비율 및 제2 비율은 일정한 비율에 따라 하나의 값으로 병합될 수 있다. 예를 들어, 제1 비율 및 제2 비율은 일대일로 병합되거나, 혹은 이들 중 어느 한 쪽에 가중치를 두어 병합될 수 있다.

얼굴 인증 장치는 얼굴 영상에 속하는 랜드마크들의 위치에 기초하여 폐색 영역의 위치를 결정할 수 있다. 예를 들어, 폐색 영역의 위치는 얼굴 영상에 속하는 랜드마크들의 위치 및 폐색 영역 간의 거리에 기초하여 결정될 수 있다. 폐색 영역이 랜드마크들을 포함하는 경우, 폐색 영역의 위치는 얼굴 영상에 속하는 랜드마크들의 위치 및 폐색 영역에 속하는 랜드마크들의 위치 간의 비교에 기초하여 결정될 수 있다.

랜드마크들의 위치는 랜드마크들이 나타내는 얼굴 부위, 예를 들어 눈썹, 눈, 코, 입, 턱, 귀, 헤어 및 얼굴의 윤곽 등으로 구분될 수 있다. 이 때, 폐색 영역에 속하는 랜드마크가 이들 중 어느 위치에 대응하는지에 따라 폐색 영역의 위치가 결정될 수 있다. 예를 들어, 폐색 영역은 눈 위치에 존재하거나, 코 위치에 존재하거나, 입 위치에 존재하거나, 이들 중 둘 이상의 위치에 존재하거나, 혹은, 이들 중 하나 이상의 주변에 존재하는 것으로 결정될 수 있다. 또한, 폐색 영역에 의해 어느 랜드마크가 어느 정도 가려졌는지 결정될 수 있다. 폐색 영역의 비율들 및 폐색 영역의 위치들에 관한 실시예들은 도 7 및 도 8에 도시되어 있다.

도 7은 일 실시예에 따른 폐색 영역의 비율들을 나타낸 도면이다. 도 7을 참조하면, 얼굴 영상들(710, 720)에서 폐색 영역의 비율은 25%이고, 얼굴 영상(730)에서 폐색 영역의 비율은20%이고, 얼굴 영상(740)에서 폐색 영역의 비율은 8%이고, 얼굴 영상(750)에서 폐색 영역의 비율은 60%이다. 도 8은 일 실시예에 따른 폐색 영역의 위치들을 나타낸 도면이다. 도 8을 참조하면, 얼굴 영상(810)에서 폐색 영역에 의해 입 전체가 가려졌고, 얼굴 영상(820)에서 폐색 영역에 의해 왼쪽 눈 일부가 가려졌고, 얼굴 영상(830)에서 폐색 영역에 의해 오른쪽 눈 전부가 가려졌고, 얼굴 영상(840)에서 폐색 영역에 의해 눈 주변이 가려졌고, 얼굴 영상(850)에서 폐색 영역에 의해 입 전체가 가려졌다.

도 9는 일 실시예에 따른 얼굴 영상의 신뢰도에 관한 동작을 나타낸 도면이다.

도 9를 참조하면, 단계(910)에서 얼굴 인증 장치는 폐색 영역의 비율 및 폐색 영역의 위치 중 적어도 하나에 기초하여 얼굴 영상의 신뢰도를 결정한다. 얼굴 영상의 신뢰도는 얼굴 영상을 이용한 인증 과정을 신뢰할 수 있는 정도를 나타낼 수 있다. 예를 들어, 얼굴 영상의 신뢰도는 폐색 영역의 비율이 높을수록, 폐색 영역이 주요 랜드마크에 근접할수록 낮게 결정될 수 있다. 일 실시예에 따르면, 얼굴에서 변화가 적은 부위일수록 중요도가 높게 책정될 수 있다. 예를 들어, 코에 대응하는 랜드마크, 눈에 대응하는 랜드마크, 입에 대응하는 랜드마크 순으로 중요도가 높게 책정될 수 있다. 얼굴에서 변화가 적은 부위일수록 인증 신뢰도가 높을 수 있기 때문이다.

단계(920)에서 얼굴 인증 장치는 얼굴 영상의 신뢰도에 기초하여 사용자를 인증한다. 얼굴 영상의 신뢰도는 특징 추출 과정, 및 얼굴 특징들과 등록 특징들 간의 매칭 과정 중 적어도 하나에 반영될 수 있다. 예를 들어, 특정 얼굴 영상의 신뢰도가 미리 정해진 임계치보다 낮은 경우, 해당 얼굴 영상에 관한 특징 추출 과정이 수행되기 전에 해당 얼굴 영상에 따른 얼굴 인증이 실패한 것으로 처리되고, 얼굴 인증 절차가 바로 종료될 수 있다. 또한, 얼굴 특징들과 등록 특징들 간의 매칭 과정에서 매칭 스코어가 산출되면, 특정 얼굴 영상의 신뢰도는 산출된 매칭 스코어에 가중치로 적용될 수 있다.

도 10은 일 실시예에 따른 얼굴 영상의 신뢰도에 기초한 얼굴 인증 과정을 나타낸 도면이다. 도 10에 도시된 단계들(1010 내지 1050)은 도 9에 도시된 단계(920)에 대응할 수 있다.

도 10를 참조하면, 단계(1010)에서 얼굴 인증 장치는 얼굴 영상의 신뢰도 및 임계치를 비교한다. 얼굴 영상의 신뢰도가 임계치보다 작은 경우, 얼굴 인증 장치는 단계(1020)에서 인증 결과를 인증 실패로 처리하고, 얼굴 인증 절차를 종료할 수 있다. 단계들(1010 및 1020)는 실시예에 따라 선택적으로 수행될 수 있으며, 단계들(1010 및 1020)이 수행되지 않는 경우 도 9의 단계(910)가 수행된 이후에 단계(1030)이 수행될 수 있다.

얼굴 영상의 신뢰도가 임계치보다 큰 경우, 얼굴 인증 장치는 단계(1030)에서 얼굴 영상으로부터 특징들을 추출할 수 있다. 단계(1030)에서 특징 추출기가 이용될 수 있다.

단계(1040)에서 얼굴 인증 장치는 특징들을 매칭하여 사용자를 인증하기 위한 스코어를 산출한다. 얼굴 등록 절차에서 미리 저장된 등록 특징들 및 단계(1030)에서 추출된 얼굴 특징들이 매칭될 수 있다. 매칭률이 높은 경우 스코어는 높게 결정될 수 있고, 매칭률이 낮은 경우 스코어는 낮게 결정될 수 있다. 단계(1040)에서 인식기가 이용될 수 있다.

단계(1050)에서 얼굴 인증 장치는 얼굴 영상의 신뢰도에 대응하는 가중치를 스코어에 적용하여 사용자를 인증한다. 가중치는 얼굴 영상의 신뢰도에 비례하도록 결정될 수 있다. 스코어가 높은 경우에도 얼굴 영상의 신뢰도가 낮다면 인증에 실패할 수 있다.

일례로, 폐색 영역의 비율이 50% 이상이면 신뢰성은 0으로 결정될 수 있고, 폐색 영역의 비율이 50% 미만이면 신뢰성은 1로 결정될 수 있다. 임계치가 0과 1 사이의 값을 갖는 경우, 신뢰성이 0이면 얼굴 영상에서 특징들이 추출되지 않고 얼굴 인증 절차가 종료될 수 있다. 신뢰성이 1이면 얼굴 영상에서 특징들이 추출되고 인식기의 스코어가 그대로 사용될 수 있다.

다른 예로, 신뢰성은 폐색 영역의 비율이 70% 이상이면 0으로, 폐색 영역의 비율이 30% 이상 70% 미만이면 0.8로, 폐색 영역의 비율이 30% 미만이면 1로 결정될 수 있다. 임계치가 0과 0.8 사이의 값을 갖는 경우, 신뢰성이 0이면 얼굴 영상에서 특징들이 추출되지 않고 얼굴 인증 절차가 종료될 수 있다. 신뢰성이 0.8 또는 1이면 얼굴 영상에서 특징들이 추출되고, 신뢰성이 인식기의 스코어에 가중치로 반영될 수 있다.

도 11은 일 실시예에 따른 얼굴 인증 장치를 나타낸 블록도이다.

도 11을 참조하면, 얼굴 인증 장치(1100)는 얼굴 인증을 위한 입력 영상을 수신한다. 얼굴 인증 장치(1100)는 입력 영상으로부터 추출된 얼굴 특징들과 데이터베이스(1130)에 미리 저장된 등록 특징들 간의 비교 결과에 기초하여 인증 성공 여부를 결정할 수 있다. 유효한 사용자는 얼굴 등록 과정을 통해 자신의 얼굴을 미리 등록할 수 있고, 이렇게 등록된 얼굴에 대한 정보는 데이터베이스(1130)에 저장될 수 있다

얼굴 인증 장치(1100)는 얼굴 인증 방법과 관련하여 본 명세서에 기술되거나 또는 도시된 하나 이상의 동작을 수행할 수 있고, 얼굴 인증의 결과를 사용자에게 제공할 수 있다. 얼굴 인증 장치(1100)는 하나 이상의 프로세서(1110) 및 메모리(1120)를 포함할 수 있다. 메모리(1120)는 프로세서(1110)에 연결되고, 프로세서(1110)에 의해 실행가능한 명령어들, 프로세서(1110)가 연산할 데이터 또는 프로세서(1110)에 의해 처리된 데이터를 저장할 수 있다. 메모리(1120)는 비일시적인 컴퓨터 판독가능 매체, 예컨대 고속 랜덤 액세스 메모리 및/또는 비휘발성 컴퓨터 판독가능 저장 매체(예컨대, 하나 이상의 디스크 저장 장치, 플래쉬 메모리 장치, 또는 기타 비휘발성 솔리드 스테이트 메모리 장치)를 포함할 수 있다.

프로세서(1110)는 도 1 내지 도 10을 참조하여 설명된 하나 이상의 동작을 실행하기 위한 명령어들을 실행할 수 있다. 예를 들어, 프로세서(1110)는 사용자의 3D 얼굴이 나타난 얼굴 영상을 획득하고, 얼굴 영상 및 평균 얼굴 영상을 비교하여, 얼굴 영상에 관한 폐색 영역을 결정하고, 폐색 영역에 기초하여 얼굴 영상 및 평균 얼굴 영상을 합성하여, 합성 영상을 생성하고, 합성 영상에 기초하여 상기 사용자를 인증한다. 프로세서(1110)는 얼굴 영상에 관하여, 폐색 영역의 비율 및 폐색 영역의 위치 중 적어도 하나를 결정할 수 있다. 프로세서(1110)는 폐색 영역의 비율 및 폐색 영역의 위치 중 적어도 하나에 기초하여 얼굴 영상의 신뢰도를 결정하고, 얼굴 영상의 신뢰도에 기초하여 사용자를 인증할 수 있다.

도 12는 일 실시예에 따른 전자 장치를 나타낸 블록도이다.

도 12를 참조하면, 전자 장치(1200)는 사용자의 얼굴이 나타난 영상을 획득하고, 획득된 영상에서 추출한 얼굴 특징들을 미리 등록된 등록 특징들과 비교하는 과정을 통해 얼굴 인증 과정을 수행할 수 있다. 전자 장치(1200)는 도 1의 전자 장치(120)에 대응할 수 있고, 기능적으로 도 11의 얼굴 인증 장치(1100)의 기능을 포함할 수 있다.

전자 장치(1200)는 프로세서(1210), 메모리(1220), 카메라(1230), 저장 장치(1240), 입력 장치(1250), 출력 장치(1260) 및 네트워크 인터페이스(1270)를 포함할 수 있다. 프로세서(1210), 메모리(1220), 카메라(1230), 저장 장치(1240), 입력 장치(1250), 출력 장치(1260) 및 네트워크 인터페이스(1270)는 통신 버스(1280)를 통해 서로 통신할 수 있다.

프로세서(1210)는 전자 장치(1200) 내에서 실행하기 위한 기능 및 명령어들을 실행한다. 예를 들어, 프로세서(1210)는 메모리(1220) 또는 저장 장치(1240)에 저장된 명령어들을 처리할 수 있다. 프로세서(1210)는 도 1 내지 도 11을 통하여 설명된 하나 이상의 동작을 수행할 수 있다.

메모리(1220)는 얼굴 인증을 위한 정보를 저장한다. 메모리(1220)는 컴퓨터 판독가능한 저장 매체 또는 컴퓨터 판독가능한 저장 장치를 포함할 수 있다. 메모리(1220)는 프로세서(1210)에 의해 실행하기 위한 명령어들을 저장할 수 있고, 전자 장치(1200)에 의해 소프트웨어 또는 애플리케이션이 실행되는 동안 관련 정보를 저장할 수 있다.

카메라(1230)는 정지 영상, 비디오 영상, 또는 이들 모두를 촬영할 수 있다. 카메라(1230)는 사용자가 얼굴 인증을 시도하기 위해 입력하는 얼굴 영역을 촬영할 수 있다. 카메라(1230)는 객체들에 관한 깊이 정보를 포함하는 3D 영상을 제공할 수 있다.

저장 장치(1240)는 컴퓨터 판독가능한 저장 매체 또는 컴퓨터 판독가능한 저장 장치를 포함한다. 저장 장치(1240)는 등록 영상, 혹은 등록 특징들과 같이, 얼굴 등록 과정에서 등록된 정보를 포함하는 데이터베이스를 저장할 수 있다. 일 실시예에 따르면, 저장 장치(1240)는 메모리(1220)보다 더 많은 양의 정보를 저장하고, 정보를 장기간 저장할 수 있다. 예를 들어, 저장 장치(1240)는 자기 하드 디스크, 광 디스크, 플래쉬 메모리, 플로피 디스크 또는 이 기술 분야에서 알려진 다른 형태의 비휘발성 메모리를 포함할 수 있다.

입력 장치(1250)는 키보드 및 마우스를 통한 전통적인 입력 방식, 및 터치 입력, 음성 입력, 및 이미지 입력과 같은 새로운 입력 방식을 통해 사용자로부터 입력을 수신할 수 있다. 예를 들어, 입력 장치(1250)는 키보드, 마우스, 터치 스크린, 마이크로폰, 또는 사용자로부터 입력을 검출하고, 검출된 입력을 전자 장치(1200)에 전달할 수 있는 임의의 다른 장치를 포함할 수 있다.

출력 장치(1260)는 시각적, 청각적 또는 촉각적인 채널을 통해 사용자에게 전자 장치(1200)의 출력을 제공할 수 있다. 출력 장치(1260)는 예를 들어, 디스플레이, 터치 스크린, 스피커, 진동 발생 장치 또는 사용자에게 출력을 제공할 수 있는 임의의 다른 장치를 포함할 수 있다. 네트워크 인터페이스(1270)는 유선 또는 무선 네트워크를 통해 외부 장치와 통신할 수 있다.

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(Arithmetic Logic Unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(Field Programmable Gate Array), PLU(Programmable Logic Unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims

전자 장치의 얼굴 인증 방법에 있어서,
사용자의 3D 얼굴이 나타난 얼굴 영상을 획득하는 단계;
상기 얼굴 영상 및 평균 얼굴 영상을 비교하여, 상기 얼굴 영상의 폐색 영역을 결정하는 단계;
상기 폐색 영역에 기초하여 상기 얼굴 영상의 신뢰도를 결정하는 단계; 및
상기 신뢰도에 기초하여 상기 사용자를 인증하는 단계
를 포함하고,
상기 사용자를 인증하는 단계는
뉴럴 네트워크 모델에 기초한 랜드마크 검출을 이용하여 얼굴 인증을 수행하기 위해 상기 얼굴 영상으로부터 특징들을 추출하는 단계; 및
상기 신뢰도에 기초하여 상기 얼굴 영상으로부터 특징 추출 없이 상기 얼굴 영상을 이용한 인증을 종료하는 단계
를 포함하는, 얼굴 인증 방법.
제1항에 있어서,
상기 폐색 영역을 결정하는 단계는
상기 얼굴 영상 및 상기 평균 얼굴 영상 내 대응 픽셀들의 픽셀 값들을 비교하여, 상기 폐색 영역을 결정하는 단계를 포함하는, 얼굴 인증 방법.
제1항에 있어서,
상기 평균 얼굴 영상에서 상기 폐색 영역에 대응하는 대체 영역을 결정하는 단계; 및
상기 얼굴 영상에서 상기 폐색 영역을 상기 대체 영역으로 대체하여, 합성 영상을 생성하는 단계
를 더 포함하는, 얼굴 인증 방법.
제1항에 있어서,
상기 얼굴 영상에 관하여, 상기 폐색 영역의 비율 및 상기 폐색 영역의 위치 중 적어도 하나를 결정하는 단계
를 더 포함하는, 얼굴 인증 방법.
제4항에 있어서,
상기 폐색 영역의 비율은 상기 얼굴 영상의 면적 및 상기 폐색 영역의 면적 간의 비율, 및 상기 얼굴 영상에 속하는 랜드마크들의 수 및 상기 폐색 영역에 속하는 랜드마크들의 수 간의 비율 중 적어도 하나에 기초하여 결정되는, 얼굴 인증 방법.
제4항에 있어서,
상기 폐색 영역의 위치는 상기 얼굴 영상에 속하는 랜드마크들의 위치에 기초하여 결정되는, 얼굴 인증 방법.
제4항에 있어서,
상기 얼굴 영상의 신뢰도는 상기 폐색 영역의 비율 및 상기 폐색 영역의 위치 중 적어도 하나에 기초하여 결정되는,
얼굴 인증 방법.
제7항에 있어서,
상기 얼굴 영상의 신뢰도는 상기 폐색 영역의 비율이 높을수록, 그리고 상기 폐색 영역이 주요 랜드마크에 근접할수록 낮게 결정되는, 얼굴 인증 방법.
제7항에 있어서,
상기 얼굴 영상의 신뢰도에 기초하여 상기 사용자를 인증하는 단계는
상기 얼굴 영상의 신뢰도 및 임계치를 비교하는 단계;
상기 비교 결과에 기초하여 상기 얼굴 영상에서 특징들을 추출하는 단계를 포함하는, 얼굴 인증 방법.
제4항에 있어서,
상기 사용자를 인증하는 단계는
상기 폐색 영역의 비율 및 상기 폐색 영역의 위치 중 적어도 하나에 기초하여 상기 얼굴 영상의 신뢰도를 결정하는 단계;
상기 사용자를 인증하기 위한 스코어를 산출하는 단계; 및
상기 얼굴 영상의 신뢰도에 대응하는 가중치를 상기 스코어에 적용하여 상기 사용자를 인증하는 단계
를 포함하는, 얼굴 인증 방법.
제1항에 있어서,
상기 평균 얼굴 영상은 참조 영상들에 나타난 3D 얼굴들 내 대응 픽셀들의 평균 픽셀 값에 기초하여 생성되는, 얼굴 인증 방법.
제1항에 있어서,
상기 폐색 영역은 상기 얼굴 영상에서 상기 사용자의 3D 얼굴을 가리는 가림 요소에 대응하는 영역, 상기 사용자의 실제 얼굴에서 상기 얼굴 영상에 나타나지 않은 부분에 대응하는 영역, 및 상기 얼굴 영상 내 랜드마크들 중에 기준 배치를 크게 벗어나는 랜드마크들에 대응하는 영역 중 적어도 하나를 포함하는, 얼굴 인증 방법.
제1항에 있어서,
상기 얼굴 영상을 획득하는 단계는
상기 사용자의 3D 얼굴이 나타난 입력 영상을 수신하는 단계;
상기 입력 영상에서 상기 사용자의 3D 얼굴을 검출하는 단계;
상기 검출된 상기 사용자의 3D 얼굴에서 랜드마크들을 검출하는 단계;
상기 검출된 랜드마크들에 기초하여 상기 입력 영상에서 상기 사용자의 3D 얼굴을 분리하는 단계; 및
상기 분리된 상기 사용자의 3D 얼굴을 상기 검출된 랜드마크들에 기초하여 정규화하여, 상기 얼굴 영상을 생성하는 단계
를 포함하는, 얼굴 인증 방법.
제1항에 있어서,
상기 사용자를 인증하는 단계는
상기 얼굴 영상 및 상기 평균 얼굴 영상의 합성 영상에서 추출된 특징들 및 상기 사용자에 관해 미리 등록된 등록 영상에서 추출된 특징들을 비교하여, 상기 사용자를 인증하는 단계를 포함하는, 얼굴 인증 방법.
제1항 내지 제14항 중 어느 한 항의 방법을 수행하기 위한 명령어들을 포함하는 하나 이상의 프로그램을 저장한 컴퓨터 판독 가능 저장매체.
프로세서를 포함하고,
상기 프로세서는
사용자의 3D 얼굴이 나타난 얼굴 영상을 획득하고,
상기 얼굴 영상 및 평균 얼굴 영상을 비교하여, 상기 얼굴 영상의 폐색 영역을 결정하고,
상기 폐색 영역에 기초하여 상기 얼굴 영상의 신뢰도를 결정하고,
상기 신뢰도에 기초하여 상기 사용자를 인증하고,
상기 프로세서는, 상기 사용자를 인증하기 위해,
뉴럴 네트워크 모델에 기초한 랜드마크 검출을 이용하여 얼굴 인증을 수행하기 위해 상기 얼굴 영상으로부터 특징들을 추출하고,
상기 신뢰도에 기초하여 상기 얼굴 영상으로부터 특징 추출 없이 상기 얼굴 영상을 이용한 인증을 종료하는,
얼굴 인증 장치.
제16항에 있어서,
상기 프로세서는 상기 얼굴 영상에 관하여, 상기 폐색 영역의 비율 및 상기 폐색 영역의 위치 중 적어도 하나를 결정하는, 얼굴 인증 장치.
제17항에 있어서,
상기 프로세서는 상기 폐색 영역의 비율 및 상기 폐색 영역의 위치 중 적어도 하나에 기초하여 상기 얼굴 영상의 신뢰도를 결정하고, 상기 얼굴 영상의 신뢰도에 기초하여 상기 사용자를 인증하는, 얼굴 인증 장치.
제18항에 있어서,
상기 프로세서는 상기 얼굴 영상의 신뢰도 및 임계치를 비교하고, 상기 비교 결과에 기초하여 상기 얼굴 영상에서 특징들을 추출하는, 얼굴 인증 장치.
제17항에 있어서,
상기 프로세서는 상기 폐색 영역의 비율 및 상기 폐색 영역의 위치 중 적어도 하나에 기초하여 상기 얼굴 영상의 신뢰도를 결정하고, 상기 사용자를 인증하기 위한 스코어를 산출하고, 상기 얼굴 영상의 신뢰도에 대응하는 가중치를 상기 스코어에 적용하여 상기 사용자를 인증하는, 얼굴 인증 장치.