KR100971778B1

KR100971778B1 - 그래프 구조를 이용하여 파노라마 이미지에 대한 이미지 매칭을 수행하기 위한 방법, 시스템 및 컴퓨터 판독 가능한 기록 매체

Info

Publication number: KR100971778B1
Application number: KR1020090087797A
Authority: KR
Inventors: 김태훈; 류중희
Original assignee: (주)올라웍스
Priority date: 2009-09-16
Filing date: 2009-09-16
Publication date: 2010-07-22
Also published as: WO2011034308A3; EP2479981A4; JP2013505494A; EP2479981A2; WO2011034308A2; US20120076426A1; JP5234476B2; US8472678B2

Abstract

본 발명은 그래프 구조를 이용하여 파노라마 이미지에 대한 이미지 매칭을 수행하기 위한 방법, 시스템 및 컴퓨터 판독 가능한 기록 매체에 관한 것이다. 본 발명의 일 태양에 따르면, (a) 복수의 파노라마 이미지의 촬영 지점에 대한 정보 및 상기 복수의 파노라마 이미지에 각각 포함된 특정 객체의 방향을 참조로 하여, 적어도 두 개의 파노라마 이미지에 각각 포함되는 특정 객체가 서로 동일한 객체인 것으로 인식되면, 상기 적어도 두 개의 파노라마 이미지에 각각 포함되는 특정 객체에 대한 이미지 사이의 연결 구조를 생성하는 단계, 및 (b) 소정의 객체를 포함하는 이미지가 쿼리(query)로서 입력되면, 상기 소정의 객체를 포함하는 이미지를 상기 연결 구조를 수반하는 적어도 하나의 이미지와 매칭하고, 상기 매칭 결과 및 상기 연결 구조를 참조로 하여 상기 쿼리에 대한 검색 결과를 제공하는 단계를 포함하는 방법이 제공된다. 본 발명에 의하면, 이미지 매칭의 정확도를 향상시키고 이미지 매칭의 연산 속도를 획기적으로 감축시킬 수 있게 되는 효과를 달성할 수 있다.

파노라마 이미지, 비쥬얼 서치, 이미지 매칭, 그래프 구조

Description

그래프 구조를 이용하여 파노라마 이미지에 대한 이미지 매칭을 수행하기 위한 방법, 시스템 및 컴퓨터 판독 가능한 기록 매체{METHOD, SYSTEM AND COMPUTER-READABLE RECORDING MEDIUM FOR MATCHING OF PANORAMIC IMAGE USING GRAPH STRUCTURE}

본 발명은 그래프 구조를 이용하여 파노라마 이미지에 대한 이미지 매칭을 수행하기 위한 방법, 시스템 및 컴퓨터 판독 가능한 기록 매체에 관한 것이다. 보다 상세하게는, 본 발명은, 다양한 지점에서 촬영된 복수의 파노라마 이미지 중 동일한 객체를 포함하고 있는 복수의 이미지를 참조로 하여 소정의 그래프 구조를 생성하여 상기 복수의 이미지 사이의 대응 관계를 제공함으로써, 쿼리(query) 이미지에 대한 이미지 매칭 결과를 신속하게 제공하기 위한 방법, 시스템 및 컴퓨터 판독 가능한 기록 매체에 관한 것이다.

최근, 인터넷 사용이 확산됨에 따라 기존에는 책자와 같은 인쇄물의 형태로 제공되어 왔던 지리 정보가 디지털 데이터로 변환되어 제공되는 것이 일반화되었다. 디지털화된 대표적인 지리 정보의 형태로서, 온라인 상에서 제공되는 전자 지도 서비스, 자동차에 설치되는 내비게이션 시스템 등을 그 예로 들 수 있다. 이와 같이 디지털화된 지리 정보는, 검색 기능과 같은 사용자 인터페이스와 결합됨으로써 다양한 편의 기능을 사용자에게 제공할 수 있다는 장점이 있고, 지리 정보에 변경 사항이 발생하는 경우, 원격 업데이트 등을 통하여 용이하게 갱신 가능하므로, 지리 정보의 최신성 측면에서도 종래의 인쇄물에 비하여 우위에 있는 실정이다.

그러나, 종래에 디지털 지리 정보를 제공하는 서비스 업자들은 단순한 기호의 조합으로 생성되는 전자 지도 화면을 검색 인터페이스와 결합하여 제공하는 것이 일반적이었는데, 전자 지도 화면 상에 표시된 정보는 해당 지역의 실제 모습과 현격한 차이가 있으므로, 실제 해당 지역의 모습을 확인하기 어렵다는 단점이 있었다.

이와 같은 문제를 해결하기 위한 시도로서, 2007년 11월 8일자로 출원되고, 2008년 6월 19일자로 공개된 미국공개특허공보 제2008-143727호는 사용자에게 전자 지도 서비스를 제공하는 과정에서, 전자 지도에 나타나는 골목, 도로 등과 같은 특정 지점에 대응하는 파노라마 이미지(panoramic image) 데이터를 제공하고, 사용자가 파노라마 이미지 데이터 중 화살표 등으로 표현되는 일부 영역을 선택하는 경우, 해당 픽셀에 나타난 지점에 대응하는 다른 파노라마 이미지 데이터를 제공하는 기술을 제안하고 있다. 이에 따라, 사용자는 전자 지도 상의 특정 지점의 실제 모습을 파노라마 이미지 데이터를 통해 확인할 수 있고, 파노라마 이미지 데이터 간에 생성된 링크를 통하여 현재 조회하고 있는 파노라마 이미지 데이터에 나타난 특정 지점의 지리 정보가 보다 상세히 표현된 다른 파노라마 이미지 데이터를 조회할 수 있다.

또한, 이에 더 나아가 파노라마 이미지를 이용하여 비쥬얼 서치(visual search)를 수행하는 기술이 소개된 바 있는데, 이에 따르면 사용자가 입력한 쿼리 이미지를 참조로 하여 복수의 파노라마 이미지 중 상기 쿼리 이미지에 포함된 객체와 유사한 객체를 포함하고 있는 파노라마 이미지를 검색하여 사용자에게 제공할 수 있게 된다.

그러나, 종래의 파노라마 이미지를 이용하여 비쥬얼 서치를 수행하는 기술에 따르면, 임의의 쿼리 이미지에 매칭되는 검색 결과를 제공하기 위하여 데이터베이스 내에 저장된 모든 파노라마 이미지에 대한 데이터를 대상으로 하여 이미지 매칭 연산을 수행해야 하기 때문에, 이미지 매칭의 연산 속도가 느려지고 정확도도 낮은 문제점이 있었다.

본 발명은 상술한 문제점을 모두 해결하는 것을 그 목적으로 한다.

또한, 본 발명은 다양한 지점에서 촬영된 복수의 파노라마 이미지 중 동일한 객체를 포함하고 있는 복수의 이미지로부터 소정의 그래프 구조를 생성함으로써, 특정 객체를 포함하는 쿼리 이미지가 입력되면 신속하고 정확도 높게 이미지 매칭 결과를 제공할 수 있도록 하는 것을 다른 목적으로 한다.

또한, 본 발명은 1차적으로 매칭된 이미지의 대다수가 특정 그래프 구조에 포함되는 경우 상기 특정 그래프 구조에 포함되지 않는 1차적으로 매칭된 이미지를 매칭 결과에서 제거하여 2차적으로 매칭된 이미지를 선정함으로써 매칭의 정확도를 높이는 것을 또 다른 목적으로 한다.

상기 목적을 달성하기 위한 본 발명의 대표적인 구성은 다음과 같다.

본 발명의 일 태양에 따르면, 파노라마 이미지에 대한 이미지 매칭을 수행하기 위한 방법으로서, (a) 복수의 파노라마 이미지의 촬영 지점에 대한 정보 및 상기 복수의 파노라마 이미지에 각각 포함된 특정 객체의 방향을 참조로 하여, 적어도 두 개의 파노라마 이미지에 각각 포함되는 특정 객체가 서로 동일한 객체인 것으로 인식되면, 상기 적어도 두 개의 파노라마 이미지에 각각 포함되는 특정 객체에 대한 이미지 사이의 연결 구조를 생성하는 단계, 및 (b) 소정의 객체를 포함하는 이미지가 쿼리(query)로서 입력되면, 상기 소정의 객체를 포함하는 이미지를 상 기 연결 구조를 수반하는 적어도 하나의 이미지와 매칭하고, 상기 매칭 결과 및 상기 연결 구조를 참조로 하여 상기 쿼리에 대한 검색 결과를 제공하는 단계를 포함하는 방법이 제공된다.

본 발명의 다른 태양에 따르면, 파노라마 이미지에 대한 이미지 매칭을 수행하기 위한 시스템으로서, 복수의 파노라마 이미지의 촬영 지점에 대한 정보 및 상기 복수의 파노라마 이미지에 각각 포함된 특정 객체의 방향을 참조로 하여, 적어도 두 개의 파노라마 이미지에 각각 포함되는 특정 객체가 서로 동일한 객체인 것으로 인식되면, 상기 적어도 두 개의 파노라마 이미지에 각각 포함되는 특정 객체에 대한 이미지 사이의 연결 구조를 생성하는 그래프 구조 생성부, 및 소정의 객체를 포함하는 이미지가 쿼리(query)로서 입력되면, 상기 소정의 객체를 포함하는 이미지를 상기 연결 구조를 수반하는 적어도 하나의 이미지와 매칭하고, 상기 매칭 결과 및 상기 연결 구조를 참조로 하여 상기 쿼리에 대한 검색 결과를 제공하는 쿼리 수행부를 포함하는 시스템이 제공된다.

이 외에도, 본 발명을 구현하기 위한 다른 방법, 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하기 위한 컴퓨터 판독 가능한 기록 매체가 더 제공된다.

본 발명에 의하면, 파노라마 이미지를 이용하여 비쥬얼 서치를 수행함에 있어서 복수의 파노라마 이미지에 시야를 달리하여 포함되는 특정 객체에 대한 이미지 사이의 대응 관계를 설정하기 위한 그래프 구조를 생성한 후, 특정 객체를 포함 하는 쿼리 이미지가 입력되면 특정 객체에 대하여 미리 생성된 그래프 구조에 속하는 이미지를 쿼리 이미지에 대한 이미지 매칭 결과로서 제공할 수 있으므로, 이미지 매칭의 정확도를 향상시키고 이미지 매칭의 연산 속도를 획기적으로 감축시킬 수 있게 되는 효과를 달성할 수 있다.

또한, 본 발명에 따르면, 1차 매칭된 이미지의 대다수가 특정 그래프 구조에 포함되는 경우 상기 특정 그래프 구조에 포함되지 않는 1차 매칭된 이미지를 노이즈로 판단하여 매칭 결과에서 제거함으로써 매칭의 정확도를 높일 수 있다.

후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.

이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 바람직한 실시예들에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.

[본 발명의 바람직한 실시예]

본 명세서에 있어서, 파노라마(panoramic) 이미지는, 임의의 지점에서 보여지는 전경(complete view)을 촬영한 결과 얻어지는 이미지를 의미하는 것으로서, 보다 구체적으로는, 이미지를 구성하는 픽셀들을 상기 촬영 지점을 중심으로 하는 가상의 천구(天球) 상에 구면 좌표계(spherical coordinates)에 따라 표시함으로써 촬영 지점에서 실제로 보여지는 사방(四方)에 대한 시각적 정보를 입체적이고도 실감나게 제공할 수 있도록 하는 이미지의 유형을 총칭하는 것이다. 또한, 본 명세서에 직접적으로 예시하지는 않았지만, 파노라마 이미지는, 이미지를 구성하는 픽셀들을 원기둥 좌표계(cylindrical coordinates)에 따라 표시한 이미지일 수도 있음을 밝혀 둔다.

전체 시스템의 구성

도 1은 본 발명의 일 실시예에 따라 그래프 구조를 이용하여 파노라마 이미지에 대한 이미지 매칭 서비스를 제공하기 위한 전체 시스템의 구성을 개략적으로 나타내는 도면이다.

도 1에 도시되어 있는 바와 같이, 본 발명의 일 실시예에 따른 전체 시스템은, 통신망(100), 그래프 구조를 이용하여 파노라마 이미지에 대한 이미지 매칭 서비스를 제공하는 이미지 매칭 시스템(200), 사용자 단말 장치(300)로 구성될 수 있 다.

먼저, 통신망(100)은 유선 및 무선과 같은 그 통신 양태를 가리지 않고 구성될 수 있으며, 근거리 통신망(LAN: Local Area Network), 도시권 통신망(MAN: Metropolitan Area Network), 광역 통신망(WAN: Wide Area Network) 등 다양한 통신망으로 구성될 수 있다. 바람직하게는, 본 발명에서 말하는 통신망(100)은 공지의 월드와이드웹(WWW: World Wide Web)일 수 있다.

본 발명의 일 실시예에 따르면, 이미지 매칭 시스템(200)은 사용자 단말 장치(300)에 그래프 구조를 이용하여 파노라마 이미지에 대한 비쥬얼 서치 서비스를 제공함에 있어서, 복수의 파노라마 이미지의 위치 및 복수의 파노라마 이미지에 각각 포함된 특정 객체의 방향을 참조로 하여, 적어도 두 개의 파노라마 이미지에 각각 포함되는 특정 객체가 서로 동일한 객체인 것으로 인식되면, 상기 적어도 두 개의 파노라마 이미지에 각각 포함되는 특정 객체에 대한 이미지 사이의 대응 관계를 나타내기 위한 그래프 구조를 생성하는 기능을 수행할 수 있다. 또한, 본 발명의 일 실시예에 따른 이미지 매칭 시스템(200)은, 소정의 객체를 포함하는 이미지가 쿼리(query)로서 입력되면, 소정의 객체를 포함하는 이미지를 임의의 그래프 구조에 속하는 적어도 하나의 이미지와 매칭하고, 매칭 결과를 참조로 하여 매칭된 이미지 및 매칭된 이미지와 그래프 구조에 의하여 연결되어 있는 적어도 하나의 이미지를 쿼리에 대한 검색 결과로서 제공하는 기능을 수행할 수 있다. 이미지 매칭 시스템(200)의 내부 구성에 대한 자세한 설명은 후술하기로 한다.

한편, 본 발명의 일 실시예에 따른 사용자 단말 장치(300)는 사용자가 이미 지 매칭 시스템(200)에 접속한 후 통신할 수 있도록 하는 기능을 포함하는 디지털 기기로서, 개인용 컴퓨터(예를 들어, 데스크탑 컴퓨터, 노트북 컴퓨터 등), 워크스테이션, PDA, 웹 패드, 이동 전화기 등과 같이 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 기기라면 얼마든지 본 발명에 따른 사용자 단말 장치(300)로서 채택될 수 있다.

이미지 매칭 시스템의 구성

이하에서는, 본 발명의 구현을 위하여 중요한 기능을 수행하는 이미지 매칭 시스템(200)의 내부 구성 및 각 구성요소의 기능에 대하여 살펴보기로 한다.

도 2는 본 발명의 일 실시예에 따른 이미지 매칭 시스템(200)의 내부 구성을 예시적으로 나타내는 도면이다.

도 2를 참조하면, 본 발명의 일 실시예에 따른 이미지 매칭 시스템(200)은, 위치 특정부(210), 그래프 구조 생성부(220), 쿼리 수행부(230), 데이터베이스 관리부(240), 통신부(250) 및 제어부(260)를 포함할 수 있고, 데이터베이스 관리부(240)는 파노라마 이미지 데이터베이스(241) 및 그래프 구조 데이터베이스(242)를 포함할 수 있다. 본 발명의 일 실시예에 따르면, 위치 특정부(210), 그래프 구조 생성부(220), 쿼리 수행부(230), 데이터베이스 관리부(240), 통신부(250) 및 제어부(260)는 그 중 적어도 일부가 사용자 단말 장치(300)와 통신하는 프로그램 모듈들일 수 있다. 이러한 프로그램 모듈들은 운영 시스템, 응용 프로그램 모듈 및 기타 프로그램 모듈의 형태로 이미지 매칭 시스템(200)에 포함될 수 있으며, 물리적으로는 여러 가지 공지의 기억 장치 상에 저장될 수 있다. 또한, 이러한 프로 그램 모듈들은 이미지 매칭 시스템(200)과 통신 가능한 원격 기억 장치에 저장될 수도 있다. 한편, 이러한 프로그램 모듈들은 본 발명에 따라 후술할 특정 업무를 수행하거나 특정 추상 데이터 유형을 실행하는 루틴, 서브루틴, 프로그램, 오브젝트, 컴포넌트, 데이터 구조 등을 포괄하지만, 이에 제한되지는 않는다.

먼저, 본 발명의 일 실시예에 따르면, 위치 특정부(210)는 파노라마 이미지가 촬영된 지점의 좌표(위도, 경도 및 고도)를 참조로 하여 복수의 파노라마 이미지의 촬영 위치를 특정하는 기능을 수행할 수 있다. 본 발명의 일 실시예에 따르면, 복수의 파노라마 이미지 및 복수의 파노라마 이미지 각각의 촬영 지점의 좌표(위도, 경도 및 고도)는 서로 연계되어 파노라마 이미지 데이터베이스(241) 내에 저장될 수 있다.

도 3은 본 발명의 일 실시예에 따라 서로 다른 지점에서 촬영된 파노라마 이미지 사이의 위치 관계를 구체적으로 나타내기 위한 예시 도면이다.

도 3을 참조하면, 본 발명의 일 실시예에 따라 서로 다른 지점에서 4개의 파노라마 이미지(310, 320, 330, 340)가 촬영될 수 있으며 상기 4개의 파노라마 이미지의 위치는 각각의 촬영 지점의 좌표에 의하여 특정될 수 있다.

다음으로, 본 발명의 일 실시예에 따르면, 그래프 구조 생성부(220)는 위치 특정부(210)에 의하여 특정된 파노라마 이미지의 위치 및 파노라마 이미지의 촬영 지점을 중심으로 할 때 파노라마 이미지에 포함된 객체(가령, 건물 등)가 위치하는 방향을 참조로 하여 적어도 두 개의 파노라마 이미지에 포함되는 특정 객체가 서로 동일한 객체인 것으로 인식되면, 상기 적어도 두 개의 파노라마 이미지에 각각 포 함되는 특정 객체에 대한 이미지 사이의 대응 관계를 나타내기 위한 그래프 구조(graph structure)를 생성하는 기능을 수행한다.

여기서, 그래프 구조는, 특정 집단 내의 복수의 대상 사이의 관계를 그래프로 나타낸 수학적 구조를 의미하는 것으로서, 복수의 노드(node)와 서로 다른 노드를 연결하는 선(edge)으로 구성될 수 있다. 본 발명의 일 실시예에 따르면, 각 노드가 선으로 연결된 그래프 구조에 있어서, 각 노드는 복수의 파노라마 이미지에 각각 포함되는 특정 객체에 대한 이미지를 포함할 수 있는데, 서로 다른 노드가 선으로 연결되고 있다는 것은, 상기 선으로 연결된 각 노드에 해당되는 이미지는 서로 동일한 객체에 대한 이미지를 나타내고 있다는 의미임을 알 수 있다.

한편, 본 발명의 일 실시예에 따르면, 임의의 객체에 대하여 생성된 그래프 구조에 대한 정보는 그래프 구조 데이터베이스(242) 내에 저장될 수 있다. 그래프 구조 데이터베이스(242)는 그래프 구조를 구성하는 노드 및 선에 관한 별개의 데이터 구조를 저장하고 있을 수 있지만, 반드시 이에 한정되는 것은 아니며, 복수의 파노라마 이미지에 각각 포함된 복수의 객체 이미지 자체의 연결 관계를 생성하는 등의 다양한 방법을 통하여 구현될 수도 있을 것이다.

본 발명의 일 실시예에 따라 객체 A에 대한 소위 동일 객체 인식 과정(즉, 객체 A와 동일한 객체인 것으로 인식될 수 있는지 여부를 판단하는 과정) 및 그래프 구조 생성 과정을 보다 구체적으로 설명하면 다음과 같다.

먼저, 본 발명의 일 실시예에 따르면, 복수의 파노라마 이미지 각각에 대하여 객체 A를 포함하고 있는지 여부를 판단한다. 이때, 객체 인식의 효율성을 높이기 위해 파노라마 이미지의 촬영 지점의 좌표를 참조로 하여 객체 A가 위치하는 지점의 주변에서 촬영된 파노라마 이미지에 대하여만 객체 A의 포함 여부를 판단할 수도 있을 것이다. 다음으로, 본 발명의 일 실시예에 따르면, 객체 A를 포함하고 있는 것으로 판단된 n개의 파노라마 이미지 각각에 대하여 해당 파노라마 이미지의 촬영 지점을 중심으로 할 때 해당 파노라마 이미지 상에 표시된 객체 A의 방향을 산출한다. 다음으로, 본 발명의 일 실시예에 따르면, 상기 n개의 파노라마 이미지 각각의 촬영 지점의 좌표 및 상기 n개의 파노라마 이미지 상에 표시된 객체 A의 방향을 참조로 하여 상기 n 개의 파노라마 이미지에 포함되어 있는 객체 A가 실제로 서로 동일한 객체인지 여부를 결정할 수 있다.

예를 들어, 도 3을 참조하면, 제1, 제2 및 제3 파노라마 이미지(310, 320, 330)는 남북 방향으로 곧게 뻗은 제1 도로 상에서 촬영되어 그 촬영 지점이 제1 도로를 따라 동일 경도선 상에서 위치하고 있고, 제4 파노라마 이미지(340)는 상기 제1 도로와 직교하는 제2 도로에서 촬영되어 그 촬영 지점이 제1, 제2 및 제3 파노라마 이미지와는 동떨어진 곳에 위치하고 있으며, 객체 A(350)가 제2 파노라마 이미지의 촬영 지점과 동일 위도 상의 동쪽 방향에 위치하고, 상기 객체 A(350)와 유사한 외형을 갖는 객체 B(360)가 제4 파노라마 이미지의 촬영 지점과 동일 경도 상 남쪽 방향에 위치하는 경우를 가정할 수 있다. 이러한 경우 객체 A는, 제1 파노라마 이미지(310) 상에서 제1 파노라마 이미지(310)의 촬영 지점으로부터 동남쪽 방향에 위치하는 것(315)으로 표시될 수 있고, 제2 파노라마 이미지(320) 상에서 제2 파노라마 이미지(320)의 촬영 지점으로부터 동쪽 방향에 위치하는 것(325)으로 표 시될 수 있으며, 제3 파노라마 이미지(330) 상에서 제3 파노라마 이미지(330)의 촬영 지점으로부터 동북쪽 방향에 위치하는 것(335)으로 표시될 수 있다. 또한, 객체 A(350)와 유사한 외형을 갖는 객체 B(360)는 제4 파노라마 이미지(340) 상에 제4 파노라마 이미지(340)의 촬영 지점으로부터 남쪽 방향에 위치하는 것(345)으로 표시될 수 있다. 따라서, 본 발명의 일 실시예에 따른 그래프 구조 생성부(220)는, 제1 내지 제4 파노라마 이미지의 촬영 지점의 좌표 및 제1 내지 제4 파노라마 이미지 상에 표시된 객체 A(350) 및 B(360)의 방향을 참조로 하여, 제1 내지 제3 파노라마 이미지에 포함된 객체 A는 모두 동일한 객체이고, 제4 파노라마 이미지에 포함된 객체 B는 객체 A와는 유사한 외형을 갖고 있지만 객체 A와는 서로 다른 객체인 것으로 판단할 수 있게 된다.

다음으로, 본 발명의 일 실시예에 따르면, 객체 A(350)를 포함하고 있는 것으로 판단된 제1 내지 제3 파노라마 이미지(310, 320, 330)에서 객체 A(350) 부분에 해당되는 제1 내지 제3 파노라마 이미지(310, 320, 330) 상의 각각의 객체 A 이미지(315, 325, 335) 사이에 대응 관계를 나타내는 그래프 구조를 생성할 수 있다.

도 4는 본 발명의 일 실시예에 따른 그래프 구조의 개념도를 예시적으로 나타내는 도면이다.

도 4를 참조하면, 그래프 구조의 제1 내지 제3 노드(415, 425, 435)는 제1 내지 제3 파노라마 이미지의 객체 A 이미지(315, 325, 335)에 대한 정보를 포함할 수 있고, 그래프 구조의 제4 노드는 제4 파노라마 이미지의 객체 B 이미지(345)에 대한 정보를 포함할 수 있다. 앞서 언급한 바와 같이, 제1 내지 제3 파노라마 이 미지에 포함된 객체 A가 모두 동일한 객체인 것으로 인식되었으므로, 제1 내지 제3 파노라마 이미지의 객체 A 이미지(315, 325, 335)에 해당하는 제1 내지 제3 노드(415, 425, 435)는 서로 연결되도록 할 수 있다. 즉, 도 4에 도시된 그래프 구조에 있어서, 선에 의하여 연결되어 있는 복수의 노드에 속하는 객체 이미지는 서로 동일한 객체에 대한 이미지임을 의미하게 된다.

한편, 위에서 언급한 바와 같이, 특정 객체를 다양한 각도 및 거리에서 촬영한 결과 얻어지는 복수의 파노라마 이미지 상에 각각 표시되는 특정 객체를 동일한 객체로 인식하기 위해서는 소정의 객체 인식 기술이 요구되는데, 본 발명의 일 실시예에 따르면, 이러한 객체 인식 기술로서, K. MIKOLAJCZYK 외 7인이 공동으로 저술하고 2005년 11월 "International Journal of Computer Vision"에 기재된 "A Comparison of Affine Region Detectors"이라는 논문 등을 참조할 수 있을 것이다(상기 논문의 내용은 그 전체가 본 명세서에 병합되어 있는 것으로 고려되어야 한다). 상기 논문에는 다양한 각도로 촬영된 동일한 객체를 정확하게 인식하기 위하여 affine invariant 영역을 검출하는 방법에 대하여 기재되어 있다. 물론, 본 발명에 적용 가능한 객체 인식 기술이 상기 논문에 기재된 방법에만 한정되는 것은 아니며, 다양한 변형예를 적용하여 본 발명을 구현할 수 있을 것이다.

다음으로, 본 발명의 일 실시예에 따르면, 쿼리 수행부(230)는 그래프 구조 생성부(220)에 의하여 미리 생성된 그래프 구조를 참조로 하여 쿼리 이미지에 대한 검색 결과를 신속하게 제공하는 기능을 수행한다. 보다 구체적으로, 본 발명의 일 실시예에 따른 쿼리 수행부(230)는, 특정 객체를 포함하는 이미지가 쿼리 이미지로 서 입력되면, 쿼리 이미지를 그래프 구조를 수반하는 적어도 하나의 객체 이미지와 매칭하고, 매칭 결과를 참조로 하여 매칭된 객체 이미지 및 매칭된 객체 이미지와 그래프 구조에 의하여 연결되어 있는 적어도 하나의 객체 이미지를 쿼리 이미지에 대한 검색 결과로서 제공할 수 있다. 또 다른 예로서, 본 발명의 일 실시예에 따른 쿼리 수행부(230)는, 특정 객체를 포함하는 이미지가 쿼리 이미지로서 입력되면, 쿼리 이미지를 그래프 구조를 수반하는 적어도 하나의 객체 이미지와 매칭하고, 매칭된 적어도 하나의 객체 이미지에 대한 그래프 구조를 참조로 할 때, 대다수 객체 이미지가 특정 그래프 구조에 속할 경우, 상기 특정 그래프 구조에 속하는 객체 이미지에 포함되는 객체의 정보(텍스트 정보, 이미지 정보 등)를 쿼리 이미지에 대한 검색 결과로서 제공할 수도 있는 등 다양한 변형예를 상정해 볼 수 있을 것이다.

도 5는 본 발명의 일 실시예에 따라 입력되는 쿼리 이미지를 예시적으로 나타내는 도면이다. 그리고, 도 6 내지 도 9는 각각 본 발명의 일 실시예에 따라 도 3에 도시된 각 촬영 지점에서 촬영된 제1 내지 제4 파노라마 이미지를 예시적으로 나타내는 도면이다.

본 발명의 일 실시예에 따르면, 쿼리 수행부(230)는 도 5의 쿼리 이미지에 대한 이미지 매칭을 수행한 결과, 도 6의 제1 파노라마 이미지의 객체 A 이미지(610)가 도 5의 쿼리 이미지에 매칭된다고 판단할 수 있다. 이러한 경우, 쿼리 수행부(230)는 기본적으로 도 6의 제1 파노라마 이미지의 객체 A 이미지(610)를 쿼리에 대한 검색 결과로서 제공할 수 있다. 또한, 본 발명의 일 실시예에 따른 쿼 리 수행부(230)는, 객체 A에 대하여 생성된 도 4의 그래프 구조를 참조로 하여 도 6의 제1 파노라마 이미지의 객체 A 이미지(610)와 그래프 구조에 의하여 연결되어 있는 도 7의 제2 파노라마 이미지의 객체 A 이미지(710) 및 도 8의 제3 파노라마 이미지의 객체 A 이미지(810)를 쿼리에 대한 검색 결과로서 추가적으로 제공할 수 있으며, 도 6의 제1 파노라마 이미지의 객체 A 이미지(610)와 그래프 구조에 의하여 연결되어 있지 않는 도 9의 제4 파노라마 이미지의 객체 B 이미지(910)는 쿼리에 대한 검색 결과로서 제공하지 않을 수 있다. 또한, 다른 예로서, 본 발명의 일 실시예에 따르면, 쿼리 수행부(230)는 도 5의 쿼리 이미지에 대한 이미지 매칭을 수행한 결과, 도 6의 제1 파노라마 이미지의 객체 A 이미지(610), 도 7의 제2 파노라마 이미지의 객체 A 이미지(710), 도 8의 제3 파노라마 이미지의 객체 A 이미지(810), 및 도 9의 제4 파노라마 이미지의 객체 B 이미지(910)를 1차적인 매칭 결과로서 선택할 수 있고, 이중 동일한 그래프 구조에 속하지 않은 도 9의 제4 파노라마 이미지의 객체 B 이미지(910)를 노이즈로 판단하여 매칭 결과에서 제거한 후, 나머지 동일한 그래프 구조에 속하는 객체 A 이미지(610), 객체 A 이미지(710), 객체 A 이미지(810)가 동일하게 가리키고 있는 객체 A에 대한 정보를 쿼리에 대한 검색 결과로서 제공할 수도 있을 것이다.

다음으로, 본 발명의 일 실시예에 따르면, 파노라마 이미지 데이터베이스(241)에는 다양한 촬영지점에서 촬영된 복수의 파노라마 이미지가 촬영지점의 좌표(위도, 경도 및 고도)와 연계되어 저장될 수 있고, 그래프 구조 데이터베이스(242)에는 본 발명에 따라 생성된 그래프 구조에 관한 정보가 저장되어 있을 수 있다.

한편, 본 발명에 있어서 데이터베이스란, 협의의 데이터베이스뿐만 아니라, 컴퓨터 파일 시스템에 기반한 데이터 기록 등을 포함하는 넓은 의미의 데이터베이스까지도 포함하는 개념으로서, 단순한 연산 처리 로그의 집합이라도 이를 검색하여 소정의 데이터를 추출할 수 있다면 본 발명에서 말하는 데이터베이스에 포함될 수 있음이 이해되어야 한다. 비록, 도 2에서 데이터베이스(241, 242)는 이미지 매칭 시스템(200)에 포함되어 구성되어 있는 것으로 도시되어 있지만, 본 발명을 구현하는 당업자의 필요에 따라, 데이터베이스(241, 242)는 이미지 매칭 시스템(200)과 별개로 구성될 수도 있을 것이다.

이상에서 살펴본 바와 같이, 본 발명에 따르면, 파노라마 이미지의 촬영 지점과 특정 객체의 위치를 참조로 하여 특정 객체를 포함하는 복수의 객체 이미지 사이의 대응 관계를 포함하는 그래프 구조를 미리 생성하여 이미지 매칭에 활용함으로써, 쿼리 이미지와 유사한 객체를 포함하는 이미지를 검색하기 위하여 데이터베이스 내에 존재하는 모든 이미지에 대하여 이미지 매칭을 수행하지 않고도, 쿼리 이미지와 유사한 객체를 포함하는 이미지인 것으로 판단된 특정 이미지 및 그래프 구조에 의하여 특정 이미지와 연결되어 있는 다른 이미지를 쿼리 이미지에 대한 검색 결과로 제공할 수 있으므로, 이미지 매칭의 정확도를 향상시키고 이미지 매칭의 연산 속도를 획기적으로 감축시킬 수 있게 된다. 또한, 본 발명에 따르면, 1차 매칭된 이미지의 대다수가 특정 그래프 구조에 포함되는 경우 상기 특정 그래프 구조에 포함되지 않는 1차 매칭된 이미지를 노이즈로 판단하여 매칭 결과에서 제거함으로써 매칭의 정확도를 높일 수 있을 것이다. 가령, 1차 매칭된 이미지의 대다수가 특정 그래프 구조에 포함되는 경우는, 1차 매칭된 이미지 중 특정 그래프 구조에 포함되는 이미지가 차지하는 비율이 기설정된 값 이상인 경우를 의미할 수 있다.

한편, 본 발명의 일 실시예에 따른 이미지 매칭 시스템(200)은, 복수의 파노라마 이미지에서 객체 인식에 방해가 되는 나무, 자동차, 사람의 얼굴 등의 장애물을 탐색하고 이러한 장애물에 의하여 가려진 부분을 복원하는 기능을 수행하는 전처리부(미도시됨)를 더 포함할 수 있다. 도로를 따라 이동하면서 순차적으로 촬영되는 파노라마 이미지의 특성을 고려할 때, 특정 파노라마 이미지 상에서 장애물에 의하여 가려진 부분은 특정 파노라마 이미지가 촬영된 지점과 근접한 지점에서 촬영된 다른 파노라마 이미지 상에서 온전하게 표현되어 있을 수 있으므로, 본 발명의 일 실시예에 따른 전처리부(미도시됨)는 서로 근접한 지점에서 촬영된 복수의 파노라마 이미지를 상호 참조함으로써 장애물에 의하여 가려진 부분을 복원할 수 있을 것이다.

보다 구체적으로, 본 발명의 일 실시예에 따른 전처리부(미도시됨)는, 파노라마 이미지 상에서 표시된 장애물 영역을 효율적으로 탐색하기 위하여, 장애물 영역의 크기를 참조로 할 수 있다. 예를 들면, 원거리에서 촬영된 파노라마 이미지에서 나무나 사람 얼굴 등의 장애물 영역이 상대적으로 작게 표시되어 지평선 근처에 집중되어 있는 경우를 가정할 수 있는데, 이러한 경우 본 발명의 일 실시예에 따른 전처리부(미도시됨)는 지평선으로부터 기설정된 픽셀 수 이내에서만 작은 크기의 장애물 영역을 탐색함으로써 탐색의 효율성을 높일 수 있다.

한편, 본 발명의 일 실시예에 따른 통신부(250)는 이미지 매칭 시스템(200)이 사용자 단말 장치(300) 등과 같은 외부 장치와 통신할 수 있도록 하는 기능을 수행한다.

또한, 본 발명의 일 실시예에 따른 제어부(260)는 위치 특정부(210), 그래프 구조 생성부(220), 쿼리 수행부(230), 데이터베이스 관리부(240) 및 통신부(250) 간의 데이터의 흐름을 제어하는 기능을 수행한다. 즉, 제어부(260)는 외부로부터의 또는 이미지 매칭 시스템(200)의 각 구성요소 간의 데이터의 흐름을 제어함으로써, 위치 특정부(210), 그래프 구조 생성부(220), 쿼리 수행부(230), 데이터베이스 관리부(240) 및 통신부(250)에서 각각 고유 기능을 수행하도록 제어한다.

이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.

이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.

따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.

도 2는 본 발명의 일 실시예에 따른 이미지 매칭 시스템의 내부 구성을 예시적으로 나타내는 도면이다.

도 3은 본 발명의 일 실시예에 따라 서로 다른 지점에서 촬영된 파노라마 이미지 사이의 위치 관계를 나타내는 도면이다.

도 5는 본 발명의 일 실시예에 따라 입력되는 쿼리 이미지를 예시적으로 나타내는 도면이다.

도 6 내지 도 9는 각각 본 발명의 일 실시예에 따라 도 3에 도시된 각 촬영 지점에서 촬영된 제1 내지 제4 파노라마 이미지를 예시적으로 나타내는 도면이다.

<주요 도면부호에 관한 간단한 설명>

100: 통신망

200: 이미지 매칭 시스템

210: 위치 특정부

220: 그래프 구조 생성부

230: 쿼리 수행부

240: 데이터베이스 관리부

241: 지도 데이터베이스

242: 이미지 데이터베이스

250: 통신부

260: 제어부

300: 사용자 단말 장치

Claims

파노라마 이미지에 대한 이미지 매칭을 수행하기 위한 방법으로서,

(a) 복수의 파노라마 이미지의 촬영 지점에 대한 정보 및 상기 복수의 파노라마 이미지에 각각 포함된 특정 객체의 방향을 참조로 하여, 적어도 두 개의 파노라마 이미지에 각각 포함되는 특정 객체가 서로 동일한 객체인 것으로 인식되면, 상기 적어도 두 개의 파노라마 이미지에 각각 포함되는 특정 객체에 대한 이미지 사이의 연결 구조를 생성하는 단계, 및

(b) 소정의 객체를 포함하는 이미지가 쿼리(query)로서 입력되면, 상기 소정의 객체를 포함하는 이미지를 상기 연결 구조를 수반하는 적어도 하나의 이미지와 매칭하고, 상기 매칭 결과 및 상기 연결 구조를 참조로 하여 상기 쿼리에 대한 검색 결과를 제공하는 단계

를 포함하는 방법.
제1항에 있어서,

상기 (b) 단계는,

특정 매칭된 이미지 및 상기 특정 매칭된 이미지와 상기 연결 구조에 의하여 연결되어 있는 적어도 하나의 이미지를 상기 쿼리에 대한 검색 결과로서 제공하는 것을 특징으로 하는 방법.
제1항에 있어서,

상기 (b) 단계는,

상기 매칭된 이미지 중 특정 연결 구조에 포함되는 이미지가 차지하는 비율이 기설정된 값 이상이면, 상기 매칭된 이미지에서 상기 특정 연결 구조에 포함되지 않은 이미지를 제거한 후 상기 쿼리에 대한 검색 결과로서 제공하는 것을 특징으로 하는 방법.
제1항에 있어서,

상기 파노라마 이미지는 특정 촬영 지점에서 보여지는 전경(complete view)을 상기 특정 촬영 지점을 중심으로 하는 가상의 천구(天球) 상에 표현한 것을 특징으로 하는 방법.
제1항에 있어서,

상기 (a) 단계에서,

상기 특정 객체의 방향은 해당 파노라마 이미지의 촬영 지점을 중심으로 하여 산출되는 것임을 특징으로 하는 방법.
제1항에 있어서,

상기 (a) 단계에서,

제1 파노라마 이미지에서 상기 특정 객체인 것으로 인식된 제1 객체가 상기 제1 파노라마 이미지 상에서 상기 제1 파노라마 이미지의 촬영 지점으로부터 상기 특정 객체가 위치하는 지점으로 뻗은 반직선 상에 표시되고, 제2 파노라마 이미지에서 상기 특정 객체인 것으로 인식된 제2 객체가 상기 제2 파노라마 이미지 상에서 상기 제2 파노라마 이미지의 촬영 지점으로부터 상기 특정 객체가 위치하는 지점으로 뻗은 반직선 상에 표시되면, 상기 제1 객체 및 상기 제2 객체를 동일한 객체인 것으로 결정하여 연결 구조를 생성하는 것을 특징으로 하는 방법.
제1항에 있어서,

상기 (a) 단계에서,

상기 연결 구조는, 상기 적어도 두 개의 파노라마 이미지에 각각 포함되는 상기 특정 객체에 대한 이미지가 각 노드(node)로 설정되고 각 노드는 선(edge)에 의하여 연결되는 그래프 구조(graph structure)인 것을 특징으로 하는 방법.
제1항에 있어서,

상기 (a) 단계 이전에,

상기 복수의 파노라마 이미지에서 장애물을 탐색하고 상기 탐색된 장애물에 의하여 가려진 특정 객체의 부분을 복원하는 단계

를 더 포함하는 방법.
제8항에 있어서,

상기 파노라마 이미지 상에서의 상기 장애물 영역의 위치 및 상기 장애물 영 역의 크기를 참조로 하여 상기 장애물 영역을 결정하는 것을 특징으로 하는 방법.
제8항에 있어서,

상기 탐색된 장애물에 의하여 가려진 특정 객체의 부분을 복원함에 있어서, 상기 특정 객체가 온전히 촬영된 타 파노라마 이미지 상에서의 상기 특정 객체의 이미지를 참조로 하여 복원하는 것을 특징으로 하는 방법.
파노라마 이미지에 대한 이미지 매칭을 수행하기 위한 시스템으로서,

복수의 파노라마 이미지의 촬영 지점에 대한 정보 및 상기 복수의 파노라마 이미지에 각각 포함된 특정 객체의 방향을 참조로 하여, 적어도 두 개의 파노라마 이미지에 각각 포함되는 특정 객체가 서로 동일한 객체인 것으로 인식되면, 상기 적어도 두 개의 파노라마 이미지에 각각 포함되는 특정 객체에 대한 이미지 사이의 연결 구조를 생성하는 그래프 구조 생성부, 및

소정의 객체를 포함하는 이미지가 쿼리(query)로서 입력되면, 상기 소정의 객체를 포함하는 이미지를 상기 연결 구조를 수반하는 적어도 하나의 이미지와 매칭하고, 상기 매칭 결과 및 상기 연결 구조를 참조로 하여 상기 쿼리에 대한 검색 결과를 제공하는 쿼리 수행부

를 포함하는 시스템.
제11항에 있어서,

상기 쿼리 수행부는,

특정 매칭된 이미지 및 상기 특정 매칭된 이미지와 상기 연결 구조에 의하여 연결되어 있는 적어도 하나의 이미지를 상기 쿼리에 대한 검색 결과로서 제공하는 것을 특징으로 하는 시스템.
제11항에 있어서,

상기 쿼리 수행부는,

상기 매칭된 이미지 중 특정 연결 구조에 포함되는 이미지가 차지하는 비율이 기설정된 값 이상이면, 상기 매칭된 이미지에서 상기 특정 연결 구조에 포함되지 않은 이미지를 제거한 후 상기 쿼리에 대한 검색 결과로서 제공하는 것을 특징으로 하는 시스템.
제11항에 있어서,

상기 파노라마 이미지는 특정 촬영 지점에서 보여지는 전경(complete view)을 상기 특정 촬영 지점을 중심으로 하는 가상의 천구(天球) 상에 표현한 것을 특징으로 하는 시스템.
제11항에 있어서,

상기 특정 객체의 방향은 해당 파노라마 이미지의 촬영 지점을 중심으로 하여 산출되는 것임을 특징으로 하는 시스템.
제11항에 있어서,

상기 그래프 구조 생성부는,

제1 파노라마 이미지에서 상기 특정 객체인 것으로 인식된 제1 객체가 상기 제1 파노라마 이미지 상에서 상기 제1 파노라마 이미지의 촬영 지점으로부터 상기 특정 객체가 위치하는 지점으로 뻗은 반직선 상에 표시되고, 제2 파노라마 이미지에서 상기 특정 객체인 것으로 인식된 제2 객체가 상기 제2 파노라마 이미지 상에서 상기 제2 파노라마 이미지의 촬영 지점으로부터 상기 특정 객체가 위치하는 지점으로 뻗은 반직선 상에 표시되면, 상기 제1 객체 및 상기 제2 객체를 동일한 객체인 것으로 결정하여 연결 구조를 생성하는 것을 특징으로 하는 시스템.
제11항에 있어서,

상기 연결 구조는, 상기 적어도 두 개의 파노라마 이미지에 각각 포함되는 상기 특정 객체에 대한 이미지가 각 노드(node)로 설정되고 각 노드는 선(edge)에 의하여 연결되는 그래프 구조(graph structure)인 것을 특징으로 하는 시스템.
제11항에 있어서,

상기 복수의 파노라마 이미지에서 장애물을 탐색하고 상기 탐색된 장애물에 의하여 가려진 부분을 복원함으로써 전처리된 파노라마 이미지를 제공하는 전처리부

를 더 포함하는 시스템.
제18항에 있어서,

상기 전처리부는,

상기 파노라마 이미지 상에서의 상기 장애물 영역의 위치 및 상기 장애물 영역의 크기를 참조로 하여 상기 장애물 영역을 결정하는 것을 특징으로 하는 시스템.
제18항에 있어서,

상기 전처리부는,

상기 탐색된 장애물에 의하여 가려진 특정 객체의 부분을 복원함에 있어서, 상기 특정 객체가 온전히 촬영된 타 파노라마 이미지 상에서의 상기 특정 객체의 이미지를 참조로 하여 복원하는 것을 특징으로 하는 시스템.
제1항 내지 제10항 중 어느 한 항에 따른 방법을 실행하기 위한 컴퓨터 프로그램을 기록한 컴퓨터 판독 가능한 기록 매체.