[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

KR20120014480A - Integrative image searching system and service method of the same - Google Patents

Integrative image searching system and service method of the same Download PDF

Info

Publication number
KR20120014480A
KR20120014480A KR1020100076588A KR20100076588A KR20120014480A KR 20120014480 A KR20120014480 A KR 20120014480A KR 1020100076588 A KR1020100076588 A KR 1020100076588A KR 20100076588 A KR20100076588 A KR 20100076588A KR 20120014480 A KR20120014480 A KR 20120014480A
Authority
KR
South Korea
Prior art keywords
image
decoder
terminal
type
server
Prior art date
Application number
KR1020100076588A
Other languages
Korean (ko)
Other versions
KR101729938B1 (en
Inventor
나승원
Original Assignee
에스케이플래닛 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이플래닛 주식회사 filed Critical 에스케이플래닛 주식회사
Priority to KR1020100076588A priority Critical patent/KR101729938B1/en
Priority to CN201610860333.0A priority patent/CN107092614B/en
Priority to PCT/KR2011/005209 priority patent/WO2012020927A1/en
Priority to US13/814,970 priority patent/US9576195B2/en
Priority to CN201180045907.4A priority patent/CN103119593B/en
Publication of KR20120014480A publication Critical patent/KR20120014480A/en
Priority to US15/345,567 priority patent/US10380170B2/en
Application granted granted Critical
Publication of KR101729938B1 publication Critical patent/KR101729938B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7837Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using objects detected or recognised in the video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43Querying
    • G06F16/432Query formulation
    • G06F16/434Query formulation using image data, e.g. images, photos, pictures taken by a user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5854Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using shape and object relationship
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K19/00Record carriers for use with machines and with at least a part designed to carry digital markings
    • G06K19/06Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code
    • G06K19/06009Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking
    • G06K19/06018Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking one-dimensional coding
    • G06K19/06028Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking one-dimensional coding using bar codes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K19/00Record carriers for use with machines and with at least a part designed to carry digital markings
    • G06K19/06Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code
    • G06K19/06009Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking
    • G06K19/06037Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking multi-dimensional coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K19/00Record carriers for use with machines and with at least a part designed to carry digital markings
    • G06K19/06Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code
    • G06K19/067Record carriers with conductive marks, printed circuits or semiconductor circuit elements, e.g. credit or identity cards also with resonating or responding marks without active components
    • G06K19/07Record carriers with conductive marks, printed circuits or semiconductor circuit elements, e.g. credit or identity cards also with resonating or responding marks without active components with integrated circuit chips
    • G06K19/0723Record carriers with conductive marks, printed circuits or semiconductor circuit elements, e.g. credit or identity cards also with resonating or responding marks without active components with integrated circuit chips the record carrier comprising an arrangement for non-contact communication, e.g. wireless communication circuits on transponder cards, non-contact smart cards or RFIDs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Library & Information Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Mathematical Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

PURPOSE: An integrated image searching system and service method thereof are provided to automatically process searching methods by selecting a decoder according to object types. CONSTITUTION: A capturing unit(120) creates object images by capturing an object. An image recognition unit(140) grasps object types by analyzing the object images based on image recognition. An integrated recognition engine(160) recognizes the object image by automatically operating a decoder according to the object types. The image recognition unit assorts the object types based on a specific point by extracting the specific point based on the image recognition from the object image. The decoder includes a barcode, a QR(Quick Response) code, NFC(Near Field Communication), RFID(Radio Frequency ID), OCR(Optical Character Recognition), and a face/image decoder.

Description

통합 영상 검색 시스템 및 그 서비스 방법{INTEGRATIVE IMAGE SEARCHING SYSTEM AND SERVICE METHOD OF THE SAME} Integrated image retrieval system and its service method {INTEGRATIVE IMAGE SEARCHING SYSTEM AND SERVICE METHOD OF THE SAME}

본 발명은 통합 영상 검색 시스템 및 그 서비스 방법에 관한 것으로서, 더욱 상세하게는 스마트 폰이나 웹 캠이 설치된 PC 기반의 단말기를 통해 검색하고자 하는 객체의 영상이 입력되면 입력된 영상을 특징점 추출 기반의 영상 인식 기술로 분석하여 객체의 유형을 미리 파악하고 객체의 유형에 따라 해당 디코더를 자동 구동하여 객체를 판독함으로써 객체의 유형에 관계없이 모든 객체에 대하여 통합 인식이 가능한 통합 영상 검색 시스템 및 그 서비스 방법에 관한 것이다.The present invention relates to an integrated image retrieval system and a service method thereof. More particularly, when an image of an object to be searched is input through a smart phone or a PC-based terminal equipped with a web cam, the input image is based on feature extraction. The integrated image retrieval system and its service method capable of integrated recognition of all objects regardless of the type of the object by analyzing the recognition technology in advance to determine the type of the object and automatically driving the corresponding decoder according to the type of the object. It is about.

일반적으로, 텔레비전 등에서 영화 또는 광고 프로그램을 시청하거나 쇼핑 중에 마음에 드는 객체(예컨대, 사람 또는 사물 등)를 찾게 된 경우, 또는 평소에 관심을 가지고 있던 임의의 객체를 발견한 경우 사용자들은 객체를 메모하거나, 최근에는 모바일 단말의 카메라를 이용하여 촬영하여 기억하고자 한다. In general, when a user watches a movie or commercial program on a television or finds a favorite object (e.g., a person or an object) while shopping, or finds an object of interest to the user in general, the user may note the object. Or, recently, to capture and store by using the camera of the mobile terminal.

그러나, 전자의 경우 메모를 습관화해야 하고 항상 메모지를 구비해야 하며, 상품의 상세 정보를 메모한 메모지를 잃어버릴 위험성이 있는 등 관리가 쉽지 않다. However, in the former case, the memo should be habitual and always have a memo paper, and there is a risk of losing the memo paper with the detailed information of the product.

후자의 경우는 사용자가 항상 소지하고 있는 모바일 단말을 이용한다는 점에서 휴대 및 관리가 용이하지만, 촬영한 영상을 통해 원하는 객체를 검색하기 위해서는 영상에서 노출되는 정보를 수동적으로 입력해야 하는 단점이 있다. 예를 들어, 영상에서 노출된 상품의 이름이나 제품 번호, 모양, 색깔 등을 이용하여 입력해야 한다.In the latter case, it is easy to carry and manage in that the user always uses the mobile terminal. However, in order to search for a desired object through the captured image, it is necessary to manually input information exposed in the image. For example, the name or product number, shape, and color of the product exposed in the image should be input.

이때, 상품의 이름이나 제품 번호와 같이 명확하게 노출되는 정보에 대해서는 검색이 명확하게 이루어지지만, 모양이나 이미지 등에 특징이 있거나 영상을 보고서도 정확한 정보를 알 수 없는 경우에는 검색 작업에 어려운 문제점이 있다. At this time, the search is clearly made about the information that is clearly exposed such as the name of the product or the product number, but there is a problem that the search operation is difficult when there is a characteristic such as a shape or an image or when the video is not known accurate information. .

이로 인해, 최근 들어서는 단말에 객체의 영상을 이용하여 인식할 수 있는 디코더(인식 엔진)를 내장한 기술들이 적용되고 있다. For this reason, in recent years, technologies in which a decoder (recognition engine) that can be recognized by using an image of an object is applied to a terminal.

즉, 단말에 바코드 디코더를 탑재하여 바코드 영상으로부터 바코드를 인식한 다음 검색하거나 또는 단말에 QR코드 디코더를 탑재하여 QR코드의 영상으로부터 해당 QR코드를 인식하여 검색을 수행하는 기술이 개시되어 있다. That is, a technique is disclosed in which a barcode decoder is mounted on a terminal to recognize a barcode from a barcode image and then searched, or a QR code decoder is mounted on a terminal to recognize a QR code from an image of a QR code and perform a search.

그런데, 상기의 기술들은 바코드, QR코드, 얼굴 인식, 영상 인식을 위한 디코더들이 각 단말에 개별적으로 탑재되어 있어 객체의 유향에 따라 인식이 제한되며, 객체 인식을 위해서는 사용자가 직접 유형을 구분하여 인식 요청을 수행해야 하는 단점이 있다. However, the above-described technologies are equipped with decoders for barcode, QR code, face recognition, and image recognition individually, so that recognition is limited according to the direction of the object, and the user directly recognizes the type to recognize the object. The disadvantage is that the request must be fulfilled.

본 발명은 상기의 문제점을 해결하기 위해 창안된 것으로서, 검색하고자 하는 객체의 영상이 입력되면 단말기 또는 서버에서 특징점 추출 기반의 영상 인식 기술을 활용하여 영상으로부터 객체의 유형을 미리 파악한 후 파악한 유형과 대응되는 디코더를 자동 호출하여 객체를 판독함으로써 객체의 유형에 관계없이 모든 객체에 대하여 자동 판독으로 통합 인식이 가능한 시스템 및 방법을 제공함에 그 목적이 있다. The present invention was devised to solve the above problems, and when the image of the object to be searched is input, the terminal or server utilizes an image recognition technique based on feature extraction to identify the type of the object from the image in advance, and then identifies the corresponding type. It is an object of the present invention to provide a system and method capable of automatically recognizing all objects regardless of the type of an object by automatically calling a decoder to read an object.

이를 위하여, 본 발명의 제1 측면에 따르면, 본 발명에 따른 통합 영상 검색을 위한 단말기는, 통신망을 통해 서버에 접속하여 원하는 객체에 대한 검색을 요청하고 그 검색 결과를 수신하는 단말기로서, 상기 원하는 객체를 촬영하여 상기 객체에 대한 영상을 생성하는 촬영 수단과, 상기 촬영 수단을 통해 생성된 객체의 영상을 영상 인식 기반으로 분석하여 객체의 유형을 미리 파악하는 영상 인식부와, 상기 영상 인식부를 통해 파악한 객체의 유형에 따라, 판독 가능한 디코더를 자동 구동하여 상기 객체의 영상을 인식하는 통합 인식 엔진을 포함하는 것을 특징으로 한다. To this end, according to a first aspect of the present invention, a terminal for integrated video search according to the present invention is a terminal for requesting a search for a desired object and receiving a search result by accessing a server through a communication network. Photographing means for photographing an object to generate an image of the object, an image recognition unit for analyzing the image of the object generated by the photographing means based on image recognition, and pre-identifying the type of the object; The integrated recognition engine may be configured to automatically drive a readable decoder according to the identified object type to recognize an image of the object.

본 발명의 제2 측면에 따르면, 본 발명에 따른 영상 검색 서버는, 통신망을 통해 클라이언트의 단말기와 접속하여 상기 단말기로부터 원하는 객체에 대한 검색 요청을 수신하면 그 검색 결과를 상기 단말기로 전송하는 서버로서, 상기 통신망을 통해 단말기와의 통신을 수행하는 인터페이스 모듈과, 상기 인터페이스 모듈을 통해 객체의 영상이 입력되면 상기 객체의 영상을 영상 인식 기반으로 분석하여 객체의 유형을 미리 파악하는 영상 인식 모듈과, 상기 영상 인식 모듈에서 파악한 객체의 유형에 따라, 판독 가능한 디코더를 자동 구동하여 상기 객체의 영상을 인식하는 통합 인식 엔진을 포함하는 것을 특징으로 한다. According to a second aspect of the present invention, an image search server according to the present invention is a server for connecting to a terminal of a client through a communication network and receiving a search request for a desired object from the terminal. An interface module for communicating with a terminal through the communication network; an image recognition module for analyzing the image of the object based on image recognition based on image recognition when an image of the object is input through the interface module; According to the type of the object identified by the image recognition module, characterized in that it comprises an integrated recognition engine for automatically driving the readable decoder to recognize the image of the object.

본 발명의 제3 측면에 따르면, 본 발명에 따른 단말기에서의 검색 서비스 방법은, 통신망을 통해 서버에 접속하여 원하는 객체에 대한 검색을 요청하고 그 검색 결과를 수신하는 단말기의 검색 서비스 방법으로서, 상기 단말기에 상기 객체에 대한 영상이 입력되면 영상 인식 기반으로 영상의 특성을 분석하여 상기 객체의 유형을 미리 파악하는 단계; 상기 단말기는 상기 객체의 유형에 따라 판독 가능한 디코더를 자동 호출하여 구동 요청하는 단계; 상기 단말기는 구동 요청된 디코더에 의해 상기 객체의 영상을 판독하여 객체를 인식하는 단계; 상기 단말기는 인식한 객체를 상기 서버에 전송하여 검색 서비스를 제공받는 단계를 포함하는 것을 특징으로 한다. According to a third aspect of the present invention, a search service method of a terminal according to the present invention is a search service method of a terminal which requests a search for a desired object by receiving a search result by accessing a server through a communication network, When the image of the object is input to the terminal, determining the type of the object in advance by analyzing characteristics of the image based on image recognition; The terminal automatically calling a readable decoder according to the type of the object to request driving; The terminal recognizes the object by reading an image of the object by the decoder requested to drive; The terminal may include receiving a search service by transmitting the recognized object to the server.

본 발명의 제4 측면에 따르면, 본 발명에 따른 서버에서의 검색 서비스 방법은, 통신망을 통해 클라이언트의 단말기와 접속하여 상기 단말기로부터 원하는 객체에 대한 검색 요청을 수신하면 그 검색 결과를 상기 단말기로 전송하는 서버의 검색 서비스 방법으로서, 상기 단말기로부터 서버에 객체에 대한 영상이 입력되면 상기 서버는 영상 인식 기반으로 상기 영상의 특성을 분석하여 객체의 유형을 미리 파악하는 단계; 상기 서버는 파악한 객체의 유형에 따라 판독 가능한 디코더를 자동 호출하여 구동 요청하는 단계; 상기 서버는 구동 요청된 디코더에 의해 상기 객체의 영상을 판독하여 객체를 인식하는 단계; 상기 서버가 인식한 객체를 검색하여 검색 결과를 상기 단말기로 전송하는 단계를 포함하는 것을 특징으로 한다. According to a fourth aspect of the present invention, a search service method in a server according to the present invention transmits a search result to a terminal when a search request for a desired object is received from the terminal by accessing a terminal of a client through a communication network. A search service method of a server, comprising: when an image of an object is input from a terminal to a server, the server determining a type of an object in advance by analyzing characteristics of the image based on image recognition; The server automatically calling a readable decoder according to the type of the identified object to request driving; The server recognizing an object by reading an image of the object by a decoder requested to be driven; And searching for an object recognized by the server and transmitting a search result to the terminal.

본 발명에 따르면, 바코드, 얼굴 영상, QR코드, NFC 태그, RFID 태그 등 다양한 유형의 객체가 입력되어도 객체의 영상 인식을 통해 유형을 자동 인식하고 인식한 유형에 따라 디코더를 선택 적용함으로써 사용자가 객체의 유형별 검색 방식을 직접 선택 조작할 필요없이 자동 처리가 가능한 효과가 있다. 또한, 하나의 단말 또는 서버에서 다양한 객체에 대한 통합 인식이 가능하므로 편리한 검색 서비스를 제공할 수 있다. According to the present invention, even if various types of objects such as barcode, face image, QR code, NFC tag, RFID tag are input, the user recognizes the type automatically through image recognition of the object and selects and applies the decoder according to the recognized type so that the user There is an effect that can be automatically processed without the need to manually select and search by type of search. In addition, since integrated recognition of various objects is possible in one terminal or server, a convenient search service may be provided.

또한, 검색을 위한 통합 디코더가 탑재되지 않은 디바이스에도 서버 기반의 통합 인식 엔진을 적용하여 제공 가능하므로 디바이스에 구애받지 않고 검색 서비스를 제공할 수 있다. 나아가, 객체의 유형이 신규 추가된 경우에는 해당 디코더를 간편하게 확장할 수 있으므로 신속하게 적용할 수 있는 효과가 있다. In addition, since a server-based integrated recognition engine can be applied to a device that does not have an integrated decoder for searching, a search service can be provided regardless of the device. Furthermore, when a new type of object is added, the corresponding decoder can be easily extended, so that it can be applied quickly.

또한, 본 발명을 온라인 쇼핑몰을 이용한 쇼핑 제공 서비스와 연계하면 이로 인한 시너지 및 신규 서비스를 창출할 수 있는 효과가 있다. In addition, when the present invention is linked with a shopping service using an online shopping mall, synergies and new services may be created.

도 1은 본 발명의 실시 예에 따른 통합 영상 검색 시스템의 네트워크 구성을 나타낸 도면.
도 2는 본 발명의 실시 예에 따른 단말기의 세부 구성을 나타낸 블록도.
도 3은 도 2에 도시한 통합 인식 엔진의 세부 구성을 나타낸 블록도.
도 4는 본 발명의 실시 예에 따른 영상 검색 서버의 세부 구성을 나타낸 블록도.
도 5는 본 발명의 실시 예에 따른 통합 인식 엔진이 단말기에 탑재된 경우 단말기의 검색 과정을 나타낸 순서도.
도 6은 본 발명의 실시 예에 따른 통합 인식 엔진이 서버에 탑재된 경우 서버와 단말기간 검색 과정을 나타낸 순서도.
1 is a diagram illustrating a network configuration of an integrated video retrieval system according to an exemplary embodiment of the present invention.
2 is a block diagram showing a detailed configuration of a terminal according to an embodiment of the present invention.
3 is a block diagram showing the detailed configuration of the integrated recognition engine shown in FIG.
4 is a block diagram showing a detailed configuration of an image search server according to an embodiment of the present invention.
5 is a flowchart illustrating a search process of a terminal when the integrated recognition engine is mounted in the terminal according to an embodiment of the present invention.
6 is a flowchart illustrating a search process between a server and a terminal when the integrated recognition engine is mounted on a server according to an exemplary embodiment of the present invention.

이하, 첨부된 도면을 참조하여 본 발명에 따른 실시 예를 상세하게 설명한다. 본 발명의 구성 및 그에 따른 작용 효과는 이하의 상세한 설명을 통해 명확하게 이해될 것이다. 본 발명의 상세한 설명에 앞서, 동일한 구성요소에 대해서는 다른 도면 상에 표시되더라도 가능한 동일한 부호로 표시하며, 공지된 구성에 대해서는 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 구체적인 설명은 생략하기로 함에 유의한다. Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings. The configuration of the present invention and the operation and effect thereof will be clearly understood through the following detailed description. Prior to the detailed description of the present invention, the same components will be denoted by the same reference numerals even if they are displayed on different drawings, and the detailed description will be omitted when it is determined that the well-known configuration may obscure the gist of the present invention. do.

이하에서 언급하는 객체는 사용자가 쇼핑 중에 구매하고 싶거나 평소에 우연히 발견한 상품, 물(物) 자체이거나 물(物)의 식별 코드, 또는 텔레비전 등의 프로그램을 통해 노출되는 사람이나 사물, 특정 신체 부위 등을 포함한다. 식별 코드는 문자/숫자 등을 포함한 제품 번호이거나, 바코드, QR코드, NFC(Near Field Communication) 태그, RFID(Radio Frequency IDentification) 태그, OCR(Optical Character Recognition) 코드 등일 수 있다. 모든 객체는 문자, 모양, 용도, 기능면에서 특징점이 존재하며 둘 이상의 특징점이 공존할 수 있다. 이를 테면, 안경에 식별 코드가 부착된 경우, 객체는 안경이 되며 이 객체의 영상은 안경에 대한 이미지 정보뿐만 아니라 식별 코드 정보까지 포함하게 된다. The objects mentioned below are people, things, and specific bodies that users want to purchase while shopping or accidentally found by themselves, water itself, or objects that are exposed through programs such as identification codes of water or television. And the like. The identification code may be a product number including letters / numbers or the like, or may be a barcode, a QR code, a Near Field Communication (NFC) tag, a Radio Frequency IDentification (RFID) tag, an Optical Character Recognition (OCR) code, or the like. Every object has features in terms of text, shape, use, and functionality, and two or more features can coexist. For example, when an identification code is attached to glasses, the object becomes glasses and the image of the object includes identification code information as well as image information about the glasses.

도 1은 본 발명의 실시 예에 따른 통합 영상 검색 시스템의 네트워크 구성을 나타낸 도면이다. 1 is a diagram illustrating a network configuration of an integrated video retrieval system according to an exemplary embodiment of the present invention.

본 발명의 실시 예에 따른 통합 영상 검색 시스템은, 검색하고자 원하는 객체의 영상을 획득할 수 있는 단말기(100), 단말기(100)로부터 통신망(200)을 통해 수신한 객체의 영상을 인식하고 검색하는 영상 검색 서버(300)를 포함하여 구현될 수 있다. Integrated image search system according to an embodiment of the present invention, the terminal 100, which can obtain the image of the object to be searched for, to recognize and retrieve the image of the object received through the communication network 200 from the terminal 100 It may be implemented including an image search server 300.

추가로, 각 객체에 대한 부가 정보를 영상 검색 서버(300)에 제공하는 부가 정보 서버(400)를 더 포함할 수 있다. 부가 정보는 객체가 사물인 경우 사물에 대한 상세 정보, 쇼핑 구매 정보(가격 정보, 판매처 정보 등) 등을 포함할 수 있으며, 객체가 사람인 경우 사람과 관련된 상세 정보(착용한 의류, 액세서리 정보, 음악 앨범 정보 등)를 포함할 수 있다. 전자의 경우, 단말기(100)는 통신망(200)을 통해 부가 정보 서버(400)에 직접 링크하여 원하는 상품을 구매할 수 있는 쇼핑 서비스까지 제공받을 수 있다. In addition, the apparatus may further include an additional information server 400 for providing additional information about each object to the image search server 300. The additional information may include detailed information about the object when the object is a thing, shopping purchase information (price information, retailer information, etc.), and detailed information related to the person (wearing clothes, accessory information, music, etc.) when the object is a person. Album information, etc.). In the former case, the terminal 100 may be provided with a shopping service for directly purchasing a desired product by directly connecting to the additional information server 400 through the communication network 200.

본 발명의 실시 예에 따른 단말기(100)는 통신망(200)을 통해 데이터를 송수신하고 객체의 영상을 획득할 수 있는 단말기라면 단말기의 종류에 관계없이 모두 적용 가능하다. 예를 들어, PC, PDA, 디지털 카메라, 웹 캠, 모바일 단말기 등이 적용될 수 있다. The terminal 100 according to an exemplary embodiment of the present invention may be applied to any terminal capable of transmitting and receiving data through the communication network 200 and obtaining an image of an object, regardless of the type of the terminal. For example, a PC, a PDA, a digital camera, a web cam, a mobile terminal, or the like may be applied.

특히, 본 발명의 실시 예에 따른 단말기(100)는 쇼핑 중 또는 평소에 우연히 발견한 객체를 촬영하여 객체에 대한 영상을 생성하고 저장하며, 사용자가 객체에 대한 상세 정보와 객체의 관리를 원하는 경우 사용자의 요청에 따라 객체의 영상을 통신망(200)을 통해 영상 검색 서버(300)로 전송한다. 이를 위해, 단말기(100)는 객체를 촬영하고 이의 영상을 생성하는 촬영 수단(120)을 구비할 수 있다.In particular, the terminal 100 according to an exemplary embodiment of the present invention generates and stores an image of an object by photographing an object that is accidentally found during shopping or at a time, and when a user wants to manage detailed information and an object of the object. According to the user's request, the image of the object is transmitted to the image search server 300 through the communication network 200. To this end, the terminal 100 may be provided with a photographing means 120 for photographing an object and generating an image thereof.

또한, 본 발명의 실시 예에 따른 단말기(100)는 촬영 수단(120)으로부터 획득한 객체의 영상을 영상 인식 기반을 통해 인식하여 객체가 어떤 유형인지를 파악하고, 파악한 유형에 따라 디코더를 선택 적용함으로써 다양한 객체에 대하여 통합 인식이 가능하다. 이를 위해, 단말기(100)는 상기의 기능을 수행하는 통합 인식 엔진을 구비할 수 있다. 이의 세부 구성은 하기에서 자세히 설명하기로 한다.In addition, the terminal 100 according to an embodiment of the present invention recognizes the image of the object obtained from the photographing means 120 through the image recognition base to determine what type of object is, and select and apply a decoder according to the identified type This enables integrated recognition of various objects. To this end, the terminal 100 may be provided with an integrated recognition engine that performs the above functions. Its detailed configuration will be described in detail below.

또한, 본 발명의 실시 예에 따른 단말기(100)는 객체를 촬영한 위치에 대한 위치 정보, 관심 상품을 촬영한 시간 즉, 일시에 대한 정보인 일시 정보, 및 객체에 대한 판매 가격이나 판매점 등에 대한 부가 정보를 포함한 기타 정보 중 적어도 하나 이상을 입력받아 객체의 영상에 첨부하여 포함시킬 수 있다. In addition, the terminal 100 according to an embodiment of the present invention, the location information on the location where the object was photographed, the time when the product of interest was taken, that is, the date and time information that is information on the date and time, and the selling price or the store for the object. At least one or more of other information including additional information may be input and included in the image of the object.

또한, 본 발명의 실시 예에 따른 단말기(100)는 객체를 촬영한 위치 정보를 사용자로부터 입력받지 않고, 객체가 촬영되면 위성 항법 시스템(GPS: Global Positioning System)을 구비하여 스스로 관심 상품을 촬영한 위치를 파악하고 객체의 영상에 위치 정보를 부가할 수도 있다. In addition, the terminal 100 according to an embodiment of the present invention does not receive location information of an object photographed by a user, and when an object is photographed, the terminal 100 is equipped with a global positioning system (GPS) to photograph a product of interest by itself. The location may be identified and location information may be added to the image of the object.

또한, 본 발명의 실시 예에 따른 단말기(100)는 통신망(200)이 제공하는 데이터 통신 서비스 또는 인터넷 서비스를 이용하여 부가 정보 서버(400)에 접속하고 부가 정보 서버(400)로 객체에 대한 구매 서비스를 제공받을 수 있다.In addition, the terminal 100 according to an embodiment of the present invention accesses the additional information server 400 using a data communication service or an Internet service provided by the communication network 200, and purchases an object with the additional information server 400. You can get services.

본 발명의 실시 예에 따른 통신망(200)은 단말기(100)와 유무선으로 통신하여 서비스를 제공하는 네트워크이다. 즉, 통신망(200)은 유선 인터넷망일 수 있으며, 이동 통신망(CDMA, W-CDMA 등)을 통해 연결되는 무선 데이터망(인터넷망, IMS 등), 또는 Wi-Fi를 통해 연결되는 인터넷망 등을 포함할 수 있다. 구체적으로, CDMA 망의 경우 PDSN(Packet Data Serving Node)을 통해 데이터망에 접속될 수 있고, W-CDMA 망의 경우 GGSN(Gateway GPRS Support Node)을 통해 데이터망에 접속될 수 있다. 또한 핫 스팟(Hot-Spot) 등의 지역에서는 Wi-Fi 등의 근거리 통신을 통해 인터넷망에 접속될 수 있다. The communication network 200 according to an embodiment of the present invention is a network that provides a service by communicating with the terminal 100 in a wired or wireless manner. That is, the communication network 200 may be a wired internet network, and may be a wireless data network (Internet network, IMS, etc.) connected through a mobile communication network (CDMA, W-CDMA, etc.), or an internet network connected via Wi-Fi. It may include. Specifically, the CDMA network may be connected to a data network through a PDSN (Packet Data Serving Node), and the W-CDMA network may be connected to a data network through a Gateway GPRS Support Node (GGSN). In addition, in an area such as a hot-spot, it may be connected to an internet network through short-range communication such as Wi-Fi.

본 발명의 실시 예에 따른 통신망(200)은 단말기(100)로부터 객체의 영상에 대한 전송을 요청받으면 해당 영상을 단말기(100)로부터 수신하여 영상 검색 서버(300)로 전송한다. 이와 반대로, 통신망(200)은 영상 검색 서버(300)로부터 검색 결과 정보의 전송을 요청받으면 검색 결과 정보를 영상 검색 서버(300)로부터 수신하여 해당 단말기(100)로 전송한다.When the communication network 200 according to an embodiment of the present invention receives a request for transmission of an image of an object from the terminal 100, the communication network 200 receives the corresponding image from the terminal 100 and transmits the image to the image search server 300. On the contrary, when the communication network 200 is requested to transmit the search result information from the image search server 300, the communication network 200 receives the search result information from the image search server 300 and transmits the search result information to the corresponding terminal 100.

영상 검색 서버(300)는 객체의 영상을 이용하여 검색 기능을 제공하는 서버로서, 부가 정보 서버(400)로부터 각 객체의 부가 정보를 제공받아 데이터베이스에 저장 및 갱신하고, 단말기(100)로부터 객체에 대한 검색이 요청되면 해당 객체의 부가 정보를 검색하여 검색 결과를 단말기(100)로 전송한다.The image search server 300 is a server that provides a search function using an image of an object. The image search server 300 receives additional information of each object from the additional information server 400, stores and updates the information in a database, and updates the object from the terminal 100 to the object. If a search is requested, the additional information of the corresponding object is searched and transmitted to the terminal 100.

이러한 영상 검색 서버(300)는 단말기 기반으로 통합 인식을 수행하는 시스템의 경우 단말기(100)를 통해 인식한 객체의 검색이 요청되면 객체의 부가 정보를 검색하고 그 검색 결과를 단말기(100)로 피드백하는 기능을 수행한다. In the case of a system for performing integrated recognition based on a terminal, the image search server 300 searches for additional information of an object when a search for an object recognized through the terminal 100 is requested and feeds back the search result to the terminal 100. It performs the function.

서버 기반으로 통합 인식을 수행하는 시스템의 경우, 영상 검색 서버(300)는 단말기(100)로부터 수신한 객체의 영상을 영상 검색 서버(300)에서 인식하여 객체의 유형을 파악하고 파악한 유형에 따라 최적의 디코더를 적용하여 객체를 분석하는 기능을 추가로 수행할 수 있다. 이후, 해당 객체의 부가 정보를 검색하고 그 검색 결과를 단말기(100)로 전송한다. 이의 세부 구성은 하기의 도 4에서 자세히 설명하기로 한다. In the case of a system for performing integrated recognition based on the server, the image search server 300 recognizes the image of the object received from the terminal 100 in the image search server 300 to identify the type of the object and to optimize the type according to the type of the detected object. You can further perform the function of analyzing the object by applying the decoder of. Thereafter, the additional information of the corresponding object is searched and the search result is transmitted to the terminal 100. The detailed configuration thereof will be described in detail with reference to FIG. 4.

부가 정보 서버(400)는 다양한 객체와 관련한 부가 정보를 저장 및 관리하며, 일정 주기마다 영상 검색 서버(300)에 객체의 부가 정보를 제공한다. The additional information server 400 stores and manages additional information related to various objects and provides additional information of the object to the image search server 300 at regular intervals.

또한, 본 발명의 실시 예에 따른 부가 정보 서버(400)는 객체를 판매하는 온라인 쇼핑몰 사이트를 운영할 수 있다. 이 경우, 부가 정보 서버(400)는 단말기(100)의 구매 요청에 응답하여 구매 상품을 판매 및 배송한다. In addition, the additional information server 400 according to an embodiment of the present invention may operate an online shopping mall site for selling objects. In this case, the additional information server 400 sells and delivers the purchased goods in response to the purchase request of the terminal 100.

도 2는 본 발명의 실시 예에 따른 단말기의 세부 구성을 나타낸 블록도이다. 2 is a block diagram showing a detailed configuration of a terminal according to an embodiment of the present invention.

도 2에 도시된 단말기(100)는 객체의 영상을 자동으로 인식하여 판독하는 통합 인식 엔진이 내부에 구현되어 단말기 기반 통합 인식을 수행하는 구조이다. The terminal 100 illustrated in FIG. 2 has a structure in which an integrated recognition engine for automatically recognizing and reading an image of an object is implemented therein to perform terminal-based integrated recognition.

이러한 단말기(100)는 인터페이스부(110), 촬영 수단(120), 제어부(130), 영상 인식부(140), 메모리(150), 통합 인식 엔진(160)을 포함할 수 있다. The terminal 100 may include an interface unit 110, a photographing means 120, a controller 130, an image recognition unit 140, a memory 150, and an integrated recognition engine 160.

인터페이스부(110)는 통신망(도 1의 200)을 통해 영상 검색 서버(도 1의 300) 또는 부가 정보 서버(도 1의 400)에 접속하여 이들과의 통신을 인터페이스한다. The interface unit 110 connects to the image search server 300 of FIG. 1 or the additional information server 400 of FIG. 1 through a communication network 200 of FIG. 1 to interface communication with them.

촬영 수단(120)은 객체를 촬영하여 이의 영상을 생성한다. 구체적으로 촬영 수단(120)은 단말기(100)에 구비된 카메라, 웹 캠 등을 포함할 수 있다. The photographing means 120 photographs an object and generates an image thereof. In more detail, the photographing means 120 may include a camera, a web cam, or the like provided in the terminal 100.

메모리(150)는 촬영 수단(120)을 통해 촬영한 영상을 저장하고, 영상 인식부(140) 및 통합 인식 엔진(160)을 통해 인식한 정보를 저장할 수 있다. The memory 150 may store an image photographed by the photographing means 120 and store information recognized by the image recognizer 140 and the integrated recognition engine 160.

영상 인식부(140)는 촬영 수단(120)을 통해 생성된 객체의 영상을 특징점 추출 기반의 영상 인식 방법으로 분석하여 객체의 유형을 파악한다. 각 객체는 유형에 따라 이미지 특징점을 가지게 되는데, 예를 들면 객체가 바코드이면 바코드의 형태를 식별할 수 있는 고유의 특징점 정보가 있고, QR코드이면 QR코드의 형태를 식별할 수 있는 고유의 특징점 정보가 있다. 이처럼, 객체의 영상으로부터 영상 인식을 통해 특징점을 추출하게 되면 이 특징점 정보에 따라 각 객체가 어떤 형태인지를 파악할 수 있다.The image recognizer 140 analyzes an image of the object generated by the photographing means 120 by an image recognition method based on feature extraction to determine the type of the object. Each object has an image feature point according to the type. For example, if the object is a bar code, there is unique feature information for identifying the shape of the bar code. If the object is a QR code, the unique feature information for identifying the shape of the QR code is provided. There is. As such, when the feature point is extracted from the image of the object through image recognition, the shape of each object may be determined according to the feature point information.

이렇게 객체의 특징점 정보를 이용한 유형 파악은 통합 인식 엔진(160)에 구현된 데이터베이스를 활용하여 가능하다.The type identification using the feature point information of the object is possible by using a database implemented in the integrated recognition engine 160.

통합 인식 엔진(160)은 객체를 인식하는데 필요한 특징점 정보와 디코더가 포함되어 있다. 특징점 정보와 디코더는 객체의 유형에 따라 구분되며, 특징점 정보는 영상 인식부(140)에 제공되어 객체의 유형을 파악하는 데 적용되고, 디코더는 객체의 유형에 따라 선택적으로 구동되어 객체를 판독/인식하는데 적용된다. The integrated recognition engine 160 includes feature point information and a decoder required to recognize an object. The feature point information and the decoder are classified according to the type of the object, and the feature point information is provided to the image recognition unit 140 to determine the type of the object, and the decoder is selectively driven according to the type of the object to read / read the object. Applies to recognition.

특히, 본 발명의 실시 예에 따른 통합 인식 엔진(160)은 각 객체의 유형에 따른 디코더를 모두 구축하여 어떠한 객체가 입력되어도 하나의 단말기 내에서 통합 인식이 가능함에 특징이 있다. In particular, the integrated recognition engine 160 according to an embodiment of the present invention has a feature in that all the decoders according to the types of the objects are built so that the integrated recognition is possible in one terminal even if any object is input.

또한, 본 발명의 실시 예에 따른 통합 인식 엔진(160)은 하나의 객체에 둘 이상의 정보가 담긴 경우 즉, 이미지 정보 또는 바코드 정보가 모두 포함된 경우에도 통합 인식이 가능함에 특징이 있다. 이 경우, 이미지 정보 및 바코드 정보를 동시에 인식할 수 있지만, 검색의 신뢰성을 위해 가장 인식율이 우수한 순위의 디코더를 먼저 호출하여 순차적으로 인식할 수도 있다. In addition, the integrated recognition engine 160 according to an embodiment of the present invention is characterized in that integrated recognition is possible even when two or more pieces of information are included in one object, that is, when both image information and barcode information are included. In this case, the image information and the barcode information can be recognized at the same time, but for the reliability of the search, the decoder having the highest recognition rate can be called first and recognized sequentially.

도 3에는 본 발명의 실시 예에 따른 통합 인식 엔진의 세부 구성이 도시되어 있다.3 illustrates a detailed configuration of an integrated recognition engine according to an exemplary embodiment of the present invention.

도시된 바와 같이 통합 인식 엔진(160)은 각 객체의 유형을 식별할 수 있는 고유의 특징점 정보를 포함한 분류 DB(classifier DB: 162)와, 유형별로 각 객체를 판독하기 위한 디코더(164) 등을 포함한다. As shown, the integrated recognition engine 160 may include a classifier DB 162 including unique feature information for identifying each object type, a decoder 164 for reading each object for each type, and the like. Include.

분류 DB(162)는 바코드에 대한 고유의 특징점 정보를 포함한 바코드 분류DB(1621), QR코드의 특징점 정보를 포함한 QR코드 분류DB(1622), 얼굴 인식을 위해 얼굴(눈, 코, 입 등)에 대한 특징점 정보를 포함한 얼굴인식 분류DB(1623), NFC 태그에 대한 특징점 정보를 포함한 NFC 분류DB(1624), RFID 태그에 대한 특징점 정보를 포함한 RFID 분류DB(1625), OCR 코드에 대한 고유의 특징점 정보를 포함한 OCR 분류DB(1626), 이외 기타 코드에 대한 특징점 정보를 포함한 기타 분류DB(1627) 등을 포함할 수 있다. 바코드에 대한 고유의 특징점 정보는 바코드의 검정색 바(bar)와 흰색 바(bar)로 구성된 형상을 이용할 수 있으며, QR코드의 특징점 정보는 세 모서리에 위치한 위치 식별 코드를 이용할 수 있을 것이다. 이외, NFC 태그나 RFID 태그, OCR 코드 또한 고유의 형태를 활용할 수 있다. The classification DB 162 may include a barcode classification DB 1621 including unique feature point information of a barcode, a QR code classification DB 1622 including feature point information of a QR code, and a face (eye, nose, mouth, etc.) for face recognition. Face recognition classification DB (1623) including the feature point information for, NFC classification DB (1624) including the feature point information for the NFC tag, RFID classification DB (1625) including the feature point information for the RFID tag, unique to the OCR code OCR classification DB 1626 including feature point information, and other classification DB 1627 including feature point information for other codes. The unique feature point information for the barcode may use a shape consisting of a black bar and a white bar of the barcode, and the feature point information of the QR code may use a location identification code located at three corners. In addition, NFC tags, RFID tags, and OCR codes can also use their own forms.

디코더(164)는 분류 DB(162)의 구성과 대응하여, 바코드 디코더(1641), QR코드 디코더(1642), 얼굴인식 디코더(1643), NFC태그 디코더(1644), RFID태그 디코더(1645), OCR코드 디코더(1646), 기타 디코더(1647) 등을 포함할 수 있다. The decoder 164 corresponds to the configuration of the classification DB 162, and includes a barcode decoder 1641, a QR code decoder 1644, a face recognition decoder 1643, an NFC tag decoder 1644, an RFID tag decoder 1645, OCR code decoder 1646, other decoder 1647, and the like.

여기에, 객체의 유형이 신규로 추가되면 통합 인식 엔진(160)은 신규로 추가된 특징점 정보 및 디코더를 기존 구성에서 확장 가능하게 구축된다. In addition, when the type of the object is newly added, the integrated recognition engine 160 may build the newly added feature information and decoder in the existing configuration.

다시 도 2를 참조하면, 본 발명의 실시 예에 따른 제어부(130)는 각 부의 동작을 전체적으로 제어하며, 인터페이스부(110)를 통해 데이터의 송수신을 제어한다. 그리고, 촬영 수단(120)을 통해 촬영한 영상을 메모리(150)에 저장하도록 제어한다. 또한, 영상 인식부(140)를 통해 영상 인식을 수행할 때 통합 인식 엔진(160)에 구축된 분류 DB(162)를 영상 인식부(140)로 제공할 수 있다. Referring back to FIG. 2, the controller 130 controls the operations of each unit as a whole and controls the transmission and reception of data through the interface unit 110. The controller 150 stores the image photographed by the photographing means 120 in the memory 150. In addition, when performing image recognition through the image recognition unit 140, the classification DB 162 built in the integrated recognition engine 160 may be provided to the image recognition unit 140.

따라서, 본 발명의 실시 예에 따른 단말기(100)는 자체 디바이스 내에서 객체의 영상을 유형에 따라 자동 인식함으로써 단말을 이용한 편리한 검색 서비스를 제공한다. Accordingly, the terminal 100 according to an embodiment of the present invention provides a convenient search service using the terminal by automatically recognizing an image of an object according to a type in its own device.

여기서, 본 발명의 실시 예에 따른 단말기(100)는 촬영 수단(120)을 이용하여 객체의 영상을 생성하고 이를 이용하는 것이 바람직하지만, 이에 한정되지 않으며 소정 웹 페이지나 별도 디바이스를 통해서 객체의 영상을 획득할 수 있다. Here, the terminal 100 according to an embodiment of the present invention preferably generates an image of the object using the photographing means 120 and uses the image. However, the terminal 100 is not limited thereto, and the image of the object may be obtained through a predetermined web page or a separate device. Can be obtained.

도 4는 본 발명의 실시 예에 따른 영상 검색 서버의 세부 구성을 나타낸 블록도이다. 4 is a block diagram illustrating a detailed configuration of an image search server according to an exemplary embodiment of the present invention.

도 4에 도시한 영상 검색 서버(300)는 도 2의 단말기 구성에서 설명한 통합 인식 엔진(도 2의 160)이 단말기(도 2의 100)가 아닌 서버에 구축된 구조이다. 이 경우, 영상 검색 서버(300)는 통합 인식 엔진(350)을 이용한 통합 인식 서비스를 WiFi 무선망을 포함한 통신망을 통해 단말기로 제공할 수 있다.The image retrieval server 300 shown in FIG. 4 is a structure in which the integrated recognition engine (160 of FIG. 2) described in the terminal configuration of FIG. 2 is built on a server other than the terminal (100 of FIG. 2). In this case, the image search server 300 may provide an integrated recognition service using the integrated recognition engine 350 to the terminal through a communication network including a WiFi wireless network.

이를 위한 영상 검색 서버(300)는 인터페이스 모듈(310), 영상 인식 모듈(320), 제어 모듈(330), 부가 정보 관리 모듈(340), 통합 인식 엔진(350)을 포함하여 구현될 수 있다. The image search server 300 may be implemented to include an interface module 310, an image recognition module 320, a control module 330, an additional information management module 340, and an integrated recognition engine 350.

인터페이스 모듈(310)은 단말기의 인터페이스부(도 1의 110)와 마찬가지로 통신망을 통해 연결된 단말기와 부가 정보 서버와의 통신을 인터페이스한다.The interface module 310 interfaces the communication between the terminal connected through the communication network and the additional information server like the interface unit 110 of FIG. 1.

영상 인식 모듈(320)은 단말기의 영상 인식부(도 2의 140)와 마찬가지로, 단말기로부터 객체의 영상이 수신되면 영상을 특징점 추출 기반의 영상 인식을 수행하여 객체의 유형을 파악한다.Like the image recognition unit 140 of FIG. 2, when the image of the object is received from the terminal, the image recognition module 320 determines the type of the object by performing image recognition based on feature extraction.

통합 인식 엔진(350)은 다양한 객체를 인식하는 데 필요한 특징점 정보와 디코더를 포함한다. 특징점 정보는 영상 인식 모듈(320)로 제공하여 객체의 유형을 파악하는 데 적용하고, 영상 인식 모듈(320)을 통해 파악한 객체에 적합한 최적의 디코더(354)를 구동시켜 객체를 판독한다. The integrated recognition engine 350 includes decoders and feature points necessary to recognize various objects. The feature point information is provided to the image recognition module 320 and applied to determine the type of the object, and the object is read by driving an optimal decoder 354 suitable for the object identified through the image recognition module 320.

이때, 영상 검색 서버(300)는 통합 인식 엔진(350)에 구축된 디코더(354) 및 분류 DB(352)를 가장 인식율이 우수한 순으로 배열하고 검색 결과를 배열한 순서대로 소팅(sorting)하여 보여줄 수 있다. In this case, the image search server 300 arranges the decoder 354 and the classification DB 352 built in the integrated recognition engine 350 in the order of the highest recognition rate, and sorts the search results in the order in which the search results are arranged. Can be.

제어 모듈(330)은 이들의 동작을 제어하고, 부가 정보 관리 모듈(340)은 부가 정보 서버(도 1의 400)에 저장된 각 객체의 부가 정보를 일정 주기마다 수신하여 저장 및 갱신한다. The control module 330 controls their operations, and the additional information management module 340 receives, stores, and updates additional information of each object stored in the additional information server 400 of FIG. 1 at regular intervals.

한편, 이상에서 자세히 설명하지 않은 구성 및 기능은 도 2에서 설명한 단말기(도 2의 100)의 제어부(도 2의 130), 영상 인식부(도 2의 140), 통합 인식 엔진(도 2의 160)의 구성 및 기능과 동일하므로 중복되는 내용은 생략한다. On the other hand, the configuration and functions not described in detail above are the control unit (130 of FIG. 2), the image recognition unit (140 of FIG. 2), the integrated recognition engine (160 of FIG. 2) of the terminal (100 of FIG. 2) described in FIG. ) The same as the configuration and function of the) will not be repeated.

따라서, 앞서 설명한 바와 같이 본 발명의 실시 예에서는 객체의 영상을 인식하여 객체의 유형을 파악하고 파악한 유형에 따라 해당 디코더를 구동하여 객체를 판독하는 통합 인식 엔진이 클라이언트 영역인 단말기(100)에 탑재되어 서버로 필요한 정보를 호출하는 구조가 될 수 있고, 또는 영상 검색 서버(300)에 탑재되어 입력되는 객체의 영상을 실시간으로 분석하여 호출할 수도 있는 구조가 될 수 있다. 그리고, 구조와 상관없이 영상 검색을 통한 검색 결과는 신뢰성을 위해서 가장 인식율이 우수한 형태로 랭킹(ranking)에 의해서 순차적으로 배열하여 보여 줄 수 있다. Therefore, as described above, in the embodiment of the present invention, an integrated recognition engine for recognizing an image of an object, identifying a type of an object, and driving a corresponding decoder to read an object according to the detected type is mounted on the terminal 100 as a client area. It may be a structure to call the necessary information to the server, or may be a structure that can be called by analyzing the image of the object is mounted in the image search server 300 in real time. Regardless of the structure, the search results through the image search may be arranged in order by ranking in the form of the best recognition rate for reliability.

그럼, 이상의 구성을 기반으로 한 통합 영상 검색 시스템을 이용하여 서비스하는 과정에 대하여 도 5 및 도 6을 참조하여 설명한다. Next, a process of serving using the integrated image retrieval system based on the above configuration will be described with reference to FIGS. 5 and 6.

도 5는 본 발명의 실시 예에 따른 통합 인식 엔진이 단말기에 탑재된 경우 단말기의 검색 과정을 나타낸 순서도이다. 참고로, 도 2의 구성요소와 연계하여 설명한다. 5 is a flowchart illustrating a search process of a terminal when an integrated recognition engine is mounted in the terminal according to an embodiment of the present invention. For reference, it will be described in connection with the components of FIG. 2.

단말기(100)는 촬영 수단(120)을 통해 촬영한 객체의 영상이나 또는 웹 페이지, 별도의 디바이스를 통해 획득한 객체의 영상을 입력한다(S10). The terminal 100 inputs an image of an object photographed through the photographing means 120, a web page, or an image of an object obtained through a separate device (S10).

그리고, 단말기(100)는 입력된 객체의 영상을 통합 인식 엔진(160)의 분류 DB를 근거로 영상의 특성을 분석한다(S20). Then, the terminal 100 analyzes the characteristics of the image based on the classification DB of the integrated recognition engine 160 on the image of the input object (S20).

분석 방법은 영상으로부터 특징점을 추출하는 특징점 추출 기반의 영상 인식 기술을 적용한다. 예컨대, 바코드의 영상은 특징점 기반의 영상 인식으로 객체가 바코드 형태인 것을 인식할 수 있다. The analysis method applies a feature extraction based image recognition technology that extracts feature points from an image. For example, the image of the barcode may recognize that the object is in the form of a barcode by image recognition based on feature points.

단말기(100)는 상기의 분석 과정을 통해 객체의 유형을 분류한다(S30).The terminal 100 classifies the type of the object through the above analysis process (S30).

그리고, 단말기(100)는 분류한 객체를 판독하기 위한 해당 디코더를 호출하여 이의 구동을 요청한다(S40). 즉, 객체의 영상으로부터 특징점 기반의 영상 인식을 통해 바코드가 검출되면 바코드를 판독하기 위한 바코드 디코더를 호출 및 구동하고, 얼굴에 대한 특징점 정보가 검출되면 얼굴을 인식하기 위한 얼굴인식 디코더를 호출 및 구동할 수 있다. Then, the terminal 100 calls the corresponding decoder for reading the classified object and requests its driving (S40). That is, when a barcode is detected through image recognition based on a feature point from an image of an object, a barcode decoder for reading a barcode is called and driven, and when a feature point information about a face is detected, a facial recognition decoder for recognize a face is called and driven. can do.

이후, 단말기(100)는 구동 요청된 디코더로 객체의 영상을 분석하여 객체를 식별한다(S50). Thereafter, the terminal 100 identifies the object by analyzing the image of the object with a decoder requested to be driven (S50).

단말기(100)는 식별한 객체 정보를 영상 검색 서버에 전송하여 검색을 요청하고, 이에 응답하여 영상 검색 서버로부터 객체에 대한 부가 정보를 제공받으면 이를 표시하여 보여 준다(S60).The terminal 100 transmits the identified object information to the image search server and requests a search. When the terminal 100 receives additional information about the object from the image search server in response thereto, the terminal 100 displays the displayed object information.

도 6은 본 발명의 실시 예에 따른 통합 인식 엔진이 서버에 탑재된 경우 서버와 단말기간 검색 과정을 나타낸 순서도이다. 참고로, 도 6의 동작 과정은 도 4의 구성요소와 연계하여 설명하기로 한다.6 is a flowchart illustrating a search process between a server and a terminal when an integrated recognition engine is mounted in a server according to an embodiment of the present invention. For reference, the operation of FIG. 6 will be described in connection with the components of FIG. 4.

단말기(100)는 촬영 수단을 통해 촬영한 객체의 영상이나 또는 웹 페이지, 별도의 디바이스를 통해 획득한 객체의 영상이 입력되면, 입력된 객체의 영상을 영상 검색 서버(300)로 전송한다(S110, S120). When the image of the object photographed by the photographing means or the image of the object acquired through the web page or a separate device is input, the terminal 100 transmits the image of the input object to the image search server 300 (S110). , S120).

영상 검색 서버(300)는 단말기(100)로부터 전송받은 객체의 영상을 특징점 기반의 영상 인식을 통해 영상의 특징을 분석한다(S130). 이러한 분석 과정은 통합 인식 엔진(350)에 구축된 분류 DB(352)와 영상 인식 모듈(320)을 이용하여 구별될 수 있다. The image search server 300 analyzes the feature of the image through feature recognition based on the image of the object received from the terminal 100 (S130). This analysis process may be distinguished using the classification DB 352 and the image recognition module 320 built in the integrated recognition engine 350.

분석 후, 영상 검색 서버(300)는 특징에 따른 객체의 유형을 분류하고, 분류한 객체를 판독하기 위한 해당 디코더를 호출하여 자동 구동한다(S140, S150). 그리고, 영상 검색 서버(300)는 구동한 디코더로 객체의 영상을 분석하여 해당 객체를 식별한다(S160). After the analysis, the image retrieval server 300 classifies the types of objects according to the features, calls the corresponding decoders for reading the classified objects, and automatically drives them (S140 and S150). The image search server 300 analyzes the image of the object with the driven decoder to identify the corresponding object (S160).

또한, 영상 검색 서버(300)는 식별한 객체에 대한 부가 정보가 있는지를 검색하고 검색 결과를 해당 단말기(100)로 전송한다(S170, S180). In addition, the image search server 300 searches for whether there is additional information on the identified object and transmits the search result to the corresponding terminal 100 (S170 and S180).

해당 단말기(100)는 영상 검색 서버(300)로부터 전송받은 검색 결과 즉, 객체의 부가 정보를 표시하여 보여 준다(S190).The terminal 100 displays and displays the search result received from the image search server 300, that is, additional information of the object (S190).

이러한 검색 과정을 통해 본 발명은 인터넷 쇼핑몰에서 가격 비교 서비스에 활용할 수 있으며, 이 경우 사용자는 객체의 영상만 가지고 있으면 상품뿐만 아니라 상품의 가격 비교를 통해 쇼핑 구매 서비스까지 이용할 수 있다. Through such a search process, the present invention can be utilized for a price comparison service in an internet shopping mall. In this case, if a user only has an image of an object, the user can use a shopping purchase service through comparing prices of products as well as products.

또한, 본 발명은 패턴 인식 관련 비젼 및 그래픽 기술과 네트워크 기술, DB 구축 기술 등에 활용할 수 있다. In addition, the present invention can be utilized for vision, graphics technology, network technology, DB construction technology related to pattern recognition.

이상의 설명은 본 발명을 예시적으로 설명한 것에 불과하며, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 본 발명의 기술적 사상에서 벗어나지 않는 범위에서 다양한 변형이 가능할 것이다. 따라서, 패턴 인식 관련 비젼 및 그래픽 기술이나 네트워크 기술, DB 구축 기술 등 폭넓은 기술 분야에까지 활용할 수 있을 것이다. 따라서, 본 발명의 명세서에 개시된 실시 예들은 본 발명을 한정하는 것이 아니다. 본 발명의 범위는 아래의 특허청구범위에 의해 해석되어야 하며, 그와 균등한 범위 내에 있는 모든 기술도 본 발명의 범위에 포함되는 것으로 해석해야 할 것이다. The above description is merely illustrative of the present invention, and various modifications may be made by those skilled in the art without departing from the technical spirit of the present invention. Therefore, it can be applied to a wide range of technical fields such as vision, graphic technology, network technology, DB construction technology related to pattern recognition. Therefore, the embodiments disclosed in the specification of the present invention are not intended to limit the present invention. The scope of the present invention should be construed by the claims below, and all techniques within the scope equivalent thereto will be construed as being included in the scope of the present invention.

종래 영상을 이용한 검색 서비스는 바코드, QR코드, 얼굴 인식, 영상 인식 등을 위한 인식 엔진이 각 단말에 개별적으로 탑재되어 있어 개별적이라는 한계성이 존재하고 사용자가 직접 인식을 위한 요청을 의뢰해야 하는 단점이 있으나, 본 발명은 객체의 영상이 입력되면 영상 인식을 통해 객체의 유형을 파악하고 파악한 유형에 따라 디코더를 선택 적용하여 객체를 판독함으로써 다양한 객체에 대한 통합 인식이 가능하고, 객체 인식 전에 유형을 파악함으로써 사용자가 인식 요청을 직접 의뢰할 필요없이 자동 인식 및 검색이 가능한 효과가 있다. 이로 인해 본 발명에 포함된 기술을 온라인 쇼핑몰에서의 가격 비교 서비스, 쇼핑 구매 서비스 등에 연계하면 현재의 영상 검색 서비스 사업을 보다 활성화할 수 있다. Conventional video search service has a limitation that it is individual because the recognition engine for barcode, QR code, face recognition, image recognition, etc. is mounted on each terminal individually, and the user has to request a request for direct recognition. However, in the present invention, when an image of an object is input, the type of the object is identified through image recognition and the decoder is selected and applied according to the identified type to read the object, thereby enabling integrated recognition of various objects, and identifying the type before object recognition. Therefore, the user can automatically recognize and search without having to request a recognition request. For this reason, if the technology included in the present invention is linked to a price comparison service or a shopping purchase service in an online shopping mall, the current image search service business may be activated.

100: 단말기 200: 통신망
300: 영상 검색 서버 400: 부가 정보 서버
110: 인터페이스부 120: 촬영 수단
130: 제어부 140: 영상 인식부
150: 메모리 160: 통합 인식 엔진
162: 분류 DB 164: 디코더
310: 인터페이스모듈 320: 영상 인식 모듈
330: 제어 모듈 340: 부가 정보 관리 모듈
350: 통합 인식 엔진
100: terminal 200: communication network
300: image search server 400: additional information server
110: interface unit 120: photographing means
130: control unit 140: image recognition unit
150: memory 160: integrated recognition engine
162: classification DB 164: decoder
310: interface module 320: image recognition module
330: control module 340: additional information management module
350: integrated recognition engine

Claims (25)

통신망을 통해 서버에 접속하여 원하는 객체에 대한 검색을 요청하고 그 검색 결과를 수신하는 단말기로서,
상기 원하는 객체를 촬영하여 상기 객체에 대한 영상을 생성하는 촬영 수단과,
상기 촬영 수단을 통해 생성된 객체의 영상을 영상 인식 기반으로 분석하여 객체의 유형을 미리 파악하는 영상 인식부와,
상기 영상 인식부를 통해 파악한 객체의 유형에 따라, 판독 가능한 디코더를 자동 구동하여 상기 객체의 영상을 인식하는 통합 인식 엔진
을 포함하는 것을 특징으로 하는 통합 영상 검색을 위한 단말기.
A terminal that accesses a server through a communication network and requests a search for a desired object and receives the search result.
Photographing means for photographing the desired object to generate an image of the object;
An image recognition unit which analyzes an image of the object generated by the photographing means based on image recognition, and grasps the type of the object in advance;
Integrated recognition engine for automatically driving the readable decoder to recognize the image of the object according to the type of the object identified by the image recognition unit
Terminal for an integrated video search comprising a.
제1항에 있어서,
상기 영상 인식부는 상기 객체의 영상에서 영상 인식 기반으로 특징점을 추출하고 추출된 특징점으로 상기 객체의 유형을 구별하는 것을 특징으로 하는 통합 영상 검색을 위한 단말기.
The method of claim 1,
And the image recognition unit extracts a feature point from the image of the object based on image recognition and distinguishes the type of the object by the extracted feature point.
제2항에 있어서,
상기 객체의 유형을 구별할 수 있는 특징점 정보는 상기 통합 인식 엔진에 유형별로 구분 저장되어, 상기 영상 인식부에서 객체의 유형을 파악하는데 기준 자료가 되는 것을 특징으로 하는 통합 영상 검색을 위한 단말기.
The method of claim 2,
Characteristic point information that can distinguish the type of the object is stored in the integrated recognition engine for each type, the terminal for the integrated image search, characterized in that the reference data to determine the type of the object in the image recognition unit.
제1항에 있어서,
상기 통합 인식 엔진은 상기 객체의 유형에 따라 판독 가능한 각 디코더를 모두 포함하는 것을 특징으로 하는 통합 영상 검색을 위한 단말기.
The method of claim 1,
The integrated recognition engine includes all of the decoders readable according to the type of the object.
제1항 또는 제4항에 있어서,
상기 디코더는 바코드 디코더, QR코드 디코더, NFC(Near Field Communication) 디코더, RFID(Radio Frequency IDentification) 디코더, OCR(Optical Character Recognition) 디코더, 얼굴인식 디코더, 영상인식 디코더를 모두 포함하는 것을 특징으로 하는 통합 영상 검색을 위한 단말기.
The method according to claim 1 or 4,
The decoder may include a barcode decoder, a QR code decoder, a near field communication (NFC) decoder, a radio frequency identification (RFID) decoder, an optical character recognition (OCR) decoder, a face recognition decoder, and an image recognition decoder. Terminal for video search.
제1항에 있어서,
상기 객체의 유형은 사물 또는 사람, 특정 신체 부위, 문자/숫자 등을 포함한 제품 번호, 바코드, QR코드, NFC태그, RFID 태그, OCR 코드 중 어느 하나 이상을 포함한 것을 특징으로 하는 통합 영상 검색을 위한 단말기.
The method of claim 1,
The object type may include one or more of an object or a person, a specific body part, a product number including a letter / number, a barcode, a QR code, an NFC tag, an RFID tag, and an OCR code. terminal.
통신망을 통해 클라이언트의 단말기와 접속하여 상기 단말기로부터 원하는 객체에 대한 검색 요청을 수신하면 그 검색 결과를 상기 단말기로 전송하는 서버로서,
상기 통신망을 통해 단말기와의 통신을 수행하는 인터페이스 모듈과,
상기 인터페이스 모듈을 통해 객체의 영상이 입력되면 상기 객체의 영상을 영상 인식 기반으로 분석하여 객체의 유형을 미리 파악하는 영상 인식 모듈과,
상기 영상 인식 모듈에서 파악한 객체의 유형에 따라, 판독 가능한 디코더를 자동 구동하여 상기 객체의 영상을 인식하는 통합 인식 엔진
을 포함하는 것을 특징으로 하는 영상 검색 서버.
As a server for connecting to a terminal of a client through a communication network and receiving a search request for a desired object from the terminal, the server transmits the search result to the terminal.
An interface module for communicating with a terminal through the communication network;
An image recognition module that analyzes an image of the object based on image recognition based on image recognition when an image of the object is input through the interface module;
An integrated recognition engine for automatically driving a readable decoder to recognize an image of the object according to the type of the object identified by the image recognition module.
Image retrieval server comprising a.
제7항에 있어서,
상기 영상 인식 모듈은 상기 객체의 영상에서 영상 인식 기반으로 특징점을 추출하고 추출된 특징점으로 상기 객체의 유형을 구별하는 것을 특징으로 하는 영상 검색 서버.
The method of claim 7, wherein
The image recognition module extracts a feature point based on image recognition from an image of the object and distinguishes the type of the object by the extracted feature point.
제2항에 있어서,
상기 객체의 유형을 구별할 수 있는 특징점 정보는 상기 통합 인식 엔진에 유형별로 구분 저장되어, 상기 영상 인식 모듈에서 객체의 유형을 파악하는데 기준 자료가 되는 것을 특징으로 하는 영상 검색 서버.
The method of claim 2,
Characteristic point information that can distinguish the type of the object is stored in the integrated recognition engine for each type, the image retrieval server, characterized in that the reference data to determine the type of the object in the image recognition module.
제7항에 있어서,
상기 통합 인식 엔진은 상기 객체의 유형에 따라 판독 가능한 각 디코더를 모두 포함하는 것을 특징으로 하는 영상 검색 서버.
The method of claim 7, wherein
And the integrated recognition engine includes all of the decoders readable according to the type of the object.
제7항 또는 제10항에 있어서,
상기 디코더는 바코드 디코더, QR코드 디코더, NFC(Near Field Communication) 디코더, RFID(Radio Frequency IDentification) 디코더, OCR(Optical Character Recognition) 디코더, 얼굴인식 디코더, 영상인식 디코더를 모두 포함하는 것을 특징으로 하는 영상 검색 서버.
The method according to claim 7 or 10,
The decoder includes a barcode decoder, a QR code decoder, a near field communication (NFC) decoder, a radio frequency identification (RFID) decoder, an optical character recognition (OCR) decoder, a face recognition decoder, and an image recognition decoder. Search server.
제7항에 있어서,
상기 객체의 유형은 사물 또는 사람, 특정 신체 부위, 문자/숫자 등을 포함한 제품 번호, 바코드, QR코드, NFC태그, RFID 태그, OCR 코드 중 어느 하나 이상을 포함한 것을 특징으로 하는 영상 검색 서버.
The method of claim 7, wherein
The object type may include an object or a person, a specific body part, a product number including a letter / number, etc., any one or more of a barcode, a QR code, an NFC tag, an RFID tag, and an OCR code.
통신망을 통해 클라이언트의 단말과 서버가 접속하여 원하는 객체에 대한 검색 서비스를 제공하는 시스템으로서,
상기 클라이언트의 단말은 상기 서버로 원하는 객체에 대한 검색을 요청하고 상기 요청에 따라 검색 결과를 제공받으며,
상기 서버로 검색을 요청하기 전에, 촬영 수단으로 통해 상기 원하는 객체를 촬영하여 상기 객체에 대한 영상을 생성하고, 생성한 객체의 영상을 영상 인식 기반으로 분석하여 객체의 유형을 미리 파악하며, 파악한 객체의 유형에 따라 판독 가능한 디코더를 자동 구동하여 상기 객체의 영상을 인식하 것을 특징으로 하는 통합 영상 검색 시스템.
A system for providing a search service for a desired object by connecting a client terminal and a server through a communication network,
The terminal of the client requests the server to search for a desired object and is provided with a search result according to the request.
Before requesting a search to the server, photograph the desired object through a photographing means to generate an image of the object, and analyze the image of the generated object based on image recognition to determine the type of the object in advance, and identify the object And automatically driving a readable decoder according to the type of the image to recognize the image of the object.
통신망을 통해 클라이언트의 단말과 서버가 접속하여 원하는 객체에 대한 검색 서비스를 제공하는 시스템으로서,
상기 서버는 상기 클라이언트의 단말로부터 원하는 객체에 대한 검색 요청을 수신하고, 상기 요청에 따라 검색한 결과를 상기 클라이언트의 단말로 전송하며,
상기 클라이언트의 검색 요청과 함께 원하는 객체에 대한 영상이 입력되면 상기 객체의 영상을 영상 인식 기반으로 분석하여 객체의 유형을 미리 파악하고, 파악한 객체의 유형에 따라 판독 가능한 디코더를 자동 구동하여 상기 객체의 영상을 인식한 다음, 인식한 객체를 토대로 검색을 수행하는 것을 특징으로 하는 통합 영상 검색 시스템.
A system for providing a search service for a desired object by connecting a client terminal and a server through a communication network,
The server receives a search request for a desired object from the terminal of the client, and transmits a search result according to the request to the terminal of the client,
When an image of a desired object is input together with a search request of the client, the image of the object is analyzed based on image recognition to determine the type of the object in advance, and automatically drive a readable decoder according to the type of the identified object. And recognizing the image, and then performing a search based on the recognized object.
제13항 또는 제14항에 있어서,
상기 객체와 관련한 부가 정보를 저장 및 관리하고 상기 클라이언트의 단말 또는 서버의 요청에 따라 기 저장된 부가 정보를 제공하는 부가 정보 서버를 포함하는 것을 특징으로 하는 통합 영상 검색 시스템.
The method according to claim 13 or 14,
And an additional information server that stores and manages additional information related to the object and provides the stored additional information according to a request of a terminal or a server of the client.
통신망을 통해 서버에 접속하여 원하는 객체에 대한 검색을 요청하고 그 검색 결과를 수신하는 단말기의 검색 서비스 방법으로서,
상기 단말기에 상기 객체에 대한 영상이 입력되면 영상 인식 기반으로 영상의 특성을 분석하여 상기 객체의 유형을 미리 파악하는 단계;
상기 단말기는 상기 객체의 유형에 따라 판독 가능한 디코더를 자동 호출하여 구동 요청하는 단계;
상기 단말기는 구동 요청된 디코더에 의해 상기 객체의 영상을 판독하여 객체를 인식하는 단계;
상기 단말기는 인식한 객체를 상기 서버에 전송하여 검색 서비스를 제공받는 단계
를 포함하는 것을 특징으로 하는 통합 영상 검색 서비스 방법.
A search service method of a terminal that accesses a server through a communication network and requests a search for a desired object and receives the search result.
Determining a type of the object in advance by analyzing characteristics of the image based on image recognition when an image of the object is input to the terminal;
The terminal automatically calling a readable decoder according to the type of the object to request driving;
The terminal recognizes the object by reading an image of the object by the decoder requested to drive;
The terminal receiving the search service by transmitting the recognized object to the server;
Integrated video retrieval service method comprising a.
제16항에 있어서,
상기 객체에 대한 영상은
상기 단말기 내에 구비된 촬영 수단으로 통해 상기 객체를 촬영하고 생성한 영상이거나, 통신망을 통한 웹 페이지 또는 별도의 디바이스로부터 획득한 영상인 것을 특징으로 하는 통합 영상 검색 서비스 방법.
The method of claim 16,
The image for the object
Integrated image retrieval service method characterized in that the image is taken and generated by the photographing means provided in the terminal, or obtained from a web page or a separate device through a communication network.
제16항에 있어서,
상기 객체의 유형을 파악하는 단계는,
상기 객체의 영상으로부터 영상 인식 기반으로 특징점을 추출하고 추출된 특징점을 기 저장된 특징점 정보와 비교하여 상기 객체의 유형을 구별하는 것을 특징으로 하는 통합 영상 검색 서비스 방법.
The method of claim 16,
Identifying the type of the object,
And extracting a feature point from the image of the object based on image recognition and comparing the extracted feature point with previously stored feature point information to distinguish the type of the object.
제16항에 있어서,
상기 디코더는 상기 객체의 유형에 따라 복수 개 구비되는 것을 특징으로 하는 통합 영상 검색 서비스 방법.
The method of claim 16,
And a plurality of decoders are provided according to the type of the object.
제16항에 있어서,
상기 디코더는 바코드 디코더, QR코드 디코더, NFC(Near Field Communication) 디코더, RFID(Radio Frequency IDentification) 디코더, OCR(Optical Character Recognition) 디코더, 얼굴인식 디코더, 영상인식 디코더를 포함하는 것을 특징으로 하는 통합 영상 검색 서비스 방법.
The method of claim 16,
The decoder may include a barcode decoder, a QR code decoder, a near field communication (NFC) decoder, a radio frequency identification (RFID) decoder, an optical character recognition (OCR) decoder, a face recognition decoder, and an image recognition decoder. Search service method.
통신망을 통해 클라이언트의 단말기와 접속하여 상기 단말기로부터 원하는 객체에 대한 검색 요청을 수신하면 그 검색 결과를 상기 단말기로 전송하는 서버의 검색 서비스 방법으로서,
상기 단말기로부터 서버에 객체에 대한 영상이 입력되면 상기 서버는 영상 인식 기반으로 상기 영상의 특성을 분석하여 객체의 유형을 미리 파악하는 단계;
상기 서버는 파악한 객체의 유형에 따라 판독 가능한 디코더를 자동 호출하여 구동 요청하는 단계;
상기 서버는 구동 요청된 디코더에 의해 상기 객체의 영상을 판독하여 객체를 인식하는 단계;
상기 서버가 인식한 객체를 검색하여 검색 결과를 상기 단말기로 전송하는 단계를 포함하는 것을 특징으로 하는 통합 영상 검색 서비스 방법.
A search service method of a server that connects to a terminal of a client through a communication network and receives a search request for a desired object from the terminal.
When the image of the object is input to the server from the terminal, the server analyzing the characteristics of the image based on image recognition to determine the type of the object in advance;
The server automatically calling a readable decoder according to the type of the identified object to request driving;
The server recognizing an object by reading an image of the object by a decoder requested to be driven;
And searching for an object recognized by the server and transmitting a search result to the terminal.
제21항에 있어서,
상기 객체에 대한 영상은
상기 단말기 내에 구비된 촬영 수단으로 통해 상기 객체를 촬영하고 생성한 영상이거나, 통신망을 통한 웹 페이지 또는 별도의 디바이스로부터 획득한 영상인 것을 특징으로 하는 통합 영상 검색 서비스 방법.
The method of claim 21,
The image for the object
Integrated image retrieval service method characterized in that the image is taken and generated by the photographing means provided in the terminal, or obtained from a web page or a separate device through a communication network.
제21항에 있어서,
상기 객체의 유형을 파악하는 단계는,
상기 객체의 영상으로부터 영상 인식 기반으로 특징점을 추출하고 추출된 특징점을 기 저장된 특징점 정보와 비교하여 상기 객체의 유형을 구별하는 것을 특징으로 하는 통합 영상 검색 서비스 방법.
The method of claim 21,
Identifying the type of the object,
And extracting a feature point from the image of the object based on image recognition and comparing the extracted feature point with previously stored feature point information to distinguish the type of the object.
제21항에 있어서,
상기 디코더는 상기 객체의 유형에 따라 복수 개 구비되는 것을 특징으로 하는 통합 영상 검색 서비스 방법.
The method of claim 21,
And a plurality of decoders are provided according to the type of the object.
제21항에 있어서,
상기 디코더는 바코드 디코더, QR코드 디코더, NFC(Near Field Communication) 디코더, RFID(Radio Frequency IDentification) 디코더, OCR(Optical Character Recognition) 디코더, 얼굴인식 디코더, 영상인식 디코더를 포함하는 것을 특징으로 하는 통합 영상 검색 서비스 방법.
The method of claim 21,
The decoder may include a barcode decoder, a QR code decoder, a near field communication (NFC) decoder, a radio frequency identification (RFID) decoder, an optical character recognition (OCR) decoder, a face recognition decoder, and an image recognition decoder. Search service method.
KR1020100076588A 2010-08-09 2010-08-09 Integrative image searching system and service method of the same KR101729938B1 (en)

Priority Applications (6)

Application Number Priority Date Filing Date Title
KR1020100076588A KR101729938B1 (en) 2010-08-09 2010-08-09 Integrative image searching system and service method of the same
CN201610860333.0A CN107092614B (en) 2010-08-09 2011-07-15 Integrated image search terminal, device and service method thereof
PCT/KR2011/005209 WO2012020927A1 (en) 2010-08-09 2011-07-15 Integrated image search system and a service method therewith
US13/814,970 US9576195B2 (en) 2010-08-09 2011-07-15 Integrated image searching system and service method thereof
CN201180045907.4A CN103119593B (en) 2010-08-09 2011-07-15 Integrated image search system and method for servicing thereof
US15/345,567 US10380170B2 (en) 2010-08-09 2016-11-08 Integrated image searching system and service method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100076588A KR101729938B1 (en) 2010-08-09 2010-08-09 Integrative image searching system and service method of the same

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020160174653A Division KR101784287B1 (en) 2016-12-20 2016-12-20 Integrative image searching system and service method of the same

Publications (2)

Publication Number Publication Date
KR20120014480A true KR20120014480A (en) 2012-02-17
KR101729938B1 KR101729938B1 (en) 2017-04-26

Family

ID=45837536

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100076588A KR101729938B1 (en) 2010-08-09 2010-08-09 Integrative image searching system and service method of the same

Country Status (1)

Country Link
KR (1) KR101729938B1 (en)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101333275B1 (en) * 2012-03-07 2013-12-04 주식회사 레드휘슬 Whistle Blower System Using Quick Response Code and Method thereof
KR101498699B1 (en) * 2013-07-25 2015-03-05 주식회사 지지21 Information awareness system and method for QR code combined with global object identification
WO2017135490A1 (en) * 2016-02-02 2017-08-10 주식회사 얍컴퍼니 Apparatus and method for recognizing object in visual content
US9773158B2 (en) 2012-12-18 2017-09-26 Samsung Electronics Co., Ltd. Mobile device having face recognition function using additional component and method for controlling the mobile device
US9826337B2 (en) 2012-09-18 2017-11-21 Samsung Electronics Co., Ltd. Information transmission method and system, and device
US9898724B2 (en) 2012-08-24 2018-02-20 Samsung Electronics Co., Ltd. Method and apparatus for determining item based on interaction environment
US10061825B2 (en) 2012-08-24 2018-08-28 Samsung Electronics Co., Ltd. Method of recommending friends, and server and terminal therefor
WO2018199432A1 (en) * 2017-04-28 2018-11-01 삼성전자주식회사 Method for outputting content corresponding to object and electronic device therefor
KR20190010477A (en) 2017-07-20 2019-01-30 이유미 Method and apparatus for recommending qr code
US10299110B2 (en) 2012-08-23 2019-05-21 Samsung Electronics Co., Ltd. Information transmission method and system, device, and computer readable recording medium thereof
US10521323B2 (en) 2012-09-13 2019-12-31 Samsung Electronics Co., Ltd. Terminal controlling method and terminal therefor
CN110990633A (en) * 2019-12-25 2020-04-10 浙江丰牛环境科技有限公司 Garbage classification fixed-point management system and method based on image retrieval and public system
CN111259996A (en) * 2019-12-27 2020-06-09 福建陆海工程勘察设计有限公司 Identity recognition method and system for road maintenance management object
KR20200127928A (en) * 2013-11-22 2020-11-11 삼성전자주식회사 Method and apparatus for recognizing object of image in electronic device
US11113523B2 (en) 2013-11-22 2021-09-07 Samsung Electronics Co., Ltd Method for recognizing a specific object inside an image and electronic device thereof
US11178214B2 (en) 2012-10-22 2021-11-16 Samsung Electronics Co., Ltd. Device and method for transmitting electronic key thereof
US11232438B2 (en) 2012-08-23 2022-01-25 Samsung Electronics Co., Ltd. Method and system for authenticating transaction request from device

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100633231B1 (en) 2005-04-18 2006-10-12 엘지전자 주식회사 Portable terminal with a information search function based on gesture recognition and implementating method thereof

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101333275B1 (en) * 2012-03-07 2013-12-04 주식회사 레드휘슬 Whistle Blower System Using Quick Response Code and Method thereof
US11232438B2 (en) 2012-08-23 2022-01-25 Samsung Electronics Co., Ltd. Method and system for authenticating transaction request from device
US10299110B2 (en) 2012-08-23 2019-05-21 Samsung Electronics Co., Ltd. Information transmission method and system, device, and computer readable recording medium thereof
US9898724B2 (en) 2012-08-24 2018-02-20 Samsung Electronics Co., Ltd. Method and apparatus for determining item based on interaction environment
US10061825B2 (en) 2012-08-24 2018-08-28 Samsung Electronics Co., Ltd. Method of recommending friends, and server and terminal therefor
US10789582B2 (en) 2012-08-24 2020-09-29 Samsung Electronics Co., Ltd. Method and apparatus for determining item based on interaction environment
US10521323B2 (en) 2012-09-13 2019-12-31 Samsung Electronics Co., Ltd. Terminal controlling method and terminal therefor
US10080096B2 (en) 2012-09-18 2018-09-18 Samsung Electronics Co., Ltd. Information transmission method and system, and device
US9826337B2 (en) 2012-09-18 2017-11-21 Samsung Electronics Co., Ltd. Information transmission method and system, and device
US11178214B2 (en) 2012-10-22 2021-11-16 Samsung Electronics Co., Ltd. Device and method for transmitting electronic key thereof
US9773158B2 (en) 2012-12-18 2017-09-26 Samsung Electronics Co., Ltd. Mobile device having face recognition function using additional component and method for controlling the mobile device
KR101498699B1 (en) * 2013-07-25 2015-03-05 주식회사 지지21 Information awareness system and method for QR code combined with global object identification
KR20200127928A (en) * 2013-11-22 2020-11-11 삼성전자주식회사 Method and apparatus for recognizing object of image in electronic device
US11113523B2 (en) 2013-11-22 2021-09-07 Samsung Electronics Co., Ltd Method for recognizing a specific object inside an image and electronic device thereof
WO2017135490A1 (en) * 2016-02-02 2017-08-10 주식회사 얍컴퍼니 Apparatus and method for recognizing object in visual content
WO2018199432A1 (en) * 2017-04-28 2018-11-01 삼성전자주식회사 Method for outputting content corresponding to object and electronic device therefor
US11232305B2 (en) 2017-04-28 2022-01-25 Samsung Electronics Co., Ltd. Method for outputting content corresponding to object and electronic device therefor
KR20190010477A (en) 2017-07-20 2019-01-30 이유미 Method and apparatus for recommending qr code
CN110990633A (en) * 2019-12-25 2020-04-10 浙江丰牛环境科技有限公司 Garbage classification fixed-point management system and method based on image retrieval and public system
CN110990633B (en) * 2019-12-25 2023-09-08 浙江丰牛环境科技有限公司 Garbage classification fixed-point management system and method based on image retrieval and presentation system
CN111259996A (en) * 2019-12-27 2020-06-09 福建陆海工程勘察设计有限公司 Identity recognition method and system for road maintenance management object

Also Published As

Publication number Publication date
KR101729938B1 (en) 2017-04-26

Similar Documents

Publication Publication Date Title
KR20120014480A (en) Integrative image searching system and service method of the same
US10380170B2 (en) Integrated image searching system and service method thereof
US11238654B2 (en) Offline shopping guide method and apparatus
KR20110096500A (en) Location-based communication method and system
US20180268453A1 (en) Composite image generation
US20160098427A1 (en) Filtering inventory objects using images in an rfid system
US10817923B2 (en) Information providing system, information providing apparatus, information providing method, and program
AU2023201848A1 (en) Data processing method, device and system
CN104504402A (en) Data processing method and system based on image search
KR101784287B1 (en) Integrative image searching system and service method of the same
KR101711163B1 (en) Integrated mobile ordering system using universal internet and beacon
JP5851560B2 (en) Information processing system
KR20110137004A (en) System and method for providing price comparison service based on integrative searching using mobile terminal
KR102342044B1 (en) Ordering system utilizing personal information
KR20120036600A (en) System and method for providing price comparison service code-based
JP6210554B2 (en) Recognition device, recognition program, and recognition method
KR20170065186A (en) Payment system based on image recognition
JP2020190860A (en) Ordering terminal, ordering system, order accepting method, order processing apparatus, and program
KR20170055013A (en) System and method for providing price comparison service code-based
KR101990992B1 (en) System and method for providing code-based price comparison information using association
CN111435513B (en) Content processing method, device and system
KR20090111637A (en) System and method for providing location information
CN103119593B (en) Integrated image search system and method for servicing thereof
KR101750283B1 (en) System and method of life-log service for personal black-box with smart media
KR101004714B1 (en) Data transmiting/receiving method based on object identification in portable camera device

Legal Events

Date Code Title Description
N231 Notification of change of applicant
A201 Request for examination
E902 Notification of reason for refusal
A107 Divisional application of patent
E701 Decision to grant or registration of patent right
GRNT Written decision to grant