KR101873746B1 - 이동 단말기 및 그 제어방법 - Google Patents

Abstract

본 발명은 3차원 입체영상을 표시할 수 있는 이동 단말기에서 포인터의 이동에 따른 시각효과 제공 및 기능 제어가 가능한 이동 단말기 및 그 제어방법에 관한 것이다. 본 발명의 일예와 관련된 이동 단말기는, 시차 생성수단을 포함하되, 미리 결정된 3차원 깊이가 부여된 적어도 하나의 선택 대상 객체를 표시하는 디스플레이부; 이동 단말기에 대한 포인터의 거리 및 위치를 감지하기 위한 감지부; 및 상기 감지된 포인터의 위치 및 거리에 대응하여 소정의 시각효과가 상기 디스플레이부 상으로 표시되도록 하고, 상기 포인터의 거리가 제 1 임계값 이하이며 상기 위치에 특정 선택 대상 객체가 존재하는 경우 상기 제 1 선택 대상 객체에 대응되는 기능이 실행되도록 제어하는 제어부를 포함할 수 있다.

Description

이동 단말기 및 그 제어방법{MOBILE TERMINAL AND METHOD FOR CONTROLLING THEREOF}

본 발명은 3차원 입체영상을 표시할 수 있는 이동 단말기에서 포인터의 이동에 따른 시각효과 제공 및 기능 제어가 가능한 이동 단말기 및 그 제어방법에 관한 것이다.

최근 단말기 형태의 영상표시 장치가 증가하고 있는 추세이다. 이러한 단말기는 이동 가능 여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다.

이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다.

이러한 단말기의 기능 지지 및 증대를 위해, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려될 수 있다.

최근 이동 단말기의 디스플레이부를 통하여 양안 시차(stereo scopic) 방식의 3차원 입체영상이 구현됨에 따라, 사용자들은 보는 것으로 만족하지 않고 그에 따른 인터페이스를 요구하고 있는 실정이다. 그런데, 사용자가 3D 입체영상으로 구성된 객체(아이콘 등)를 선택하고자 하는 경우, 자신의 손이 3D 입체영상과는 따로 보여지기 때문에 자신이 원하는 객체를 정확히 선택을 할 수 있는지를 직관적으로 알기 어렵다는 문제점이 있다.

뿐만 아니라 디스플레이부 크기 및 메뉴 구성의 제약으로 인하여, 메뉴 선택 등에 따라 일반적인 페이지 기반(page by page, 즉, 일부 고정 배치된 사용자 인터페이스를 제외한 상당 부분의 컨텐트가 교체되는 경우)의 이동이 발생하게 된다. 이러한 경우 1) 잦은 로딩이 발생하고, 2) 흐름이 단절되며, 3) 페이지 이동을 위한 별도의 그래픽 사용자 인터페이스가 디스플레이부에 표시될 필요가 있으며, 4) 멀티태스킹 또한 용이하지 않은 문제점이 있다. 따라서, 3D 입체영상 출력을 이용한 효율적인 인터페이스가 요구되고 있다.

본 발명은 보다 편리하게 3D 입체영상을 감상할 수 있는 이동 단말기 및 그 제어를 위한 인터페이스를 제공하기 위한 것이다.

또한, 본 발명은 3D 입체영상이 출력될 때 사용자/포인터의 동작을 시각적으로 피드백할 수 있는 이동 단말기 및 그 제어방법을 제공하기 위한 것이다.

아울러, 본 발명은 하나의 디스플레이 상에 복수의 레이어를 표시하여 수 있는 3D 입체영상 사용자 인터페이스를 통하여 보다 직관적이고 편리한 이동 단말기 및 그 제어방법을 제공하기 위한 것이다.

본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

상기한 과제를 실현하기 위한 본 발명의 일예와 관련된 이동 단말기는, 시차 생성수단을 포함하되, 미리 결정된 3차원 깊이가 부여된 적어도 하나의 선택 대상 객체를 표시하는 디스플레이부; 이동 단말기에 대한 포인터의 거리 및 위치를 감지하기 위한 감지부; 및 상기 감지된 포인터의 위치 및 거리에 대응하여 소정의 시각효과가 상기 디스플레이부 상으로 표시되도록 하고, 상기 포인터의 거리가 제 1 임계값 이하이며 상기 위치에 특정 선택 대상 객체가 존재하는 경우 상기 제 1 선택 대상 객체에 대응되는 기능이 실행되도록 제어하는 제어부를 포함할 수 있다.

또한, 상기한 과제를 실현하기 위한 본 발명의 일예와 관련된 이동 단말기의 제어방법은, 미리 결정된 3차원 깊이가 부여된 적어도 하나의 선택 대상 객체를, 시차 생성수단을 포함하는 디스플레이부 상에 표시하는 단계; 감지부를 통하여 이동 단말기에 대한 포인터의 거리 및 위치를 감지하는 단계; 상기 감지된 포인터의 위치 및 거리에 대응하여 소정의 시각효과를 상기 디스플레이부 상으로 표시하는 단계; 및 상기 포인터의 거리가 제 1 임계값 이하이며 상기 위치에 특정 선택 대상 객체가 존재하는 경우 상기 제 1 선택 대상 객체에 대응되는 기능을 실행하는 단계를 포함할 수 있다.

상기와 같이 구성되는 본 발명은 다음과 같은 효과들을 제공한다.

첫째, 사용자는 보다 편리하게 3D 입체영상을 감상할 수 있다.

둘째, 사용자는 자신의 포인터와 가상의 시각효과를 연동시켜 포인터의 위치를 시각적으로 피드백 받을 수 있다.

셋째, 다중 레이어 구조의 사용자 인터페이스를 통하여 페이지 로딩이 감소하고, 자유로운 페이지 전환이 가능하다.

넷째, 다중 레이어 구조의 사용자 인터페이스를 통하여 보다 편리한 멀티태스킹이 가능하며, 콘텐츠가 표시되는 영역을 확장할 수 있다.

본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.
도 2a은 본 발명의 일 실시예에 관련된 이동 단말기의 전면 사시도이다.
도 2b는 본 발명의 일 실시예에 관련된 이동 단말기의 후면 사시도이다.
도 3은 양안시차의 원리를 설명하기 위한 개념도이다.
도 4는 양안시차에 의한 거리감 및 3차원 깊이를 설명하기 위한 개념도이다.
도 5는 본 발명의 실시예들에 적용될 수 있는 양안 시차를 이용한 3D 입체영상 표시 방법의 원리를 설명하기 위한 도면이다.
도 6은 본 발명의 일 실시예에 따른 사용자 인터페이스를 구동하기 위한 이동 단말기의 동작 과정의 일례를 나타내는 순서도이다.
도 7a는 본 발명의 실시예들에 적용될 수 있는 포인터 위치를 감지하기 위한 관절 인식 방법의 일례를 나타낸다.
도 7b는 본 발명의 실시예들에 적용될 수 있는 포인터 위치를 감지하기 위한 거리 인식 방법의 일례를 나타낸다.
도 8은 본 발명의 일 실시예에 따른 그림자 효과의 개념을 설명하기 위한 도면이다.
도 9a는 본 발명의 일 실시예에 따른 이동 단말기에서 3D 입체영상으로 구현되는 선택 대상 객체 상으로 표시되는 그림자효과의 일례를 나타낸다.
도 9b는 본 발명의 일 실시예에 따른 이동 단말기에서 선택 대상 객체가 평면영상으로 구현되는 경우 그림자효과의 일례를 나타낸다.
도 10은 본 발명의 일 실시예에 따른 이동 단말기에서 3D 입체영상으로 구현되는 선택 대상 객체에 포인터의 위치에 따라 부여되는 시각효과의 일례를 나타낸다.
도 11은 본 발명의 일 실시예에 따른 선택 대상 객체의 배치 형태에 따라 시각효과가 표시되는 일례를 나타낸다.
도 12는 본 발명의 일 실시예에 따른 선택 대상 객체와 포인터의 거리에 따라 커서의 형태가 변경되는 일례를 나타낸다.
도 13은 본 발명의 일 실시예에 따른 선택 대상 객체와 포인터의 거리에 따라 선택 대상 객체의 배치형태가 변경되는 일례를 나타낸다.
도 14는 본 발명의 일 실시예에 따른 선택 대상 객체와 포인터의 거리에 따라 선택 대상 객체의 배치형태가 변경되는 일례를 나타낸다.
도 15는 본 발명의 다른 실시예에 따른 사용자 인터페이스를 구동하기 위한 이동 단말기의 동작 과정의 일례를 나타내는 순서도이다.
도 16a는 본 발명의 다른 실시예에 따른 3개의 레이어를 포함하는 멀티 레이어 사용자 인터페이스 구성의 일례를 나타낸다.
도 16b는 본 발명의 다른 실시예에 따른 멀티 레이어 사용자 인터페이스에서 레이어 선택/활성화 방법의 일례를 설명하기 위한 도면이다.
도 17a는 본 발명의 다른 실시예에 따른 메신저 페이지 구조를 설명하기 위한 도면이다.
도 17b는 본 발명의 다른 실시예에 따른 멀티 레이어 사용자 인터페이스가 적용된 메신저 작동 상태의 일례를 나타내는 디스플레이 상태도이다.
도 17c는 본 발명의 다른 실시예에 따른 멀티 레이어 사용자 인터페이스가 적용된 메신저 작동 상태의 다른 일례를 나타내는 디스플레이 상태도이다.
도 18은 본 발명의 다른 실시예에 따른 위젯 실행 방법의 일례를 나타내는 도면이다.
도 19a 및 도 19b는 본 발명의 다른 실시예에 따른 3단계의 메뉴 깊이를 갖는 설정 메뉴 실행 방법의 일례를 각각 나타내는 도면이다.
도 20은 본 발명의 다른 실시예에 따른 멀티 레이어 사용자 인터페이스를 통해 멀티태스킹이 수행되는 형태의 일례를 나타내는 도면이다.
도 21은 본 발명의 다른 실시예의 다른 양상에 따른 서브 메뉴 분리 방법의 일례를 나타낸다.

이하, 본 발명과 관련된 영상표시 장치에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.

본 명세서에서 설명되는 영상표시 장치는 이동 단말기인 것으로 가정한다. 이러한 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등이 포함될 수 있다. 그러나, 본 명세서에 기재된 실시예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터, 디지털 매체 재생기 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.

전체구성

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.

상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.

이하, 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.

상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.

위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다.

도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad) 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.

센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 햅틱 모듈(154) 및 프로젝터 모듈(155) 등이 포함될 수 있다.

디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.

디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.

이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)이 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.

터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.

상기 근접 센서(141)는 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.

상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.

이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.

상기 근접센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.

음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.

알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있어서, 그들(151,152)은 알람부(153)의 일부로 분류될 수도 있다.

햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.

햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.

햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 휴대 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.

프로젝터 모듈(155)은, 이동 단말기(100)를 이용하여 이미지 프로젝트(project) 기능을 수행하기 위한 구성요소로서, 제어부(180)의 제어 신호에 따라 디스플레이부(151)상에 디스플레이되는 영상과 동일하거나 적어도 일부가 다른 영상을 외부 스크린 또는 벽에 디스플레이할 수 있다.

구체적으로, 프로젝터 모듈(155)은, 영상을 외부로 출력하기 위한 빛(일 예로서, 레이저 광)을 발생시키는 광원(미도시), 광원에 의해 발생한 빛을 이용하여 외부로 출력할 영상을 생성하기 위한 영상 생성 수단 (미도시), 및 영상을 일정 초점 거리에서 외부로 확대 출력하기 위한 렌즈(미도시)를 포함할 수 있다. 또한, 프로젝터 모듈(155)은, 렌즈 또는 모듈 전체를 기계적으로 움직여 영상 투사 방향을 조절할 수 있는 장치(미도시)를 포함할 수 있다.

프로젝터 모듈(155)은 디스플레이 수단의 소자 종류에 따라 CRT(Cathode Ray Tube) 모듈, LCD(Liquid Crystal Display) 모듈 및 DLP(Digital Light Processing) 모듈 등으로 나뉠 수 있다. 특히, DLP 모듈은, 광원에서 발생한 빛이 DMD(Digital Micromirror Device) 칩에 반사됨으로써 생성된 영상을 확대 투사하는 방식으로 프로젝터 모듈(151)의 소형화에 유리할 수 있다.

바람직하게, 프로젝터 모듈(155)은, 이동 단말기(100)의 측면, 정면 또는 배면에 길이 방향으로 구비될 수 있다. 물론, 프로젝터 모듈(155)은, 필요에 따라 이동 단말기(100)의 어느 위치에라도 구비될 수 있음은 당연하다.

메모리부(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입/출력되는 데이터들(예를 들어, 전화번호부, 메시지, 오디오, 정지영상, 동영상 등)의 임시 저장을 위한 기능을 수행할 수도 있다. 상기 메모리부(160)에는 상기 데이터들 각각에 대한 사용 빈도(예를 들면, 각 전화번호, 각 메시지, 각 멀티미디어에 대한 사용빈도)도 함께 저장될 수 있다. 또한, 상기 메모리부(160)에는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.

식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다.

상기 인터페이스부는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.

제어부(controller, 180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(180) 자체로 구현될 수 있다.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

기구 설명

도 2a는 본 발명과 관련된 이동 단말기 또는 휴대 단말기의 일 예를 전면에서 바라본 사시도이다.

개시된 휴대 단말기(100)는 바 형태의 단말기 바디를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고, 2 이상의 바디들이 상대 이동 가능하게 결합되는 슬라이드 타입, 폴더 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용이 가능하다.

바디는 외관을 이루는 케이스(케이싱, 하우징, 커버 등)를 포함한다. 본 실시예에서, 케이스는 프론트 케이스(101)와 리어 케이스(102)로 구분될 수 있다. 프론트 케이스(101)와 리어 케이스(102)의 사이에 형성된 공간에는 각종 전자부품들이 내장된다. 프론트 케이스(101)와 리어 케이스(102) 사이에는 적어도 하나의 중간 케이스가 추가로 배치될 수도 있다.

케이스들은 합성수지를 사출하여 형성되거나 금속 재질, 예를 들어 스테인레스 스틸(STS) 또는 티타늄(Ti) 등과 같은 금속 재질을 갖도록 형성될 수도 있다.

단말기 바디, 주로 프론트 케이스(101)에는 디스플레이부(151), 음향출력부(152), 카메라(121), 사용자 입력부(130/131,132), 마이크(122), 인터페이스(170) 등이 배치될 수 있다.

디스플레이부(151)는 프론트 케이스(101)의 주면의 대부분을 차지한다. 디스플레이부(151)의 양단부 중 일 단부에 인접한 영역에는 음향출력부(151)와 카메라(121)가 배치되고, 다른 단부에 인접한 영역에는 사용자 입력부(131)와 마이크(122)가 배치된다. 사용자 입력부(132)와 인터페이스(170) 등은 프론트 케이스(101) 및 리어 케이스(102)의 측면들에 배치될 수 있다.

사용자 입력부(130)는 휴대 단말기(100)의 동작을 제어하기 위한 명령을 입력받기 위해 조작되는 것으로서, 복수의 조작 유닛들(131,132)을 포함할 수 있다. 조작 유닛들(131,132)은 조작부(manipulating portion)로도 통칭 될 수 있으며, 사용자가 촉각 적인 느낌을 가면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다.

제1 또는 제2조작 유닛들(131, 132)에 의하여 입력되는 내용은 다양하게 설정될 수 있다. 예를 들어, 제1 조작 유닛(131)은 시작, 종료, 스크롤 등과 같은 명령을 입력받고, 제2 조작 유닛(132)은 음향출력부(152)에서 출력되는 음향의 크기 조절 또는 디스플레이부(151)의 터치 인식 모드로의 전환 등과 같은 명령을 입력받을 수 있다.

도 2b는 도 2a에 도시된 휴대 단말기의 후면 사시도이다.

도 2b를 참조하면, 단말기 바디의 후면, 다시 말해서 리어 케이스(102)에는 카메라(121')가 추가로 장착될 수 있다. 카메라(121')는 카메라(121, 도 2a 참조)와 실질적으로 반대되는 촬영 방향을 가지며, 카메라(121)와 서로 다른 화소를 가지는 카메라일 수 있다.

예를 들어, 카메라(121)는 화상 통화 등의 경우에 사용자의 얼굴을 촬영하여 상대방에 전송함에 무리가 없도록 저 화소를 가지며, 카메라(121')는 일반적인 피사체를 촬영하고 바로 전송하지는 않는 경우가 많기에 고 화소를 가지는 것이 바람직하다. 카메라(121,121')는 회전 또는 팝업(pop-up) 가능하게 단말기 바디에 설치될 수도 있다.

카메라(121')에 인접하게는 플래쉬(123)와 거울(124)이 추가로 배치된다. 플래쉬(123)는 카메라(121')로 피사체를 촬영하는 경우에 피사체를 향해 빛을 비추게 된다. 거울(124)은 사용자가 카메라(121')를 이용하여 자신을 촬영(셀프 촬영)하고자 하는 경우에, 사용자 자신의 얼굴 등을 비춰볼 수 있게 한다.

단말기 바디의 후면에는 음향 출력부(152')가 추가로 배치될 수도 있다. 음향 출력부(152')는 음향 출력부(152, 도 2a 참조)와 함께 스테레오 기능을 구현할 수 있으며, 통화시 스피커폰 모드의 구현을 위하여 사용될 수도 있다.

단말기 바디의 측면에는 통화 등을 위한 안테나 외에 방송신호 수신용 안테나(116)가 추가로 배치될 수 있다. 방송수신모듈(111, 도 1 참조)의 일부를 이루는 안테나(116)는 단말기 바디에서 인출 가능하게 설치될 수 있다.

단말기 바디에는 휴대 단말기(100)에 전원을 공급하기 위한 전원공급부(190)가 장착된다. 전원공급부(190)는 단말기 바디에 내장되거나, 단말기 바디의 외부에서 직접 탈착될 수 있게 구성될 수 있다.

리어 케이스(102)에는 터치를 감지하기 위한 터치 패드(135)가 추가로 장착될 수 있다. 터치 패드(135) 또한 디스플레이부(151)와 마찬가지로 광 투과형으로 구성될 수 있다. 이 경우에, 디스플레이부(151)가 양면에서 시각 정보를 출력하도록 구성된다면, 터치 패드(135)를 통해서도 상기 시각 정보를 인지할 수 있게 된다. 상기 양면에 출력되는 정보는 상기 터치 패드(135)에 의해 모두 제어될 수도 있다. 이와 달리, 터치 패드(135)에는 디스플레이가 추가로 장착되어, 리어 케이스(102)에도 터치 스크린이 배치될 수도 있다.

3차원 입체 영상의 구현 방법

이하, 본 발명의 실시예들에서 적용될 수 있는 이동 단말기의 3차원 영상 표현 방법 및 그를 위한 디스플레이부의 구조를 설명한다.

이동 단말기의 디스플레이부(151) 상으로 구현되는 입체 영상은 크게 두 가지 카테고리로 구분될 수 있다. 이러한 구분의 기준은, 양안에 서로 다른 영상이 제공되는지 여부이다.

먼저, 첫 번째 입체 영상 카테고리를 설명한다.

첫 번째 카테고리는 양안에 동일한 영상이 제공되는 방식(monoscopic)으로, 일반적인 디스플레이부로도 구현이 가능하다는 장점이 있다. 보다 상세히는, 제어부(180)가 가상의 입체공간 상에 하나 이상의 점, 선, 면 또는 그들의 조합을 통하여 생성된 적어도 하나의 다면체를 배치(또는 렌더링:rendering)하고, 그를 특정 시점에서 바라본 영상을 디스플레이부(151) 상으로 디스플레이되도록 하는 방법이다. 따라서, 이러한 입체 영상의 실질은 평면 영상이라 할 수 있다.

두 번째 카테고리는 양안에 서로 다른 영상이 제공되는 방식(stereo scopic)으로, 인간이 육안으로 사물을 볼 때 입체감을 느끼는 원리를 이용한 방법이다. 즉, 사람의 두 눈은 서로 간에 이루는 거리에 의해 동일한 사물을 볼때 서로 다른 평면 영상을 보게 된다. 이러한 서로 다른 평면 영상은 망막을 통하여 뇌로 전달되고, 뇌는 이를 융합하여 입체 영상의 깊이(depth) 및 실제감(reality)을 느끼게 된다. 따라서, 사람마다 다소간의 차이는 있으나, 양안이 서로 이루는 거리에 의한 양안시차(binocular disparity)가 입체감을 느끼게 하며, 이러한 양안시차는 스테레오 스코픽 방식의 가장 중요한 요소가 되는 것이다. 이러한 양안시차를 도 3을 참조하여 보다 구체적인 예로 설명한다.

도 3은 양안시차의 원리를 설명하기 위한 개념도이다.

도 3에서는, 육면체(310)를 눈높이보다 아래의 정면에 두고 육안으로 보는 상황을 가정한다. 이러한 경우, 좌안으로는 육면체(310)의 윗면, 정면 및 좌측면의 3면 만이 보이는 좌안 평면영상(320)이 보이게 된다. 또한, 우안으로는 육면체(310)의 윗면, 정면 및 우측면의 3면 만이 보이는 우안 평면영상(330)이 보이게 된다.

만약, 실제 눈 앞의 사물이 아니더라도 좌안에는 좌안 평면영상(320)이, 우안에는 우안 평면영상(330)이 각각 도달되도록 하면 사람은 실제로 입체적인 육면체(310)를 보는 것과 같이 느낄 수 있다.

결국, 이동 단말기에서 두 번째 카테고리의 입체 영상이 구현되기 위해서는 디스플레이부를 통하여, 동일한 오브젝트를 소정 시차를 두고 본 좌안용 영상과 우안용 영상 각각을 구분하여 양안에 도달시켜야 하는 것이다.

본 명세서에서는 상술한 두 카테고리를 구분하기 위하여, 편의상 첫 번째 카테고리의 입체 영상을 "2D 입체영상" 또는 "평면 3D 렌더링 영상"이라 칭하고, 두 번째 카테고리의 입체 영상을 "3D 입체영상"이라 칭한다.

다음으로, 도 4를 참조하여 양안시차에 의한 3차원 깊이를 설명한다.

도 4는 양안시차에 의한 거리감 및 3차원 깊이를 설명하기 위한 개념도이다.

도 4를 참조하면, 양안을 통하여 d1 거리에서 육면체(400)를 볼 때, d2 거리에서 육면체(400)를 볼 때보다 상대적으로 각 안구에 들어오는 영상의 측면 비중이 높게 되며 양안을 통해 보이는 영상의 차이도 크게 된다. 또한, d1 거리에서 육면체(400)를 볼 때 사람이 느끼는 입체감의 정도가 d2 거리에서 육면체(400)를 볼 때보다 더 크게 된다. 즉, 사람이 양안을 통하여 사물을 볼 때 가까이 있는 물체일 수록 입체감이 더 크게 느껴지고, 멀리 있는 물체일수록 입체감이 더 적게 느껴진다.

이러한 입체감의 차이를 3차원 깊이(3D depth) 또는 3차원 레벨(3D Level)로 수치화 시킬 수 있다. 이하, 본 명세서에서는 디스플레이부로부터 튀어나와 보이는 3D 깊이를 + 방향의 3D 깊이라 칭하고, 디스플레이부로부터 함몰되어 보이는 3D 깊이를 - 방향의 3D 깊이라 칭한며, 디스플레이부와 동일한 깊이로 보이는 경우 제로("0") 깊이라 칭한다. 이러한 3차원 깊이 또는 3차원 레벨의 정의는 상대적인 것으로 그 분류 기준과 증가/감소 방향은 변경될 수 있다.

다음으로, 3D 입체영상의 구현 방법을 설명한다.

상술한 바와 같이, 3D 입체영상이 구현되기 위해서는 우안용 영상과 좌안용 영상이 각각 구분되어 양안에 도달될 필요가 있다. 이를 위한 다양한 방법들을 이하 설명한다.

1) 시차 장벽 방식

시차 장벽(parrallax barrier) 방식은 일반적인 디스플레이부와 양안 사이에 구비되는 차단장치를 전기적으로 제어하여 빛의 진행방향을 제어하는 방법으로 양안에 서로 다른 영상이 도달되도록 하는 방식이다.

이를 도 5를 참조하여 설명한다.

도 5는 본 발명의 일실시예와 관련된 양안 시차를 이용한 3차원 이미지 표시 방법의 원리를 설명하기 위한 도면이다.

도시된 바와 같이, 도 5에서 3D 입체 영상을 표시하기 위해, 디스플레이부(151)는 디스플레이 패널과 그 상면에 부착되는 스위칭 패널을 포함한다. 스위칭 패널은 전기적으로 제어되어 디스플레이 패널로부터 양안으로 도달되는 빛의 일부를 차단하거나 통과시킬 수 있다. 여기서 디스플레이 패널은 LCD, LED, AMOLED 등 일반적인 디스플레이 소자로 구성될 수 있다.

도 5에서 b는 스위칭 패널의 배리어(barrier) 간격을, g는 스위칭 패널과 디스플레이 패널의 간격을, z는 사람이 보는 위치로부터 디스플레이 패널까지의 거리를 나타낸다. 도 5에서와 같이, 두 이미지를 픽셀단위로 합성할 경우(L, R), 오른쪽 눈의 시각이 오른쪽 이미지에 포함된 픽셀로, 왼쪽 눈의 시각이 왼쪽 이미지에 포함된 픽셀로 대응되도록 시각을 입사받는 스위칭 패널이 동작할 수 있다.

스위칭 패널은 3D 입체 영상을 표출하고자 할 경우, 온(on) 되어 입사 시각을 분리할 수 있다. 또한, 스위칭 패널은 2차원 영상을 표출하고자 할 경우 오프(off)되어 입사 시각을 분리시키지 않고 그대로 통과시킬 수 있다. 따라서, 스위칭 패널이 오프될 경우에는 양안시차가 분리되지 않는다. 이러한 스위칭 패널 방식은 2D/3D간 전환이 용이하여 사용자가 별도의 편광처리되거나 액티브 셔터로 동작하는 안경을 착용하지 않고도 3D 입체영상을 감상할 수 있는 장점이 있다.

도 5에서는 시차장벽이 하나의 축 방향으로 동작하는 것을 예시하였으나, 본 발명은 이에 제한되지 아니하고 제어부(180)의 제어신호에 따라 둘 이상의 축 방향으로도 동작할 수 있는 시차 장벽이 사용될 수 있다.

2) 렌즈 굴절 방식

렌즈 굴절 방식(lenticular)은, 디스플레이부와 양안 사이에 구비되는 렌티큘러 스크린을 이용하는 방법으로, 빛의 진행방향을 렌티큘러 스크린 상의 렌즈들을 통하여 굴절시키는 방법으로 양안에 서로 다른 영상이 도달되도록 하는 방법이다.

3) 편광 안경 방식

편광 방향이 서로 직각을 이루도록 하여 양안에 서로 다른 영상을 제공하거나, 원평광 방식인 경우 서로 회전방향이 다르도록 편광시켜 양안에 서로 다른 영상을 제공하는 방법이다.

4) 액티브 셔터 방식

안경 방식의 일종으로, 디스플레이부를 통하여 소정 주기로 우안용 영상과 좌안용 영상을 번갈아 표시되도록 하고, 사용자의 안경은 해당 방향의 영상이 표시될 때 반대편 방향의 셔터를 닫아 해당 방향의 영상이 해당 방향의 안구에 도달하도록 하는 방법이다. 즉, 좌안용 영상이 디스플레이되는 시간 동안에는 우안의 셔터를 닫아 좌안에만 좌안용 영상이 도달되도록 하고, 우안용 영상이 디스플레이되는 시간 동안에는 좌안의 셔터를 닫아 우안에만 우안용 영상이 도달되도록 하는 방법이다.

설명의 편의를 위하여, 이하에서 언급되는 이동 단말기는 도 1에 도시된 구성요소들 중 적어도 하나를 포함한다고 가정한다. 특히, 본 발명이 적용 가능한 이동 단말기는 상술한 3D 입체영상 구현 방식들 중 적어도 하나의 방법을 통하여 3D 입체영상을 사용자에게 제공할 수 있는 디스플레이부를 구비한다.

한편, 디스플레이부에서 특정 객체(오브젝트)를 가리키거나 메뉴를 선택하기 위한 화살표 또는 손가락 형태의 그래픽은 포인터(pointer) 또는 커서(cursor)로 호칭된다. 그러나, 포인터의 경우 터치 조작 등을 위한 손가락이나 스타일러스 펜 등을 의미하는 것으로 혼용되는 경우가 많다. 따라서 본 명세서에서는 이 둘을 명확히 구분하기 위하여 디스플레이부에 표시되는 그래픽 이미지를 커서라 칭하고, 손가락이나 스타일러스 펜과 같이 터치, 근접터치, 제스쳐(gesture)를 수행할 수 있는 물리적 수단을 포인터라 칭한다.

시각적 피드백 인터페이스

본 발명의 일 실시예에 의하면, 3D 입체영상으로 표시되는 사용자 인터페이스 상에서 사용자의 포인터의 위치를 감지하고, 감지된 위치에 대응되는 시각적 피드백을 상기 사용자 인터페이스 상으로 제공하는 방법 및 이를 구현하기 위한 이동 단말기가 제공된다.

이를 위한 이동 단말기의 동작 과정을 도 6을 참조하여 설명한다.

도 6은 본 발명의 일 실시예에 따른 사용자 인터페이스를 구동하기 위한 이동 단말기의 동작 과정의 일례를 나타내는 순서도이다.

먼저, 사용자로부터의 소정의 메뉴 조작 또는 어플리케이션의 실행 또는 기 설정된 조건에 따른 이벤트(예를 들어, 메시지 수신 또는 호 발생 등)가 발생함에 따라 제어부(180)는 이동 단말기에 구비된 카메라(121)와 센싱모듈(140) 등과 같은 다양한 감지수단을 통해 포인터의 위치를 감지한다(S610).

포인터의 위치를 감지하는 구체적인 방법은 도 7a 및 도 7b를 참조하여 보다 상세히 후술하기로 한다.

포인터의 위치를 감지한 제어부(180)는, 감지된 포인터의 위치 및 이동 단말기 본체 및/또는 포인터로 선택될 수 있는 선택 대상 객체와의 거리에 대응한 시각효과를 디스플레이한다(S620).

여기서 선택 대상 객체는 말 그대로 포인터를 통한 제스쳐(예를 들어, 특정 선택 대상 객체 상으로 포인터가 일정 거리 이내로 접근하거나, 해당 위치에서 일정 시간이상 머무르는 경우 등)로 선택될 때 그에 미리 설정된 기능이 실행될 수 있는 객체를 말한다. 선택 대상 객체는 필요에 따라 둘 이상이 동시에 서로 다른 위치에 소정의 3D 깊이가 부여되어 디스플레이부(151)를 통해 표시될 수 있다.

또한, 본 명세서에서는 포인터의 3차원 공간 상에서 놓인 지점을 위치와 거리로 구분하여 설명한다. 여기서 "거리"는 기준점(디스플레이부 또는 선택 대상 객체)으로부터 수직으로 이격된 정도, 즉, Z축상 좌표를 의미하며, "위치"는 디스플레이부와 평행을 이루는 면 상에서 X,Y 좌표를 의미한다. 예를 들어, 디스플레이부 상의 일 지점에서 포인터가 접촉을 유지한 상태로 수직 상방으로 평행 이동하는 경우 Y 축값이 증가한다고 할 수 있고, 우측으로 평행이동하는 경우 X축값이 증가한다고 할 수 있다. 또한, 평행이동 없이 디스플레이부 평면과 수직으로 포인터가 멀어지는 경우 Z 축값이 증가한다고 할 수 있다.

아울러, 선택 대상 객체와의 거리라 함은, 사용자의 시점에서 3D 입체영상으로 선택 대상 객체가 표시되는 3D 깊이를 고려한 거리를 의미한다. 예를 들어, 선택 대상 객체가 이동 단말기 본체(즉, 디스플레이부)로부터 튀어나와 있는 것으로 보이도록 3D 깊이가 부여된 경우, 사용자가 느끼기에는 이동 단말기 본체보다 선택 대상 객체가 가까이 위치한 것으로 보인다. 따라서 본 명세서에서는 이동 단말기 본체와의 거리와 선택 대상 객체와의 거리를 구분하여 기술한 것이다. 이를 위하여, 제어부(180)는 선택 대상 객체의 3D 깊이 값을 실시간으로 계산할 수도 있고, 메모리(160)에 선택 대상 객체의 종류별로 미리 설정된 3D 깊이 값이 저장될 수도 있다. 이러한 시각효과의 구체적인 예는 도 8 내지 도 13을 참조하여 보다 상세히 후술하기로 한다.

제어부는 시각효과를 디스플레이하면서 포인터와 이동 단말기 본체 및/또는 포인터로 선택될 수 있는 선택 대상 객체와의 거리가 임계값 이하로 가까워지면, 이를 포인터의 위치에 대응되는(즉, 포인터를 통해 선택된) 선택 대상 객체를 선택하기 위한 제스쳐로 판단하고(S630), 해당 선택 대상 객체에 설정된 기능을 실행할 수 있다(S640).

만일, 포인터와 이동 단말기 본체 및/또는 포인터로 선택될 수 있는 선택 대상 객체와의 거리가 임계값을 초과하는 경우 제어부는 포인터의 움직임에 대응되는 시각효과, 즉, 사용자에게 제어부가 판단한 포인터의 현재 위치를 피드백하기 위한 시각효과만을 표시할 수 있다. 아울러, 상술한 시각 효과는 포인터가 이동 단말기로부터 일정 거리 이내(예를 들어, 감지수단의 최대 감지 가능 거리)에 위치한 것으로 감지된 경우에만 표시될 수도 있다.

<포인터의 위치/거리 판단>

이하, 본 실시예에 따른 포인터의 위치 및 거리를 판단하는 방법들을 설명한다. 이동 단말기의 제어부(180)는 카메라(121)를 통하여 연속적으로 촬영된 영상을 이용하여 사용자의 손이나 스타일러스펜 등과 같은 포인터의 위치, 이동 궤적, 동작 패턴 및 형태를 파악하고, 그에 대응되는 사용자 명령으로 인식할 수 있다. 이때, 카메라(121) 단독으로 촬영된 영상만을 이용하는 것이 아니라, 근접 센서 또는 거리 센서와의 조합을 통하여 보다 감지 정확도를 높일 수 있으며, 복수의 센서가 사용될 수도 있다. 도 7a 및 도 7b를 참조하여 보다 구체적인 포인터 위치/거리 판단 방법을 설명한다.

도 7a는 본 발명의 실시예들에 적용될 수 있는 포인터 위치를 감지하기 위한 관절 인식 방법의 일례를 나타낸다.

관절 인식이란, 카메라 또는 이에 준하는 이미지 획득 수단을 통해 인체에서 포인터로 동작할 수 있는 부분, 예를 들어, 사용자의 팔에 해당하는 이미지를 연속적으로 획득하고 이를 분석하여 관절부를 판단, 사용자의 동작을 인식하는 방법을 말한다. 일례로, 도 7a의 (a)에서 손 부위(710)를 포인터 팁(tip)이라 간주하고, 손목(720)과 팔꿈치(730), 팔꿈치와 어깨(740)를 잇는 선이 만나는 각도(750)가 도 7a의 (b)와 같이 커지는 경우(750')를 가정한다. 이러한 경우, 제어부(180)는 이미지 획득 수단을 통해 사용자의 팔이 취하는 자세가 도 7a의 (a)에서 도 7a의 (b)와 같이 바뀌는 과정에서 연속적으로 획득된 이미지를 분석한다. 이를 통해 제어부(180)는 각 관절부(720 내지 740)의 위치를 파악하고, 팔꿈치 관절의 각도가 커짐에 따라 사용자가 포인터를 내밀었다고(즉, 포인터가 이동 단말기 방향으로 다가온 것으로) 판단할 수 있다.

도 7b는 본 발명의 실시예들에 적용될 수 있는 포인터 위치를 감지하기 위한 거리 인식 방법의 일례를 나타낸다.

도 7b에서는 이동 단말기의 가장자리 부근에 복수의 근접 센서(141 내지 144)가 배치되는 경우를 가정한다. 이때, 포인터(711)가 이동 단말기(100)에 접근함에 따라 제어부는 각 센서로부터 포인터(711)까지의 거리 정보를 획득하고, 삼각 측량법(triangulization)과 같은 계산을 통해 포인터의 위치를 판단할 수 있다. 예를 들어, 포인터(711)가 도 7b의 (a)에서 도 7b의 (b)와 같이 이동하는 경우, 각 센서가 판단한 포인터와의 거리가 동일한 비율로 줄게 되고, 그에 따라 제어부(180)는 포인터가 이동 단말기에 대하여 평행이동 없이 거리만 가까워진 것으로 판단할 수 있다. 이 외에도, 도시되지는 않았으나 이동 단말기의 적어도 일부분에서 포인터를 향하여 적외선을 방출하고, 포인터에 반사되어 돌아오는 적외선의 패턴을 적외선 센서를 통해 센싱하는 방법으로 포인터의 위치를 판단할 수도 있다.

도 7a 및 도 7b를 참조하여 상술한 포인터 위치/거리 측정 방법은 예시적인 것으로, 본 발명이 이에 한정되는 것은 아니며 센서를 통하여 포인터의 위치를 감지하는 형태라면 어떠한 방법이라도 적용이 가능함은 당업자에 자명하다.

<시각효과>

이하에서는 도 8내지 도 13을 참조하여 감지된 포인터의 위치를 사용자에 피드백하기 위한 구체적인 시각효과의 예들을 설명한다.

먼저 그림자 효과를 설명한다. 본 실시예에 따른 그림자 효과란, 특정 위치에 가상의 광원을 설정하고, 상기 가상의 광원으로부터 발생하는 가상의 빛이 포인터에 의해 가려지면서 발생하는 가상의 그림자 효과를 의미한다. 이를 도 8을 참조하여 보다 상세히 설명한다.

도 8은 본 발명의 일 실시예에 따른 그림자 효과의 개념을 설명하기 위한 도면이다.

도 8의 (a)를 참조하면, 하나의 면(810)의 전방에 포인터(820)가 위치하고 그 측후방으로 광원(830)이 위치하는 경우, 상기 광원(830)으로부터 포인터(820)로 향하는 직선의 연장선과 상기 면(810)이 만나는 지점에는 그림자(840)가 생긴다. 이때, 도 8의 (b)와 같이 포인터(820)가 면(810)에 다가감에 따라 포인터는 광원(830)으로부터 멀어지게 되고, 면에 맺히는 그림자(840')는 도 8의 (a)의 경우와 비교하면 더 작아지는 대신 더 진해진다. 뿐만 아니라, 그림자는 포인터가 면에 가까워질 수록 손과도 가까워지게 된다.

이러한 그림자 효과를 본 실시예에 따른 사용자 인터페이스에 적용하면, 면은 선택 대상 객체 또는 선택 대상 객체가 배치되는 레이어가 될 수 있다. 또한, 광원은 실제로 존재하지 아니하나 제어부가 그림자에 대응되는 그래픽 효과를 감지된 포인터의 위치에 따라 디스플레이부를 통해 출력할 수 있다. 결국, 사용자는 포인터를 선택 대상 객체 또는 선택 대상 객체가 배치되는 레이어에 가까이 가져갈 수록 그림자가 진해지고 가까워지는 듯한 효과를 시각적으로 경험할 수 있다. 즉, 그림자가 포인터와 멀게 표시되는 경우 사용자는 포인터가 선택 대상 객체와 거리가 있음을 인식할 수 있다. 반대로 그림자와 포인터가 가까운 경우 사용자는 포인터가 선택 대상 객체 가까이에 위치함을 인식할 수 있다.

전술한 그림자 효과가 선택 대상 객체에 적용되는 구체적인 예를 도 9a를 참조하여 설명한다. 도 9a를 포함한 이하의 도면들에서는 포인터의 위치를 판단하기 위한 카메라(121)나 센서(140)의 도시는 생략하기로 한다.

도 9a는 본 발명의 일 실시예에 따른 이동 단말기에서 3D 입체영상으로 구현되는 선택 대상 객체 상으로 표시되는 그림자효과의 일례를 나타낸다.

도 9a에서는 이동 단말기(100)의 디스플레이부를 통해 3D 입체영상으로 복수의 아이콘 형태의 선택 대상 객체를 포함하는 레이어(910)가 표시되며, 가상의 광원(930)이 포인터(920) 기준으로 우측 후방에 위치한 경우를 가정한다. 이때, 레이어(910)에는 + 방향의 3D 깊이가 부여된 것으로, 즉, 사용자의 시점에서는 레이어가 디스플레이부로부터 떠 있는 것으로 보이는 것으로 가정한다.

먼저 도 9a의 (a)를 참조하면, 포인터(920)가 레이어(910)로부터 멀리 떨어져 있을 때에는 제어부(180)가 그림자 효과(940)를 레이어(910) 좌측에 크게 표시되도록 디스플레이부를 제어한다. 도 9의 (b)와 같이 포인터(920)가 레이어 방향으로 가까이 다가가면, 제어부(180)는 그림자 효과(940')를 점점 포인터 가까이에 표시되도록 이동시킬 수 있다. 이때, 그림자 효과는 점점 진해지면서 크기가 작아질 수 있다.

전술한 효과가 제공됨에 따라 사용자는 3D 입체영상으로 표시되는 선택 대상 객체 또는 그를 포함하는 레이어에 대한 포인터의 상대적인 위치를 파악할 수 있다.

한편, 전술된 그림자 효과는 선택 대상 객체 등의 사용자 인터페이스에 3D 입체영상이 적용되지 않을 경우에도 표시될 수 있음은 물론이다. 이를 도 9b를 참조하여 설명한다. 도 9b는 본 발명의 일 실시예에 따른 이동 단말기에서 선택 대상 객체가 평면영상으로 구현되는 경우 그림자효과의 일례를 나타낸다.

도 9b에서는 이동 단말기(100)의 디스플레이부 상에서 평면영상으로 선택 대상 객체가 표시되고 있으며, 가상의 광원은 포인터의 수직 상방에 위치하는 경우를 가정한다. 먼저 도 9b의 (a)와 같이 이동 단말기(100)와 포인터(921) 사이가 일정 거리 이상인 경우에는 그림자 효과가 표시되지 않다가, 도 9b의 (b)와 같이 포인터가 가까워짐에 따라 그림자 효과(950)가 포인터의 움직임에 대응하여 디스플레이부(151) 상으로 표시될 수 있다. 만일 포인터(921)가 더 가까워지면 도 9b의 (c)와 같이 그림자 효과(950')는 작고 진하게 바뀔 수 있다.

포인터의 위치를 사용자에 피드백하기 위한 시각효과의 다른 예로, 선택 대상 객체 자체에 시각효과를 부여할 수도 있다. 이를 도 10을 참조하여 설명한다.

도 10은 본 발명의 일 실시예에 따른 이동 단말기에서 3D 입체영상으로 구현되는 선택 대상 객체에 포인터의 위치에 따라 부여되는 시각효과의 일례를 나타낸다.

도 10에서는 도 9a의 가정과 유사하게 + 방향의 3D 깊이가 부여된 레이어에 복수의 선택 대상 객체가 배치되는 경우를 가정하나, 이동 단말기의 본체의 도시는 생략하기로 한다.

도 10의 (a)를 참조하면, 제어부(180)는 복수의 선택 대상 객체가 배치된 레이어(1010)에 대하여, 현재 감지된 포인터(1020)의 위치에 대응되는 선택 대상 객체(1011)를 소정 비율 확대시켜 표시할 수 있다. 이때, 도 10의 (b)와 같이 포인터가 우측으로 이동하면, 제어부(180)는 이를 감지하고 이전에 확대된 선택 대상 객체(1011)의 우측에 존재하는 선택 대상 객체(1012)를 확대시킬 수 있다. 이때, 확대 효과 대신 도 10의 (c)와 같이 감지된 포인터의 위치에 대응되는 선택 대상 객체(1012)에 부여되는 3D 깊이를 변경하여 레이어(1010) 자체보다 더 튀어나와 보이도록 할 수도 있다(1020').

한편, 선택 대상 객체 또는 그가 표시되는 레이어가 보다 입체적으로 구성될 수도 있으며, 이러한 경우 시각효과도 그에 대응되도록 변형될 수 있다. 이를 도 11을 참조하여 설명한다.

도 11은 본 발명의 일 실시예에 따른 선택 대상 객체의 배치 형태에 따라 시각효과가 표시되는 일례를 나타낸다.

도 11에서도 도 10과 유사하게 이동 단말기 본체의 도시는 생략하며, 큐브 형태의 선택 대상 객체들(1110, 1120) 각각에 서로 다른 + 방향의 3D 깊이 값이 부여되는 것을 가정하며, 포인터 위치의 시각적 피드백을 위한 효과는 그림자인 것으로 가정한다.

먼저 도 11의 (a)를 참조하면, 제어부(180)는 감지된 포인터의 위치를 판단하고, 그에 따라 좌측 큐브(1110) 중앙에 그림자 효과를 표시한다. 이때, 도 11의 (b) 및 (c)와 같이 포인터가 점점 우측으로 이동하는 경우, 사용자에게 선택 대상 객체의 입체감을 주기 위하여 그림자(1130', 1130")는 선택 대상 객체들의 굴곡 배치상태에 따라 그 형태가 변경될 수 있다.

한편, 크기와 진하기가 거리에 따라 변경되는 그림자 효과대신, 커서의 형태가 포인터의 거리에 따라 바뀌도록 할 수도 있다. 이를 도 12를 참조하여 설명한다.

도 12는 본 발명의 일 실시예에 따른 선택 대상 객체와 포인터의 거리에 따라 커서의 형태가 변경되는 일례를 나타낸다.

도 12의 (a)와 (b)에서 제어부(180)는 포인터의 상하/좌우 이동에 대하여 손가락 모양의 커서(1210)를 선택 대상 객체가 배치된 레이어 상으로 이동시킬 수 있다. 이때 손가락 모양의 커서는, 포인터가 이동 단말기 본체 또는 선택 대상 객체를 포함하는 레이어와의 거리가 가까워질 수록 그 형태가 변경될 수 있다. 예를 들어, 도 12의 (a)에서는 포인터가 다가갈 수록 손가락이 10시 방향에서 12시 방향으로 변경되고, 도 12의 (b)에서는 포인터가 다가갈 수록 구부린 검지 손가락이 점점 펴지도록 하여 사용자에게 포인터의 거리를 시각적으로 피드백할 수 있다. 또한, 도 12의 (c)에서와 같이 제어부(180)는 포인터(1230)가 이동 단말기 본체 또는 선택 대상 객체를 포함하는 레이어와의 거리가 일정 거리 이내가 되면 포인터의 위치에 대응하여 반투명 막(1220)을 3D 입체영상으로 디스플레이하고, 포인터가 더 가까워지면 포인터가 막을 누른 것과 같이 구부러지도록 하며(1220'), 그보다 더 가까워지면 막이 찢어지는 효과(1220")를 3D 입체영상으로 표시할 수 있다. 도 12의 각 예시들에서 가장 우측의 시각효과는 선택 대상 객체가 선택됨, 즉, 선택 대상 객체에 부여된 기능이 실행됨을 나타내기 위한 시각효과로 사용될 수도 있다.

한편, 본 실시예에 따른 시각효과로 선택 대상 객체 자체가 움직이도록 할 수도 있다. 이를 도 13을 참조하여 설명한다.

도 13은 본 발명의 일 실시예에 따른 선택 대상 객체와 포인터의 거리에 따라 선택 대상 객체의 배치형태가 변경되는 일례를 나타낸다.

도 13에서도 도 11과 유사하게 이동 단말기 본체의 도시는 생략하며, 큐브 형태의 선택 대상 객체들(1310, 1320) 각각에 서로 다른 + 방향의 3D 깊이 값이 부여되는 것을 가정한다. 이때, 사용자가 도 13의 (a)와 같이 포인터(1330)를 좌측 객체(1310)에 접근시킴에 따라, 도 13의 (b)와 같이 포인터 정면에 위치한 객체(1310)만이 후방으로 밀리는 시각효과가 표시될 수 있다.

도면을 참조하여 상술한 시각효과 외에도, 제어부(180)에 의해 포인터가 가리키는 것으로 판단된 객체의 주변 객체들이 엷게 아웃포커스 되는 방법, 조그 셔틀 같은 객체의 경우 객체 주변에 돌리는 방향에 대한 정보(화살표 등) 표기하는 방법, 디스플레이부의 일 영역에 판단된 포인터의 (x,y,z) 좌표를 표시하는 방법 등도 적용될 수 있다.

상술한 시각효과는 단독으로 적용될 수도 있고, 둘 이상의 효과가 동시에 적용될 수 있음은 당업자에 자명하다. 예를 들어, 포인터의 위치에 따라 그림자 효과와 선택 대상 객체 확대 효과가 함께 표시될 수도 있다.

한편, 선택 대상 객체로부터 포인터가 일정 거리 내에 들어올 때 해당 객체가 선택되도록 하는 방법 외에도, 미리 서로 다른 기능의 커서를 사용자가 선택하도록 하고, 해당 커서를 이동시켜 특정 명령을 입력하는 방법도 사용될 수 있다. 이를 도 14를 참조하여 설명한다.

도 14는 본 발명의 일 실시예에 따른 선택 대상 객체와 포인터의 거리에 따라 선택 대상 객체의 배치형태가 변경되는 일례를 나타낸다.

도 14를 참조하면, 복수의 선택 대상 객체들이 배치되며, + 방향의 3D 깊이가 부여된 레이어(1410)의 우측단에 네 종류의 커서들이 표시된다. 구체적으로, 실행 및 선택을 위한 한 손가락 커서(1421), 드래그 & 드롭을 위한 두 손가락 커서(1423), 도움말 기능을 위한 물음표 커서(1425) 및 확대를 위한 돋보기 커서(1427)가 제공된다. 제어부(180)는 사용자가 특정 커서 상에 포인터를 일정 거리 이내로 가까이 하거나, 해당 커서 상에 포인터를 일정 시간 머물도록 하면, 해당 커서를 활성화시킨다. 그에 따라 선택된 커서가 포인터의 움직임에 따라 레이어(1410) 상에서 움직일 수 있다.

전술된 시각효과들은 아래와 같은 상황에서 특히 유용할 수 있다.

1) 3 차원 가상 공간 상에서 진행되는 게임, 예를 들어 테니스 게임의 경우, 포인터로 라켓을 대신할 때 3D 입체영상으로 다가오는 것으로 보이는 공이 라켓에 맞을지 여부를 알 수 있다.

2) 가상공간 속에서 복수의 면(facet)을 포함하는 메뉴가 제공될 때 선택의 정확도가 향상될 수 있다. 예를 들어, 직육면체의 3D공간 상에서 앞면뿐 아니라 바닥과 전면에도 메뉴를 제공할 수 있으며, 바닥을 따라 움직이는 그림자와 벽면을 타고 움직이는 그림자는 그 형태가 다르므로 그림자의 움직임은 가상 공간 상에서 제공되는 메뉴를 정확하게 선택하도록 사용자에게 피드백을 제공할 수 있다.

3) 현재 모든 사이트가 모바일용 웹페이지를 제공하는 것은 아니기 때문에 PC버전 웹페이지를 이동 단말기에서 브라우징 할 때에 버튼/하이퍼링크가 정확히 포인터 터치 입력으로 선택되지 않는 경우가 빈번하다. 이 때 사용자는 정확한 터치를 위해서 화면을 확대한 후에 버튼/하이퍼링크를 누르게 되는데, 상술한 시각효과를 적용하여 그림자나 객체 하이라이트를 활용할 경우에는 사용자 스스로가 클릭할 버튼/하이퍼링크를 미리 예측할 수 있기 때문에 미스클릭을 방지할 수 있는 효과가 있다.

4) 텍스트 편집을 위한 윈도우에 가상 키패드 등을 이용한 타자 중, 오타 수정을 위해 특정 위치로 커서를 옮기고자 하는 경우에도 정확한 커서 이동을 위해서 상술한 시각효과가 사용될 수 있다.

다중 레이어 사용자 인터페이스

이하에서는, 본 발명의 다른 실시예에 따른 멀티레이어 사용자 인터페이스가 개시된다. 본 발명의 다른 실시예에 의하면, 서로 다른 3D 깊이를 부여한 복수의 레이어를 적층식으로 배치한 사용자 인터페이스를 디스플레이부를 통하여 3D 입체영상으로 표시할 것을 제안한다.

여기서 각각의 레이어에는 특정 메뉴의 상하위 페이지 또는 전/후 페이지가 동시에 표시되거나, 서로 다른 어플리케이션의 구동화면이 표시될 수 있다. 또한, 각각의 레이어는 포인터의 위치나 포인터의 터치 형태에 따라 활성화/비활성화되거나 투명도가 변경될 수 있다. 이를 위한 이동 단말기의 동작 과정을 도 15를 참조하여 설명한다.

도 15는 본 발명의 다른 실시예에 따른 사용자 인터페이스를 구동하기 위한 이동 단말기의 동작 과정의 일례를 나타내는 순서도이다.

도 15를 참조하면, 먼저 사용자로부터의 소정의 메뉴 조작 또는 어플리케이션의 실행 또는 기 설정된 조건에 따른 이벤트(예를 들어, 메시지 수신, 호 발생 또는 포인터를 통한 특정 터치/제스쳐 등)가 발생함에 따라 제어부(180)는 본 실시예에 따른 멀티레이어 사용자 인터페이스를 활성화시킨다(1510).

여기서 활성화시킨다고 함은, 상기 멀티레이어 사용자 인터페이스에 포함되는 복수의 레이어를 생성하고 3D 입체영상으로 디스플레이부를 통해 표시함을 의미한다.

이후, 제어부(180)는 본 발명의 일 실시예를 통해 전술된 방법들 중 적어도 하나를 통해 포인터의 위치 및/또는 상기 포인터를 통한 터치 패턴을 판단한다(1520). 여기서 터치 패턴이라 함은, 접촉/근접 터치여부 및 단순/멀티/드래그터치를 모두 포함하는 개념이다.

제어부(180)는 판단된 터치 패턴에 따라 해당 포인터의 움직임이 어떠한 레이어에 대응되는지를 판단한다(S1530).

이때, 제어부(180)는 판단된 레이어가 현재 또는 디폴트로 활성화된 레이어인 경우(S1540), 활성화된 레이어 상에서 판단된 터치 패턴에 대응되는 동작을 수행한다(S1550). 또는, 판단된 레이어가 현재 또는 디폴트로 활성화된 레이어가 아닌 경우, 제어부(180)는 판단된 레이어를 활성화시킨다(S1560).

여기서 레이어가 활성화된다고 함은, 해당 레이어에 대한 명령을 입력받을 준비가 완료됨을 의미할 수 있고, 활성화된 레이어가 활성화되지 않은 다른 레이어들에 의해 시각적으로 가려지지 않도록 다른 레이어들에 소정의 투명도가 부여될 수 있다. 이는 전술된 바와 같이 본 실시예에 따른 멀티 레이어 사용자 인터페이스는 복수의 레이어가 적층된 형태로 표시되기 때문에 활성화된 레이어 위에 비활성 레이어가 존재하는 경우, 비활성 레이어에 소정의 투명도가 부여되어야만(완전 투명 포함) 그 하부에 활성화된 레이어가 보일 수 있기 때문이다.

이하, 도 16a 및 도 16b를 참조하여 본 실시예에 따른 멀티 레이어 사용자 인터페이스의 구조 및 레이어 선택 방법을 설명한다.

도 16a는 본 발명의 다른 실시예에 따른 3개의 레이어를 포함하는 멀티 레이어 사용자 인터페이스 구성의 일례를 나타낸다.

도 16a에서는 본 실시예에 따른 멀티 레이어 사용자 인터페이스가 3개의 레이어로 구성되는 경우를 가정한다. 도 16a를 참조하면, 3개의 레이어 중 하나는 + 방향의 3D 깊이를 가지며(1610), 다른 하나는 제로(zero) 3D 깊이, 즉, 이동 단말기(100)의 디스플레이부(151)와 동일한 3D 깊이를 가지고(1620), 마지막 레이어는 - 방향의 3D 깊이를 가진다(1630). 여기서 + 방향의 3D 깊이는 이동 단말기(100)의 디스플레이부(151)를 기준으로, 사용자의 시점에서 디스플레이부 위에 떠올라 있는 것으로 보이는 3D 깊이를 의미하고, - 방향의 3D 깊이는 동일 기준으로 디스플레이부 아래로 내려와 있는 것으로 보이는 3D 깊이를 의미한다. 편의상, 이하의 설명들에서는 + 방향의 3D 깊이를 갖는 레이어(1610)를 "플러스 레이어", 제로 3D 깊이를 갖는 레이어(1620)를 "제로 레이어", - 방향의 3D 깊이를 갖는 레이어(1630)를 "마이너스 레이어"라 각각 칭한다.

플러스 레이어는 포인터를 통한 근접터치로 활성화되거나 조작될 수 있으며, + 방향의 3D 효과가 부여되어 입체적으로 표시될 수 있다. 또한, 본 레이어는 본 실시예에 따른 멀티 레이어 사용자 인터페이스가 활성화될 때 항상 표시될 수도 있고, 터치스크린으로부터 일정 범위 내에 포인터가 존재할 때에만 표시될 수도 있다. 또한, 포인터가 존재하는 거리에 따라 투명도가 변경될 수 있다. 아울러, 본 레이어는 필요에 따라 하위레이어의 팝업메뉴를 표시하기 위한 레이어로도 동작할 수 있다.

다음으로, 제로 레이어는 직접터치로 활성화되거나 조작될 수 있으며, 3D 깊이가 부여되지 않기 때문에 선명한 가독성이 확보될 수 있다. 본 레이어는 일반적으로 플러스 레이어의 하위 프레임이나 하위 페이지를 표시할 수 있으며, 터치스크린에 포인터가 가까이 올 수록 선명하게 표시될 수 있다.

상기와 같이 구성되는 멀티레이어 사용자 인터페이스에서 각 레이어를 선택하고 조작하는 방법을 도 16b를 참조하여 설명한다.

도 16b를 참조하면, 터치스크린이 구비되는 이동 단말기(100) 상면을 기준으로 제로 레이어는 d0 높이에 표시되고, 플러스 레이어는 d2 높이에 표시될 수 있다. 마이너스 레이어는 d0보다 아래에 위치할 수 있으나 도시되지는 않았다. 이때, d2 높이에 표시되는 플러스 레이어는 포인터가 d3~d2 높이 사이에 존재할 때 활성화될 수 있으며, 포인터가 특정 높이(예를 들어, d2) 아래로 내려가면 플러스 레이어는 점점 투명해지면서 제로 레이어가 선명해지면서 활성화될 수 있다. 플러스 레이어가 활성화된 후 플러스 레이어 상에 명령을 입력하기 위한 방법으로 근접 터치 입력이 있을 수 있다. 예를 들어, 포인터가 d2~d3 높이 사이로 진입하면 제어부는 플러스 레이어를 활성화시키고, 이후 해당 높이에서 포인터가 특정 제스쳐를 취하는 경우 제어부(180)는 이를 플러스 레이어를 조작하기 위한 명령으로 인식할 수 있다.

여기서 플러스 레이어에 대한 활성화 및 명령 입력을 인식하는 포인터의 거리 범위의 하한선은, 사용자가 제로 레이어에 포인터를 통한 터치 명령을 입력할 때 통상적으로 포인터가 머무르게 되는 높이가 고려되어 설정되는 것이 바람직하다. 이는 사용자가 제로 레이어를 조작하는 중에 플러스 레이어가 활성화되는 오작동을 방지하기 위함이다. 예를 들어, 플러스 레이어에 대한 활성화 및 명령 입력을 인식하는 포인터의 거리 범위 하한선이 너무 낮게 설정되면 포인터를 통한 접촉 터치 입력 순간 이외에, 입력 전후로도 포인터가 터치스크린에 인접하여 이동하는 경우까지 플러스 레이어가 활성화될 수 있는 문제점이 있다.

물론, 보다 명확한 명령 입력을 위해 하드웨어 키버튼을 이용하여, 특정 키버튼이 조작되는 중에만 플러스 레이어가 활성화되도록 하거나, 해당 키버튼 조작 중 입력되는 터치 입력만을 플러스 레이어에 대한 입력으로 인식하도록 할 수도 있다.

한편, 마이너스 레이어는 도 2b에서와 같이 이동 단말기(100) 뒷면에 터치 패널(135)이 존재할 때, 뒷면 터치 패널에 터치 입력이 감지될 때 활성화될 수 있으며, 마이너스 레이어가 활성화되면 플러스 레이어와 제로 레이어에는 소정의 투명도가 부여될 수 있다. 또한, 터치스크린(151)이 포인터의 터치 압력의 정도를 감지하는 감압식인 경우, 터치스크린에 일정 이상의 압력이 가해지면 마이너스 레이어가 활성화될 수도 있다.

이하의 설명들에서는 멀티 레이어 사용자 인터페이스가 도 16a를 참조하여 설명한 바와 같이 3개의 레이어를 포함하는 것으로 가정한다. 다만, 이는 예시적인 것으로 3개보다 더 많거나 더 적은 레이어를 포함할 수 있음은 물론, 3D 깊이가 서로 다른 둘 이상의 플러스 레이어나 둘 이상의 마이너스 레이어가 존재할 수 있음은 당업자에 자명하다. 아울러, 본 실시예에는 전술된 본 발명의 일 실시예에 따른 포인터의 움직임에 대응되는 시각효과가 각 레이어를 조작하기 위한 포인터의 움직임에 따라 표시될 수 있다.

<메신저에 적용>

이하에서는 상술한 멀티 레이어 사용자 인터페이스가 상하위 페이지 구조를 갖는 메신저 어플리케이션에 적용되는 경우를 설명한다.

도 17a는 본 발명의 다른 실시예에 따른 메신저 페이지 구조를 설명하기 위한 도면이다.

도 17a를 참조하면, 좌측에는 메신저 어플리케이션의 대화 상대 목록이 표시되는 상위 페이지(1710)가 도시되고, 우측에는 대화 상대 목록 중 어느 하나가 선택되었을 때 해당 상대와 주고받은 메시지가 표시되는 하위 페이지(1720)가 도시된다. 일반적인 메신저 어플리케이션에서는 상위 페이지(1710)에서 하위 페이지(1720)로 화면을 전환하기 위해서는 상위 페이지에서 특정 상대(1711)를 터치 입력 등을 통해 선택해야 했고, 반대로 전환하기 위해서는 하위 페이지에서 돌아가기 메뉴(1721)가 선택되어야 했다. 또한, 상위 페이지와 하위 페이지를 동시에 보기 어려웠으며, 다른 상대와의 주고받은 메시지를 확인하기 위해서는 상위 페이지를 다시 호출하여 상대방을 선택해야 했다.

이러한 불편함을 해소하기 위한 본 실시예에 따른 멀티 레이어 사용자 인터페이스가 적용된 메신저 어플리케이션을 도 17b 및 도 17c를 참조하여 설명한다.

도 17b는 본 발명의 다른 실시예에 따른 멀티 레이어 사용자 인터페이스가 적용된 메신저에서 상위 페이지가 활성화된 경우를, 도 17c는 하위 페이지가 활성화된 경우를 나타낸다. 나타낸다. 도 17b를 참조하면, 도 17a의 상위 페이지(1710)는 플러스 레이어에, 하위 페이지(1720)는 제로 레이어에 각각 할당되어 적층된 상태로 표시된다. 이때, 디폴트 설정에 따라, 또는 포인터의 위치에 따라 플러스 레이어가 활성화되면 상위 페이지는 불투명하게 표시되고, 하위 페이지(1720)는 상위 페이지에 의해 가려질 수 있다. 여기서 사용자가 특정 사용자 목록(1711)에 포인터를 위치 시킨 후(즉, 근접 터치), 포인터를 점점 터치스크린으로 접근시킴에 따라 도 17c와 같이 근접 터치된 사용자 목록에 대응하는 대화 목록이 표시되는 하위 페이지(1720)가 활성화됨과 동시에, 상위 페이지(1710)가 점차 투명해질 수 있다.

이후, 사용자는 포인터를 다시 일정 높이 이상(즉, 플러스 레이어를 선택/조작하기 위한 범위)으로 이동시키는 것만으로 다시 상위 페이지(1710)로 돌아갈 수 있다. 또한, 상위 페이지에서 다른 사용자 목록에 근접터치 후 포인터를 터치스크린에 근접시키는 방법으로 제로 레이어에 다른 사용자와 주고받은 메시지를 포함하는 하위 페이지가 표시되도록 할 수 있다.

<바로가기 아이콘 생성, 위젯의 활성화 및 업데이트 확인>

이하에서는 상술한 멀티 레이어 사용자 인터페이스가 위젯과 메인 메뉴에 적용되는 경우를 도 18을 참조하여 설명한다.

도 18은 본 발명의 다른 실시예에 따른 위젯 실행 방법의 일례를 나타내는 도면이다.

도 18에서는 제로 레이어에 이동 단말기에 설치된 어플리케이션에 대한 바로가기를 제공하는 아이콘들을 포함하는 메인 메뉴(1810)가 표시되는 경우를 가정한다. 이때, 바탕 화면에 위젯을 제공하는 어플리케이션에 대응되는 아이콘(1811) 상에 일정 정도 이상의 압력 터치가 터치스크린을 통해 입력되면, 제로 레이어가 투명해지면서 선택된 어플리케이션이 제공하는 위젯이 배치된 바탕 화면(1820)이 표시되는 마이너스 레이어가 활성화된다. 마이너스 레이어가 활성화된 후에는, 이동 단말기 후면에 터치패드(135)가 구비된 경우 후면의 터치패드에 터치 입력을 가하는 방법으로 바탕화면(1820)의 조작이 가능하다.

만일, 메인 메뉴(1810)에서 위젯을 제공하지 않는 아이콘이 압력터치를 통해 선택된 경우, 해당 어플리케이션의 바로가기 아이콘이 마이너스 레이어를 통해 표시되는 바탕화면(1820)에 표시될 수 있다. 또한, 도시되지는 않았으나, 압력터치가 아닌 롱터치를 통해 메인 메뉴에서 특정 아이콘이 선택되면, 플러스 레이어가 활성화되면서 그 위에 표시되는 바탕화면에 해당 아이콘의 바로가기가 설정될 수도 있다. 아울러, 메인 메뉴(1810)에서 업데이트가 있음을 나타내는 SNS 어플리케이션 아이콘이 압력터치를 통해 선택된 경우, 마이너스 레이어가 활성화되면서 그 위에 업데이트된 SNS 페이지가 표시될 수도 있다.

<복수의 메뉴 깊이(depth)를 갖는 설정 메뉴>

이하에서는 상술한 멀티 레이어 사용자 인터페이스가 복수의 메뉴 깊이를 갖는 설정 메뉴에 적용되는 경우를 도 19a 및 도 19b를 참조하여 설명한다.

도 19a 및 도 19b는 본 발명의 다른 실시예에 따른 3단계의 메뉴 깊이를 갖는 설정 메뉴 실행 방법의 일례를 각각 나타내는 도면이다.

도 19a를 참조하면, 플러스 레이어에는 설정 메뉴의 최상위 페이지(1910)가 할당되고, 제로 레이어에는 최상위 페이지의 특정 항목의 하위 항목 페이지(1920)가 할당되며, 마이너스 레이어에는 하위 항목 페이지의 특정 메뉴의 하위 페이지인 최하위 항목 페이지(1930)가 할당된다.

구체적으로, 도 19a와 같이 3개의 레이어 각각에 모두 페이지가 할당된 상태는, 디폴트 설정에 따를 수도 있고 이전 설정 메뉴 호출시 마지막으로 확인/변경한 항목에 관련된 페이지들로 구성될 수도 있다. 또는, 설정 메뉴 호출시에는 최상위 페이지(1910)만 제로 레이어에 표시될 수 있다. 여기서 최상위 페이지에서 특정 항목이 선택됨에 따라 최상위 페이지가 플러스 레이어로 반투명화 되면서 이동하고, 선택된 항목에 대응되는 하위 항목 페이지(1920)가 제로 레이어에 표시될 수 있다. 이때, 하위 항목 페이지에서 특정 항목이 선택되면 하위 항목 페이지가 반투명화되면서 선택된 항목에 대응되는 최하위 항목 페이지(1930)가 마이너스 레이어에 표시될 수도 있다. 세 레이어 각각에 페이지들이 설정된 이후에는 상술한 포인터의 위치(근접터치, 접촉터치, 후면 터치 등)에 따라 활성화되는 레이어가 결정될 수 있다. 그 일례로, 19b에서는 포인터가 제로 레이어 상에 위치함에 따라 제로 레이어(1920)가 활성화된 것으로 도시된다.

<멀티태스킹>

한편, 도 20과 같이 본 실시예에 따른 멀티 레이어 사용자 인터페이스는 멀티 태스킹에도 적용될 수 있다.

도 20은 본 발명의 다른 실시예에 따른 멀티 레이어 사용자 인터페이스를 통해 멀티태스킹이 수행되는 형태의 일례를 나타내는 도면이다.

도 20을 참조하면, 플러스 레이어에 이미지 뷰어 어플리케이션(2010)이 할당되고, 마이너스 레이어에 메신저 어플리케이션(2020)이 할당된다. 각 어플리케이션은 전술된 바와 같이 포인터의 위치에 따라 활성화될 수 있으며, 이미지 뷰어 어플리케이션(2010)은 포인터를 통한 근접 터치를 통해 조작될 수 있고, 메신저 어플리케이션(2020)은 터치스크린을 통한 접촉 터치 입력을 통해 조작될 수 있다.

한편, 본 실시예의 다른 양상에 의하면, 하나의 페이지에 존재하는 서브메뉴를 분리하여 다른 레이어에 위치시킴으로써 표시공간을 추가로 확보할 수도 있다. 이를 도 21을 참조하여 설명한다.

도 21은 본 발명의 다른 실시예의 다른 양상에 따른 서브 메뉴 분리 방법의 일례를 나타낸다.

도 21의 (a)를 참조하면, 메신저의 상위 페이지가 제로 레이어에 표시된다. 구체적으로, 상단 영역(2110)에는 이동 단말기의 다양한 동작 상태를 나타내는 인디케이터 영역과 어플리케이션 상단 바가 표시되고, 하단 영역(2120)에는 메신저 어플리케이션의 기능 탭을 표시하는 하단 바가 표시되며, 중단 영역(2130)에는 대화 상대 목록이 표시된다. 이때, 특정 하드웨어 키버튼이 조작되거나 포인터가 플러스 레이어를 조작하기 위한 높이로 올라가면, 도 21의 (b)와 같이 플러스 레이어(2140)가 활성화되면서 상단 영역 및 하단 영역이 플러스 레이어로 이동한다. 상단 영역과 하단 영역이 제거됨에 따라 제로 레이어의 중단 영역이 확장되어(2130') 도 21의 (a)의 경우보다 더 많은 대화 상대 항목들이 표시될 수 있다.

도시되지는 않았으나, 이후 제로 레이어에 표시되는 대화 상대 항목 중 특정 상대가 압력 터치로 선택되면, 마이너스 레이어가 활성화되면서 그 위에 선택된 대화 상대와 주고받은 메시지 내역을 포함하는 하위 페이지가 표시될 수 있다.

또한, 본 발명의 일실시예에 의하면, 전술한 방법은, 프로그램이 기록된 매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다.

상기와 같이 설명된 이동 단말기 및 그 제어방법은 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.

Claims (17)

1. 시차 생성수단을 포함하되, 미리 결정된 3차원 깊이가 부여된 적어도 하나의 선택 대상 객체를 표시하는 터치스크린;
   이동 단말기에 대한 포인터의 거리 및 위치를 감지하기 위한 감지부; 및
   상기 감지된 포인터의 위치 및 거리를 근거로 기 설정된 시각 효과가 상기 터치스크린 상에 표시되도록 제어하고, 상기 포인터의 거리가 제 1 임계값 이하이며 상기 포인터의 위치에 특정 선택 대상 객체가 존재하는 경우 상기 특정 선택 대상 객체에 해당하는 기능을 실행하는 제어부;를 포함하고,
   상기 특정 선택 대상 객체는, 제 1 3차원 깊이를 가지는 제 1 레이어 상에 표시되고,
   상기 제어부는,
   상기 포인터와 상기 제 1 레이어와의 거리가 기 설정된 거리 이내가 되면, 제 2 3차원 깊이를 가지는 반투명 레이어가 표시되도록 제어하고,
   상기 포인터와 상기 반투명 레이어 간의 거리가 제 1 거리만큼 근접되면, 상기 포인터가 상기 반투명 레이어를 눌러서 상기 반투명 레이어가 구부러지는 형상으로 표시되도록 제어하고,
   상기 포인터와 상기 반투명 레이어 간의 거리가 상기 제 1 거리보다 더욱 근접한 제 2 거리만큼 근접되면, 상기 반투명 레이어가 찢어지는 형상으로 표시되도록 제어하며,
   상기 시각 효과는,
   입체 공간상의 일 지점에 위치한 가상 광원과, 상기 포인터 및 상기 터치스크린을 직선으로 잇는 연장선 상에서 현재 활성화된 레이어의 3D 깊이로 표시되는 그림자 효과를 포함하고,
   상기 제어부는,
   상기 포인터가 가로 방향으로 움직일 때, 상기 그림자의 형상이 상기 현재 활성화된 레이어 내의 선택 대상 3D 객체의 굴곡 배치 상태에 따라 변경되도록 제어하는, 이동 단말기.
2. 제 1항에 있어서,
   상기 이동 단말기에 대한 포인터의 거리는, 상기 포인터와 상기 이동 단말기의 수직 거리를 포함하고,
   상기 이동 단말기에 대한 포인터의 위치는, 상기 터치스크린과 평행한 평면 상에서의 좌표를 포함하는, 이동 단말기.
3. 제 1항에 있어서,
   상기 감지부는,
   상기 포인터를 포함한 영상을 촬영하는 카메라 및 상기 포인터와의 거리를 측정하는 적어도 하나의 근접 센서를 포함하는, 이동 단말기.
4. 제 1항에 있어서,
   상기 특정 선택 대상 객체에 해당하는 기능은,
   상기 특정 선택 대상 객체의 3D 깊이 변화, 상기 특정 선택 대상 객체의 이동 및 상기 특정 선택 대상 객체에 대응되는 어플리케이션의 실행을 포함하는, 이동 단말기.
5. 삭제
6. 제 1항에 있어서,
   상기 그림자 효과는,
   상기 감지된 포인터의 거리가 짧아질수록 진해지고, 멀어질수록 옅어지는, 이동 단말기.
7. 제 1항에 있어서,
   상기 그림자 효과는,
   상기 감지된 포인터의 거리가 짧아질수록 작아지고, 멀어질수록 커지는, 이동 단말기.
8. 제 1항에 있어서,
   상기 그림자 효과는,
   상기 감지된 포인터의 거리가 짧아질수록 상기 포인터의 위치에 가까이 표시되고, 멀어질수록 상기 포인터의 위치에 이격되어 표시되는, 이동 단말기.
9. 삭제
10. 제 1항에 있어서,
    상기 제어부는,
    상기 이동 단말기에 대한 포인터의 거리가 제 1 임계값보다 크고, 상기 감지부의 최대 감지 가능 거리보다 적은 제 2 임계값 이내인 경우에만 상기 시각효과가 표시되도록 제어하는, 이동 단말기.
11. 제 1항에 있어서,
    상기 시각효과는, 미리 결정된 형상의 커서를 포함하고,
    상기 제어부는,
    상기 포인터의 거리에 따라 상기 커서를 회전시키거나 상기 커서를 변형시키는, 이동 단말기.
12. 삭제
13. 삭제
14. 삭제
15. 삭제
16. 삭제
17. 삭제

Images