[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

KR102355118B1 - 전자 장치 및 가상 현실 모드에서의 이벤트 표시 방법 - Google Patents

전자 장치 및 가상 현실 모드에서의 이벤트 표시 방법 Download PDF

Info

Publication number
KR102355118B1
KR102355118B1 KR1020150000892A KR20150000892A KR102355118B1 KR 102355118 B1 KR102355118 B1 KR 102355118B1 KR 1020150000892 A KR1020150000892 A KR 1020150000892A KR 20150000892 A KR20150000892 A KR 20150000892A KR 102355118 B1 KR102355118 B1 KR 102355118B1
Authority
KR
South Korea
Prior art keywords
event
virtual reality
electronic device
reality mode
screen
Prior art date
Application number
KR1020150000892A
Other languages
English (en)
Other versions
KR20150082120A (ko
Inventor
윤영성
강상원
이진구
최성훈
최우석
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to CN201580003868.XA priority Critical patent/CN105900051B/zh
Priority to EP15733319.6A priority patent/EP3093743B1/en
Priority to PCT/KR2015/000097 priority patent/WO2015102464A1/ko
Priority to US15/109,558 priority patent/US10431004B2/en
Publication of KR20150082120A publication Critical patent/KR20150082120A/ko
Application granted granted Critical
Publication of KR102355118B1 publication Critical patent/KR102355118B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842—Selection of displayed objects or displayed text elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003—Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • G09G5/006—Details of the interface to the display terminal
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/21—Monitoring or handling of messages
    • H04L51/224—Monitoring or handling of messages providing notification on incoming messages, e.g. pushed notifications of received messages
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30—Image reproducers
    • H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0132—Head-up displays characterised by optical features comprising binocular systems
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0132—Head-up displays characterised by optical features comprising binocular systems
    • G02B2027/0136—Head-up displays characterised by optical features comprising binocular systems with a single image source for both eyes
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00—Indexing scheme for image data processing or generation, in general
    • G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00—Aspects of data communication
    • G09G2370/16—Use of wireless transmission of display information
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/21—Monitoring or handling of messages
    • H04L51/214—Monitoring or handling of messages using selective forwarding

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Optics & Photonics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명의 다양한 실시 예들은, 가상 현실 모드에 대응하는 화면을 표시하는 표시부; 및 적어도 하나의 이벤트 발생에 따른 인터럽트를 감지하고, 상기 발생한 이벤트와 관련된 이벤트 관련 정보를 상기 가상 현실 모드에 대응하는 형태로 변경하며, 상기 변경된 이벤트 관련 정보가 상기 가상 현실 모드에 대응하여 실행되는 화면상에 표시되도록 제어하는 제어부;를 포함할 수 있다.
또한, 본 발명의 다양한 실시 예들은 다른 실시 예들이 가능할 수 있다.

Description

전자 장치 및 가상 현실 모드에서의 이벤트 표시 방법{ELECTRONIC DEVICE, AND METHOD FOR DISPLAYING AN EVENT ON A VIRTUAL REALITY MODE}
본 발명의 다양한 실시 예들은 전자 장치 및 가상 현실 모드에서의 이벤트 표시 방법에 관한 것이다.
일반적으로 가상 현실(virtual reality; VR)이란 실제와 유사한 환경을 갖는 컴퓨터 그래픽으로 만들어진 환경 또는 상황을 말하며, 사람의 감각 기관을 통해 느끼게 하고, 실제로 상호작용하고 있는 것처럼 만들어주는 인터페이스를 의미한다. 사용자는 디바이스의 조작을 통하여 가상 현실과 실시간 상호 작용할 수 있고, 실제와 유사한 감각적 체험을 할 수 있다.
그리고, 증강 현실(augmented reality; AR)은 가상 현실의 한 분야로서 실제 환경에 가상의 사물이나 정보를 합성하여 원래의 환경에 존재하는 사물처럼 보이도록 하는 컴퓨터 그래픽 기법이다. 이러한, 증강 현실은 사용자가 눈으로 보는 현실 세계에 가상 물체를 겹쳐 보여주는 기술로서, 현실 세계에 실시간으로 부가 정보와 가상 세계를 합쳐 하나의 영상으로 보여주므로 혼합 현실(mixed reality, MR)이라고도 한다.
또한, 가상 현실 기술은 모바일 기기(예컨대, 스마트폰, 태블릿 PC 등)가 일반화됨에 따라 교육, 게임, 내비게이션, 광고, 또는 블로그와 같은 다양한 서비스에서도 자주, 쉽게 접할 수 있게 되었다. 최근 신체에 착용 가능한 웨어러블 장치(wearable device)가 상용화됨에 따라 가상 현실 기술에 관한 연구가 더욱 활발해지고 있다.
예컨대, 상기 웨어러블 장치는 머리 장착형, 안경형, 시계형, 밴드형, 콘텍트 렌즈형, 반지형, 신발형, 의복형 등 인체 및 의복에 탈부착 가능한 다양한 형태로 제공되고 있다. 상기 웨어러블 장치는 전자 장치를 옷이나 안경 등과 같이 신체에 착용할 수 있도록 함으로써 휴대성 및 접근성을 증대시킬 수 있다.
신체에 착용할 수 있는 전자 장치의 형태들 중 예컨대 HMD(head mounted display)와 같은 머리 장착형 웨어러블 장치가 많이 개발되고 있다. HMD는 증강 현실(argumented reality, AR)을 제공하는 시스루(see-through) 형태와 가상 현실(virtual reality, VR)을 제공하는 시클로즈드(see-closed) 형태로 영상을 제공할 수 있다.
시스루 형태는 반투과성 렌즈의 특성을 이용해 현실 세계의 기반 위에 가상의 대상 또는 사물을 합성 및 결합하여 현실 세계만으로 얻기 어려운 부가적인 정보들을 보강해 줄 수 있다. 시클로즈드 형태는 두 개의 디스플레이가 눈 앞에 놓여진 형태로서, 외부 입력을 통해 제공되는 콘텐츠(게임, 영화, 스트리밍, 방송 등)를 독립된 화면에서 홀로 감상할 수 있어 뛰어난 몰입감을 제공할 수 있다.
현존하는 기술에 따르면, 예컨대, 전자 장치(예컨대, 휴대폰) 등에서 가상 현실 모드(virtual reality mode)로 동작하는 중 특정 이벤트(event)에 의한 인터럽트(interrupt)가 발생할 경우, 상기 이벤트에 대한 애플리케이션이 상기 가상 현실 모드 동작과는 별개로 실행됨으로써 가상 현실 모드에 따른 화면 표시를 방해하는 문제가 있었다.
또한, 가상 현실 모드로 동작하는 중 상기 인터럽트가 발생할 경우, 상기 이벤트에 대한 통지를 별도의 화면으로 표시하거나, 가상 현실 모드 화면상에서 2차원적으로 표시함으로써 가상 현실 화면과의 이질감을 느끼게 하는 불편함이 있었다.
이를 해결하기 위해, 본 발명의 다양한 실시 예에 따라, 가상 현실 모드로 동작하는 중 이벤트가 발생하면 발생된 이벤트를 가공하여 가상 현실 모드에 맞게 표시할 수 있는 전자 장치 및 가상 현실 모드에서의 이벤트 표시 방법을 제공할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라, 가상 현실 모드로 동작하는 중 이벤트가 발생하면 발생된 이벤트에 대한 통지 방법을 일반 모드와는 상이한 방법으로 가상 현실 화면을 통해 표시할 수 있는 전자 장치 및 가상 현실 모드에서의 이벤트 표시 방법을 제공할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라, 가상 현실 모드로 동작하는 중 이벤트가 발생하면 기존의 운영 시스템(operating system)에 의해 실행되는 상기 이벤트와 관련된 애플리케이션의 실행을 차단시키고, 발생된 이벤트를 가공하여 가상 현실 모드에 맞게 표시할 수 있는 전자 장치 및 가상 현실 모드에서의 이벤트 표시 방법을 제공할 수 있다.
전술한 과제 또는 다른 과제를 해결하기 위한, 한 실시 예에 따른 전자 장치는, 가상 현실 모드에 대응하는 화면을 표시하는 표시부; 및 적어도 하나의 이벤트 발생에 따른 인터럽트를 감지하고, 상기 발생한 이벤트와 관련된 이벤트 관련 정보를 상기 가상 현실 모드에 대응하는 형태로 변경하며, 상기 변경된 이벤트 관련 정보가 상기 가상 현실 모드에 대응하여 실행되는 화면상에 표시되도록 제어하는 제어부;를 포함할 수 있다.
또한, 다양한 실시 예 중 어느 하나에 따른 가상 현실 모드에서의 이벤트 표시 방법은, 전자 장치에서 가상 현실 모드를 실행하는 동작; 적어도 하나의 이벤트 발생에 의한 인터럽트를 감지하는 동작; 상기 발생한 이벤트와 관련된 이벤트 관련 정보를 상기 가상 현실 모드에 대응하는 형태로 변경하는 동작; 및 상기 변경된 이벤트 관련 정보를 상기 가상 현실 모드에 대응하여 실행되는 화면상에 표시하는 동작;을 포함할 수 있다.
다양한 실시 예에 따른 전자 장치 및 가상 현실 모드에서의 이벤트 표시 방법은 가상 현실 모드로 동작하는 중 특정 이벤트(event)에 의한 인터럽트(interrupt)가 발생할 경우, 가상 현실 모드에서 상기 이벤트와 관련된 애플리케이션의 실행을 차단시키고, 상기 가상 현실 모드에 적합한 형태로 가공하여 이벤트를 통지함으로써 가상 현실 모드에서의 알림을 사용자에게 효율적으로 표시할 수 있다.
또한, 본 발명의 다양한 실시 예에 따르면, 가상 현실 모드로 동작하는 중 특정 이벤트(event)에 의한 인터럽트(interrupt)가 발생할 경우, 전자 장치의 성능에 최대한 영향을 줄이면서, 가상 현실 모드상에서 이벤트를 효율적으로 통지할 수 있다.
도 1은 본 발명의 일 실시 예에 따른 네트워크 환경을 나타내는 도면이다.
도 2는 본 발명의 다양한 실시 예에 따른 전자 장치의 구성 예를 나타내는 도면이다.
도 3은 본 발명의 다양한 실시 예에 따른 프로그램 모듈의 블록도이다.
도 4는 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서의 이벤트 표시 절차를 나타내는 흐름도이다.
도 5a는 본 발명의 다양한 실시 예에 따른 웨어러블 장치에 전자 장치가 장착되는 예를 도시한 도면이다.
도 5b는 본 발명의 다양한 실시 예에 따른 웨어러블 장치에 전자 장치가 장착되는 예를 도시한 도면이다.
도 6은 본 발명의 다양한 실시 예에 따라 전자 장치가 장착된 웨어러블 장치를 사용자가 착용한 예를 도시한 도면이다.
도 7은 본 발명의 다양한 실시 예에 따른 전자 장치의 화면 모드를 도시한 도면이다.
도 8은 일반 모드에서의 이벤트 표시 방법을 나타내는 화면 예이다.
도 9는 가상 현실 모드에서의 이벤트 표시 방법을 나타내는 화면 예이다.
도 10은 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서의 이벤트 표시 방법을 나타내는 화면 예이다.
도 11은 본 발명의 다양한 실시 예에 따른 제어부의 세부 구조를 나타내는 블록도이다.
도 12는 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서의 이벤트 표시 절차를 나타내는 흐름도이다.
도 13은 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서 이벤트를 표시하는 화면의 예를 나타내는 도면이다.
도 14는 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서 이벤트를 표시하는 화면의 예를 나타내는 도면이다.
도 15는 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서 이벤트를 표시하는 화면의 예를 나타내는 도면이다.
도 16은 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서 이벤트를 표시하는 화면의 예를 나타내는 도면이다.
도 17은 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서 이벤트를 표시하는 화면의 예를 나타내는 도면이다.
도 18은 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서 이벤트를 표시하는 화면의 예를 나타내는 도면이다.
도 19는 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서 이벤트를 표시하는 화면의 예를 나타내는 도면이다.
도 20은 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서 이벤트를 표시하는 화면의 예를 나타내는 도면이다.
도 21은 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서 이벤트를 표시하는 화면의 예를 나타내는 도면이다.
도 22는 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서 이벤트를 표시하는 화면의 예를 나타내는 도면이다.
도 23은 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서 이벤트를 표시하는 화면의 예를 나타내는 도면이다.
도 24는 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서 이벤트를 표시하는 화면의 예를 나타내는 도면이다.
도 25는 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서 이벤트를 표시하는 화면의 예를 나타내는 도면이다.
도 26은 본 발명의 실시 예에 따른 전자 장치의 세부 구조를 나타내는 블록도이다.
도 27은 본 발명의 다양한 실시 예에 따른 프로그램 모듈의 블록도이다.
도 28은 본 발명의 다양한 실시 예에 따른 웨어러블 장치의 구성 예를 도시한 블록도이다.
이하, 본 개시의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 개시를 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 개시의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다", "가질 수 있다", "포함한다", 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B", "A 또는/및 B 중 적어도 하나", 또는 "A 또는/및 B 중 하나 또는 그 이상" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B", " A 및 B 중 적어도 하나", 또는 " A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
다양한 실시 예에서 사용된 "제 1", "제 2", "첫째", 또는 "둘째" 등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 해당 구성요소들을 한정하지 않는다. 상기 표현들은 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 수 있다. 예를 들면, 제 1 사용자 기기와 제 2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 개시의 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제 3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)", "~하는 능력을 가지는(having the capacity to)", "~하도록 설계된(designed to)", "~하도록 변경된(adapted to)", "~하도록 만들어진(made to)", 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성(또는 설정)된"은 하드웨어적으로 "특별히 설계된(specifically designed to)" 것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성(또는 설정)된 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 개시의 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 일반적으로 사용되는 사전에 정의된 용어들은 관련 기술의 문맥상 갖는 의미와 동일 또는 유사한 의미를 갖는 것으로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 개시의 실시 예들을 배제하도록 해석될 수 없다.
본 개시의 다양한 실시 예들에 따른 전자 장치는, 예를 들면, 전자 장치는 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 화상 전화기, 전자북 리더기(e-book reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device)(예: 스마트 안경, 머리 착용형 장치(head-mounted-device(HMD)), 전자 의복, 전자 팔찌, 전자 목걸이, 전자 앱세서리(appcessory), 전자 문신, 스마트 미러, 또는 스마트 와치(smart watch))중 적어도 하나를 포함할 수 있다.
어떤 실시 예들에서, 전자 장치는 스마트 가전 제품(smart home appliance)일 수 있다. 스마트 가전 제품은, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), 홈 오토매이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSync™, 애플TV™, 또는 구글 TV™), 게임 콘솔(예: Xbox™, PlayStation™), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시 예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션(navigation) 장치, GPS 수신기(global positioning system receiver), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller’s machine), 상점의 POS(point of sales), 또는 사물 인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예에 따르면, 전자 장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시 예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 개시의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부 도면을 참조하여, 다양한 실시 예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1을 참조하여, 다양한 실시 예에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 상기 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 통신 인터페이스(170) 또는 이벤트 처리 모듈(180) 중 적어도 하나를 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(101)는, 상기 구성요소들 중 적어도 하나를 생략하거나 다른 구성 요소를 추가적으로 구비할 수 있다.
상기 버스(110)는, 예를 들면, 상기 구성요소들(120 내지 180)을 서로 연결하고, 상기 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
상기 프로세서(120)는, 중앙처리장치(central processing unit(CPU)), 애플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 상기 프로세서(120)는, 예를 들면, 상기 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
상기 메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 상기 메모리(130)는, 예를 들면, 상기 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시 예에 따르면, 상기 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 상기 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 애플리케이션 프로그래밍 인터페이스(application programming interface(API))(145), 및/또는 애플리케이션 프로그램(또는 "애플리케이션")(147) 등을 포함할 수 있다. 상기 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 체제(operating system(OS))라 불릴 수 있다.
상기 커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 애플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 상기 커널(141)은 상기 미들웨어(143), 상기 API(145), 또는 상기 애플리케이션 프로그램(147)에서 상기 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
상기 미들웨어(143)는, 예를 들면, 상기 API(145) 또는 상기 애플리케이션 프로그램(147)이 상기 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 상기 미들웨어(143)는 상기 애플리케이션 프로그램(147)으로부터 수신된 작업 요청들과 관련하여, 예를 들면, 상기 애플리케이션 프로그램(147) 중 적어도 하나의 애플리케이션에 상기 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 배정하는 등의 방법을 이용하여 작업 요청에 대한 제어(예: 스케쥴링 또는 로드 밸런싱)를 수행할 수 있다.
상기 API(145)는, 예를 들면, 상기 애플리케이션(147)이 상기 커널(141) 또는 상기 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 화상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.
상기 입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 상기 전자 장치(101)의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 상기 입출력 인터페이스(150)는 상기 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
상기 디스플레이(160)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템(microelectromechanical systems(MEMS)) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 상기 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)를 표시할 수 있다. 상기 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스처, 근접, 또는 호버링(hovering) 입력을 수신할 수 있다.
상기 통신 인터페이스(170)는, 예를 들면, 상기 전자 장치(101)와 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 상기 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162, 164)에 연결되어 상기 외부 장치(예: 제 2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.
상기 제1 외부 전자 장치(102) 또는 상기 제2 외부 전자 장치(104)는 웨어러블 장치 또는 전자 장치(101)가 장착될 수 있는 웨어러블 장치(예컨대, HMD(head mounted display) 등)일 수 있다. 상기 전자 장치(101)가 HMD 장치(예컨대, 상기 전자 장치(102))에 장착될 경우, 상기 전자 장치(101)는 상기 HMD 장치에 장착된 것을 감지하고, 가상 현실 모드(virtual reality mode)로 동작할 수 있다. 상기 전자 장치(101)가 상기 전자 장치(102)(예컨대 HMD 장치)에 장착될 경우, 상기 전자 장치(101)는 통신 인터페이스(170)를 통해 상기 전자 장치(102)와 통신할 수 있다. 또한, 상기 전자 장치(101)는 상기 전자 장치(102)와 별도의 네트워크를 통하지 않고 직접 연결되어 통신할 수도 있다.
상기 무선 통신은, 예를 들면, 셀룰러 통신 프로토콜로서, 예를 들면, LTE, LTE-A, CDMA, WCDMA, UMTS, WiBro, 또는 GSM 등 중 적어도 하나를 사용할 수 있다. 상기 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard 232), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 상기 네트워크(162)는 통신 네트워크(telecommunications network), 예를 들면, 컴퓨터 네트워크(computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화 망(telephone network) 중 적어도 하나를 포함할 수 있다.
상기 제 1 및 제 2 외부 전자 장치(102, 104) 각각은 상기 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 한 실시 예에 따르면, 상기 서버(106)는 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시 예에 따르면, 상기 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))에서 실행될 수 있다. 한 실시 예에 따르면, 상기 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 상기 전자 장치(101)는 상기 기능 또는 상기 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 상기 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 상기 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 상기 전자 장치(101)로 전달할 수 있다. 상기 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 상기 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
상기 도 1에서는 전자 장치(101)가 통신 인터페이스(170)를 구비하여 네트워크(162)를 통해 외부 전자 장치(104) 또는 서버(106) 등과 통신하는 것으로 도시되어 있으나, 본 발명의 다양한 실시 예에 따라 상기 전자 장치(101)는 별도의 통신 기능 없이 전자 장치(101)의 내에서 독립적으로 동작하도록 구현될 수도 있다.
일 실시 예에 따르면, 상기 서버(106)는 상기 전자 장치(101)에서 구현되는 동작(또는, 기능)들 중 적어도 하나의 동작(또는, 기능)을 수행함으로써, 상기 전자 장치(101)의 구동을 지원할 수 있다. 예를 들면, 상기 서버(106)는 상기 전자 장치(101)에 구현된 이벤트 처리 모듈(180)을 지원할 수 있는 이벤트 처리 서버 모듈(미도시)을 포함할 수 있다. 예컨대, 상기 이벤트 처리 서버 모듈은 상기 이벤트 처리 모듈(180)의 적어도 하나의 구성요소를 포함하여, 이벤트 처리 모듈(180)이 수행하는 동작(또는, 기능)들 중 적어도 하나의 동작을 수행(또는, 대행)할 수도 있다.
상기 이벤트 처리 모듈(180)은 다른 구성요소들(예컨대, 상기 프로세서(120), 상기 메모리(130), 상기 입출력 인터페이스(150), 또는 상기 통신 인터페이스(170) 등)로부터 획득된 정보 중 적어도 일부를 처리하고, 이를 다양한 방법으로 사용자에게 제공할 수 있다.
예를 들면, 상기 이벤트 처리 모듈(180)은 본 발명의 다양한 실시 예에 따라 상기 전자 장치(101)가 웨어러블 장치(예컨대, 전자 장치(102))에 장착되어 디스플레이 장치로 기능하고, 가상 현실 모드로 동작하는 중 발생하는 이벤트와 관련된 정보들을 가상 현실 모드에 맞게 가공하여 디스플레이하도록 동작할 수 있다. 또한, 상기 이벤트 처리 모듈(180)은 상기 가상 현실 모드로 동작하는 중 발생하는 이벤트가 애플리케이션의 실행과 관련된 이벤트일 경우, 상기 애플리케이션의 실행을 차단하거나 백그라운드로 동작하도록 처리할 수도 있다. 후술하는 도 2를 통하여 상기 이벤트 처리 모듈(180)과 관련된 추가적인 정보가 제공될 수 있다.
상기 도 1에서 이벤트 처리 모듈(180)은 프로세서(120)와 별도의 모듈로서 도시되어 있으나, 상기 이벤트 처리 모듈(180)의 적어도 일부는 프로세서(120) 또는 다른 적어도 하나의 모듈 내에 포함되어 구현될 수도 있으며, 상기 이벤트 처리 모듈(180)의 전체 기능이 도시된 프로세서(120) 또는 다른 프로세서 내에 포함되어 구현될 수도 있다. 또한, 상기 이벤트 처리 모듈(180)은 상기 메모리(130)에 저장된 적어도 하나의 프로그램(140)과 연동하여 본 발명의 다양한 실시 예들에 따른 동작들을 수행할 수 있다.
도 2는 본 발명의 일 실시 예에 따른 전자 장치의 구성 예를 나타내는 도면이다. 도 2를 참조하면, 본 발명의 다양한 실시 예에 따른 전자 장치(220)는 적어도 하나의 디스플레이 수단을 구비한 전자 장치(220)일 수 있다. 후술하는 설명에서 전자 장치(220)는 디스플레이 기능을 주된 기능으로 하는 장치일 수도 있으며 적어도 하나의 디스플레이 수단을 포함하는 일반적인 전자 장치를 지칭할 수도 있다. 예컨대, 상기 전자 장치(220)는 터치 스크린(230)을 구비한 전자 장치(예컨대, 스마트폰)일 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치(220)는 터치 스크린(230), 제어부(240), 저장부(250) 또는 통신부(260) 중 적어도 하나를 포함할 수 있다. 터치 스크린(230)은 디스플레이 패널(231) 및/또는 터치 패널(232)을 포함할 수 있다. 제어부(240)는 가상 현실 모드 처리부(241), 이벤트 판단부(242), 이벤트 정보 가공부(243), 또는 애플리케이션 제어부(244) 중 적어도 하나를 포함할 수 있다.
예컨대, 상기 전자 장치(220)가 웨어러블 장치(210)에 장착되면, 상기 전자 장치(220)는 예컨대, HMD 장치로 동작하고, 가상 현실 모드를 실행할 수 있다. 또한, 본 발명의 다양한 실시 예에 따라, 상기 전자 장치(220)가 상기 웨어러블 장치(210)에 장착되지 않더라도, 사용자의 설정 또는 가상 현실 모드 관련 애플리케이션의 실행에 따라 가상 현실 모드를 실행할 수 있다. 후술하는 실시 예들에서는 상기 전자 장치(220)가 웨어러블 장치(210)에 장착되어 가상 현실 모드가 실행되는 것으로 설정하나, 본 발명의 다양한 실시 예들이 이에 한정되는 것은 아니다.
본 발명의 다양한 실시 예에 따라 상기 전자 장치(220)가 가상 현실 모드로 동작할 경우(예컨대, 전자 장치(220)가 상기 웨어러블 장치(210)에 장착되어 HMT(head mounted theater) 모드로 동작할 경우), 상기 디스플레이 패널(231)을 통해 표시되는 화면은 사용자의 좌안 및 우안에 대응하는 두 개의 화면(예컨대, 도 7에 도시된 화면)을 표시할 수 있다.
본 발명의 다양한 실시 예에 따라 상기 전자 장치(220)가 가상 현실 모드로 동작할 때, 제어부(240)에서는 가상 현실 모드 동작 중 발생한 이벤트와 관련된 정보를 상기 가상 현실 모드에 맞게 가공하여 화면에 디스플레이하도록 제어할 수 있다. 또한, 본 발명의 다양한 실시 예에 따라 상기 제어부(240)에서는 가상 현실 모드 동작 중 발생하는 이벤트가 애플리케이션의 실행과 관련된 이벤트일 경우, 상기 애플리케이션의 실행을 차단하거나 백그라운드로 동작하도록 처리할 수도 있다.
보다 구체적으로 설명하면, 본 발명의 다양한 실시 예에 따라 제어부(240)는 가상 현실 모드 처리부(241), 이벤트 판단부(242), 이벤트 정보 가공부(243), 또는 애플리케이션 제어부(244) 중 적어도 하나를 포함하여 본 발명의 다양한 실시 예들에 따른 기능들을 수행할 수 있다. 또한, 상기 전자 장치(220)를 구성하는 적어도 하나의 구성(예컨대, 터치 스크린(230), 제어부(240), 저장부(250) 등)을 이용하여 후술하는 도 3 내지 도 25와 관련된 다양한 동작 또는 기능들을 수행하도록 구현될 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 전자 장치(220)가 웨어러블 장치(210)에 장착되거나, 사용자의 설정에 따라 또는 가상 현실 모드 관련 애플리케이션의 실행에 따라 가상 현실 모드가 실행되면, 상기 가상 현실 모드 처리부(241)에서는 상기 가상 현실 모드의 동작과 관련된 다양한 기능들을 처리할 수 있다. 상기 가상 현실 모드 처리부(241)는 저장부(250)에 저장된 적어도 하나의 가상 현실 프로그램(251)을 로딩하여 다양한 기능들을 수행할 수 있다.
이벤트 판단부(242)는 상기 가상 현실 모드 처리부(241)에 의해 가상 현실 모드로 동작하는 중 발생하는 이벤트에 대한 판단을 수행할 수 있다. 또한, 상기 이벤트 판단부(242)는 상기 가상 현실 모드로 동작하는 중 발생된 이벤트와 관련하여 화면에 표시할 정보가 있는 지를 판단할 수도 있다. 또한, 상기 이벤트 판단부(242)는 상기 가상 현실 모드로 동작하는 중 발생된 이벤트와 관련하여 실행할 애플리케이션을 판단할 수도 있다. 상기 이벤트의 유형과 관련된 애플리케이션의 다양한 실시 예들은 도 13 내지 도 25를 참조하여 후술하기로 한다.
이벤트 정보 가공부(243)는 상기 이벤트 판단부(242)의 판단 결과에 따라, 가상 현실 모드로 동작하는 중 발생된 이벤트와 관련하여 화면에 표시할 정보가 있을 경우, 상기 화면에 표시할 이벤트 관련 정보를 가상 현실 모드에 맞게 가공하는 기능을 수행할 수 있다. 상기 이벤트 관련 정보의 가공 방법으로는 다양한 방법들이 적용될 수 있다. 예컨대, 상기 전자 장치(220)가 도 7에 도시된 바와 같이 가상 현실 모드에서 3차원 영상으로 구현될 경우, 상기 이벤트 관련 정보를 3차원 영상에 맞게 변환시킬 수 있다. 예컨대, 평면 형태로 표시되는 이벤트 관련 정보를 3차원 영상의 좌안에 대응하는 정보 및 우안에 대응하는 정보로 변환하고, 상기 변환된 정보들을 현재 실행되고 있는 가상 현실 모드의 화면에 합성하여 표시할 수 있다.
애플리케이션 제어부(244)는 상기 이벤트 판단부(242)의 판단 결과에 따라, 가상 현실 모드로 동작하는 중 발생된 이벤트와 관련하여 실행될 애플리케이션이 있을 경우, 상기 이벤트와 관련된 애플리케이션의 실행을 차단시키도록 제어할 수 있다. 또한, 본 발명의 다양한 실시 예에 따라, 애플리케이션 제어부(244)는 상기 이벤트 판단부(242)의 판단 결과에 따라, 가상 현실 모드로 동작하는 중 발생된 이벤트와 관련하여 실행될 애플리케이션이 있을 경우, 상기 이벤트와 관련된 애플리케이션이 실행될 때, 상기 가상 현실 모드에 대응하는 애플리케이션의 실행 또는 화면 표시에 영향을 주지 않도록 하기 위해 상기 애플리케이션이 백그라운드(background)에서 실행되도록 제어할 수 있다.
상기 저장부(250)에는 가상 현실 프로그램(251)이 저장될 수 있으며, 상기 가상 현실 프로그램(251)은 전자 장치(220)의 가상 현실 모드 동작과 관련된 애플리케이션일 수도 있다. 또한, 상기 저장부(250)에는 이벤트 관련 정보(252)가 저장될 수 있으며, 상기 이벤트 판단부(242)는 상기 저장부(250)에 저장된 이벤트 관련 정보(252)를 참조하여, 발생한 이벤트의 화면 표시 여부 또는 발생한 이벤트와 관련하여 실행될 애플리케이션 등에 대한 정보를 확인할 수 있다.
상기 웨어러블 장치(210)는 도 1에 도시된 전자 장치(101)의 적어도 하나의 기능을 포함하는 임의의 전자 장치일 수도 있으며, 전자 장치(220)를 거치할 수 있는 착용형 거치대일 수도 있다. 상기 웨어러블 장치(210)가 전자 장치일 경우, 상기 전자 장치(220)가 상기 웨어러블 장치(210)에 장착되면 상기 전자 장치(220)의 통신부(260)를 통해 각종 기능들을 제공할 수 있다. 예컨대, 상기 전자 장치(220)가 상기 웨어러블 장치(210)에 장착되면, 상기 전자 장치(220)에서는 상기 웨어러블 장치(210)와의 통신을 통해 웨어러블 장치(210)와의 장착 여부를 감지하고, 가상 현실 모드(또는, HMT 모드)로 동작할지 여부를 판단할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 전자 장치(220)가 웨어러블 장치(210)에 장착될 때, 상기 전자 장치(220)의 장착 여부를 자동으로 판단할 수 없을 경우, 사용자는 가상 현실 프로그램(251)의 실행 또는 가상 현실 모드(또는, HMT 모드)의 선택에 의해 본 발명의 다양한 실시 예들을 적용할 수 있다. 또한, 본 발명의 다양한 실시 예에 따라, 상기 웨어러블 장치(210)가 전자 장치(101)로서의 기능을 포함할 경우, 상기 전자 장치(220)에서 상기 웨어러블 장치(210)로의 장착 여부를 자동으로 판단하고, 상기 전자 장치(220)의 실행 모드가 가상 현실 모드(또는, HMT 모드)로 자동으로 전환되도록 구현할 수 있다.
상기 도 2에 도시된 제어부(240)의 적어도 일부 기능은 상기 도 1에 도시된 전자 장치(101)의 이벤트 처리 모듈(180) 또는 프로세서(120)에 포함될 수 있다. 또한, 상기 도 2에 도시된 터치 스크린(230) 또는 디스플레이 패널(231)은 상기 도 1의 디스플레이(160)에 대응될 수 있다. 또한, 상기 도 2에 도시된 저장부(250)는 상기 도 1에 도시된 메모리(130)에 대응될 수 있다.
상기 도 2에서는 디스플레이 패널(231) 및 터치 패널(232)을 포함하는 터치 스크린(230)으로 도시하였으나, 다양한 실시 예에 따라, 하나의 터치 스크린(230)의 형태가 아닌 디스플레이 패널(231) 또는 터치 패널(232)이 별도의 패널 형태로 구비될 수도 있다. 또한, 다양한 실시 예에 따라, 전자 장치(220)에서 터치 패널(232)을 구비하지 않고 디스플레이 패널(231)만을 구비할 수도 있다.
또한, 본 발명의 다양한 실시 예에 따라 설명의 편의를 위해 상기 전자 장치(220)는 제1 장치(또는 제1 전자 장치)로 칭하고, 상기 웨어러블 장치(210)는 제2 장치(또는 제2 전자 장치)로 칭할 수 있다.
본 발명의 다양한 실시 예 중 어느 하나에 따른 전자 장치는, 가상 현실 모드에 대응하는 화면을 표시하는 표시부; 및 적어도 하나의 이벤트 발생에 따른 인터럽트를 감지하고, 상기 발생한 이벤트와 관련된 이벤트 관련 정보를 상기 가상 현실 모드에 대응하는 형태로 변경하며, 상기 변경된 이벤트 관련 정보가 상기 가상 현실 모드에 대응하여 실행되는 화면상에 표시되도록 제어하는 제어부;를 포함할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 이벤트는, 콜 수신 이벤트, 메시지 수신 이벤트, 알람 통지, 스케줄러 통지, 와이파이 연결, 와이파이 해제, 로우 배터리 통지, 데이터 허용 또는 사용 제한 통지, 애플리케이션 응답 없음 통지, 또는 애플리케이션 비정상 종료 통지 중 선택된 어느 하나 이상일 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 전자 장치는, 상기 이벤트가 상기 가상 현실 모드에서 표시할 이벤트가 아닌 경우, 상기 이벤트와 관련된 정보를 저장하는 저장부;를 더 포함하며, 상기 제어부는, 상기 전자 장치가 가상 현실 모드에서 시스루 모드로 전환되면, 상기 저장부에 저장된 상기 이벤트와 관련된 정보가 화면에 표시되도록 제어할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 전자 장치는, 상기 가상 현실 모드에서 표시할 적어도 하나의 이벤트에 대한 정보를 저장하는 저장부;를 더 포함할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 이벤트는, 인스턴트 메시지 수신 통지 이벤트일 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 이벤트가 적어도 하나의 애플리케이션의 실행과 관련된 이벤트일 경우, 상기 제어부는, 상기 이벤트 발생에 따른 상기 애플리케이션의 실행을 차단하도록 제어할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 제어부는, 상기 전자 장치의 화면 모드가 상기 가상 현실 모드에서 시스루 모드로 전환되면, 상기 차단된 애플리케이션이 실행되도록 제어할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 이벤트가 적어도 하나의 애플리케이션의 실행과 관련된 이벤트일 경우, 상기 제어부는, 상기 이벤트 발생에 따른 상기 애플리케이션의 실행을 상기 가상 현실 모드 화면의 백그라운드에서 실행되도록 제어할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 제어부는, 상기 전자 장치가 웨어러블 장치에 연결될 때 상기 가상 현실 모드가 실행되도록 제어할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 제어부는, 상기 이벤트와 관련된 정보를 현재 화면상에 표시되고 있는 상기 가상 현실 모드 화면의 3차원 공간상에 표시되도록 배치하여 가공할 수 있다.
도 3은 본 발명의 다양한 실시 예에 따른 프로그램 모듈의 블록도이다. 도 3을 참조하면, 다양한 실시 예에 따라 프로그램 모듈은 시스템 운영 체제(예컨대, OS(operating system))(310), 프레임 워크(320), 애플리케이션(330) 등을 포함하여 구성될 수 있다.
시스템 운영 체제(310)는 적어도 하나의 시스템 리소스 매니저 또는 적어도 하나의 디바이스 드라이버를 포함할 수 있다. 상기 시스템 리소스 매니저는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있으며, 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등과 같은 적어도 하나의 관리부를 포함할 수 있다. 상기 디바이스 드라이버는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WIFI 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버 등과 같은 적어도 하나의 드라이버를 포함할 수 있다.
본 발명의 다양한 실시 예에 따라, 프레임 워크(320)(예컨대, 미들웨어)는 예를 들면, 상기 애플리케이션이 공통적으로 필요로 하는 기능을 제공하거나, 상기 애플리케이션이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 상기 API를 통해 다양한 기능들을 상기 애플리케이션으로 제공할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 프레임 워크(320)에 포함되는 VR 프레임 워크는 전자 장치에서의 가상 현실 모드 동작과 관련된 기능을 제어할 수 있다. 예컨대, 가상 현실 모드 동작의 실행에 따라, 상기 VR 프레임 워크(320)는 애플리케이션(330)들 중 가상 현실과 관련된 적어도 하나의 VR 애플리케이션(351)을 제어하여 전자 장치에서 가상 현실 모드를 제공할 수 있다.
애플리케이션(330)은 복수의 애플리케이션들을 포함할 수 있으며, 가상 현실 모드로 실행되는 적어도 하나의 VR 애플리케이션(351)과 가상 현실 모드가 아닌 일반 모드로 실행되는 적어도 하나의 일반 애플리케이션(352)을 포함할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라, 애플리케이션(330)은 VR 제어 애플리케이션(340)을 더 포함할 수 있으며, 상기 VR 제어 애플리케이션(340)의 제어에 따라 적어도 하나의 VR 애플리케이션(351) 및/또는 적어도 하나의 일반 애플리케이션(352)의 동작을 제어할 수 있다.
본 발명의 다양한 실시 예에 따라, 전자 장치가 가상 현실 모드로 동작하는 중 적어도 하나의 이벤트가 발생하면, 시스템 운영체제(310)에서는 프레임 워크(320)(예컨대, VR 프레임 워크)로 이벤트 발생을 통지할 수 있다.
프레임 워크(320)에서는 가상 현실 모드가 아닌 일반 모드에서 발생하는 이벤트에 대해 이벤트와 관련된 정보가 화면에 표시될 수 있도록 해당하는 일반 애플리케이션(352)의 실행을 제어할 수 있다. 또한, 상기 프레임 워크(320)에서는 상기 일반 모드에서 발생하는 이벤트와 관련하여 실행할 애플리케이션이 있을 경우, 해당하는 적어도 하나의 일반 애플리케이션(352)을 실행하도록 제어할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 프레임 워크(320)(예컨대, VR 프레임 워크)에서는 가상 현실 모드로 동작하는 중에 이벤트가 발생하면, 발생된 이벤트와 관련된 정보를 표시하기 위한 적어도 하나의 일반 애플리케이션(352)의 동작을 차단할 수 있다. 상기 프레임 워크(320)에서는 가상 현실 모드로 동작하는 중에 발생한 이벤트를 VR 제어 애플리케이션(340)으로 제공할 수 있다.
VR 제어 애플리케이션(340)에서는 상기 가상 현실 모드의 동작 중 발생한 이벤트와 관련된 정보를 가상 현실 모드에 맞게 가공할 수 있다. 예컨대, 2차원적인 평면 형태의 이벤트 관련 정보를 3차원의 정보로 가공할 수 있다. 상기 VR 제어 애플리케이션(340)은 현재 실행되고 있는 적어도 하나의 VR 애플리케이션(351)을 제어할 수 있으며, 상기 가공된 이벤트 관련 정보를 VR 애플리케이션(351)에 의해 실행되고 있는 화면에 합성하여 표시하도록 제어할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라, 상기 프레임 워크(320)에서는 가상 현실 모드로 동작하는 중에 이벤트가 발생하면, 발생된 이벤트와 관련된 적어도 하나의 일반 애플리케이션(352)에 대한 실행을 차단하도록 제어할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라, 상기 프레임 워크(320)에서는 가상 현실 모드로 동작하는 중에 이벤트가 발생하면, 발생된 이벤트와 관련된 적어도 하나의 일반 애플리케이션(352)에 대한 실행을 일시적으로 차단하고, 상기 가상 현실 모드가 종료되면, 상기 차단된 일반 애플리케이션(352)이 실행되도록 제어할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라, 상기 프레임 워크(320)에서는 가상 현실 모드로 동작하는 중에 이벤트가 발생하면, 발생된 이벤트와 관련된 적어도 하나의 일반 애플리케이션(352)에 대한 실행을 제어하여, 현재 실행되고 있는 VR 애플리케이션(351)에 의한 화면에 영향을 주지 않도록 하기 위해 상기 이벤트와 관련된 적어도 하나의 일반 애플리케이션(352)이 백그라운드에서 동작하도록 제어할 수 있다.
상기 도 3의 실시 예는 본 발명의 다양한 실시 예들을 프로그램 형태로 구현하기 위한 일 예로서, 본 발명의 다양한 실시 예들이 상기 도 3의 형태로 한정되는 것은 아니며, 본 발명의 다양한 실시 예에 따라 다른 형태로도 구현될 수 있다.
도 4는 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서의 이벤트 표시 절차를 나타내는 흐름도이다. 도 4를 참조하면, 전자 장치에서 가상 현실 모드를 실행시키거나, 전자 장치를 도 5 및 도 6에 도시된 바와 같은 웨어러블 장치에 장착 또는 결합하거나, 상기 웨어러블 장치와 연동시키면, 동작 402에서 전자 장치의 모드가 일반 모드에서 가상 현실 모드로 전환하여 동작할 수 있다. 또한, 상기 전자 장치에서 가상 현실 모드를 실행(예컨대, 사용자의 조작에 의해)시킨 후, 상기 웨어러블 장치에 연결시킴으로써, 상기 웨어러블 장치에서 상기 전자 장치의 가상 현실 모드가 표시되도록 구현할 수도 있다.
상기 가상 현실 모드로 동작하는 중에, 동작 404에서 적어도 하나의 이벤트가 발생함에 따라 인터럽트가 발생하면, 본 발명의 다양한 실시 예에 따라 상기 이벤트 발생과 관련된 처리를 수행할 수 있다.
예컨대, 동작 406에서 상기 발생된 이벤트가 화면 표시와 관련된 이벤트일 경우에는, 동작 412에서 본 발명의 다양한 실시 예에 따라 상기 발생된 이벤트와 관련된 정보를 가공하고, 동작 414에서 상기 현재 동작 중인 가상 현실 모드의 화면상에 합성하여 표시할 수 있다.
또한, 동작 408에서 본 발명의 다양한 실시 예에 따라 상기 발생된 이벤트가 별도의 애플리케이션 실행과 관련된 이벤트일 경우, 동작 410에서 상기 애플리케이션의 실행이 차단되도록 제어할 수 있다. 또한, 본 발명의 다양한 실시 예에 따라, 상기 애플리케이션의 실행이 가상 현실 모드의 동작에 따른 화면에 영향을 주지 않도록 백그라운드에서 실행되도록 제어할 수도 있다. 또한, 본 발명의 다양한 실시 예에 따라, 상기 애플리케이션의 실행이 차단되도록 제어한 후, 상기 실행되고 있는 가상 현실 모드가 종료 또는 중단되면, 상기 차단된 애플리케이션이 실행되도록 제어할 수도 있다.
상기 도 4에 도시된 동작들 중 적어도 하나의 동작이 생략되어 실행될 수도 있으며, 적어도 하나의 다른 동작이 상기 동작들 사이에 추가될 수도 있다. 또한, 상기 도 4의 동작들은 도시된 순서로 처리될 수도 있으며, 적어도 하나의 동작에 대한 실행 순서가 다른 동작의 실행 순서와 변경되어 처리될 수도 있다. 또한, 상기 도 4에 도시된 동작들은 전자 장치 내에서 수행될 수도 있으며, 서버에서 수행될 수도 있다. 또한, 상기 도 4에 도시된 동작들 중 적어도 하나의 동작들은 전자 장치 내에서 수행되고, 나머지 동작들은 서버에서 수행되도록 구현될 수도 있다.
본 발명의 다양한 실시 예 중 어느 하나에 따른 전자 장치의 동작 방법은, 전자 장치에서 가상 현실 모드를 실행하는 동작; 적어도 하나의 이벤트 발생에 의한 인터럽트를 감지하는 동작; 상기 발생한 이벤트와 관련된 이벤트 관련 정보를 상기 가상 현실 모드에 대응하는 형태로 변경하는 동작; 및 상기 변경된 이벤트 관련 정보를 상기 가상 현실 모드에 대응하여 실행되는 화면상에 표시하는 동작;을 포함할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 이벤트는, 콜 수신 이벤트, 메시지 수신 이벤트, 알람 통지, 스케줄러 통지, 와이파이 연결, 와이파이 해제, 로우 배터리 통지, 데이터 허용 또는 사용 제한 통지, 애플리케이션 응답 없음 통지, 또는 애플리케이션 비정상 종료 통지 중 선택된 어느 하나 이상일 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 이벤트가 상기 가상 현실 모드에서 표시할 이벤트가 아닌 경우, 상기 이벤트와 관련된 정보를 저장하는 동작; 및 상기 전자 장치의 화면 모드가 상기 가상 현실 모드에서 시스루 모드로 전환되면, 상기 저장된 상기 이벤트와 관련된 정보를 화면에 표시하는 동작;을 포함할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 가상 현실 모드에서 표시할 적어도 하나의 이벤트를 설정하는 동작을 더 포함할 수 있다.
본 발명의 다양한 실시 예에 따라, 저장된 상기 표시할 이벤트는, 인스턴트 메시지 수신 통지 이벤트일 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 이벤트가 적어도 하나의 애플리케이션의 실행과 관련된 이벤트일 경우, 상기 이벤트 발생에 따른 상기 애플리케이션의 실행을 차단하도록 제어하는 동작;을 더 포함할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 전자 장치의 화면 모드가 상기 가상 현실 모드에서 시스루 모드로 전환되면, 상기 차단된 애플리케이션을 실행하는 동작;을 포함할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 이벤트가 적어도 하나의 애플리케이션의 실행과 관련된 이벤트일 경우, 상기 이벤트 발생에 따른 상기 애플리케이션의 실행을 상기 가상 현실 모드 화면의 백그라운드에서 실행되도록 제어하는 동작;을 더 포함할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 전자 장치가 웨어러블 장치에 연결될 때 상기 가상 현실 모드를 실행하는 것을 특징으로 할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 이벤트와 관련된 정보를 가공하는 동작은, 상기 이벤트와 관련된 정보를 현재 화면상에 표시되고 있는 상기 가상 현실 모드 화면의 3차원 공간상에 표시되도록 배치하는 것을 포함할 수 있다.
이하, 도 5a, 5b, 및 도 6을 참조하여 전자 장치(예컨대, 스마트폰)가 웨어러블 장치에 장착되는 예를 설명하기로 한다.
도 5a 및 도 5b는 본 발명의 다양한 실시 예에 따른 웨어러블 장치(510)의 예를 도시한 도면이다.
도 5a 및 도 5b를 참조하면, 웨어러블 장치(510)는 예를 들어 도 1의 전자 장치(102)일 수 있다. 또한, 전술한 바와 같이 상기 웨어러블 장치(510)는 전자 장치(520)와의 통신 기능이 없는 거치대의 기능만을 제공할 수도 있다. 웨어러블 장치(510)는 본체 및 커버를 포함하여 구성될 수 있다.
커버는 웨어러블 장치(510)에 전자 장치(520)가 장착되는 경우, 도시된 바와 같이 전자 장치(520)가 장착된 상태를 유지하도록 전자 장치(520)의 후면 가장자리를 덮어 웨어러블 장치(510)에 고정될 수 있다. 상기 웨어러블 장치(510)는 사용자가 웨어러블 장치(510)를 머리에 착용하는데 사용될 수 있는 지지부를 구비할 수 있다.
또한, 상기 웨어러블 장치(510)에는 착용자의 양쪽 눈 각각에 대응하는 위치에 렌즈들이 구비될 수 있다. 착용자는 상기 전자 장치(520)가 웨어러블 장치(510)에 장착된 상태에서 상기 렌즈들을 통해 상기 전자 장치(520)의 디스플레이(도시하지 않았음)의 화면을 볼 수 있다. 상기 웨어러블 장치(510)는 도시된 바와 같이 전자 장치(520)를 착탈 가능하게 장착할 수 있는 기구적 구조일 수 있다.
본 발명의 다양한 실시 예에 따라 상기 웨어러블 장치(510)는 도 1의 전자 장치(101)의 구성 중 적어도 하나를 포함할 수도 있다. 예컨대, 상기 웨어러블 장치(510)는 터치 패널, 버튼, 휠 키, 및 터치 패드 등 중에 적어도 하나를 포함할 수도 있다. 터치 패널은 사용자의 터치 입력을 수신할 수 있다. 터치 입력은 사용자가 터치 패널을 직접 터치하는 입력 또는 터치 패널에 근접한 호버링(hovering) 입력일 수 있다. 웨어러블 장치(510)는 전자 장치(520)가 장착될 때, USB 등의 인터페이스를 통해 연결되어 전자 장치(520)와의 통신을 수행할 수도 있다.
전자 장치(520)는 웨어러블 장치(510)로부터 수신된 입력에 응답하여 입력에 대응하는 기능을 제어할 수 있다. 예를 들어, 전자 장치(520)는 수신한 입력에 응답하여 음량을 조절하거나 화면(예컨대, 가상 현실 모드의 영상 재생 화면)을 제어할 수 있다. 예컨대, 전자 장치(520)가 웨어러블 장치(510)에 장착될 때, 상기 전자 장치(520)의 외부 장치 연결부(521)가 상기 웨어러블 장치(510)의 연결부(511)와 전기적으로 접속함으로써 장치 간에 서로 통신할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라, 상기 전자 장치(520)에서 가상 현실 모드에 따른 화면을 디스플레이하는 중 적어도 하나의 이벤트가 발생하면, 상기 발생한 이벤트와 관련된 정보를 가상 현실 모드에 맞는 정보로 가공하여 표시할 수 있다.
도 6은 본 발명의 다양한 실시 예에 따라 전자 장치(620)가 장착된 웨어러블 장치(610)를 사용자가 착용한 예를 도시한 도면이다. 도 6에 도시된 바와 같이 사용자는 전자 장치(620)가 장착된 웨어러블 장치(610)를 머리에 착용할 수 있다. 착용자는 웨어러블 장치(610)에 구비된 렌즈들을 통해 장착된 전자 장치(620)의 디스플레이의 화면을 볼 수 있다.
또한, 도 6에 도시된 바와 같이, 상기 웨어러블 장치(630)의 측면에 구비된 터치 패드(630)를 통해 웨어러블 장치(630)의 기능을 제어하거나, 전자 장치(620)의 기능을 제어할 수도 있다.
본 발명의 다양한 실시 예에 따르면, 가상 현실 모드에서의 이벤트 표시는 스마트폰 또는 휴대폰 등에서 구현될 수 있으며, 웨어러블 장치(예컨대, 안경형 장치)에서도 구현될 수 있다. 또한, 본 발명의 다양한 실시 예에 따르면, 도 5a, 도 5b, 및 도 6에 도시된 바와 같이 전자 장치(예컨대, 휴대폰)가 상기 웨어러블 장치에 장착(dock) 또는 결합된 형태로도 구현될 수도 있다. 예컨대, 휴대폰에서의 화면이 일반 모드로 표시되는 상태에서 상기 웨어러블 장치에 장착될 경우, 휴대폰의 화면은 가상 현실 모드로 변환될 수 있으며, 상기 변환된 가상 현실 모드의 화면은 상기 웨어러블 장치의 표시부를 통해 표시될 수 있다.
상기 웨어러블 장치에 장착된 휴대폰은 가상 현실 모드를 지원하지만 일반적인 휴대폰의 운영 시스템(operating system)에 따라 동작하므로, 가상 현실 모드 중 이벤트가 발생하면 가상 현실 모드와는 이질적인 통지가 표시되거나, 별도의 애플리케이션이 실행됨으로 인해 가상 현실 모드의 표시에 영향을 줄 수 있다.
본 발명의 다양한 실시 예들에서는 전술한 바와 같이 일반 모드로 동작하는 운영 시스템이 설치된 전자 장치에서 가상 현실 모드를 제공할 때, 상기 가상 현실 모드로 동작하는 중에 발생되는 이벤트와 관련된 정보를 상기 가상 현실 모드에 맞게 가공하여 효과적으로 표시할 수 있는 방법들을 제공할 수 있다.
도 7은 본 발명의 다양한 실시 예에 따른 전자 장치의 화면 모드를 도시한 도면이다.
도 7을 참조하면, 전자 장치(700)는 도 5a, 도 5b, 및 도 6의 전자 장치(520, 620)일 수 있다. 전자 장치(700)가 일반 모드로 동작할 경우, 도 7의 상단에 도시된 바와 같이 하나의 동작 화면(710)으로 디스플레이할 수 있다.
본 발명의 다양한 실시 예에 따라 상기 전자 장치(700)가 웨어러블 장치에 장착될 경우, 상기 도 7의 하단에 도시된 바와 같이 가상 현실 모드(예컨대, HMT 모드)로 동작할 수 있다. 상기 전자 장치(700)가 가상 현실 모드로 동작할 경우, 사용자의 좌안에 대응하는 화면(720a)과 우안에 대응하는 화면(720b)으로 구분되어 디스플레이될 수 있다. 상기 가상 현실 모드의 화면에서는 하나의 영상이 2개의 영상들(720a, 720b)로 분리되어 표시될 수 있다.
본 발명의 다양한 실시 예에서는, 상기 전자 장치(700)가 웨어러블 장치에 장착되어 가상 현실 모드로 동작할 때, 상기 가상 현실 모드에 대응하는 화면(좌안에 대응하는 화면(720a)과 우안에 대응하는 화면(720b))에 상기 발생된 이벤트와 관련된 정보를 가공하여 디스플레이할 수 있다.
도 8은 일반 모드에서의 이벤트 표시 방법을 나타내는 화면 예이다. 도 8을 참조하면, 전자 장치(800)가 일반 모드로 동작할 경우, 도 8의 상단에 도시된 바와 같이 일반 모드에서 실행되고 있는 애플리케이션이 하나의 동작 화면(810)으로 디스플레이될 수 있다.
상기 전자 장치(800)가 일반 모드로 동작하는 중에 적어도 하나의 이벤트(예컨대, 전화 착신 이벤트(incoming call event))가 발생하면(상대방으로부터 전화가 걸려오면), 상기 이벤트와 관련된 이벤트 관련 정보(820)가 애플리케이션의 동작 화면(810) 중 설정된 위치에 디스플레이될 수 있다.
도 9는 가상 현실 모드에서의 이벤트 표시 방법을 나타내는 화면 예이다. 도 9를 참조하면, 전자 장치(900)가 가상 현실 모드로 동작할 경우, 도 9의 상단에 도시된 바와 같이 가상 현실 모드에서 실행되고 있는 애플리케이션이 사용자의 좌안에 대응하는 화면(920a)과 우안에 대응하는 화면(920b)으로 구분되어 디스플레이될 수 있다. 상기 가상 현실 모드의 화면에서는 하나의 영상이 2개의 영상들(920a, 920b)로 분리되어 표시될 수 있다.
상기 전자 장치(900)가 가상 현실 모드로 동작하는 중에 적어도 하나의 이벤트(예컨대, 전화 착신 이벤트(incoming call event))가 발생하면(상대방으로부터 전화가 걸려오면), 상기 발생한 이벤트와 관련된 이벤트 관련 정보(930)가 애플리케이션의 동작 화면(910) 중 설정된 위치에 디스플레이될 수 있다.
상기 이벤트 관련 정보(930)가 일반 모드에서 표시되는 정보일 경우, 상기 일반 모드에서 표시되는 정보를 도 9의 하단에 도시된 바와 같이 가공 없이 그대로 표시할 경우, 현재 실행되고 있는 가상 현실 모드에서는 상기 이벤트 관련 정보(930)가 정상적으로 표시되지 않을 수 있다.
도 10은 본 발명의 다양한 실시 예에 따른 가상 현실 모드에서의 이벤트 표시 방법을 나타내는 화면 예이다. 도 10을 참조하면, 전자 장치(1000)가 가상 현실 모드로 동작할 경우, 도 10의 상단에 도시된 바와 같이 가상 현실 모드에서 실행되고 있는 애플리케이션이 사용자의 좌안에 대응하는 화면(1020a)과 우안에 대응하는 화면(1020b)으로 구분되어 디스플레이될 수 있다. 상기 가상 현실 모드의 화면에서는 하나의 영상이 2개의 영상들(1020a, 1020b)로 분리되어 표시될 수 있다.
상기 전자 장치(1000)가 가상 현실 모드로 동작하는 중에 적어도 하나의 이벤트(예컨대, 전화 착신 이벤트(incoming call event))가 발생하면(상대방으로부터 전화가 걸려오면), 본 발명의 다양한 실시 예에 따라 상기 발생한 이벤트와 관련된 이벤트 관련 정보(1030a, 1030b)를 가상 현실 모드에 맞게 가공하여 표시할 수 있다.
도 11은 본 발명의 실시 예에 따른 제어부의 세부 구조를 나타내는 블록도이다. 도 11을 참조하면, 본 발명의 실시 예에 따른 제어부는 시스템 관리부(1110), VR(virtual reality) 서비스 처리부(1120), 응용 프로그램 처리부(1130) 등을 포함하여 구성될 수 있다.
상기 시스템 관리부(1110)는 시스템 계층에 대응되며 전자 장치의 운영 시스템(OS) 또는 운영 시스템의 적어도 일부가 될 수 있다. 상기 VR 서비스 처리부(1120)는 본 발명의 실시 예에 따라 가상 현실 모드에 따른 각종 처리를 수행할 수 있다. 상기 VR 서비스 처리부(1120)는 프레임워크(framework) 계층에 대응되는 미들웨어로 구현될 수 있다. 상기 응용 프로그램 처리부(1130)는 애플리케이션 계층에 대응되며 전자 장치에 설치되어 실행되는 각종 애플리케이션(또는 앱)을 처리하는 기능을 수행할 수 있다.
전자 장치에서 가상 현실 모드가 실행되거나, 전자 장치가 웨어러블 장치에 장착되면, 본 발명의 VR 서비스 처리부(1120)에서는 일반 모드에서 가상 현실 모드로 전환시키고, 표시부를 통해 가상 현실 모드에 따른 화면을 표시한다.
또한, 상기 VR 서비스 처리부(1120)는 본 발명의 다양한 실시 예에 따라 시스템 관리부(1110)의 이벤트 발생에 따른 인터럽트 발생을 모니터링하는 기능을 더 수행할 수 있다. 예컨대, 전자 장치에서 특정 이벤트가 발생하여 시스템 관리부(1110)에서 인터럽트가 발생하면, VR 서비스 처리부(1120)에서는 본 발명의 다양한 실시 예에 따라 상기 인터럽트 발생을 감지하고, 해당 이벤트와 관련된 정보를 가상 현실 모드의 화면상에 포함하여 제공할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라 상기 시스템 관리부(1110)에서는 상기 발생된 이벤트와 관련하여 실행할 애플리케이션이 있을 경우, 상기 가상 현실 모드가 아닌 일반 모드에서는 응용 프로그램 처리부(1130)를 통해 해당 애플리케이션이 실행되도록 처리할 수 있다.
본 발명의 실시 예에 따라 가상 현실 모드 상태에서 상기와 동일한 이벤트가 발생할 경우, 상기 발생한 이벤트와 관련된 애플리케이션의 실행은 차단될 수 있다. 예컨대, 상기 도 4에서 X로 표시된 바와 같이 시스템 관리부(1110)에서 상기 발생된 이벤트와 관련된 애플리케이션을 응용 프로그램 처리부(1130)를 통해 실행하도록 처리하는 것을 차단시킬 수 있다. 상기 가상 현실 모드에서 이벤트 발생 시 관련된 애플리케이션 실행의 차단 기능은 시스템 관리부(1110)의 기능을 수정하거나, VR 서비스 처리부(1120)의 시스템 제어로 구현될 수 있다. 이와 같이, 본 발명의 다양한 실시 예에 따라 가상 현실 모드 상태에서 발생된 이벤트와 관련된 애플리케이션의 실행을 차단함으로써 가상 현실 모드의 화면에 대한 몰입감이 저하되는 것을 방지할 수 있다.
한편, 본 발명의 실시 예에서 각 기능부 및 모듈이라 함은, 본 발명의 실시 예의 기술적 사상을 수행하기 위한 하드웨어 및 상기 하드웨어를 구동하기 위한 소프트웨어의 기능적, 구조적 결합을 의미할 수 있다. 예컨대, 상기 각 기능부는 소정의 코드와 상기 소정의 코드가 수행되기 위한 하드웨어 리소스의 논리적인 단위를 의미할 수 있으며, 반드시 물리적으로 연결된 코드를 의미하거나, 한 종류의 하드웨어를 의미하는 것은 아님은 본 발명의 실시 예의 기술분야의 평균적 전문가에게는 용이하게 추론될 수 있다.
도 12는 본 발명의 실시 예에 따른 가상 현실 모드에서의 이벤트 표시 절차를 나타내는 흐름도이다. 전자 장치에서 가상 현실 모드를 실행시키거나, 전자 장치를 도 5a, 도 5b 및 도 6에 도시된 바와 같은 웨어러블 장치에 장착 또는 결합하거나, 상기 웨어러블 장치와 연동시키면, 동작 1202에서 전자 장치의 모드가 일반 모드에서 가상 현실 모드로 전환하여 동작할 수 있다. 또한, 상기 전자 장치에서 가상 현실 모드를 실행(예컨대, 사용자의 조작에 의해)시킨 후, 상기 웨어러블 장치에 연결시킴으로써, 상기 웨어러블 장치에서 상기 전자 장치의 가상 현실 모드가 표시되도록 구현할 수도 있다.
상기 가상 현실 모드로 동작하는 중에, 동작 1204에서 특정 이벤트가 발생함에 따라 운영 시스템상에서 인터럽트가 발생하면, 본 발명의 실시 예에 따라 VR 서비스 처리부(1120)에서 상기 이벤트 발생과 관련된 처리를 수행할 수 있다.
예컨대, 동작 1206에서 상기 발생된 이벤트가 현재 동작 중인 가상 현실 모드에서의 화면 표시와 관련된 이벤트일 경우에는, 동작 1212에서 본 발명의 다양한 실시 예에 따라 상기 발생된 이벤트와 관련된 이벤트 관련 정보를 가공하고, 동작 1214에서 상기 현재 동작 중인 가상 현실 모드의 화면상에 상기 가공된 이벤트 관련 정보를 표시할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라 동작 1208에서 상기 발생된 이벤트가 별도의 애플리케이션 실행과 관련된 이벤트일 경우, 동작 1210에서 시스템 관리부(예컨대, 운영 시스템)(1110) 또는 VR 서비스 처리부(1120)에서는 상기 애플리케이션의 실행이 차단되도록 제어할 수 있다.
또한, 본 발명의 다른 실시 예에 따라 동작 1216에서 상기 발생된 이벤트가 시스루(see-through) 모드에서 표시할 이벤트인 경우(예컨대, 메신저 알림 이벤트), 동작 1218에서 상기 발생한 이벤트와 관련된 정보를 저장하고, 현재 동작 중인 가상 현실 모드에서는 표시하지 않도록 구현할 수 있다. 이후, 동작 1220에서 상기 전자 장치가 상기 가상 현실 모드에서 시스루 모드로 동작하면, 동작 1222에서 상기 발생된 이벤트와 관련된 이벤트 관련 정보 또는 누적하여 저장된 이벤트와 관련된 정보들을 화면상에 표시할 수 있다.
상기 시스루 모드란 사용자가 표시부의 화면을 통해 전방을 볼 수 있는 모드를 의미한다. 예컨대, 전자 장치 또는 웨어러블 장치에 별도로 구비된 카메라를 통해 실시간으로 촬영된 전방의 이미지를 화면상에 표시할 수 있으며, 본 발명의 시스루 모드의 구현 방법이 상기 방법에 한정되는 것은 아니다.
또한, 상기 시스루 모드에서는 상기 가상 현실 모드에서 표시된 이벤트와 관련된 정보가 시스루 모드로 전환된 이후에도 연속하여 표시될 수도 있다. 또한, 본 발명의 실시 예에 따라 상기 가상 현실 모드에서 표시된 이벤트와 관련된 정보는 시스루 모드로 전환될 경우 상기 시스루 모드에 맞도록 다른 형태로 변환되어 표시될 수도 있다.
한편, 상기 시스루 모드에서는 상기 가상 현실 모드에서 표시되지 않은 이벤트들이 모두 표시되도록 구현할 수도 있으며, 상기 가상 현실 모드에서 표시되지 않은 이벤트들 중에서 미리 설정된 적어도 일부의 이벤트들이 표시되도록 구현할 수도 있다. 예컨대, 가상 현실 모드에서 표시된 이벤트들 중에서, 통지(notification) 이벤트에 대해서만, 시스루 모드에서 표시되도록 할 수도 있다.
또한, 본 발명의 실시 예에 따라 상기 발생한 이벤트가 현재 표시되고 있는 가상 현실 모드의 화면상에 별도의 가공 없이 직접 표시 가능한 이벤트일 경우, 상기 현재 가상 현실 모드의 화면상에 상기 발생한 이벤트와 관련된 정보를 표시할 수 있다. 그러나, 상기 발생한 이벤트가 현재 표시되고 있는 가상 현실 모드의 화면상에 직접 표시 가능한 이벤트가 아닐 경우, 가상 현실 모드 실행을 위한 애플리케이션을 다시 실행하거나, 상기 이벤트와 관련된 정보를 가상 현실 모드에 표시하기 위한 새로운 가상 현실 애플리케이션을 추가로 실행할 수 있다.
상기 동작 1206에서 가상 현실 모드에서 표시할 이벤트의 구분은 다양하게 설정할 수 있다. 예컨대, 가상 현실 모드에서 필수적으로 실행되어야 할 이벤트(예컨대, 콜 수신 이벤트 등)를 가상 현실 모드에서 표시할 이벤트로 설정할 수 있다. 또한, 본 발명의 실시 예에 따라 상기 필수적으로 실행되어야 할 이벤트 또는 사용자가 설정한 적어도 하나의 이벤트를 블록킹(blocking) 설정함으로써 가상 현실 모드에서 해당 이벤트가 발생하더라도 상기 발생된 이벤트와 관련된 정보를 표시 또는 통지하지 않도록 구현할 수도 있다.
한편, 상술한 본 발명의 일 실시 예에 따른 가상 현실 모드에서의 이벤트 표시 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
전술한, 각종 이벤트에 대한 가상 현실 모드에서의 통지 방법은 하기 <표 1>과 같이 설정될 수 있다. 그러나, 하기 <표 1>의 실시 예는 본 발명의 다양한 실시 예들에 대한 이해를 돕기 위해 예시로서 설정한 것이며, 본 발명의 다양한 실시 예들이 하기 예들에 한정되는 것은 아니다.
분류 인터럽트 시나리오 처리 시나리오
알림 설정 알림 미설정
화면 앱 실행 - 알람/스케줄러 앱
- 수신 데이터 콜		 - VR 팝업 통지
(앱 실행 통지)		 - 통지 없음
- 수신 콜
(음성/영상)		 - VR 앱
-사용자 선택
(통화/거절)
Toast - WiFi 해제/연결 - VR 팝업 통지
Notification - 메시지
- 일정, 알람		 - VR 팝업 통지
- 일부정보통지
시스템 팝업 - 로우 배터리
- 데이터 허용/사용 제한
- 애플리케이션 무 응답/비정상 종료		 - VR 팝업 통지 - 크리티컬 팝업 표시
- 로우 배터리
- 응답 업음/비 정상 종료
소리 알람 음
통지 음		 - 메시지 알림음 허용 차단
진동 앱 실행
진동 통지		 - 전화, 알람
- 메시지		 차단
상기 <표 1>을 참조하면, 각종 이벤트에 대한 인터럽트가 발생할 경우, 사용자의 알림 방법 설정에 따라 가상 현실 모드에서의 통지 방법이 결정될 수 있다. 상기 가상 현실 모드에서 표시할 적어도 하나의 이벤트 관련 정보는 전자 장치상에서 별도의 설정 기능을 통해 설정하도록 구현할 수 있다.
예컨대, 애플리케이션의 실행을 동반하는 이벤트(예컨대, 알람/스케줄러 앱, 수신 데이터 콜 등)에 대해서 알림이 설정될 경우, 가상 현실 모드로 동작하는 중에는 상기 이벤트와 관련된 애플리케이션의 실행을 차단시키고, 가상 현실 모드 화면상에서 팝업(가상 현실 팝업(VR popup)) 형태로 통지(notification)할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라 상기 이벤트와 관련된 애플리케이션을 백그라운드에서 실행시킴으로써 현재 실행되는 가상 현실 모드 화면에는 영향을 주지 않도록 구현할 수 있다. 이때, 상기 가상 현실 모드의 화면상에 팝업 형태로 백그라운드상에 관련된 애플리케이션이 실행되고 있음을 통지할 수도 있다.
또한, 본 발명의 다양한 실시 예에 따라 애플리케이션의 실행 및 사용자의 선택을 동반하는 이벤트(예컨대, 음성 또는 영상 통화 관련 이벤트)에 대해서 알림이 설정될 경우, 가상 현실 모드 화면상에서 상기 이벤트와 관련된 사용자의 선택(예컨대, 통화 또는 거절)이 가능한 팝업 화면을 표시할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라 와이 파이 해제 또는 연결과 같은 이벤트는 토스트 통지(toast notification)의 형태로 표시될 수 있다. 본 발명의 다다양한 실시 예에 따라 가상 현실 모드 화면상에서도 상기 토스트 통지가 포함되어 표시될 수 있다. 상기 토스트 통지는 화면상에 팝업을 표시한 후, 일정 시간이 경과하면 사라지도록 하는 통지를 의미한다.
또한, 본 발명의 다양한 실시 예에 따라 별도의 애플리케이션 실행을 동반하지 않고 단순히 통지만을 제공하는 이벤트가 발생할 경우, 별도의 애플리케이션 차단 절차는 필요하지 않으며, 상기 이벤트와 관련된 정보를 가상 현실 화면상에서 표시 가능하도록 가공하여 팝업 형태로 표시할 수 있다.
또한, 본 발명의 다양한 실시 예에 따라 알람, 통지 음 등과 같은 소리 형태의 통지는 알림 설정에 따라 가상 현실 모드 중에서 허용 또는 차단 되도록 구현할 수 있다. 또한, 본 발명의 다양한 실시 예에 따라 애플리케이션 실행 또는 통지시 동반되는 진동 형태의 통지는 가상 현실 모드 중에는 차단되도록 설정할 수 있다.
도 13 내지 도 25는 본 발명의 실시 예에 따른 가상 현실 모드에서 이벤트와 관련된 정보를 표시하는 화면을 나타내는 도면이다.
도 13을 참조하면, 가상 현실 모드에서 예컨대 콜 수신과 같은 이벤트가 발생할 경우, 본 발명의 실시 예에 따라 콜 수신 애플리케이션의 실행을 차단시키고, 도시된 바와 같이 팝업 형태로 가상 현실 모드 화면에 포함되도록 표시할 수 있다.
이때, 상기 팝업 화면은 가상 현실에 포함된 화면일 수 있다. 예컨대, 상기 팝업 화면이 가상 현실 모드 화면과 동일 평면상에 겹쳐진 화면으로 표시되는 것이 아니라 본 발명의 실시 예에 따라 상기 팝업 화면과 가상 현실 모드 화면이 3D 공간상에서 재배치된 하나의 가상 현실 모드 화면으로 표시될 수 있다.
예컨대, 전술한 바와 같이 전자 장치가 가상 현실 모드로 동작하는 중 상기 콜 수신 이벤트가 발생하면, 전자 장치의 시스템 관리부 또는 VR 서비스 처리부에서 별도의 콜 수신 애플리케이션이 실행되는 것을 차단하고, 상기 발생된 이벤트와 관련된 정보를 가공하여 현재 표시되고 있는 가상 현실 모드 화면에 포함하여 하나의 가상 현실 화면으로 표시할 수 있다. 사용자는 상기 팝업 내에 표시된 버튼을 선택함으로써 전화를 수신 또는 거부할 수 있다. 또한, 상기 도 13에서 수신을 선택하면 도 14와 같이 전화 통화 상태와 관련된 정보를 가상 현실 모드 화면상에 가공하여 표시할 수 있다.
한편, 상기 도 15를 참조하면 상기 도 13의 이벤트 표시 화면에서 콜 수신 또는 거부에 따라 해당 이벤트 관련 정보를 가상 현실 화면 내에 구현할 수 있다. 또한, 도 16에 도시된 바와 같이 통화가 종료되면, 다시 이벤트 관련 정보가 가상 현실 화면에서 사라지도록 구현할 수 있다.
도 17, 도 18, 도 19, 도 20 및 도 21은 이벤트 발생과 관련된 정보(예컨대, 메시지, 애플리케이션, 알람, 인터넷 접속 등과 관련된 정보)를 가상 현실 화면에서 다양한 알림 형태(예컨대, 팝업 또는 토스트 알림 형태)로 나타내는 예를 도시하며, 도 22, 도 23, 도 24, 및 도 25는 시스루 모드로 전환된 이후, 가상 현실 모드에서 발생한 이벤트와 관련된 정보를 나타내는 예를 도시한다.
이하, 도 26, 도 27 및 도 28을 참조하여, 제1 장치(예컨대, 전자 장치) 또는 제2 장치(웨어러블 장치)의 구현 예를 설명한다. 도 26 및 도 27은 디스플레이 장치로서 기능하는 전자 장치의 구현 예이며, 도 28은 웨어러블 장치의 구현 예이다.
도 26은 다양한 실시 예에 따른 전자 장치(2601)의 블록도(2600)이다. 상기 전자 장치(2601)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 상기 전자 장치(2601)는 하나 이상의 애플리케이션 프로세서(AP: application processor)(2610), 통신 모듈(2620), SIM(subscriber identification module) 카드(2624), 메모리(2630), 센서 모듈(2640), 입력 장치(2650), 디스플레이(2660), 인터페이스(2670), 오디오 모듈(2680), 카메라 모듈(2691), 전력 관리 모듈(2695), 배터리(2696), 인디케이터(2697), 및 모터(2698)를 포함할 수 있다.
상기 AP(2610)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 상기 AP(2610)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 상기 AP(2610)는, 예를 들면, SoC(system on chip)로 구현될 수 있다. 한 실시 예에 따르면, 상기 AP(2610)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 상기 AP(2610)는 도 26에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(2621))를 포함할 수도 있다. 상기 AP(2610)는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.
상기 통신 모듈(2620)은, 도 1의 상기 통신 인터페이스(170)와 동일 또는 유사한 구성을 가질 수 있다. 상기 통신 모듈(2620)은, 예를 들면, 셀룰러 모듈(2621), WIFI 모듈(2623), BT 모듈(2625), GPS 모듈(2627), NFC 모듈(2628) 및 RF(radio frequency) 모듈(2629)을 포함할 수 있다.
상기 셀룰러 모듈(2621)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시 예에 따르면, 상기 셀룰러 모듈(2621)은 가입자 식별 모듈(예: SIM 카드(2624))을 이용하여 통신 네트워크 내에서 전자 장치(2601)의 구별 및 인증을 수행할 수 있다. 한 실시 예에 따르면, 상기 셀룰러 모듈(2621)은 상기 AP(2610)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시 예에 따르면, 상기 셀룰러 모듈(2621)은 커뮤니케이션 프로세서(CP: communication processor)를 포함할 수 있다.
상기 WIFI 모듈(2623), 상기 BT 모듈(2625), 상기 GPS 모듈(2627) 또는 상기 NFC 모듈(2628) 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시 예에 따르면, 셀룰러 모듈(2621), WIFI 모듈(2623), BT 모듈(2625), GPS 모듈(2627) 또는 NFC 모듈(2628) 중 적어도 일부(예: 두 개 이상)는 하나의 집적 칩(integrated chip)(IC) 또는 IC 패키지 내에 포함될 수 있다.
상기 RF 모듈(2629)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. 상기 RF 모듈(2629)은, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시 예에 따르면, 셀룰러 모듈(2621), WIFI 모듈(2623), BT 모듈(2625), GPS 모듈(2627) 또는 NFC 모듈(2628) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
상기 SIM 카드(2624)는, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID (integrated circuit card identifier)) 또는 가입자 정보(예: IMSI (international mobile subscriber identity))를 포함할 수 있다.
상기 메모리(2630)(예: 메모리(130))는, 예를 들면, 내장 메모리(2632) 또는 외장 메모리(2634)를 포함할 수 있다. 상기 내장 메모리(2632)는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive (SSD)) 중 적어도 하나를 포함할 수 있다.
상기 외장 메모리(2634)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 상기 외장 메모리(2634)는 다양한 인터페이스를 통하여 상기 전자 장치(2601)와 기능적으로 및/또는 물리적으로 연결될 수 있다.
상기 센서 모듈(2640)은, 예를 들면, 물리량을 계측하거나 전자 장치(2601)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 상기 센서 모듈(2640)은, 예를 들면, 제스처 센서(2640A), 자이로 센서(2640B), 기압 센서(2640C), 마그네틱 센서(2640D), 가속도 센서(2640E), 그립 센서(2640F), 근접 센서(2640G), 컬러(color) 센서(예: RGB(red, green, blue) 센서(2640H)), 생체 센서(2640I), 온/습도 센서(2640J), 조도 센서(2640K), 또는 UV(ultra violet) 센서(2640M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대안적으로, 상기 센서 모듈(2640)은, 예를 들면, 후각 센서(E-nose sensor), EMG 센서(electromyography sensor), EEG 센서(electroencephalogram sensor), ECG 센서(electrocardiogram sensor), IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 상기 센서 모듈(2640)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(2601)는 AP(2610)의 일부로서 또는 별도로, 센서 모듈(2640)을 제어하도록 구성된 프로세서를 더 포함하여, 상기 AP(2610)가 슬립 (sleep) 상태에 있는 동안, 센서 모듈(2640)을 제어할 수 있다.
상기 입력 장치(2650)는, 예를 들면, 터치 패널 (touch panel)(2652), (디지털) 펜 센서(pen sensor)(2654), 키 (key)(2656), 또는 초음파(ultrasonic) 입력 장치(2658)를 포함할 수 있다. 상기 터치 패널(2652)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 상기 터치 패널(2652)은 제어 회로를 더 포함할 수도 있다. 상기 터치 패널(2652)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
상기 (디지털) 펜 센서(2654)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트(sheet)를 포함할 수 있다. 상기 키(2656)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 상기 초음파 입력 장치(2658)는 초음파 신호를 발생하는 입력 도구를 통해, 전자 장치(2601)에서 마이크(예: 마이크(2688))로 음파를 감지하여 데이터를 확인할 수 있다.
상기 디스플레이(2660)(예: 디스플레이(160))는 패널(2662), 홀로그램 장치(2664), 또는 프로젝터(2666)를 포함할 수 있다. 상기 패널(2662)은, 도 1의 디스플레이(160)와 동일 또는 유사한 구성을 포함할 수 있다. 상기 패널(2662)은, 예를 들면, 유연하게 (flexible), 투명하게 (transparent), 또는 착용할 수 있게 (wearable) 구현될 수 있다. 상기 패널(2662)은 상기 터치 패널(2652)과 하나의 모듈로 구성될 수도 있다. 상기 홀로그램 장치(2664)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 상기 프로젝터(2666)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 상기 스크린은, 예를 들면, 상기 전자 장치(2601)의 내부 또는 외부에 위치할 수 있다. 한 실시 예에 따르면, 상기 디스플레이(2660)는 상기 패널(2662), 상기 홀로그램 장치(2664), 또는 프로젝터(2666)를 제어하기 위한 제어 회로를 더 포함할 수 있다.
상기 인터페이스(2670)는, 예를 들면, HDMI(high-definition multimedia interface)(2672), USB(universal serial bus)(2674), 광 인터페이스(optical interface)(2676), 또는 D-sub(D-subminiature)(2678)를 포함할 수 있다. 상기 인터페이스(2670)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대안적으로, 상기 인터페이스(2670)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD(secure digital) 카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
상기 오디오 모듈(2680)은, 예를 들면, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 상기 오디오 모듈(2680)의 적어도 일부 구성요소는, 예를 들면, 도 1에 도시된 입출력 인터페이스(150)에 포함될 수 있다. 상기 오디오 모듈(2680)은, 예를 들면, 스피커(2682), 리시버(2684), 이어폰(2686), 또는 마이크(2688) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
상기 카메라 모듈(2691)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시 예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래쉬(flash)(예: LED 또는 xenon lamp)를 포함할 수 있다.
상기 전력 관리 모듈(2695)은, 예를 들면, 상기 전자 장치(2601)의 전력을 관리할 수 있다. 한 실시 예에 따르면, 상기 전력 관리 모듈(2695)은 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. 상기 PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 상기 배터리 게이지는, 예를 들면, 상기 배터리(2696)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 상기 배터리(2696)는, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.
상기 인디케이터(2697)는 상기 전자 장치(2601) 혹은 그 일부(예: AP(2610))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 상기 모터(2698)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 상기 전자 장치(2601)는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 상기 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어 플로우 (media flow) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
상기 전자 장치의 전술한 구성요소들 각각은 하나 또는 그 이상의 부품 (component)으로 구성될 수 있으며, 해당 구성 요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시 예에서, 전자 장치는 전술한 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시 예에 따른 전자 장치의 구성 요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성 요소들의 기능을 동일하게 수행할 수 있다.
도 27은 다양한 실시 예에 따른 프로그램 모듈(2710)의 블록도(2700)이다. 한 실시 예에 따르면, 상기 프로그램 모듈(2710)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제(operation system (OS)) 및/또는 운영 체제상에서 구동되는 다양한 애플리케이션(예: 애플리케이션 프로그램(147))을 포함할 수 있다. 상기 운영 체제는, 예를 들면, 안드로이드(android), iOS, 윈도우즈(windows), 심비안(symbian), 타이젠(tizen), 또는 바다(bada) 등이 될 수 있다.
프로그램 모듈(2710)은 커널(2720), 미들웨어(2730), API(application programming interface)(2760), 및/또는 애플리케이션(2770)을 포함할 수 있다. 상기 프로그램 모듈(2710)의 적어도 일부는 전자 장치상에 프리로드(preload) 되거나, 서버(예: 서버(106))로부터 다운로드(download) 가능하다.
상기 커널(2720)(예: 도 1의 커널(141))은, 예를 들면, 시스템 리소스 매니저(2721) 또는 디바이스 드라이버(2723)를 포함할 수 있다. 상기 시스템 리소스 매니저(2721)는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시 예에 따르면, 상기 시스템 리소스 매니저(2721)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 상기 디바이스 드라이버(2723)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WIFI 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다.
상기 미들웨어(2730)는, 예를 들면, 상기 애플리케이션(2770)이 공통적으로 필요로 하는 기능을 제공하거나, 상기 애플리케이션(2770)이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 상기 API(2760)를 통해 다양한 기능들을 상기 애플리케이션(2770)으로 제공할 수 있다. 한 실시 예에 따르면, 상기 미들웨어(2730)(예: 미들웨어 (143))는 런타임 라이브러리(2735), 애플리케이션 매니저(application manager)(2741), 윈도우 매니저(window manager)(2742), 멀티미디어 매니저(multimedia manager)(2743), 리소스 매니저(resource manager)(2744), 파워 매니저(power manager)(2745), 데이터베이스 매니저(database manager)(2746), 패키지 매니저(package manager)(2747), 연결 매니저(connectivity manager)(2748), 통지 매니저(notification manager)(2749), 위치 매니저 (location manager)(2750), 그래픽 매니저(graphic manager)(2751), 또는 보안 매니저(security manager)(2752) 중 적어도 하나를 포함할 수 있다.
상기 런타임 라이브러리(2735)는, 예를 들면, 상기 애플리케이션(2770)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 상기 런타임 라이브러리(2735)는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.
상기 애플리케이션 매니저(2741)는, 예를 들면, 상기 애플리케이션(2770) 중 적어도 하나의 애플리케이션의 라이프 사이클(life cycle)을 관리할 수 있다. 상기 윈도우 매니저(2742)는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 상기 멀티미디어 매니저(2743)는 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 상기 리소스 매니저(2744)는 상기 애플리케이션(2770) 중 적어도 어느 하나의 애플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.
상기 파워 매니저(2745)는, 예를 들면, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리(battery) 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 상기 데이터베이스 매니저(2746)는 상기 애플리케이션(2770) 중 적어도 하나의 애플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 상기 패키지 매니저(2747)는 패키지 파일의 형태로 배포되는 애플리케이션의 설치 또는 업데이트를 관리할 수 있다.
상기 연결 매니저(2748)는, 예를 들면, WIFI 또는 블루투스 등의 무선 연결을 관리할 수 있다. 상기 통지 매니저(2749)는 도착 메시지, 약속, 근접성 알림 등의 사건 (event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 상기 위치 매니저(2750)는 전자 장치의 위치 정보를 관리할 수 있다. 상기 그래픽 매니저(2751)는 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 상기 보안 매니저(2752)는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시 예에 따르면, 전자 장치 (예: 전자 장치(101))가 전화 기능을 포함한 경우, 상기 미들웨어(2730)는 상기 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.
상기 미들웨어(2730)는 전술한 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 상기 미들웨어(2730)는 차별화된 기능을 제공하기 위해 운영 체제의 종류별로 특화된 모듈을 제공할 수 있다. 또한, 상기 미들웨어(2730)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
상기 API(2760)(예: API(145))는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼별로 하나의 API 셋을 제공할 수 있으며, 타이젠(tizen)의 경우, 플랫폼별로 두 개 이상의 API 셋을 제공할 수 있다.
상기 애플리케이션(2770)(예: 애플리케이션 프로그램(147))은, 예를 들면, 홈(2771), 다이얼러(2772), SMS/MMS(2773), IM(instant message)(2774), 브라우저(2775), 카메라(2776), 알람(2777), 컨택트(2778), 음성 다이얼(2779), 이메일(2780), 달력(2781), 미디어 플레이어(2782), 앨범(2783), 또는 시계(2784), 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 제공할 수 있는 하나 이상의 애플리케이션을 포함할 수 있다.
한 실시 예에 따르면, 상기 애플리케이션(2770)은 상기 전자 장치(예: 전자 장치(101))와 외부 전자 장치(예: 전자 장치(102, 104)) 사이의 정보 교환을 지원하는 애플리케이션(이하, 설명의 편의 상, "정보 교환 애플리케이션")을 포함할 수 있다. 상기 정보 교환 애플리케이션은, 예를 들면, 상기 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 애플리케이션, 또는 상기 외부 전자 장치를 관리하기 위한 장치 관리(device management) 애플리케이션을 포함할 수 있다.
예를 들면, 상기 알림 전달 애플리케이션은 상기 전자 장치의 다른 애플리케이션(예: SMS/MMS 애플리케이션, 이메일 애플리케이션, 건강 관리 애플리케이션, 또는 환경 정보 애플리케이션 등)에서 발생된 알림 정보를 외부 전자 장치(예: 전자 장치(102, 104))로 전달하는 기능을 포함할 수 있다. 또한, 상기 알림 전달 애플리케이션은, 예를 들면, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 상기 장치 관리 애플리케이션은, 예를 들면, 상기 전자 장치와 통신하는 외부 전자 장치(예: 전자 장치(104))의 적어도 하나의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 상기 외부 전자 장치에서 동작하는 애플리케이션 또는 상기 외부 전자 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.
한 실시 예에 따르면, 상기 애플리케이션(2770)은 상기 외부 전자 장치(예: 전자 장치(102, 104))의 속성(예: 전자 장치의 속성으로서, 전자 장치의 종류가 모바일 의료 기기)에 따라 지정된 애플리케이션(예: 건강 관리 애플리케이션)을 포함할 수 있다. 한 실시 예에 따르면, 상기 애플리케이션(2770)은 외부 전자 장치(예: 서버(106) 또는 전자 장치(102, 104))로부터 수신된 애플리케이션을 포함할 수 있다. 한 실시 예에 따르면, 상기 애플리케이션(2770)은 프리로드 애플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 애플리케이션(third party application)을 포함할 수 있다. 도시된 실시 예에 따른 프로그램 모듈(2710)의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.
다양한 실시 예에 따르면, 상기 프로그램 모듈(2710)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 상기 프로그램 모듈(2710)의 적어도 일부는, 예를 들면, 프로세서(예: AP(2610))에 의해 구현(implement)(예: 실행)될 수 있다. 상기 프로그램 모듈(2710)의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
도 28은 본 발명의 다양한 실시 예에 따른 웨어러블 장치(2800)의 다른 구성 예를 도시한 블록도이다.
도 28을 참조하면, 웨어러블 장치(2800)는 장착되는 디스플레이 장치와 독립적으로 전술한 전자 장치와 동일하거나 유사한 동작을 착용자에게 제공할 수 있다. 웨어러블 장치(2800)는 MCU(2810), 통신 모듈(2820), 센서 모듈(2830), 입력 모듈(2840), 시선 추적 모듈(2850), 바이브레이터(2852), 초점 조절 모듈(2854), 전력 관리 모듈(2860), 배터리(2862), 디스플레이(2870), 카메라(2880)를 포함할 수 있다.
통신 모듈(2820)은, 예를 들면 USB 모듈(2821), WiFi 모듈(2822), BT 모듈(2823), NFC 모듈(2824), GPS 모듈(2825)을 포함할 수 있다.
센서 모듈(2830)은, 예를 들면 가속도 센서(2831), 자이로 센서(2832), 지자계 센서(2833), 마그네틱 센서(2834), 근접 센서(2835), 제스처 센서(2836), 그립 센서(2837), 생체 센서(2838), 접근 센서(2839) 중의 적어도 하나를 포함할 수 있다.
입력 모듈(2840)은 터치 패드(2841), 버튼(2842)을 포함할 수 있다.
웨어러블 장치(2800)는 전자 장치(예컨대, 디스플레이 장치)가 탈착되는 구조를 가지는 대신에 본체에 고정되게 설치될 수 있는 디스플레이(2870)를 포함할 수도 있다. 디스플레이(2870)는 장착되는 전자 장치의 디스플레이 대신에 도 5a, 도 5b, 및 도 6에 도시된 렌즈부들을 통해 사용자에게 화면을 제공할 수 있도록 본체에 설치될 수도 있다. 디스플레이(2870)는 본 발명의 다양한 실시 예에 따라 증강 현실 동작 또는 시스루 동작에 따른 화면을 디스플레이할 수 있다. 카메라(2880)는 예를 들어 본체의 전면에 설치되어 착용자의 전방을 촬영할 수 있다.
웨어러블 장치(2800)는 장착되는 전자 장치와는 독립적으로 착용자에게 전자 장치와 동일하거나 유사한 증강 현실 동작 및 시스루 동작을 제공할 수 있다.
본 문서에서 사용된 용어 "모듈" 또는 "기능부"는, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈" 또는 "기능부"는, 예를 들면, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈" 또는 "기능부"는, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈" 또는 "기능부"는 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면, "모듈" 또는 "기능부"는, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시 예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어는, 프로세서 (예: 프로세서(120))에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 상기 메모리(130)가 될 수 있다.
상기 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시 예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시 예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시 예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
다양한 실시 예에 따르면, 명령들을 저장하고 있는 저장 매체에 있어서, 상기 명령들은 적어도 하나의 프로세서에 의하여 실행될 때에 상기 적어도 하나의 프로세서로 하여금 적어도 하나의 동작을 수행하도록 설정된 것으로서, 상기 적어도 하나의 동작은, 전자 장치에서 가상 현실 모드를 실행하는 과정; 적어도 하나의 이벤트 발생에 따른 인터럽트를 감지하는 과정; 상기 발생한 이벤트와 관련된 이벤트 관련 정보를 상기 가상 현실 모드에 대응하는 형태로 변경하는 과정; 및 상기 변경된 이벤트 관련 정보를 상기 가상 현실 모드에 대응하여 실행되는 화면상에 표시하는 과정;을 포함할 수 있다.
그리고 본 명세서와 도면에 발명된 본 발명의 실시 예들은 본 발명의 실시 예에 따른 기술 내용을 쉽게 설명하고 본 발명의 실시 예의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 발명의 실시 예의 범위를 한정하고자 하는 것은 아니다. 따라서 본 발명의 다양한 실시 예의 범위는 여기에 발명된 실시 예들 이외에도 본 발명의 다양한 실시 예의 기술적 사상을 바탕으로 도출되는 모든 변경 또는 변형된 형태가 본 발명의 다양한 실시 예의 범위에 포함되는 것으로 해석되어야 한다.
100 : 네트워크 환경 101 : 전자 장치
104 : 전자 장치 106 : 서버
110 : 버스 120 : 프로세서
130 : 메모리 141 : 커널
143 : 미들웨어 145 : API
147 : 애플리케이션 150 : 입출력 인터페이스
160 : 디스플레이 162, 164 : 네트워크
170 : 통신 인터페이스 180 : 이벤트 처리 모듈
210 : 웨어러블 장치 220 : 전자 장치
230 : 터치 스크린 231 : 디스플레이 패널
232 : 터치 패널 240 : 제어부
241 : 가상 현실 모드 처리부 242 : 이벤트 판단부
243 : 이벤트 정보 가공부 244 : 애플리케이션 제어부
250 : 저장부 251 : 가상 현실 프로그램
252 : 이벤트 관련 정보 260 : 통신부

Claims (20)

  1. 전자 장치에 있어서,
    표시부;
    메모리; 및
    적어도 하나의 프로세서를 포함하고,
    상기 적어도 하나의 프로세서는,
    가상 현실 모드로의 동작에 응답하여 상기 가상 현실 모드에서 화면을 표시하고, 상기 표시된 화면에 사용자의 눈들에 대응되는 두 개의 화면 이미지들을 표시하고,
    상기 가상 현실 모드에서 상기 화면이 표시되는 동안 적어도 하나의 애플리케이션의 실행과 연관된 적어도 하나의 이벤트 발생을 식별하고,
    상기 적어도 하나의 이벤트의 발생의 식별에 대한 응답으로 상기 적어도 하나의 애플리케이션의 실행이 차단되도록 제어하고,
    상기 적어도 하나의 이벤트가 상기 가상 현실 모드에서 표시되는 이벤트이면, 상기 가상 현실 모드에서 표시되는 상기 화면상에 상기 적어도 하나의 이벤트의 발생을 나타내는 이벤트 관련 정보를 표시하도록 상기 표시부를 제어하고,
    상기 적어도 하나의 이벤트가 상기 가상 현실 모드에서 표시되는 이벤트가 아니면, 상기 이벤트 관련 정보를 상기 메모리에 저장하고, 상기 전자 장치의 모드가 상기 가상 현실 모드에서 시스루 모드로 전환될 때 상기 메모리에 저장된 상기 이벤트 관련 정보를 표시하도록 설정된 전자 장치.
  2. 제1항에 있어서, 상기 이벤트는,
    콜 수신 이벤트, 메시지 수신 이벤트, 알람 통지, 스케줄러 통지, 와이파이 연결, 와이파이 해제, 로우 배터리 통지, 데이터 허용 또는 사용 제한 통지, 애플리케이션 응답 없음 통지, 또는 애플리케이션 비정상 종료 통지 중 선택된 적어도 하나를 포함하는 전자 장치.
  3. 삭제
  4. 제1항에 있어서, 상기 적어도 하나의 프로세서는,
    상기 가상 현실 모드에서 표시할 적어도 하나의 이벤트에 대한 정보를 상기 메모리에 저장하도록 더 설정된 전자 장치.
  5. 제4항에 있어서, 상기 이벤트는,
    인스턴트 메시지 수신 통지 이벤트를 포함하는 전자 장치.
  6. 삭제
  7. 제1항에 있어서, 상기 적어도 하나의 프로세서는,
    상기 전자 장치의 모드가 상기 가상 현실 모드에서 상기 시스루 모드로 전환되면, 상기 차단된 애플리케이션이 실행되도록 제어하는 전자 장치.
  8. 제1항에 있어서,
    상기 적어도 하나의 프로세서는,
    애플리케이션의 실행과 관련된 이벤트 발생 시, 상기 가상 현실 모드에서 상기 화면을 표시하면서 상기 이벤트 발생에 따른 상기 애플리케이션이 백그라운드에서 실행되도록 제어하는 전자 장치.
  9. 제1항에 있어서, 상기 적어도 하나의 프로세서는,
    상기 전자 장치가 웨어러블 장치에 연결될 때 상기 가상 현실 모드가 실행되도록 제어하는 전자 장치.
  10. 제1항에 있어서, 상기 적어도 하나의 프로세서는,
    상기 이벤트와 관련된 정보를 상기 가상 현실 모드에서 표시되는 상기 화면의 3차원 공간상에 배치 및 표시되도록 제어하는 전자 장치.
  11. 전자 장치에서 가상 현실 모드에서의 이벤트 표시 방법에 있어서,
    상기 가상 현실 모드로의 동작에 응답하여 상기 가상 현실 모드에서 화면을 표시하고, 상기 화면에 사용자의 눈들에 대응되는 두 개의 화면 이미지들을 표시하는 동작;
    상기 화면이 상기 가상 현실 모드에서 표시되는 동안 적어도 하나의 애플리케이션의 실행과 연관된 적어도 하나의 이벤트 발생을 식별하는 동작;
    상기 적어도 하나의 이벤트의 발생의 식별에 대한 응답으로 상기 적어도 하나의 애플리케이션의 실행을 차단하는 동작;
    상기 적어도 하나의 이벤트가 상기 가상 현실 모드에서 표시되는 이벤트이면, 상기 가상 현실 모드에서 표시되는 상기 화면상에 상기 적어도 하나의 이벤트의 발생을 나타내는 이벤트 관련 정보를 표시하는 동작;
    상기 적어도 하나의 이벤트가 상기 가상 현실 모드에서 표시되는 이벤트가 아니면, 메모리에 상기 이벤트 관련 정보를 저장하는 동작; 및
    상기 전자 장치의 모드가 상기 가상 현실 모드에서 시스루 모드로 전환될 때 상기 메모리에 저장된 상기 이벤트 관련 정보를 표시하는 동작을 포함하는 방법.
  12. 제11항에 있어서, 상기 이벤트는,
    콜 수신 이벤트, 메시지 수신 이벤트, 알람 통지, 스케줄러 통지, 와이파이 연결, 와이파이 해제, 로우 배터리 통지, 데이터 허용 또는 사용 제한 통지, 애플리케이션 응답 없음 통지, 또는 애플리케이션 비정상 종료 통지 중 선택된 적어도 하나를 포함하는 방법.
  13. 삭제
  14. 제11항에 있어서,
    상기 가상 현실 모드에서 표시할 적어도 하나의 이벤트를 설정하는 동작을 더 포함하는 방법.
  15. 제14항에 있어서,
    상기 가상 현실 모드에서 표시할 이벤트는 인스턴트 메시지 수신 통지 이벤트를 포함하는 방법.
  16. 삭제
  17. 제11항에 있어서,
    상기 전자 장치의 모드가 상기 가상 현실 모드에서 상기 시스루 모드로 전환되면, 상기 차단된 애플리케이션을 실행하는 동작을 더 포함하는 방법.
  18. 제11항에 있어서,
    애플리케이션의 실행과 관련된 이벤트 발생 시, 상기 가상 현실 모드에서 상기 화면을 표시하면서 상기 이벤트 발생에 따른 상기 애플리케이션이 백그라운드에서 실행되도록 제어하는 동작을 더 포함하는 방법.
  19. 제11항에 있어서,
    상기 전자 장치가 웨어러블 장치에 연결될 때 상기 가상 현실 모드를 실행하는 동작을 더 포함하는 방법.
  20. 제11항에 있어서,
    상기 이벤트와 관련된 정보를 상기 가상 현실 모드에서 표시되는 상기 화면의 3차원 공간상에 배치하고 표시하는 동작을 더 포함하는 방법.
KR1020150000892A 2014-01-06 2015-01-05 전자 장치 및 가상 현실 모드에서의 이벤트 표시 방법 KR102355118B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN201580003868.XA CN105900051B (zh) 2014-01-06 2015-01-06 电子装置以及在虚拟现实模式下的事件显示方法
EP15733319.6A EP3093743B1 (en) 2014-01-06 2015-01-06 Electronic device and method for displaying event in virtual reality mode
PCT/KR2015/000097 WO2015102464A1 (ko) 2014-01-06 2015-01-06 전자 장치 및 가상 현실 모드에서의 이벤트 표시 방법
US15/109,558 US10431004B2 (en) 2014-01-06 2015-01-06 Electronic device and method for displaying event in virtual reality mode

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020140001552 2014-01-06
KR20140001552 2014-01-06

Publications (2)

Publication Number Publication Date
KR20150082120A KR20150082120A (ko) 2015-07-15
KR102355118B1 true KR102355118B1 (ko) 2022-01-26

Family

ID=53793753

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150000892A KR102355118B1 (ko) 2014-01-06 2015-01-05 전자 장치 및 가상 현실 모드에서의 이벤트 표시 방법

Country Status (4)

Country Link
US (1) US10431004B2 (ko)
EP (1) EP3093743B1 (ko)
KR (1) KR102355118B1 (ko)
CN (1) CN105900051B (ko)

Families Citing this family (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150101612A (ko) * 2014-02-27 2015-09-04 엘지전자 주식회사 폐쇄형 시야(Closed-view)를 제공하는 헤드 마운티드 디스플레이 및 그 제어 방법
WO2017051564A1 (ja) 2015-09-25 2017-03-30 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置
US10229540B2 (en) * 2015-12-22 2019-03-12 Google Llc Adjusting video rendering rate of virtual reality content and processing of a stereoscopic image
US9924238B2 (en) * 2016-03-21 2018-03-20 Screenovate Technologies Ltd. Method and a system for using a computerized source device within the virtual environment of a head mounted device
KR102595078B1 (ko) * 2016-07-08 2023-10-26 주식회사 넥슨코리아 게임 관전을 제공하는 게임제공방법 및 장치
CN107817894A (zh) * 2016-09-12 2018-03-20 中兴通讯股份有限公司 显示处理方法及装置
CN106445160A (zh) * 2016-09-30 2017-02-22 珠海市魅族科技有限公司 一种信息展示的方法以及装置
US20180096505A1 (en) * 2016-10-04 2018-04-05 Facebook, Inc. Controls and Interfaces for User Interactions in Virtual Spaces
CN106388785B (zh) * 2016-11-11 2019-08-09 武汉智普天创科技有限公司 基于vr和脑电信号采集的认知评估设备
CN106708258A (zh) * 2016-11-29 2017-05-24 维沃移动通信有限公司 一种虚拟现实终端的数据处理方法和虚拟现实终端
CN106851240A (zh) * 2016-12-26 2017-06-13 网易（杭州）网络有限公司 图像数据处理的方法及装置
US10481678B2 (en) * 2017-01-11 2019-11-19 Daqri Llc Interface-based modeling and design of three dimensional spaces using two dimensional representations
CN106903695B (zh) * 2017-01-16 2019-04-26 北京光年无限科技有限公司 应用于智能机器人的投影交互方法及系统
WO2018137304A1 (zh) * 2017-01-26 2018-08-02 华为技术有限公司 一种2d应用在vr设备中的显示方法及终端
US11140116B2 (en) 2017-01-31 2021-10-05 Samsung Electronics Co., Ltd Method for providing notification to uncover execution screen and electronic apparatus for performing same
CN106980500B (zh) * 2017-02-17 2019-12-10 福建天泉教育科技有限公司 一种安卓虚拟现实模式和裸眼模式切换方法和系统
CN106896920B (zh) * 2017-03-01 2020-09-25 网易（杭州）网络有限公司 虚拟现实系统、虚拟现实设备、虚拟现实控制装置及方法
US11863510B2 (en) * 2017-03-29 2024-01-02 Samsung Electronics Co., Ltd. Systems and methods for notification delivery
US11494986B2 (en) * 2017-04-20 2022-11-08 Samsung Electronics Co., Ltd. System and method for two dimensional application usage in three dimensional virtual reality environment
US10936147B2 (en) 2017-04-28 2021-03-02 Hewlett-Packard Development Company, L.P. Tablet computing device with display dock
CN107219922A (zh) * 2017-05-22 2017-09-29 三体次元信息科技（宁波）有限公司 虚拟现实场景中展示推送消息的系统和包括该系统的终端
CN107436932B (zh) * 2017-07-17 2020-11-13 绿湾网络科技有限公司 带有虚拟现实交互的数据挖掘方法和系统
CN109308863B (zh) * 2017-07-28 2022-04-22 昆山国显光电有限公司 终端设备及其显示驱动控制方法、计算机可读存储介质
EP3639523A1 (en) 2017-11-14 2020-04-22 Samsung Electronics Co., Ltd. Method and apparatus for managing a wide view content in a virtual reality environment
US11323556B2 (en) 2018-01-18 2022-05-03 Samsung Electronics Co., Ltd. Electronic device and method of operating electronic device in virtual reality
US10802894B2 (en) * 2018-03-30 2020-10-13 Inflight VR Software GmbH Method, apparatus, and computer-readable medium for managing notifications delivered to a virtual reality device
US10617566B2 (en) * 2018-06-14 2020-04-14 Vestibular First, Llc Modular headset for diagnosis and treatment of vestibular disorders
US11733824B2 (en) * 2018-06-22 2023-08-22 Apple Inc. User interaction interpreter
KR102508286B1 (ko) * 2018-08-27 2023-03-09 삼성전자 주식회사 가상 현실에서 정보를 제공하는 전자 장치 및 방법
US11032532B2 (en) * 2018-10-04 2021-06-08 Samsung Electronics Co., Ltd. Electronic device and method for providing virtual device via at least portion of content
PH12018000297A1 (en) * 2018-10-04 2020-04-13 Samsung Electronics Co Ltd Input operations in mobile computing devices coupled to head-mounted display devices
CN110362203B (zh) * 2019-07-11 2022-12-02 Oppo广东移动通信有限公司 信息处理方法、装置、存储介质及增强现实设备
US10946294B1 (en) 2019-08-30 2021-03-16 Sony Interactive Entertainment Inc. Summarizing notifications on a user display
US10946279B1 (en) 2019-08-30 2021-03-16 Sony Interactive Entertainment Inc. Context-based notifications on a user display
US11991263B2 (en) 2019-09-17 2024-05-21 Hewlett-Packard Development Company, L.P. Notification delivery in a virtual space based on a user being in a flow state
KR102583960B1 (ko) 2020-01-06 2023-09-27 한국전자통신연구원 무인 비행체의 데이터 세트 생성 방법 및 장치
US11481965B2 (en) * 2020-04-10 2022-10-25 Samsung Electronics Co., Ltd. Electronic device for communicating in augmented reality and method thereof
DE102021114661A1 (de) 2021-01-29 2022-08-04 Sean Grant Tragbare biometrische Vorrichtung
US20230072905A1 (en) * 2021-09-07 2023-03-09 Comcast Cable Communications, Llc Managing event notifications
KR102570343B1 (ko) * 2022-02-25 2023-08-25 (주)어나더리얼 가상환경에 연결된 사용자 단말에게 알람을 제공하기 위한 방법
WO2024010226A1 (en) * 2022-07-06 2024-01-11 Samsung Electronics Co., Ltd. Method and apparatus for managing a virtual session

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130031511A1 (en) * 2011-03-15 2013-01-31 Takao Adachi Object control device, object control method, computer-readable recording medium, and integrated circuit

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9349183B1 (en) * 2006-12-28 2016-05-24 David Byron Douglas Method and apparatus for three dimensional viewing of images
US20090300100A1 (en) * 2008-05-30 2009-12-03 Carl Johan Freer Augmented reality platform and method using logo recognition
US20110169927A1 (en) * 2010-01-13 2011-07-14 Coco Studios Content Presentation in a Three Dimensional Environment
GB2477787B (en) 2010-02-15 2014-09-24 Marcus Alexander Mawson Cavalier Use of portable electonic devices with head-mounted display devices
KR101252169B1 (ko) 2011-05-27 2013-04-05 엘지전자 주식회사 휴대 단말기 및 그 동작 제어방법
KR20130005108A (ko) 2011-07-05 2013-01-15 현대자동차주식회사 운전중 휴대폰 사용 제한 장치 및 그 방법
AU2013200187B9 (en) 2011-07-22 2013-07-25 Microsoft Technology Licensing, Llc Automatic text scrolling on a head-mounted display
US9323325B2 (en) 2011-08-30 2016-04-26 Microsoft Technology Licensing, Llc Enhancing an object of interest in a see-through, mixed reality display device
US9081177B2 (en) 2011-10-07 2015-07-14 Google Inc. Wearable computer with nearby object response
KR101917630B1 (ko) 2011-10-28 2018-11-13 매직 립, 인코포레이티드 증강 및 가상 현실을 위한 시스템 및 방법
KR20130064458A (ko) * 2011-12-08 2013-06-18 삼성전자주식회사 복수 개의 영역으로 구분된 화면을 디스플레이하는 디스플레이 장치 및 그 방법
US8917453B2 (en) * 2011-12-23 2014-12-23 Microsoft Corporation Reflective array waveguide
US20140085316A1 (en) * 2012-09-25 2014-03-27 Avaya Inc. Follow me notification and widgets
US9908048B2 (en) * 2013-06-08 2018-03-06 Sony Interactive Entertainment Inc. Systems and methods for transitioning between transparent mode and non-transparent mode in a head mounted display

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130031511A1 (en) * 2011-03-15 2013-01-31 Takao Adachi Object control device, object control method, computer-readable recording medium, and integrated circuit

Also Published As

Publication number Publication date
EP3093743A1 (en) 2016-11-16
KR20150082120A (ko) 2015-07-15
US10431004B2 (en) 2019-10-01
EP3093743A4 (en) 2017-09-13
EP3093743B1 (en) 2019-06-19
CN105900051B (zh) 2020-10-16
CN105900051A (zh) 2016-08-24
US20160335801A1 (en) 2016-11-17

Similar Documents

Publication Publication Date Title
KR102355118B1 (ko) 전자 장치 및 가상 현실 모드에서의 이벤트 표시 방법
KR102422353B1 (ko) 스크린 미러링 서비스 제공장치 및 방법
KR102327803B1 (ko) 전력 소모를 줄이기 위한 전력 제어 방법 및 장치
KR102532366B1 (ko) 무선 충전을 수행하는 전자 장치 및 방법
KR102387164B1 (ko) 전자 장치 및 그의 오디오 경로 제어 방법
KR102274743B1 (ko) 전자 장치 및 전자 장치의 화면 영역 처리 방법
KR102462711B1 (ko) 전자 장치의 센서 동작 방법 및 장치
KR102264806B1 (ko) 스크린 미러링 서비스 제공방법 및 장치
KR102635437B1 (ko) 콘텐츠 공유 방법 및 이를 지원하는 전자 장치
KR102293660B1 (ko) 전자 장치의 근거리 무선 통신 방법 및 이를 사용하는 전자 장치
KR102271833B1 (ko) 전자 장치, 그 제어 방법 및 기록 매체
US20160066295A1 (en) Processing method of a communication function and electronic device supporting the same
US20160142703A1 (en) Display method and electronic device
KR102450416B1 (ko) 전자 장치, 웨어러블 장치 및 전자 장치에서 디스플레이되는 객체를 제어하는 방법
KR20160054840A (ko) 정보를 공유하기 위한 가상 환경
KR102294359B1 (ko) 전자 장치 및 전자 장치에서 알림을 제어하는 방법
KR102277272B1 (ko) 전자 장치, 웨어러블 장치 및 전자 장치의 화면 영역 제어 방법
US20190325658A1 (en) Device and method for rendering image
US9880617B2 (en) Electronic device and method of controlling display of electronic device
KR102678242B1 (ko) 인증을 수행하는 전자 장치 및 방법
KR20210087417A (ko) 디스플레이 제어 방법 및 그 전자 장치
KR20170096364A (ko) 디스플레이 화면 구성 방법 및 이를 수행하는 전자 장치
KR102404734B1 (ko) 컨텐트를 재생하는 전자 장치 및 컴퓨터 판독 가능한 기록 매체

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right