[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

KR20170048792A - 이미지 처리 장치 및 이의 동작 방법 - Google Patents

이미지 처리 장치 및 이의 동작 방법 Download PDF

Info

Publication number
KR20170048792A
KR20170048792A KR1020150149319A KR20150149319A KR20170048792A KR 20170048792 A KR20170048792 A KR 20170048792A KR 1020150149319 A KR1020150149319 A KR 1020150149319A KR 20150149319 A KR20150149319 A KR 20150149319A KR 20170048792 A KR20170048792 A KR 20170048792A
Authority
KR
South Korea
Prior art keywords
color information
image
information
image sensor
electronic device
Prior art date
Application number
KR1020150149319A
Other languages
English (en)
Other versions
KR102469426B1 (ko
Inventor
김동수
강화영
장지안
윤영권
장동훈
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020150149319A priority Critical patent/KR102469426B1/ko
Priority to PCT/KR2016/012069 priority patent/WO2017074010A1/en
Priority to EP16860193.8A priority patent/EP3342161B1/en
Priority to CN201680063180.5A priority patent/CN108353152B/zh
Priority to US15/336,064 priority patent/US10432904B2/en
Publication of KR20170048792A publication Critical patent/KR20170048792A/ko
Application granted granted Critical
Publication of KR102469426B1 publication Critical patent/KR102469426B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88—Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • H04N9/045—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/48—Increasing resolution by shifting the sensor relative to the scene
    • H04N5/225—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/12—Picture reproducers
    • H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179—Video signal processing therefor
    • H04N9/3182—Colour adjustment, e.g. white balance, shading or gamut
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/64—Circuits for processing colour signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00—Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32—Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3256—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document colour related metadata, e.g. colour, ICC profiles
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00—Details of colour television systems
    • H04N2209/04—Picture signal generators
    • H04N2209/041—Picture signal generators using solid-state devices
    • H04N2209/042—Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045—Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Telephone Function (AREA)
  • User Interface Of Digital Computer (AREA)
  • Studio Devices (AREA)
  • Power Engineering (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)

Abstract

다양한 실시예에 따른 이미지 처리 장치는, 렌즈와 이미지 센서를 포함하는 이미지 센서 모듈, 및 프로세서를 포함하고, 상기 프로세서는 상기 이미지 센서 모듈을 이용하여 외부 객체에 대응하는, 제 1 색상 정보를 갖는 제 1 이미지를 획득하고, 상기 제 1 이미지에 대하여 지정된 픽셀 단위로 이동된, 상기 외부 객체에 대응하는, 제 2 색상 정보를 갖는 제 2 이미지를 획득하고, 및 상기 제 1 색상 정보와 상기 제 2 색상 정보에 적어도 기반하여, 상기 외부 객체에 대응하는, 제 3 색상 정보를 갖는 제 3 이미지를 생성하도록 설정된다.
다양한 실시예에 따른 동작 방법은, 이미지 센서 모듈 및 프로세서를 포함하는 이미지 처리 장치에서, 렌즈와 이미지 센서를 포함하는 이미지 센서 모듈을 통해 외부 객체에 대응하는, 제 1 색상 정보를 갖는 제 1 이미지를 획득하는 동작; 상기 이미지 센서 모듈을 통해 상기 외부 객체에 대응하는, 지정된 픽셀 단위로 이동된, 제 2 색상 정보를 갖는 제 2 이미지를 획득하는 동작; 및 프로세서를 이용하여, 상기 제 1 색상 정보와 상기 제 2 색상 정보에 적어도 기반하여, 상기 외부 객체에 대응하는, 제 3 색상 정보를 갖는 제 3 이미지를 생성하는 동작을 포함한다. 한다.

Description

이미지 처리 장치 및 이의 동작 방법{IMAGE PROCESSING APPARATUS AND OPERATING METHOD THEREOF}
본 발명의 다양한 실시예들은 이미지 센서를 포함하는 이미지 처리 장치 및 이의 동작 방법에 관한 것이다.
카메라 장치는 이미지 센서를 통해 획득되는 이미지를 처리할 수 있다. 또한 최근의 전자 장치는 다른 장치들의 기능까지 아우르는 모바일 컨버전스(mobile convergence) 단계에 이르고 있다. 전자 장치는 통화 기능, 메시지 송수신 기능 이외에 이미지 센서를 구비하여 촬영 기능 등을 제공할 수 있다.
이미지 센서는 수신되는 광 신호를 픽셀 센서들을 통해 전기적인 신호로 변환하는 기능을 수행할 수 있다. 픽셀 센서들은 설정된 컬러 패턴의 픽셀 어레이로 배열될 수 있다. 예를 들면 이미지 센서의 픽셀 센서들은 R(red), G(green), B(blue) 픽셀 센서들이 될 수 있으며, 상기 R,G,B 픽셀 센서들은 설정된 컬러 패턴의 픽셀 어레이로 배열될 수 있다. 또한 픽셀 센서들은 컬러 및 밝기 패턴의 픽셀 어레이로 배열될 수 있다. 예를 들면 이미지 센서의 픽셀 센서들은 R(red), G(green), B(blue), W(white) 픽셀 센서들이 될 수 있으며, 상기 R,G,B,W 픽셀 센서들은 설정된 패턴의 픽셀 어레이로 배열될 수 있다.
컬러 및 백색 픽셀 센서들이 설정된 패턴으로 배열된 이미지 센서를 통해 획득되는 이미지는 색 재현성 또는 색 해상도에 있어서 불리할 수 있다.
본 발명의 다양한 실시예는 이미지 센서를 포함하는 전자 장치(예를 들면, 이미지 처리 장치)에서 색 재현성 또는 색 해상도가 향상된 이미지를 제공할 수 있다.
본 발명의 다양한 실시예는 이미지 센서를 포함하는 이미지 처리 장치에서 이미지 센서 모듈을 픽셀 단위로 구동하여 복수의 이미지를 획득할 수 있고, 이러한 이미지들을 색상 정보에 기반하여 색표현성이 향상된 이미지를 제공할 수 있다.
다양한 실시예에 따른 이미지 처리 장치는, 렌즈와 이미지 센서를 포함하는 이미지 센서 모듈, 및 프로세서를 포함하고, 상기 프로세서는 상기 이미지 센서 모듈을 이용하여 외부 객체에 대응하는, 제 1 색상 정보를 갖는 제 1 이미지를 획득하고, 상기 제 1 이미지에 대하여 지정된 픽셀 단위로 이동된, 상기 외부 객체에 대응하는, 제 2 색상 정보를 갖는 제 2 이미지를 획득하고, 및 상기 제 1 색상 정보와 상기 제 2 색상 정보에 적어도 기반하여, 상기 외부 객체에 대응하는, 제 3 색상 정보를 갖는 제 3 이미지를 생성하도록 설정된다.
다양한 실시예에 따른 동작 방법은, 이미지 센서 모듈 및 프로세서를 포함하는 이미지 처리 장치에서, 렌즈와 이미지 센서를 포함하는 이미지 센서 모듈을 통해 외부 객체에 대응하는, 제 1 색상 정보를 갖는 제 1 이미지를 획득하는 동작; 상기 이미지 센서 모듈을 통해 상기 외부 객체에 대응하는, 지정된 픽셀 단위로 이동된, 제 2 색상 정보를 갖는 제 2 이미지를 획득하는 동작; 및 프로세서를 이용하여, 상기 제 1 색상 정보와 상기 제 2 색상 정보에 적어도 기반하여, 상기 외부 객체에 대응하는, 제 3 색상 정보를 갖는 제 3 이미지를 생성하는 동작을 포함한다.
본 발명의 다양한 실시예에 따른 전자 장치(예를 들면, 이미지 처리 장치)는 이미지 센서를 통해 획득되는 이미지의 색 재현성 또는 색 해상도를 향상시킬 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는 컬러 및 백색 픽셀들이 설정된 패턴으로 배열된 이미지센서를 포함하며, 이미지 센서 모듈을 픽셀 단위로 구동하여 다수 개의 이미지를 획득할 수 있고, 이러한 이미지들을 색상 정보에 기반하여 처리함으로서 색표현성이 향상된 이미지를 제공할 수 있다.
도 1은 다양한 실시예들에 따른 네트워크 환경 시스템을 도시한다.
도 2는 다양한 실시예들에 따른 전자 장치의 블록도를 도시한다.
도 3은 다양한 실시예들에 따른 프로그래밍 모듈의 블록도를 도시한다.
도 4는 다양한 실시예에 따른 전자 장치의 블록도를 도시한다.
도 5는 다양한 실시예에 따른 전자 장치에서 이미지 센서 모듈을 도시한다.
도 6은 다양한 실시예에 따른 전자 장치의 이미지 센서에 포함되는 픽셀들을 도시한다.
도 7은 다양한 실시예에 따른 전자 장치의 이미지 센서에 포함되는 픽셀들을 설명하기 위해 도시한다.
도 8a 및 8b은 다양한 실시예에 따른 전자 장치의 이미지 센서에 포함되는 픽셀 어레이를 도시한다.
도 9a 및 9b는 다양한 이미지 센서로부터 출력되는 이미지들을 도시한다.
도 10은 다양한 실시예에 따른 전자 장치의 블록도를 도시한다.
도 11은 다양한 실시예에 따른 전자 장치의 동작 방법을 설명하기 위해 도시한다.
도 12 내지 도 21은 다양한 실시예에 따른 전자 장치의 동작 방법을 설명하기 위해 도시한다.
도 22는 다양한 실시예에 따른 전자 장치의 동작 방법의 흐름도를 도시한다.
도 23은 다양한 실시예에 따른 전자 장치의 동작 방법의 흐름도를 도시한다.
이하, 본 문서의 다양한 실시예들이 첨부된 도면을 참조하여 기재된다. 실시예 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B" 또는 "A 및/또는 B 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1," "제 2," "첫째," 또는 "둘째,"등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서, "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, 하드웨어적 또는 소프트웨어적으로 "~에 적합한," "~하는 능력을 가지는," "~하도록 변경된," "~하도록 만들어진," "~를 할 수 있는," 또는 "~하도록 설계된"과 상호 호환적으로(interchangeably) 사용될 수 있다. 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 스마트폰, 태블릿 PC, 이동 전화기, 영상 전화기, 전자책 리더기, 데스크탑 PC, 랩탑 PC, 넷북 컴퓨터, 워크스테이션, 서버, PDA, PMP(portable multimedia player), MP3 플레이어, 의료기기, 카메라, 또는 웨어러블 장치 중 적어도 하나를 포함할 수 있다. 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드 또는 문신), 또는 생체 이식형 회로 중 적어도 하나를 포함할 수 있다. 어떤 실시예들에서, 전자 장치는, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스, 홈 오토매이션 컨트롤 패널, 보안 컨트롤 패널, 미디어 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 드론(drone), 금융 기관의 ATM, 상점의 POS(point of sales), 또는 사물 인터넷 장치 (예: 전구, 각종 센서, 스프링클러 장치, 화재 경보기, 온도조절기, 가로등, 토스터, 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다. 어떤 실시예에 따르면, 전자 장치는 가구, 건물/구조물 또는 자동차의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터, 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에서, 전자 장치는 플렉서블하거나, 또는 전술한 다양한 장치들 중 둘 이상의 조합일 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1을 참조하여, 다양한 실시예에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다. 버스(110)는 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 또는 데이터)을 전달하는 회로를 포함할 수 있다. 프로세서(120)는, 중앙처리장치, 어플리케이션 프로세서, 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(API)(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템으로 지칭될 수 있다. 커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여하고, 상기 하나 이상의 작업 요청들을 처리할 수 있다. API(145)는 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다. 입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달하거나, 또는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템 (MEMS) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 및/또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다. 통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제 2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.
무선 통신은, 예를 들면, LTE, LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용하는 셀룰러 통신을 포함할 수 있다. 한 실시예에 따르면, 무선 통신은, 예를 들면, WiFi(wireless fidelity), 블루투스, 블루투스 저전력(BLE), 지그비(Zigbee), NFC(near field communication), 자력 시큐어 트랜스미션(Magnetic Secure Transmission), 라디오 프리퀀시(RF), 또는 보디 에어리어 네트워크(BAN) 중 적어도 하나를 포함할 수 있다. 한실시예에 따르면, 무선 통신은 GNSS를 포함할 수 있다. GNSS는, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 “Beidou”) 또는 Galileo, the European global satellite-based navigation system일 수 있다. 이하, 본 문서에서는, “GPS”는 “GNSS”와 상호 호환적으로 사용될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 전력선 통신, 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 텔레커뮤니케이션 네트워크, 예를 들면, 컴퓨터 네트워크(예: LAN 또는 WAN), 인터넷, 또는 텔레폰 네트워크 중 적어도 하나를 포함할 수 있다.
제 1 및 제 2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 다양한 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버(106)에서 실행될 수 있다. 한 실시예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시예에 따른 전자 장치(201)의 블록도이다. 전자 장치(201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서(예: AP)(210), 통신 모듈(220), (가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 이미지 센서 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298) 를 포함할 수 있다. 프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210) 는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드)하여 처리하고, 결과 데이터를 비휘발성 메모리에 저장할 수 있다.
통신 모듈(220)(예: 통신 인터페이스(170))와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227), NFC 모듈(228) 및 RF 모듈(229)를 포함할 수 있다. 셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP)를 포함할 수 있다. 어떤 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다. RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버, PAM(power amp module), 주파수 필터, LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다. 가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 또는 임베디드 SIM을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(230)(예: 메모리(130))는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM, SRAM, 또는 SDRAM 등), 비휘발성 메모리(예: OTPROM(one time programmable ROM), PROM, EPROM, EEPROM, mask ROM, flash ROM, 플래시 메모리, 하드 드라이브, 또는 솔리드 스테이트 드라이브 (SSD) 중 적어도 하나를 포함할 수 있다. 외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱 등을 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적으로 또는 물리적으로 연결될 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 센서 모듈(240)은, 예를 들면, 후각(e-nose) 센서, 일렉트로마이오그라피(EMG) 센서, 일렉트로엔씨팔로그램(EEG) 센서, 일렉트로카디오그램(ECG) 센서, IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 전자 장치(201)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.
입력 장치(250)는, 예를 들면, 터치 패널(252), (디지털) 펜 센서(254), 키(256), 또는 초음파 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다. (디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(예: 마이크(288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 프로젝터(266), 및/또는 이들을 제어하기 위한 제어 회로를 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게, 투명하게, 또는 착용할 수 있게 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나 이상의 모듈로 구성될 수 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 인터페이스(270)는, 예를 들면, HDMI(272), USB(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278)를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(145)에 포함될 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다. 이미지 센서 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, 이미지 시그널 프로세서(ISP), 또는 플래시(예: LED 또는 xenon lamp 등)를 포함할 수 있다. 전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 한 실시예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC, 또는 배터리 또는 연료 게이지를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지 및/또는 태양 전지를 포함할 수 있다.
인디케이터(297)는 전자 장치(201) 또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동, 또는 햅틱 효과 등을 발생시킬 수 있다. 전자 장치(201)는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있는 모바일 TV 지원 장치(예: GPU)를 포함할 수 있다. 본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예에서, 전자 장치(예: 전자 장치(201))는 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함하거나, 또는, 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시예에 따른 프로그램 모듈의 블록도이다. 한 실시예에 따르면, 프로그램 모듈(310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다. 도 3을 참조하면, 프로그램 모듈(310)은 커널(320)(예: 커널(141)), 미들웨어(330)(예: 미들웨어(143)), (API(360)(예: API(145)), 및/또는 어플리케이션(370)(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치 상에 프리로드 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 다운로드 가능하다.
커널(320)은, 예를 들면, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수를 수행할 수 있다. 한 실시예에 따르면, 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부를 포함할 수 있다. 디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다. 미들웨어(330)는, 예를 들면, 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 사용할 수 있도록 API(360)를 통해 다양한 기능들을 어플리케이션(370)으로 제공할 수 있다. 한 실시예에 따르면, 미들웨어(330) 는 런타임 라이브러리(335), 어플리케이션 매니저(341), 윈도우 매니저(342), 멀티미디어 매니저(343), 리소스 매니저(344), 파워 매니저(345), 데이터베이스 매니저(346), 패키지 매니저(347), 커넥티비티 매니저(348), 노티피케이션 매니저(349), 로케이션 매니저(350), 그래픽 매니저(351), 또는 시큐리티 매니저(352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(335)는, 예를 들면, 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수 처리를 수행할 수 있다. 어플리케이션 매니저(341)는, 예를 들면, 어플리케이션(370)의 생명 주기를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용되는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(343)는 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱을 이용하여 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(344)는 어플리케이션(370)의 소스 코드 또는 메모리의 공간을 관리할 수 있다. 파워 매니저(345)는, 예를 들면, 배터리의 용량 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보를 제공할 수 있다. 한 실시예에 따르면, 파워 매니저(345)는 바이오스(BIOS: basic input/output system)와 연동할 수 있다. 데이터베이스 매니저(346)는, 예를 들면, 어플리케이션(370)에서 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다.
커넥티비티 매니저(348)는, 예를 들면, 무선 연결을 관리할 수 있다. 노티피케이션 매니저(349)는, 예를 들면, 도착 메시지, 약속, 근접성 알림 등의 이벤트를 사용자에게 제공할 수 있다. 로케이션 매니저(350)는, 예를 들면, 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는, 예를 들면, 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(352)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다. 한 실시예에 따르면, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화(telephony) 매니저 또는 전술된 구성요소들의 기능들의 조합을 형성할 수 있는 하는 미들웨어 모듈을 포함할 수 있다. 한 실시예에 따르면, 미들웨어(330)는 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다. API(360)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(370)은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 와치(384), 헬스 케어(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보(예: 기압, 습도, 또는 온도 정보) 제공 어플리케이션을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 전자 장치와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 노티피케이션 릴레이 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리 어플리케이션을 포함할 수 있다. 예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션에서 발생된 알림 정보를 외부 전자 장치로 전달하거나, 또는 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 또는 외부 전자 장치에서 동작하는 어플리케이션을 설치, 삭제, 또는 갱신할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션)을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치로부터 수신된 어플리케이션을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어(예: 프로세서(210)), 또는 이들 중 적어도 둘 이상의 조합으로 구현(예: 실행)될 수 있으며, 하나 이상의 기능을 수행하기 위한 모듈, 프로그램, 루틴, 명령어 세트 또는 프로세스를 포함할 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. "모듈"은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있으며, 예를 들면, 어떤 동작들을 수행하는, 알려졌거나 앞으로 개발될, ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays), 또는 프로그램 가능 논리 장치를 포함할 수 있다.
다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는 프로그램 모듈의 형태로 컴퓨터로 판독 가능한 저장 매체(예:메모리(130))에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(예: 자기테이프), 광기록 매체(예: CD-ROM, DVD, 자기-광 매체 (예: 플롭티컬 디스크), 내장 메모리 등을 포함할 수 있다. 명령어는 컴파일러에 의해 만들어지는 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는 카메라 장치 및 이미지 센서 모듈을 포함하는 전자 장치를 포함할 수 있다. 본 발명의 실시예에 따른 전자 장치는 이미지 센서 모듈을 통해 제1 색상정보를 가지는 제1 이미지를 획득하고, 이미지 센서 모듈을 설정된 픽셀 단위로 이동하여 제2 색상 정보를 가지는 제2 이미지를 획득한 후, 제1 이미지 및 제2 이미지를 처리하여 제3이미지를 생성할 수 있다. 본 발명의 다양한 실시예에 따른 이미지 센서 모듈은 색상 정보를 획득하는 픽셀 센서 및 밝기 정보를 획득하는 픽셀 센서들을 포함할 수 있다. 예를 들면, 제1 이미지는 컬러 및 밝기 정보를 획득하는 픽셀 센서들을 통해 획득되는 혼합 색 상의 이미지이며, 제2 이미지는 제1 이미지가 설정된 픽셀 단위로 이동된 혼합 색 상의 이미지가 될 수 있다. 혼합 색 상의 이미지는 컬러 및 밝기 정보들이 혼합된 이미지를 의미할 수 있다. 픽셀 단위는 1/2 픽셀, 1 픽셀 또는 2 픽셀 이상의 단위를 가질 수 있으며, 이동 방향은 상,하,좌,우 또는 대각선 방향이 될 수 있다. 다양한 실시예에 따르면, 본 문서에서 사용된 용어 ‘픽셀 센서’는 ‘픽셀’ 용어와 상호 호환적으로 사용될 수 있다.
도 4는 다양한 실시예에 따른 전자 장치의 블록도를 도시한다.
도 4를 참조하면, 다양한 실시예에 따른 전자 장치(예를 들면, 이미지 처리 장치)는, 이미지 센서 모듈(401), 구동 모듈(403), 이미지 처리 모듈(405) 및 프로세서(407)를 포함할 수 있다. 이하에서는. 다양한 실시예에 따른 이미지 처리 장치가 전자 장치에 대응되는 것으로 설명한다.
이미지 센서 모듈(401)은 도 2에서 설명한 이미지 센서 모듈(291)과 대응될 수 있다. 이미지 센서 모듈(401)은 렌즈와 이미지 센서를 포함할 수 있다. 이미지 센서 모듈(401)은 외부 객체에 대응하는 이미지를 획득할 수 있다. 이미지 센서는 적어도 두 개 이상의 혼합색 정보, 예를 들면 백색(w) 정보 또는 밝기 정보를 감지할 수 있는 픽셀 센서를 포함할 수 있다. 예를 들면 이미지 센서는 R(red), G(green), B(blue)픽셀 센서들과 W(white) 픽셀 센서가 설정된 패턴으로 배열되는 픽셀 어레이를 포함할 수 있다.
구동 모듈(403)은 이미지 센서 모듈(401)의 적어도 일부(예: 렌즈, 이미지 센서)을 픽셀 단위로 이동시킬 수 있다. 상기 구동 모듈(403)은 이미지 센서 모듈(401)에서 획득되는 이미지들의 일부가 서로 다른 색상 정보를 포함하도록 이미지 센서 모듈(401)의 렌즈 및/또는 이미지 센서를 지정된 픽셀 단위로 이동시킬 수 있다. 이미지 센서 모듈(401)(예: 이미지 센서)이 백색 픽셀 또는 밝기 픽셀 센서를 포함하는 경우, 구동 모듈(403)은 픽셀 이동된 이미지의 적어도 일부가 픽셀 이동되지 않은 이미지의 색상정보를 포함하며 백색 정보는 다른 픽셀 위치를 갖도록 이미지 센서를 이동시킬 수 있다.
지정된 픽셀 단위는 1/2 픽셀, 1 픽셀 또는 2 픽셀 이상의 간격이 될 수 있다. 구동 모듈(403)은 프로세서(407)로부터 결정된 이미지 센서 모듈(401)의 이동 방향에 따라, 이미지 센서 모듈(401)을 이동시킬 수 있다. 이미지 센서 모듈(401)의 이동 방향은 상, 하, 좌, 우 또는 대각선 방향 등이 될 수 있다.
이미지 처리 모듈(405)은 이미지 센서(513)로부터 출력되는 이미지들을 처리할 수 있다.
프로세서(407)는 도 2에서 설명한 어플리케이션 프로세서(210)과 대응될 수 있다. 프로세서(407)는 외부 객체의 속성, 전자 장치의 세팅, 또는 전자 장치의 주변 환경과 관련된 상황 정보를 획득할 수 있다. 예를 들면, 프로세서(407)는 조도 조건, 자동 노출(automatic exposure) 조건 또는 설정 조건을 확인하여 상황 정보를 획득할 수 있다. 프로세서(407)는 상황 정보에 기반하여, 촬영 모드를 결정할 수 있다. 프로세서(407)는 결정된 촬영 모드에 따라 구동 모듈(403)의 구동을 제어하여 촬영 동작을 제어할 수 있다.
상기 이미지 처리 모듈(405)는 이미지 센서 모듈(401) 내에 구비될 수 있다. 이미지 처리 모듈(405)은 프로세서(407) 내에 구비될 수 있다. 또한 이미지 처리 모듈(405)의 일부 기능은 이미지 센서 모듈(401) 내에 구비되고, 이미지 처리 모듈(405)의 다른 일부 기능은 프로세서(407) 내에 구비될 수 있다. 본 발명의 다양한 실시예에 따르면, 이미지 센서 모듈(401)로부터 획득한 제 1 이미지 및 제 2 이미지를 기반으로 제 3 이미지를 생성하는 경우, 전자 장치(101)(예: 프로세서(407))는 이미지 센서 모듈(401) 내에서 제 3 이미지를 처리한 후 이미지 처리 모듈(405)로 전달할 수 있다. 이하의 설명에서는 이미지 처리 모듈(405)이 프로세서(407) 내에 포함되는 것으로 예로들어 설명하기로 한다.
프로세서(407)는 디스플레이(예를 들면 도 2의 260)에 이미지 데이터를 출력하는 그래픽 처리 모듈(graphic processor unit module)(도시하지 않음)을 더 포함할 수 있다. 프로세서(407)는 이미지 센서 모듈(401)에서 출력되는 이미지를 처리하여 디스플레이에 프리뷰 이미지로 처리할 수 있으며, 사용자의 제어에 의해 정지 이미지 또는 동영상 이미지로 처리하여 메모리(예를 들면 도 2의 230)에 저장할 수 있다.
도 5는 다양한 실시예에 따른 전자 장치에서 이미지 센서 모듈을 도시한다.
도 5를 참조하면, 다양한 실시예에 따른 이미지 센서 모듈(401)은, 커버부재(509) 렌즈(501), 렌즈 배럴(503), 코일부(505), 자석부(507), 베이스(515), 이미지 센서(513) 및 회로 기판(517)을 포함할 수 있다.
커버부재(509)는 이미지 센서 모듈(401)의 외곽을 형성할 수 있다. 커버부재(509)는 내부 공간에 배치되는 다양한 구성들을 보호할 수 있다.
렌즈(501)는 다수 개의 렌즈(501)들을 포함할 수 있다. 렌즈(501)로부터 들어온 영상은 이미지 센서(513)로 전달될 수 있다.
렌즈 배럴(503)은 렌즈(501)를 수용할 수 있다. 렌즈 배럴(503)의 외측에는 코일부(505)가 배치될 수 있다. 자석부(507)는 코일부(505)와 대응되는 위치에 배치될 수 있다. 자석부(507)는 코일부(505)와 마주보게 배치될 수 있다. 다양한 실시예에 따르면, 전자 장치(101)는 OIS(optical image stabilizer) 구동 모듈(1001)을 이용하여, 자석부(507)와 코일부(505)의 전자기장 또는 자기장의 상호 작용을 통해 렌즈(501)를 이동하여 사용자의 흔들림을 보정(optical image stabilizer, OIS)할 수 있다. 예를 들면, 전자 장치(101)는 코일부(505)에 전원이 인가되고, 코일부(505)에서 발생하는 전자기장과 자석부(507)에서 발생하는 자기장의 상호 작용에 의해 렌즈(501)를 이동할 수 있다. 이를 통해 전자 장치(101)는 사용자의 손떨림을 감지하여, 렌즈(501)를 떨림의 반대 방향으로 이동함으로써, 이미지 번짐을 방지할 수 있다. 다양한 실시예에 따르면, 전자 장치(101)는 사용자의 손떨림을 감지하여, 이미지 센서(513)를 떨림의 반대 방향으로 이동함으로써, 이미지 번짐을 방지할 수도 있다.
베이스(515)는 커버부재(509)와 결합될 수 있다. 베이스(515)는 커버부재(509)의 하측을 지지할 수 있다. 베이스(515) 상에는 이미지 센서(513)와 대응되는 위치에 적외선 차단 필터가 추가로 배치될 수 있다. 베이스(515)는 이미지 센서(513)를 보호하는 센서 홀더 기능을 할 수 있다.
이미지 센서(513)는 회로 기판(517) 상에 배치될 수 있다. 이미지 센서(513)는 와이어 본딩에 의해 회로 기판(517)에 전기적으로 연결되거나, 또는 전기전도성 페이스트를 이용하여 플립 본딩될 수도 있다.
회로 기판(517)은 다수의 회로패턴(도시하지 않음)을 포함하고 이미지 센서(513)를 이용하여 변환된 신호를 이미지 처리 모듈(405)로 전달할 수 있다.
이미지 센서(513)는 컬러 픽셀 센서들 및 백색 픽셀들이 설정된 패턴으로 배열되는 픽셀 어레이를 포함할 수 있다. 픽셀 어레이는 렌즈(501)를 통하여 입사된 외부 객체의 광학적 영상 신호를 전기적 영상 신호로 변환한다. 도 6은 다양한 실시예에 따른 전자 장치의 이미지 센서에 포함되는 픽셀들을 도시한다.
도 6에 도시된 바와 같이, 각각의 픽셀(601)은 광 신호를 전기적 신호로 변환할 수 있다. 각각의 픽셀(601)은 적어도 하나 이상의 마이크로 렌즈(도시하지 않음), 적어도 하나 이상의 컬러 필터(color filter)(621), 적어도 하나 이상의 포토다이오드(photodiodes)(633)를 포함할 수 있다.
마이크로 렌즈는 외부로부터 입사된 광을 집광할 수 있다.
컬러 필터(621)는 레드(red) 필터, 그린(green) 필터 및 블루(blue) 필터, 화이트(white) 필터, 시안(cyan) 필터, 마젠타(magenta) 필터 및 옐로우(yellow) 필터 중 적어도 어느 하나를 포함할 수 있다.
포토다이오드(633)는 광 신호를 전기적 신호로 변환할 수 있다.
도 7은 다양한 실시예에 따른 전자 장치의 이미지 센서에 포함되는 픽셀들을 설명하기 위해 도시한다.
도 6 및 도 7에 도시된 바와 같이, 레드 필터는 적색 파장 대역의 빛을 통과시킬 수 있다. 예를 들면, 레드 필터를 포함하는 R 픽셀(601)은 적색 정보(이하, R 색상 정보라 칭함)를 감지할 수 있다. 그린 필터는 녹색 파장 대역의 빛을 통과시킬 수 있다. 예를 들면, 그린 필터를 포함하는 G 픽셀(601)은 녹색 정보(이하, G 색상 정보라 칭함)를 감지할 수 있다. 블루 필터는 청색 파장 대역의 빛을 통과시킬 수 있다. 예를 들면, 블루 필터를 포함하는 B 픽셀(601)은 청색 정보(이하, B 색상 정보라 칭함)를 감지할 수 있다. 화이트 필터는 가시 광선 영역의 모든 파장 대역의 빛을 통과시킬 수 있다. 예를 들면, 화이트 필터를 포함하는 W 픽셀(601)은 밝기 정보 또는 백색 정보(이하, W 색상 정보라 칭함)를 감지할 수 있다. 시안 필터는 녹색 파장 및 청색 파장 대역의 빛을 통과시킬 수 있다. 예를 들면, 시안 필터를 포함하는 C 픽셀(601)은 녹색 정보 및 청색 정보를 포함하는 시안 색상 정보(이하, C 색상 정보라 칭함)를 감지할 수 있다. 마젠타 필터는 적색 파장 및 청색 파장 대역의 빛을 통과시킬 수 있다. 예를 들면, 마젠타 필터를 포함하는 M 픽셀(601)은 적색 정보 및 청색 정보를 포함하는 마젠타 색상 정보(이하, M 색상 정보라 칭함)를 감지할 수 있다. 옐로우 필터는 적색 파장 및 녹색 파장 대역의 빛을 통과시킬 수 있다. 예를 들면, 옐로우 필터를 포함하는 Y 픽셀(601)은 적색 정보 및 녹색 정보를 포함하는 옐로우 색상 정보(이하, Y 색상 정보라 칭함)를 감지할 수 있다.
도 8a 및 도 8b는 다양한 실시예에 따른 전자 장치의 이미지 센서에 포함되는 픽셀 어레이를 도시한다
도 8a 및 도 8b와 같은 픽셀 어레이는 CCD(charge coupled devices) 또는 CMOS(complementary metal oxide semiconductor) 소자로 구현될 수 있다. 이외에도, 다양한 종류의 광전변환소자가 2차원으로 배치된 것일 수 있다. 픽셀 어레이는 픽셀 유닛 단위로 동일 패턴의 픽셀들이 반복되는 구조를 가질 수 있다. 도 8a의 픽셀 어레이는 베이어 패턴의 픽셀 어레이 구조이며, 참조번호 821과 같은 패턴의 RGB 픽셀 유닛(821)이 반복되는 구조를 가질 수 있다. 예를 들면, RGB 픽셀 유닛(821)은 1개의 R 픽셀, 2 개의 G 픽셀 및 1개의 B 픽셀로 구성될 수 있다. 도 8b는 컬러 픽셀들 및 백색 픽셀들이 설정된 패턴으로 배열되는 픽셀 어레이 구조를 도시하고 있다. 예를 들면, 4개의 픽셀들이 하나의 픽셀 유닛(823)으로 구성될 때, 픽셀 유닛(823)은 컬러 정보를 가지는 R,G,B 픽셀들과 밝기 정보를 가지는 W 픽셀을 포함할 수 있다.
도 8a와 같은 베이어 패턴의 픽셀 어레이를 가지는 이미지 센서에서 획득되는 이미지는 해상도 및 색 재현성에 유리할 수 있다. 베이어 패턴의 픽셀 어레이를 가지는 이미지 센서에서 획득되는 이미지는 저조도에서 촬영시 이미지 획득이 불가능하거나, 저조도 고감도로 촬영할 때 많은 노이즈를 수반할 수 있다. 도 8b와 같은 백색 픽셀을 포함하는 픽셀 어레이를 가지는 이미지센서는 저조도 촬영에서 유리할 수 있다. 도 8b와 같은 구조를 가지는 이미지 센서는 도 8a와 같은 구조를 가지는 이미지 센서에 비해 상대적으로 해상도 및 색 재현성이 좋지 않을 수 있다.
도 9a 및 도 9b는 다양한 이미지 센서로부터 출력되는 이미지들의 예를 도시한다.
예를 들면, 도 9a에 도시된 이미지는 도 8a와 같은 구조를 가지는 이미지 센서(513)를 통해 출력되는 이미지의 예이고, 도 9b에 도시된 이미지는 도 8b와 같은 RGBW 픽셀 유닛(823)을 가지는이미지 센서(513)를 통해 출력되는 이미지의 예를 도시하고 있다. 이 경우, 도 9b에 도시된 이미지가 도 9a에 도시된 이미지에 비해 색 재현성 및 색 해상도가 떨어질 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치(101)는 도 8b와 같이 컬러 픽셀 및 백색 픽셀들이 설정된 패턴으로 배열된 픽셀 어레이를 포함하는 이미지 센서(513)를 포함할 수 있다. 전자 장치(101)는 촬영모드에 따라 이미지 센서 모듈을 통해 생성되는 이미지들을 처리하여 색 재현성 및/또는 색 해상도를 향상시킬 수 있다.
도 10은 다양한 실시예에 따른 전자 장치의 블록도를 도시한다.
도 10에 도시된 바와 같이, 구동 모듈(403)은 이미지 센서 모듈(401)을 구동할 수 있다. 구동 모듈(403)은 엑츄에이터(1001), 픽셀 이동 설정 모듈(1003) 및 자이로 센서(1005)를 포함할 수 있다. 구동 모듈(403)은 손떨림 보정 기능을 포함할 수 있다. 전자 장치(101)는 엑츄에이터(1001)를 통해 렌즈(501) 또는 이미지 센서(513)를 이동시킴으로써 이미지 간에 픽셀을 이동할 수 있다. 액츄에이터(1001)는 프로세서 407의 제어하에 렌즈(501) 또는 이미지 센서(513)를 지정된 픽셀 단위로 이동할 수 있도록 구동할 수 있다. 픽셀 단위는 1/2 픽셀, 1 픽셀 또는 2 픽셀 등 다양한 픽셀 단위로 정의될 수 있다. 예를 들면, 액츄에이터(1001)는 이미지 센서 모듈(401)을 지정된 방향 및 픽셀 단위로 이동시킬 수 있는 픽셀 쉬프터(pixel shifter) 기능을 가질 수 있다. 액츄에이터(1001)는 프로세서(407)의 제어하에 이미지 처리 모듈(405)의 픽셀 유닛 내에서 픽셀 이동되는 이미지의 백색 픽셀 위치가 픽셀 이동 전의 이미지의 백색 픽셀 위치와 다른 위치가 되도록 픽셀 쉬프트 기능을 수행할 수 있다. 예를 들면 이미지 센서(513)가 RGBW 픽셀 패턴을 가지는 경우, 픽셀 이동 전의 픽셀 유닛과 이후 픽셀 유닛의 신호를 처리할 때 RGB 베이어 패턴(bayer pattern)의 색상 정보들을 포함할 수 있도록 픽셀을 이동할 수 있다.
픽셀 이동 설정 모듈(1003)는 픽셀 이동 시, 픽셀의 이동 방향 또는 픽셀 단위의 이동 거리를 설정할 수 있다. 자이로 센서(1005)는 사용자의 손떨림을 감지할 수 있고, 픽셀 이동 설정 모듈(1003)를 통해 액츄에이터(1001)를 구동할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치(101)(예: 프로세서(407))는 액츄에이터(1001)를 이용하여 이미지 센서 모듈(401)의 픽셀 쉬프트 동작을 수행할 수 있다. 예를 들면, 프로세서(407)는 제 2 이미지를 획득하는 경우, 픽셀 이동 설정모듈(1003)에 지정된 단위의 픽셀 이동 제어 데이터를 출력할 수 있다. 픽셀 이동 설정모듈(1003)은 엑츄에이터 (1001)에 지정된 픽셀 단위의 이동을 설정하고, 엑츄에이터(1001)는 이미지 센서 모듈(401)의 렌즈 또는 이미지 센서를 지정된 픽셀 단위로 이동시킬 수 있다.
프로세서(407)는 촬영모드에 따라 이미지 센서 모듈(401)의 동작을 제어할 수 있다. 다양한 실시예에 따르면, 복수의 이미지를 획득하는 촬영 모드인 경우, 프로세서(407)는 이미지 센서 모듈(401)을 통해 외부 객체에 대응하는 제 1 색상 정보를 갖는 제 1 이미지를 획득할 수 있다. 프로세서(407)은 이미지 센서 모듈(401)을 지정된 픽셀 단위로 픽셀 쉬프트시킬 수 있다. 프로세서 (407)는 획득된 제 1 이미지에 대하여 지정된 픽셀 단위로 이동된 상기 외부 객체에 대응하는 제 2 색상 정보를 갖는 제 2 이미지를 획득할 수 있다. 제1 이미지 및 제2 이미지에 기반하여, 프로세서(407)는 제 1 색상 정보와 제 2 색상 정보에 적어도 기반하여 외부 객체에 대응하는 제 3 색상 정보를 갖는 제 3 이미지를 생성할 수 있다.
이미지 센서 모듈(401)은 이미지 센서(513) 및 렌즈(501)를 포함할 수 있다. 이미지 센서는 두 개 이상의 혼합색 정보, 예로 백색(W) 픽셀 또는 밝기 픽셀을 포함할 수 있다. 다양한 실시예에 따르면, 제1 색상정보 및 제2 색상정보는 혼합 색 상 정보가 될 수 있다. 예를 들면 혼합 색 상 정보는 컬러 픽셀 정보 및 백색 픽셀 정보가 혼합된 정보가 될 수 있다. 예를 들면 백색 정보는 R 픽셀 정보, G 픽셀 정보, B 픽셀 정보가 혼합된 정보가 될 수 있다
다양한 실시예에 따르면, 프로세서(407)는 외부 객체의 속성, 전자 장치(101)의 세팅 또는 전자 장치(101)의 주변 환경과 관련된 상황 정보를 획득할 수 있으며, 상황 정보에 적어도 기반하여 지정된 픽셀 단위를 동적으로 조정할 수 있는 촬영모드를 설정할 수 있다. 예를 들면, 전자 장치(101)는 주변 환경의 밝기를 감지할 수 있는 센서를 포함할 수 있다. 프로세서(407)는 센서를 이용하여 주변 환경의 밝기 정보를 획득하고, 획득된 주변 환경의 밝기 정보에 기반하여 제 2 이미지를 획득하는 촬영 모드를 설정할 수 있다. 예를 들면 프로세서(407)는 G 픽셀의 선명도가 높은 이미지를 획득하기 위한 사용자 세팅에 의해 지정된 픽셀 단위를 동적으로 조정할 수 있다. 예를 들면, 전자 장치(예: 프로세서(407))는 제 1 색상 정보를 W 픽셀 정보를 가지고 있는 경우, 제 2 색상 정보는 지정된 픽셀 단위를 동적으로 조정하여 G 픽셀 정보를 획득하도록 조정할 수 있다.
프로세서(407)는 제 1 색상 정보의 적어도 일부와 상기 제 2 색상 정보의 적어도 일부를 합성하여 제 3 색상 정보의 적어도 일부를 생성하도록 설정될 수 있다.
전자 장치(101)는 이미지 센서 모듈(401)의 이미지 센서(513) 또는 렌(501)즈를 지정된 픽셀 단위로 쉬프트시킬 수 있는 구동 모듈(403)을 포함할 수 있다. 그리고 프로세서(407)는 구동 모듈(403)을 제어하여 상기 제 2 색상 정보의 적어도 일부는 제 1 색상 정보의 적어도 일부와 서로 다른 색상 정보를 포함하도록 렌즈 또는 이미지 센서(513)를 지정된 픽셀 단위로 이동시키도록 설정할 수 있다.
제 1 색상 정보의 적어도 일부가 백색 정보를 포함하면(즉, 이미지 센서 모듈(401)이 백색 픽셀을 포함하면), 프로세서(407)는 구동 모듈(403)을 제어하여 제 2 색상 정보의 적어도 일부는 컬러 정보(예를 들면 적색 정보, 녹색 정보, 또는 청색 정보 등)를 포함하도록 이미지 센서 모듈(401)의 렌즈(501) 또는 상기 이미지 센서(513)를 지정된 픽셀 단위로 이동시킬 수 있다.
프로세서(407)는 구동 모듈(403)을 제어하여 제 2 색상 정보의 적어도 일부는 상기 제 1 색상 정보의 적어도 일부와 외부 객체의 동일한 위치의 색상 정보를 포함하도록 이미지 센서 모듈(401)의 렌즈(501) 또는 상기 이미지 센서(513)를 지정된 픽셀 단위로 이동시킬 수 있다.
프로세서(407)는 구동 모듈(403)을 제어하여 제1 이미지 및 제2 이미지에서 백색 정보를 가지는 백색 픽셀의 위치는 픽셀 유닛 내에서 서로 다른 위치가 되도록 픽셀을 쉬프트시킬 수 있다.
도 11은 다양한 실시예에 따른 전자 장치의 동작 방법을 설명하기 위해 도시한다. 도 12 내지 도 21은 다양한 실시예에 따른 전자 장치의 동작 방법을 설명하기 위해 도시한다.
도 11의 (a)에 도시된 바와 같이, 전자 장치(101)(예: 이미지 센서 모듈(401))는 렌즈(501)로부터 외부 객체에 대응하는 제1 이미지(1101)를 획득할 수 있다. 제1 이미지(1101)는 제1 색상 정보(1211)를 포함할 수 있다. 렌즈(501) 또는 이미지 센서(513)의 이동을 통해 도 11의 (b)에 도시된 바와 같이, 제1 이미지(1101)에 대하여 픽셀 단위로 이동된 제2 이미지(1103)를 획득할 수 있다. 제2 이미지(1103)는 제2 색상 정보(1213)를 포함할 수 있다.
도 12의 (a)는 이미지 센서(513)에 포함되는 픽셀 어레이(813)를 도시한다. 픽셀 어레이(813)는 RGBW 픽셀 유닛(823)을 포함할 수 있다. 픽셀 어레이(813)는 RGBW 픽셀 유닛(823)을 구성하는 1개의 R 픽셀, 1개의 G 픽셀, 1개의 B 픽셀 및 1개의 W 픽셀들을 포함할 수 있다. 다양한 실시예에 따르면, 외부 객체에 대응하는 제1 촬영 시, 픽셀들(1201)로부터, (b)에 도시된 제1 색상 정보(1211)를 갖는 제1 이미지(1101)를 획득할 수 있다. 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 3시 방향과 6시 방향으로 1 픽셀 단위로 이동시킬 수 있다. 예를 들면, 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 3시 방향으로 1 픽셀 및 6시 방향으로 1 픽셀을 이동시킬 수 있다. 픽셀 이동 후 외부 객체에 대응하는 제2 촬영 시, 픽셀들(1203)로부터 제2 색상 정보(1213)를 갖는 제2 이미지(1103)를 획득할 수 있다.
제1 색상 정보(1211)는 G(-1,1) 픽셀에 대응하는 G(-1,1) 색상 정보, R(0,1) 픽셀에 대응하는R(0,1) 색상 정보, B(-1,0) 픽셀에 대응하는 B(-1,0) 색상 정보 및 W(0,0) 픽셀에 대응하는 W(0,0) 색상 정보를 포함할 수 있다.
제2 색상 정보(1213)는 W(0,0) 픽셀에 대응하는 W’(0,0) 색상 정보, B(1,0) 픽셀에 대응하는 B’(1,0) 색상 정보, R(0,-1)에 대응하는 R’(0,-1) 색상 정보 및 G(1,-1) 픽셀에 대응하는 G’(1,-1) 색상 정보를 포함할 수 있다.
다양한 실시예에 따르면, 제1 이미지(1101)의 W(0,0) 색상 정보는 제2 이미지(1103)에서 G’(1,-1) 색상 정보와 대응되는 위치에 위치하고, 전자 장치(102(예: 이미지 처리 모듈(405))는 W(0,0) 색상 정보를 G’(1,-1) 색상 정보로 대체 또는 합성하여 처리할 수 있다. 예를 들면, 전자 장치(101)(예: 이미지 처리 모듈(405))는 (f)에 도시된 제3 색상 정보(1237)를 갖는 제3 이미지(1235)를 생성할 수 있다. 예를 들면, 전자 장치(101)(예: 이미지 처리 모듈(405))는 제1 색상 정보(1211)의 적어도 일부와 제2 색상 정보(1213)의 적어도 일부를 합성하여 제3 색상 정보(1237)를 갖는 제3 이미지(1235)를 생성함으로써, 색 해상도 또는 색 재현성을 향상할 수 있다.
다양한 실시예에 따르면, 전자 장치(101)는 액츄에이터(1001)를 이용하여 제2 색상 정보(1213)의 적어도 일부가 제1 색상 정보(1211)의 적어도 일부와 서로 다른 색상 정보를 포함하도록 렌즈(501) 또는 이미지 센서(513)를 픽셀 단위로 이동할 수 있다. 예를 들면, 전자 장치(101)는 액츄에이터(1001)를 이용하여 제1 색상 정보(1211)가 백색 정보인 W 색상 정보를 포함하는 경우, 제2 색상 정보(1213)의 적어도 일부는 R 색상 정보, G 색상 정보, 또는 B 색상 정보를 포함하도록 렌즈(501) 또는 이미지 센서(513)를 픽셀 단위로 이동할 수 있다. 전자 장치(101)는 액츄에이터(1001)를 이용하여 제2 색상 정보(1213)의 적어도 일부는 제1 색상 정보(1211)의 적어도 일부와 서로 실질적으로 동일한(substantially same (or identical same)) 색상 정보를 포함하도록 렌즈(501) 또는 이미지 센서(513)를 지정된 픽셀 단위로 이동할 수 있다. 또는, 전자 장치(101)는 액츄에이터(1001)를 이용하여 이미지 처리 모듈(405)에서 처리하기 유용한 색상 정보를 발생시키는 방향으로 픽셀 단위로 이동할 수 있다. 예를 들면 도 12에 도시된 바와 같이, 이미지 센서(513)가 RGBW 픽셀 유닛(823)을 포함하는 경우, 전자 장치(101)는 픽셀 이동 이후 생성되는 제3 색상 정보(1237)가 RGB 베이어 패턴의 색상 정보들을 포함할 수 있도록 픽셀 단위로 이동할 수 있다.
다양한 실시예에 따르면 이미지 처리 모듈(405)에서는, 제3 이미지의 RGB 색상 정보를 YUV 데이터로 변환할 수 있다. 다양한 실시예에 따르면 이미지 센서(513)가 YUV 센서일 경우, YUV 신호를 RGB 데이터로 변환할 수도 있다.
다양한 실시예에 따르면 도 13에 도시된 바와 같이, 전자 장치(101)는 외부 객체에 대응하는 제1 촬영 시 픽셀들(1301)로부터, (b)에 도시된 제1 색상 정보(1321)를 갖는 제1 이미지(1311)를 획득할 수 있다. 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 9시 방향과 6시 방향으로 1 픽셀 단위로 이동시킬 수 있다. 예를 들면, 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 9시 방향으로 1 픽셀 및 6시 방향으로 1 픽셀 이동하도록 구동할 수 있다. 이동에 기반하여, 전자 장치(101)는 외부 객체에 대응하는 제2 촬영 시 픽셀들(1303)로부터 (c)에 도시된 제2 색상 정보(1323)를 갖는 제2 이미지(1313)를 획득할 수 있다.
다양한 실시예에 따르면 제1 이미지(1311)의 W(0,0) 색상 정보는 제2 이미지(1313)에서 G’(-1,-1) 색상 정보와 대응되는 위치에 위치하고, 전자 장치(예: 이미지 처리 모듈(405))는 W(0,0) 색상 정보를 G’(1,-1) 색상 정보로 대체 또는 합성하여 처리할 수 있다. 예를 들면, 전자 장치(101)(예: 이미지 처리 모듈(405))는 (f)에 도시된 제3 색상 정보(1337)를 갖는 제3 이미지(1335)를 생성할 수 있다.
다양한 실시예에 따르면 도 14에 도시된 바와 같이, 전자 장치(101)는 외부 객체에 대응하는 제1 촬영 시 픽셀들(1401)로부터, (b)에 도시된 제1 색상 정보(1421)를 갖는 제1 이미지(1411)를 획득할 수 있다. 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 3시 방향과 12시 방향으로 1 픽셀 단위로 이동시킬 수 있다. 예를 들면, 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 3시 방향으로 1 픽셀 및 12시 방향으로 1 픽셀 이동하도록 구동할 수 있다. 이동에 기반하여, 전자 장치(101)는 외부 객체에 대응하는 제2 촬영 시 픽셀들(1403)로부터 (c)에 도시된 제2 색상 정보(1423)를 갖는 제2 이미지(1413)를 획득할 수 있다.
다양한 실시예에 따르면, 제1 이미지(1411)의 W(0,0) 색상 정보는 제2 이미지(1413)에서 G’(1,1) 색상 정보와 대응되는 위치에 위치하고, 전자 장치(예: 이미지 처리 모듈(405))는 W(0,0) 색상 정보를 G’(1,1) 색상 정보로 대체하여 처리할 수 있다. 예를 들면, 전자 장치(예: 이미지 처리 모듈(405))는 (f)에 도시된 제3 색상 정보(1437)를 갖는 제3 이미지(1435)를 생성할 수 있다.
다양한 실시예에 따르면 도 15에 도시된 바와 같이, 전자 장치(101)는 외부 객체에 대응하는 제1 촬영 시 픽셀들(1501)로부터, (b)에 도시된 제1 색상 정보(1521)를 갖는 제1 이미지(1511)를 획득할 수 있다. 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 9시 방향과 12시 방향으로 1 픽셀 단위로 이동시킬 수 있다. 예를 들면, 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 9시 방향으로 1 픽셀 및 12시 방향으로 1 픽셀 이동하도록 구동할 수 있다. 이동에 기반하여, 전자 장치(101)는 외부 객체에 대응하는 제2 촬영 시 픽셀들(1503)로부터 (c)에 도시된 제2 색상 정보(1523)를 갖는 제2 이미지(1513)를 획득할 수 있다.
다양한 실시예에 따르면 제1 이미지(1511)의 W(0,0) 색상 정보는 제2 이미지(1513)에서 G’(-1,1) 색상 정보와 대응되는 위치에 위치하고, 전자 장치(예: 이미지 처리 모듈(405))는 W(0,0) 색상 정보를 G’(-1,1) 색상 정보로 대체하여 처리할 수 있다. 예를 들면, 전자 장치(101)(예: 이미지 처리 모듈(405))는 (f)에 도시된 제3 색상 정보(1537)를 갖는 제3 이미지(1535)를 생성할 수 있다.
다양한 실시예에 따르면 도 16의 (a)는 이미지 센서(513)에 포함되는 픽셀 어레이(1601)를 도시한다. 픽셀 어레이(1601)는 RGBW 픽셀 유닛(1611)을 포함할 수 있다. 픽셀 어레이(1601)는 RGBW 픽셀 유닛(1611)을 구성하는 1개의 R 픽셀, 2개의 G 픽셀. 1개의 B 픽셀 및 4개의 W 픽셀들을 포함할 수 있다. 외부 객체에 대응하는 제1 촬영 시, 전자 장치(101)는 픽셀들(1621)로부터, (b)에 도시된 제1 색상 정보(1635)를 갖는 제1 이미지(1631)를 획득할 수 있다. 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 3시 방향으로 1 픽셀 이동할 수 있다. 예를 들면, 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 3시 방향으로 1 픽셀 이동하도록 구동할 수 있다. 이동에 기반하여, 전자 장치(101)는 외부 객체에 대응하는 제2 촬영 시, 픽셀들(1623)로부터 (c)에 도시된 제2 색상 정보(1637)를 갖는 제2 이미지(1633)를 획득할 수 있다.
제1 색상 정보(1635)는 W(-1,1) 픽셀에 대응하는 W(-1,1) 색상 정보, W(0,0) 픽셀에 대응하는 W(0,0) 색상 정보, W(-1,-1) 픽셀에 대응하는 W(-1,-1) 색상 정보 및 W(0,-2) 픽셀에 대응하는 W(0,-2) 색상 정보를 포함할 수 있다.
다양한 실시예에 따르면 제1 이미지(1631)에 따른 제1 색상 정보(1635)의 W(-1,1) 색상 정보, W(0,0) 색상 정보, W(-1,-1) 색상 정보 및 W(0,-2) 색상 정보 각각은, 제2 이미지(1633)에 따른 제2 색상 정보(1637)의 G’(0, 1) 색상 정보, B’(1,0) 색상 정보, G’(0,-1) 색상 정보 및 R’(1,-2) 색상 정보와 대응될 수 있다. 이에 따라, (d)에 도시된 바와 같이, 이미지 처리 모듈(405)는 W(-1,1) 색상 정보를 G’(0, 1) 색상 정보로, W(0,0) 색상 정보를 B’(1,0) 색상 정보로, W(-1,-1) 색상 정보를 G’(0,-1) 색상 정보로, W(0,-2) 색상 정보를 R’(1,-2) 색상 정보로 대체 또는 합성하여 처리할 수 있다. 예를 들면, 이미지 처리 모듈(405)는 RGB 베이어 패턴의 색상 정보들을 포함하는 제3 색상 정보(1641)를 생성하여 제3 이미지(1651)를 생성할 수 있다.
다양한 실시예에 따르면 도 17에 도시된 바와 같이, 전자 장치(101)는 외부 객체에 대응하는 제1 촬영 시, 픽셀들(1721)로부터, (b)에 도시된 제1 색상 정보(1735)를 갖는 제1 이미지(1731)를 획득할 수 있다. 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 9시 방향으로 1 픽셀 이동할 수 있다. 예를 들면, 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 9시 방향으로 1 픽셀 이동하도록 구동할 수 있다. 이동에 기반하여, 전자 장치(101)는 외부 객체에 대응하는 제2 촬영 시, 픽셀들(1723)로부터 (c)에 도시된 제2 색상 정보(1737)를 갖는 제2 이미지(1733)를 획득할 수 있다.
다양한 실시예에 따르면 제1 이미지(1731)에 따른 제1 색상 정보(1735)의 W(-1,1) 색상 정보, W(0,0) 색상 정보, W(-1,-1) 색상 정보 및 W(0,-2) 색상 정보 각각은, 제2 이미지(1733)에 따른 제2 색상 정보(1737)의 G’(-2, 1) 색상 정보, R’(-1,0) 색상 정보, G’(-2,-1) 색상 정보 및 B’(-1,-2) 색상 정보와 대응될 수 있다. 이에 따라, (d)에 도시된 바와 같이, 이미지 처리 모듈(405)는 W(-1,1) 색상 정보를 G’(-2, 1) 색상 정보로, W(0,0) 색상 정보를 R’(-1,0) 색상 정보로, W(-1,-1) 색상 정보를 G’(-2,-1) 색상 정보로, W(0,-2) 색상 정보를 B’(-1,-2) 색상 정보로 대체 또는 합성하여 처리할 수 있다. 예를 들면, 이미지 처리 모듈(405)는 RGB 베이어 패턴의 색상 정보들을 포함하는 제3 색상 정보(1741)를 생성하여 제3 이미지(1751)를 생성할 수 있다.
다양한 실시예에 따르면, 도 18에 도시된 바와 같이, 전자 장치(101)는 외부 객체에 대응하는 제1 촬영 시, 픽셀들(1821)로부터, (b)에 도시된 제1 색상 정보(1835)를 갖는 제1 이미지(1831)를 획득할 수 있다. 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 12시 방향으로 1 픽셀 이동할 수 있다. 예를 들면, 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 12시 방향으로 1 픽셀 이동하도록 구동할 수 있다. 이동에 기반하여, 전자 장치(101)는 외부 객체에 대응하는 제2 촬영 시, 픽셀들(1823)로부터 (c)에 도시된 제2 색상 정보(1837)를 갖는 제2 이미지(1833)를 획득할 수 있다.
다양한 실시예에 따르면 제1 이미지(1831)에 따른 제1 색상 정보(1835)의 W(-1,1) 색상 정보, W(0,0) 색상 정보, W(-1,-1) 색상 정보 및 W(0,-2) 색상 정보 각각은, 제2 이미지(1833)에 따른 제2 색상 정보(1837)의 B’(-1, 2) 색상 정보, G’(0,1) 색상 정보, R’(-1,0) 색상 정보 및 G’(0,-1) 색상 정보와 대응될 수 있다. 이에 따라, (d)에 도시된 바와 같이, 이미지 처리 모듈(405)는 W(-1,1) 색상 정보를 B’(-1, 2) 색상 정보로, W(0,0) 색상 정보를 G’(0,1) 색상 정보로, W(-1,-1) 색상 정보를 R’(-1,0) 색상 정보로, W(0,-2) 색상 정보를 G’(0,-1) 색상 정보로 대체 또는 합성하여 처리할 수 있다. 예를 들면, 이미지 처리 모듈(405)는 RGB 베이어 패턴의 색상 정보들을 포함하는 제3 색상 정보(1841)을 생성하여 제3 이미지(1851)를 생성할 수 있다.
다양한 실시예에 따르면, 도 19에 도시된 바와 같이, 전자 장치(101)는 외부 객체에 대응하는 제1 촬영 시, 픽셀들(1921)로부터, (b)에 도시된 제1 색상 정보(1935)를 갖는 제1 이미지(1931)를 획득할 수 있다. 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 6시 방향으로 1 픽셀 이동할 수 있다. 예를 들면, 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 6시 방향으로 1 픽셀 이동하도록 구동할 수 있다. 이동에 기반하여, 전자 장치(101)는 외부 객체에 대응하는 제2 촬영 시, 픽셀들(1923)로부터 (c)에 도시된 제2 색상 정보(1937)를 갖는 제2 이미지(1933)를 획득할 수 있다.
다양한 실시예에 따르면 제1 이미지(1931)에 따른 제1 색상 정보(1935)의 W(-1,1) 색상 정보, W(0,0) 색상 정보, W(1,1) 색상 정보 및 W(2,0) 색상 정보 각각은, 제2 이미지(1933)에 따른 제2 색상 정보(1937)의 R’(-1, 0) 색상 정보, G’(0,-1) 색상 정보, B’(1,0) 색상 정보 및 G’(2, 1) 색상 정보와 대응될 수 있다. 이에 따라, (d)에 도시된 바와 같이, 이미지 처리 모듈(405)는 W(-1,1) 색상 정보를 B’(-1, 2) 색상 정보로, W(0,0) 색상 정보를 G’(0,-1) 색상 정보로, W(1,1) 색상 정보를 B’(1,0) 색상 정보로, W(2,0) 색상 정보를 G’(2, 1) 색상 정보로 대체 또는 합성하여 처리할 수 있다. 예를 들면, 이미지 처리 모듈(405)는 RGB 베이어 패턴의 색상 정보들을 포함하는 제3 색상 정보(1941)을 생성하여 제3 이미지(1951)를 생성할 수 있다.
다양한 실시예에 따르면, 제1 색상 정보(1635, 1735, 1835, 1935)에서 W 색상 정보를 제2 색상 정보(1637, 1737, 1837, 1937)의 R 색상 정보, G 색상 정보 또는 B 색상 정보로 대체하여 처리하는 것으로 도시하였으나, 실시예가 이에 한정되는 것은 아니다. 따라서, 제2 색상 정보(1637, 1737, 1837, 1937)의 W 색상 정보를 제1 색상 정보(1635, 1735, 1835, 1935)의 R 색상 정보, G 색상 정보 또는 B 색상 정보로 대체하여 처리할 수도 있다.
또한, 도면에서는 두 번 촬영하여 두 개의 이미지를 획득한 후 제3 이미지를 생성하는 것으로 도시하였으나, 실시예가 이에 한정되는 것은 아니다. 따라서, 두 번 이상 촬영하여 다수 개의 이미지를 획득한 후 제3 이미지를 생성할 수도 있다. 예를 들면, 다수 개의 이미지를 통해 하나의 W 색상 정보를 다수 개의 색상 정보로 대체 또는 합성하여 처리할 수도 있다.
다양한 실시예에 따르면, 도 20의 (a)에 도시된 바와 같이, 픽셀 어레이(2001)는 RBW 픽셀 유닛(2011)을 포함할 수 있다. 픽셀 어레이(2001)는 RBW 픽셀 유닛(2011)을 구성하는 1개의 R 픽셀, 1개의 B 픽셀 및 2개의 W 픽셀들을 포함할 수 있다. 외부 객체에 대응하는 제1 촬영 시, 전자 장치(101)는 픽셀들(2031)로부터, (b)에 도시된 제1 색상 정보(2041)를 갖는 제1 이미지(2021)를 획득할 수 있다. 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 3시 방향으로 1 픽셀 이동할 수 있다. 예를 들면, (c)에 도시된 바와 같이, 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 3시 방향으로 1 픽셀 이동하도록 구동할 수 있다. 이동에 기반하여 전자 장치(101)는 외부 객체에 대응하는 제2 촬영 시, 픽셀들(2033)로부터 (d)에 도시된 제2 색상 정보(2043)를 갖는 제2 이미지(2023)를 획득할 수 있다. 전자 장치(101)(예: 이미지 처리 모듈(405))는 제1 색상 정보(2041)에 포함되는 W 색상 정보를 제2 색상 정보(2043)에 대응되는 R 색상 정보 또는 B 색상 정보로 대체 또는 합성할 수 있다. 이를 통해, (e)에 도시된 제3 색상 정보(2053)들을 생성하여 제3 이미지(2051)를 생성할 수 있다.
다양한 실시예에 따르면 도 21의 (a)에 도시된 바와 같이, 픽셀 어레이(2101)는 CMY 픽셀 유닛(2111)을 포함할 수 있다. 픽셀 어레이(2101)는 CMY 픽셀 유닛(2111)을 구성하는 1개의 R 픽셀, 1개의 B 픽셀, 1개의 C 픽셀 및 1개의 Y 픽셀을 포함할 수 있다. 외부 객체에 대응하는 제1 촬영 시, 전자 장치(101)는 픽셀들(2131)로부터, (b)에 도시된 제1 색상 정보(2141)를 갖는 제1 이미지(2121)를 획득할 수 있다. (c)에 도시된 바와 같이, 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 6시 방향으로 1 픽셀 이동할 수 있다. 예를 들면, 전자 장치(101)는 액츄에이터(1001)를 이용하여 렌즈(501) 또는 이미지 센서(513)를 6시 방향으로 1 픽셀 이동하도록 구동할 수 있다. 이동에 기반하여 전자 장치(101)는 외부 객체에 대응하는 제2 촬영 시, 픽셀들(2133)로부터 (d)에 도시된 제2 색상 정보(2143)를 갖는 제2 이미지(2123)를 획득할 수 있다. 전자 장치(101)(예: 이미지 처리 모듈(405))는 제1 색상 정보(2141)에 포함되는 C 색상 정보 및 Y 색상 정보를 제2 색상 정보(2143)에 포함되는 R 색상 정보 또는 B 색상 정보로 대체 또는 합성할 수 있다. 이를 통해, (e)에 도시된 제3 색상 정보(2153)들을 포함하는 제3 이미지(2151)를 생성할 수 있다. 다양한 실시예에 따르면 G 색상 정보는 하기와 같은 수학식 1 또는 수학식 2를 통해 검출할 수 있다. 또는, R 색상 정보는 하기와 같은 수학식 3을 통해 검출할 수 있다.
Figure pat00001
Figure pat00002
Figure pat00003
수학식 1을 참고하면, Y 색상 정보는 G 색상 정보 및 R 색상 정보를 합한 값이므로, G 색상 정보는 Y 색상 정보에서 R 색상 정보를 뺀 값으로 검출할 수 있다. 또는, 수학식 1로부터 R 색상 정보를 검출할 수도 있다. R 색상 정보는 Y 색상 정보에서 G 색상 정보를 뺀 값으로 검출할 수 있다. 수학식 2를 참조하면, C 색상 정보는 G 색상 정보 및 B 색상 정보를 합한 값이므로, G 색상 정보는 C 색상 정보에서 B 색상 정보를 뺀 값으로 검출할 수 있다. 또는, 수학식 2로부터 B 색상 정보를 검출할 수도 있다. B 색상 정보는 C 색상 정보에서 G 색상 정보를 뺀 값으로 검출할 수 있다. 수학식 3을 참조하면, M 색상 정보는 R 색상 정보 및 B 색상 정보를 합한 값이므로, R 색상 정보는 M 색상 정보에서 B 색상 정보를 뺀 값으로 검출할 수 있다. 또는, 수학식 3으로부터 B 색상 정보를 검출할 수도 있다. B 색상 정보는 M 색상 정보에서 R 색상 정보를 뺀 값으로 검출할 수 있다.
다양한 실시예에 따르면, 이미지 처리 장치(101)에 있어서, 렌즈(501)와 이미지 센서(513)를 포함하는 이미지 센서 모듈(401), 및 프로세서(407)를 포함하고, 프로세서(407)는 이미지 센서 모듈(401)을 이용하여 외부 객체에 대응하는, 제 1 색상 정보를 갖는 제 1 이미지를 획득하고, 제 1 이미지에 대하여 지정된 픽셀 단위로 이동된, 외부 객체에 대응하는, 제 2 색상 정보를 갖는 제 2 이미지를 획득하고, 및 제 1 색상 정보와 제 2 색상 정보에 적어도 기반하여, 외부 객체에 대응하는, 제 3 색상 정보를 갖는 제 3 이미지를 생성하도록 설정될 수 있다.
다양한 실시예에 따르면, 프로세서(407)는, 외부 객체의 속성,이미지 처리 장치(101)의 세팅, 또는 이미지 처리 장치(101)의 주변 환경과 관련된 상황 정보를 획득하고, 및 상황 정보에 적어도 기반하여, 지정된 픽셀 단위를 동적으로 조정하도록 설정될 수 있다.
다양한 실시예에 따르면, 이미지 센서(513)는 적어도 하나의, 백색 정보를 감지할 수 있는 픽셀을 포함할 수 있다.
다양한 실시예에 따르면, 프로세서(407)는, 제 1 색상 정보의 적어도 일부와 제 2 색상 정보의 적어도 일부를 합성하여 제 3 색상 정보의 적어도 일부를 생성하도록 설정될 수 있다.
다양한 실시예에 따르면, 액츄에이터(1001)를 더 포함하고, 프로세서(407)는, 상기 액츄에이터(1001)를 이용하여, 제 2 색상 정보의 적어도 일부는 제 1 색상 정보의 적어도 일부와 서로 다른 색상 정보를 포함하도록 렌즈(501) 또는 상기 이미지 센서(513)를 상기 지정된 픽셀 단위로 이동시키도록 설정될 수 있다.
다양한 실시예에 따르면, 액츄에이터(1001)를 더 포함하고, 프로세서(407)는, 제 1 색상 정보의 적어도 일부가 백색 정보를 포함하는 경우, 액츄에이터(1001)를 이용하여, 제 2 색상 정보의 적어도 일부는 적색 정보, 녹색 정보, 또는 청색 정보를 포함하도록 렌즈(501) 또는 이미지 센서(513)를 지정된 픽셀 단위로 이동시키도록 설정될 수 있다.
다양한 실시예에 따르면, 액츄에이터(1001)를 더 포함하고, 프로세서(407)는, 액츄에이터(1001)를 이용하여, 제 2 색상 정보의 적어도 일부를 상기 제 1 색상 정보의 적어도 일부와 서로 실질적으로 동일한 색상 정보를 포함하도록 렌즈(501) 또는 이미지 센서(513)를 지정된 픽셀 단위로 이동시키도록 설정될 수 있다.
다양한 실시예에 따르면, 프로세서(407)는, 이미지 센서(513)를 이용하여 밝기 정보를 획득하고, 및 감지된 밝기 정보에 기반하여, 제 2 이미지를 획득하도록 설정될 수 있다.
다양한 실시예에 따르면, 프로세서(407)는, 제 1 색상 정보의 적어도 일부인 백색 정보와 제 2 색상 정보의 적어도 일부인 적색 정보, 녹색 정보, 또는 청색 정보 중 어느 하나와 합성하도록 설정될 수 있다.
다양한 실시예에 따르면, 액츄에이터(1001)를 더 포함하고, 프로세서(407)는, 제 1 색상 정보의 적어도 일부가 시안(cyan) 색상 정보, 마젠타(magenta) 색상 정보, 또는 옐로우(yellow) 색상 정보를 포함하는 경우, 액츄에이터(1001)를 이용하여, 제 2 색상 정보의 적어도 일부는 적색 정보, 녹색 정보, 또는 청색 정보를 포함하도록 렌즈(501) 또는 이미지 센서(513)를 상기 지정된 픽셀 단위로 이동시키도록 설정될 수 있다.
도 22는 다양한 실시예에 따른 전자 장치의 동작 방법의 흐름도를 도시한다.
도 22를 참조하면, 전자 장치(101)(예: 이미지 센서 모듈(401))는 2201 동작에서 이미지 센서 모듈(401)을 통해 제1 색상 정보를 갖는 제1 이미지를 획득하는 동작을 수행할 수 있다.
전자 장치(101)(예: 프로세서(407))는 2203 동작에서 액츄에이터(1001)를 이용하여 이미지 센서 모듈(401)의 렌즈(501) 또는 이미지 센서(513)를 지정된 픽셀 단위로 이동하는 동작을 수행할 수 있다. 전자 장치(101)는 2203 동작에서 제1 색상 정보와 적어도 일부가 다른 색상 정보를 갖는 이미지를 획득할 수 있도록, 액츄에이터(1001)를 제어하여 이미지 센서 모듈(401)의 렌즈(501) 또는 이미지 센서(513)를 지정된 픽셀 단위로 이동시킬 수 있다. 예를 들어 제 1 색상 정보의 적어도 일부가 백색 정보를 포함하면(즉, 이미지 센서 모듈(401)이 백색 픽셀을 포함하면), 전자 장치는 2203 동작에서 액츄에이터(407)를 제어하여 제 2 색상 정보의 적어도 일부는 컬러 정보(예를 들면 적색 정보, 녹색 정보,또는 청색 정보 등)를 포함하도록 이미지 센서 모듈(401)의 렌즈 또는 상기 이미지 센서를 지정된 픽셀 단위로 이동시킬 수 있다.
전자 장치(101)(예: 프로세서(407))는 2205 동작에서 이미지 센서 모듈(401)을 통해 제2 색상 정보를 갖는 제2 이미지를 획득하는 동작을 수행할 수 있다. 전자 장치(101)(예: 프로세서(407))는 2205 동작에서 획득되는 제2 이미지는 2201 동작에서 획득된 제 1 이미지가 지정된 픽셀 단위로 쉬프트된 이미지를 획득할 수 있다. 상기 제 2 색상 정보의 적어도 일부는 제 1 색상 정보의 적어도 일부와 서로 다른 색상 정보를 포함할 수 있다. 상기 제 2 색상 정보의 적어도 일부는 상기 제 1 색상 정보의 적어도 일부와 서로 실질적으로 동일한 색상 정보를 포함할 수 있다.
전자 장치(101)(예: 프로세서(407))는 2207 동작에서 제1 이미지 및 제2 이미지를 합성하여 제3 색상 정보를 통해 제3 이미지를 생성할 수 있다. 전자 장치(101)는 2207 동작에서 제 1 색상 정보의 적어도 일부와 상기 제 2 색상 정보의 적어도 일부를 합성하여 제 3 색상 정보의 적어도 일부를 생성할 수 있다. 예를 들면 제1 이미지와 지정된 픽셀 단위로 이동된 제2 이미지를 합성할 때, 제1 이미지의 백색 픽셀 위치 정보를 픽셀 쉬프트된 제2 이미지의 컬러 픽셀 정보를 합성할 수 있다.
전자 장치(101)(예: 이미지 처리 모듈(405))는 2209 동작에서 획득한 제3 이미지를 처리할 수 있다. 전자 장치(101)는 2209 동작에서 이미지를 처리할 때, 컬러 픽셀 정보들로 이루어진 제3 이미지를 이용하여 색 해상도 및/또는 색 재현성이 향상된 이미지로 처리할 수 있다. 또한 전자 장치(101)(예: 프로세서(407))는 2209 동작에서 이미지를 처리할 때 제3 이미지 및 제1 이미지 및/또는 제2 이미지에서 획득된 백색 픽셀 정보를 이용하여 이미지를 처리할 수도 있다.
도 23은 다양한 실시예에 따른 전자 장치의 동작 방법의 흐름도를 도시한다.
다양한 실시예에 따르면, 도 23을 참조하면, 전자 장치(101)(예: 프로세서(407))는 2301 동작에서, 상황 정보를 획득할 수 있다. 전자 장치는 2301 동작에서, 외부 객체의 속성, 전자 장치의 세팅, 또는 전자 장치의 주변 환경과 관련된 상황 정보를 획득할 수 있다. 예를 들면, 전자 장치는 조도 조건, 자동 노출(automatic exposure) 조건 또는 설정 조건을 확인하여 상황 정보를 획득할 수 있다.
전자 장치(101)(예: 프로세서(407))는 상황 정보에 기반하여, 2303 동작에서 촬영 모드를 결정할 수 있다. 전자 장치(101)는 결정된 촬영 모드에 따라 이미지를 획득할 수 있다.
전자 장치(101)(예: 프로세서(407))는 2305 동작에서 제1 촬영 모드인지 판단할 수 있다. 전자 장치(101)는 제1 촬영 모드로 판단할 경우, 2307 동작에서 제1 촬영 모드 동작을 수행할 수 있다.
전자 장치(101)(예: 프로세서(407))는 2309 동작에서 제1 이미지를 획득할 수 있다.
전자 장치(101)(예: 프로세서(407))는 2311 동작에서 획득한 제1 이미지를 처리할 수 있다.
다양한 실시예에 따르면, 전자 장치(101)(예: 프로세서(407))는 2305 동작에서 제1 촬영 모드가 아니라고 판단할 경우, 2315 동작에서 제2 촬영 모드 동작을 수행할 수 있다. 제2 촬영 모드는 앞서 도 22에서 설명한 바에 대응될 수 있다. 동작 2317,2319, 2321, 2323, 및 2311은 동작 2201, 2203, 2205, 2207, 및 2208에 각각 대응될 수 있다.
다양한 실시예에 따르면, 이미지 센서 모듈(401) 및 프로세서(407)를 포함하는 이미지 처리 장치(101)에서, 렌즈(501)와 이미지 센서(513)를 포함하는 이미지 센서 모듈(401)을 통해 외부 객체에 대응하는, 제 1 색상 정보를 갖는 제 1 이미지를 획득하는 동작; 이미지 센서 모듈(401)을 통해 외부 객체에 대응하는, 지정된 픽셀 단위로 이동된, 제 2 색상 정보를 갖는 제 2 이미지를 획득하는 동작; 및 프로세서(407)를 이용하여, 제 1 색상 정보와 제 2 색상 정보에 적어도 기반하여, 외부 객체에 대응하는, 제 3 색상 정보를 갖는 제 3 이미지를 생성하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 제 2 이미지를 획득하는 동작은, 외부 객체의 속성, 이미지 처리 장치(101)의 세팅, 또는 이미지 처리 장치(101)의 주변 환경과 관련된 상황 정보를 획득하는 동작, 및 상황 정보에 적어도 기반하여, 지정된 픽셀 단위를 동적으로 조정하도록 설정하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 이미지 센서(513)를 통해 획득되는 제 1 이미지 및 제 2 이미지는, 적어도 하나의, 백색 정보를 포함할 수 있다.
다양한 실시예에 따르면, 제 3 이미지를 생성하는 동작은, 제 1 색상 정보의 적어도 일부와 상기 제 2 색상 정보의 적어도 일부를 합성하여 상기 제 3 색상 정보의 적어도 일부를 생성하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 이미지 처리 장치(101)는 액츄에이터(1001)를 더 포함하고, 제2 이미지를 획득하는 동작은, 액츄에이터(1001)를 이용하여, 제 2 색상 정보의 적어도 일부를 제 1 색상 정보의 적어도 일부와 서로 다른 색상 정보를 포함하도록 렌즈(501) 또는 이미지 센서(513)를 지정된 픽셀 단위로 이동하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 지정된 픽셀 단위로 이동하는 동작은, 제 1 색상 정보의 적어도 일부가 백색 정보를 포함하는 경우, 제 2 색상 정보의 적어도 일부는 적색 정보, 녹색 정보, 또는 청색 정보를 포함하도록 상기 렌즈(501) 또는 이미지 센서(513)를 이동하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 이미지 처리 장치(101)는 액츄에이터(1001)를 더 포함하고, 제 2 이미지를 획득하는 동작은, 액츄에이터(1001)를 이용하여, 제 2 색상 정보의 적어도 일부를 제 1 색상 정보의 적어도 일부와 서로 실질적으로 동일한 색상 정보를 포함하도록 렌즈(501) 또는 이미지 센서(513)를 이동하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 제 2 이미지를 획득하는 동작은, 이미지 센서(513)를 이용하여 밝기 정보를 획득하는 동작, 및 감지된 밝기 정보에 기반하여, 제 2 이미지를 획득하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 제 3 이미지를 생성하는 동작은, 제 1 색상 정보 중 백색 정보와 제 2 색상 정보 중 적색 정보, 녹색 정보, 또는 청색 정보 중 어느 하나와 합성하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 이미지 센서 모듈(401) 및 프로세서(407)를 포함하는 이미지 처리 장치(101)에서, 렌즈(501)와 이미지 센서(513)를 포함하는 이미지 센서 모듈(401)을 통해 외부 객체에 대응하는, 제 1 색상 정보를 갖는 제 1 이미지를 획득하는 동작; 이미지 센서 모듈(401)을 통해 외부 객체에 대응하는, 지정된 픽셀 단위로 이동된, 제 2 색상 정보를 갖는 제 2 이미지를 획득하는 동작; 및 프로세서(407)를 이용하여, 제 1 색상 정보와 제 2 색상 정보에 적어도 기반하여, 외부 객체에 대응하는, 제 3 색상 정보를 갖는 제 3 이미지를 생성하는 동작을 실행시키기 위한 프로그램을 기록한 컴퓨터로 판독 가능한 기록매체를 포함할 수 있다.
상술한 실시예에 설명된 특징, 구조, 효과 등은 본 발명의 적어도 하나의 실시예에 포함되며, 반드시 하나의 실시예에만 한정되는 것은 아니다. 나아가, 각 실시예에서 예시된 특징, 구조, 효과 등은 실시예들이 속하는 분야의 통상의 지식을 가지는 자에 의하여 다른 실시예들에 대해서도 조합 또는 변형되어 실시 가능하다. 따라서 이러한 조합과 변형에 관계된 내용들은 본 발명의 범위에 포함되는 것으로 해석되어야 할 것이다.
또한, 이상에서 실시예들을 중심으로 설명하였으나 이는 단지 예시일 뿐 본 발명을 한정하는 것이 아니며, 본 발명이 속하는 분야의 통상의 지식을 가진 자라면 본 실시예의 본질적인 특성을 벗어나지 않는 범위에서 이상에 예시되지 않은 여러 가지의 변형과 응용이 가능함을 알 수 있을 것이다. 예를 들어, 실시예들에 구체적으로 나타난 각 구성 요소는 변형하여 실시할 수 있는 것이다. 그리고 이러한 변형과 응용에 관계된 차이점들은 첨부한 청구 범위에서 규정하는 본 발명의 범위에 포함되는 것으로 해석되어야 할 것이다.

Claims (20)

  1. 이미지 처리 장치에 있어서,
    렌즈와 이미지 센서를 포함하는 이미지 센서 모듈, 및
    프로세서를 포함하고, 상기 프로세서는
    상기 이미지 센서 모듈을 이용하여 외부 객체에 대응하는, 제 1 색상 정보를 갖는 제 1 이미지를 획득하고,
    상기 제 1 이미지에 대하여 지정된 픽셀 단위로 이동된, 상기 외부 객체에 대응하는, 제 2 색상 정보를 갖는 제 2 이미지를 획득하고, 및
    상기 제 1 색상 정보와 상기 제 2 색상 정보에 적어도 기반하여, 상기 외부 객체에 대응하는, 제 3 색상 정보를 갖는 제 3 이미지를 생성하도록 설정된 이미지 처리 장치.
  2. 제 1 항에 있어서,
    상기 프로세서는,
    상기 외부 객체의 속성, 상기 이미지 처리 장치의 세팅, 또는 상기 이미지 처리 장치의 주변 환경과 관련된 상황 정보를 획득하고, 및
    상기 상황 정보에 적어도 기반하여, 상기 지정된 픽셀 단위를 동적으로 조정하도록 설정된 이미지 처리 장치.
  3. 제 1 항에 있어서,
    상기 이미지 센서는,
    적어도 하나의, 백색 정보를 감지할 수 있는 픽셀을 포함하는 이미지 처리 장치.
  4. 제 1 항에 있어서,
    상기 프로세서는,
    상기 제 1 색상 정보의 적어도 일부와 상기 제 2 색상 정보의 적어도 일부를 합성하여 상기 제 3 색상 정보의 적어도 일부를 생성하도록 설정된 이미지 처리 장치.
  5. 제 1 항에 있어서,
    액츄에이터를 더 포함하고, 상기 프로세서는,
    상기 액츄에이터를 이용하여, 상기 제 2 색상 정보의 적어도 일부는 상기 제 1 색상 정보의 적어도 일부와 서로 다른 색상 정보를 포함하도록 상기 렌즈 또는 상기 이미지 센서를 상기 지정된 픽셀 단위로 이동시키도록 설정된 이미지 처리 장치.
  6. 제 1 항에 있어서,
    액츄에이터를 더 포함하고, 상기 프로세서는,
    상기 제 1 색상 정보의 적어도 일부가 백색 정보를 포함하는 경우, 상기 액츄에이터를 이용하여, 상기 제 2 색상 정보의 적어도 일부는 적색 정보, 녹색 정보, 또는 청색 정보를 포함하도록 상기 렌즈 또는 상기 이미지 센서를 상기 지정된 픽셀 단위로 이동시키도록 설정된 이미지 처리 장치.
  7. 제 1 항에 있어서,
    액츄에이터를 더 포함하고, 상기 프로세서는,
    상기 액츄에이터를 이용하여, 상기 제 2 색상 정보의 적어도 일부를 상기 제 1 색상 정보의 적어도 일부와 서로 실질적으로 동일한 색상 정보를 포함하도록 상기 렌즈 또는 상기 이미지 센서를 상기 지정된 픽셀 단위로 이동시키도록 설정된 이미지 처리 장치.
  8. 제 1 항에 있어서,
    상기 프로세서는,
    상기 이미지 센서를 이용하여 밝기 정보를 획득하고, 및
    상기 감지된 밝기 정보에 기반하여, 상기 제 2 이미지를 획득하도록 설정된 이미지 처리 장치.
  9. 제 1 항에 있어서,
    상기 프로세서는,
    상기 제 1 색상 정보의 적어도 일부인 백색 정보와 상기 제 2 색상 정보의 적어도 일부인 적색 정보, 녹색 정보, 또는 청색 정보 중 어느 하나와 합성하도록 설정된 이미지 처리 장치.
  10. 제 1 항에 있어서,
    액츄에이터를 더 포함하고, 상기 프로세서는,
    상기 제 1 색상 정보의 적어도 일부가 시안(cyan) 색상 정보, 마젠타(magenta) 색상 정보, 또는 옐로우(yellow) 색상 정보를 포함하는 경우, 상기 액츄에이터를 이용하여, 상기 제 2 색상 정보의 적어도 일부는 적색 정보, 녹색 정보, 또는 청색 정보를 포함하도록 상기 렌즈 또는 상기 이미지 센서를 상기 지정된 픽셀 단위로 이동시키도록 설정된 이미지 처리 장치.
  11. 이미지 센서 모듈 및 프로세서를 포함하는 이미지 처리 장치에서, 렌즈와 이미지 센서를 포함하는 이미지 센서 모듈을 통해 외부 객체에 대응하는, 제 1 색상 정보를 갖는 제 1 이미지를 획득하는 동작;
    상기 이미지 센서 모듈을 통해 상기 외부 객체에 대응하는, 지정된 픽셀 단위로 이동된, 제 2 색상 정보를 갖는 제 2 이미지를 획득하는 동작; 및
    프로세서를 이용하여, 상기 제 1 색상 정보와 상기 제 2 색상 정보에 적어도 기반하여, 상기 외부 객체에 대응하는, 제 3 색상 정보를 갖는 제 3 이미지를 생성하는 동작을 포함하는 방법.
  12. 제 11 항에 있어서,
    상기 제2 이미지를 획득하는 동작은, 상기 외부 객체의 속성, 상기 이미지 처리 장치의 세팅, 또는 상기 이미지 처리 장치의 주변 환경과 관련된 상황 정보를 획득하는 동작, 및
    상기 상황 정보에 적어도 기반하여, 상기 지정된 픽셀 단위를 동적으로 조정하도록 설정하는 동작을 포함하는 방법.
  13. 제 11 항에 있어서,
    상기 이미지 센서를 통해 획득되는 제1 이미지 및 제2 이미지는,
    적어도 하나의, 백색 정보를 포함하는 방법.
  14. 제 11 항에 있어서,
    상기 제 3 이미지를 생성하는 동작은,
    상기 제 1 색상 정보의 적어도 일부와 상기 제 2 색상 정보의 적어도 일부를 합성하여 상기 제 3 색상 정보의 적어도 일부를 생성하는 동작을 포함하는 방법.
  15. 제 11 항에 있어서,
    상기 전자 장치는 액츄에이터를 더 포함하고,
    상기 제2 이미지를 획득하는 동작은,상기 액츄에이터를 이용하여, 상기 제 2 색상 정보의 적어도 일부를 상기 제 1 색상 정보의 적어도 일부와 서로 다른 색상 정보를 포함하도록 상기 렌즈 또는 상기 이미지 센서를 상기 지정된 픽셀 단위로 이동하는 동작을 포함하는 방법.
  16. 제 15 항에 있어서,
    상기 지정된 픽셀 단위로 이동하는 동작은,
    상기 제 1 색상 정보의 적어도 일부가 백색 정보를 포함하는 경우, 상기 제 2 색상 정보의 적어도 일부는 적색 정보, 녹색 정보, 또는 청색 정보를 포함하도록 상기 렌즈 또는 상기 이미지 센서를 이동하는 동작을 포함하는 방법.
  17. 제 15 항에 있어서,
    상기 이미지 처리 장치는 액츄에이터를 더 포함하고,
    상기 제 2 이미지를 획득하는 동작은,
    상기 액츄에이터를 이용하여, 상기 제 2 색상 정보의 적어도 일부를 상기 제 1 색상 정보의 적어도 일부와 서로 실질적으로 동일한 색상 정보를 포함하도록 상기 렌즈 또는 상기 이미지 센서를 이동하는 동작을 포함하는 방법.
  18. 제 11항에 있어서,
    상기 제 2 이미지를 획득하는 동작은,
    상기 이미지 센서를 이용하여 밝기 정보를 획득하는 동작, 및
    상기 감지된 밝기 정보에 기반하여, 상기 제 2 이미지를 획득하는 동작을 포함하는 방법.
  19. 제 11 항에 있어서,
    상기 제 3 이미지를 생성하는 동작은,
    상기 제 1 색상 정보 중 백색 정보와 상기 제 2 색상 정보 중 적색 정보, 녹색 정보, 또는 청색 정보 중 어느 하나와 합성하는 동작을 포함하는 방법.
  20. 이미지 센서 모듈 및 프로세서를 포함하는 이미지 처리 장치에서, 렌즈와 이미지 센서를 포함하는 이미지 센서 모듈을 통해 외부 객체에 대응하는, 제 1 색상 정보를 갖는 제 1 이미지를 획득하는 동작; 상기 이미지 센서 모듈을 통해 상기 외부 객체에 대응하는, 지정된 픽셀 단위로 이동된, 제 2 색상 정보를 갖는 제 2 이미지를 획득하는 동작; 및 프로세서를 이용하여, 상기 제 1 색상 정보와 상기 제 2 색상 정보에 적어도 기반하여, 상기 외부 객체에 대응하는, 제 3 색상 정보를 갖는 제 3 이미지를 생성하는 동작을 실행시키기 위한 프로그램을 기록한 컴퓨터로 판독 가능한 기록매체.
KR1020150149319A 2015-10-27 2015-10-27 이미지 처리 장치 및 이의 동작 방법 KR102469426B1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020150149319A KR102469426B1 (ko) 2015-10-27 2015-10-27 이미지 처리 장치 및 이의 동작 방법
PCT/KR2016/012069 WO2017074010A1 (en) 2015-10-27 2016-10-26 Image processing device and operational method thereof
EP16860193.8A EP3342161B1 (en) 2015-10-27 2016-10-26 Image processing device and operational method thereof
CN201680063180.5A CN108353152B (zh) 2015-10-27 2016-10-26 图像处理设备及其操作方法
US15/336,064 US10432904B2 (en) 2015-10-27 2016-10-27 Image processing device and operational method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150149319A KR102469426B1 (ko) 2015-10-27 2015-10-27 이미지 처리 장치 및 이의 동작 방법

Publications (2)

Publication Number Publication Date
KR20170048792A true KR20170048792A (ko) 2017-05-10
KR102469426B1 KR102469426B1 (ko) 2022-11-22

Family

ID=58559399

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150149319A KR102469426B1 (ko) 2015-10-27 2015-10-27 이미지 처리 장치 및 이의 동작 방법

Country Status (5)

Country Link
US (1) US10432904B2 (ko)
EP (1) EP3342161B1 (ko)
KR (1) KR102469426B1 (ko)
CN (1) CN108353152B (ko)
WO (1) WO2017074010A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190010180A (ko) * 2017-07-21 2019-01-30 삼성전자주식회사 이미지 데이터의 속성에 기반하여 이미지를 압축할 수 있는 전자 장치 및 방법
KR20200077984A (ko) * 2018-12-21 2020-07-01 삼성전자주식회사 다중 셀 구조의 카메라 모듈 및 그 카메라 모듈을 포함하는 휴대용 통신 장치

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107123096B (zh) * 2017-04-20 2018-11-06 腾讯科技（深圳）有限公司 Vr设备中的图像显示方法和装置以及vr设备
KR102507746B1 (ko) * 2018-03-02 2023-03-09 삼성전자주식회사 복수의 파장대역을 감지할 수 있는 카메라를 이용하여 복수의 정보를 생성하는 방법 및 이를 구현한 전자 장치
WO2019180571A1 (en) * 2018-03-18 2019-09-26 Unispectral Ltd. Generating narrow-band spectral images from broad-band spectral images
US10687033B2 (en) * 2018-09-24 2020-06-16 Google Llc Color imaging system
CN112839215B (zh) * 2019-11-22 2022-05-13 华为技术有限公司 摄像模组、摄像头、终端设备、图像信息确定方法及存储介质
KR20210074010A (ko) * 2019-12-11 2021-06-21 엘지이노텍 주식회사 이미지 처리 장치 및 이미지 처리 방법
CN111161642A (zh) * 2019-12-31 2020-05-15 山东中联晶智信息科技有限公司 一种具有红外线触控功能并实现3d播放的led显示屏
CN115280766B (zh) * 2020-03-06 2024-05-03 Oppo广东移动通信有限公司 图像传感器、成像装置、电子设备、图像处理系统及信号处理方法
CN112616009B (zh) * 2020-12-31 2022-08-02 维沃移动通信有限公司 电子设备及其摄像模组

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012084531A1 (de) * 2010-12-22 2012-06-28 Carl Zeiss Microimaging Gmbh Kamera mit einem farbbildsensor sowie aufnahmeverfahren mit einer solchen kamera
KR101499540B1 (ko) * 2008-10-24 2015-03-06 삼성전자주식회사 이미지 촬상 장치와 이를 이용한 이미지 처리 방법

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0251278B1 (en) 1986-06-30 1995-11-29 Konica Corporation Image processing method and apparatus therefor
US4873657A (en) 1987-11-13 1989-10-10 The United States Of America As Represented By The Secretary Of The Army Method for simulating an image by correllation
US6018363A (en) * 1994-04-28 2000-01-25 Canon Kabushiki Kaisha Image sensing apparatus with optical-axis deflecting device
US6195125B1 (en) * 1995-08-11 2001-02-27 Canon Kabushiki Kaisha Pixel shifting image sensor with a different number of images sensed in each mode
JP2003163940A (ja) * 2001-11-28 2003-06-06 Seiko Epson Corp ディジタルカメラ及びディジタルカメラによる撮像方法
JP4796755B2 (ja) * 2004-07-01 2011-10-19 Ｈｏｙａ株式会社 像ブレ補正装置
KR100821346B1 (ko) 2006-08-02 2008-04-10 삼성전자주식회사 화질이 향상되는 이미지 센서 및 이를 이용한 이미지 감지방법
JP2008072565A (ja) * 2006-09-15 2008-03-27 Ricoh Co Ltd 撮像装置及び欠陥画素補正方法
JP2009055273A (ja) * 2007-08-27 2009-03-12 Fujifilm Corp 固体撮像素子
JP2009290607A (ja) * 2008-05-29 2009-12-10 Hoya Corp 撮像装置
US9137503B2 (en) * 2010-11-03 2015-09-15 Sony Corporation Lens and color filter arrangement, super-resolution camera system and method
KR101836432B1 (ko) 2011-12-16 2018-03-12 삼성전자주식회사 촬상장치, 이미지 보정 방법 및 컴퓨터 판독가능 기록매체
JP6558088B2 (ja) * 2015-06-12 2019-08-14 リコーイメージング株式会社 撮影装置、撮影制御装置及び撮影制御方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101499540B1 (ko) * 2008-10-24 2015-03-06 삼성전자주식회사 이미지 촬상 장치와 이를 이용한 이미지 처리 방법
WO2012084531A1 (de) * 2010-12-22 2012-06-28 Carl Zeiss Microimaging Gmbh Kamera mit einem farbbildsensor sowie aufnahmeverfahren mit einer solchen kamera

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190010180A (ko) * 2017-07-21 2019-01-30 삼성전자주식회사 이미지 데이터의 속성에 기반하여 이미지를 압축할 수 있는 전자 장치 및 방법
US11323654B2 (en) 2017-07-21 2022-05-03 Samsung Electronics Co., Ltd Electronic device and method capable of compressing image on basis of attributes of image data
KR20200077984A (ko) * 2018-12-21 2020-07-01 삼성전자주식회사 다중 셀 구조의 카메라 모듈 및 그 카메라 모듈을 포함하는 휴대용 통신 장치

Also Published As

Publication number Publication date
CN108353152B (zh) 2021-07-23
CN108353152A (zh) 2018-07-31
EP3342161A1 (en) 2018-07-04
US20170118453A1 (en) 2017-04-27
WO2017074010A1 (en) 2017-05-04
KR102469426B1 (ko) 2022-11-22
EP3342161B1 (en) 2021-03-17
US10432904B2 (en) 2019-10-01
EP3342161A4 (en) 2018-09-12

Similar Documents

Publication Publication Date Title
KR102444085B1 (ko) 휴대용 통신 장치 및 휴대용 통신 장치의 영상 표시 방법
US10871798B2 (en) Electronic device and image capture method thereof
US10484589B2 (en) Electronic device and image capturing method thereof
KR102469426B1 (ko) 이미지 처리 장치 및 이의 동작 방법
US10469742B2 (en) Apparatus and method for processing image
US10764521B2 (en) Image sensor and electronic device comprising the same
US11138707B2 (en) Electronic device and method for processing multiple images
KR20180106076A (ko) 촬영 모드에 따라 이미지에 대한 표시자를 다르게 제공하는 방법 및 그 전자 장치
KR20170040572A (ko) 이미지 데이터를 생성하는 전자 장치 및 방법
KR102399764B1 (ko) 전자 장치 및 촬영 방법
KR20170097860A (ko) 디스플레이를 이용하여 이미지를 촬영하는 전자 장치 및 이미지 촬영 방법
US11039065B2 (en) Image signal processing method, image signal processor, and electronic device
US10467471B2 (en) Electronic device and method for authenticating biometric data through plural cameras
US10339672B2 (en) Method and electronic device for verifying light source of images
KR102433293B1 (ko) 전자 장치 및 전자 장치의 제어 방법
KR102477522B1 (ko) 전자 장치 및 그의 카메라 노출 조정 방법
KR20170112066A (ko) 이미지를 처리하기 위한 전자 장치 및 방법
KR20180038892A (ko) 영상 처리 방법 및 이를 지원하는 전자 장치
KR20180109204A (ko) 전자 장치 및 그의 이미지 처리 방법
KR102519803B1 (ko) 촬영 장치 및 그 제어 방법
KR20170046391A (ko) 영상 촬영 장치 및 방법
KR20170046404A (ko) 영상 촬영 장치 및 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant