KR102343453B1

KR102343453B1 - 음향 신호의 렌더링 방법, 장치 및 컴퓨터 판독 가능한 기록 매체

Info

Publication number: KR102343453B1
Application number: KR1020167030376A
Authority: KR
Inventors: 전상배; 김선민
Original assignee: 삼성전자주식회사
Priority date: 2014-03-28
Filing date: 2015-03-30
Publication date: 2021-12-27
Also published as: AU2015237402A1; AU2018204427B2; EP3110177B1; CA2944355A1; WO2015147619A1; US10382877B2; BR112016022559A2; KR102414681B1; PL3668125T3; EP3110177A4; EP3668125B1; KR20210157489A; KR20160141793A; RU2646337C1; CA3121989A1; CA3042818A1; EP4199544A1; CN108683984A; CA3042818C; CN106416301B

Abstract

22.2 채널과 같은 멀티 채널 신호를 5.1 채널로 렌더링 하는 경우, 2차원 출력 채널을 이용해 3차원 음향 신호를 재생할 수 있지만 입력 채널의 고도가 기준 고도와 다른 경우, 기준 고도에 따른 고도 렌더링 파라미터를 이용하면 음상의 왜곡이 발생하게 된다.
본 발명은 전술한 종래 기술의 문제점을 해결하며, 입력 채널의 고도가 기준 고도와 다른 경우라도 음상의 왜곡을 줄일 수 있도록 하기 위한 본 발명의 일 실시예에 따른 음향 신호를 렌더링하는 방법은, 복수 개의 출력 채널로 변환될 복수 개의 입력 채널을 포함하는 멀티채널 신호를 수신하는 단계; 각 출력 채널들이 고도감 있는 음상을 제공하도록 기준 고도각을 갖는 높이 입력 채널에 대한 고도 렌더링 파라미터를 획득하는 단계; 및 기준 고도각 이외의 소정의 고도각을 갖는 높이 입력 채널에 대하여 고도 렌더링 파라미터를 갱신하는 단계;를 포함한다.

Description

음향 신호의 렌더링 방법, 장치 및 컴퓨터 판독 가능한 기록 매체{METHOD AND APPARATUS FOR RENDERING ACOUSTIC SIGNAL, AND COMPUTER-READABLE RECORDING MEDIUM}

본 발명은 음향 신호를 렌더링하는 방법 및 그 장치에 대한 것으로, 보다 상세하게는, 입력 채널의 고도가 표준 레이아웃에 따른 고도보다 높거나 낮은 경우, 고도 패닝 계수 또는 고도 필터 계수를 수정함으로써 음상의 위치 및 음색을 보다 정확하게 재현하기 위한 렌더링 방법 및 장치에 관한 것이다.

입체 음향이란, 음의 고저, 음색뿐만 아니라 방향이나 거리감까지 재생하여 임장감을 가지게 하고, 음원이 발생한 공간에 위치하지 않은 청취자에게 방향감, 거리감 및 공간감을 지각할 수 있게 하는 공간 정보를 부가한 음향을 의미한다.

22.2 채널과 같은 채널 신호를 5.1 채널로 렌더링 하는 경우 2차원 출력 채널을 통해 3차원 입체 음향을 재생할 수 있지만, 입력 채널의 고도각이 기준 고도각과 차이가 있는 경우 기준 고도각에 따라 결정된 렌더링 파라미터들을 이용하여 입력 신호를 렌더링 하는 경우 음상의 왜곡이 발생하게 된다.

상술한 바와 같이 22.2 채널과 같은 멀티 채널 신호를 5.1 채널로 렌더링 하는 경우, 2차원 출력 채널을 이용해 3차원 음향 신호를 재생할 수 있지만 입력 채널의 고도각이 기준 고도각과 차이가 있는 경우 기준 고도각에 따라 결정된 렌더링 파라미터들을 이용하여 입력 신호를 렌더링 하는 경우 음상의 왜곡이 발생하게 된다.

본 발명은 전술한 종래 기술의 문제점을 해결하며, 입력 채널의 고도가 기준 고도보다 높거나 낮은 경우라도 음상의 왜곡을 줄일 수 있도록 하는 것을 그 목적으로 한다.

상기 목적을 달성하기 위한 본 발명의 대표적인 구성은 다음과 같다.

상기 기술적 과제를 해결하기 위한 본 발명의 일 실시예에 따른 음향 신호를 렌더링하는 방법은 복수 개의 출력 채널로 변환될 복수 개의 입력 채널을 포함하는 멀티채널 신호를 수신하는 단계; 각 출력 채널들이 고도감 있는 음상을 제공하도록 기준 고도각을 갖는 높이 입력 채널에 대한 고도 렌더링 파라미터를 획득하는 단계; 및 기준 고도각 이외의 소정의 고도각을 갖는 높이 입력 채널에 대하여 고도 렌더링 파라미터를 갱신하는 단계;를 포함한다.

본 발명에 의하면, 입력 채널의 고도가 기준 고도보다 높거나 낮은 경우라도 음상의 왜곡이 적어지도록 입체 음향 신호를 렌더링 할 수 있다.

도 1 은 일 실시 예에 의한 입체 음향 재생 장치의 내부 구조를 나타내는 블록도이다.
도 2 는 일 실시 예에 의한 입체 음향 재생 장치의 구성 중 렌더러의 구성을 나타내는 블록도이다.
도 3 은 일 실시 예에 의한 복수 개의 입력 채널이 복수 개의 출력 채널로 다운믹스 되는 경우의 각 채널의 레이아웃에 대한 도면이다.
도 4a 는 어퍼레이어 채널들을 정면에서 바라보았을 때의 채널 배치를 나타낸다.
도 4b는 어퍼레이어 채널들을 위에서 바라보았을 때의 채널 배치를 나타낸다.
도 4c 는 어퍼레이어 채널들의 배치를 3차원으로 나타낸 것이다.
도 5 는 일 실시 예에 의한 입체 음향 재생 장치의 구성 중 디코더 및 입체 음향 렌더러의 구성을 나타내는 블록도이다.
도 6 은 일 실시예에 있어서, 입체 음향 신호를 렌더링 하는 방법의 순서도이다.
도 7a 는 높이 채널의 고도가 각각 0도, 35도 및 45도 인 경우 일 실시예에 의한 각 채널의 위치를 나타낸 도면이다.
도 7b 는 도 7b 의 실시예에 의한 각 채널에서 음향 신호가 출력될 때, 청자의 좌우측 귀에 느껴지는 신호의 차이를 설명하기 위한 도면이다.
도 7c 는 일 실시예에 의한 채널의 고도각이 35도인 경우와 고도각이 45도인 경우 주파수에 따른 음색 필터의 특징을 나타낸 도면이다.
도 8 은 일 실시예에 있어서, 입력 채널의 고도각이 임계값 이상일 때, 좌우 음상이 역전되는 현상을 나타낸 도면이다.
도 9 는 또 다른 일 실시예에 있어서, 입체 음향 신호를 렌더링 하는 방법의 순서도이다.
도 10 및 도 11 은 하나 이상의 외부 장치와 음향 재생 장치로 구성되는 일 실시예에 있어서, 각 장치의 동작을 설명하기 위한 도면이다.

발명의 실시를 위한 최선의 형태

본 발명의 또 다른 실시예에 따르면, 고도 렌더링 파라미터는 고도 필터 계수 및 고도 패닝 계수 중 적어도 하나를 포함한다.

본 발명의 또 다른 실시예에 따르면, 고도 필터 계수는 HRTF의 동적 특성을 반영하여 계산된다.

본 발명의 또 다른 실시예에 따르면, 고도 렌더링 파라미터를 갱신하는 단계는, 기준 고도각 및 소정의 고도각에 기초하여, 고도 필터 계수에 가중치를 적용하는 단계;를 포함한다.

본 발명의 또 다른 실시예에 따르면, 가중치는, 소정의 고도각이 기준 고도각보다 작은 경우, 고도 필터 특징이 완만하게 나타나도록 결정되고, 소정의 고도각이 기준 고도각보다 큰 경우, 고도 필터 특징이 강하게 나타나도록 결정된다.

본 발명의 또 다른 실시예에 따르면, 고도 렌더링 파라미터를 갱신하는 단계는, 기준 고도각 및 소정의 고도각에 기초하여, 고도 패닝 계수를 갱신하는 단계;를 포함한다.

본 발명의 또 다른 실시예에 따르면, 소정의 고도각이 기준 고도각보다 작은 경우, 갱신된 고도 패닝 계수 중 소정의 고도각을 가지는 출력 채널과 동측상에 있는 출력 채널에 적용될 갱신된 고도 패닝 계수는, 갱신 전의 고도 패닝 계수보다 크고, 출력 채널 각각에 적용될 갱신된 고도 패닝 계수의 제곱의 합은 1이 된다.

본 발명의 또 다른 실시예에 따르면, 소정의 고도각이 기준 고도각보다 큰 경우, 갱신된 고도 패닝 계수 중 소정의 고도각을 가지는 출력 채널과 동측상에 있는 출력 채널에 적용될 갱신된 고도 패닝 계수는, 갱신 전의 고도 패닝 계수보다 작고, 출력 채널 각각에 적용될 갱신된 고도 패닝 계수의 제곱의 합은 1이 된다.

본 발명의 또 다른 실시예에 따르면, 고도 렌더링 파라미터를 갱신하는 단계는, 소정의 고도각이 임계값 이상인 경우, 기준 고도각 및 임계값에 기초하여, 고도 패닝 계수를 갱신하는 단계;를 포함한다.

본 발명의 또 다른 실시예에 따르면, 소정의 고도각을 입력받는 단계;를 더 포함한다.

본 발명의 또 다른 실시예에 따르면, 입력은 별도의 장치로부터 수신한다.

본 발명의 또 다른 실시예에 따르면, 갱신된 고도 렌더링 파라미터에 기초하여 수신한 멀티채널 신호를 렌더링하는 단계; 및 렌더링된 멀티채널 신호를 별도의 장치로 전송하는 단계;를 더 포함한다.

상기 기술적 과제를 해결하기 위한 본 발명의 일 실시예에 따른 음향 신호를 렌더링하는 장치는, 복수 개의 출력 채널로 변환될 복수 개의 입력 채널을 포함하는 멀티채널 신호를 수신하는 수신부; 및 각 출력 채널들이 고도감 있는 음상을 제공하도록 기준 고도각을 갖는 높이 입력 채널에 대한 고도 렌더링 파라미터를 획득하고, 기준 고도각 이외의 소정의 고도각을 갖는 높이입력 채널에 대하여 고도 렌더링 파라미터를 갱신하는 렌더링부;를 포함한다.

본 발명의 또 다른 실시예에 따르면, 갱신된 고도 렌더링 파라미터는, 기준 고도각 및 소정의 고도각에 기초하여, 가중치가 적용된 고도 필터 계수를 포함한다.

본 발명의 또 다른 실시예에 따르면, 갱신된 고도 렌더링 파라미터는, 기준 고도각 및 소정의 고도각에 기초하여 갱신된 고도 패닝 계수를 포함한다.

본 발명의 또 다른 실시예에 따르면, 갱신된 고도 렌더링 파라미터는, 소정의 고도각이 임계값 이상인 경우, 기준 고도각 및 임계값에 기초하여 갱신된 고도 패닝 계수를 포함한다.

본 발명의 또 다른 실시예에 따르면, 소정의 고도각을 입력받는 입력부;를 더 포함한다.

본 발명의 또 다른 실시예에 따르면, 렌더링부는, 갱신된 고도 렌더링 파라미터에 기초하여 수신한 멀티채널 신호를 렌더링하고, 장치는, 렌더링된 멀티채널 신호를 별도의 장치로 전송하는 전송부;를 더 포함한다.

한편, 본 발명의 일 실시예에 따르면, 전술한 방법을 실행하기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체를 제공한다.

이 외에도, 본 발명을 구현하기 위한 다른 방법, 다른 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체가 더 제공된다.

발명의 실시를 위한 형태

후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이러한 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다.

예를 들어, 본 명세서에 기재되어 있는 특정 형상, 구조 및 특성은 본 발명의 정신과 범위를 벗어나지 않으면서 일 실시예로부터 다른 실시예로 변경되어 구현될 수 있다. 또한, 각각의 실시예 내의 개별 구성요소의 위치 또는 배치도 본 발명의 정신과 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 행하여지는 것이 아니며, 본 발명의 범위는 특허청구범위의 청구항들이 청구하는 범위 및 그와 균등한 모든 범위를 포괄하는 것으로 받아들여져야 한다.

도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 구성요소를 나타낸다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.

이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 여러 실시예에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다.

명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.

이하 첨부된 도면을 참고하여 본 발명을 상세히 설명하기로 한다.

도 1 은 일 실시 예에 의한 입체 음향 재생 장치의 내부 구조를 나타내는 블록도이다.

일 실시 예에 의한 입체 음향 재생 장치(100)는 복수 개의 입력 채널이 재생될 복수 개의 출력 채널로 믹싱(mixing)된 멀티채널(multi-channel) 음향 신호를 출력할 수 있다. 이 때, 출력 채널의 개수가 입력 채널의 개수보다 더 적다면, 입력 채널은 출력 채널 개수에 맞추어 다운믹싱(downmixing) 된다.

이하 설명에서 음향 신호의 출력 채널은 음향이 출력되는 스피커의 개수를 의미할 수 있다. 출력 채널 수가 많을수록, 음향이 출력되는 스피커의 개수가 많아질 수 있다. 일 실시 예에 의한 입체 음향 재생 장치(100)는 입력 채널 수가 많은 멀티채널 음향 신호가 출력 채널 수가 적은 환경에서 출력되고 재생될 수 있도록, 멀티채널 음향 입력 신호를 재생될 출력 채널로 렌더링하고 믹싱할 수 있다. 이때 멀티채널 음향 신호는 고도 음향(elevated sound)을 출력할 수 있는 채널을 포함할 수 있다.

고도 음향을 출력할 수 있는 채널은 고도감을 느낄 수 있도록 청취자의 머리 위에 위치한 스피커를 통해 음향 신호를 출력할 수 있는 채널을 의미할 수 있다. 수평면 채널은 청취자와 수평한 면에 위치한 스피커를 통해 음향 신호를 출력할 수 있는 채널을 의미할 수 있다.

상술된 출력 채널 수가 적은 환경은 고도 음향을 출력할 수 있는 출력 채널을 포함하지 않고, 수평면 상에 배치된 스피커를 통해 음향을 출력할 수 있는 환경을 의미할 수 있다.

또한, 이하 설명에서 수평면 채널(horizontal channel)은 수평면 상에 배치된 스피커를 통해 출력될 수 있는 음향 신호를 포함하는 채널을 의미할 수 있다. 오버헤드 채널(Overhead channel)은 수평면이 아닌 고도 상에 배치되어 고도음을 출력할 수 있는 스피커를 통해 출력될 수 있는 음향 신호를 포함하는 채널을 의미할 수 있다.

도 1 을 참조하면, 일 실시예에 의한 입체 음향 재생 장치(100)는 오디오 코어(110), 렌더러(120), 믹서(130) 및 후처리부(140)를 포함할 수 있다.

일 실시 예에 의한, 입체 음향 재생 장치(100)는 멀티채널 입력 음향 신호를 렌더링하고, 믹싱하여 재생될 출력 채널로 출력할 수 있다. 예를 들면, 멀티채널 입력 음향 신호는 22.2 채널 신호이고, 재생될 출력 채널은 5.1 또는 7.1 채널일 수 있다. 입체 음향 재생 장치(100)는 멀티채널 입력 음향 신호의 각 채널들을 대응시킬 출력 채널을 정함으로써 렌더링을 수행하고 재생될 채널과 대응된 각 채널들의 신호를 합쳐 최종 신호로 출력함으로써 렌더링된 오디오 신호들을 믹싱할 수 있다.

인코딩된 음향 신호는 오디오 코어(110)에 비트스트림 형태로 입력되며, 오디오 코어(110)는 음향 신호가 인코딩 된 방식에 적합한 디코더 도구를 선택하여 입력된 음향 신호를 디코딩한다.

렌더러(120)는 멀티채널 입력 음향 신호를 채널 및 주파수에 따라 멀티채널 출력 채널로 렌더링할 수 있다. 렌더러(120)는 멀티채널 음향 신호를 오버헤드 채널과 수평면 채널에 따른 신호를 각각 3D(dimensional) 렌더링 및 2D(dimensional) 렌더링할 수 있다. 렌더러의 구성 및 구체적 렌더링 방법에 관하여는 이하 도 2 에서 더 자세히 설명한다.

믹서(130)는 렌더러(120)에 의해 수평 채널과 대응된 각 채널들의 신호를 합쳐 최종 신호로 출력할 수 있다. 믹서(130)는 소정 구간별로 각 채널들의 신호를 믹싱할 수 있다. 예를 들면, 믹서(130)는 1 프레임 별로 각 채널들의 신호를 믹싱할 수 있다.

일 실시 예에 의한 믹서(130)는 재생될 각 채널들에 렌더링된 신호들의 파워 값에 기초하여 믹싱할 수 있다. 다시 말하면, 믹서(130)는 재생될 각 채널들에 렌더링된 신호들의 파워 값에 기초하여 최종 신호의 진폭 또는 최종 신호에 적용될 게인(gain)을 결정할 수 있다.

후처리부(140)는 믹서(130)의 출력 신호를 각 재생장치(스피커 또는 헤드폰 등)에 맞추어 멀티밴드 신호에 대한 동적 범위 제어 및 바이노럴라이징(binauralizing) 등을 수행한다. 후처리부(140)에서 출력된 출력 음향 신호는 스피커 등의 장치를 통해 출력되며, 출력 음향 신호는 각 구성부의 처리에 따라 2D 또는 3D 로 재생될 수 있다.

도 1 에 도시된 일 실시에에 의한 입체 음향 재생 장치(100)는 오디오 디코더의 구성을 중심으로 도시되어 있으며 부수적인 구성은 생략되어 있다.

도 2 는 일 실시 예에 의한 입체 음향 재생 장치의 구성 중 렌더러의 구성을 나타내는 블록도이다.

렌더러(120)는 필터링부(121)와 패닝부(123)로 구성된다.

필터링부(121)는 디코딩 된 음향 신호를 위치에 따라 음색 등을 보정해주며 HRTF(머리 전달 함수, Head-Related Transfer Function) 필터를 이용해 입력 음향 신호를 필터링할 수 있다.

필터링부(121)는 오버헤드 채널을 3D 렌더링하기 위해 HRTF(머리 전달 함수, Head-Related Transfer Function) 필터를 통과한 오버헤드 채널을 주파수에 따라 각각 다른 방법으로 렌더링할 수 있다.

HRTF 필터는 두 귀간의 레벨 차이(ILD, Interaural Level Differences) 및 두 귀 간에서 음향 시간이 도달하는 시간 차이(ITD, Interaural Time Differences) 등의 단순한 경로 차이뿐만 아니라, 머리 표면에서의 회절, 귓바퀴에 의한 반사 등 복잡한 경로상의 특성이 음의 도래 방향에 따라 변화하는 현상에 의하여 입체 음향을 인식할 수 있도록 한다. HRTF 필터는 음향 신호의 음질을 변화시킴으로써 입체 음향이 인식될 수 있도록 오버헤드 채널에 포함된 음향 신호들을 처리할 수 있다.

패닝부(123)는 입력 음향 신호를 각 출력 채널에 대해 패닝시키기 위해 각 주파수 대역별, 각 채널별로 적용될 패닝 계수를 구하고 적용한다. 음향 신호에 대한 패닝은 두 출력 채널 사이의 특정 위치에 음원을 렌더링하기 위해 각 출력 채널에 인가하는 신호의 크기를 제어하는 것을 의미한다.

패닝부(123)는 오버헤드 채널 신호 중 저주파 신호에 대하여는 애드-투-클로지스트-채널(Add to the closest channel) 방법에 따라 렌더링하고, 고주파 신호에 대하여는 멀티채널 패닝(Multichannel panning) 방법에 따라 렌더링할 수 있다. 멀티채널 패닝 방법에 의하면, 멀티채널 음향 신호의 각 채널의 신호가 각 채널 신호에 렌더링될 채널마다 서로 다르게 설정된 게인 값이 적용되어 적어도 하나의 수평면 채널에 각각 렌더링될 수 있다. 게인 값이 적용된 각 채널의 신호들은 믹싱을 통해 합쳐짐으로써 최종 신호로 출력될 수 있다.

저주파 신호는 회절성이 강하므로, 멀티채널 패닝 방법에 따라 멀티채널 음향 신호의 각 채널을 여러 채널에 각각 나누어 렌더링하지 않고, 하나의 채널에만 렌더링하여도 청취자가 듣기에 비슷한 음질을 가질 수 있다. 따라서, 일 실시 예에 의한 입체 음향 재생 장치(100)는 저주파 신호를 애드-투-클로지스트-채널 방법에 따라 랜더링함으로써 하나의 출력 채널에 여러 채널이 믹싱됨에 따라 발생될 수 있는 음질 열화를 방지할 수 있다. 즉, 하나의 출력 채널에 여러 채널이 믹싱되면 각 채널 신호 간의 간섭에 따라 음질이 증폭되거나 감소되어 열화될 수 있으므로, 하나의 출력 채널에 하나의 채널을 믹싱함으로써 음질 열화를 방지할 수 있다.

애드 투 클로지스트 채널 방법에 의하면, 멀티채널 음향 신호의 각 채널은 여러 채널에 나누어 렌더링하는 대신 재생될 채널들 중 가장 가까운 채널에 렌더링될 수 있다.

또한, 입체 음향 재생 장치(100)는 주파수에 따라 다른 방법으로 렌더링을 수행함으로써 스위트 스팟(sweet spot)을 음질 열화 없이 넓힐 수 있다. 즉, 회절 특성이 강한 저주파 신호에 대하여는 애드 투 클로지스트 채널 방법에 따라 렌더링함으로써, 하나의 출력 채널에 여러 채널이 믹싱됨에 따라 발생될 수 있는 음질 열화를 방지할 수 있다. 스위트 스팟이란, 청취자가 왜곡되지 않은 입체 음향을 최적으로 청취할 수 있는 소정 범위를 의미한다.

스위트 스팟이 넓을수록 청취자는 넓은 범위에서 왜곡되지 않은 입체 음향을 최적으로 청취할 수 있고, 청취자가 스위트 스팟에 위치하지 않는 경우, 음질 또는 음상 등이 왜곡된 음향을 청취할 수 있다.

도 3 은 일 실시 예에 의한 복수 개의 입력 채널이 복수 개의 출력 채널로 다운믹스 되는 경우의 각 채널의 레이아웃에 대한 도면이다.

3차원 영상과 같이 실제와 동일하거나 더욱 과장된 현장감과 몰입감을 제공하기 위해 3차원 입체 영상과 함께 3차원 입체 음향을 제공하기 위한 기술이 개발되고 있다. 입체 음향은 음향 신호 자체가 음의 고저 및 공간감을 가지는 음향을 의미하는 것으로, 이와 같은 입체 음향을 재생하기 위해서는 최소 2개 이상의 라우드스피커, 즉 출력 채널이 필요하다. 또한, HRTF를 이용하는 바이노럴(binaural) 입체 음향을 제외하고는 음의 고저감, 거리감 및 공간감을 보다 정확하게 재현하기 위해 많은 수의 출력 채널을 필요로 한다.

따라서, 2 채널 출력을 가지는 스테레오 시스템에 이어, 5.1 채널 시스템, Auro 3D 시스템, Holman 10.2 채널 시스템, ETRI/Samsung 10.2 채널 시스템, NHK 22.2 채널 시스템 등 다양한 멀티 채널 시스템이 제안되고 개발되어 있다.

도 3 은 22.2 채널의 입체 음향 신호를 5.1 채널의 출력 시스템으로 재생하는 경우를 설명하기 위한 도면이다.

5.1 채널 시스템은 5채널 서라운드 멀티채널 사운드 시스템의 일반적인 명칭으로, 가정의 홈씨어터 및 극장용 사운드 시스템으로 가장 보편적으로 보급되어 사용되고 있는 시스템이다. 모든 5.1 채널은 FL(Front Left) 채널, C(Center) 채널, FR(Frong Right)채널, SL(Surround Left) 채널 및 SR(Surround Right) 채널을 포함한다. 도 3 에서 알 수 있는 바와 같이, 5.1 채널의 출력은 모두 같은 평면상에 존재하기 때문에 물리적으로는 2차원 시스템에 해당하며 5.1 채널 시스템으로 3차원 입체 음향 신호를 재생하기 위해서는 재생될 신호에 입체감을 부여하기 위한 렌더링 과정을 거쳐야 한다.

5.1 채널 시스템은 영화에서뿐만 아니라, DVD 영상, DVD 음향, SACD(Super Audio Compact Disc) 또는 디지털 방송에 이르기까지 다양한 분야에서 널리 사용되고 있다. 그러나, 5.1 채널 시스템이 비록 스테레오 시스템에 비하여 향상된 공간감을 제공하기는 하지만, 보다 넓은 청취공간을 형성하는 데 있어서 여러가지 제약이 있다. 특히 스위트 스팟이 좁게 형성되고, 고도각(elevation angle)을 가지는 수직 음상을 제공할 수 없기 때문에 극장과 같이 넓은 청취공간에는 적합하지 않을 수 있다.

NHK에서 제안한 22.2 채널 시스템은 도 3 과 같이 세 층의 출력채널로 이루어져 있다. 어퍼레이어(Upper Layer, 310)는 VOG(Voice of God), T0, T180, TL45, TL90, TL135, TR45, TR90 및 TR45 채널을 포함한다. 이 때, 각 채널 이름의 제일 앞의 T라는 인덱스는 어퍼레이어를 의미하고, L 또는 R이라는 인덱스는 각각 좌측 또는 우측를 의미하며 뒤의 숫자는 중심 채널(center channel)로부터의 방위각(azimuth angle)을 의미한다. 어퍼레이어는 흔히 탑레이어라고 불리기도 한다.

VOG 채널은 청자의 머리 위에 존재하는 채널로, 90도의 고도각을 가지며 방위각은 없다. 다만, VOG 채널은 위치가 조금만 틀어져도 방위각을 가지며 고도각이 90도가 아닌 값을 가지게 되므로 더 이상 VOG 채널이 아닐 수 있다.

미들레이어(Middle Layer 320)는 기존 5.1 채널과 같은 평면으로, 5.1 채널의 출력 채널 외에 ML60, ML90, ML135, MR60, MR90 및 MR135 채널을 포함한다. 이 때, 각 채널 이름의 제일 앞의 M이라는 인덱스는 미들레이어를 의미하고, 뒤의 숫자는 중심(center) 채널로부터의 방위각을 의미한다.

로우레이어(Low Layer, 330)는 L0, LL45, LR45 채널을 포함한다. 이 때, 각 채널 이름의 제일 앞의 L이라는 인덱스는 로우레이어를 의미하고, 뒤의 숫자는 중심(center) 채널로부터의 방위각을 의미한다.

22.2 채널에서 미들레이어는 수평 채널(horizontal channel)이라고 부르며, 방위각 0도 또는 방위각 180도에 해당하는 VOG, T0, T180, T180, M180, L 및 C 채널들은 수직 채널(vertical channel)이라고 부른다.

22.2 채널 입력 신호를 5.1 채널 시스템으로 재생할 경우, 가장 일반적인 방법은 다운믹스 수식을 이용하여 채널 간 신호를 분배할 수 있다. 또는, 가상의 고도감을 제공하는 렌더링을 수행하여 5.1 채널 시스템으로 고도감을 가지는 음향 신호를 재생하도록 할 수 있다.

도 4 는 일 실시 예에 의한 채널 레이아웃에서, 탑레이어의 고도에 따른 탑레이어 채널들의 레이아웃을 나타낸 도면이다.

입력 채널 신호가 22.2 채널의 입체 음향 신호로, 도 3 과 같은 레이아웃에 따라 배치된다고 하면, 입력 채널 중 어퍼레이어는 고도각에 따라 도 4 와 같은 레이아웃을 가진다. 이 때, 고도각은 각각 0도, 25도, 35도 및 45도인 경우를 가정하며, 고도각이 90도에 해당하는 VOG 채널은 생략되어 있다. 고도각이 0도 인 어퍼레이어 채널들은 수평면(미들 레이어, 320)에 존재하는 것과 같다.

도 4a 는 어퍼레이어 채널들을 정면에서 바라보았을 때의 채널 배치를 나타낸다.

도 4a 를 살펴보면, 8 개의 어퍼레이어 채널이 각각 45도씩의 방위각 차이를 가지는 경우이므로 수직 채널 축을 기준으로 정면에서 어퍼레이어 채널을 바라보면, TL90 채널 및 TR90 채널을 제외한 나머지 여섯개의 채널들은 각각 TL45 채널과 TL135 채널, T0 채널과 T180 채널, TR45 채널과 TR135 채널이 두개씩 겹쳐서 나타나게 된다. 이는, 도 4B 와 비교하여 살펴보면 더욱 명확히 알 수 있을 것이다.

도 4b는 어퍼레이어 채널들을 위에서 바라보았을 때의 채널 배치를 나타낸다. 도 4c 는 어퍼레이어 채널들의 배치를 3차원으로 나타낸 것이다. 8 개의 어퍼레이어 채널이 각각 45도씩의 방위각 차이를 가지며 등간격으로 배치되어 있는 것을 확인할 수 있다.

고도 렌더링을 통해 입체 음향으로 재생될 컨텐트가 예를 들어 고도각 35도를 갖도록 고정되어 있다면, 모든 입력 음향 신호에 대해 35도의 고도각 으로 고도 렌더링을 수행해도 무방하며 최적의 결과를 얻을 수 있을 것이다.

그러나, 컨텐트에 따라 해당 컨텐트의 입체 음향에 대한 고도각이 다르게 적용될 수 있으며, 도 4 에서 확인할 수 있는 바와 같이 채널의 고도에 따라 각 채널의 위치 및 거리 등이 달라지며 이에 따른 신호의 특성 역시 달라지게 된다.

따라서, 고정된 고도각으로 가상 렌더링을 수행할 경우 음상의 왜곡이 발생하게 되며 최적의 렌더링 성능을 얻기 위해서는 입력 입체 음향 신호의 고도각, 즉 입력 채널의 고도각을 고려한 렌더링을 수행하는 것이 필요하다.

도 5 는 일 실시예에 의한 입체 음향 재생 장치의 구성 중 디코더 및 입체 음향 렌더러의 구성을 나타내는 블록도이다.

도 5 를 참조하면, 일 실시예에 의한 입체 음향 재생 장치(100)는 디코더(110) 및 입체음향 렌더러(120)의 구성을 중심으로 도시되어 있으며 그 외의 구성은 생략되어 있다.

입체 음향 재생 장치에 입력된 음향 신호는 인코딩 된 신호로, 비트스트림의 형태로 입력된다. 디코더(110)는 입력 음향 신호를 음향 신호가 인코딩 된 방식에 적합한 디코더 도구를 선택하여 입력된 음향 신호를 디코딩하고, 디코딩 된 음향 신호를 입체 음향 렌더러(120)로 전달한다.

입체 음향 렌더러(120)는 필터 계수와 패닝 계수를 획득하고 갱신하는 초기화부(125) 및 필터링과 패닝을 수행하는 렌더링부(127)로 구성된다.

렌더링부(127)는 디코더에서 전달된 음향 신호에 대해 필터링 및 패닝을 수행한다. 필터링부(1271)는 소리의 위치에 대한 정보를 처리하여 렌더링된 음향 신호가 원하는 위치에서 재생될 수 있도록 하며, 패닝부(1272)는 소리의 음색에 대한 정보를 처리하여 렌더링된 음향 신호가 원하는 위치에 적합한 음색을 가질 수 있도록 한다.

필터링부(1271) 및 패닝부(1272)는 도 2 에서 설명한 필터링부(121) 및 패닝부(123)와 유사한 기능을 수행한다. 다만, 도 2 의 필터링 부 및 패닝부(123)는 간략화하여 나타낸 도면으로 초기화부 등 필터 계수 및 패닝 계수를 구하기 위한 구성이 생략되었을 수 있음을 유의해야 한다.

이 때, 필터링을 수행하기 위한 필터 계수 및 패닝을 수행하기 위한 패닝 계수는 초기화부(125)로부터 전달된다. 초기화부(125)는 고도 렌더링 파라미터 획득부(1251) 및 고도 렌더링 파라미터 갱신부(1252)로 구성된다.

고도 렌더링 파라미터 획득부(1251)는 출력 채널, 즉 라우드 스피커의 구성 및 배치를 이용하여 고도 렌더링 파라미터의 초기값을 획득한다. 이 때, 고도 렌더링 파라미터의 초기값은 표준 레이아웃에 따른 출력 채널의 구성 및 고도 렌더링 설정에 따른 입력 채널의 구성에 기초하여 고도 렌더링 파라미터의 초기값을 산출하거나, 입력/출력 채널간의 맵핑 관계에 따라 기 저장된 초기값을 읽어온다. 고도 렌더링 파라미터는, 필터링부(1251)에서 이용하기 위한 필터 계수 또는 패닝부(1252)에서 이용하기 위한 패닝 계수를 포함할 수 있다.

그러나, 상술한 바와 같이 고도 렌더링을 위한 고도 설정값이 입력 채널의 설정과 편차가 존재할 수 있다. 이러한 경우 고정된 고도 설정값을 이용하면 원래의 입력 입체 음향 신호를, 입력 채널과 구성이 다른 출력 채널을 통해 보다 유사하게 입체적으로 재생하고자 하는 가상 렌더링의 목적을 달성하기 어렵다.

일 예로, 고도감이 너무 높을 경우 음상이 작고 음질이 열화되는 현상이 발생되며, 고도감이 너무 낮을 경우 가상 렌더링의 효과를 느끼기 어려운 문제가 발생할 수 있다. 따라서, 사용자의 설정에 따라 또는 입력 채널에 적합한 가상 렌더링 정도에 따라 고도감을 조절하는 것이 필요하다.

고도 렌더링 파라미터 갱신부(1252)는 고도 렌더링 파라미터 획득부(1251)에서 획득한 고도 렌더링 파라미터의 초기값들을 입력 채널의 고도 정보 또는 사용자 설정 고도에 기초하여 고도 렌더링 파라미터를 갱신한다. 이 때, 만일 출력 채널의 스피커 레이아웃이 표준 레이아웃과 비교하여 편차가 존재한다면, 이에 따른 영향을 보정하기 위한 과정이 추가될 수 있다. 이때의 출력 채널의 편차는 고도각 또는 방위각 차이에 따른 편차 정보를 포함할 수 있다.

초기화부(125)에서 획득 및 갱신된 고도 렌더링 파라미터를 이용하여 렌더링부(127)에서 필터링 및 패닝을 마친 출력 음향 신호는 각 출력 채널에 대응하는 스피커를 통해 재생된다.

도 6 은 일 실시예에 있어서, 입체 음향 신호를 렌더링 하는 방법의 순서도이다.

렌더러는 복수 개의 입력 채널을 포함하는 멀티 채널 음향 신호를 수신한다(610). 입력된 멀티 채널 음향 신호는 렌더링을 통해 복수 개의 출력 채널 신호로 변환되며, 입력 채널의 수 보다 출력 채널의 수가 더 적은 다운믹스의 예를 들면 22.2 채널을 갖는 입력 신호가 5.1 채널을 갖는 출력 신호로 변환되는 것이다.

이와 같이 3차원의 입체 음향 입력 신호를 2차원의 출력 채널을 이용하여 렌더링 할 경우, 수평면 입력 채널들에 대해서는 일반 렌더링이 적용되며 고도각을 갖는 높이 채널들에 대해서는 고도감을 부여하기 위한 가상 렌더링이 적용된다.

렌더링을 수행하기 위해서는 필터링에 이용될 필터 계수 및 패닝에 이용될 패닝 계수가 필요하다. 이 때, 초기화 과정에서 출력 채널의 표준 레이아웃 및 가상 렌더링을 위한 기본 설정 고도각에 따라 렌더링 파라미터를 획득한다(620). 기본 설정 고도각은 렌더러에 따라 다양하게 결정될 수 있으나, 이와 같이 고정된 고도각으로 가상 렌더링을 수행하는 경우 사용자의 취향에 따라 또는 입력 신호의 특성에 따라 가상 렌더링의 만족도 및 효과가 떨어지는 결과가 나타날 수 있다.

따라서, 출력 채널의 구성이 해당 출력 채널의 표준 레이아웃와 편차가 존재하거나 가상 렌더링을 수행해야 하는 고도가 렌더러의 기본 설정 고도와 다르다면, 렌더링 파라미터를 갱신한다(630).

이 때, 갱신되는 렌더링 파라미터는 필터 계수의 초기값에 고도각 편차에 기초하여 결정된 가중치를 부여하여 갱신된 필터 계수 또는 입력 채널의 고도와 기본 설정 고도의 크기 비교 결과에 따라 패닝 계수의 초기값을 증가 또는 감소 시켜 갱신된 패닝 계수를 포함할 수 있다.

필터 계수 및 패닝 계수를 갱신하는 구체적인 방법은 이하 도 7 및 도 8 에서 보다 상세히 설명한다.

만일 출력 채널의 스피커 레이아웃이 표준 레이아웃과 비교하여 편차가 존재한다면, 이에 따른 영향을 보정하기 위한 과정이 추가될 수 있으나 이에 대한 구체적인 방법의 설명은 생략한다. 이때의 출력 채널의 편차는 고도각 또는 방위각 차이에 따른 편차 정보를 포함할 수 있다.

도 7 은 일 실시예에 있어서, 채널의 고도에 따른 음상의 변화 및 고도 필터의 변화를 나타낸 도면이다.

도 7a 는 높이 채널의 고도가 각각 0도, 35도 및 45도 인 경우 일 실시예에

의한 각 채널의 위치를 나타낸 도면이다. 도 7a 의 도면은 청자의 뒤에서 바라본 모습으로, 도면에 표시된 채널들은 각각 ML90 채널 또는 TL90 채널이다. 고도각이 0도인 경우는 수평면에 존재하는 채널로 ML90 채널에 해당하며 고도각이 35도 및 45도 인 경우는 어퍼레이어 채널로 TL90 채널에 해당한다.

도 7b 는 도 7b 의 실시예에 의한 각 채널에서 음향 신호가 출력될 때, 청자

의 좌우측 귀에 느껴지는 신호의 차이를 설명하기 위한 도면이다.

고도각이 없는 ML90에서 음향 신호가 출력된다고 하면, 원칙상 왼쪽 귀에서만 음향 신호가 인식되고 오른쪽 귀에서는 음향 신호가 인식되지 않는다.

그러나, 고도가 높아질수록 왼쪽 귀에서 인식되는 음향과 오른쪽 귀에서 인식하는 음향 신호의 차이는 점점 줄어들게 되며 채널의 고도각이 점차 증가하여 고도각이 90도가 되면, 청자의 머리 위에 있는 채널 즉 VOG 채널이 되어 양쪽 귀에 동일한 음향 신호가 인식되게 된다.

따라서, 고도각에 따른 양 귀가 인식하는 음향 신호에 대한 변화는 도 7b 와 같이 나타나는 것이다.

고도각이 0도일 때의 좌우 귀에서 인식하는 음향 신호를 살펴보면, 왼쪽 귀에서만 음향 신호를 인식하고, 오른쪽 귀에서는 음향 신호를 인식하지 못한다. 이와 같은 경우 ILD(Interaural Level Difference) 및 ITD(Interaural Time Difference)가 최대가 되며 청자는 좌측 수평면 채널에 존재하는 ML90 채널의 음상으로 인식하게 되는 것이다.

고도각이 35도 일 때 좌우 귀에서 인식하는 음향 신호 및 고도각이 45도 일 때 좌우 귀에서 인식하는 음향 신호의 차이를 살펴보면, 고도각이 높아짐에 따라 좌우 귀에서 인식하는 음향 신호의 차이가 줄어들게 되며 이와 같은 차이에 의해 청자는 출력 음향 신호에서 고도감의 차이를 느낄 수 있게 되는 것이다.

고도각 35도인 채널의 출력 신호는 고도각 45인 채널의 출력 신호에 비해 음상 및 스위트 스팟이 넓고 음질이 자연스러운 특징을 가지며, 고도각 45도인 채널의 출력 신호는 고도각이 35도인 채널의 출력 신호에 비해 음상이 좁아지며 스위트 스팟도 좁아지지만, 강함 몰입감을 제공하는 음장감을 얻을 수 있는 특징이 있다.

앞서 언급한 바와 같이 고도각이 높아질수록 고도감이 높아져 몰입감이 강해지지만, 음상의 폭은 좁아지게 된다. 이와 같은 현상은, 고도각이 높아질수록 채널의 물리적 위치는 점점 안쪽으로 들어와 결국 청자와 가까워지기 때문이다.

따라서, 고도각의 변화에 따른, 패닝 계수의 갱신은 다음과 같이 결정된다. 고도각이 높아질수록 음상이 넓어지도록 패닝 계수를 갱신하고 고도각이 낮아질수록 음상이 좁아지도록 패닝 계수를 갱신한다.

예를 들어, 가상 렌더링을 위한 기본 설정 고도각이 45도이며 고도각을 35도로 낮춰 가상 렌더링을 하고자 하는 경우를 가정하자. 이와 같은 경우 렌더링 하고자 하는 가상 채널과 동측(ipsilateral) 출력 채널에 적용할 렌더링 패닝 계수를 증가시키고, 나머지 채널에 적용할 패닝 계수는 파워 노말라이즈(power normalization)을 통해 결정한다.

구체적인 설명을 위해 22.2 채널의 입력 멀티채널 신호를 5.1 채널의 출력 채널(스피커)를 통해 재생하고자 하는 경우를 가정하자. 이와 같은 경우 입력 채널 중 가상 렌더링이 적용되는, 고도각을 갖는 22.2 채널의 입력 채널들은 CH_U_000(T0), CH_U_L45(TL45), CH_U_R45(TR45), CH_U_L90(TL90), CH_U_R90(TR90), CH_U_L135(TL135), CH_U_R135(TR135), CH_U_180(T180), CH_T_000(VOG)의 9개 채널이 되고 5.1 채널의 출력 채널은 수평면 상에 존재하는 CH_M_000, CH_M_L030, CH_M_R030, CH_M_L110, CH_R_110의 5개 채널이 된다(우퍼채널은 제외).

이와 같이 5.1 출력 채널들을 이용해 CH_U_L45 채널을 렌더링 하는 경우, 기본 설정 고도각이 45도이며 고도각을 35도로 낮추고자 한다면, CH_U_L45 채널과 동측상에 있는 출력 채널인 CH_M_L030 및 CH_M_L110에 적용될 패닝 계수를 3dB 증가시키도록 갱신하고, 나머지 세개의 채널들의 패닝 계수는 감소시켜 식 1 을 만족시키도록 갱신하는 것이다.

(식 1)

이 때, N은 임의의 가상 채널을 렌더링 하기 위한 출력 채널의 개수를 의미하고,

는 각 출력 채널에 적용될 패닝 계수를 의미한다.

이와 같은 과정은, 각 높이 입력 채널에 대해 각각 수행되어야 한다.

반대로, 가상 렌더링을 위한 기본 설정 고도각이 45도이나 고도각 55도로 높여 가상 렌더링을 하고자 하는 경우를 가정하자. 이와 같은 경우 렌더링 하고자 하는 가상 채널과 동측(ipsilateral) 출력 채널에 적용할 렌더링 패닝 계수를 감소시키고, 나머지 채널에 적용할 패닝 계수는 파워 노말라이즈(power normalization)을 통해 결정한다.

앞서 예로 든 5.1 출력 채널들을 이용해 CH_U_L45 채널을 렌더링 하는 경우, 기본 설정 고도각을 45도이나 55도로 높이고자 낮추고자 한다면, CH_U_L45 채널과 동측상에 있는 출력 채널인 CH_M_L030 및 CH_M_L110에 적용될 패닝 계수를 3dB 감소시키도록 갱신하고, 나머지 세개의 채널들의 패닝 계수는 증가시켜 식 1 을 만족시키도록 갱신하는 것이다.

다만, 이와 같이 고도감을 높이는 경우는 패닝 계수 갱신에 의해 좌우 음상이 역전되지 않도록 유의할 필요가 있으며 이에 대해서는 도 8 에서 설명한다.

이하 도 7c를 참조하여 음색 필터 계수를 갱신하는 방법을 설명한다.

도 7c 는 일 실시예에 의한 채널의 고도각이 35도인 경우와 고도각이 45도인

경우 주파수에 따른 음색 필터의 특징을 나타낸 도면이다.

도 7c 에 나타난 바와 같이, 고도각이 45도인 채널의 음색 필터는 고도각이 35도인 채널의 음색 필터에 비해 고도각에 의한 특징이 더 크게 나타나는 것을 확인할 수 있다.

결국, 기준 고도각보다 더 큰 고도각을 갖도록 가상 렌더링을 하고자 하는 경우, 기준 고도각에 대해 렌더링을 할때 크기(magnitude)를 증가시켜야 하는 주파수 대역(원래의 필터 계수가 1보다 큰 대역)에 대해서는 더 크게 증가(갱신된 필터 계수를 1보다 크게 증가)시키고, 크기를 감소시켜야 하는 하는 주파수 대역(원래의 필터 계수가 1보다 작은 대역)에 대해서는 더 작게 감소(갱신된 필터 계수를 1보다 작게 감소)시키는 것이다.

이와 같은 필터 크기 특징을 데시벨(decibel) 스케일로 나타내면, 도 7C 와 같이 출력 신호의 크기를 증가시켜야 하는 주파수 대역에서는 양의 값으로 출력 신호의 크기를 감소시켜야 하는 주파수 대역에서는 음의 값을 가지게 된다. 또한, 도 7C에서 확인할 수 있는 바와 같이, 고도각이 낮을수록 필터 크기의 모양(shape)이 평평(plat)하게 나타난다.

수평면 채널을 이용하여 높이 채널을 가상 렌더링 하는 경우 고도각이 낮을수록 수평면 채널의 신호와 유사한 음색을 가지고, 고도각이 높아질수록 고도감의 변화가 크게 나타나기 때문에 고도각이 높아질수록 음색 필터에 의한 영향을 키워주어 고도각 상승에 의한 고도감 효과를 강조하는 것이다. 반대로, 고도각이 낮아질수록 음색 필터에 의한 영향을 감소시켜 고도감 효과를 감소시킬 수 있다.

따라서, 고도각의 변화에 따른, 필터 계수의 갱신은 원래의 필터 계수를 기본 설정 고도각 및 실제로 렌더링을 하고자 하는 고도각에 기초한 가중치를 이용하여 갱신한다.

가상 렌더링을 위한 기본 설정 고도각이 45도이고, 기본 고도각보다 낮은 35도로 렌더링을 하여 고도감을 낮추고자 하는 경우라면, 도 7C 의 45도의 필터에 해당하는 계수들이 초기 값으로 결정되어 있고 35도의 필터에 해당하는 계수들로 갱신되어야 하는 것이다.

따라서, 기본 설정 고도각인 45도에 비해 낮은 고도각인 35도로 렌더링하여 고도감을 낮추고자 하는 경우라면, 주파수 대역에 따른 필터의 골과 마루가 모두 45도의 필터에 비해 완만하게 수정되도록 필터 계수가 갱신되어야 하는 것이다.

반대로, 기본 설정 고도각이 45도이나, 기본 고도각보다 높은 55도로 렌더링을 하여 고도감을 높이고자 하는 경우라면, 주파수 대역에 따른 필터의 골과 마루가 모두 45도의 필터에 비해 강하게 수정되도록 필터 계수가 갱신되어야 하는 것이다.

도 8 은 일 실시예에 있어서, 입력 채널의 고도각이 임계값 이상일 때, 좌우 음상이 역전되는 현상을 나타낸 도면이다.

도 7b 의 경우와 마찬가지로, 도 8 은 청자의 뒤쪽에서 바라본 모습으로 네모로 표시된 채널은 CH_U_L90 채널이다. 이 때, CH_U_L90의 고도각이 φ라고 하면, φ가 증가할수록 청자의 좌측 귀와 우측 귀에 도달하는 음향 신호의 ILD 및 ITD는 점점 작아지게 되고 양측 귀에서 인식하는 음향 신호는 비슷한 음상을 가지게 된다. 고도각 φ의 최대값은 90도로, φ가 90도가 되면 청자의 머리위에 존재하는 VOG 채널이 되어 양쪽 귀에 동일한 음향 신호가 수신되게 된다.

도 8a 와 같이, φ가 상당히 큰 값을 가진다면 고도감이 높아져 강함 몰입감을 제공하는 음장감을 느낄 수 있다. 그러나 고도감이 높아짐에 따라 음상이 좁아지고 스위트 스팟이 좁게 형성되므로 청자의 위치가 조금만 이동되거나 채널이 조금만 어긋나는 경우라도 음상의 좌우 역전 현상이 나타날 수 있다.

도 8b 는 청자가 좌측으로 약간 이동한 경우 청자와 채널의 위치를 나타낸 도면이다. 채널 고도각 φ가 큰 값을 가져 고도감이 높게 형성된 경우이므로 청자가 조금만 이동해도 좌우 채널의 상대적인 위치가 크게 변화하게 되며, 최악의 경우 좌측 채널임에도 불구하고 우측 귀에 도달하는 신호가 더 크게 인식되어 도 8B와 같이 음상의 좌우 반전이 발생할 수 있다.

렌더링 과정에서는, 고도감을 부여하는 것 보다 음상의 좌우 밸런스(balance)를 유지하고, 음상의 좌우 위치를 정위시키는 것이 보다 중요한 과제이므로 이와 같은 상황이 발생하지 않기 위해서는 가상 렌더링을 위한 고도각을 일정 범위 이하로 제한하는 것이 필요할 수 있다.

따라서, 렌더링을 위한 기본 설정 고도각보다 더 높은 고도감을 얻기 위해 고도각을 상승시키는 경우 패닝 계수를 감소시켜야 하는데, 일정 값 이하로는 작아지지 않도록 패닝 계수의 최소 임계값을 설정할 필요가 있다.

예를 들어, 60도 이상의 렌더링 고도를 60도 이상으로 증가시킨 경우라도 강제적으로 임계 고도각 60도에 대해 갱신된 패닝 계수를 적용하여 패닝을 수행한다면 음상의 좌우 역전 현상을 방지할 수 있다.

도 9 는 또 다른 일 실시예에 있어서, 입체 음향 신호를 렌더링 하는 방법의 순서도이다.

이상의 실시예에서는, 입력 멀티 채널 신호의 높이 채널의 고도각이 렌더러의 기본 설정 고도각과 다른 경우 입력 신호의 높이 채널에 맞추어 가상 렌더링을 수행하는 방법을 설명하였다. 그러나, 사용자의 취향 또는 음향 신호가 재생될 공간의 특징에 따라 가상 렌더링 고도각을 다양하게 변화시킬 필요가 있다.

이와 같이 가상 렌더링 고도각을 다양하게 설정할 필요가 있는 경우라면, 도 6 의 순서도에서 렌더링을 위한 고도각을 입력받는 단계가 추가로 더 필요하며 그 외의 각 단계들은 도 6 과 유사한 동작을 수행한다.

렌더러는 복수 개의 입력 채널을 포함하는 멀티 채널 음향 신호를 수신한다(910). 입력된 멀티 채널 음향 신호는 렌더링을 통해 복수 개의 출력 채널 신호로 변환되며, 입력 채널의 수 보다 출력 채널의 수가 더 적은 다운믹스의 예를 들면 22.2 채널을 갖는 입력 신호가 5.1 채널을 갖는 출력 신호로 변환되는 것이다.

렌더링을 수행하기 위해서는 필터링에 이용될 필터 계수 및 패닝에 이용될 패닝 계수가 필요하다. 이 때, 초기화 과정에서 출력 채널의 표준 레이아웃 및 가상 렌더링을 위한 기본 설정 고도각에 따라 렌더링 파라미터를 획득한다(920). 기본 설정 고도각은 렌더러에 따라 다양하게 결정될 수 있으나, 이와 같이 고정된 고도각으로 가상 렌더링을 수행하는 경우 사용자의 취향에 따라 또는 입력 신호의 특성이나 재생 공간의 특성에 따라 가상 렌더링의 효과가 떨어지는 결과가 나타날 수 있다.

따라서, 임의의 고도각에 대해 가상 렌더링을 수행하도록 하기 위해 가상 렌더링을 위한 고도각을 입력받는다(930). 이 때, 가상 렌더링을 위한 고도각은 음향 재생 장치의 사용자 인터페이스(User Interface)를 통해 또는 리모트 컨트롤러를 이용하여 사용자가 직접 입력한 고도각이 렌더러로 전달될 수 있다.

또는, 음향 신호가 재생되는 공간에 대한 정보를 가지고 있는 애플리케이션등에 의해 결정되어 렌더러로 전달되거나 렌더러가 포함된 음향 재생 장치가 아닌 별도의 외부 장치를 통해 전달될 수도 있다. 별도의 외부 장치를 통해 가상 렌더링을 위한 고도각이 결정되는 실시예는 도 10 및 도 11 에서 보다 자세히 설명한다.

도 9 에서는 렌더링 초기 설정을 이용하여 고도 렌더링 파라미터의 초기값을 획득한 후 고도각 입력이 수신되는 경우를 가정하였으나, 고도각 입력은 고도 렌더링 파라미터가 갱신되기 이전 어느 단계에 수신되어도 무방하다.

렌더러의 기본 설정 고도각과 다른 고도각이 입력되면, 렌더러는 입력된 고도각에 기초하여, 렌더링 파라미터를 갱신한다(940).

이 때, 갱신되는 렌더링 파라미터는 도 7 및 도 8 에서 설명한 바와 같이 필터 계수의 초기값에 고도각 편차에 기초하여 결정된 가중치를 부여하여 갱신된 필터 계수 또는 입력 채널의 고도와 기본 설정 고도의 크기 비교 결과에 따라 패닝 계수의 초기값을 증가 또는 감소 시켜 갱신된 패닝 계수를 포함할 수 있다.

이와 같이, 사용자의 취향이나 음향 재생 공간의 특징 등에 따라 임의의 고도각을 적용하여 가상 렌더링을 수행하는 경우, 고정된 고도각에 따라 렌더링을 수행한 가상 입체 음향 신호에 비해 주관적 음질 평가(Subjective Evaluation of Sound Quality)등에서 청자에게 더 좋은 만족도를 제공할 수 있을 것이다.

도 10 및 도 11 은 하나 이상의 외부 장치와 음향 재생 장치로 구성되는 일 실시예에 있어서, 각 장치의 동작을 설명하기 위한 도면이다.

도 10 은 외부 장치 및 음향 재생 장치로 구성되는 시스템에 대한 일 실시예에 있어서, 외부 장치를 통해 고도각을 입력 받는 경우 각 장치의 동작을 설명하기 위한 도면이다.

태블릿PC나 스마트폰 기술의 발달에 따라, 음향/영상 재생 장치와 태블릿 등을 연동하여 사용하는 기술 역시 활발히 개발되고 있다. 간단하게는, 스마트폰을 음향/영상 재생장치의 리모트 컨트롤러로 이용할 수 있다. 터치 기능이 포함된 TV라고 하더라도 TV의 터치 기능을 이용하여 명령을 입력하기 위해서는 TV 근처로 이동해야 하기 때문에 사용자는 대부분 리모트 컨트롤러를 이용하여 TV를 제어하고 있으며 상당수의 스마트폰에는 적외선(Infra-red) 단자를 포함하고 있으므로 리모트 컨트롤러의 기능을 수행할 수 있다.

또는 태블릿PC나 스마트폰에 설치된 특정 애플리케이션 등을 통하여 TV나 AVR(Audio/Video Receiver)과 같은 멀티미디어 기기와 연동하여 디코딩 설정, 렌더링 설정을 제어하도록 할 수 있다.

또는, 미러링(mirroring) 기술을 이용하여 디코딩 및 렌더링 된 음향/영상 컨텐츠를 태블릿PC 또는 스마트폰에서 재생되도록 하는 에어플레이(air-play)를 구현할 수 있다.

이와 같은 경우, 렌더러를 포함하는 입체음향 재생 장치(100)와 태블릿PC나 스마트폰과 같은 외부 장치등(200) 사이의 동작은 도 10에 나타난 것과 같다. 이하에서는 입체 음향 재생 장치에서 렌더러의 동작을 중심으로 기술한다.

입체 음향 재생 장치의 디코더에서 디코딩 된 멀티 채널 음향 신호가 렌더러에 수신되면(1010), 렌더러는 출력 채널의 레이아웃 및 기본 설정 고도각에 기초하여 렌더링 파라미터를 획득한다(1020). 이 때 획득된 렌더링 파라미터는 입력 채널과 출력 채널의 맵핑 관계에 따라 미리 결정되어 있는 초기값으로 미리 저장되어 있는 값을 호출하거나 연산을 통해 획득하게 된다.

음향 재생 장치의 렌더링 설정을 제어하기 위한 외부 장치(200)는 사용자가 입력한 렌더링에 적용할 고도각 또는 애플리케이션 등을 통해 최적의 고도각으로 결정(1030)된 고도각을 음향 재생 장치로 전달(1040)한다.

렌더링을 위한 고도각이 입력되면, 렌더러는 입력된 고도각에 기초하여 렌더링 파라미터를 갱신(1050)하고, 갱신된 렌더링 파라미터를 이용하여 렌더링을 수행한다(1060). 이 때, 렌더링 파라미터를 갱신하는 방법은 도 7 및 도 8 에서 설명한 것과 같으며, 렌더링된 음향 신호는 임장감을 가지는 입체 음향 신호가 된다.

음향 재생 장치(100)는 렌더링된 음향 신호를 자신이 재생할 수 있지만, 외부 장치(200)의 요청이 있는 경우 렌더링 된 음향 신호를 외부 장치로 전송(1070)하고, 외부 장치는 전송된 음향 신호를 재생(1080)하여, 사용자에게 임장감을 가지는 입체 음향을 제공한다.

앞서 언급한 바와 같이, 미러링(mirroring) 기술을 이용하여 에어플레이를 구현하면, 바이노럴(binaural) 기술과 입체 음향 재생이 가능한 헤드폰을 이용해 태블릿PC 또는 스마트폰과 같은 휴대 장치들에서도 입체 음향 신호의 제공이 가능하다.

도 11 은 제 1 외부 장치, 제 2 외부 장치 및 음향 재생 장치로 구성되는 시스템에 대한 일 실시예에 있어서, 제 2 외부 장치를 통해 음향 신호를 재생하는 경우 각 장치의 동작을 설명하기 위한 도면이다.

도 11 의 제 1 외부 장치(201)는 도 10 에 포함된 태블릿PC나 스마트폰 등의 외부 장치를 의미한다. 도 11 의 제 2 외부 장치(202)는 AVR등 렌더러가 포함된 음향 재생 장치(100)가 아닌 별도의 음향 시스템을 의미한다.

제 2 외부 장치가 고정된 기본 설정 고도각에 따른 렌더링만을 수행한다면, 본 발명의 일 실시예에 따른 음향 재생 장치를 이용해 렌더링을 수행하고, 렌더링된 입체 음향 신호를 제 2 외부 장치로 전송하여 재생하도록 함으로써 보다 좋은 성능의 입체 음향을 획득할 수 있는 것이다.

입체 음향 재생 장치의 디코더에서 디코딩 된 멀티 채널 음향 신호가 렌더러에 수신되면(1110), 렌더러는 출력 채널의 레이아웃 및 기본 설정 고도각에 기초하여 렌더링 파라미터를 획득한다(1120). 이 때 획득된 렌더링 파라미터는 입력 채널과 출력 채널의 맵핑 관계에 따라 미리 결정되어 있는 초기값으로 미리 저장되어 있는 값을 호출하거나 연산을 통해 획득하게 된다.

음향 재생 장치의 렌더링 설정을 제어하기 위한 제 1 외부 장치(201)는 사용자가 입력한 렌더링에 적용할 고도각 또는 애플리케이션 등을 통해 최적의 고도각으로 결정(1130)된 고도각을 음향 재생 장치로 전달(1140)한다.

렌더링을 위한 고도각이 입력되면, 렌더러는 입력된 고도각에 기초하여 렌더링 파라미터를 갱신(1150)하고, 갱신된 렌더링 파라미터를 이용하여 렌더링을 수행한다(1160). 이 때, 렌더링 파라미터를 갱신하는 방법은 도 7 및 도 8 에서 설명한 것과 같으며, 렌더링된 음향 신호는 임장감을 가지는 입체 음향 신호가 된다.

음향 재생 장치(100)는 렌더링된 음향 신호를 자신이 재생할 수 있지만, 제 2 외부 장치(202)의 요청이 있는 경우 렌더링 된 음향 신호를 제 2 외부 장치(202)로 전송하고, 제 2 외부 장치는 전송된 음향 신호를 재생(1080)한다. 이 때, 제 2 외부 장치가 멀티미디어 컨텐츠에 대한 기록이 가능한 장치라면 전송된 음향 신호를 레코딩할 수 있다.

이 때, 음향 재생 장치(100)와 제 2 외부 장치(201)가 특정한 인터페이스를 통해 연결된다면 렌더링 된 음향 신호를 전달하기 위해 해당 인터페이스에 적합한 형태로 변환되거나 다른 코덱으로 트랜스코딩(transcoding)하는 과정이 추가될 수 있다. 예를 들어, HDMI(High Definition Multimedia Interface) 인터페이스를 통해 비압축 전송하기 위해 PCM(Pulse CodeModulation) 형태로 변형한 후 전송하는 경우 등을 의미한다.

이와 같이 임의의 고도각에 대한 렌더링을 수행할 수 있도록 함으로써, 가상 렌더링을 통해 구현된 가상의 스피커 위치를 사용자가 원하는 임의의 위치로 배치하여 음장을 재구성 할 수 있다.

이상 설명된 본 발명에 따른 실시예는 다양한 컴퓨터 구성요소를 통하여 실행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등과 같은, 프로그램 명령어를 저장하고 실행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위하여 하나 이상의 소프트웨어 모듈로 변경될 수 있으며, 그 역도 마찬가지이다.

이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항과 한정된 실시예 및 도면에 의하여 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위하여 제공된 것일 뿐, 본 발명이 상기 실시예에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정과 변경을 꾀할 수 있다.

따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 또는 이로부터 등가적으로 변경된 모든 범위는 본 발명의 사상의 범주에 속한다고 할 것이다.

Claims

오디오 신호 렌더링 방법에 있어서,
소정의 고도각을 갖는 높이 입력 채널 신호를 포함하는 멀티채널 신호를 수신하는 단계;
복수의 출력 채널 신호의 레이아웃을 이용하여, 고도감 있는 음상을 제공하도록 하기 위해 기준 고도각을 갖는 높이 입력 채널 신호에 대한 고도 렌더링 파라미터를 획득하는 단계;
상기 소정의 고도각이 상기 기준 고도각보다 높은 경우, 상기 소정의 고도각에 기초하여 상기 고도 렌더링 파라미터를 갱신하는 단계; 및
상기 복수의 출력 채널 신호로 고도감 있는 음상을 제공하기 위해, 상기 갱신된 고도 렌더링 파라미터를 이용하여 상기 멀티채널 신호를 상기 복수의 출력 채널 신호로 다운믹스하는 단계를 포함하고, 여기서, 상기 복수의 출력 채널 신호의 레이아웃은 5.1 채널 레이아웃인, 오디오 신호 렌더링 방법.
제 1 항에 있어서,
상기 고도 렌더링 파라미터는 고도 필터 계수 및 고도 패닝 계수 중 적어도 하나를 포함하는,
오디오 신호 렌더링 방법.
제 2 항에 있어서,
상기 고도 필터 계수는 HRTF의 동적 특성을 반영하여 계산되는,
오디오 신호 렌더링 방법.
제 2 항에 있어서,
상기 고도 렌더링 파라미터를 갱신하는 단계는,
상기 기준 고도각 및 상기 소정의 고도각에 기초하여, 상기 고도 필터 계수에 가중치를 적용하는 단계;를 포함하는,
오디오 신호 렌더링 방법.
삭제
제 2 항에 있어서,
상기 고도 렌더링 파라미터를 갱신하는 단계는,
상기 기준 고도각 및 상기 소정의 고도각에 기초하여, 상기 고도 패닝 계수를 갱신하는 단계;를 포함하는,
오디오 신호 렌더링 방법.
제2 항에 있어서, 상기 고도 렌더링 파라미터가 상기 고도 패닝 계수를 포함하는 경우, 상기 갱신된 고도 렌더링 파라미터는 갱신된 고도 패닝 계수를 포함하고, 상기 갱신된 고도 패닝 계수 중 상기 소정의 고도각을 갖는 상기 높이 입력 채널 신호와 대측(contralateral)에 있는 입력 채널 신호에 적용될 갱신된 고도 패닝 계수는 갱신되기 전의 상기 고도 패닝 계수보다 큰, 오디오 신호 렌더링 방법.
제2 항에 있어서, 상기 고도 렌더링 파라미터가 상기 고도 패닝 계수를 포함하는 경우, 상기 갱신된 고도 렌더링 파라미터는 갱신된 고도 패닝 계수를 포함하고, 상기 갱신된 고도 패닝 계수 중 상기 소정의 고도각을 갖는 상기 높이 입력 채널 신호와 동측(ipsilateral)에 있는 입력 채널 신호에 적용될 갱신된 고도 패닝 계수는 갱신되기 전의 상기 고도 패닝 계수보다 작은, 오디오 신호 렌더링 방법.
제 2 항에 있어서,
상기 고도 렌더링 파라미터를 갱신하는 단계는,
상기 소정의 고도각이 임계값 이상인 경우, 상기 기준 고도각 및 상기 임계값에 기초하여, 상기 고도 패닝 계수를 갱신하는 단계;를 포함하는,
오디오 신호 렌더링 방법.
제 1 항에 있어서,
상기 소정의 고도각을 입력받는 단계;를 더 포함하는,
오디오 신호 렌더링 방법.
제 10 항에 있어서,
상기 입력은 별도의 장치로부터 수신하는,
오디오 신호 렌더링 방법.
제 1 항에 있어서
상기 갱신된 고도 렌더링 파라미터에 기초하여 상기 수신한 멀티채널 신호를 렌더링하는 단계; 및
상기 렌더링된 멀티채널 신호를 별도의 장치로 전송하는 단계;를 더 포함하는,
오디오 신호 렌더링 방법.
오디오 신호 렌더링 장치에 있어서,
소정의 고도각을 갖는 높이 입력 채널 신호를 포함하는 멀티채널 신호를 수신하는 수신부; 및
복수의 출력 채널 신호의 레이아웃을 이용하여, 고도감 있는 음상을 제공하도록 하기 위해 기준 고도각을 갖는 높이 입력 채널 신호에 대한 고도 렌더링 파라미터를 획득하고, 상기 소정의 고도각이 상기 기준 고도각보다 높은 경우, 상기 소정의 고도각에 기초하여 상기 고도 렌더링 파라미터를 갱신하고, 상기 복수의 출력 채널 신호로 고도감 있는 음상을 제공하기 위해, 상기 갱신된 고도 렌더링 파라미터를 이용하여 상기 멀티채널 신호를 상기 복수의 출력 채널 신호로 다운믹스하는 렌더링부를 포함하고,
상기 복수의 출력 채널 신호의 레이아웃은 5.1 채널 레이아웃인, 오디오 신호 렌더링 장치.
제 13 항에 있어서,
상기 고도 렌더링 파라미터는 고도 필터 계수 및 고도 패닝 계수 중 적어도 하나를 포함하는,
오디오 신호 렌더링 장치.
삭제
제 14 항에 있어서,
상기 갱신된 고도 렌더링 파라미터는,
상기 기준 고도각 및 상기 소정의 고도각에 기초하여, 가중치가 적용된 상기 고도 필터 계수를 포함하는,
오디오 신호 렌더링 장치.
삭제
삭제
제14 항에 있어서, 상기 고도 렌더링 파라미터가 상기 고도 패닝 계수를 포함하는 경우, 상기 갱신된 고도 렌더링 파라미터는 갱신된 고도 패닝 계수를 포함하고, 상기 갱신된 고도 패닝 계수 중 상기 소정의 고도각을 갖는 상기 높이 입력 채널 신호와 대측(contralateral)에 있는 입력 채널 신호에 적용될 갱신된 고도 패닝 계수는 갱신되기 전의 상기 고도 패닝 계수보다 큰, 오디오 신호 렌더링 장치.
제14 항에 있어서, 상기 고도 렌더링 파라미터가 상기 고도 패닝 계수를 포함하는 경우, 상기 갱신된 고도 렌더링 파라미터는 갱신된 고도 패닝 계수를 포함하고, 상기 갱신된 고도 패닝 계수 중 상기 소정의 고도각을 갖는 상기 높이 입력 채널 신호와 동측(ipsilateral)에 있는 입력 채널 신호에 적용될 갱신된 고도 패닝 계수는 갱신되기 전의 상기 고도 패닝 계수보다 작은, 오디오 신호 렌더링 장치.
제 14 항에 있어서,
상기 갱신된 고도 렌더링 파라미터는,
상기 소정의 고도각이 임계값 이상인 경우, 상기 기준 고도각 및 상기 임계값에 기초하여 갱신된 고도 패닝 계수를 포함하는,
오디오 신호 렌더링 장치.
삭제
삭제
제 13 항에 있어서,
상기 렌더링부는, 상기 갱신된 고도 렌더링 파라미터에 기초하여 상기 수신한 멀티채널 신호를 렌더링하고,
상기 장치는, 상기 렌더링된 멀티채널 신호를 별도의 장치로 전송하는 전송부;를 더 포함하는,
오디오 신호 렌더링 장치.
제 1 항 내지 제 4항 또는 제6항 내지 제12 항 중, 어느 한 항에 따른 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체.