KR101221919B1 - 오디오 신호 처리 방법 및 장치 - Google Patents

Abstract

본 발명은 오디오 신호를 보다 높은 효율로 압축 및 복원할 수 있는 인코딩 신호 처리 방법 및 장치를 제공하는 것을 목적으로 한다.

이를 위한 본 발명의 오디오 신호 처리 방법은, 제1 타입정보를 이용하여 오디오 신호의 타입이 음악신호 인지 여부를 식별하는 단계; 상기 오디오 신호의 타입이 음악신호가 아닌 경우, 제 2 타입정보를 이용하여 상기 오디오 신호의 타입이 음성신호 인지, 혼합신호 인지 여부를 식별하는 단계; 및 상기 오디오 신호의 타입이 음악신호, 음성신호 및 혼합신호 중 어느 하나로 판별되면, 코딩 식별정보를 이용하여 프레임별 적용되는 코딩방식에 따라 오디오 신호를 복원하는 단계를 포함하되, 상기 오디오 신호의 타입이 음악신호인 경우 상기 제1 타입정보만이 수신되고, 상기 오디오 신호의 타입이 음성신호 또는 혼합신호인 경우 상기 제1 타입정보 및 제2 타입정보 모두가 수신되는 것을 특징으로 한다.

이를 통하여, 보다 높은 효율로 다양한 종류의 오디오 신호를 부호 및 복호할 수 있게 된다.

Description

오디오 신호 처리 방법 및 장치{METHOD AND APPARATUS FOR PROCESSING AUDIO SIGNAL}

본 발명은 다양한 종류의 오디오 신호를 모두 효과적으로 부호화 및 복호화할 수 있는 오디오 신호 처리 방법 및 장치에 관한 것이다.

종래 오디오 코딩 기술은 크게 지각적 오디오 코더(Perceptual audio coder)와 선형예측 기반 코더(Linear Prediction based coder) 두 부류로 나뉠 수 있다. 예를 들어, 음악(music)에 최적화된 지각적 오디오 코더(Perceptual audio coder)는 주파수축에서 인간의 청취 심리음향이론인 마스킹(masking) 원리를 이용해 부호화 과정에서 정보량을 줄이는 방식이다. 반면, 예를 들어, 음성(speech)에 최적화된 선형예측 기반 코더(Linear Prediction based coder) 는 시간축에서 음성 발성을 모델링하여 정보량을 줄이는 방식이다.

하지만 상기 기술들은 각각 최적화된 오디오 신호(예를 들어, 음성 또는 음악 신호)에 대해서는 좋은 성능을 보이나, 다른 종류의 오디오 신호 혹은 음성과 음악 신호가 복잡하게 혼합된 오디오 신호에 대해서는 일관적인 성능을 보여주지 못하는 문제점이 있다.

기술적 과제

본 발명은 다양한 종류의 오디오 신호를 보다 높은 효율로 압축 및 복원할 수 있는 오디오 신호 처리 방법 및 장치를 제공하는 것을 목적으로 한다.

기술적 해결방법

상기 목적을 달성하기 위한 본 발명은, 오디오 신호의 특성에 적합한 오디오 코딩 방법을 제공하고자 한다.

유리한 효과

본 발명은 다양한 종류의 오디오 신호를 분류하고, 각 오디오 신호 특성별로 이에 적합한 오디오 코딩 방식을 제공함에 의해, 보다 효율적인 오디오 신호의 압축 및 복원이 가능하게 된다.

도 1은 본 발명의 바람직한 일 실시예에 따른 오디오 부호화 장치를 도시한 블록도이다.

도 2는 본 발명의 일 실시예에 따른 오디오 타입정보를 이용한 오디오 신호의 부호화 방법을 도시한 흐름도이다.

도 3은 본 발명에 의해 부호화된 오디오 비트스트림 구조의 일예를 도시한 것이다.

도 4는 본 발명의 일 실시예에 따른 심리음향 모델(psychoacoustic model)을 이용한 오디오 부호화 장치를 도시한 블록도이다.

도 5는 본 발명의 다른 실시예에 따른 심리음향모델(psychoacoustic model) 을 이용한 오디오 부호화 장치를 도시한 블록도이다.

도 6은 본 발명의 다른 실시예에 따른 심리음향 모델부를 이용한 잡음 변형 기준값의 변화를 도시한 것이다.

도 7은 본 발명의 다른 실시예에 따른 심리음향모델(psychoacoustic model)을 이용한 잡음 변형 기준값 생성 방법을 도시한 흐름도이다.

도 8은 본 발명의 일 실시예에 따른 오디오 복호화 장치를 도시한 블록도이다.

도 9는 본 발명의 실시예에 따른 오디오 복호화 장치가 구현된 제품의 구성을 예를 들어 도시한 것이다.

도 10은 본 발명의 실시예에 따른 오디오 복호화 장치가 구현된 제품들의 관계를 예를 들어 도시한 것이다.

도 11은 본 발명의 일 실시예에 따른 오디오 복호화 방법을 도시한 흐름도이다.

이하 첨부된 도면을 참조로 본 발명의 바람직한 실시예를 상세히 설명하기로 한다. 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형예들이 있을 수 있음을 이해하여야 한다.

본 발명에서 다음 용어는 다음과 같은 기준으로 해석될 수 있다. '코딩 (coding)'은 경우에 따라 인코딩 또는 디코딩으로 해석될 수 있고, 정보(information)는 값(values), 파라미터(parameter), 계수(coefficients), 성분(elements) 등을 모두 포함하는 용어이다.

관련하여, 본 발명에서 '오디오 신호(audio signal)'란, 비디오 신호(video signal)와 구분되는 개념으로서, 재생시 청각으로 식별할 수 있는 모든 신호를 지칭한다. 따라서, 상기 오디오 신호는, 예를 들어, 인간의 발음을 중심으로 하는 음성(speech) 신호 또는 이와 유사한 신호 (이하 '음성(speech) 신호'로 명명한다)와, 기계음 및 소리를 중심으로 하는 음악(music) 신호 또는 이와 유사한 신호(이하 '음악(music) 신호'로 명명한다), 및 상기 음성 신호 및 음악 신호가 혼합된 '혼합(mixed) 신호'로 분류할 수 있다. 본 발명은 예를 들어 상기 3가지로 분류되는 오디오 신호를 각 신호의 특성에 맞게 부호화 및 복호화하는 방법 및 장치를 제공하고자 한다. 단, 상기 오디오 신호의 분류는 본 발명의 설명을 위해 분류한 기준일뿐, 상기 오디오 신호를 또 다른 방법에 의해 분류하는 경우에도, 본 발명의 기술적 사상은 동일하게 적용할 수 있음은 자명하다 할 것이다.

도 1은 본 발명의 바람직한 일 실시예에 따른 오디오 부호화 장치를 도시한 블록도이다. 상세하게는, 도 1은 입력되는 오디오 신호를 기설정된 기준에 따라 분류하고, 상기 분류된 각 오디오 신호에 적합한 오디오 부호화 방식을 선택하여 부호화 하는 과정을 도시한 것이다.

도 1을 참조하면, 입력되는 오디오 신호의 특성을 분석하여 음성 신호, 음악 신호, 또는 음성과 음악의 혼합신호 중 어느 하나의 유형으로 분류하는 신호분류부 (Sound Activity Detector;100)와, 상기 신호분류부(100)를 통하여 결정된 신호 유형 중 음성 신호를 부호화 하는 선형예측모델링부(110)와, 음악 신호를 부호화하는 심리음향모델링부(120)와, 음성과 음악의 혼합 신호를 부호화하는 혼합신호모델링부(130)를 포함한다. 또한, 상기 신호분류부(100)에 의해 오디오 신호가 분류되면 이에 적합한 부호화 방식을 선택가능한 스위칭부(101)를 더 포함할 수 있다. 상기 스위칭부(101)는 신호분류부(100)에 의해 생성되는 오디오 신호 코딩타입 정보(예를들어, 제1 타입정보 및 제2 타입정보, 이에 대해서는 도2 및 도3을 통해 상세히 후술할 예정이다)를 제어신호로 하여 동작되어 진다. 또한, 상기 혼합신호모델링부(130)는 선형예측부(131), 레지듀얼 신호추출부(132), 주파수 변환부(133)를 포함할 수 있다. 이하, 상기 도 1의 각 부분을 상세히 설명하면 다음과 같다.

우선, 상기 신호분류부(100)는 입력 오디오 신호의 타입을 분류하고 이에 적합한 오디오 부호화 방식을 선택하기 위한 제어 신호를 생성한다. 예를 들어, 상기 신호분류부(100)는 입력 오디오 신호가, 음악 신호인지, 음성 신호인지, 또는 음성 및 음악 두 가지 신호가 혼합된 혼합 신호(mixed)인지를 분류한다. 즉, 상기와 같이 입력되는 오디오 신호의 타입을 분류하는 이유는, 오디오 신호 타입별 후술할 오디오 부호화 방식 중 최적의 코딩 방식을 선택하는 것에 있다. 결국 상기 신호분류부(100)는 입력 오디오 신호를 분석하여 이에 적합한 최적의 오디오 코딩 방식을 선택하는 과정에 해당된다 할 것이다. 예를 들어, 상기 신호분류부(100)는 입력 오디오 신호를 분석하여 오디오 코딩타입 정보를 생성하고, 상기 생성된 오디오 코딩타입 정보는 부호화 방식을 선택하는 기준으로 활용됨은 물론, 최종 부호화되는 오 디오 신호내에 비트스트림 형태로 포함되어 복호화 장치 또는 수신 장치로 전송되어 진다. 상기 오디오 코딩타입 정보를 이용한 복호화 방법 및 장치는 도 8 및 도 11에서 상세히 후술할 예정이다. 또한, 상기 신호분류부(100)에 의해 생성되는 오디오 코딩타입 정보는, 예를 들어, 제1 타입정보 및 제2 타입정보를 포함할 수 있으며. 이에 대해서는 도 2 및 도 3 설명 부분에서 후술할 예정이다.

상기 신호분류부(100)는 입력 오디오 신호의 특성에 따라 오디오 신호 타입을 결정하게 된다. 예를 들어, 상기 입력 오디오 신호가 특정 계수와 레지듀얼 신호로 모델링이 더욱 잘 되는 신호인 경우 이를 음성 신호로 판단하고, 반면, 상기 신호가 특정 계수와 레지듀얼 신호로 모델링이 잘 되지 않는 신호인 경우에는 음악 신호로 판단하게 된다. 또한, 상기 음성 신호 및 음악 신호중 어느 하나로 판단하기 어려운 경우에는 혼합 신호로 판단할 수 있다. 구체적인 판단 기준은, 예를 들어, 상기 신호를 특정 계수와 레지듀얼 신호로 모델링 했을 때, 상기 신호의 에너지 레벨에 대한 상기 레지듀얼 신호의 에너지 레벨 비가 기설정된 기준값보다 작은 경우, 상기 신호는 모델링이 잘 되는 신호라고 판단할 수 있고, 따라서 음성 신호로 판단 할 수 있다. 또는, 상기 신호가 시간축 상에서 높은 중복성을 가지는 경우, 상기 신호는 과거 신호로부터 현재 신호를 예측하는 선형 예측에 의해 모델링이 잘되는 신호로 판단할 수 있으며, 따라서, 음악 신호로 판단 할 수 있다.

이와 같은 기준을 통해 입력되는, 신호가 음성 신호로 분류되었을 경우, 음성 신호에 최적화되어 있는 음성 부호화기를 이용하여 입력 신호를 부호화할 수 있으며, 본 실시예에서는 음성 신호에 적합한 부호화 방식으로 선형예측모델링부 (110)를 사용한다. 상기 선형예측 모델링부(110)는 다양한 방식이 존재하며, 예를들어, ACELP(Algebraic Code Excited Linear Prediction) 코딩 방식 또는 AMR(Adaptive Multi-Rate) 코딩 및 AMR-WB(Adaptive Multi-Rate Wideband)코딩 방식을 적용할 수 있다.

관련하여, 상기 선형예측모델링부(110)는 입력 오디오 신호를 프레임 단위로 선형 예측 부호화할 수 있으며, 하나의 프레임마다 예측(prediction) 계수를 각각 추출하여 양자화 할 수 있다. 예를 들어, 일반적으로 'Levinson-Durbin 알고리즘'을 이용하여 예측 계수를 추출하는 방식이 널리 활용되고 있다.

즉, 예를 들어, 입력 오디오 신호가, 복수의 프레임(frame)으로 구성되어 있거나 또는 복수의 프레임을 하나의 단위로 하는 수퍼 프레임(super frame)이 복수로 존재하는 경우, 각각의 프레임별로 선형예측 모델링 방식의 적용여부를 결정할 수 있다. 또한, 하나의 수퍼 프레임내에 존재하는 단위 프레임 마다 또는 단위 프레임의 서브 프레임 마다 상이한 선형예측 모델링 방식을 적용하는 것도 가능하며, 이는 오디오 신호의 코딩 효율을 높이는 효과가 된다.

한편, 상기 신호분류부(100)에 의해, 입력 오디오 신호가 음악 신호로 분류되는 경우에는, 음악 신호에 최적화되어 있는 음악 부호화기를 이용하여 입력 신호를 부호화할 수 있으며, 본 실시예에서는 음악 신호에 적합한 부호화 방식으로 심리음향모델링부(120)를 사용한다. 관련하여, 본 발명에 적용되는 심리음향 모델링부(120)의 일예에 대해서 도 4 ～ 도 7을 참조하여 상세히 후술할 예정이다.

한편, 상기 신호분류부(100)에 의해, 입력 오디오 신호가 음성과 음악이 혼 합되어 있는 혼합 신호로 분류되는 경우에는, 상기 혼합 신호에 최적화되어 있는 부호화기를 이용하여 입력 신호를 부호화할 수 있으며, 본 실시예에서는 혼합 신호에 적합한 부호화 방식으로 혼합신호 모델링부(130)를 사용한다.

상기 혼합신호 모델링부(130)는, 전술한 선형예측 모델링 방식과 심리음향 모델링 방식을 변형한 혼합 방식으로 코딩하는 것이 가능하다. 즉, 상기 혼합신호 모델링부(130)는, 입력 신호를 선형 예측 코딩한 후, 선형 예측된 결과 신호와 원본 신호와의 차인 레지듀얼 신호(Residual)를 획득하고, 상기 레지듀얼 신호는 주파수 변환 코딩 방식을 통해 코딩하게 된다.

예를 들어, 도 1은 상기 혼합신호 모델링부(130)가, 선형예측부(131), 레지듀얼 신호추출부(132) 및 주파수 변환부(133)를 포함하여 구성되는 일예를 도시한 것이다.

관련하여, 상기 선형예측부(131)는 입력되는 신호를 선형 예측 분석하여 상기 신호의 특성을 나타내는 선형 예측 계수를 추출하고, 레지듀얼 신호추출부(132)에서 상기 추출된 선형 예측 계수를 이용하여 입력신호로부터 중복 성분이 제거된 레지듀얼 신호를 추출한다. 상기 레지듀얼 신호는 중복성이 제거되었기 때문에 백색 잡음과 같은 형태를 가질 수 있다. 또한, 상기 선형예측부(131)는 입력 오디오 신호를 프레임 단위로 선형 예측 부호화할 수 있으며, 하나의 프레임마다 예측(prediction) 계수를 각각 추출하여 양자화 할 수 있다. 즉, 예를 들어, 입력 오디오 신호가, 복수의 프레임(frame)으로 구성되어 있거나 또는 복수의 프레임을 하나의 단위로 하는 수퍼 프레임(super frame)이 복수로 존재하는 경우, 각각의 프레임 별로 선형예측 모델링 방식의 적용여부를 결정할 수 있다. 또한, 하나의 수퍼 프레임내에 존재하는 단위 프레임 마다 또는 단위 프레임의 서브 프레임 마다 상이한 선형예측 모델링 방식을 적용하는 것도 가능하며, 이는 오디오 신호의 코딩 효율을 높이는 효과가 된다.

상기 레지듀얼 신호추출부(132)는 상기 선형예측부(131)를 통하여 코딩된 잔여 신호와 신호분류부(100)를 통과한 원 오디오 신호를 입력받아 양 신호의 차이 신호인 레지듀얼(Residual) 신호를 추출한다.

상기 주파수 변환부(133)는 입력되는 레지듀얼 신호를 MDCT와 같은 방법으로 주파수 도메인 변환하여 레지듀얼 신호의 마스킹 임계치 또는 신호 대 마스크 비(SMR, Signal-to-Mask Ratio)를 계산하여, 상기 레지듀얼 신호를 코딩한다. 상기 주파수 변환부(133)는 심리음향 모델링 방법 외에 TCX를 이용하여 잔여 오디오 성향의 신호를 코딩하는 것도 가능하다.

관련하여, 상기 선형예측 모델링부(110) 및 선형예측부(131)에서 입력 오디오 신호를 선형 예측 분석하여 오디오 특성이 반영된 선형 예측 계수(LPC, Linear prediction coefficient)를 추출하게 되는 바, 상기 LPC 데이터를 전송하는 방법에 있어서 가변적인 비트를 이용하는 방식을 고려할 수 있다.

예를 들어, 각 프레임별 코딩 방식을 고려하여 LPC 데이터 모드를 결정하고, 상기 결정된 LPC 데이터 모드별로 가변적인 비트수를 가지는 선형 예측 계수를 할당하는 것이 가능하다. 이를 통해 전체적인 오디오 비트수를 줄임으로서 더욱 효율적인 오디오 부호화 및 복호화가 가능하게 된다.

한편, 상기 신호분류부(100)는 전술한 바와 같이, 오디오 신호의 코딩타입 정보를 2가지 타입정보로 구분하여 생성하고, 이를 비트스트림내에 포함하여 복호화 장치로 전송하게 된다. 이하 본 발명에 의한 오디오 코딩타입 정보에 대해 도2 및 도3을 참조하여 상세히 설명하면 다음과 같다.

도 2는 본 발명의 바람직한 일 실시예에 따른 오디오 신호의 코딩타입 정보를 이용한 오디오 신호의 부호화 방법을 도시한 흐름도이다.

본 발명은 오디오 신호의 타입을 표현하는 방법으로서, 제1 타입정보와 제2 타입정보로 구분하는 것을 제안한다. 즉, 예를 들어, 신호분류부(100)는, 입력 오디오 신호가 음악 신호로 판단되면(S100), 이에 적합한 부호화 방식(예를 들어, 도2의 심리음향 모델링 방식)을 선택하도록 스위칭부(101)를 제어함에 의해, 상기 선택된 부호화 방식에 따라 부호화가 수행되도록 한다(S110). 이후, 해당 제어정보를 제1 타입정보로 구성하여 부호화된 오디오 비트스트림내에 포함하여 전송하게 된다. 관련하여, 결국 상기 제1 타입정보는 오디오 신호의 코딩타입이 음악신호 코딩타임임을 나타내는 코딩 식별정보로서의 기능을 겸하게 되며, 이는 복호화 방법 및 장치에서 오디오 신호를 복호화시에 활용되어 진다.

또한, 신호분류부(100)는, 만약 입력 오디오 신호가 음성신호로 판단되면, (S120), 이에 적합한 부호화 방식(예를 들어, 도2의 선형예측 모델링 방식)을 선택하도록 스위칭부(101)를 제어함에 의해, 상기 선택된 부호화 방식에 따라 부호화가 수행되도록 한다(S130). 또한, 신호분류부(100)는, 만약 입력 오디오 신호가 혼합신호로 판단되면(S120), 이에 적합한 부호화 방식(예를 들어, 도2의 혼합신호 모델 링 방식)을 선택하도록 스위칭부(101)를 제어함에 의해, 상기 선택된 부호화 방식에 따라 부호화가 수행되도록 한다(S140). 이후, 상기 음성신호 코딩타입 또는 혼합신호 코딩타입중 어느 하나를 나타내는 제어정보를 제2 타입정보로 구성하여, 상기 제1 타입정보와 함께 부호화된 오디오 비트스트림내에 포함하여 전송하게 된다. 관련하여, 결국 상기 제2 타입정보는 오디오 신호의 코딩타입이 음성신호 코딩타입 또는 혼합신호 코딩타입중 어느 하나를 나타내는 코딩 식별정보로서의 기능을 겸하게 되며, 이는 복호화 방법 및 장치에서 전술한 제1 타입정보와 함께 오디오 신호를 복호화시에 활용되어 진다.

관련하여, 상기 제1 타입정보와 제2 타입정보는 입력 오디오 신호의 특성에 따라, 이중 제1 타입정보만이 전송되거나, 또는 제1 타입정보 및 제2 타입정보를 모두 전송해야 되는 두가지 경우로 구분되어 진다. 즉, 예를 들어, 입력 오디오 신호 코딩타입이 음악신호 코딩타입이면 제1 타입정보만을 비트스트림에 포함하여 전송하고, 제2 타입정보는 비트스트림에 포함하지 않아도 된다 (도3(a)). 즉, 제2 타입정보는 입력 오디오 신호 코딩타입이 음성신호 코딩타입이거가 또는 혼합신호 코딩타입에 해당하는 경우에만 비트스트림에 포함되므로, 오디오 신호의 코딩타입을 표현하기 위해 불필요한 비트수를 방지하는 효과가 있다.

관련하여, 본 발명에서는 일예로, 제1 타입정보가 음악신호 코딩타입인지 여부를 지시하는 것으로 설명하였으나, 이는 하나의 예에 불과하며, 제1 타입정보를 음성신호 코딩타입 또는 혼합신호 코딩타입을 지시하는 정보로 사용할 수 있음은 자명하다. 즉, 이는 본 발명이 적용되는 코딩 환경에 따라, 확율적으로 발생되는 빈도가 높은 오디오 코딩타입을 제1 타입정보로 활용함으로서, 전체적인 비트스트림의 비트수를 줄이는 효과를 가져오게 된다.

도 3은 본 발명에 의해 부호화된 오디오 비트스트림 구조의 일예를 도시한 것이다.

예를들어, 도 3(a)는 입력 오디오 신호가 음악신호에 해당하는 경우를 도시한 것으로, 비트스트림내에는 제1 타입정보(301)만을 포함하고, 제2 타입정보는 포함되지 않는다. 또한, 비트스트림내에는 상기 제1 타입정보(301)에 해당하는 코딩타입으로 코딩된 오디오 데이터를 포함한다(예를 들어, AAC 비트스트림(302)).

또한, 도 3(b)는 입력 오디오 신호가 음성신호에 해당하는 경우를 도시한 것으로, 비트스트림내에는 제1 타입정보(311) 및 제2 타입정보(312)를 모두 포함하게 된다. 또한, 비트스트림내에는 상기 제2 타입정보(312)에 해당하는 코딩타입으로 코딩된 오디오 데이터를 포함한다(예를 들어, AMR 비트스트림(313)).

또한, 도 3(c)는 입력 오디오 신호가 혼합신호에 해당하는 경우를 도시한 것으로, 비트스트림내에는 제1 타입정보(321) 및 제2 타입정보(322)를 모두 포함하게 된다. 또한, 비트스트림내에는 상기 제2 타입정보(322)에 해당하는 코딩타입으로 코딩된 오디오 데이터를 포함한다(예를 들어, TXC가 적용된 AAC 비트스트림(313)).

관련하여, 상기 도 3(a)～(c) 는 본 발명에 의해 부호화되는 오디오 비트스트림내에 포함되는 정보를 일예로 표시한 것일 뿐, 본 발명의 범위내에서 다양한 응용이 가능함은 자명하다 할 것이다. 예를 들어, 본 발명에서는 AMR 및 AAC를 코딩 방식의 예로서 이를 식별하는 정보를 추가하였으나, 다양한 코딩 방식이 적용가 능함은 물론, 이를 식별하는 코딩 식별정보도 다양하게 사용되어 질수도 있다. 또한, 본 발명 도 3(a)～(c)는 하나의 수퍼 프레임 또는 단위 프레임 또는 서브 프레임 모두에 적용가능한 방식이다. 즉, 기설정된 프레임 단위별로 오디오 신호 코딩타입 정보를 제공하이 가능하다.

한편, 상기 도1 내의, 선형예측모델링부(110), 심리음향모델링부(120), 혼합신호모델링부(130)를 이용한 입력 신호의 부호화 과정의 전처리 과정으로서, 주파수 대역 확장 과정이 이루어질 수도 있다 (미도시). 주파수 대역 확장 과정의 일 실시예로, 입력 신호의 저주파 성분을 이용해 고주파 성분을 인코딩하여, 입력 신호의 전체 대역 대신 입력 신호의 저주파 대역 및, 고주파 성분을 복원하기 위한 대역 확장 정보를 출력할 수 있다. 이와 같은 대역 확장 과정을 일 예로는 SBR(Spectral Band Replication)과 HBE(High Band Extension)이 있을 수 있다.

한편, 상기 선형예측모델링부(110), 심리음향모델링부(120), 혼합신호모델링부(130)를 이용한 입력 신호의 부호화 과정의 전처리 과정으로서, 채널 확장 과정이 이루어질 수도 있다(미도시). 상기 채널 확장 과정은 인코딩 단계는, M개의 채널에 해당하는 입력신호를 N보다 적은 채널 수M(M＜N)로 다운믹스 하고, 이 과정에서 M채널을 N채널로 복원하기 위한 부가 정보로 생성하는 과정이다. 이 부가 정보는 파라미터이므로, 채널 신호의 인코딩에 필요한 비트보다 훨씬 적은 비트수로 인코딩할 수 있다. 따라서, M개의 채널(다운믹스 신호) 및 부가정보를 부호화함으로써 전체 N개의 채널을 부호화하는 것보다 비트 할당량을 감소시킬 수 있다. 상기 채널 확장 과정의 일 실시예로 PS(Parametric Stereo)와 같은 채널 확장 인코딩부를 들 수 있다. Parametric Stereo는 스테레오 신호를 코딩하는 기술로, 스테레오 신호를 모노 신호로 다운믹스시킨다.

일 실시예로 48kHz 스테레오 신호를 SBR과 Parametric Stereo를 사용하여 전송하면 SBR/Parametric Stereo를 통과한 뒤 24kHz, 모노신호 신호가 남으며 이는 다시 부호화기를 통해 인코딩될 수 있다. 상기 부호화기의 입력신호가 24kHz가 되는 이유는 SBR을 통과하면서 고주파 성분은 SBR을 통해 코딩되고 기존 주파수의 절 반으로 다운샘플링되기 때문이며, 모노신호가 되는 이유는 PS(Parametric Stereo)를 통해 스테레오 오디오가 파라미터로 추출되어 모노신호와 부가오디오의 합 형태로 바뀌기 때문이다.

이하, 도면을 참조하여, 심리음향모델링부를 이용한 음악 신호의 부호화 과정을 설명한다.

도 4는 본 발명의 바람직한 일 실시예에 따른 심리음향 모델(psychoacoustic model)을 이용한 오디오 부호화 과정을 표현한 블록도이다.

도 4를 참조하면, 본 발명의 일 실시예에 따른 심리음향 모델을 이용한 오디오 부호기는 필터뱅크(Analysis Filterbank;401), 심리음향 모델부(Psychoacoustic Model;402), 양자화부(Quantization and Bit Allocation;403), 엔트로피 코딩부(Entropy Coding;404) 및 멀티플렉서(405)를 포함한다.

상기 필터뱅크(401)는 시간 축 신호인 입력 오디오 신호를 부호화하기 위하여 MDCT(Modified Discrete Cosine Transform)를 수행하여 오디오 신호를 주파수 축 신호로 변환시킨다.

상기 심리음향 모델부(402)는 입력된 오디오 신호의 지각적 특성을 분석하여 비트 할당 과정에 필요한 각 주파수 별 최대 허용 양자화 잡음의 양을 결정하게 된다. 이러한 주파수별 최대 허용 양자화 잡음의 양을 도식화 한 것이 잡음 변형 기준값(Noise Shaping Reference)이다. 보다 상세히, 상기 심리음향 모델부(402)는 주파수 축에서 입력 신호의 지각적 특성을 분석하기 때문에 입력 신호의 주파수 변환 과정을 필요로 한다. 오디오 신호의 부호화 과정에서 상기 필터뱅크(401)를 통 해서 주파수 변환을 수행하고 있지만, 심리음향 이론의 실험 결과들은 대부분 DFT(Discrete Fourier Transform) 축 상에서 이루어지기 때문에 FFT(Fast Fourier Transform) 변환을 수행하는 것이 바람직하다. 이와 같은 방법으로 주파수 축 신호의 변환 과정을 거친 후, 심리음향 모델에서의 잡음 변형 기준값은 주파수 스펙트럼과 각 주파수 성분에 대응하는 스프레딩(spreading) 함수와의 컨볼루션(convolution)에 의해 얻어진다. 심리음향 모델에 의해 얻어진 잡음 변형 기준값과 입력 신호 스펙트럼과의 차이를 지각적 엔트로피(perceptual entropy)로 계산하여 이에 적합한 비트를 할당함으로써 오디오 신호의 스펙트럼을 양자화한다.

상기 양자화부(403)는 상기 필터뱅크(401)를 통하여 주파수 축 신호로 변환된 오디오 신호에서 상기 심리음향 모델부(402)를 통하여 결정된 잡음 변형 기준값 아래에 위치하는 양자화 잡음의 양을 제거하는 로스 코딩(Loss Coding)을 거친 결과물을 양자화한다. 또한, 양자화된 오디오 신호에 비트를 할당한다. 비트 할당 과정은 주어진 비트율에서 양자화 과정에서 발생하는 양자화 잡음이 심리음향 모델로부터 얻은 최대 허용 잡음의 양보다 가능한 적어지도록 최적화한다.

상기 엔트로피 코딩부(404)는 상기 양자화부(403)를 통하여 양자화 및 비트 할당된 오디오 신호를 사용빈도에 따라 부호를 할당하여 오디오 신호의 압축율을 최대화 한다. 즉, 평균 부호 길이가 엔트로피에 가장 가깝도록 부호를 할당하여 압축 효율을 향상시킨다. 기본 원리는 데이터 심볼들의 통계적 발생 빈도에 따라 각각의 심볼이나 연속된 심볼을 적절한 길이의 부호로 표현하여 전체 데이터량을 줄이는 것이다. 데이터 심볼의 발생 확률에 따라 "엔트로피"라고 불리는 심볼당 평균 정보량이 결정되는데, 엔트로피 부호화의 목표는 심볼당 평균 부호 길이가 엔트로피에 가까이 가도록 하는 것이다.

상기 멀티플렉서(405)는 고효율로 압축된 오디오 데이터와 사이드 정보(Side Information)를 상기 엔트로피 코딩부(404)로부터 전달받아 수신측 복호기(Decoder)로 오디오 데이터 비트 스트림을 전송한다.

도 5는 본 발명의 바람직한 다른 실시예에 따른 심리음향모델(psychoacoustic model)을 이용한 오디오 부호화 과정을 표현한 블록도이다.

도 5를 참조하면, 본 발명의 다른 실시예에 따른 오디오 신호 부호기는 필터뱅크(Analysis Filterbank;501), 심리음향 모델부(Psychoacoustic Model;502), 양자화부(Quantization and Bit Allocation;503), 엔트로피 코딩부(Entropy Coding;504) 및 멀티플렉서(505)를 포함한다. 특히, 상기 심리음향 모델부(502)는 계수발생부(502a)와, 잡음 변형 기준값 결정부(502b)를 포함한다.

상기 필터뱅크(501)는 오디오 신호의 통계적인 중복성을 제거하기 위하여 서브밴드 샘플로 변환하고, 시간 축 신호인 입력 오디오 신호를 부호화하기 위하여 MDCT(Modified Discrete Cosine Transform)를 수행하여 오디오 신호를 주파수 축 신호로 변환시킨다.

상기 심리음향 모델부(502)는 입력 신호의 지각적 특성을 분석하여 비트 할당 과정에 필요한 각 주파수 별 최대 허용 양자화 잡음의 양을 결정하게 된다. 일반적으로 오디오 신호를 부호화 하는 과정에서 아날로그 신호를 디지털 신호로 변환하기 위한 양자화 과정을 거치게 된다. 이러한 양자화 과정에서 연속적인 값을 반올림하여 발생하는 오차의 값을 양자화 잡음이라 한다. 이러한 양자화 잡음은 비트 얼로케이션의 정도에 따라 변화하며, 이러한 양자화 잡음을 수치화하기 위하여 신호 대 양자화 잡음비(SQNR:Signal to Quantization Noise Ratio) 값을 사용한다. 상기 신호 대 양자화 잡음비는 20xNxlog 2 = 6.02xN(dB)로 표현되며, 이때 N은 샘플 당 할당된 비트수를 의미한다. 이러한 주파수별 최대 허용 양자화 잡음의 양을 도식화 한 것이 잡음 변형 기준값(Noise Shaping Reference)이다. 결과적으로, 상기 비트 얼로케이션 값을 증가시키는 것은 양자화 잡음을 감소시키고, 양자화 잡음이 상기 잡음 변형 기준값 아래로 내려갈 확률을 증가시킨다.

상기 심리음향 모델부(502)는 선형예측 분석을 수행하여 선형예측 계수를 생성하고, 상기 선형예측 계수에 가중치를 적용하여 변형예측 계수를 생성하는 계수발생부(502a)와, 생성된 변형예측 계수를 이용하여 잡음 변형 기준값을 결정하는 잡음 변형 기준값 결정부(502b)를 포함한다. 상기 잡음 변형 기준값은 선형예측(Linear Prediction) 코딩을 통하여 도출된 선형예측 계수(Linear Prediction Coefficient)에 가중치를 부과하는 지각적 웨이팅(Perceptual Weighting) 코딩에 의하여 생성되는 변형예측 계수를 이용하여 생성된다.

상기 양자화부(503)는 상기 필터뱅크(501)를 통하여 주파수 축 신호로 변환된 오디오 신호에서 상기 심리음향 모델부(502)를 통하여 결정된 잡음 변형 기준값 아래의 양자화 잡음의 양을 제거하는 로스 코딩(Loss Coding)을 거친 결과물을 양자화 하고, 양자화된 오디오 신호에 비트를 할당한다. 비트 할당 과정은 주어진 비트율에서 양자화 과정에서 발생하는 양자화 잡음이 새로 설정된 잡음 변형 기준값 의 최대 허용 잡음의 양보다 가능한 적어지도록 최적화한다. 즉, 각 프레임에서의 잡음 변형 기준값을 근거로 하여 양자화 잡음이 신호에 의해 마스킹 될 수 있도록 MDCT 스펙트럼의 양자화 비트를 할당한다. 일 실시예로, 주파수 변환된 상기 오디오 신호는 복수 개의 서브밴드 신호로 구분되며, 각 서브밴드 신호에 대응되는 상기 변형예측 계수 기반의 잡음 변형 기준값을 이용하여 각 서브밴드 신호를 양자화할 수 있다.

상기 엔트로피 코딩부(504)는 상기 양자화부(503)를 통하여 양자화 및 비트 할당된 오디오 신호를 사용빈도에 따라 부호를 할당하여 오디오 신호의 압축율을 최대화 한다. 즉, 평균 부호 길이가 엔트로피에 가장 가깝도록 부호를 할당하여 압축 효율을 향상시킨다. 즉, 데이터 심볼들의 통계적 발생 빈도에 따라 각각의 심볼이나 연속된 심볼을 적절한 길이의 부호로 표현하여 데이터량을 최적화 시킨다. 데이터 심볼의 발생 확률에 따라 "엔트로피"라고 불리는 심볼당 평균 정보량이 결정되는데, 엔트로피 부호화의 목표는 심볼당 평균 부호 길이가 엔트로피에 가까이 가도록 하는 것이다. 상기 엔트로피 코딩부(504)는 엔트로피 코딩을 수행함에 있어 특정 방법에 구애받지 않으며, 당업자의 선택에 따라 허프만 코딩 방법, 산술 부호화 방법, LZW 부호화 방법 등이 사용될 수 있다.

상기 멀티플렉서(505)는 고효율로 압축된 오디오 데이터와 사이드 정보(Side information)를 상기 엔트로피 코딩부(504)로부터 전달받아 수신측 복호기(Decoder)로 부호화된 오디오 데이터 비트 스트림을 전송한다.

한편, 본 발명의 오디오 부호화 방법을 통하여 부호화된 오디오 데이터는 복 호화기를 통하여 다음과 같이 복호화될 수 있다.

먼저, 복호화기의 디멀티플렉서를 통하여 양자화된 오디오 신호를 수신하고, 상기 양자화된 오디오 신호로부터 오디오 신호를 복원한다. 이때, 상기 양자화된 오디오 신호는, 주파수 변환된 오디오 신호에 대해 잡음 변형 기준값을 이용하여 생성된 것이고, 상기 잡음 변형 기준값은, 상기 오디오 신호의 선형예측 계수에 가중치를 적용하여 생성된 변형예측 계수를 이용하여 결정된 것일 수 있다.

도 6은 본 발명의 바람직한 다른 실시예에 따른 심리음향 모델부를 이용한 잡음 변형 기준값의 변화를 도시한 도면이다.

도 6을 참조하면, 가로축은 주파수(frequence), 세로축은 신호의 세기(dB)를 나타내며, 그래프 상의 ①번 실선은 오디오 입력 신호의 스펙트럼을, ②번 점선은 오디오 입력 신호의 에너지를, ③번 실선은 종래 잡음 변형 기준값을, ④번 점선은 선형예측 해석을 통하여 계산된 선형예측 계수와 상기 선형예측 계수에 부가된 가중치를 적용하여 생성된 변형예측 계수를 이용하여 새롭게 설정된 잡음 변형 기준값을 나타낸다.

그래프 상의 오디오 입력 신호의 파형을 고려할 때 파형의 고점을 각각 포먼트(formant)라 지칭하며, 파형의 저점을 밸리(valley)라 지칭한다. 일 예로 도 6의 A 부분이 포먼트가 되며, B 부분이 밸리 영역이 된다. 음성 부호화의 경우, 사람의 청각적 특성이 주파수 스펙트럼의 밸리(valley) 영역에서의 양자화 잡음에 민감하다는 점에 기반하여 밸리 영역에 대한 양자화 잡음을 상쇄시키기 위하여 오디오 신호 부호화시 보다 많은 비트수를 밸리 영역에 할당하고, 상대적으로 에너지가 큰 포먼트(formant) 영역의 잡음 변형 기준값을 상향하여 상대적으로 적은 비트수를 포먼트 영역에 할당함으로써 압축률을 유지함과 동시에 보다 향상된 음질을 구현할 수 있다. 즉, A 부분의 잡음 변형 기준값을 종래에 비하여 상향 조정하고, B 부분의 마시킹 커브 값을 종래에 비하여 하향 조정함으로써 음성신호에 대한 코딩 효율을 높일 수 있다. 즉, 상기 가중치는 주파수 변환된 오디오 신호를 양자화하는 단계에 있어 선형예측계수에 대한 주파수 스펙트럼의 포먼트 영역에 대응되는 오디오 신호의 양자화 잡음을 증가시키고, 밸리 영역에 대응되는 오디오 신호의 양자화 잡음을 감소시키는 방향으로 수행될 수 있다.

이를 위하여, 도 5에 도시된 계수발생부(502a)에서 선형예측 해석(Linear Predictive analysis)을 통해 선형예측(Linear Predictive) 계수들로 구성된 전달함수를 구할 수 있다. 이 전달함수의 주파수 스펙트럼은 입력 신호에 대한 주파수 스펙트럼의 포락선(envelope)으로 도시된다. 이러한 전달함수를 선형예측계수(Linear Predictive Coefficient)라하고, 이는 종래 오디오 부호화 과정에서 사용되는 심리음향 모델(PAM)의 잡음 변형 기준값과 유사한 형태를 나타낸다. 이러한 특징을 이용하여 계수발생부(502a)에서 구해진 전달함수 즉 선형예측계수를 도출하고 이를 기초로 종래 실험적으로 구해진 잡음 변형 기준값을 조정하여 비트레이트의 감소에 따른 양자화 잡음을 보다 효율적으로 감쇄시킬 수 있으며, 연산량을 감소시킬 수 있다. 또한, 상기 계수발생부(502a)에서 선형예측 계수들에 적절한 가중치 계수(weighting coefficient)를 적용하여 가중치 필터(weighting filter)를 구현함으로써, 변형예측 계수를 생성하고, 상기 변형예측 계수를 이용하여 간단하게 스펙트럼의 포먼트(formant) 영역과 밸리(valley) 영역에 대한 비중을 조절할 수 있게 된다.

이 방식을 오디오 부호화 과정에 적용하면, 양자화 잡음의 영향이 청각적 측면에서 민감한 스펙트럼의 밸리(valley) 영역에 대해서는 잡음 변형 기준값을 낮추어 더 많은 비트를 할당하게 하고 상대적으로 에러의 영향이 작은 포먼트(formant) 영역에 대해서는 잡음 변형 기준값을 높여 할당되는 비트수를 감소시킴으로써 청각적 측면에서의 부호화 성능을 향상시킨다. 이 과정에서 지각적 가중치(perceptual weighting) 정도를 조절하는 가중치 계수(weighting coefficient)는 모두 동일하게 적용되는 것이 아니라, 스펙트럼의 편평도(flatness)와 같은 입력 신호 특성에 따라 적응적(adaptive)으로 조절함으로써 부호화 성능을 더욱 개선할 수 있다. 이와 같이 선형예측 및 가중치를 이용하여 잡음 변형 기준값을 개선함에 있어 스펙트럼에 대한 포락선 분석 없이도 심리음향 모델에 지각적 가중치(perceptual weighting) 만을 적용하여 잡음 변형 기준값을 도출할 수 있다는 장점이 있다.

도 7은 본 발명의 바람직한 다른 실시예에 따른 심리음향모델(psychoacoustic model)을 이용한 잡음 변형 기준값 생성 방법을 나타낸 플로우 차트이다.

도 7을 참조하면, 심리음향 모델부(502)에 오디오 신호가 입력되면, 계수발생부(502a)에서 선형예측 코딩을 이용해 선형예측 계수들로 구성된 전달함수를 생성한다(S200). 이 전달함수의 주파수 스펙트럼은 입력 신호에 대한 주파수 스펙트럼의 포락선(envelope)으로 도시된다. 이러한 전달함수를 선형예측계수(Linear Predictive Coefficient)라 하고, 이는 종래 오디오 부호화 과정에서 사용되는 심리음향 모델(PAM)의 잡음 변형 기준값과 유사한 형태를 나타낸다. 또한, 상기 계수발생부(502a)에서 오디오 신호를 입력받아 선형예측 계수들에 적절한 가중치 계수(weighting coefficient)를 결정한다(S210). 이후, 상기 잡음 변형 기준값 결정부(502b)에서 S200 단계에서 구해진 선형예측 계수로 이루어진 전달함수의 포락선에 S210 단계에서 결정된 가중치 계수를 적용해 보정된 포락선을 생성한다(S220). 이후, 상기 잡음 변형 기준값 결정부(502b)에서 S220 단계에서 생성된 포락선의 임펄스 응답을 계산한다(S230). 이때 임펄스 응답은 일종의 필터링 역할을 담당하게 된다. 이후, 상기 잡음 변형 기준값 결정부(502b)에서 S230 단계에서 필터링된 포락선을 FFT하여 시간축 신호를 주파수 축 신호로 변환한다(S240). 상기 잡음 변형 기준값 결정부(502b)에서는 이렇게 주파수 축 신호로 변환된 포락선을 잡음 변형 기준값으로 설정하기 위하여 마스킹 레벨을 결정한다(S250). 그후 상기 잡음 변형 기준값 결정부(502b)에서 서브 밴드별로 신호 대 마스크 비(SMR)를 분할한다(S260).

이러한 과정을 통하여 심리음향 계수들에 가중치 계수를 적용하여 가중치 필터(weighting filter)를 구현함으로써, 종래 잡음 변형 기준값과 비교하여 주파수 스펙트럼 상에서 잡음 변형 기준값의 포먼트 영역의 값을 높이고, 밸리 영역의 값을 낮춰 상대적으로 밸리 영역에 더 많은 비트 수가 할당되도록 할 수 있다.

한편, S200 단계의 선형예측 코딩(Linear Predictive Analysis) 대신 변형 선형예측 코딩(Warped LP analysis)을 사용하여 부호화 효율을 향상시킬 수 있다. 보다 상세히, 상기 변형 선형예측 코딩은 고효율 오디오 부호화기에서 전송률 감소 를 위해 특정 저주파(low frequency) 대역까지는 본 발명의 심리음향 모델을 적용한 코어 오디오 부호화 방법으로 신호를 압축하고, 나머지 고주파(high frequency) 성분들은 저주파(low frequency) 정보를 이용한 대역폭 확장(bandwidth extension) 또는 스펙터럴 대역 복제(SBR:spectral band replication) 방법을 사용하여 부호화한다. 이러한 고효율 부호화기의 경우, 특정 저주파 대역까지만 심리음향 모델에 기반한 잡음 변형 기준값을 필요로 한다. 변형 선형예측 코딩을 사용하는 경우, 특정 저주파 대역에 대한 주파수 해상도를 증가시켜 스펙트럼의 포락선 모델링 효율을 증가시킬 수 있다.

도 4 또는 도 5에 도시된 오디오 신호 인코더는 음악 신호 인코더와 음성 신호 인코더가 모두 탑재된 디바이스에서 동작할 수 있다. 상기 오디오 신호 인코더는 다운믹스 신호의 특정 프레임 또는 특정 세그먼트가 음악 특성이 주가 되는 경우, 음악 코딩 방식(Music coding scheme)에 따라 다운믹스 신호를 인코딩한다. 상기 음악 신호 인코더는, MDCT(Modified Discrete Transform) 인코더에 해당할 수 있다.

상기 음성 신호 인코더는 다운믹스 신호의 특정 프레임 또는 특정 세그먼트가 음성 특성이 주가 되는 경우, 음성 코딩 방식(speech coding scheme)에 따라서 다운믹스 신호를 인코딩한다. 한편, 음성 신호 인코더에 사용되는 선형예측 부호화(Linear Prediction Coding) 방법을 본 발명에서 제안하는 방식으로 개선할 수 있다. 하모닉 신호가 시간축 상에서 높은 중복성을 가지는 경우, 과거 신호로부터 현재 신호를 예측하는 선형예측에 의해 모델링될 수 있는데, 이 경우 선형예측 부호 화 방식을 적용하면 부호화 효율을 높일 수 있다. 한편, 음성 신호 인코더는 타임 도메인 인코더에 해당할 수 있다.

도 8은 본 발명의 일 실시예에 따른 복호화 장치를 도시한 도면이다.

도 8을 참조하면, 복호화 장치는 상기 도 1을 참조하여 설명한 부호화 장치에서 이루어지는 부호화 과정의 역 과정을 수행함으로써 입력되는 비트스트림으로부터 신호를 복원할 수 있다. 보다 상세히, 상기 복호화 장치는 디멀티플렉서(210), 복호화기 결정부(220), 복호화부(230), 합성부(240)를 포함할 수 있다. 상기 복호화부(230)는 서로 다른 방법에 의해 복호화를 수행하는 복수의 복호화부(231, 232, 233)를 포함할 수 있으며, 이는 복화화기 결정부(220)의 제어에 따라, 동작되어 진다. 보다 상세히, 복호화부(230)는 선형예측 복호화부(231), 심리음향 복호화부(232), 혼합신호 복호화부(233)를 포함할 수 있다. 상기 혼합신호 복호화부(233)는 정보추출부(234), 주파수 변환부(235), 선형예측부(236)를 포함할 수 있다.

상기 디멀티플렉서(210)는 입력되는 비트스트림으로부터 부호화된 복수의 신호들 및 상기 신호들을 복호화하기 위한 부가 정보를 추출한다. 전술한 비트스트림내에 포함된 부가 정보 예를들어, 제1 타입정보 및 제2 타입정보(필요시에만 포함됨)를 추출하고 이를 복호화기 결정부(220)로 전송하게 된다.

상기 복호화기 결정부(220)는, 수신되는 제1 타입정보 및 제2 타입정보(필요시에만 포함됨)로부터, 복호화부(231, 232, 233)내의 복호화 방식중 어느 하나를 결정한다. 단, 복호화기 결정부(220)는 비트스트림으로부터 추출된 부가 정보를 이 용하여 복호화 방식을 결정할 수도 있으나, 비트스트림내에 부가 정보가 존재하지 않는 경우에는, 독립적인 판단 방법에 의해 복호화 방식을 결정할 수도 있다. 상기 판단 방법은 전술한 신호분류부(도1, 100)의 특징을 활용하는 것이 가능하다.

복호화부(230)내의, 선형예측 복호화기(231)는 음성 신호 타입의 오디오 신호를 복호화 가능하다. 심리음향 복호화기(232)는 음악 신호 타입의 오디오 신호를 복호화한다. 혼합신호 복호화기(233)는 음성과 음악의 혼합 타입의 오디오 신호를 복호화한다. 보다 상세히, 상기 혼합신호 복호화기(233)는 비트스트림으로부터 스펙트럴 데이터와 선형예측 계수를 추출하는 정보추출부(234)와, 상기 스펙트럴 데이터를 역 주파수 변환하여 선형 예측에 대한 레지듀얼 신호를 생성하는 주파수 변환부(235), 및 상기 선형예측 계수 및 상기 레지듀얼 신호를 선형 예측 코딩하여, 출력 신호를 생성하는 선형 예측부(236)를 포함하여 구성된다.

상기 복호화된 신호들은 합성부(240)에 의해 합성되어 원 오디오 신호로 복원된다.

이하, 본 발명의 복호화 방법을 도 11의 흐름도를 참조하여 상세히 설명하면 다음과 같다.

디멀티플렉서(210)는 입력되는 비트스트림으로부터 제1 타입정보 및 제2 타입정보(필요시)를 추출한다. 복호화기 결정부(220)는 상기 추출된 정보중, 우선 제1 타입정보를 이용하여 수신된 오디오 신호의 코딩 타입을 판별한다(S1000). 만약, 음악신호가 수신된 경우에는, 복호화부(230)내의 심리음향 복호화부(232)를 활용하되, 상기 제1 타입정보에 의해 결정되는, 각 프레임별 또는 서브 프레임별 적용되 는 코딩 방식을 결정하고, 이후 이에 적합한 코딩 방식을 적용하여 복호화를 수행하게 된다(S1100).

또한, 복호화기 결정부(220)는 상기 추출된 정보중, 우선 제1 타입정보를 이용하여 수신된 오디오 신호의 코딩타입이 음악신호 코딩타입이 아닌 것으로 판별되면, 이후 제2 타입정보를 활용하여 수신된 오디오 신호의 코딩타입이 음성신호 코딩타입 인지 또는 혼합신호 코딩타입 인지 여부를 판별한다(S1200).

만약, 제2 타입정보가 음성신호 코딩타입을 의미하는 경우, 복호화부(230)내의 선형예측 복호화부(231)를 활용하되, 비트스트림으로부터 추출된 코딩 식별정보를 활용하여 각 프레임별 또는 서브 프레임별 적용되는 코딩 방식을 결정하고, 이후 이에 적합한 코딩 방식을 적용하여 복호화를 수행하게 된다(S1300).

또한, 만약, 제2 타입정보가 혼합신호를 의미하는 경우, 복호화부(230)내의 혼합신호 복호화부(233)를 활용하되, 상기 제2 타입정보에 의해 결정되는, 각 프레임별 또는 서브 프레임별 적용되는 코딩 방식을 결정하고, 이후 이에 적합한 코딩 방식을 적용하여 복호화를 수행하게 된다(S1400).

한편, 도시되지는 않았으나, 상기 선형예측 복호화부(231), 심리음향 복호화부(232), 혼합신호 복호화부(233)를 이용한 오디오 신호의 복호화 과정의 후처리 과정으로서, 대역폭 확장 디코딩부에서 주파수 대역 확장 과정이 이루어질 수 있다. 주파수 대역 확장 과정은 대역폭 확장 디코딩부에서 오디오 신호 비트스트림에 포함된 대역 확장 정보를 디코딩하여 스펙트럴 데이터 중 일부 또는 전부로부터 다른 대역(예를 들어, 고주파대역)의 스펙트럴 데이터를 생성하는 것이다. 이때 주파 수 대역을 확장하는 데 있어서 유사한 특성을 갖는 유닛들로 그룹핑하여 블록을 생성할 수 있다. 이는 공통의 인벨롭(또는 인벨롭 특성)을 갖는 타입 슬롯(또는 샘플)들을 그룹핑하여 인벨롭 영역을 생성하는 것과 같다.

도 9는 본 발명의 실시예에 따른 복호화 장치가 구현된 제품의 구성을 보여주는 도면이다. 또한, 도 10은 본 발명의 실시예에 따른 복호화 장치가 구현된 제품들의 관계를 보여주는 도면이다.

도 9을 참조하면, 유무선 통신부(910)는 유무선 통신 방식을 통해서 비트스트림을 수신한다. 구체적으로 유무선 통신부(910)는 유선통신부(910A), 적외선통신부(910B), 블루투스부(910C), 무선랜통신부(910D) 중 하나 이상을 포함할 수 있다.

사용자 인증부는(920)는 사용자 정보를 입력 받아서 사용자 인증을 수행하는 것으로서 지문인식부(920A), 홍채인식부(920B), 얼굴인식부(920C), 및 음성인식부(920D) 중 하나 이상을 포함할 수 있는데, 각각 지문, 홍채정보, 얼굴 윤곽 정보, 음성 정보를 입력받아서, 사용자 정보로 변환하고, 사용자 정보 및 기존 등록되어 있는 사용자 데이터와의 일치여부를 판단하여 사용자 인증을 수행할 수 있다.

입력부(930)는 사용자가 여러 종류의 명령을 입력하기 위한 입력장치로서, 키패드부(930A), 터치패드부(930B), 리모컨부(930C) 중 하나 이상을 포함할 수 있지만, 본 발명은 이에 한정되지 아니한다. 신호 디코딩부(950)는 수신된 비트스트림 및 프레임 타입정보를 이용하여 신호 특성을 분석하고, 해당 신호 특성에 대응하는 디코딩부를 이용하여 신호를 디코딩하여 출력신호를 생성한다.

제어부(950)는 입력장치들로부터 입력 신호를 수신하고, 신호 디코딩부(940) 와 출력부(960)의 모든 프로세스를 제어한다. 출력부(960)는 신호 디코딩부(940)에 의해 생성된 출력 신호 등이 출력되는 구성요소로서, 스피커부(960A) 및 디스플레이부(960B)를 포함할 수 있다. 출력 신호가 오디오 신호일 때 출력 신호는 스피커로 출력되고, 비디오 신호일 때 출력 신호는 디스플레이를 통해 출력된다.

도 10은, 도 9에서 도시된 제품에 해당하는 단말 및 서버와의 관계를 도시한 것으로서, 도 10의 (A)를 참조하면, 제1 단말(1001) 및 제2 단말(1002)이 각 단말들은 유무선 통신부를 통해서 데이터 내지 비트스트림을 양방향으로 통신할 수 있음을 알 수 있다. 도 10의 (B)를 참조하면, 서버(1003) 및 제1 단말(1001) 또한 서로 유무선 통신을 수행할 수 있음을 알 수 있다.

본 발명에 따른 오디오 신호 처리 방법은 컴퓨터에서 실행되기 위한 프로그램으로 제작되어 컴퓨터가 읽을 수 있는 기록 매체에 저장될 수 있으며, 본 발명에 따른 데이터 구조를 가지는 멀티미디어 데이터도 컴퓨터가 읽을 수 있는 기록 매체에 저장될 수 있다. 상기 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 저장 장치를 포함한다. 컴퓨터가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 인코딩 방법에 의해 생성된 비트스트림은 컴퓨터가 읽을 수 있는 기록 매체에 저장되거나, 유/무선 통신망을 이용해 전송될 수 있다.

이상과 같이, 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명은 이것에 의해 한정되지 않으며 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 본 발명의 기술사상과 아래에 기재될 특허청구범위의 균등범위 내에서 다양한 수정 및 변형이 가능함은 물론이다.

Claims (15)

1. 비트스트림을 수신하는 단계;

   제1 타입정보를 이용하여 오디오 신호의 코딩타입이 음악신호 코딩타입인지를 식별하는 단계;

   상기 오디오 신호의 코딩타입이 음악신호 코딩타입이 아닌 경우, 제 2 타입정보를 이용하여 상기 오디오 신호의 코딩타입이 음성신호 코딩타입인지, 혼합신호 코딩타입인지를 식별하는 단계;

   상기 오디오 신호의 코딩타입이 혼합신호 코딩타입인 경우, 상기 비트스트림으로부터 스펙트럴 데이터와 선형예측 계수를 추출하는 단계;

   상기 스펙트럴 데이터를 역 주파수 변환하여 선형 예측에 대한 레지듀얼 신호를 생성하는 단계; 및

   상기 선형예측 계수 및 상기 레지듀얼 신호를 선형 예측 디코딩하여, 상기 오디오 신호를 디코딩하는 단계;를 포함하되, 상기 오디오 신호의 코딩타입이 음악신호 코딩타입인 경우 상기 제1 타입정보만이 이용되고, 상기 오디오 신호의 코딩타입이 음성신호 코딩타입 또는 혼합신호 코딩타입인 경우 상기 제1 타입정보 및 제2 타입정보 모두가 이용되는 것을 특징으로 하는 오디오 신호 처리 방법.
2. 제1 항에 있어서,

   상기 오디오 신호의 코딩타입이 혼합신호 코딩타입인 경우, 상기 디코딩된 오디오 신호의 저주파 대역 신호를 이용하여 고주파 대역 신호를 복원하는 단계를 더 포함하는 것을 특징으로 하는 오디오 신호 처리 방법.
3. 제 1항에 있어서,

   상기 오디오 신호는 복수의 서브 프레임으로 구성되며, 상기 제 2 타입정보는 상기 서브 프레임 단위로 존재하는 것을 특징으로 하는 오디오 신호 처리 방법.
4. 제 1항에 있어서,

   상기 오디오 신호의 코딩타입이 음악신호 코딩타입이면 상기 비트스트림으로부터 스펙트럴 데이터를 추출하여 상기 스펙트럴 데이터를 기반으로 역 주파수 변환을 수행함으로써 상기 오디오 신호를 디코딩하고,

   상기 오디오 신호의 코딩타입이 음성신호 코딩타입이면 상기 비트스트림으로부터 선형 예측 계수를 추출하고, 상기 선형 예측 계수를 이용하여 선형 예측 디코딩을 수행함으로써 상기 오디오 신호를 디코딩하는 것을 특징으로 하는 오디오 신호 처리 방법.
5. 제 1항에 있어서,

   상기 선형 예측 계수를 추출하는 단계는,

   선형 예측 계수 모드를 추출하고, 상기 추출된 모드에 해당하는 가변비트수 크기의 선형 예측 계수를 추출하는 것을 특징으로 하는 오디오 신호 처리 방법.
6. 비트스트림을 수신하고, 상기 비트스트림으로부터 제1 타입정보, 제2 타입정보를 추출하는 디멀티플렉서;

   상기 제1 타입정보를 이용하여 오디오 신호의 코딩타입이 음악신호 코딩타입인지를 식별하고, 상기 오디오 신호의 코딩타입이 음악신호 코딩타입이 아닌 경우, 제 2 타입정보를 이용하여 상기 오디오 신호의 코딩타입이 음성신호 코딩타입인지 또는 혼합신호 코딩타입인지를 식별한 후, 복호화 방식을 결정하는 복호화기 결정부;

   상기 오디오 신호의 코딩타입이 혼합신호 코딩타입인 경우, 상기 비트스트림으로부터 스펙트럴 데이터와 선형예측 계수를 추출하는 정보추출부;

   상기 스펙트럴 데이터를 역 주파수 변환하여 선형 예측에 대한 레지듀얼 신호를 생성하는 주파수 변환부; 및

   상기 선형예측 계수 및 상기 레지듀얼 신호를 선형 예측 코딩하여, 오디오 신호를 디코딩하는 선형 예측부를; 포함하되 상기 오디오 신호의 코딩타입이 음악신호 코딩타입인 경우 상기 제1 타입정보만이 이용되고, 상기 오디오 신호의 코딩타입이 음성신호 코딩타입 또는 혼합신호 코딩타입인 경우 상기 제1 타입정보 및 제2 타입정보 모두가 이용되는 것을 특징으로 하는 오디오 신호 처리 장치.
7. 제6 항에 있어서,

   상기 오디오 신호의 코딩타입이 혼합신호 코딩타입인 경우,

   상기 디코딩된 오디오 신호의 저주파 대역 신호를 이용하여 고주파 대역 신호를 복원하는 대역폭 확장 디코딩부를 더 포함하는 것을 특징으로 하는 오디오 신호 처리 장치.
8. 제 6항에 있어서,

   상기 오디오 신호는 복수의 서브 프레임으로 구성되며, 상기 제2 타입정보는 상기 서브 프레임 단위로 존재하는 것을 특징으로 하는 오디오 신호 처리 장치.
9. 제 6항에 있어서,

   상기 정보 추출부는, 상기 오디오 신호의 코딩타입이 음악신호 코딩타입이면 상기 비트스트림으로부터 스펙트럴 데이터를 추출하고,

   상기 오디오 처리 장치는, 상기 스펙트럴 데이터를 기반으로 역 주파수 변환을 수행하는 심리음향 복호화부를 더 포함하고,

   상기 정보 추출부는, 상기 오디오 신호의 코딩타입이 음성신호 코딩타입이면 상기 비트스트림으로부터 선형 예측 계수를 추출하고,

   상기 오디오 처리 장치는, 상기 선형 예측 계수를 이용하여 선형 예측 디코딩을 수행하는 선형예측 복호화부를 더 포함하는 것을 특징으로 하는 오디오 신호 처리 장치.
10. 제 6항에 있어서,

    상기 선형 예측 계수를 추출하는 정보추출부는,

    선형 예측 계수 모드를 확인하고, 상기 추출된 모드에 해당하는 가변비트수 크기의 선형 예측 계수를 추출하는 것을 특징으로 하는 오디오 신호 처리 장치.
11. 오디오 신호를 처리하는 오디오 부호화기를 포함하는 오디오 신호 처리 장치 내에서,

    상기 오디오 신호의 코딩타입을 결정하는 단계;

    상기 오디오 신호가 음악신호이면, 음악신호 코딩타입으로 코딩됨을 나타내는 제1 타입정보를 생성하는 단계;

    상기 오디오 신호가 음악신호가 아니면, 음성신호 코딩타입과 혼합신호 코딩 타입 중 어느 하나로 코딩됨을 나타내는 제2 타입정보를 생성하는 단계;

    상기 오디오 신호의 코딩타입이 혼합신호 코딩타입인 경우,

    상기 오디오 신호를 선형 예측 코딩하여 선형예측 계수를 생성하는 단계;

    상기 선형 예측 코딩에 대한 레지듀얼 신호를 생성하는 단계;

    상기 레지듀얼 신호를 주파수 변환하여 스펙트럴 계수를 생성하는 단계; 및

    상기 제 1 타입정보, 상기 제 2 타입정보, 상기 선형예측 계수 및 레지듀얼 신호를 포함하는 오디오 비트스트림을 생성하는 단계;를 포함하되, 상기 오디오 신호의 코딩타입이 음악신호 코딩타입인 경우 상기 제1 타입정보만이 생성되고, 상기 오디오 신호의 코딩타입이 음성신호 코딩타입 또는 혼합신호 코딩타입인 경우 상기 제1 타입정보 및 제2 타입정보 모두가 생성되는 것을 특징으로 하는 오디오 신호 처리 방법.
12. 제 11항에 있어서,

    상기 오디오 신호는 복수의 서브 프레임으로 구성되며, 상기 제2 타입정보는 상기 서브 프레임별로 생성되는 것을 특징으로 하는 오디오 신호 처리 방법.
13. 입력 오디오 신호의 코딩타입을 결정하되, 상기 오디오 신호가 음악신호이면, 음악신호 코딩타입으로 코딩됨을 나타내는 제1 타입정보를 생성하고, 상기 오디오 신호가 음악신호가 아니면, 음성신호 코딩타입과 혼합신호 코딩 타입 중 어느 하나로 코딩됨을 나타내는 제2 타입정보를 생성하는 신호분류부; 및

    상기 오디오 신호의 코딩타입이 혼합신호 코딩타입인 경우, 상기 오디오 신호를 선형 예측 코딩하여 선형예측 계수를 생성하는 선형예측 모델링부;

    상기 선형 예측에 대한 레지듀얼 신호를 생성하는 레지듀얼 신호추출부; 및

    상기 레지듀얼 신호를 주파수 변환하여 스펙트럴 계수를 생성하는 주파수 변환부를 포함하되, 상기 오디오 신호의 코딩타입이 음악신호 코딩타입인 경우 상기 제1 타입정보만이 생성되고, 상기 오디오 신호의 코딩타입이 음성신호 코딩타입 또는 혼합신호 코딩타입인 경우 상기 제1 타입정보 및 제2 타입정보 모두가 생성되는 것을 특징으로 하는 오디오 신호 처리 장치.
14. 제 13항에 있어서,

    상기 오디오 신호는 복수의 서브 프레임으로 구성되며, 상기 제2 타입정보는 상기 서브 프레임별로 생성되는 것을 특징으로 하는 오디오 신호 처리 장치.
15. 제 13항에 있어서,

    상기 오디오 신호의 코딩타입이 음악신호 코딩인 경우, 선형예측 코딩을 이용하여 선형예측 계수를 생성하고, 상기 선형예측 계수에 가중치를 부과하는 계수 발생부; 및

    가중치가 부여된 상기 선형예측 계수를 이용하여 잡음 변형 기준값을 생성하는 기준값 결정부를 포함하는 것을 특징으로 하는 오디오 신호 처리 장치.

Images