[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

WO2017057857A1 - 영상 코딩 시스템에서 필터링 방법 및 장치 - Google Patents

영상 코딩 시스템에서 필터링 방법 및 장치 Download PDF

Info

Publication number
WO2017057857A1
WO2017057857A1 PCT/KR2016/010146 KR2016010146W WO2017057857A1 WO 2017057857 A1 WO2017057857 A1 WO 2017057857A1 KR 2016010146 W KR2016010146 W KR 2016010146W WO 2017057857 A1 WO2017057857 A1 WO 2017057857A1
Authority
WO
WIPO (PCT)
Prior art keywords
block
prediction
current block
filter
mode
Prior art date
Application number
PCT/KR2016/010146
Other languages
English (en)
French (fr)
Inventor
임재현
박내리
서정동
남정학
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020187008010A priority Critical patent/KR20180050333A/ko
Priority to US15/764,723 priority patent/US10623778B2/en
Publication of WO2017057857A1 publication Critical patent/WO2017057857A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/109—Selection of coding mode or of prediction mode among a plurality of temporal predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117—Filters, e.g. for pre-processing or post-processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46—Embedding additional information in the video signal during the compression process
    • H04N19/463—Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Definitions

  • FIG. 4 exemplarily illustrates a method of deriving filter coefficients based on neighboring blocks of a current block.
  • FIG. 8 exemplarily illustrates a method of deriving a filter index for deriving Wiener filter coefficients from merge candidates.
  • FIG. 9 schematically illustrates an example of an image encoding method according to the present invention.
  • a skip mode, a merge mode, an advanced motion vector prediction (AMVP), and the like can be used.
  • a reference picture may be selected for a PU and a reference block corresponding to the PU may be selected.
  • the reference block may be selected in units of integer pixels (or samples) or fractional pixels (or samples).
  • a predictive block is generated in which a residual signal with the PU is minimized and the size of the motion vector is also minimized.
  • the pixel and the sample may be mixed with each other.
  • a prediction mode When performing intra prediction, a prediction mode may be determined in units of PUs, and prediction may be performed in units of PUs. In addition, a prediction mode may be determined in units of PUs, and intra prediction may be performed in units of TUs.
  • the residual block is transformed using a discrete sine transform (DST), otherwise the residual block is transformed into a DCT (Discrete). Can be transformed using Cosine Transform.
  • DST discrete sine transform
  • DCT Discrete
  • the transform unit 115 may generate a transform block of transform coefficients by the transform.
  • the encoding parameter may be, for example, a value such as an intra / inter prediction mode, a moving / motion vector, a reference image index, a coding block pattern, a residual signal presence, a transform coefficient, a quantized transform coefficient, a quantization parameter, a block size, block partitioning information, or the like. May include statistics.
  • the residual signal may mean a difference between the original signal and the prediction signal, and a signal in which the difference between the original signal and the prediction signal is transformed or a signal in which the difference between the original signal and the prediction signal is converted and quantized It may mean.
  • the residual signal may be referred to as a residual block in the block unit, and the residual sample in the sample unit.
  • the residual value (or the residual sample or the residual sample array) generated by the inverse quantizer 135 and the inverse transform unit 140 and the prediction block predicted by the predictor 110 are added together to reconstruct the sample (or the reconstructed sample array).
  • a reconstructed block including a may be generated.
  • the video decoding apparatus 200 includes an entropy decoding unit 210, a reordering unit 215, an inverse quantization unit 220, an inverse transform unit 225, a prediction unit 230, and a filter unit 235.
  • Memory 240 may be included.
  • the entropy decoding unit 210 may entropy decode the input bitstream according to a probability distribution to generate symbols including symbols in the form of quantized coefficients.
  • the entropy decoding method is a method of generating each symbol by receiving a binary string.
  • the entropy decoding method is similar to the entropy encoding method described above.
  • the inverse transformation may be performed based on a transmission unit determined by the encoding apparatus or a division unit of an image.
  • the DCT and / or DST in the encoding unit of the encoding apparatus may be selectively performed according to a plurality of pieces of information, such as a prediction method, a size and a prediction direction of the current block, and the inverse transform unit 225 of the decoding apparatus is configured in the transformation unit of the encoding apparatus.
  • Inverse transformation may be performed based on the performed transformation information.
  • the prediction unit 230 may include prediction samples (or prediction sample arrays) based on prediction block generation related information provided by the entropy decoding unit 210 and previously decoded block and / or picture information provided by the memory 240.
  • a prediction block can be generated.
  • the encoding apparatus may select a merge candidate capable of providing an optimal encoding efficiency among the merge candidates included in the merge candidate list as motion information for the current block.
  • a merge index indicating the selected merge candidate may be included in the bitstream and transmitted to the decoding apparatus.
  • the decoding apparatus may select one of the merge candidates included in the merge candidate list by using the transmitted merge index, and determine the selected merge candidate as motion information of the current block. Therefore, when the merge mode is applied, motion information corresponding to the reconstructed neighboring block and / or the call block may be used as the motion information of the current block.
  • the decoding apparatus may reconstruct the current block by adding the prediction block and the residual transmitted from the encoding apparatus.
  • the Col block 360 described above may be used as a candidate block as a temporal candidate block in addition to the spatially adjacent blocks.
  • the Col block 360 may be referred to as a Col prediction block (ColPb), and is a block corresponding to the current block in a collocated picture, which is one of reconstructed reference pictures, and has a predetermined relative position (eg, The number of blocks that exist at an arithmetic shift according to a predetermined criterion from the lower right peripheral sample position or the center lower right sample position of the block existing at the same position as the current block in the Col picture. have.
  • a predetermined relative position eg, The number of blocks that exist at an arithmetic shift according to a predetermined criterion from the lower right peripheral sample position or the center lower right sample position of the block existing at the same position as the current block in the Col picture. have.
  • the filter coefficients of the Wiener filter for the current block may be derived based on the neighboring blocks 410, 420, 430, 440, and 450 of the current block 400. For example, by using the lower left peripheral block 410, the left peripheral block 420, the right upper peripheral block 430, the upper peripheral block 440, and the upper left peripheral block 450 of the current block 400. Filter coefficients for each of the neighboring blocks 410, 420, 430, 440, and 450 may be derived. Further, additional filter coefficients may be derived by combining filter coefficients for each of the neighboring blocks.
  • the filter coefficients of the Wiener filter 560 may be arranged in one dimension in a predetermined order.
  • a0 and b0 belong to the same coding block or b1 and b2 belong to the same prediction block. However, even when any other neighboring blocks belong to the same coding block or the same prediction block. Some blocks of the arbitrary neighboring blocks may be excluded from the candidate list, and in this case, a binary code value corresponding to each index may be determined according to a predetermined priority.
  • the filter coefficients are generated based on a block having a fixed size or a minimum unit block having the same motion information, the filter coefficients are not performed in units of coding blocks or prediction blocks. Regardless of whether the neighboring blocks belong to the same coding block or the same prediction block, the filter coefficients may be generated by considering the arbitrary neighboring blocks as independent candidates. In this case, even if the arbitrary neighboring blocks belong to the same coding block or the same prediction block, the number of candidates in the candidate list, the index, and the binary code may not be changed.
  • the decoding apparatus performs a prediction procedure according to the skip mode related prediction tool (S810). For example, when the value of the skip flag is 1, the decoding apparatus may derive the partitioning mode for the current block as 2N ⁇ 2N without receiving the partitioning mode information for the current block. That is, in this case, the decoding apparatus may derive a prediction block having the same size as that of the coding block and perform prediction based on the skip mode for the prediction block. Specifically, for example, the decoding apparatus receives a merge index, performs inter prediction using the MV of the block indicated by the merge index among the neighboring blocks of the prediction block as the MV of the current block, and reconstructs the derived prediction samples. Samples are available.
  • the decoding apparatus performs a prediction procedure according to an associated prediction tool (S850). For example, the decoding apparatus may derive a prediction block having the same size as the size of the current block and perform inter prediction on the prediction block. For example, the decoding apparatus may parse the merge index, derive the MV of the neighboring block as the MV of the prediction block based on the merge index, and generate the prediction samples based on the derived MV.
  • the decoding apparatus derives one or more prediction blocks based on the partitioning mode, and the prediction block In step S870, the prediction procedure is performed according to the associated prediction tool.
  • the decoding apparatus may derive a plurality of prediction blocks according to the partitioning mode and perform inter prediction on each of the prediction blocks.
  • the decoding apparatus parses a merge flag for each of the prediction blocks, and determines whether a merge mode or an advanced motion vector prediction (AMVP) mode is applied to each of the prediction blocks based on the merge flag.
  • the inter prediction may be performed according to the determined mode.
  • the Wiener filter may be selectively disabled. In this case, it is possible to adaptively reduce the complexity of transmission and computation of additional information, and through this, it is possible to derive an improvement in compression performance and optimization of coding efficiency according to a situation.
  • the region (a) of FIG. 8 may not be performed. That is, the S820 and S825 procedures may not be performed.
  • the region (b) of FIG. 8 may not be performed. That is, the S860 and S865 procedures may not be performed.
  • the winner filter candidate list may be configured based on a preset priority for the neighboring blocks.
  • the Wiener filter candidate list may include Wiener filter candidates as disclosed in Table 1 above.
  • the encoding apparatus derives Wiener filter coefficients for the current block based on the candidate block in the Wiener filter candidate list (S930).
  • the encoding apparatus may select at least one candidate block in the winner filter candidate list, and in this case, the winner filter coefficients may be derived based on the selected candidate block and a reference block of the candidate block.
  • the Wiener filter coefficients for the current block may be derived based on Wiener filter coefficients for the selected candidate block.
  • Wiener filter coefficients for the selected candidate block may be derived based on reconstructed samples of the candidate block and reconstructed samples of the reference block of the candidate block.
  • the prediction related information may include prediction mode information and partitioning mode information on the current block.
  • the residual information is information about the residual samples, and may include, for example, transform coefficients in the frequency domain for the residual samples.
  • the winner filter information may include, for example, a winner filter flag and a winner filter index as information related to the winner filter.
  • the residual information and the winner filter information may be omitted in some cases.
  • the decoding apparatus may determine that the Wiener filter is not applied when the prediction mode for the current block is a skip mode.
  • the decoding apparatus may determine that the winner filter is not applied when the prediction mode for the current block is a merge mode and the partitioning mode of the current block is 2N ⁇ 2N.
  • the decoding apparatus may not receive or parse the Wiener filter flag and the Wiener filter index from the bitstream. In this case, the decoding apparatus may estimate or determine the value of the Wiener filter flag as 0.
  • the decoding apparatus may obtain a Wiener filter index from the bitstream, and select the candidate block from the Wiener filter candidate list based on the Wiener filter index.
  • the binary code for the winner filter index may be set differently according to the number of candidates in the winner filter candidate list and the value of the winner filter index.
  • the value of the winner filter index is equal to the value of the merge index received to indicate motion information of the current block.
  • the same block as the neighboring block indicated by the merge index may be selected from the winner filter candidate list.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명에 따른 디코딩 장치에 의하여 수행되는 인터 예측 방법은 비트스트림으로부터 예측 관련 정보를 획득하는 단계, 현재 블록에 대하여 상기 예측 관련 정보를 기반으로 인터 예측을 수행하여 예측 샘플들을 생성하는 단계, 상기 현재 블록에 대한 위너 필터(wiener filter)의 가용 여부를 판단하는 단계, 상기 위너 필터가 가용한 경우, 상기 현재 블록의 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성하고, 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들(coefficients)을 도출하는 단계, 및 상기 도출된 위너 필터 계수들 기반으로 상기 예측 샘플들을 필터링하는 단계를 포함함을 특징으로 한다. 본 발명에 따르면, 인터 예측 효율을 높이고 코딩 효율을 향상시킬 수 있다.

Description

영상 코딩 시스템에서 필터링 방법 및 장치
본 발명은 영상 코딩 기술에 관한 것으로서 보다 상세하게는 영상 코딩 시스템에서 예측 성능 향상을 위한 필터링 방법 및 장치에 관한 것이다.
최근 HD(High Definition) 영상 및 UHD(Ultra High Definition) 영상과 같은 고해상도, 고품질의 영상에 대한 수요가 다양한 분야에서 증가하고 있다. 영상 데이터가 고해상도, 고품질이 될수록 기존의 영상 데이터에 비해 상대적으로 전송되는 정보량 또는 비트량이 증가하기 때문에 기존의 유무선 광대역 회선과 같은 매체를 이용하여 영상 데이터를 전송하거나 기존의 저장 매체를 이용해 영상 데이터를 저장하는 경우, 전송 비용과 저장 비용이 증가된다.
이에 따라, 고해상도, 고품질 영상의 정보를 효과적으로 전송하거나 저장하고, 재생하기 위해 고효율의 영상 압축 기술이 요구된다.
본 발명의 기술적 과제는 영상 코딩 효율을 높이는 방법 및 장치를 제공함에 있다.
본 발명의 다른 기술적 과제는 예측의 성능을 향상시키기 위한 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 기술적 과제는 인터 예측(inter prediction)의 성능을 향상시키기 위한 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 기술적 과제는 예측 샘플들에 위너 필터(Wiener filter)를 적용하여 예측 성능을 향상시키는 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 기술적 과제는 위너 필터에 대한 부가 정보를 줄이면서 예측 샘플들에 효율적으로 필터링을 적용하는 방법 및 장치를 제공함에 있다.
본 발명의 일 실시예에 따르면, 디코딩 장치에 의하여 수행되는 영상 디코딩 방법이 제공된다. 상기 방법은 비트스트림으로부터 예측 관련 정보를 획득하는 단계, 현재 블록에 대하여 상기 예측 관련 정보를 기반으로 인터 예측을 수행하여 예측 샘플들을 생성하는 단계, 상기 현재 블록에 대한 위너 필터(wiener filter)의 가용 여부를 판단하는 단계, 상기 위너 필터가 가용한 경우, 상기 현재 블록의 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성하고, 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들(coefficients)을 도출하는 단계, 및 상기 도출된 위너 필터 계수들 기반으로 상기 예측 샘플들을 필터링하는 단계를 포함함을 특징으로 한다.
본 발명의 다른 일 실시예에 따르면, 영상 디코딩을 수행하는 디코딩 장치가 제공된다. 상기 디코딩 장치는 비트스트림으로부터 예측 관련 정보를 획득하는 엔트로피 디코딩부, 현재 블록에 대하여 상기 예측 관련 정보를 기반으로 인터 예측을 수행하여 예측 샘플들을 생성하고, 상기 현재 블록에 대한 위너 필터(wiener filter)의 가용 여부를 판단하고, 상기 위너 필터가 가용한 경우, 상기 현재 블록의 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성하고, 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들(coefficients)을 도출하고, 및 상기 도출된 위너 필터 계수들 기반으로 상기 예측 샘플들을 필터링하는 예측부를 포함함을 특징으로 한다.
본 발명의 또 다른 일 실시예에 따르면, 인코딩 장치에 의하여 수행되는 영상 인코딩 방법을 제공한다. 상기 방법은 인터 예측을 기반으로 현재 블록에 대한 예측 샘플들을 생성하는 단계, 상기 현재 블록에 대한 위너 필터의 가용 여부를 판단하는 단계, 상기 위너 필터가 가용한 경우, 상기 현재 블록의 공간적 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성하고, 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들(coefficients)을 도출하는 단계, 상기 도출된 위너 필터 계수들 기반으로 상기 예측 샘플들을 필터링하는 단계, 및 상기 현재 블록에 대한 예측 관련 정보를 인코딩하여 출력하는 단계를 포함함을 특징으로 한다.
본 발명의 또 다른 일 실시예에 따르면, 영상 인코딩을 수행하는 인코딩 장치를 제공한다. 상기 인코딩 장치는 인터 예측을 기반으로 현재 블록에 대한 예측 샘플들을 생성하고, 상기 현재 블록에 대한 위너 필터의 가용 여부를 판단하고, 상기 위너 필터가 가용한 경우, 상기 현재 블록의 공간적 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성하고, 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들(coefficients)을 도출하고, 상기 도출된 위너 필터 계수들 기반으로 상기 예측 샘플들을 필터링하는 예측부, 및 상기 현재 블록에 대한 예측 관련 정보를 인코딩하여 출력하는 엔트로피 인코딩부를 포함함을 특징으로 한다.
본 발명에 따르면, 적은 부가 정보를 사용하면서 현재 블록에 대한 위너 필터 계수들을 효율적으로 도출할 수 있다. 또한, 본 발명에 따르면 위너 필터 계수들에 기반한 예측 샘플들에 대한 필터링을 통하여 예측 효율을 높일 수 있고, 레지듀얼 신호 전송을 위한 데이터량을 줄일 수 있는바, 전반적인 코딩 효율이 향상될 수 있다.
도 1은 본 발명의 일 실시예에 따른 비디오 인코딩 장치를 개략적으로 도시한 블록도이다.
도 2는 본 발명의 일 실시예에 따른 비디오 디코딩 장치를 개략적으로 도시한 블록도이다.
도 3은 현재 블록에 대해 인터 예측이 수행되는 경우에 이용될 수 있는 후보 블록의 일 실시예를 개략적으로 설명하는 도면이다.
도 4는 현재 블록의 주변 블록들을 기반으로 필터 계수들 도출 방법을 예시적으로 나타낸다.
도 5는 주변 블록에 대한 위너 필터 계수들을 구하는 방법의 일 예를 나타낸다.
도 6은 주변 블록이 가용하지 않은 경우를 예시적으로 나타낸다.
도 7은 복수의 주변 블록들이 동일 CB 또는 동일 PB에 속하는 경우를 예시적으로 나타낸다.
도 8은 머지 후보들로부터 위너 필터 계수들 도출을 위한 필터 인덱스를 유도하는 방법을 예시적으로 나타낸다.
도 9는 본 발명에 따른 영상 인코딩 방법의 일 예를 개략적으로 나타낸다.
도 10는 본 발명에 따른 영상 디코딩 방법의 일 예를 개략적으로 나타낸다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니다. 본 명세서에서 사용하는 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명의 기술적 사상을 한정하려는 의도로 사용되는 것은 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성 요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성 요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
한편, 본 발명에서 설명되는 도면상의 각 구성들은 비디오 인코딩 장치/디코딩 장치에서 서로 다른 특징적인 기능들에 관한 설명의 편의를 위해 독립적으로 도시된 것으로서, 각 구성들이 서로 별개의 하드웨어나 별개의 소프트웨어로 구현된다는 것을 의미하지는 않는다. 예컨대, 각 구성 중 두 개 이상의 구성이 합쳐져 하나의 구성을 이룰 수도 있고, 하나의 구성이 복수의 구성으로 나뉘어질 수도 있다. 각 구성이 통합 및/또는 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명에 포함된다.
이하, 첨부한 도면들을 참조하여, 본 발명의 실시예를 보다 상세하게 설명하고자 한다.
도 1은 본 발명의 일 실시예에 따른 비디오 인코딩 장치를 개략적으로 도시한 블록도이다.
도 1을 참조하면, 인코딩 장치(100)는 픽처 분할부(105), 예측부(110), 변환부(115), 양자화부(120), 재정렬부(125), 엔트로피 인코딩부(130), 역양자화부(135), 역변환부(140), 필터부(145) 및 메모리(150)를 구비한다.
픽처 분할부(105)는 입력된 픽처를 적어도 하나의 처리 단위 블록으로 분할할 수 있다. 이때, 처리 단위로서의 블록은 예측 유닛(Prediction Unit, PU)일 수도 있고, 변환 유닛(Transform Unit, TU)일 수도 있으며, 코딩 유닛(Coding Unit, CU)일 수도 있다. 픽처는 복수의 코딩 트리 유닛(Coding Tree Unit, CTU)들로 구성될 수 있으며, 각각의 CTU는 쿼드 트리(quad-tree) 구조로 CU들로 분할(split)될 수 있다. CU는 보다 하위(deeper) 뎁스의 CU들로 쿼드 트리 구조로 분할될 수도 있다. PU 및 TU는 CU로부터 획득될 수 있다. 예를 들어, PU는 CU로부터 대칭 또는 비대칭 사각형 구조로 파티셔닝(partitioning)될 수 있다. 또한 TU는 CU로부터 쿼드 트리 구조로 분할될 수도 있다.
예측부(110)는 후술하는 바와 같이, 인터 예측을 수행하는 인터 예측부와 인트라 예측을 수행하는 인트라 예측부를 포함한다. 예측부(110)는, 픽처 분할부(105)에서 픽처의 처리 단위에 대하여 예측을 수행하여 예측 샘플(또는 예측 샘플 어레이)을 포함하는 예측 블록을 생성한다. 예측부(110)에서 픽처의 처리 단위는 CU일 수도 있고, TU일 수도 있고, PU일 수도 있다. 또한, 예측부(110)는 해당 처리 단위에 대하여 실시되는 예측이 인터 예측인지 인트라 예측인지를 결정하고, 각 예측 방법의 구체적인 내용(예컨대, 예측 모드 등)을 정할 수 있다. 이때, 예측이 수행되는 처리 단위와 예측 방법 및 예측 방법의 구체적인 내용이 정해지는 처리 단위는 다를 수 있다. 예컨대, 예측의 방법과 예측 모드 등은 PU 단위로 결정되고, 예측의 수행은 TU 단위로 수행될 수도 있다.
인터 예측을 통해서는 현재 픽처의 이전 픽처 및/또는 이후 픽처 중 적어도 하나의 픽처의 정보를 기초로 예측을 수행하여 예측 블록을 생성할 수 있다. 또한, 인트라 예측을 통해서는 현재 픽처 내의 픽셀 정보를 기초로 예측을 수행하여 예측 블록을 생성할 수 있다.
인터 예측의 방법으로서, 스킵(skip) 모드, 머지(merge) 모드, AMVP(Advanced Motion Vector Prediction) 등을 이용할 수 있다. 인터 예측에서는 PU에 대하여, 참조 픽처를 선택하고 PU에 대응하는 참조 블록을 선택할 수 있다. 참조 블록은 정수 픽셀(또는 샘플) 또는 분수 픽셀(또는 샘플) 단위로 선택될 수 있다. 이어서, PU와의 레지듀얼(residual) 신호가 최소화되며 움직임 벡터 크기 역시 최소가 되는 예측 블록이 생성된다. 본 명세서에서 픽셀과 샘플은 서로 혼용될 수 있다.
예측 블록은 정수 픽셀 단위로 생성될 수도 있고, 1/2 픽셀 단위 또는 1/4 픽셀 단위와 같이 정수 이하 픽셀 단위로 생성될 수도 있다. 이때, 움직임 벡터 역시 정수 픽셀 이하의 단위로 표현될 수 있다.
인터 예측을 통해 선택된 참조 픽처의 인덱스, 움직임 벡터 차분(motion vector difference, MDV), 움직임 벡터 예측자(motion vector predictor, MVP), 레지듀얼 신호 등의 정보는 엔트로피 인코딩되어 디코딩 장치에 전달될 수 있다. 스킵 모드가 적용되는 경우에는 레지듀얼을 예측 블록을 복원 블록으로 할 수 있으므로, 레지듀얼을 생성, 변환, 양자화, 전송하지 않을 수 있다.
인트라 예측을 수행하는 경우에는, PU 단위로 예측 모드가 정해져서 PU 단위로 예측이 수행될 수 있다. 또한, PU 단위로 예측 모드가 정해지고 TU 단위로 인트라 예측이 수행될 수도 있다.
인트라 예측에서 예측 모드는 예를 들어 33개의 방향성 예측 모드와 적어도 2개 이상의 비방향성 모드를 가질 수 있다. 비방향성 모드는 DC 예측 모드 및 플래너 모드(Planar 모드)을 포함할 수 있다.
인트라 예측에서는 참조 샘플에 필터를 적용한 후 예측 블록을 생성할 수 있다. 이때, 참조 샘플에 필터를 적용할 것인지는 현재 블록의 인트라 예측 모드 및/또는 사이즈에 따라 결정될 수 있다.
생성된 예측 블록과 원본 블록 사이의 레지듀얼 값(레지듀얼 블록 또는 레지듀얼 신호)은 변환부(115)로 입력된다. 또한, 예측을 위해 사용한 예측 모드 정보, 움직임 벡터 정보 등은 레지듀얼 값과 함께 엔트로피 인코딩부(130)에서 인코딩되어 디코딩 장치에 전달된다.
변환부(115)는 변환 블록 단위로 레지듀얼 블록에 대한 변환을 수행하고 변환 계수를 생성한다.
변환 블록은 샘플들의 직사각형 블록으로서 동일한 변환이 적용되는 블록이다. 변환 블록은 변환 유닛(TU)일 수 있으며, 쿼드 트리(quad tree) 구조를 가질 수 있다.
변환부(115)는 레지듀얼 블록에 적용된 예측 모드와 블록의 크기에 따라서 변환을 수행할 수 있다.
예컨대, 레지듀얼 블록에 인트라 예측이 적용되었고 블록이 4x4의 레지듀얼 배열(array)이라면, 레지듀얼 블록을 DST(Discrete Sine Transform)를 이용하여 변환하고, 그 외의 경우라면 레지듀얼 블록을 DCT(Discrete Cosine Transform)를 이용하여 변환할 수 있다.
변환부(115)는 변환에 의해 변환 계수들의 변환 블록을 생성할 수 있다.
양자화부(120)는 변환부(115)에서 변환된 레지듀얼 값들, 즉 변환 계수들을 양자화하여 양자화된 변환 계수를 생성할 수 있다. 양자화부(120)에서 산출된 값은 역양자화부(135)와 재정렬부(125)에 제공된다.
재정렬부(125)는 양자화부(120)로부터 제공된 양자화된 변환 계수를 재정렬한다. 양자화된 변환 계수를 재정렬함으로써 엔트로피 인코딩부(130)에서의 인코딩 효율을 높일 수 있다.
재정렬부(125)는 계수 스캐닝(Coefficient Scanning) 방법을 통해 2차원 블록 형태의 양자화된 변환 계수들을 1차원의 벡터 형태로 재정렬할 수 있다.
엔트로피 인코딩부(130)는 재정렬부(125)에 의해 재정렬된 양자화된 변환 값들 또는 코딩 과정에서 산출된 인코딩 파라미터 값 등을 기초로 심볼(symbol)을 확률 분포에 따라 엔트로피 코딩하여 비트스트림(bitstream)을 출력할 수 있다. 엔트로피 인코딩 방법은 다양한 값을 갖는 심볼을 입력 받아, 통계적 중복성을 제거하면서, 디코딩 가능한 2진수의 열로 표현하는 방법이다.
여기서, 심볼이란 인코딩/디코딩 대상 구문 요소(syntax element) 및 코딩 파라미터(coding parameter), 레지듀얼 신호(residual signal)의 값 등을 의미한다. 인코딩 파라미터는 인코딩 및 디코딩에 필요한 매개변수로서, 구문 요소와 같이 인코딩 장치에서 인코딩되어 디코딩 장치로 전달되는 정보뿐만 아니라, 인코딩 혹은 디코딩 과정에서 유추될 수 있는 정보를 포함할 수 있으며 영상을 인코딩하거나 디코딩할 때 필요한 정보를 의미한다. 인코딩 파라미터는 예를 들어 인트라/인터 예측모드, 이동/움직임 벡터, 참조 영상 색인, 코딩 블록 패턴, 잔여 신호 유무, 변환 계수, 양자화된 변환 계수, 양자화 파라미터, 블록 크기, 블록 분할 정보 등의 값 또는 통계를 포함할 수 있다. 또한 잔여 신호는 원신호와 예측 신호의 차이를 의미할 수 있고, 또한 원신호와 예측 신호의 차이가 변환(transform)된 형태의 신호 또는 원신호와 예측 신호의 차이가 변환되고 양자화된 형태의 신호를 의미할 수도 있다. 잔여 신호는 블록 단위에서는 잔여 블록이라 할 수 있고, 샘플 단위에서는 잔여 샘플이라고 할 수 있다.
엔트로피 인코딩이 적용되는 경우, 높은 발생 확률을 갖는 심볼에 적은 수의 비트가 할당되고 낮은 발생 확률을 갖는 심볼에 많은 수의 비트가 할당되어 심볼이 표현됨으로써, 인코딩 대상 심볼들에 대한 비트열의 크기가 감소될 수 있다. 따라서 엔트로피 인코딩을 통해서 영상 인코딩의 압축 성능이 높아질 수 있다.
엔트로피 인코딩을 위해 지수 골룸(exponential golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 인코딩 방법이 사용될 수 있다. 예를 들어, 엔트로피 인코딩부(130)에는 가변 길이 코딩(VLC: Variable Length Coding/Code) 테이블과 같은 엔트로피 인코딩을 수행하기 위한 테이블이 저장될 수 있고, 엔트로피 인코딩부(130)는 저장된 가변 길이 코딩(VLC) 테이블을 사용하여 엔트로피 인코딩을 수행할 수 있다. 또한 엔트로피 인코딩부(130)는 대상 심볼의 이진화(binarization) 방법 및 대상 심볼/빈(bin)의 확률 모델(probability model)을 도출(derive)한 후, 도출된 이진화 방법 또는 확률 모델을 사용하여 엔트로피 인코딩을 수행할 수도 있다.
또한, 엔트로피 인코딩부(130)는 필요한 경우에, 전송하는 파라미터 셋(parameter set) 또는 신택스에 일정한 변경을 가할 수도 있다.
역양자화부(135)는 양자화부(120)에서 양자화된 값(양자화된 변환 계수)들을 역양자화하고, 역변환부(140)는 역양자화부(135)에서 역양자화된 값들을 역변환한다.
역양자화부(135) 및 역변환부(140)에서 생성된 레지듀얼 값(또는 레지듀얼 샘플 또는 레지듀얼 샘플 어레이)과 예측부(110)에서 예측된 예측 블록이 합쳐져 복원 샘플(또는 복원 샘플 어레이)를 포함하는 복원 블록(Reconstructed Block)이 생성될 수 있다.
도 1에서는 가산기를 통해서, 레지듀얼 블록과 예측 블록이 합쳐져 복원 블록이 생성되는 것으로 설명하고 있다. 이때, 가산기를 복원 블록을 생성하는 별도의 유닛(복원 블록 생성부)로 볼 수도 있다.
필터부(145)는 디블록킹 필터, ALF(Adaptive Loop Filter), SAO(Sample Adaptive Offset)를 복원된 픽처에 적용할 수 있다.
디블록킹 필터는 복원된 픽처에서 블록 간의 경계에 생긴 왜곡을 제거할 수 있다. ALF(Adaptive Loop Filter)는 디블록킹 필터를 통해 블록이 필터링된 후 복원된 영상과 원래의 영상을 비교한 값을 기초로 필터링을 수행할 수 있다. ALF는 고효율을 적용하는 경우에만 수행될 수도 있다. SAO는 디블록킹 필터가 적용된 레지듀얼 블록에 대하여, 픽셀 단위로 원본 영상과의 오프셋 차이를 복원하며, 밴드 오프셋(Band Offset), 엣지 오프셋(Edge Offset) 등의 형태로 적용된다.
한편, 인터 예측에 사용되는 복원 블록에 대해서 필터부(145)는 필터링을 적용하지 않을 수도 있다.
메모리(150)는 필터부(145)를 통해 산출된 복원 블록 또는 픽처를 저장할 수 있다. 메모리(150)에 저장된 복원 블록 또는 픽처는 인터 예측을 수행하는 예측부(110)에 제공될 수 있다.
도 2는 본 발명의 일 실시예에 따른 비디오 디코딩 장치를 개략적으로 나타낸 블록도이다. 도 2를 참조하면, 비디오 디코딩 장치(200)는 엔트로피 디코딩부(210), 재정렬부(215), 역양자화부(220), 역변환부(225), 예측부(230), 필터부(235) 메모리(240)를 포함할 수 있다.
비디오 인코딩 장치에서 영상 비트스트림이 입력된 경우, 입력된 비트스트림은 비디오 인코딩 장치에서 영상 정보가 처리된 절차에 따라서 디코딩될 수 있다.
엔트로피 디코딩부(210)는, 입력된 비트스트림을 확률 분포에 따라 엔트로피 디코딩하여, 양자화된 계수(quantized coefficient) 형태의 심볼을 포함한 심볼들을 생성할 수 있다. 엔트로피 디코딩 방법은 2진수의 열을 입력 받아 각 심볼들을 생성하는 방법이다. 엔트로피 디코딩 방법은 상술한 엔트로피 인코딩 방법과 유사하다.
예컨대, 비디오 인코딩 장치에서 엔트로피 인코딩을 수행하기 위해 CAVLC 등의 가변 길이 코딩(Variable Length Coding: VLC, 이하 'VLC' 라 함)가 사용된 경우에, 엔트로피 디코딩부(210)도 인코딩 장치에서 사용한 VLC 테이블과 동일한 VLC 테이블로 구현하여 엔트로피 디코딩을 수행할 수 있다. 또한, 비디오 인코딩 장치에서 엔트로피 인코딩을 수행하기 위해 CABAC을 이용한 경우에, 엔트로피 디코딩부(210)는 이에 대응하여 CABAC을 이용한 엔트로피 디코딩을 수행할 수 있다.
보다 상세하게, CABAC 엔트로피 디코딩 방법은, 비트스트림에서 각 구문 요소에 해당하는 빈을 수신하고, 디코딩 대상 구문 요소 정보와 주변 및 디코딩 대상 블록의 디코딩 정보 혹은 이전 단계에서 디코딩된 심볼/빈의 정보를 이용하여 문맥(context) 모델을 결정하고, 결정된 문맥 모델에 따라 빈(bin)의 발생 확률을 예측하여 빈의 산술 디코딩(arithmetic decoding)를 수행하여 각 구문 요소의 값에 해당하는 심볼을 생성할 수 있다. 이때, CABAC 엔트로피 디코딩 방법은 문맥 모델 결정 후 다음 심볼/빈의 문맥 모델을 위해 디코딩된 심볼/빈의 정보를 이용하여 문맥 모델을 업데이트할 수 있다.
엔트로피 디코딩부(210)에서 디코딩된 정보 중 예측 블록을 생성하기 위한 정보는 예측부(230)로 제공되고, 엔트로피 디코딩부(210)에서 엔트로피 디코딩이 수행된 레지듀얼 값, 즉 양자화된 변환 계수는 재정렬부(215)로 입력될 수 있다.
재정렬부(215)는 엔트로피 디코딩부(210)에서 엔트로피 디코딩된 비트스트림의 정보, 즉 양자화된 변환 계수를 인코딩 장치에서 재정렬한 방법을 기초로 재정렬할 수 있다.
재정렬부(215)는 1차원 벡터 형태로 표현된 계수들을 다시 2차원의 블록 형태의 계수로 복원하여 재정렬할 수 있다. 재정렬부(215)는 현재 블록(변환 블록)에 적용된 예측 모드와 변환 블록의 크기를 기반으로 계수에 대한 스캐닝을 수행하여 2 차원 블록 형태의 계수(양자화된 변환 계수) 배열(array)을 생성할 수 있다.
역양자화부(220)는 인코딩 장치에서 제공된 양자화 파라미터와 재정렬된 블록의 계수값을 기초로 역양자화를 수행할 수 있다.
역변환부(225)는 비디오 인코딩 장치에서 수행된 양자화 결과에 대해, 인코딩 장치의 변환부가 수행한 DCT 및 DST에 대해 역DCT 및/또는 역DST를 수행할 수 있다.
역변환은 인코딩 장치에서 결정된 전송 단위 또는 영상의 분할 단위를 기초로 수행될 수 있다. 인코딩 장치의 변환부에서 DCT 및/또는 DST는 예측 방법, 현재 블록의 크기 및 예측 방향 등 복수의 정보에 따라 선택적으로 수행될 수 있고, 디코딩 장치의 역변환부(225)는 인코딩 장치의 변환부에서 수행된 변환 정보를 기초로 역변환을 수행할 수 있다.
예측부(230)는 엔트로피 디코딩부(210)에서 제공된 예측 블록 생성 관련 정보와 메모리(240)에서 제공된 이전에 디코딩된 블록 및/또는 픽처 정보를 기초로 예측 샘플(또는 예측 샘플 어레이)를 포함하는 예측 블록을 생성할 수 있다.
현재 PU에 대한 예측 모드가 인트라 예측(intra prediction) 모드인 경우에, 현재 픽처 내의 픽셀 정보를 기초로 예측 블록을 생성하는 인트라 예측을 수행할 수 있다.
현재 PU에 대한 예측 모드가 인터 예측(inter prediction) 모드인 경우에, 현재 픽처의 이전 픽처 또는 이후 픽처 중 적어도 하나의 픽처에 포함된 정보를 기초로 현재 PU에 대한 인터 예측을 수행할 수 있다. 이때, 비디오 인코딩 장치에서 제공된 현재 PU의 인터 예측에 필요한 움직임 정보, 예컨대 움직임 벡터, 참조 픽처 인덱스 등에 관한 정보는 인코딩 장치로부터 수신한 스킵 플래그, 머지 플래그 등을 확인하고 이에 대응하여 유도될 수 있다.
현재 픽처에 대한 인터 예측 시, 현재 블록과의 레지듀얼(residual) 신호가 최소화되며 움직임 벡터 크기 역시 최소가 되도록 예측 블록을 생성할 수 있다.
한편, 움직임 정보 도출 방식은 현재 블록의 예측 모드에 따라 달라질 수 있다. 인터 예측을 위해 적용되는 예측 모드에는 AMVP(Advanced Motion Vector Prediction) 모드, 머지(merge) 모드 등이 있을 수 있다.
일 예로, 머지 모드가 적용되는 경우, 인코딩 장치 및 디코딩 장치는 복원된 공간적 주변 블록의 움직임 벡터 및/또는 시간적 주변 블록인 Col 블록에 대응하는 움직임 벡터를 이용하여, 머지 후보 리스트를 생성할 수 있다. 머지 모드에서는 머지 후보 리스트에서 선택된 후보 블록의 움직임 벡터가 현재 블록의 움직임 벡터로 사용된다. 인코딩 장치는 상기 머지 후보 리스트에 포함된 후보 블록들 중에서 선택된 최적의 움직임 벡터를 갖는 후보 블록을 지시하는 머지 인덱스를 디코딩 장치로 전송할 수 있다. 이 때, 디코딩 장치는 상기 머지 인덱스를 이용하여, 현재 블록의 움직임 벡터를 도출할 수 있다.
다른 예로, AMVP(Advanced Motion Vector Prediction) 모드가 적용되는 경우, 인코딩 장치 및 디코딩 장치는 복원된 공간적 주변 블록의 움직임 벡터 및/또는 시간적 주변 블록인 Col 블록에 대응하는 움직임 벡터를 이용하여, 움직임 벡터 예측자 후보 리스트를 생성할 수 있다. 즉, 복원된 공간적 주변 블록의 움직임 벡터 및/또는 시간적 주변 블록인 Col 블록에 대응하는 움직임 벡터는 움직임 벡터 후보로 사용될 수 있다. 인코딩 장치는 상기 리스트에 포함된 움직임 벡터 후보 중에서 선택된 최적의 움직임 벡터를 지시하는 예측 움직임 벡터 인덱스를 디코딩 장치로 전송할 수 있다. 이 때, 디코딩 장치는 상기 움직임 벡터 인덱스를 이용하여, 움직임 벡터 후보 리스트에 포함된 움직임 벡터 후보 중에서, 현재 블록의 예측 움직임 벡터를 선택할 수 있다.
인코딩 장치는 현재 블록의 움직임 벡터(MV)와 움직임 벡터 예측자(MVP) 간의 움직임 벡터 차분(MVD)을 구할 수 있고, 이를 인코딩하여 디코딩 장치로 전송할 수 있다. 즉, MVD는 현재 블록의 MV에서 MVP를 뺀 값으로 구해질 수 있다. 이 때, 디코딩 장치는 수신된 움직임 벡터 차분을 디코딩할 수 있고, 디코딩된 움직임 벡터 차분과 움직임 벡터 예측자의 가산을 통해 현재 블록의 움직임 벡터를 도출할 수 있다.
인코딩 장치는 또한 참조 픽처를 지시하는 참조 픽처 인덱스 등을 디코딩 장치에 전송할 수 있다.
디코딩 장치는 주변 블록의 움직임 정보들을 이용하여 현재 블록의 움직임 벡터를 예측하고, 인코딩 장치로부터 수신한 레지듀얼을 이용하여 현재 블록에 대한 움직임 벡터를 유도할 수 있다. 디코딩 장치는 유도한 움직임 벡터와 인코딩 장치로부터 수신한 참조 픽처 인덱스 정보를 기반으로 현재 블록에 대한 예측 블록을 생성할 수 있다.
다른 예로, 머지(merge) 모드가 적용되는 경우, 인코딩 장치 및 디코딩 장치는 복원된 주변 블록의 움직임 정보 및/또는 콜 블록의 움직임 정보를 이용하여, 머지 후보 리스트를 생성할 수 있다. 즉, 인코딩 장치 및 디코딩 장치는 복원된 주변 블록 및/또는 콜 블록의 움직임 정보가 존재하는 경우, 이를 현재 블록에 대한 머지 후보로 사용할 수 있다.
인코딩 장치는 머지 후보 리스트에 포함된 머지 후보 중에서 최적의 인코딩 효율을 제공할 수 있는 머지 후보를 현재 블록에 대한 움직임 정보로 선택할 수 있다. 이 때, 상기 선택된 머지 후보를 지시하는 머지 인덱스가 비트스트림에 포함되어 디코딩 장치로 전송될 수 있다. 디코딩 장치는 상기 전송된 머지 인덱스를 이용하여, 머지 후보 리스트에 포함된 머지 후보 중에서 하나를 선택할 수 있으며, 상기 선택된 머지 후보를 현재 블록의 움직임 정보로 결정할 수 있다. 따라서, 머지 모드가 적용되는 경우, 복원된 주변 블록 및/또는 콜 블록에 대응하는 움직임 정보가 현재 블록의 움직임 정보로 그대로 사용될 수 있다. 디코딩 장치는 예측 블록과 인코딩 장치로부터 전송되는 레지듀얼을 더하여 현재 블록을 복원할 수 있다.
상술한 AMVP 및 머지 모드에서는, 현재 블록의 움직임 정보를 도출하기 위해, 복원된 주변 블록의 움직임 정보 및/또는 콜 블록의 움직임 정보가 사용될 수 있다.
화면 간 예측에 이용되는 다른 모드 중 하나인 스킵 모드의 경우에, 주변 블록의 정보를 그대로 현재 블록에 이용할 수 있다. 따라서 스킵 모드의 경우에, 인코딩 장치는 현재 블록의 움직임 정보로서 어떤 블록의 움직임 정보를 이용할 것인지를 지시하는 정보 외에 레지듀얼 등과 같은 신택스 정보를 디코딩 장치에 전송하지 않는다.
인코딩 장치 및 디코딩 장치는 상기 도출된 움직임 정보에 기반하여 현재 블록에 대한 움직임 보상을 수행함으로써, 현재 블록의 예측 블록을 생성할 수 있다. 여기서, 예측 블록은 현재 블록에 대한 움직임 보상 수행 결과 생성된, 움직임 보상된 블록을 의미할 수 있다. 또한, 복수의 움직임 보상된 블록은 하나의 움직임 보상된 영상을 구성할 수 있다.
복원 블록은 예측부(230)에서 생성된 예측 블록과 역변환부(225)에서 제공된 레지듀얼 블록을 이용해 생성될 수 있다. 도 2에서는 가산기에서 예측 블록과 레지듀얼 블록이 합쳐져 복원 블록이 생성되는 것으로 설명하고 있다. 이때, 가산기를 복원 블록을 생성하는 별도의 유닛(복원 블록 생성부)로 볼 수 있다. 여기서 상기 복원 블록은 상술한 바와 같이 복원 샘플(또는 복원 샘플 어레이)를 포함하고, 상기 예측 블록은 예측 샘플(또는 예측 샘플 어레이)를 포함하고, 상기 레지듀얼 블록은 레지듀얼 샘플(또는 레지듀얼 샘플 어레이)를 포함할 수 있다. 따라서, 복원 샘플(또는 복원 샘플 어레이)은 대응하는 예측 샘플(또는 예측 샘플 어레이)과 레지듀얼 샘플(레지듀얼 샘플 어레이)이 합쳐서 생성된다고 표현될 수도 있다.
스킵 모드가 적용되는 블록에 대하여는 레지듀얼이 전송되지 않으며 예측 블록을 복원 블록으로 할 수 있다.
복원된 블록 및/또는 픽처는 필터부(235)로 제공될 수 있다. 필터부(235)는 복원된 블록 및/또는 픽처에 디블록킹 필터링, SAO(Sample Adaptive Offset) 및/또는 ALF 등을 적용할 수 있다.
메모리(240)는 복원된 픽처 또는 블록을 저장하여 참조 픽처 또는 참조 블록으로 사용할 수 있도록 할 수 있고 또한 복원된 픽처를 출력부로 제공할 수 있다.
디코딩 장치(200)에 포함되어 있는 엔트로피 디코딩부(210), 재정렬부(215), 역양자화부(220), 역변환부(225), 예측부(230), 필터부(235) 및 메모리(240) 중 영상의 디코딩에 직접적으로 관련된 구성요소들, 예컨대, 엔트로피 디코딩부(210), 재정렬부(215), 역양자화부(220), 역변환부(225), 예측부(230), 필터부(235) 등을 다른 구성요소와 구분하여 디코더 또는 디코딩부로 표현할 수 있다.
또한, 디코딩 장치(200)는 비트스트림에 포함되어 있는 인코딩된 영상에 관련된 정보를 파싱(parsing)하는 도시되지 않은 파싱부를 더 포함할 수 있다. 파싱부는 엔트로피 디코딩부(210)를 포함할 수도 있고, 엔트로피 디코딩부(210)에 포함될 수도 있다. 이러한 파싱부는 또한 디코딩부의 하나의 구성요소로 구현될 수도 있다.
도 3은 현재 블록에 대해 인터 예측이 수행되는 경우에 이용될 수 있는 후보 블록의 일 실시예를 개략적으로 설명하는 도면이다. 여기서 현재 블록은 예측 블록일 수 있다.
인코딩 장치 및 디코딩 장치의 예측부는 현재 블록(300) 주변 소정 위치의 복원된 주변 블록을 후보 블록으로 이용할 수 있다. 예컨대, 도 3의 예에서는 현재 블록 좌측에 위치하는 두 개의 블록 A0(310)와 A1(320) 그리고 현재 블록 상측의 세 블록 B0(330), B1(340), B2(350)이 공간적인(spatial) 후보 블록들로 선택될 수 있다. 여기서 A0(310)는 좌하측 주변 블록(lower left neighboring block)으로 불릴 수 있고, A1(320)은 좌측 주변 블록(left neighboring block)으로 불릴 수 있다. 그리고 B0(330)는 우상측 주변 블록(upper right neighboring block)으로, B1(340)은 상측 주변 블록(upper neighboring block)으로, B2(350)은 좌상측 주변 블록(upper left neighboring block)으로 불릴 수 있다.
또한, 공간적으로 인접하는 블록 외에 시간적인(temporal) 후보 블록으로서, 상술한 Col 블록(360)이 후보 블록으로 이용될 수 있다. Col 블록(360)은 ColPb(Col prediction block)라고 불릴 수 있으며, 복원된 참조 픽처들 중의 하나인 콜 픽쳐(collocated picture) 내에서 현재 블록에 대응하는 블록으로, 소정의 상대적인 위치(예를 들어, Col 픽처 내에서 상기 현재 블록과 동일 위치에 존재하는 블록의 우하측 주변 샘플 위치 또는 센터 우하측 샘플 위치(sample position)으로부터 일정 기준에 따라 산술 쉬프트(arithmetic shift)한 위치)에 존재하는 블록일 수 있다.
구체적으로 머지 모드에서는, 후보 블록들을 기반으로 생성된 머지 후보 리스트 중에서 최적의 머지 후보의 MV가 현재 블록을 위한 MV로 사용된다. 인코딩 장치는 상기 머지 후보 리스트에서 상기 선택된 머지 후보를 가리키는 머지 인덱스 정보를 인코딩하여 비트스트림을 통하여 디코딩 장치로 전송한다.
디코딩 장치는 인코딩 장치로부터 전송된 머지 인덱스 정보를 기반으로 머지 후보 리스트에서 선택된 머지 후보 블록의 MV를 현재 블록에 대한 MV로 도출할 수 있다. 인코딩 장치는 현재 블록의 MV를 기반으로 참조 픽처 상의 참조 블록을 도출하고, 상기 참조 블록을 현재 블록에 대한 예측 블록으로 이용할 수 있다. 즉, 상기 참조 블록 내의 샘플들을 현재 블록에 대한 예측 샘플들로 이용할 수 있다.
또한, 구체적으로 AMVP 모드에서는, 후보 블록들로부터 도출된 움직임 벡터 예측자(MVP) 후보들(candidates)을 포함하는 MVP 후보 리스트(MVP candidate list)에서 현재 블록을 위한 최적의 MVP가 선택된다. 이 경우 인코딩 장치에서는 움직임 추정을 수행하여 도출된 현재 블록의 MV를 기반으로 MVP 후보 리스트에서 최적의 MVP를 도출(derive)하고, 상기 MV에서 MVP를 뺀 MVD를 계산한다. 인코딩 장치는 상기 MVP 후보 리스트에 포함되는 MVP 후보들 중에서 어떤 MVP 후보가 현재 블록에 대한 MVP인지를 가리키는 MVP 인덱스 정보, 그리고 상기 구한 MVD의 x축 값 및 y축 값을 나타내는 MVD 정보를 인코딩하여 비트스트림을 통하여 디코딩 장치로 전송한다.
디코딩 장치는 인코딩 장치로부터 전송된 MVP 인덱스 정보 및 MVD 정보를 기반으로 MVP 후보 리스트에서 현재 블록에 대한 MVP를 도출할 수 있고, 도출된 MVP에 MVD를 더하여 현재 블록의 MV를 도출할 수 있다. 그리고 현재 블록의 MV를 기반으로 참조 픽처 상의 참조 블록을 도출하고, 상기 참조 블록을 현재 블록에 대한 예측 블록으로 이용할 수 있다. 즉, 상기 참조 블록 내의 샘플들을 현재 블록에 대한 예측 샘플들로 이용할 수 있다.
디코딩 장치는 인코딩 장치로부터 레지듀얼 샘플에 대한 정보를 수신하여 레지듀얼 샘플들을 생성할 수 있다. 상기 레지듀얼 샘플에 대한 정보는 변환 계수들에 대한 정보를 포함할 수 있다. 구체적으로 예를 들어 디코딩 장치는 인코딩 장치로부터 비트스트림을 통하여 변환 계수들을 수신하고, 상기 변환 계수들을 역변환하여 레지듀얼 블록(또는 레지듀얼 샘플들)을 생성할 수 있다. 여기서 레지듀얼 샘플은 원본 샘플과 예측 샘플 간의 차를 나타낼 수 있고, 레지듀얼 블록은 원본 샘플들을 포함하는 원본 블록과 예측 샘플들을 포함하는 예측 블록 간의 차를 나타낼 수 있다.
따라서, 예측 성능이 향상될수록 레지듀얼 샘플에 대한 정보를 위한 데이터량을 줄일 수 있으며, 이를 통하여 전반적인 코딩 효율이 향상될 수 있다.
하지만, 예측 절차를 수행함에 있어 한정된 정보를 사용하여 현재 블록을 예측하므로 예측 성능을 높여 원본 블록과 거의 동일한 예측 블록을 생성하기는 쉽지 않다. 이에 본 발명에서는 현재 블록의 주변에 위치한 복원된 샘플들/블록 정보들을 기반으로 예측 블록(예측 블록 내 예측 샘플들)에 필터링을 적용하여 예측 성능을 높일 수 있다. 이 경우 예측 블록의 예측 샘플들에 위너 필터(Wiener filter) 기반한 필터링을 적용하여 예측 성능을 높일 수 있다. 위너 필터를 적용하기 위하여는 필터 계수들(filter coefficients)들이 결정되어야 하며, 따라서 필터 계수들에 대한 정보가 송수신되어야 하는 필요성이 있다. 본 발명에서는 적은 양의 보조 정보(side information)만을 사용하여 생성한 위너 필터를 예측 블록에 적용하여, 예측 블록의 예측 정확도를 향상시킬 수 있으며, 이에 따라 레지듀얼 블록을 코딩하기 위하여 필요한 데이터량을 줄여서 영상 압축 효율을 높일 수 있다. 이 때 상기 필터 계수를 생성함에 있어, 예측 모드, 블록 분할 정보, 블록 특성을 반영하여 보다 적합한 필터를 생성할 수 있다.
먼저, 필터 계수들을 도출하기 위한 절차(process)는 다음과 같다.
도 4는 현재 블록의 주변 블록들을 기반으로 필터 계수들 도출 방법을 예시적으로 나타낸다. 여기서 현재 블록은 코딩 블록(CB) 또는 코딩 유닛(CU)일 수 있다. 또한 여기서 주변 블록들은 복원된(reconstructed) 블록들일 수 있다.
도 4를 참조하면, 현재 블록(400)의 주변 블록들(410, 420, 430, 440 및 450)들을 기반으로 현재 블록에 대한 위너 필터의 필터 계수들을 도출(derive)할 수 있다. 예를 들어, 현재 블록(400)의 좌하측 주변 블록(410), 좌측 주변 블록(420), 우상측 주변 블록(430), 상측 주변 블록(440) 및 좌상측 주변 블록(450)을 이용하여 해당 주변 블록들(410, 420, 430, 440 및 450) 각각에 대한 필터 계수들을 도출할 수 있다. 또한, 상기 주변 블록들 각각에 대한 필터 계수들을 종합하여 추가적인 필터 계수들을 도출할 수도 있다.
상기 주변 블록들(410, 420, 430, 440 및 450) 필터 계수들 및/또는 상기 추가적인 필터 계수들을 필터 계수들 후보들(filter coefficients candidates)로 하여, 그 중에서 선택된 필터 계수들을 현재 블록(400)을 위한 필터 계수들로 이용할 수 있다.
이 경우, 예를 들어, 인코딩 장치 및 디코딩 장치는 주변 블록과 해당 주변 블록의 참조 블록과의 관계를 기반으로 해당 주변 블록에 대한 필터 계수들을 도출할 수 있다. 예를 들어, 좌상측 주변 블록(450)에 대한 참조 블록이 참조 블록(455)일 수 있다. 즉, 참조 블록(455)는 좌상측 주변 블록(450)의 MV가 상기 좌상측 주변 블록(450)의 참조 픽처 상에서 가리키는 블록일 수 있다. 이 경우 좌상측 주변 블록(450)과 참조 블록(455) 간의 관계를 기반으로 해당 좌상측 주변 블록(450)에 대한 필터 계수들을 도출할 수 있다. 이는 다른 주변 블록들도 마찬가지이다.
주변 블록과 해당 주변 블록의 참조 블록 간의 관계를 기반으로 해당 주변 블록에 대한 필터 계수들을 구하는 방법은 예를 들어 다음과 같이 수행될 수 있다.
도 5는 주변 블록에 대한 위너 필터 계수들을 구하는 방법의 일 예를 나타낸다. 도 5에서 주변 블록 및 그 참조블록은 8×8 샘플 사이즈를 갖고, 위너 필터는 3×3 샘플 사이즈를 갖는 것을 가정한다.
도 5를 참조하면, 참조 블록(555)에 위너 필터(560)를 적용하여 주변 블록(550)과 동일하거나 가장 유사하게 되는 경우, 해당 위너 필터(560)의 필터 계수들이 상기 주변 블록(550)의 필터 계수들이 된다.
상기 위너 필터는 참조 블록(555)의 좌상단(top-left) 샘플로부터 래스터 스캔 오더로 순차적으로 나머지 샘플들에 적용될 수 있다. 도 5에서는 위너 필터(560) 사이즈가 3×3이므로, 참조 블록(555) 경계 내에 위치하는 경계 샘플들에 위너 필터(560)를 적용하기 위하여 참조 블록(555)의 좌우측으로 각각 1개 열의 샘플들, 상하측으로 각각 1개 행의 샘플들이 패딩(padding)되었다. 상기 패딩되는 영역의 크기는 위너 필터(560)의 사이즈에 따라 달라질 수 있다. 예를 들어 위너 필터(560)의 사이즈가 5×5일 경우, 참조 블록(555)의 좌우측으로 각각 2개 열의 샘플들, 상하측으로 각각 1개 행의 샘플들이 패딩될 수도 있다.
위너 필터(560)의 필터 계수들은 정해진 순서에 따라 1차원으로 배열될 수 있다.
여기서 위너 필터(560)를 구하는 식은 예를 들어 다음과 같을 수 있다.
Figure PCTKR2016010146-appb-M000001
여기서, R은 참조 블록의 샘플들로 이루어진 메트릭스, h는 위너 필터 계수 메트릭스, O는 주변 블록의 샘플을 나타낸다. 그리고 RT는 행렬 R의 전치(transpose) 행렬을 나타낸다.
다시 도 5를 참조하면, 만약 그림과 같이 위너 필터 계수들의 순서를 1~9와 같이 정한 경우, 참조 블록에서도 대응되는 샘플들의 순서는 a~i로 정해질 수 있다. 이 경우 상기 수학식 1은 다음과 같이 나타내어질 수 있다.
Figure PCTKR2016010146-appb-M000002
상술한 예에서 참조 블록 및 주변 블록의 사이즈가 8×8이므로, 주변 블록 내 각 샘플들에 대하여 상기 수학식 2와 같은 메트릭스 관계식이 한 개씩 도출될 수 있으며, 상기 주변 블록 내 모든 샘플들에 대하여는 총 64개의 관계식이 도출될 수 있다.
수학식을 간단히 하기 위하여 상기 수학식의 양변에 합계(sum) 함수를 적용하면, 다음과 같이 나타낼 수 있다.
Figure PCTKR2016010146-appb-M000003
수학식 3에서 합계 연산이 완료되면 좌우변 각각에 메트릭스 식이 도출된다. 여기서 구하고자 하는 것은 h이므로, h 앞의 항(term)의 역행렬을 좌우변에 각각 곱하여, h를 구할 수 있고, 위너 필터 계수들을 얻을 수 있다.
다시 도 4를 참조하면, 이렇게 구해진 필터 계수들 후보들을 기반으로 현재 블록을 위한 최적의 필터 계수들이 선택될 수 있다. 인코딩 장치는 상기 필터 계수들 후보들을 현재 블록에 적용하여, 이를 기반으로 원본 블록과의 에러를 최소화시키는 필터 계수들을 선택할 수 있다. 이 경우 인코딩 장치는 위너 필터의 가용(enable) 여부를 나타내는 플래그(flag)와, 선택된 필터 계수들의 인덱스(index)를 인코딩하여 디코딩 장치로 전송할 수 있다. 상기 플래그는 필터 플래그, 위너 필터 플래그 또는 WF 플래그로 불릴 수 있다. 상기 인덱스는 필터 인덱스, 위너 필터 인덱스 또는 WF 인덱스로 불릴 수 있다.
디코딩 장치는 상기 수신된 플래그와 인덱스를 디코딩하고, 상기 플래그를 기반으로 상기 현재 블록에 위너 필터가 가용한지 여부를 결정하고, 상기 인덱스를 기반으로 상기 위너 필터를 적용하기 위한 필터 계수들을 상기 주변 블록들 또는 상기 필터 계수들 후보들로부터 도출할 수 있다. 예를 들어, 상기 인덱스는 별도로 구성된 상기 필터 계수들 후보들 중에 하나를 지시할 수도 있고, 또는 상기 주변 후보 블록들 중 하나를 지시할 수도 있다. 예를 들어 상기 인덱스가 상기 주변 후보 블록들 중 하나를 지시하는 경우 인덱스 넘버의 순서는 임의의 순서로 결정될 수 있다. 예를 들어 좌하측 주변 블록(410), 좌측 주변 블록(420), 우상측 주변 블록(430), 상측 주변 블록(440) 및 좌상측 주변 블록(450) 순서에 기반할 수도 있고, 또는 좌측 주변 블록(420), 상측 주변 블록(440), 우상측 주변 블록(430), 좌하측 주변 블록(410) 및 좌상측 주변 블록(450)에 기반할 수도 있다.
도 4에 도시된 바와 같이 좌하측 주변 블록(410)을 a2, 좌측 주변 블록(420)을 a1, 우상측 주변 블록(430)을 b2, 상측 주변 블록(440)을 b1 및 좌상측 주변 블록(450)을 b0라 하는 경우 상기 인덱스 넘버의 순서는 다음 표에서 나타낸 방법들 중 하나를 따를 수 있다.
Index 0 1 2 3 4 5
method 1 a1 b1 b2 a2 b0
method 2 a1 a2 b0 b1 b2
method 3 a1 b1 b2 a2 b0 all
method 4 a1 a2 b0 b1 b2 all
method 5 all a1 b1 b2 a2 b0
method 6 all a1 a2 b0 b1 b2
표 1에서 각 method는 필터 계수들 후보 리스트의 예를 나타내며, all은 상기 주변 블록들 각각에 대한 필터 계수들을 종합하여 도출된 추가적인 필터 계수들을 사용함을 의미한다.
한편, 상기 주변 블록들(410, 420, 430, 440 및 450) 각각에 대한 위너 필터 계수는 예를 들어 다음과 같은 단위로 결정될 수 있다.
a. 주변 블록을 포함하는 코딩 블록
b. 주변 블록을 포함하는 예측 블록
c. 주변 블록 위치에 존재하는 동일한 MV를 가지는 최소 단위 블록
d. 사전에 정해진 특정 크기의 블록
e. a~d의 선택적 조합
한편, 상기 주변 블록들(410, 420, 430, 440 및 450) 중 가용한 주변 블록들만이 상기 필터 계수들 도출을 위하여 고려될 수 있다. 여기서 주변 블록은 예를 들어 다음과 같은 기준 중 적어도 하나를 만족하는 경우 가용하지 않은 것으로 결정될 수 있다.
a. 주변 블록이 현재 슬라이스(또는 타일) 외부에 위치하는 경우
b. 주변 블록이 현재 픽처의 경계 외부에 위치하는 경우
c. 주변 블록이 인트라 코딩된 블록이 경우
따라서, 상기 도 4에서 기술된 주변 블록이 가용하지 않은 경우에는 필터 계수들 후보 리스트를 생성시 가용하지 않은 블록을 제외하고 후보 리스트를 생성할 수 있다. 이 경우 상기 가용하지 않은 블록은 후보 리스트에서 제외되고, 가용하지 않은 블록보다 후순위의 가용 블록들의 인덱스 값은 순차적으로 줄어들 수 있다.
도 6은 주변 블록이 가용하지 않은 경우를 예시적으로 나타낸다.
도 6을 참조하면, 현재 블록(600)의 주변 블록들(610, 620, 630, 640 및 650)들 중 좌하측 주변 블록(610)은 현재 픽처의 경계 외부에 위치하고, 우상측 주변 블록(630)은 인트라 코딩된 블록에 해당한다. 따라서, 상기 좌하측 주변 블록(610)은 가용하지 않은 블록으로 판단될 수 있고, 상기 우상측 주변 블록(630)은 가용하지 않은 블록으로 판단될 수 있다. 이 경우 상기 가용하지 않은 블록은 상술한 필터 계수들 후보 리스트 생성시 제외될 수 있다.
상술한 바와 같이 좌하측 주변 블록(610)을 a2, 좌측 주변 블록(620)을 a1, 우상측 주변 블록(630)을 b2, 상측 주변 블록(640)을 b1 및 좌상측 주변 블록(650)을 b0라 할 수 있으며, 이 경우 예를 들어 상기 후보 리스트의 원래 순서가 a1, b1, b2, a2, b0의 순이었다고 하면, 상기 가용하지 않은 블록을 제외하는 경우, 수정된 후보 리스트는 a1, b1, b0 순으로 후보들을 포함할 수 있다. 이 경우 예를 들어 상기 후보 리스트에서의 각 후보의 인덱스를 이진 코드로 표현하는 데 TU(Truncated Unary) 코드를 사용한다면 가용한 후보의 수에 따라 이진 코드도 아래 표 2에서 표 3으로 수정될 수 있다.
index candidate binary
0 a1 0
1 b1 10
2 b2 110
3 a2 1110
4 b0 1111
index candidate binary
0 a1 0
1 b1 10
2 b0 11
상기 표 2는 5개의 후보들을 포함하는 경우에 대한 이진 코드들을 나타내고, 상기 표 3은 3개의 후보들을 포함하는 경우에 대한 이진 코드들을 나타낸다. 표 3에서는 a1, b1, b0가 가용한 경우를 예를 들어 나타내었으나, 다른 주변 블록들이 가용한 경우에도 미리 정해진 우선 순위에 따라 순차적으로 인덱스가 할당될 수 있으며, 가용한 후보의 수에 따라 각 인덱스에 대응하는 이진 코드 값이 정해질 수 있다.
한편, 비디오 코딩 시스템에서 복원된 주변 블록의 크기나 파티션 형태가 다양할 수 있으며, 이 경우 주변 블록들의 위치에 따라 복수의 주변 블록들이 동일한 코딩 블록(CB) 또는 예측 블록(PB)에 속할 수도 있다.
도 7은 복수의 주변 블록들이 동일 CB 또는 동일 PB에 속하는 경우를 예시적으로 나타낸다.
도 7은 주변 블록이 가용하지 않은 경우를 예시적으로 나타낸다.
도 7을 참조하면, 상술한 바와 같이 현재 블록의 좌하측 주변 블록을 a2, 좌측 주변 블록을 a1, 우상측 주변 블록을 b2, 상측 주변 블록을 b1 및 좌상측 주변 블록을 b0라 할 수 있다. 이 경우 (a)와 같이 좌측 주변 블록 a1 및 좌상측 주변 블록 b0가 동일한 코딩 블록에 속할 수 있다. 또한, (b)와 같이 상측 주변 블록 b1 및 우상측 주변 블록 b2가 동일한 예측 블록(또는 예측 파티션)에 속할 수 있다.
복수의 주변 블록들이 동일한 코딩 블록 또는 예측 블록에 속하는 경우, 상기 복수의 주변 블록들에 대하여 동일한 필터 계수들이 생성될 수 있으며, 이 경우 상기 가용하지 않은 블록의 예와 같이 상기 복수의 주변 블록들 중 일부는 상기 후보 리스트에서 제외될 수 있다. 이 경우 예를 들어 보다 후순위의 블록이 상기 후보 리스트에서 제외될 수 있다.
예를 들어, 원래 후보 리스트의 순서가 a1, b1, b2, a2, b0였다면, 도 7의 (a) 및 (b)의 경우에 대한 후보 리스트의 인덱스 및 이진 코드는 다음 표 4 및 표 5와 같이 도출될 수 있다.
index candidate binary
0 a1 0
1 b1 10
2 b2 110
3 a2 111
index candidate binary
0 a1 0
1 b1 10
2 a2 110
3 b0 111
상기 표 4는 실시예 (a)에 대한 이진 코드들을 나타내고, 상기 표 5는 실시예 (b)에 대한 이진 코드들을 나타낸다.
표 4 및 표 5에서는 a0 및 b0가 동일 코딩 블록에 속하거나 b1 및 b2가 동일 예측 블록에 속하는 경우를 예를 들어 나타내었으나, 다른 임의의 주변 블록들이 동일 코딩 블록 또는 동일 예측 블록에 속하는 경우에도 상기 임의의 주변 블록들 중 일부 블록이 상기 후보 리스트에서 제외될 수 있으며, 이 경우 미리 정해진 우선 순위에 따라 각 인덱스에 대응하는 이진 코드 값이 정해질 수 있음은 상술한 바와 같다.
한편, 필터 계수들 생성에 있어서 코딩 블록이나 예측 블록 단위로 수행되지 않고, 고정된 크기의 블록 또는 동일 움직임 정보를 갖는 최소 단위 블록 등을 기반으로 상기 필터 계수들 생성이 수행되는 경우, 상기 임의의 주변 블록들이 동일 코딩 블록 또는 동일 예측 블록에 속하는지와 무관하게 상기 임의의 주변 블록들을 독립적인 후보로 고려하여, 필터 계수들을 생성할 수 있다. 이 경우, 상기 임의의 주변 블록들이 동일 코딩 블록 또는 동일 예측 블록에 속하더라도 후보 리스트에서의 후보의 개수, 인덱스 및 이진 코드는 변경되지 않을 수 있다.
한편, 만약에 현재 블록의 예측 모드가 스킵 모드이거나, 또는 머지 모드이면서 파티셔닝 모드가 2N×2N인 경우, 머지 후보 블록들은 상기 도 4에서 도시한 후보 블록들과 동일할 수 있다. 스킵 모드 또는 머지 모드에서 특정 머지 후보가 선택되었다는 것은, 해당 후보 블록이 현재 블록과 가장 가까운 특성을 가지고 있다고 볼 수 있다. 따라서 해당 후보 블록으로부터 도출된 위너 필터 계수들을 상기 현재 블록을 위하여 이용함으로써 필터 계수 인덱스를 별도로 부호화하는데 드는 데이터량 또는 비트량을 줄일(reduce) 수 있다. 이 경우 머지 인덱스가 가리키는 후보 블록과 동일한 후보 블록이 위너 필터 계수들 도출을 위하여 사용될 수 있다.
이 때, 머지 인덱스로부터 위너 필터 계수들 도출을 위한 필터 인덱스를 유도하는 조건은 다음과 같을 수 있다.
a. 현재 블록에 대한 예측 모드가 스킵 모드일 경우
b. 현재 블록의 파티셔닝 모드가 2N×2N이고, 상기 현재 블록의 예측 모드가 머지 모드일 경우
c. a/b 둘 다를 만족하는 경우
d. a~c의 선택적 조합
도 8은 머지 후보들로부터 위너 필터 계수들 도출을 위한 필터 인덱스를 유도하는 방법을 예시적으로 나타낸다. 도 8은 현재 블록의 예측 모드 및 상기 현재 블록에 대한 파티셔닝 모드를 기반으로 위너 필터가 가용/불가용되는 예를 나타낸다. 여기서 현재 블록은 코딩 블록 또는 예측 블록일 수 있다.
도 8을 참조하면, 디코딩 장치는 비트스트림을 통하여 스킵 플래그를 수신하고, 상기 스킵 플래그의 값이 1을 나타내는지 여부를 확인한다(S700). 상기 스킵 플래그의 값이 1인 경우 현재 블록에 대한 예측 모드가 스킵 모드인 것을 나타낸다. 상기 스킵 모드는 상기 현재 블록에 대하여 원본 샘플들과 예측 샘플들간의 차이에 관한 레지듀얼 신호가 존재하지 않음을 의미할 수 있다. 상기 스킵 플래그의 값이 0인 경우 상기 현재 블록에 대한 예측 모드로 스킵 모드가 적용되지 않는다.
만약 S800에서 상기 스킵 플래그의 값이 1인 경우, 디코딩 장치는 상기 스킵 모드 관련 예측 툴에 따라 예측 절차를 수행한다(S810). 일 예로, 상기 스킵 플래그의 값이 1인 경우, 디코딩 장치는 상기 현재 블록에 대한 파티셔닝 모드 정보를 수신하지 않고, 상기 현재 블록에 대한 파티셔닝 모드를 2N×2N으로 도출할 수도 있다. 즉, 이 경우 디코딩 장치는 코딩 블록의 사이즈와 동일한 사이즈를 갖는 예측 블록을 도출하고, 해당 예측 블록에 대한 상기 스킵 모드에 기반한 예측을 수행할 수 있다. 구체적으로 예를 들어 디코딩 장치는 머지 인덱스를 수신하고, 상기 예측 블록의 주변 블록들 중 상기 머지 인덱스가 가리키는 블록의 MV를 현재 블록의 MV로 이용하여 인터 예측을 수행하고, 도출된 예측 샘플들을 복원 샘플들로 이용할 수 있다.
디코딩 장치는 WF 플래그를 파싱하고 상기 WF 플래그의 값이 1을 나타내는지 확인한다(S820). WF 플래그의 값이 1을 나타내는 경우 상기 현재 블록에 대한 위너 필터의 가용 또는 적용을 의미한다. WF 플래그의 값이 0을 나타내는 경우, 상기 현재 블록에 대한 위너 필터가 가용하지 않음을 의미한다.
만약 S820에서 상기 WF 플래그의 값이 1을 나타내는 경우, 디코딩 장치는 WF 인덱스의 파싱 절차를 건너뛸 수 있다. 즉, 현재 블록의 예측 모드가 스킵 모드인 경우 S825 절차는 수행되지 않을 수 있다. 이 경우 디코딩 장치는 머지 인덱스를 상기 WF 인덱스로 도출하거나, 또는 머지 인덱스를 기반으로 도출된 후보 블록을 기반으로 상기 현재 블록의 위너 필터 계수들을 도출할 수 있다. 디코딩 장치는 상기 위너 필터 계수들을 기반으로 상기 현재 블록 내 예측 샘플들에 필터링을 적용하여 예측 샘플들과 원본 샘플들 간의 차이를 줄일 수 있음은 상술한 바와 같다.
만약 S800에서 상기 스킵 플래그의 값이 0인 경우, 디코딩 장치는 예측 관련 정보를 수신한다(S830). 상기 여기서 예측 관련 정보는 파티셔닝 모드에 관한 정보 및 예측 모드에 관한 정보를 포함할 수 있다. 상기 파티셔닝 모드에 관한 정보는 상기 현재 블록에 대한 파티셔닝 모드로 2N×2N, N×2N, 2N×N, N×N, nL×2N, 2N×nU, nR×2N 및 2N×nD 중 하나를 지시할 수 있다. 상기 예측 모드에 관한 정보는 상기 현재 블록 내 적어도 하나의 예측 블록에 대한 인터 예측 모드를 지시한다. 예를 들어 상기 인터 예측 모드는 머지 모드 및 AMVP 모드를 포함할 수 있다.
디코딩 장치는 상기 현재 블록에 대한 파티셔닝 모드가 2N×2N이고 상기 현재 블록의 예측 모드가 머지 모드인지 확인한다(S840).
만약, S840에서 상기 현재 블록에 대한 파티셔닝 모드가 2N×2N이고 머지 모드가 적용되는 경우, 디코딩 장치는 관련 예측 툴에 따라 예측 절차를 수행한다(S850). 예를 들어 디코딩 장치는 상기 현재 블록의 사이즈와 동일한 사이즈를 갖는 예측 블록을 도출하고, 해당 예측 블록에 대한 인터 예측을 수행할 수 있다. 예를 들어, 디코딩 장치는 머지 인덱스 파싱하고, 상기 머지 인덱스를 기반으로 주변 블록의 MV를 상기 예측 블록의 MV로 도출하고, 도출된 MV를 기반으로 예측 샘플들을 생성할 수 있다.
디코딩 장치는 WF 플래그를 파싱하고 상기 WF 플래그의 값이 1을 나타내는지 확인한다(S860). WF 플래그의 값이 1을 나타내는 경우 상기 현재 블록에 대한 위너 필터의 가용 또는 적용을 의미한다. WF 플래그의 값이 0을 나타내는 경우, 상기 현재 블록에 대한 위너 필터가 가용하지 않음을 의미한다.
만약 S860에서 상기 WF 플래그의 값이 1을 나타내는 경우, 디코딩 장치는 WF 인덱스의 파싱 절차를 건너뛸 수 있다. 즉, 현재 블록의 예측 모드가 머지 모드이고 파티셔닝 모드가 2Nx2N인 경우 S865 절차는 수행되지 않을 수 있다. 이 경우 디코딩 장치는 머지 인덱스를 상기 WF 인덱스로 도출하거나, 또는 머지 인덱스를 기반으로 도출된 후보 블록을 기반으로 상기 현재 블록의 위너 필터 계수들을 도출할 수 있다. 디코딩 장치는 상기 위너 필터 계수들을 기반으로 상기 현재 블록 내 예측 샘플들에 필터링을 적용하여 예측 샘플들과 원본 샘플들 간의 차이를 줄일 수 있음은 상술한 바와 같다.
만약 S840에서 상기 현재 블록에 대한 파티셔닝 모드가 2N×2N가 아니거나 상기 현재 블록의 예측 모드가 머지 모드가 아닌 경우, 디코딩 장치는 해당 파티셔닝 모드를 기반으로 하나 이상의 예측 블록을 도출하고, 상기 예측 블록에 대하여, 관련 예측 툴에 따라 예측 절차를 수행한다(S870). 예를 들어 디코딩 장치는 상기 상기 파티셔닝 모드에 따라 복수의 예측 블록들을 도출하고, 해당 예측 블록들 각각에 대한 인터 예측을 수행할 수 있다. 예를 들어, 디코딩 장치는 예측 블록들 각각에 대한 머지 플래그를 파싱하여, 이를 기반으로 상기 예측 블록들 각각에 머지(merge) 모드가 적용되는지 AMVP(advanced motion vector prediction) 모드가 적용되는지 여부를 결정하고, 결정된 모드에 따라 인터 예측을 수행할 수 있다.
디코딩 장치는 WF 플래그를 파싱하고 상기 WF 플래그의 값이 1을 나타내는지 확인한다(S860). WF 플래그의 값이 1을 나타내는 경우 상기 현재 블록에 대한 위너 필터의 가용 또는 적용을 의미한다. WF 플래그의 값이 0을 나타내는 경우, 상기 현재 블록에 대한 위너 필터가 가용하지 않음을 의미한다.
만약 S860에서 상기 WF 플래그의 값이 1을 나타내는 경우, 디코딩 장치는 WF 인덱스를 파싱(및 복호화)하고, 상기 WF 인덱스 및 상기 현재 블록의 주변 블록들을 기반으로 상기 현재 블록의 위너 필터 계수들을 도출한다(S760). 디코딩 장치는 상기 위너 필터 계수들을 기반으로 상기 현재 블록 내 예측 샘플들에 필터링을 적용하여 예측 샘플들과 원본 샘플들 간의 차이를 줄일 수 있다.
한편, 상기 현재 블록에 스킵 모드나 머지 모드가 적용되는 경우, 최소한의 부가 정보를 이용하여 상기 현재 블록을 예측(즉, 상기 현재 블록의 예측 샘플들을 생성)하더라도, 이는 원본 블록과 예측 블록과의 에러가 많은 경우에 대한 부호화의 경우와 비교하여 더 나은 정도이며, 만약 위너 필터 적용을 위한 부호화 데이터량이 큰 경우 동영상 압축 효율이 떨어질 수 있다.
따라서, 상기 현재 블록의 예측 모드가 스킵 모드이거나, 또는 상기 현재 블록의 예측 모드가 머지 모드이고 파티셔닝 모드가 2Nx2N인 경우에, 위너 필터의 적용을 선택적으로 금지(disable)시킬 수 있다. 이 경우 적응적으로 부가 정보의 전송 및 연산 복잡도를 줄일 수 있으며, 이를 통하여 상황에 따라 압축 성능의 향상 및 코딩 효율의 최적화를 도출할 수 있다.
만약, 현재 블록의 예측 모드가 스킵 모드인 경우 위너 필터 적용을 금지시킨다면, 도 8에서 상기 (a) 영역은 수행되지 않을 수 있다. 즉, S820 및 S825 절차는 수행되지 않을 수 있다. 또한, 현재 블록의 예측 모드가 머지 모드이고 파티셔닝 모드가 2Nx2N인 경우 위너 필터 적용을 금지시킨다면, 도 8에서 상기 (b) 영역은 수행되지 않을 수 있다. 즉, S860 및 S865 절차는 수행되지 않을 수 있다.
한편, 상술한 머지 인덱스에 기반한 필터 인덱스 유도 적용 여부, 그리고 현재 블록의 인터 예측 모드 및/또는 파티셔닝 모드에 따른 위너 필터 적용 금지 적용 여부는 다음과 같은 방법을 통하여 적응적으로 설정될 수도 있다.
a. SPS(sequence parameter set)에서 적용 여부를 나타내는 정보를 시그널링. 이 경우 시퀀스 전체에 대하여 선택적으로 적용/비적용 가능
b. PPS(picture parameter set)에서 적용 여부를 나타내는 정보를 시그널링. 이 경우 픽처마다 적응적으로 적용/비적용 가능
c. 슬라이스 헤더에서 적용 여부를 나타내는 정보를 시그널링. 이 경우 슬라이스마다 적응적으로 적용/비적용 가능
d. 미리 정의된 고정된 방법에 따라 적용/비적용.
e. a~d의 방법을 선택적으로 조합
도 9는 본 발명에 따른 영상 인코딩 방법의 일 예를 개략적으로 나타낸다. 도 9에서 개시된 방법은 도 1에서 개시된 인코딩 장치에 의하여 수행될 수 있다. 구체적으로 예를 들어, 도 9의 S900 내지 S940은 상기 인코딩 장치의 예측부에 의하여 수행될 수 있고, S950은 상기 인코딩 장치의 엔트로피 인코딩부에 의하여 수행될 수 있다.
도 9를 참조하면, 인코딩 장치는 현재 블록에 대한 예측 샘플들을 생성한다(S900). 여기서 현재 블록은 코딩 블록 또는 예측 블록일 수 있다. 파티셔닝 모드에 따라 하나의 코딩 블록은 하나 또는 다수의 예측 블록들을 포함할 수 있다. 인코딩 장치는 상기 하나 또는 다수의 예측 블록들 각각에 대하여 움직임 추정을 통하여 MV를 도출하고, 상기 각각의 예측 블록들에 대하여 상기 도출한 MV를 기반으로 복원된 참조 픽처 상의 참조 블록을 찾고, 상기 참조 블록 내의 복원 샘플을 기반으로 해당 예측 블록의 예측 샘플을 도출할 수 있다. 인코딩 장치는 예측 블록 단위로 생성된 예측 샘플들을 취합하여 상기 코딩 블록에 대한 예측 샘플들을 도출할 수 있다.
인코딩 장치는 상기 현재 블록에 대한 위너 필터 적용 여부를 판단한다(S910). 인코딩 장치는 상기 위너 필터를 적용했을 때와 적용하지 않았을 때 간의 RD(rate-distortion) 코스트를 비교하여, 상기 위너 필터 적용 여부를 판단할 수 있다. 인코딩 장치는 상기 판단 결과를 기반으로 위너 필터 플래그를 생성할 수 있다. 인코딩 장치는 상기 위너 필터가 적용되는 경우 상기 위너 필터 플래그의 값을 1로 설정하고, 상기 위너 필터가 적용되지 않은 경우 위너 필터 플래그의 값을 0으로 설정할 수 있다.
또한, 인코딩 장치는 상기 현재 블록에 대한 예측 모드가 스킵(skip) 모드인 경우 상기 위너 필터가 적용되지 않은 것으로 판단할 수 있다. 또는 인코딩 장치는 상기 현재 블록에 대한 상기 예측 모드가 머지(merge) 모드이고 상기 현재 블록의 파티셔닝 모드가 2Nx2N인 경우 상기 위너 필터가 적용되지 않은 것으로 판단할 수 있다. 이 경우 인코딩 장치는 상기 위너 필터 플래그를 디코딩 장치로 시그널링하지 않을 수 있다. 이는 디코딩 장치 또한 동일한 판단 기준에 따라 상기 위너 플래그가 적용되지 않은 것으로 묵시적으로 판단할 수 있기 때문이다.
인코딩 장치는 상기 위너 필터가 적용되는 경우, 상기 현재 블록의 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성한다(S920). 인코딩 장치는 이 경우 공간적 주변 블록들을 기반으로 상기 위너 필터 후보 리스트를 생성할 수 있다. 상기 공간적 주변 블록들은 상기 현재 블록의 좌하측 블록, 좌측 블록, 우상측 블록, 상측 블록, 및 좌상측 블록을 포함할 수 있다. 인코딩 장치는 상기 현재 블록의 시간적 대응 블록을 더 기반하여 상기 위너 필터 후보 리스트를 생성할 수도 있다.
상기 위너 필터 후보 리스트는 상기 주변 블록들에 대하여 미리 설정된 우선순위를 기반으로 구성될 수 있다. 예를 들어 상기 위너 필터 후보 리스트는 상술한 표 1에 개시된 것과 같은 위너 필터 후보들을 포함할 수 있다.
또한, 상기 위너 필터 후보 리스트는 상기 주변 블록들 중 가용한 주변 블록들를 기반으로 도출될 수 있다. 이 경우 가용하지 않은 특정 주변 블록은 상기 위너 필터 후보 리스트에 포함되지 않을 수 있다. 예를 들어 상기 주변 블록들 중 특정 주변 블록이 현재 슬라이스의 외부에 위치하거나, 상기 특정 주변 블록이 현재 픽처의 경계 외부에 위치하거나, 또는 상기 특정 주변 블록이 인트라 코딩된 경우 상기 특정 주변 블록은 가용하지 않은 것으로 판단될 수 있다.
또한, 상기 주변 블록들 중 복수의 특정 주변 블록들이 하나의 코딩 블록에 속하거나 하나의 예측 블록에 속하는 경우, 상기 복수의 특정 주변 블록들 중 적어도 하나는 상기 위너 필터 후보 리스트에 포함되지 않을 수 있다. 이 경우 상기 복수의 특정 주변 블록들 중 가장 선순위의 주변 블록만 상기 위너 필터 후보 리스트에 포함되고 나머지 후순위의 주변 블록(들)은 상기 위너 필터 후보 리스트에서 제외될 수 있다. 또는 이 경우 상기 나머지 후순위의 주변 블록(들)은 가용하지 않은 것으로 판단될 수도 있다.
인코딩 장치는 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들을 도출한다(S930). 인코딩 장치는 상기 위너 필터 후보 리스트 내의 적어도 하나의 후보 블록을 선택할 수 있으며, 이 경우 상기 선택된 후보 블록과 상기 후보 블록의 참조 블록을 기반으로 상기 위너 필터 계수들을 도출할 수 있다. 예를 들어, 상기 선택된 후보 블록에 대한 위너 필터 계수들을 기반으로 상기 현재 블록에 대한 상기 위너 필터 계수들이 도출될 수 있다. 상기 선택된 후보 블록에 대한 위너 필터 계수들은 상기 후보 블록의 복원 샘플들과 상기 후보 블록의 참조 블록의 복원 샘플들을 기반으로 도출될 수 있다.
인코딩 장치는 상기 위너 필터 후보 리스트 중에서 선택된 위너 필터 후보를 가리키는 위너 필터 인덱스를 생성할 수 있다. 인코딩 장치는 이 경우 상기 위너 필터 후보 리스트의 후보 개수 및 상기 위너 필터 인덱스의 값에 따라서 상기 위너 필터 인덱스에 대한 이진 코드를 다르게 설정할 수 있다. 이는 상술한 표 2 내지 표 5에 대한 설명에서 상술한 바와 같다.
한편, 상기 현재 블록에 대한 예측 모드가 스킵(skip) 모드인 경우, 위너 필터 인덱스의 값은 상기 현재 블록의 움직임 정보를 지시하기 위하여 전송되는 머지 인덱스의 값과 동일하게 설정될 수 있다. 이 경우 상기 머지 인덱스가 가리키는 주변 블록과 동일한 블록이 상기 위너 필터 후보 리스트 중에서 선택될 수 있다.
또는, 상기 현재 블록에 대한 예측 모드가 머지(merge) 모드이고 상기 현재 블록의 파티셔닝 모드가 2Nx2N인 경우, 위너 필터 인덱스의 값은 상기 현재 블록의 움직임 정보를 지시하기 위하여 전송되는 머지 인덱스의 값과 동일하게 설정될 수 있다. 이 경우 상기 머지 인덱스가 가리키는 주변 블록과 동일한 블록이 상기 위너 필터 후보 리스트 중에서 선택될 수 있다.
인코딩 장치는 도출된 위너 필터 계수들을 기반으로 상기 현재 블록에 대한 상기 예측 샘플들을 필터링한다(S940). 인코딩 장치는 상기 필터링을 통하여 원본 샘플에 보다 유사한 (수정된) 예측 샘플들을 생성할 수 있고, 이를 통하여 레지듀얼 샘플들에 대한 데이터량을 줄일 수 있다.
인코딩 장치는 원본 샘플들 및 상기 필터링된 예측 샘플들 기반으로 레지듀얼 샘플들을 도출할 수 있다. 인코딩 장치는 상기 현재 블록에 대응하는 원본 픽처 내의 원본 샘플들과 상기 필터링된 예측 샘플들 간의 감산을 통하여 상기 레지듀얼 샘플들을 도출할 수 있다.
인코딩 장치는 예측 관련 정보를 인코딩 및 출력한다(S950). 인코딩 장치는 상기 예측 관련 정보뿐 아니라 경우에 따라 레지듀얼 정보 및 위너 필터 정보를 더 인코딩 및 출력할 수 있다. 인코딩 장치는 상기 예측 관련 정보, 상기 레지듀얼 정보, 및/또는 상기 위너 필터 정보를 엔트로피 인코딩하고 비트스트림 형태로 출력할 수 있다. 상기 현재 블록에 대한 예측 모드가 상기 스킵 모드인 경우이거나, 상기 현재 블록에 대한 상기 예측 모드가 머지(merge) 모드이고 상기 현재 블록의 파티셔닝 모드가 2Nx2N인 경우, 위너 필터 플래그 및 위너 필터 인덱스는 인코딩 및 출력되지 않을 수 있다. 출력된 비트스트림은 네트워크 또는 저장매체를 통하여 디코딩 장치로 전송 또는 전달될 수 있다.
여기서 예측 관련 정보는 상기 현재 블록에 대한 예측 모드 정보 및 파티셔닝 모드 정보를 포함할 수 있다. 상기 레지듀얼 정보는 상기 레지듀얼 샘플들에 대한 정보로서, 예를 들어 상기 레지듀얼 샘플들에 대한 주파수 도메인에서의 변환 계수들을 포함할 수 있다. 상기 위너 필터 정보는 상기 위너 필터와 관련된 정보로서 예를 들어 상기 위너 필터 플래그 및 상기 위너 필터 인덱스를 포함할 수 있다.
도 10는 본 발명에 따른 영상 디코딩 방법의 일 예를 개략적으로 나타낸다. 도 10에서 개시된 방법은 도 2에서 개시된 디코딩 장치에 의하여 수행될 수 있다. 구체적으로 예를 들어, 도 10의 S1000은 상기 디코딩 장치의 엔트로피 디코딩부에 의하여 수행될 수 있고, 상기 S1010 내지 S1050은 상기 디코딩 장치의 예측부에 의하여 수행될 수 있다.
도 10을 참조하면, 디코딩 장치는 인코딩 장치로부터 수신된 비트스트림으로부터 예측 관련 정보를 획득한다(S1000). 디코딩 장치는 상기 비트스트림을 엔트로피 디코딩하여 상기 예측 관련 정보를 획득할 수 있다. 디코딩 장치는 상기 비트스트림으로부터 레지듀얼 정보 및 위너 필터 정보를 더 획득할 수 있다.
상기 예측 관련 정보는 현재 블록에 대한 예측 모드 정보 및 파티셔닝 모드 정보를 포함할 수 있다. 상기 레지듀얼 정보는 레지듀얼 샘플들에 대한 정보로서, 예를 들어 상기 레지듀얼 샘플들에 대한 주파수 도메인에서의 변환 계수들을 포함할 수 있다. 상기 위너 필터 정보는 상기 위너 필터와 관련된 정보로서 예를 들어 위너 필터 플래그 및 위너 필터 인덱스를 포함할 수 있다. 상기 레지듀얼 정보 및 위너 필터 정보는 경우에 따라 생략될 수 있다.
디코딩 장치는 상기 현재 블록에 대한 예측 샘플들을 생성한다(S1010).
여기서 현재 블록은 코딩 블록 또는 예측 블록일 수 있다. 파티셔닝 모드에 따라 하나의 코딩 블록은 하나 또는 다수의 예측 블록들을 포함할 수 있다. 디코딩 장치는 상기 하나 또는 다수의 예측 블록들 각각에 대하여 머지 인덱스 또는 mvp 인덱스를 기반으로 MV를 도출하고, 상기 각각의 예측 블록들에 대하여 상기 도출한 MV를 기반으로 참조 픽처 상의 참조 블록을 찾고, 상기 참조 블록 내의 복원 샘플을 기반으로 해당 예측 블록의 예측 샘플을 도출할 수 있다. 디코딩 장치는 예측 블록 단위로 생성된 예측 샘플들을 취합하여 상기 코딩 블록에 대한 예측 샘플들을 도출할 수 있다.
디코딩 장치는 상기 현재 블록에 대한 위너 필터 적용 여부를 판단한다(S1020).
디코딩 장치는 상기 비트스트림을 통하여 위너 필터 플래그를 명시적으로 수신하여, 상기 위너 필터 플래그를 기반으로 상기 현재 블록에 대한 상기 위너 필터 적용 여부를 판단할 수 있다.
또한, 디코딩 장치는 상기 현재 블록에 대한 예측 모드가 스킵(skip) 모드인 경우 상기 위너 필터가 적용되지 않은 것으로 판단할 수 있다. 또는 디코딩 장치는 상기 현재 블록에 대한 상기 예측 모드가 머지 모드이고 상기 현재 블록의 파티셔닝 모드가 2Nx2N인 경우 상기 위너 필터가 적용되지 않은 것으로 판단할 수 있다. 이 경우 디코딩 장치는 상기 위너 필터 플래그 및 상기 위너 필터 인덱스를 상기 비트스트림으로부터 수신 또는 파싱하지 않을 수 있다. 디코딩 장치는 이 경우 상기 위너 필터 플래그의 값을 0으로 추정 또는 판단할 수 있다.
상기 위너 필터가 적용되는 경우, 디코딩 장치는 상기 현재 블록의 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성한다(S1030). 디코딩 장치는 이 경우 공간적 주변 블록들을 기반으로 상기 위너 필터 후보 리스트를 생성할 수 있다. 상기 공간적 주변 블록들은 상기 현재 블록의 좌하측 블록, 좌측 블록, 우상측 블록, 상측 블록, 및 좌상측 블록을 포함할 수 있다. 디코딩 장치는 상기 현재 블록의 시간적 대응 블록을 더 기반하여 상기 위너 필터 후보 리스트를 생성할 수도 있다.
상기 위너 필터 후보 리스트는 상기 주변 블록들에 대하여 미리 설정된 우선순위를 기반으로 구성될 수 있다. 예를 들어 상기 위너 필터 후보 리스트는 상술한 표 1에 개시된 것과 같은 위너 필터 후보들을 포함할 수 있다.
또한, 상기 위너 필터 후보 리스트는 상기 주변 블록들 중 가용한 주변 블록들를 기반으로 도출될 수 있다. 이 경우 가용하지 않은 특정 주변 블록은 상기 위너 필터 후보 리스트에 포함되지 않을 수 있다. 예를 들어 상기 주변 블록들 중 특정 주변 블록이 현재 슬라이스의 외부에 위치하거나, 상기 특정 주변 블록이 현재 픽처의 경계 외부에 위치하거나, 또는 상기 특정 주변 블록이 인트라 코딩된 경우 상기 특정 주변 블록은 가용하지 않은 것으로 판단될 수 있다.
또한, 상기 주변 블록들 중 복수의 특정 주변 블록들이 하나의 코딩 블록에 속하거나 하나의 예측 블록에 속하는 경우, 상기 복수의 특정 주변 블록들 중 적어도 하나는 상기 위너 필터 후보 리스트에 포함되지 않을 수 있다. 이 경우 상기 복수의 특정 주변 블록들 중 가장 선순위의 주변 블록만 상기 위너 필터 후보 리스트에 포함되고 나머지 후순위의 주변 블록(들)은 상기 위너 필터 후보 리스트에서 제외될 수 있다. 또는 이 경우 상기 나머지 후순위의 주변 블록(들)은 가용하지 않은 것으로 판단될 수도 있다.
디코딩 장치는 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들을 도출한다(S1040). 디코딩 장치는 상기 위너 필터 후보 리스트 내의 적어도 하나의 후보 블록을 선택할 수 있으며, 이 경우 상기 선택된 후보 블록과 상기 후보 블록의 참조 블록을 기반으로 상기 위너 필터 계수들을 도출할 수 있다. 예를 들어, 상기 선택된 후보 블록에 대한 위너 필터 계수들을 기반으로 상기 현재 블록에 대한 상기 위너 필터 계수들이 도출될 수 있다. 상기 선택된 후보 블록에 대한 위너 필터 계수들은 상기 후보 블록의 복원 샘플들과 상기 후보 블록의 참조 블록의 복원 샘플들을 기반으로 도출될 수 있다.
디코딩 장치는 상기 비트스트림으로부터 위너 필터 인덱스를 획득하고, 상기 위너 필터 인덱스를 기반으로 상기 위너 필터 후보 리스트 중에서 상기 후보 블록을 선택할 수 있다. 상기 위너 필터 후보 리스트의 후보 개수 및 상기 위너 필터 인덱스의 값에 따라서 상기 위너 필터 인덱스에 대한 이진 코드는 다르게 설정될 수 있다.
한편, 상기 현재 블록에 대한 예측 모드가 스킵(skip) 모드인 경우, 위너 필터 인덱스의 값은 상기 현재 블록의 움직임 정보를 지시하기 위하여 수신되는 머지 인덱스의 값과 동일하게 설정될 수 있다. 이 경우 상기 머지 인덱스가 가리키는 주변 블록과 동일한 블록이 상기 위너 필터 후보 리스트 중에서 선택될 수 있다.
또는, 상기 현재 블록에 대한 예측 모드가 머지(merge) 모드이고 상기 현재 블록의 파티셔닝 모드가 2Nx2N인 경우, 위너 필터 인덱스의 값은 상기 현재 블록의 움직임 정보를 지시하기 위하여 수신되는 머지 인덱스의 값과 동일하게 설정될 수 있다. 이 경우 상기 머지 인덱스가 가리키는 주변 블록과 동일한 블록이 상기 위너 필터 후보 리스트 중에서 선택될 수 있다.
디코딩 장치는 상기 도출된 위너 필터 계수들을 기반으로 상기 현재 블록에 대한 상기 예측 샘플들을 필터링한다(S1050). 디코딩 장치는 상기 필터링을 통하여 원본 샘플에 보다 유사한 (수정된) 예측 샘플들을 생성할 수 있고, 이를 통하여 레지듀얼 샘플들에 대한 데이터량을 줄일 수 있다.
디코딩 장치는 상기 필터링된 예측 샘플들 및/또는 레지듀얼 샘플들을 기반으로 복원 픽처를 생성할 수 있다. 디코딩 장치는 상기 획득한 레지듀얼 정보를 기반으로 상기 현재 블록에 대한 레지듀얼 샘플들을 도출할 수 있고, 상기 현재 블록에 대한 상기 필터링된 예측 샘플들 및 상기 레지듀얼 샘플들을 가산하여 복원 샘플들을 생성할 수 있다. 디코딩 장치는 상기 복원 샘플들을 기반으로 상기 복원 픽처를 생성할 수 있다.
상술한 본 발명에 따르면, 적은 부가 정보를 사용하면서 현재 블록에 대한 위너 필터 계수들을 효율적으로 도출할 수 있다. 또한, 본 발명에 따르면 위너 필터 계수들에 기반한 예측 샘플들에 대한 필터링을 통하여 예측 효율을 높일 수 있고, 레지듀얼 신호 전송을 위한 데이터량을 줄일 수 있는바, 전반적인 코딩 효율이 증가될 수 있다.
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시 예들은 본 발명을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시 예에 의하여 본 발명의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 할 것이다.
상술한 본 발명에 따른 방법은 소프트웨어 형태로 구현될 수 있으며, 본 발명에 따른 인코딩 장치 및/또는 디코딩 장치는 예를 들어 TV, 컴퓨터, 스마트폰, 셋톱박스, 디스플레이 장치 등의 영상 처리를 수행하는 장치에 포함될 수 있다.
본 발명에서 실시예들이 소프트웨어로 구현될 때, 상술한 방법은 상술한 기능을 수행하는 모듈(과정, 기능 등)로 구현될 수 있다. 모듈은 메모리에 저장되고, 프로세서에 의해 실행될 수 있다. 메모리는 프로세서 내부 또는 외부에 있을 수 있고, 잘 알려진 다양한 수단으로 프로세서와 연결될 수 있다. 프로세서는 ASIC(application-specific integrated circuit), 다른 칩셋, 논리 회로 및/또는 데이터 처리 장치를 포함할 수 있다. 메모리는 ROM(read-only memory), RAM(random access memory), 플래쉬 메모리, 메모리 카드, 저장 매체 및/또는 다른 저장 장치를 포함할 수 있다.

Claims (12)

  1. 디코딩 장치에 의하여 수행되는 영상 디코딩 방법에 있어서,
    비트스트림으로부터 예측 관련 정보를 획득하는 단계;
    현재 블록에 대하여 상기 예측 관련 정보를 기반으로 인터 예측을 수행하여 예측 샘플들을 생성하는 단계;
    상기 현재 블록에 대한 위너 필터(wiener filter)의 가용 여부를 판단하는 단계;
    상기 위너 필터가 가용한 경우, 상기 현재 블록의 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성하고, 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들(coefficients)을 도출하는 단계; 및
    상기 도출된 위너 필터 계수들 기반으로 상기 예측 샘플들을 필터링하는 단계를 포함함을 특징으로 하는, 디코딩 방법.
  2. 제1항에 있어서,
    상기 비트스트림으로부터 위너 필터 인덱스를 획득하는 단계를 더 포함하되,
    상기 위너 필터 후보 리스트 중에서 상기 위너 필터 인덱스가 가리키는 상기 후보 블록이 선택되고, 상기 선택된 후보 블록에 대한 위너 필터 계수들이 상기 현재 블록에 대한 위너 필터 계수들로 도출되는 것을 특징으로 하는, 디코딩 방법.
  3. 제2항에 있어서,
    상기 선택된 후보 블록에 대한 위너 필터 계수들을 기반으로 상기 현재 블록에 대한 상기 위너 필터 계수들이 도출되며,
    상기 선택된 후보 블록에 대한 위너 필터 계수들은 상기 후보 블록의 복원 샘플들과 상기 후보 블록의 참조 블록의 복원 샘플들을 기반으로 도출됨을 특징으로 하는, 디코딩 방법.
  4. 제1항에 있어서,
    상기 비트스트림으로부터 위너 필터 플래그를 획득하는 단계를 더 포함하되,
    상기 위너 필터 플래그의 값이 1인 경우, 상기 위너 필터가 적용되는 것으로 판단되고,
    상기 위너 필터 플래그의 값이 0인 경우, 상기 위너 필터가 적용되지 않은 것으로 판단됨을 특징으로 하는, 디코딩 방법.
  5. 제1항에 있어서,
    상기 위너 필터 후보 리스트는 상기 현재 블록의 상기 주변 블록들 중 가용한 주변 블록들을 기반으로 생성되고,
    상기 주변 블록들 중 특정 주변 블록이 현재 슬라이스의 외부에 위치하거나, 상기 특정 주변 블록이 현재 픽처의 경계 외부에 위치하거나, 또는 상기 특정 주변 블록이 인트라 코딩된 경우 상기 특정 주변 블록은 가용하지 않은 것으로 판단되는 것을 특징으로 하는, 디코딩 방법.
  6. 제1항에 있어서,
    상기 위너 필터 후보 리스트는 상기 현재 블록의 상기 주변 블록들의 우선 순위에 따라 구성되고,
    상기 주변 블록들 중 복수의 특정 주변 블록들이 하나의 코딩 블록에 속하거나 하나의 예측 블록에 속하는 경우, 상기 복수의 특정 주변 블록들 중 적어도 하나는 상기 위너 필터 후보 리스트에 포함되지 않는 것을 특징으로 하는, 디코딩 방법.
  7. 제2항에 있어서,
    상기 위너 필터 후보 리스트의 후보 개수 및 상기 위너 필터 인덱스의 값에 따라서 상기 위너 필터 인덱스의 이진 코드는 다르게 설정되는 것을 특징으로 하는, 디코딩 방법.
  8. 제1항에 있어서,
    상기 예측 관련 정보는 상기 현재 블록에 대한 예측 모드(prediction mode) 정보, 머지 인덱스 및 파티셔닝 모드(partitioning mode) 정보를 포함하고,
    상기 현재 블록에 대한 예측 모드가 스킵(skip) 모드인 경우, 위너 필터 인덱스의 값은 상기 머지 인덱스의 값과 동일하게 설정되는 것을 특징으로 하는, 디코딩 방법.
  9. 제1항에 있어서,
    상기 예측 관련 정보는 상기 현재 블록에 대한 예측 모드(prediction mode) 정보, 머지 인덱스 및 파티셔닝 모드(partitioning mode) 정보를 포함하고,
    상기 현재 블록에 대한 예측 모드가 머지(merge) 모드이고 상기 현재 블록의 파티셔닝 모드가 2Nx2N인 경우, 위너 필터 인덱스의 값은 상기 머지 인덱스의 값과 동일하게 설정되는 것을 특징으로 하는, 디코딩 방법.
  10. 제1항에 있어서,
    상기 예측 관련 정보는 상기 현재 블록에 대한 예측 모드(prediction mode) 정보 및 파티셔닝 모드(partitioning mode) 정보를 포함하고,
    상기 현재 블록에 대한 예측 모드가 스킵(skip) 모드인 경우 상기 위너 필터가 적용되지 않은 것으로 판단되거나, 상기 현재 블록에 대한 상기 예측 모드가 머지(merge) 모드이고 상기 현재 블록의 파티셔닝 모드가 2Nx2N인 경우 상기 위너 필터가 적용되지 않은 것으로 판단되는 것을 특징으로 하는, 디코딩 방법.
  11. 제6항에 있어서,
    상기 예측 모드가 상기 스킵 모드인 경우이거나, 상기 현재 블록에 대한 상기 예측 모드가 상기 머지 모드이고 상기 현재 블록의 상기 파티셔닝 모드가 상기 2Nx2N인 경우, 위너 필터 플래그 및 위너 필터 인덱스는 상기 비트스트림으로부터 획득되지 않고, 상기 위너 필터 플래그의 값은 0으로 추정되는 것을 특징으로 하는, 디코딩 방법.
  12. 인코딩 장치에 의하여 수행되는 영상 인코딩 방법에 있어서,
    인터 예측을 기반으로 현재 블록에 대한 예측 샘플들을 생성하는 단계;
    상기 현재 블록에 대한 위너 필터의 가용 여부를 판단하는 단계;
    상기 위너 필터가 가용한 경우, 상기 현재 블록의 공간적 주변 블록들을 기반으로 위너 필터 후보 리스트를 생성하고, 상기 위너 필터 후보 리스트 내의 후보 블록을 기반으로 상기 현재 블록에 대한 위너 필터 계수들(coefficients)을 도출하는 단계;
    상기 도출된 위너 필터 계수들 기반으로 상기 예측 샘플들을 필터링하는 단계; 및
    상기 현재 블록에 대한 예측 관련 정보를 인코딩하여 출력하는 단계를 포함함을 특징으로 하는, 인코딩 방법.
PCT/KR2016/010146 2015-09-29 2016-09-09 영상 코딩 시스템에서 필터링 방법 및 장치 WO2017057857A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020187008010A KR20180050333A (ko) 2015-09-29 2016-09-09 영상 코딩 시스템에서 필터링 방법 및 장치
US15/764,723 US10623778B2 (en) 2015-09-29 2016-09-09 Filtering method and apparatus in picture coding system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201562234646P 2015-09-29 2015-09-29
US62/234,646 2015-09-29

Publications (1)

Publication Number Publication Date
WO2017057857A1 true WO2017057857A1 (ko) 2017-04-06

Family

ID=58424103

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2016/010146 WO2017057857A1 (ko) 2015-09-29 2016-09-09 영상 코딩 시스템에서 필터링 방법 및 장치

Country Status (3)

Country Link
US (1) US10623778B2 (ko)
KR (1) KR20180050333A (ko)
WO (1) WO2017057857A1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021183734A1 (en) * 2020-03-12 2021-09-16 Alibaba Group Holding Limited Method and apparatus for tile and slicing mapping
US12120296B2 (en) * 2021-03-23 2024-10-15 Tencent America LLC Method and apparatus for video coding

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130001626A (ko) * 2011-06-27 2013-01-04 한양대학교 산학협력단 위너필터 기반의 가중치를 부여하여 화소를 보간하는 디인터레이싱 장치 및 방법
KR20130051029A (ko) * 2011-11-09 2013-05-20 에스케이텔레콤 주식회사 변환을 이용한 주파수 도메인 상의 적응적 루프 필터를 이용한 영상 부호화/복호화 방법 및 장치
KR20130095279A (ko) * 2011-01-03 2013-08-27 미디어텍 인크. 필터 유닛 기반 인-루프 필터링 방법
KR20140111039A (ko) * 2012-01-19 2014-09-17 미쓰비시덴키 가부시키가이샤 화상 복호 장치, 화상 부호화 장치, 화상 복호 방법 및 화상 부호화 방법
KR20150004292A (ko) * 2013-07-01 2015-01-12 삼성전자주식회사 필터링을 수반한 비디오 부호화 및 복호화 방법 및 그 장치

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2192786A1 (en) * 2008-11-27 2010-06-02 Panasonic Corporation Frequency domain filters for video coding
US20150365703A1 (en) * 2014-06-13 2015-12-17 Atul Puri System and method for highly content adaptive quality restoration filtering for video coding

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130095279A (ko) * 2011-01-03 2013-08-27 미디어텍 인크. 필터 유닛 기반 인-루프 필터링 방법
KR20130001626A (ko) * 2011-06-27 2013-01-04 한양대학교 산학협력단 위너필터 기반의 가중치를 부여하여 화소를 보간하는 디인터레이싱 장치 및 방법
KR20130051029A (ko) * 2011-11-09 2013-05-20 에스케이텔레콤 주식회사 변환을 이용한 주파수 도메인 상의 적응적 루프 필터를 이용한 영상 부호화/복호화 방법 및 장치
KR20140111039A (ko) * 2012-01-19 2014-09-17 미쓰비시덴키 가부시키가이샤 화상 복호 장치, 화상 부호화 장치, 화상 복호 방법 및 화상 부호화 방법
KR20150004292A (ko) * 2013-07-01 2015-01-12 삼성전자주식회사 필터링을 수반한 비디오 부호화 및 복호화 방법 및 그 장치

Also Published As

Publication number Publication date
KR20180050333A (ko) 2018-05-14
US10623778B2 (en) 2020-04-14
US20180288443A1 (en) 2018-10-04

Similar Documents

Publication Publication Date Title
WO2017052081A1 (ko) 영상 코딩 시스템에서 인터 예측 방법 및 장치
WO2017065357A1 (ko) 영상 코딩 시스템에서 예측 향상을 위한 필터링 방법 및 장치
WO2017052009A1 (ko) 영상 코딩 시스템에서 amvr 기반한 영상 코딩 방법 및 장치
WO2018080135A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2017188652A1 (ko) 영상 부호화/복호화 방법 및 장치
WO2018066959A1 (ko) 비디오 신호 처리 방법 및 장치
WO2017082443A1 (ko) 영상 코딩 시스템에서 임계값을 이용한 적응적 영상 예측 방법 및 장치
WO2017209328A1 (ko) 영상 코딩 시스템에서 인트라 예측 방법 및 장치
WO2019117634A1 (ko) 2차 변환에 기반한 영상 코딩 방법 및 그 장치
WO2017022973A1 (ko) 비디오 코딩 시스템에서 인터 예측 방법 및 장치
WO2018008904A2 (ko) 비디오 신호 처리 방법 및 장치
WO2017014412A1 (ko) 비디오 코딩 시스템에서 인트라 예측 방법 및 장치
WO2019117639A1 (ko) 변환에 기반한 영상 코딩 방법 및 그 장치
WO2017164441A1 (ko) 비디오 코딩 시스템에서 인터 예측 방법 및 장치
WO2017057877A1 (ko) 영상 코딩 시스템에서 영상 필터링 방법 및 장치
WO2018236051A1 (ko) 영상 코딩 시스템에서 인트라 예측에 따른 영상 디코딩 방법 및 장치
WO2016204373A1 (ko) 영상 코딩 시스템에서 영상 특성에 기반한 적응적 필터링 방법 및 장치
WO2016200043A1 (ko) 비디오 코딩 시스템에서 가상 참조 픽처 기반 인터 예측 방법 및 장치
WO2018008905A1 (ko) 비디오 신호 처리 방법 및 장치
WO2016204374A1 (ko) 영상 코딩 시스템에서 영상 필터링 방법 및 장치
WO2018021585A1 (ko) 영상 코딩 시스템에서 인트라 예측 방법 및 장치
WO2017061671A1 (ko) 영상 코딩 시스템에서 적응적 변환에 기반한 영상 코딩 방법 및 장치
WO2019125035A1 (ko) 선택적 변환에 기반한 영상 코딩 방법 및 그 장치
WO2018056709A1 (ko) 영상 코딩 시스템에서 인터 예측 방법 및 장치
WO2017159901A1 (ko) 비디오 코딩 시스템에서 블록 구조 도출 방법 및 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16852004

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 20187008010

Country of ref document: KR

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 15764723

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 16852004

Country of ref document: EP

Kind code of ref document: A1