KR20200137326A - 현재 픽쳐 참조를 이용한 비디오 신호 처리 방법 및 장치 - Google Patents
현재 픽쳐 참조를 이용한 비디오 신호 처리 방법 및 장치 Download PDFInfo
- Publication number
- KR20200137326A KR20200137326A KR1020190063478A KR20190063478A KR20200137326A KR 20200137326 A KR20200137326 A KR 20200137326A KR 1020190063478 A KR1020190063478 A KR 1020190063478A KR 20190063478 A KR20190063478 A KR 20190063478A KR 20200137326 A KR20200137326 A KR 20200137326A
- Authority
- KR
- South Korea
- Prior art keywords
- mode
- flag
- ibc
- pred
- block
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
본 발명은 비디오 신호의 처리 방법 및 장치에 관한 것으로, 보다 상세하게는 비디오 신호를 인코딩하거나 디코딩하는 비디오 신호 처리 방법 및 장치에 관한 것이다.
Description
본 발명은 비디오 신호의 처리 방법 및 장치에 관한 것으로, 보다 상세하게는 비디오 신호를 인코딩하거나 디코딩하는 비디오 신호 처리 방법 및 장치에 관한 것이다.
압축 부호화란 디지털화한 정보를 통신 회선을 통해 전송하거나, 저장 매체에 적합한 형태로 저장하기 위한 일련의 신호 처리 기술을 의미한다. 압축 부호화의 대상에는 음성, 영상, 문자 등의 대상이 존재하며, 특히 영상을 대상으로 압축 부호화를 수행하는 기술을 비디오 압축이라고 일컫는다. 비디오 신호에 대한 압축 부호화는 공간적인 상관관계, 시간적인 상관관계, 확률적인 상관관계 등을 고려하여 잉여 정보를 제거함으로써 이루어진다. 그러나 최근의 다양한 미디어 및 데이터 전송 매체의 발전으로 인해, 더욱 고효율의 비디오 신호 처리 방법 및 장치가 요구되고 있다.
본 발명은 비디오 신호의 코딩 효율을 높이기 위한 목적을 가지고 있다.
상기와 같은 과제를 해결하기 위해, 본 발명의 일 실시예를 따른 영상 복호화 방법은 화면 내 예측 또는 화면 외 예측하는 단계를 포함한다.
본 발명의 실시예에 따르면 비디오 신호의 코딩 효율이 높아질 수 있다.
도 1은 본 발명의 실시예에 따른 비디오 신호 인코딩 장치의 개략적인 블록도이다.
도 2는 본 발명의 실시예에 따른 비디오 신호 디코딩 장치의 개략적인 블록도이다.
도 3은 픽쳐 내에서 코딩 트리 유닛이 코딩 유닛들로 분할되는 실시예를 도시한다.
도 4는 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하는 방법의 일 실시예를 도시한다.
도 5는 인트라 예측 모드에서 현재 블록의 예측을 위해 사용되는 참조 샘플들의 일 실시예를 도시한다.
도 6은 인트라 예측에 사용되는 예측 모드들의 일 실시예를 도시한다.
도 7은 본 발명의 일 실시예에 따른 inter prediction을 나타낸 도면이다.
도 8은 본 발명의 일 실시예에 따른 모션 벡터 시그날링 방법을 나타낸 도면이다.
도 9는 본 발명의 일 실시예에 따른 motion vector difference syntax를 나타낸 도면이다.
도 10은 본 발명의 일 실시예에 따른 adaptive motion vector resolution 시그날링을 나타낸 도면이다.
도 11은 본 발명의 일 실시예에 따른 inter prediction 관련 syntax를 나타낸 도면이다.
도 12는 본 발명의 일 실시예에 따른 spatial neighboring 위치를 나타낸 도면이다.
도 13은 본 발명의 일 실시예에 따른 current picture referencing을 나타낸 도면이다.
도 14는 본 발명의 일 실시예에 따른 spatial neighboring candidate 참조 방법을 나타낸 도면이다.
도 15는 본 발명의 일 실시예에 따른 block 위치와 motion candidate list 구성을 나타낸 도면이다.
도 16은 본 발명의 일 실시예에 따른 block 위치와 motion candidate list 구성을 나타낸 도면이다.
도 17은 본 발명의 일 실시예에 따른 spatial neighboring candidate 사용을 나타낸 도면이다.
도 18은 본 발명의 일 실시예에 따른 motion vector를 나타낸 도면이다.
도 19는 본 발명의 일 실시예에 따른 motion vector difference syntax를 나타낸 도면이다.
도 20은 본 발명의 일 실시예에 따른 motion vector를 나타낸 도면이다.
도 21은 본 발명의 일 실시예에 따른 motion vector difference syntax를 나타낸 도면이다.
도 22는 본 발명의 일 실시예에 따른 motion vector difference syntax를 나타낸 도면이다.
도 23은 본 발명의 일 실시예에 따른 block과 크기를 나타낸 도면이다.
도 24는 본 발명의 일 실시예에 따른 merge candidate list 구성을 나타낸 도면이다.
도 25는 본 발명의 일 실시예에 따른 block 위치와 syntax를 나타낸 도면이다.
도 26은 본 발명의 일 실시예에 따른 HMVP의 history를 저장하는 공간을 reset하는 것을 나타낸 도면이다.
도 27는 본 발명의 일 실시예에 따른 coding unit syntax를 나타낸 도면이다.
도 28은 본 발명의 일 실시예에 따른 prediction mode 시그날링을 나타낸 도면이다.
도 29는 본 발명의 일 실시예에 따른 prediction mode 시그날링을 나타낸 도면이다.
도 30은 본 발명의 일 실시예에 따른 prediction mode 시그날링을 나타낸 도면이다.
도 31은 본 발명의 일 실시예에 따른 coding unit syntax를 나타낸 도면이다.
도 32는 본 발명의 일 실시예에 따른 prediction mode 시그날링을 나타낸 도면이다.
도 33은 본 발명의 일 실시예에 따른 coding unit syntax를 나타낸 도면이다.
도 34는 본 발명의 일 실시예에 따른 coding unit syntax를 나타낸 도면이다.
도 35는 본 발명의 일 실시예에 따른 chroma 성분의 intra prediction mode derivation을 나타낸 도면이다.
도 36은 본 발명의 일 실시예에 따른 chroma 성분의 intra prediction mode derivation을 나타낸 도면이다.
도 37은 본 발명의 일 실시예를 따른 coding unit syntax를 나타낸 도면이다.
도 38은 본 발명의 일 실시예에 따른 syntax structure를 나타낸 도면이다.
도 39는 본 발명의 일 실시예에 따른 시그날링 값 infer 방법을 나타낸 도면이다.
도 40은 본 발명의 일 실시예에 따른 시그날링 값 infer 방법을 나타낸 도면이다.
도 41은 본 발명의 일 실시예에 따른 inter_pred_idc 값과 binarization을 나타낸 도면이다.
도 42는 본 발명의 일 실시예에 따른 inter_pred_idc 값과 binarization을 나타낸 도면이다.
도 43은 본 발명의 일 실시예에 따른 inter_pred_idc 값과 binarization을 나타낸 도면이다.
도 44는 본 발명의 일 실시예에 따른 coding unit syntax 구조를 나타낸 도면이다.
도 45는 본 발명의 일 실시예에 따른 skip mode, prediction mode 시그날링을 나타낸 도면이다.
도 46은 본 발명의 일 실시예에 따른 coding unit syntax 구조를 나타낸 도면이다.
도 47은 본 발명의 일 실시예에 따른 coding unit syntax 구조를 나타낸 도면이다.
도 48은 본 발명의 일 실시예에 따른 coding unit syntax 구조를 나타낸 도면이다.
도 2는 본 발명의 실시예에 따른 비디오 신호 디코딩 장치의 개략적인 블록도이다.
도 3은 픽쳐 내에서 코딩 트리 유닛이 코딩 유닛들로 분할되는 실시예를 도시한다.
도 4는 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하는 방법의 일 실시예를 도시한다.
도 5는 인트라 예측 모드에서 현재 블록의 예측을 위해 사용되는 참조 샘플들의 일 실시예를 도시한다.
도 6은 인트라 예측에 사용되는 예측 모드들의 일 실시예를 도시한다.
도 7은 본 발명의 일 실시예에 따른 inter prediction을 나타낸 도면이다.
도 8은 본 발명의 일 실시예에 따른 모션 벡터 시그날링 방법을 나타낸 도면이다.
도 9는 본 발명의 일 실시예에 따른 motion vector difference syntax를 나타낸 도면이다.
도 10은 본 발명의 일 실시예에 따른 adaptive motion vector resolution 시그날링을 나타낸 도면이다.
도 11은 본 발명의 일 실시예에 따른 inter prediction 관련 syntax를 나타낸 도면이다.
도 12는 본 발명의 일 실시예에 따른 spatial neighboring 위치를 나타낸 도면이다.
도 13은 본 발명의 일 실시예에 따른 current picture referencing을 나타낸 도면이다.
도 14는 본 발명의 일 실시예에 따른 spatial neighboring candidate 참조 방법을 나타낸 도면이다.
도 15는 본 발명의 일 실시예에 따른 block 위치와 motion candidate list 구성을 나타낸 도면이다.
도 16은 본 발명의 일 실시예에 따른 block 위치와 motion candidate list 구성을 나타낸 도면이다.
도 17은 본 발명의 일 실시예에 따른 spatial neighboring candidate 사용을 나타낸 도면이다.
도 18은 본 발명의 일 실시예에 따른 motion vector를 나타낸 도면이다.
도 19는 본 발명의 일 실시예에 따른 motion vector difference syntax를 나타낸 도면이다.
도 20은 본 발명의 일 실시예에 따른 motion vector를 나타낸 도면이다.
도 21은 본 발명의 일 실시예에 따른 motion vector difference syntax를 나타낸 도면이다.
도 22는 본 발명의 일 실시예에 따른 motion vector difference syntax를 나타낸 도면이다.
도 23은 본 발명의 일 실시예에 따른 block과 크기를 나타낸 도면이다.
도 24는 본 발명의 일 실시예에 따른 merge candidate list 구성을 나타낸 도면이다.
도 25는 본 발명의 일 실시예에 따른 block 위치와 syntax를 나타낸 도면이다.
도 26은 본 발명의 일 실시예에 따른 HMVP의 history를 저장하는 공간을 reset하는 것을 나타낸 도면이다.
도 27는 본 발명의 일 실시예에 따른 coding unit syntax를 나타낸 도면이다.
도 28은 본 발명의 일 실시예에 따른 prediction mode 시그날링을 나타낸 도면이다.
도 29는 본 발명의 일 실시예에 따른 prediction mode 시그날링을 나타낸 도면이다.
도 30은 본 발명의 일 실시예에 따른 prediction mode 시그날링을 나타낸 도면이다.
도 31은 본 발명의 일 실시예에 따른 coding unit syntax를 나타낸 도면이다.
도 32는 본 발명의 일 실시예에 따른 prediction mode 시그날링을 나타낸 도면이다.
도 33은 본 발명의 일 실시예에 따른 coding unit syntax를 나타낸 도면이다.
도 34는 본 발명의 일 실시예에 따른 coding unit syntax를 나타낸 도면이다.
도 35는 본 발명의 일 실시예에 따른 chroma 성분의 intra prediction mode derivation을 나타낸 도면이다.
도 36은 본 발명의 일 실시예에 따른 chroma 성분의 intra prediction mode derivation을 나타낸 도면이다.
도 37은 본 발명의 일 실시예를 따른 coding unit syntax를 나타낸 도면이다.
도 38은 본 발명의 일 실시예에 따른 syntax structure를 나타낸 도면이다.
도 39는 본 발명의 일 실시예에 따른 시그날링 값 infer 방법을 나타낸 도면이다.
도 40은 본 발명의 일 실시예에 따른 시그날링 값 infer 방법을 나타낸 도면이다.
도 41은 본 발명의 일 실시예에 따른 inter_pred_idc 값과 binarization을 나타낸 도면이다.
도 42는 본 발명의 일 실시예에 따른 inter_pred_idc 값과 binarization을 나타낸 도면이다.
도 43은 본 발명의 일 실시예에 따른 inter_pred_idc 값과 binarization을 나타낸 도면이다.
도 44는 본 발명의 일 실시예에 따른 coding unit syntax 구조를 나타낸 도면이다.
도 45는 본 발명의 일 실시예에 따른 skip mode, prediction mode 시그날링을 나타낸 도면이다.
도 46은 본 발명의 일 실시예에 따른 coding unit syntax 구조를 나타낸 도면이다.
도 47은 본 발명의 일 실시예에 따른 coding unit syntax 구조를 나타낸 도면이다.
도 48은 본 발명의 일 실시예에 따른 coding unit syntax 구조를 나타낸 도면이다.
본 명세서에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도, 관례 또는 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한 특정 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 그 의미를 기재할 것이다. 따라서 본 명세서에서 사용되는 용어는, 단순한 용어의 명칭이 아닌 그 용어가 가진 실질적인 의미와 본 명세서의 전반에 걸친 내용을 토대로 해석되어야 함을 밝혀두고자 한다.
본 명세서에서 일부 용어들은 다음과 같이 해석될 수 있다. 코딩은 경우에 따라 인코딩 또는 디코딩으로 해석될 수 있다. 본 명세서에서 비디오 신호의 인코딩(부호화)을 수행하여 비디오 신호 비트스트림을 생성하는 장치는 인코딩 장치 혹은 인코더로 지칭되며, 비디오 신호 비트스트림의 디코딩(복호화)을 수행하여 비디오 신호를 복원하는 장치는 디코딩 장치 혹은 디코더로 지칭된다. 또한, 본 명세서에서 비디오 신호 처리 장치는 인코더 및 디코더를 모두 포함하는 개념의 용어로 사용된다. 정보(information)는 값(values), 파라미터(parameter), 계수(coefficients), 성분(elements) 등을 모두 포함하는 용어로서, 경우에 따라 의미는 달리 해석될 수 있으므로 본 발명은 이에 한정되지 아니한다. '유닛'은 영상 처리의 기본 단위 또는 픽쳐의 특정 위치를 지칭하는 의미로 사용되며, 루마(luma) 성분과 크로마(chroma) 성분을 모두 포함하는 이미지 영역을 가리킨다. 또한, ‘블록’은 루마 성분 및 크로마 성분들(즉, Cb 및 Cr) 중 특정 성분을 포함하는 이미지 영역을 가리킨다. 다만, 실시예에 따라서 ‘유닛’, '블록', '파티션' 및 '영역' 등의 용어는 서로 혼용하여 사용될 수 있다. 또한, 본 명세서에서 유닛은 코딩 유닛, 예측 유닛, 변환 유닛을 모두 포함하는 개념으로 사용될 수 있다. 픽쳐는 필드 혹은 프레임을 가리키며, 실시예에 따라 상기 용어들은 서로 혼용하여 사용될 수 있다.
도 1은 본 발명의 일 실시예에 따른 비디오 신호 인코딩 장치의 개략적인 블록도이다. 도 1을 참조하면, 본 발명의 인코딩 장치(100)는 변환부(110), 양자화부(115), 역양자화부(120), 역변환부(125), 필터링부(130), 예측부(150) 및 엔트로피 코딩부(160)를 포함한다.
변환부(110)는 입력 받은 비디오 신호와 예측부(150)에서 생성된 예측 신호의 차이인 레지듀얼 신호를 변환하여 변환 계수 값을 획득한다. 예를 들어, 이산 코사인 변환(Discrete Cosine Transform, DCT), 이산 사인 변환(Discrete Sine Transform, DST) 또는 웨이블릿 변환(Wavelet Transform) 등이 사용될 수 있다. 이산 코사인 변환 및 이산 사인 변환은 입력된 픽쳐 신호를 블록 형태로 나누어 변환을 수행하게 된다. 변환에 있어서 변환 영역 내의 값들의 분포와 특성에 따라서 코딩 효율이 달라질 수 있다. 양자화부(115)는 변환부(110)에서 출력된 변환 계수 값을 양자화한다.
코딩 효율을 높이기 위하여 픽쳐 신호를 그대로 코딩하는 것이 아니라, 예측부(150)를 통해 이미 코딩된 영역을 이용하여 픽쳐를 예측하고, 예측된 픽쳐에 원본 픽쳐와 예측 픽쳐 간의 레지듀얼 값을 더하여 복원 픽쳐를 획득하는 방법이 사용된다. 인코더와 디코더에서 미스매치가 발생되지 않도록 하기 위해, 인코더에서 예측을 수행할 때에는 디코더에서도 사용 가능한 정보를 사용해야 한다. 이를 위해, 인코더에서는 부호화한 현재 블록을 다시 복원하는 과정을 수행한다. 역양자화부(120)에서는 변환 계수 값을 역양자화하고, 역변환부(125)에서는 역양자화된 변환 계수값을 이용하여 레지듀얼 값을 복원한다. 한편, 필터링부(130)는 복원된 픽쳐의 품질 개선 및 부호화 효율 향상을 위한 필터링 연산을 수행한다. 예를 들어, 디블록킹 필터, 샘플 적응적 오프셋(Sample Adaptive Offset, SAO) 및 적응적 루프 필터 등이 포함될 수 있다. 필터링을 거친 픽쳐는 출력되거나 참조 픽쳐로 이용하기 위하여 복호 픽쳐 버퍼(Decoded Picture Buffer, DPB, 156)에 저장된다.
예측부(150)는 인트라 예측부(152)와 인터 예측부(154)를 포함한다. 인트라 예측부(152)는 현재 픽쳐 내에서 인트라(intra) 예측을 수행하며, 인터 예측부(154)는 복호 픽쳐 버퍼(156)에 저장된 참조 픽쳐를 이용하여 현재 픽쳐를 예측하는 인터(inter) 예측을 수행한다. 인트라 예측부(152)는 현재 픽쳐 내의 복원된 샘플들로부터 인트라 예측을 수행하여, 인트라 부호화 정보를 엔트로피 코딩부(160)에 전달한다. 인트라 부호화 정보는 인트라 예측 모드, MPM(Most Probable Mode) 플래그, MPM 인덱스 중 적어도 하나를 포함할 수 있다. 인터 예측부(154)는 모션 추정부(154a) 및 모션 보상부(154b)를 포함하여 구성될 수 있다. 모션 추정부(154a)는 복원된 참조 픽쳐의 특정 영역을 참조하여 현재 영역의 모션 벡터값을 획득한다. 모션 추정부(154a)는 참조 영역에 대한 모션 정보(참조 픽쳐 인덱스, 모션 벡터 정보 등)를 엔트로피 코딩부(160)로 전달한다. 모션 보상부(154b)는 모션 추정부(154a)에서 전달된 모션 벡터값을 이용하여 모션 보상을 수행한다. 인터 예측부(154)는 참조 영역에 대한 모션 정보를 포함하는 인터 부호화 정보를 엔트로피 코딩부(160)에 전달한다.
위와 같은 픽쳐 예측이 수행될 경우, 변환부(110)는 원본 픽쳐와 예측 픽쳐 간의 레지듀얼 값을 변환하여 변환 계수 값을 획득한다. 이때, 변환은 픽쳐 내에서 특정 블록 단위로 수행될 수 있으며, 특정 블록의 크기는 기 설정된 범위 내에서 가변할 수 있다. 양자화부(115)는 변환부(110)에서 생성된 변환 계수 값을 양자화하여 엔트로피 코딩부(160)로 전달한다.
엔트로피 코딩부(160)는 양자화된 변환 계수, 인트라 부호화 정보, 및 인터 부호화 정보 등을 엔트로피 코딩하여 비디오 신호 비트스트림을 생성한다. 엔트로피 코딩부(160)에서는 가변 길이 코딩(Variable Length Coding, VLC) 방식과 산술 코딩(arithmetic coding) 방식 등이 사용될 수 있다. 가변 길이 코딩(VLC) 방식은 입력되는 심볼들을 연속적인 코드워드로 변환하는데, 코드워드의 길이는 가변적일 수 있다. 예를 들어, 자주 발생하는 심볼들을 짧은 코드워드로, 자주 발생하지 않은 심볼들은 긴 코드워드로 표현하는 것이다. 가변 길이 코딩 방식으로서 컨텍스트 기반 적응형 가변 길이 코딩(Context-based Adaptive Variable Length Coding, CAVLC) 방식이 사용될 수 있다. 산술 코딩은 연속적인 데이터 심볼들을 하나의 소수로 변환하는데, 산술 코딩은 각 심볼을 표현하기 위하여 필요한 최적의 소수 비트를 얻을 수 있다. 산술 코딩으로서 컨텍스트 기반 적응형 산술 부호화(Context-based Adaptive Binary Arithmetic Code, CABAC)가 이용될 수 있다.
상기 생성된 비트스트림은 NAL(Network Abstraction Layer) 유닛을 기본 단위로 캡슐화 된다. NAL 유닛은 부호화된 정수 개의 코딩 트리 유닛(coding tree unit)을 포함한다. 비디오 디코더에서 비트스트림을 복호화하기 위해서는 먼저 비트스트림을 NAL 유닛 단위로 분리한 후, 분리 된 각각의 NAL 유닛을 복호화해야 한다. 한편, 비디오 신호 비트스트림의 복호화를 위해 필요한 정보들은 픽쳐 파라미터 세트(Picture Parameter Set, PPS), 시퀀스 파라미터 세트(Sequence Parameter Set, SPS), 비디오 파라미터 세트(Video Parameter Set, VPS) 등과 같은 상위 레벨 세트의 RBSP(Raw Byte Sequence Payload)를 통해 전송될 수 있다.
한편, 도 1의 블록도는 본 발명의 일 실시예에 따른 인코딩 장치(100)를 나타낸 것으로서, 분리하여 표시된 블록들은 인코딩 장치(100)의 엘리먼트들을 논리적으로 구별하여 도시한 것이다. 따라서 전술한 인코딩 장치(100)의 엘리먼트들은 디바이스의 설계에 따라 하나의 칩으로 또는 복수의 칩으로 장착될 수 있다. 일 실시예에 따르면, 전술한 인코딩 장치(100)의 각 엘리먼트의 동작은 프로세서(미도시)에 의해 수행될 수 있다.
도 2는 본 발명의 일 실시예에 따른 비디오 신호 디코딩 장치(200)의 개략적인 블록도이다. 도 2를 참조하면 본 발명의 디코딩 장치(200)는 엔트로피 디코딩부(210), 역양자화부(220), 역변환부(225), 필터링부(230) 및 예측부(250)를 포함한다.
엔트로피 디코딩부(210)는 비디오 신호 비트스트림을 엔트로피 디코딩하여, 각 영역에 대한 변환 계수, 인트라 부호화 정보, 인터 부호화 정보 등을 추출한다. 역양자화부(220)는 엔트로피 디코딩된 변환 계수를 역양자화하고, 역변환부(225)는 역양자화된 변환 계수를 이용하여 레지듀얼 값을 복원한다. 비디오 신호 처리 장치(200)는 역변환부(225)에서 획득된 레지듀얼 값을 예측부(250)에서 획득된 예측값과 합산하여 원래의 화소값을 복원한다.
한편, 필터링부(230)는 픽쳐에 대한 필터링을 수행하여 화질을 향상시킨다. 여기에는 블록 왜곡 현상을 감소시키기 위한 디블록킹 필터 및/또는 픽쳐 전체의 왜곡 제거를 위한 적응적 루프 필터 등이 포함될 수 있다. 필터링을 거친 픽쳐는 출력되거나 다음 픽쳐에 대한 참조 픽쳐로 이용하기 위하여 복호 픽쳐 버퍼(DPB, 256)에 저장된다.
예측부(250)는 인트라 예측부(252) 및 인터 예측부(254)를 포함한다. 예측부(250)는 전술한 엔트로피 디코딩부(210)를 통해 복호화된 부호화 타입, 각 영역에 대한 변환 계수, 인트라/인터 부호화 정보 등을 활용하여 예측 픽쳐를 생성한다. 복호화가 수행되는 현재 블록을 복원하기 위해서, 현재 블록이 포함된 현재 픽쳐 또는 다른 픽쳐들의 복호화된 영역이 이용될 수 있다. 복원에 현재 픽쳐만을 이용하는, 즉 인트라 예측만을 수행하는 픽쳐(또는, 타일/슬라이스)를 인트라 픽쳐 또는 I 픽쳐(또는, 타일/슬라이스), 인트라 예측과 인터 예측을 모두 수행할 수 있는 픽쳐(또는, 타일/슬라이스)를 인터 픽쳐(또는, 타일/슬라이스)라고 한다. 인터 픽쳐(또는, 타일/슬라이스) 중 각 블록의 샘플값들을 예측하기 위하여 최대 하나의 모션 벡터 및 참조 픽쳐 인덱스를 이용하는 픽쳐(또는, 타일/슬라이스)를 예측 픽쳐(predictive picture) 또는 P 픽쳐(또는, 타일/슬라이스)라고 하며, 최대 두 개의 모션 벡터 및 참조 픽쳐 인덱스를 이용하는 픽쳐(또는, 타일/슬라이스)를 쌍예측 픽쳐(Bi-predictive picture) 또는 B 픽쳐(또는, 타일/슬라이스) 라고 한다. 다시 말해서, P 픽쳐(또는, 타일/슬라이스)는 각 블록을 예측하기 위해 최대 하나의 모션 정보 세트를 이용하고, B 픽쳐(또는, 타일/슬라이스)는 각 블록을 예측하기 위해 최대 두 개의 모션 정보 세트를 이용한다. 여기서, 모션 정보 세트는 하나 이상의 모션 벡터와 하나의 참조 픽쳐 인덱스를 포함한다.
인트라 예측부(252)는 인트라 부호화 정보 및 현재 픽쳐 내의 복원된 샘플들을 이용하여 예측 블록을 생성한다. 전술한 바와 같이, 인트라 부호화 정보는 인트라 예측 모드, MPM(Most Probable Mode) 플래그, MPM 인덱스 중 적어도 하나를 포함할 수 있다. 인트라 예측부(252)는 현재 블록의 좌측 및/또는 상측에 위치한 복원된 픽셀들을 참조 픽셀들로 이용하여 현재 블록의 픽셀값들을 예측한다. 일 실시예에 따르면, 참조 픽셀들은 현재 블록의 좌측 경계에 인접한 픽셀들 및/또는 상측 경계에 인접한 픽셀들일 수 있다. 다른 실시예에 따르면, 참조 픽셀들은 현재 블록의 주변 블록의 픽셀들 중 현재 블록의 좌측 경계로부터 기 설정된 거리 이내에 인접한 픽셀들 및/또는 현재 블록의 상측 경계로부터 기 설정된 거리 이내에 인접한 픽셀들일 수 있다. 이때, 현재 블록의 주변 블록은 현재 블록에 인접한 좌측(L) 블록, 상측(A) 블록, 하좌측(Below Left, BL) 블록, 상우측(Above Right, AR) 블록 또는 상좌측(Above Left, AL) 블록 중 적어도 하나를 포함할 수 있다.
인터 예측부(254)는 복호 픽쳐 버퍼(256)에 저장된 참조 픽쳐 및 인터 부호화 정보를 이용하여 예측 블록을 생성한다. 인터 부호화 정보는 참조 블록에 대한 현재 블록의 모션 정보(참조 픽쳐 인덱스, 모션 벡터 정보 등)을 포함할 수 있다. 인터 예측에는 L0 예측, L1 예측 및 쌍예측(Bi-prediction)이 있을 수 있다. L0 예측은 L0 픽쳐 리스트에 포함된 1개의 참조 픽쳐를 이용한 예측이고, L1 예측은 L1 픽쳐 리스트에 포함된 1개의 참조 픽쳐를 이용한 예측을 의미한다. 이를 위해서는 1세트의 모션 정보(예를 들어, 모션 벡터 및 참조 픽쳐 인덱스)가 필요할 수 있다. 쌍예측 방식에서는 최대 2개의 참조 영역을 이용할 수 있는데, 이 2개의 참조 영역은 동일한 참조 픽쳐에 존재할 수도 있고, 서로 다른 픽쳐에 각각 존재할 수도 있다. 즉, 쌍예측 방식에서는 최대 2세트의 모션 정보(예를 들어, 모션 벡터 및 참조 픽쳐 인덱스)가 이용될 수 있는데, 2개의 모션 벡터가 동일한 참조 픽쳐 인덱스에 대응될 수도 있고 서로 다른 참조 픽쳐 인덱스에 대응될 수도 있다. 이때, 참조 픽쳐들은 시간적으로 현재 픽쳐 이전이나 이후 모두에 표시(또는 출력)될 수 있다.
인터 예측부(254)는 모션 벡터 및 참조 픽쳐 인덱스를 이용하여 현재 블록의 참조 블록을 획득할 수 있다. 상기 참조 블록은 참조 픽쳐 인덱스에 대응하는 참조 픽쳐 내에 존재한다. 또한, 모션 벡터에 의해서 특정된 블록의 픽셀값 또는 이의 보간(interpolation)된 값이 현재 블록의 예측값(predictor)으로 이용될 수 있다. 서브펠(sub-pel) 단위의 픽셀 정확도를 갖는 모션 예측을 위하여 이를 테면, 루마 신호에 대하여 8-탭 보간 필터가, 크로마 신호에 대하여 4-탭 보간 필터가 사용될 수 있다. 다만, 서브펠 단위의 모션 예측을 위한 보간 필터는 이에 한정되지 않는다. 이와 같이 인터 예측부(254)는 이전에 복원된 픽쳐로부터 현재 유닛의 텍스쳐를 모션 정보를 이용하여 예측하는 모션 보상(motion compensation)을 수행한다.
상기 인트라 예측부(252) 또는 인터 예측부(254)로부터 출력된 예측값, 및 역변환부(225)로부터 출력된 레지듀얼 값이 더해져서 복원된 비디오 픽쳐가 생성된다. 즉, 비디오 신호 디코딩 장치(200)는 예측부(250)에서 생성된 예측 블록과 역변환부(225)로부터 획득된 레지듀얼을 이용하여 현재 블록을 복원한다.
한편, 도 2의 블록도는 본 발명의 일 실시예에 따른 디코딩 장치(200)를 나타낸 것으로서, 분리하여 표시된 블록들은 디코딩 장치(200)의 엘리먼트들을 논리적으로 구별하여 도시한 것이다. 따라서 전술한 디코딩 장치(200)의 엘리먼트들은 디바이스의 설계에 따라 하나의 칩으로 또는 복수의 칩으로 장착될 수 있다. 일 실시예에 따르면, 전술한 디코딩 장치(200)의 각 엘리먼트의 동작은 프로세서(미도시)에 의해 수행될 수 있다.
도 3은 픽쳐 내에서 코딩 트리 유닛(Coding Tree Unit, CTU)이 코딩 유닛들(Coding Units, CUs)로 분할되는 실시예를 도시한다. 비디오 신호의 코딩 과정에서, 픽쳐는 코딩 트리 유닛(CTU)들의 시퀀스로 분할될 수 있다. 코딩 트리 유닛은 루마(luma) 샘플들의 NXN 블록과, 이에 대응하는 크로마(chroma) 샘플들의 2개의 블록들로 구성된다. 코딩 트리 유닛은 복수의 코딩 유닛들로 분할될 수 있다. 코딩 유닛은 상기에서 설명한 비디오 신호의 처리 과정, 즉 인트라/인터 예측, 변환, 양자화 및/또는 엔트로피 코딩 등의 과정에서 픽쳐를 처리하기 위한 기본 단위를 가리킨다. 하나의 픽쳐 내에서 코딩 유닛의 크기 및 모양은 일정하지 않을 수 있다. 코딩 유닛은 정사각형 혹은 직사각형의 모양을 가질 수 있다. 직사각형 코딩 유닛(혹은, 직사각형 블록)은 수직 코딩 유닛(혹은, 수직 블록)과 수평 코딩 유닛(혹은, 수평 블록)을 포함한다. 본 명세서에서, 수직 블록은 높이가 너비보다 큰 블록이며, 수평 블록은 너비가 높이보다 큰 블록이다. 또한, 본 명세서에서 정사각형이 아닌(non-square) 블록은 직사각형 블록을 가리킬 수 있지만, 본 발명은 이에 한정되지 않는다.
도 3을 참조하면, 코딩 트리 유닛은 먼저 쿼드 트리(Quad Tree, QT) 구조로 분할된다. 즉, 쿼드 트리 구조에서 2NX2N 크기를 가지는 하나의 노드는 NXN 크기를 가지는 네 개의 노드들로 분할될 수 있다. 본 명세서에서 쿼드 트리는 4진(quaternary) 트리로도 지칭될 수 있다. 쿼드 트리 분할은 재귀적으로 수행될 수 있으며, 모든 노드들이 동일한 깊이로 분할될 필요는 없다.
한편, 전술한 쿼드 트리의 리프 노드(leaf node)는 멀티-타입 트리(Multi-Type Tree, MTT) 구조로 더욱 분할될 수 있다. 본 발명의 실시예에 따르면, 멀티 타입 트리 구조에서는 하나의 노드가 수평 혹은 수직 분할의 2진(binary, 바이너리) 혹은 3진(ternary, 터너리) 트리 구조로 분할될 수 있다. 즉, 멀티-타입 트리 구조에는 수직 바이너리 분할, 수평 바이너리 분할, 수직 터너리 분할 및 수평 터너리 분할의 4가지 분할 구조가 존재한다. 본 발명의 실시예에 따르면, 상기 각 트리 구조에서 노드의 너비 및 높이는 모두 2의 거듭제곱 값을 가질 수 있다. 예를 들어, 바이너리 트리(Binary Tree, BT) 구조에서, 2NX2N 크기의 노드는 수직 바이너리 분할에 의해 2개의 NX2N 노드들로 분할되고, 수평 바이너리 분할에 의해 2개의 2NXN 노드들로 분할될 수 있다. 또한, 터너리 트리(Ternary Tree, TT) 구조에서, 2NX2N 크기의 노드는 수직 터너리 분할에 의해 (N/2)X2N, NX2N 및 (N/2)X2N의 노드들로 분할되고, 수평 바이너리 분할에 의해 2NX(N/2), 2NXN 및 2NX(N/2)의 노드들로 분할될 수 있다. 이러한 멀티-타입 트리 분할은 재귀적으로 수행될 수 있다.
멀티-타입 트리의 리프 노드는 코딩 유닛이 될 수 있다. 코딩 유닛이 최대 변환 길이에 비해 너무 크지 않으면, 해당 코딩 유닛은 더 이상의 분할 없이 예측 및 변환의 단위로 사용된다. 한편, 전술한 쿼드 트리 및 멀티-타입 트리에서 다음의 파라메터들 중 적어도 하나가 사전에 정의되거나 PPS, SPS, VPS 등과 같은 상위 레벨 세트의 RBSP를 통해 전송될 수 있다. 1) CTU 크기: 쿼드 트리의 루트 노드(root node) 크기, 2) 최소 QT 크기(MinQtSize): 허용된 최소 QT 리프 노드 크기, 3) 최대 BT 크기(MaxBtSize): 허용된 최대 BT 루트 노드 크기, 4) 최대 TT 크기(MaxTtSize): 허용된 최대 TT 루트 노드 크기, 5) 최대 MTT 깊이(MaxMttDepth): QT의 리프 노드로부터의 MTT 분할의 최대 허용 깊이, 6) 최소 BT 크기(MinBtSize): 허용된 최소 BT 리프 노드 크기, 7) 최소 TT 크기(MinTtSize): 허용된 최소 TT 리프 노드 크기.
도 4는 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하는 방법의 일 실시예를 도시한다. 전술한 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하기 위해 기 설정된 플래그들이 사용될 수 있다. 도 4를 참조하면, 쿼드 트리 노드의 분할 여부를 지시하는 플래그 ‘qt_split_flag’, 멀티-타입 트리 노드의 분할 여부를 지시하는 플래그 ‘mtt_split_flag’, 멀티-타입 트리 노드의 분할 방향을 지시하는 플래그 ‘mtt_split_vertical_flag’ 또는 멀티-타입 트리 노드의 분할 모양을 지시하는 플래그 ‘mtt_split_binary_flag’ 중 적어도 하나가 사용될 수 있다.
본 발명의 실시예에 따르면, 코딩 트리 유닛은 쿼드 트리의 루트 노드이며, 쿼드 트리 구조로 우선 분할될 수 있다. 쿼드 트리 구조에서는 각각의 노드 ‘QT_node’ 별로 ‘qt_split_flag’가 시그널링된다. ‘qt_split_flag’의 값이 1일 경우 해당 노드는 4개의 정사각형 노드들로 분할되며, ‘qt_split_flag’의 값이 0일 경우 해당 노드는 쿼드 트리의 리프 노드 ‘QT_leaf_node’가 된다.
각각의 쿼드 트리 리프 노드 ‘QT_leaf_node’는 멀티-타입 트리 구조로 더 분할될 수 있다. 멀티-타입 트리 구조에서는 각각의 노드 ‘MTT_node’ 별로 ‘mtt_split_flag’가 시그널링된다. ‘mtt_split_flag’의 값이 1일 경우 해당 노드는 복수의 직사각형 노드들로 분할되며, ‘mtt_split_flag’의 값이 0일 경우 해당 노드는 멀티-타입 트리의 리프 노드 ‘MTT_leaf_node’가 된다. 멀티-타입 트리 노드 ‘MTT_node’가 복수의 직사각형 노드들로 분할될 경우(즉, ‘mtt_split_flag’의 값이 1일 경우), 노드 ‘MTT_node’를 위한 ‘mtt_split_vertical_flag’ 및 ‘mtt_split_binary_flag’가 추가로 시그널링될 수 있다. ‘mtt_split_vertical_flag’의 값이 1일 경우 노드 ‘MTT_node’의 수직 분할이 지시되며, ‘mtt_split_vertical_flag’의 값이 0일 경우 노드 ‘MTT_node’의 수평 분할이 지시된다. 또한, ‘mtt_split_binary_flag’의 값이 1일 경우 노드 ‘MTT_node’는 2개의 직사각형 노드들로 분할되며, ‘mtt_split_binary_flag’의 값이 0일 경우 노드 ‘MTT_node’는 3개의 직사각형 노드들로 분할된다.
도 5 및 도 6은 본 발명의 실시예에 따른 인트라 예측 방법을 더욱 구체적으로 도시한다. 전술한 바와 같이, 인트라 예측부는 현재 블록의 좌측 및/또는 상측에 위치한 복원된 픽셀들을 참조 픽셀들로 이용하여 현재 블록의 픽셀값들을 예측한다.
먼저, 도 5는 인트라 예측 모드에서 현재 블록의 예측을 위해 사용되는 참조 샘플들의 일 실시예를 도시한다. 일 실시예에 따르면, 참조 픽셀들은 현재 블록의 좌측 경계에 인접한 픽셀들 및/또는 상측 경계에 인접한 픽셀들일 수 있다. 도 5에 도시된 바와 같이, 현재 블록의 크기가 WXH이고 현재 블록에 인접한 단일 참조 라인(line)의 픽셀들이 인트라 예측에 사용될 경우, 현재 블록의 좌측 및/또는 상측에 위치한 최대 2W+2H+1개의 인접 픽셀들을 사용하여 참조 픽셀들이 설정될 수 있다. 한편, 본 발명의 추가적인 실시예에 따르면, 현재 블록의 인트라 예측을 위해 다중 참조 라인의 픽셀들이 사용될 수 있다. 다중 참조 라인은 현재 블록으로부터 기 설정된 범위 이내에 위치한 n개의 라인들로 구성될 수 있다. 일 실시예에 따르면, 인트라 예측을 위해 다중 참조 라인의 픽셀들이 사용될 경우, 참조 픽셀들로 설정될 라인들을 지시하는 별도의 인덱스 정보가 시그널링될 수 있다. 참조 픽셀로 사용될 적어도 일부의 인접 픽셀이 아직 복원되지 않은 경우, 인트라 예측부는 기 설정된 규칙에 따른 참조 샘플 패딩 과정을 수행하여 참조 픽셀을 획득할 수 있다. 또한, 인트라 예측부는 인트라 예측의 오차를 줄이기 위해 참조 샘플 필터링 과정을 수행할 수 있다. 즉, 인접 픽셀들 및/또는 참조 샘플 패딩 과정에 의해 획득된 픽셀들에 필터링을 수행하여 참조 픽셀들이 획득할 수 있다. 인트라 예측부는 이와 같이 획득된 참조 픽셀들을 이용하여 현재 블록의 픽셀들을 예측한다.
다음으로, 도 6은 인트라 예측에 사용되는 예측 모드들의 일 실시예를 도시한다. 인트라 예측을 위해, 인트라 예측 방향을 지시하는 인트라 예측 모드 정보가 시그널링될 수 있다. 인트라 예측 모드 정보는 인트라 예측 모드 세트를 구성하는 복수의 인트라 예측 모드들 중 어느 하나를 지시한다. 현재 블록이 인트라 예측 블록일 경우, 디코더는 비트스트림으로부터 현재 블록의 인트라 예측 모드 정보를 수신한다. 디코더의 인트라 예측부는 추출된 인트라 예측 모드 정보에 기초하여 현재 블록에 대한 인트라 예측을 수행한다.
본 발명의 실시예에 따르면, 인트라 예측 모드 세트는 인트라 예측에 사용되는 모든 인트라 예측 모드들(예, 총 67개의 인트라 예측 모드들)을 포함할 수 있다. 더욱 구체적으로, 인트라 예측 모드 세트는 평면 모드, DC 모드 및 복수의(예, 65개의) 각도 모드들(즉, 방향 모드들)을 포함할 수 있다. 각각의 인트라 예측 모드는 기 설정된 인덱스(즉, 인트라 예측 모드 인덱스)를 통해 지시될 수 있다. 예를 들어, 도 6에 도시된 바와 같이 인트라 예측 모드 인덱스 0은 평면 모드를 지시하고, 인트라 예측 모드 인덱스 1은 DC 모드를 지시한다. 또한, 인트라 예측 모드 인덱스 2 내지 66은 서로 다른 각도 모드들을 각각 지시할 수 있다. 각도 모드들은 기 설정된 각도 범위 이내의 서로 다른 각도들을 각각 지시한다. 예를 들어, 각도 모드는 시계 방향으로 45도에서 -135도 사이의 각도 범위(즉, 제1 각도 범위) 이내의 각도를 지시할 수 있다. 상기 각도 모드는 12시 방향을 기준으로 정의될 수 있다. 이때, 인트라 예측 모드 인덱스 2는 수평 대각(Horizontal Diagonal, HDIA) 모드를 지시하고, 인트라 예측 모드 인덱스 18은 수평(Horizontal, HOR) 모드를 지시하고, 인트라 예측 모드 인덱스 34는 대각(Diagonal, DIA) 모드를 지시하고, 인트라 예측 모드 인덱스 50은 수직(Vertical, VER) 모드를 지시하며, 인트라 예측 모드 인덱스 66은 수직 대각(Vertical Diagonal, VDIA) 모드를 지시한다.
한편, 기 설정된 각도 범위는 현재 블록의 모양에 따라 서로 다르게 설정될 수 있다. 예를 들어, 현재 블록이 직사각형 블록일 경우 시계 방향으로 45도를 초과하거나 -135도 미만 각도를 지시하는 광각 모드가 추가적으로 사용될 수 있다. 현재 블록이 수평 블록일 경우, 각도 모드는 시계 방향으로 (45+offset1)도에서 (-135+offset1)도 사이의 각도 범위(즉, 제2 각도 범위) 이내의 각도를 지시할 수 있다. 이때, 제1 각도 범위를 벗어나는 각도 모드 67 내지 76이 추가적으로 사용될 수 있다. 또한, 현재 블록이 수직 블록일 경우, 각도 모드는 시계 방향으로 (45-offset2)도에서 (-135-offset2)도 사이의 각도 범위(즉, 제3 각도 범위) 이내의 각도를 지시할 수 있다. 이때, 제1 각도 범위를 벗어나는 각도 모드 -10 내지 -1이 추가적으로 사용될 수 있다. 본 발명의 실시예에 따르면, offset1 및 offset2의 값은 직사각형 블록의 너비와 높이 간의 비율에 따라 서로 다르게 결정될 수 있다. 또한, offset1 및 offset2는 양수일 수 있다.
본 발명의 추가적인 실시예에 따르면, 인트라 예측 모드 세트를 구성하는 복수의 각도 모드들은 기본 각도 모드와 확장 각도 모드를 포함할 수 있다. 이때, 확장 각도 모드는 기본 각도 모드에 기초하여 결정될 수 있다.
일 실시예에 따르면, 기본 각도 모드는 기존 HEVC(High Efficiency Video Coding) 표준의 인트라 예측에서 사용되는 각도에 대응하는 모드이고, 확장 각도 모드는 차세대 비디오 코덱 표준의 인트라 예측에서 새롭게 추가되는 각도에 대응하는 모드일 수 있다. 더욱 구체적으로, 기본 각도 모드는 인트라 예측 모드 {2, 4, 6, …, 66} 중 어느 하나에 대응하는 각도 모드이고, 확장 각도 모드는 인트라 예측 모드 {3, 5, 7, …, 65} 중 어느 하나에 대응하는 각도 모드일 수 있다. 즉, 확장 각도 모드는 제1 각도 범위 내에서 기본 각도 모드들 사이의 각도 모드일 수 있다. 따라서, 확장 각도 모드가 지시하는 각도는 기본 각도 모드가 지시하는 각도에 기초하여 결정될 수 있다.
다른 실시예에 따르면, 기본 각도 모드는 기 설정된 제1 각도 범위 이내의 각도에 대응하는 모드이고, 확장 각도 모드는 상기 제1 각도 범위를 벗어나는 광각 모드일 수 있다. 즉, 기본 각도 모드는 인트라 예측 모드 {2, 3, 4, …, 66} 중 어느 하나에 대응하는 각도 모드이고, 확장 각도 모드는 인트라 예측 모드 {-10, -9, …, -1} 및 {67, 68, …, 76} 중 어느 하나에 대응하는 각도 모드일 수 있다. 확장 각도 모드가 지시하는 각도는 대응하는 기본 각도 모드가 지시하는 각도의 반대편 각도로 결정될 수 있다. 따라서, 확장 각도 모드가 지시하는 각도는 기본 각도 모드가 지시하는 각도에 기초하여 결정될 수 있다. 한편, 확장 각도 모드들의 개수는 이에 한정되지 않으며, 현재 블록의 크기 및/또는 모양에 따라 추가적인 확장 각도들이 정의될 수 있다. 예를 들어, 확장 각도 모드는 인트라 예측 모드 {-14, -13, …, -1} 및 {67, 68, …, 80} 중 어느 하나에 대응하는 각도 모드로 정의될 수도 있다. 한편, 인트라 예측 모드 세트에 포함되는 인트라 예측 모드들의 총 개수는 전술한 기본 각도 모드와 확장 각도 모드의 구성에 따라 가변할 수 있다.
상기 실시예들에서, 확장 각도 모드들 간의 간격은 대응하는 기본 각도 모드들 간의 간격에 기초하여 설정될 수 있다. 예를 들어, 확장 각도 모드들 {3, 5, 7, …, 65} 간의 간격은 대응하는 기본 각도 모드들 {2, 4, 6, …, 66} 간의 간격에 기초하여 결정될 수 있다. 또한, 확장 각도 모드들 {-10, -9, …, -1} 간의 간격은 대응하는 반대편의 기본 각도 모드들 {56, 57, …, 65} 간의 간격에 기초하여 결정되고, 확장 각도 모드들 {67, 68, …, 76} 간의 간격은 대응하는 반대편의 기본 각도 모드들 {3, 4, …, 12} 간의 간격에 기초하여 결정될 수 있다. 확장 각도 모드들 간의 각도 간격은 대응하는 기본 각도 모드들 간의 각도 간격과 동일하도록 설정될 수 있다. 또한, 인트라 예측 모드 세트에서 확장 각도 모드들의 개수는 기본 각도 모드들의 개수 이하로 설정될 수 있다.
본 발명의 실시예에 따르면, 확장 각도 모드는 기본 각도 모드를 기초로 시그널링될 수 있다. 예를 들어, 광각 모드(즉, 확장 각도 모드)는 제1 각도 범위 이내의 적어도 하나의 각도 모드(즉, 기본 각도 모드)를 대체할 수 있다. 대체되는 기본 각도 모드는 광각 모드의 반대편에 대응하는 각도 모드일 수 있다. 즉, 대체되는 기본 각도 모드는 광각 모드가 지시하는 각도의 반대 방향의 각도에 대응하거나 또는 상기 반대 방향의 각도로부터 기 설정된 오프셋 인덱스만큼 차이 나는 각도에 대응하는 각도 모드이다. 본 발명의 실시예에 따르면, 기 설정된 오프셋 인덱스는 1이다. 대체되는 기본 각도 모드에 대응하는 인트라 예측 모드 인덱스는 광각 모드에 다시 매핑되어 해당 광각 모드를 시그널링할 수 있다. 예를 들어, 광각 모드 {-10, -9, …, -1}은 인트라 예측 모드 인덱스 {57, 58, …, 66}에 의해 각각 시그널링될 수 있고, 광각 모드 {67, 68, …, 76}은 인트라 예측 모드 인덱스 {2, 3, …, 11}에 의해 각각 시그널링될 수 있다. 이와 같이 기본 각도 모드를 위한 인트라 예측 모드 인덱스가 확장 각도 모드를 시그널링하도록 함으로, 각 블록의 인트라 예측에 사용되는 각도 모드들의 구성이 서로 다르더라도 동일한 세트의 인트라 예측 모드 인덱스들이 인트라 예측 모드의 시그널링에 사용될 수 있다. 따라서, 인트라 예측 모드 구성의 변화에 따른 시그널링 오버헤드가 최소화할 수 있다.
한편, 확장 각도 모드의 사용 여부는 현재 블록의 모양 및 크기 중 적어도 하나에 기초하여 결정될 수 있다. 일 실시예에 따르면, 현재 블록의 크기가 기 설정된 크기보다 클 경우 확장 각도 모드가 현재 블록의 인트라 예측을 위해 사용되고, 그렇지 않을 경우 기본 각도 모드만 현재 블록의 인트라 예측을 위해 사용될 수 있다. 다른 실시예에 따르면, 현재 블록이 정사각형이 아닌 블록인 경우 확장 각도 모드가 현재 블록의 인트라 예측을 위해 사용되고, 현재 블록이 정사각형 블록인 경우 기본 각도 모드만 현재 블록의 인트라 예측을 위해 사용될 수 있다.
인트라 예측부는 현재 블록의 인트라 예측 모드 정보에 기초하여, 현재 블록의 인트라 예측에 사용될 참조 픽셀들 및/또는 보간된 참조 픽셀들을 결정한다. 인트라 예측 모드 인덱스가 특정 각도 모드를 지시할 경우, 현재 블록의 현재 픽셀로부터 상기 특정 각도에 대응하는 참조 픽셀 또는 보간된 참조 픽셀이 현재 픽셀의 예측에 사용된다. 따라서, 인트라 예측 모드에 따라 서로 다른 세트의 참조 픽셀들 및/또는 보간된 참조 픽셀들이 인트라 예측에 사용될 수 있다. 참조 픽셀들 및 인트라 예측 모드 정보를 이용하여 현재 블록의 인트라 예측이 수행되고 나면, 디코더는 역변환부로부터 획득된 현재 블록의 잔차 신호를 현재 블록의 인트라 예측값과 더하여 현재 블록의 픽셀 값들을 복원한다.
도 7은 본 발명의 일 실시예에 따른 inter prediction을 나타낸 도면이다.
앞서 설명한 것처럼 현재 픽쳐 또는 블락을 인코딩, 디코딩할 때 다른 픽쳐 또는 블락으로부터 예측할 수 있다. 즉, 다른 픽쳐 또는 블락과의 유사성에 기반하여 인코딩, 디코딩하는 것이 가능하다. 다른 픽쳐 또는 블락과 유사한 부분을 현재 픽쳐 또는 블락에서는 생략한 시그날링으로 인코딩, 디코딩할 수 있고, 이에 대해 이하에서 더 설명한다. 블락 단위의 예측을 하는 것이 가능하다.
도 7을 참조하면 왼쪽에 Reference picture(참조 픽쳐)가 있고, 오른쪽에 Current picture(현재 픽쳐)가 있는데, current picture 또는 current picture의 일부를 reference picture 또는 reference picture의 일부와의 유사성을 이용해서 예측할 수 있다. 도 7의 current picture 안에 실선으로 나타낸 사각형이 현재 인코딩, 디코딩하는 블락이라고 했을 때 reference picture의 점선으로 나타낸 사각형으로부터 현재 블락을 예측할 수 있다. 이때 현재 블락이 참조해야할 블락(참조 블락)을 지시하는 정보가 존재할 수 있고, 이는 직접 시그날링 될 수도 있고, 시그날링 오버헤드를 줄이기 위해 어떠한 약속에 의해 만들어낼 수 있을 수도 있다. 상기 현재 블락이 참조해야할 블락을 지시하는 정보는 모션 벡터(motion vector)을 포함할 수 있다. 이는 현재 블락과 참조 블락 간의 픽쳐 내에서의 상대적인 위치를 나타내는 벡터일 수 있다. 도 7을 참조하면 reference picture의 점선으로 나타낸 부분이 존재하는데 현재 블락이 어떻게 이동하면 reference picture의 참조해야할 블락으로 이동할 수 있는지 나타내는 벡터가 모션 벡터일 수 있다. 즉, 현재 블락을 모션 벡터에 따라 움직이면 나오는 블락은 도 7의 current picture에 점선으로 나타낸 부분일 수 있고, 이 점선으로 나타낸 부분은 picture 안에서의 위치가 reference picture의 참조 블락 위치와 같을 수 있다.
또한 상기 현재 블락이 참조해야할 블락을 지시하는 정보는 레퍼런스 픽쳐(reference picture)를 나타내는 정보를 포함할 수 있다. 레퍼런스 픽쳐를 나타내는 정보를 레퍼런스 픽쳐 리스트와 레퍼런스 픽쳐 인덱스를 포함할 수 있다. 레퍼런스 픽쳐 리스트는 레퍼런스 픽쳐들을 나타내는 리스트이고 레퍼런스 픽쳐 리스트에 포함된 레퍼런스 픽쳐에서 레퍼런스 블락을 사용하는 것이 가능하다. 즉 레퍼런스 픽쳐 리스트에 포함된 레퍼런스 픽쳐로부터 현재 블락을 예측하는 것이 가능하다. 또한 레퍼런스 픽쳐 인덱스는 사용할 레퍼런스 픽쳐를 지시하기 위한 인덱스일 수 있다.
도 8은 본 발명의 일 실시예에 따른 모션 벡터 시그날링 방법을 나타낸 도면이다.
본 발명의 일 실시예에 따르면 모션 벡터(motion vector; MV)는 motion vector predictor(MVP)에 기초하여 생성하는 것이 가능하다. 예를 들면 아래와 같이 motion vector predictor가 motion vector가 될 수 있다.
MV = MVP
또다른 예를 들면 아래와 같이 motion vector는 motion vector difference(MVD)에 기초할 수 있다. motion vector predictor에 정확한 motion vector를 나타내기 위해 motion vector difference(MVD)를 더해줄 수 있다.
MV = MVP + MVD
또한 비디오 코딩에서 인코더에서 결정한 motion vector 정보를 디코더로 전송하고, 디코더는 수신한 motion vector 정보로부터 motion vector를 생성하고 예측 블록을 결정하는 것이 가능하다. 예를 들어 상기 motion vector 정보는 motion vector predictor에 관한 정보, motion vector difference를 포함할 수 있다. 이때 모드에 따라서 상기 motion vector 정보의 구성 요소가 달라질 수 있다. 예를 들어 merge mode에서는 상기 motion vector 정보는 motion vector predictor에 관한 정보를 포함하고, motion vector difference를 포함하지 않을 수 있다. 또다른 예로 AMVP(advanced motion vector prediction) mode에서는 상기 motion vector 정보는 motion vector predictor에 관한 정보를 포함하고, motion vector difference를 포함할 수 있다.
Motion vector predictor에 관한 정보를 결정, 송신, 수신하기 위해서 인코더와 디코더는 동일한 방법으로 MVP candidates를 생성할 수 있다. 예를 들어 인코더와 디코더는 동일한 순서로 동일한 MVP candidate를 생성할 수 있다. 그리고 인코더는 생성한 MVP candidates 중에서 결정한 MVP를 나타내는 인덱스를 디코더로 전송하고, 디코더는 이 인덱스를 기초로 결정된 MVP 및 MV를 알아내는 것이 가능하다.
MVP candidate 및 MVP candidate 생성 방법은 spatial candidate, temporal candidate 등을 포함할 수 있다. Spatial candidate는 현재 블록으로부터 일정한 위치에 있는 블록에 대한 motion vector일 수 있다. 예를 들어 현재 블록과 인접하거나 인접하지 않은 블록이나 위치에 해당하는 motion vector일 수 있다. Temporal candidate는 현재 픽쳐와 다른 픽쳐 내의 블록에 해당하는 motion vector일 수 있다. 또는 MVP candidate는 affine motion vector, ATMVP, STMVP, 앞서 설명한 motion vector 들의 combination, 앞서 설명한 motion vector 들의 평균 vector, zero motion vector 등을 포함할 수 있다.
또한 앞서 설명한 레퍼런스 픽쳐를 나타내는 정보 또한 인코더에서 디코더로 전송될 수 있다. 또한 MVP candidate에 해당하는 레퍼런스 픽쳐가 레퍼런스 픽쳐를 나타내는 정보에 해당하지 않을 때 motion vector scaling을 할 수 있다. Motion vector scaling은 현재 픽쳐의 POC(picture order count), 현재 블록의 레퍼런스 픽쳐의 POC, MVP candidate의 레퍼런스 픽쳐의 POC, MVP candidate에 기초한 계산일 수 있다.
도 9는 본 발명의 일 실시예에 따른 motion vector difference syntax를 나타낸 도면이다.
Motion vector difference는 motion vector difference의 sign과 absolute value가 나누어서 코딩될 수 있다. 즉, motion vector difference의 sign과 absolute value는 다른 syntax일 수 있다. 또한 motion vector difference의 absolute value는 값이 직접 코딩될 수도 있지만 도 9와 같이 absolute value가 N보다 큰지 여부를 나타내는 flag를 포함하여 코딩될 수 있다. 만약 absolute value가 N보다 큰 경우 (absolute value - N)의 값이 함께 시그날링 될 수 있다. 도 9의 예에서는 abs_mvd_greater0_flag가 전송될 수 있고, 이 flag는 absolute value가 0보다 큰지를 나타내는 flag일 수 있다. 만약 absolute value가 0보다 크지 않다고 abs_mvd_greater0_flag가 나타내진 경우 absolute value가 0인 것으로 결정할 수 있다. 또한 만약 absolute value가 0보다 크다고 abs_mvd_greater0_flag가 나타내진 경우 추가 syntax가 존재할 수 있다. 예를 들어 abs_mvd_greater1_flag가 존재할 수 있고, 이 flag는 absolute value가 1보다 큰지를 나타내는 flag일 수 있다. 만약 absolute value가 1보다 크지 않다고 abs_mvd_greater1_flag가 나타내진 경우 absolute value가 1인 것으로 결정할 수 있다. 만약 absolute value가 1보다 크다고 abs_mvd_greater1_flag가 나타내진 경우 추가 syntax가 존재할 수 있다. 예를 들어 abs_mvd_minus2가 존재할 수 있는데, 이것은 (absolute value - 2)의 값일 수 있다. 앞서 설명한 abs_mvd_greater0_flag, abs_mvd_greater1_flag를 통해 absolute value가 1보다 크다고(2 이상이라고) 결정되었으므로 (absolute value - 2)를 나타내는 것이다. abs_mvd_minus2가 variable length로 binarization 되는 경우 더 적은 비트로 시그날링하기 위한 것이다. 예를 들면 Exp-Golomb, truncated unary, truncated Rice 등의 variable length인 binarization 방법이 존재한다. 또한 mvd_sign_flag는 motion vector difference의 sign을 나타내는 flag일 수 있다.
이 실시예에서 코딩 방법을 motion vector difference를 통해 설명했지만 motion vector difference 이외의 정보도 sign과 absolute value에 관해 나누고, absolute value는 absolute value가 어떤 값보다 큰지 여부를 나타내는 flag와 absolute value에서 상기 어떤 값을 뺀 값으로 코딩하는 것이 가능하다.
또한 도 9에서 [0]과 [1]은 component index를 나타낼 수 있다. 예를 들면 x-component, y-component를 나타낼 수 있다.
또한 도 9에서 cpIdx는 control point index를 나타낼 수 있다. Control point index는 affine motion prediction에서의 control motion vector index에 해당하는 index일 수 있다. 또한 affine motion prediction이 아닌 prediction 방법에서는 cpIdx를 예를 들어 0과 같은 기설정된 값으로 사용할 수 있다.
도 10은 본 발명의 일 실시예에 따른 adaptive motion vector resolution 시그날링을 나타낸 도면이다.
본 발명의 일 실시예를 따르면 motion vector 또는 motion vector difference를 나타내는 resolution은 다양할 수 있다. 다시 말하면 motion vector 또는 motion vector difference가 코딩되는 resolution은 다양할 수 있다. 예를 들면 resolution은 pixel(pel)을 기초로 나타낼 수 있다. 예를 들어 1/4(quarter), 1/2(half), 1(integer), 2, 4 pixel 등의 단위로 motion vector 또는 motion vector difference를 시그날링할 수 있다. 예를 들어 16을 나타내고 싶을 때 1/4 단위로 하면 64로 코딩하고(1/4 * 64 = 16), 1 단위로 하면 16으로 코딩하고(1 * 16 = 16), 4 단위로 하면 4로 코딩할 수 있다(4 *. 4 = 16). 즉 다음과 같이 값을 결정할 수 있다.
valueDetermined = resolution*valuePerResolution
여기서 valueDetermined는 전달하는 값, 본 실시예에서는 motion vector 또는 motion vector difference 일 수 있다. 또한 valuePerResolution은 valueDetermined는 [/resolution] 단위로 나타낸 값일 수 있다.
이때 motion vector 또는 motion vector difference로 시그날링하는 값이 resolution으로 나누어 떨어지지 않는 경우 rounding 등으로 prediction 성능이 가장 좋은 motion vector 또는 motion vector difference가 아닌 부정확한 값을 보낼 수 있다. High resolution을 사용하면 부정확함이 떨어질 수 있지만 코딩되는 값이 크므로 많은 비트를 사용할 수 있고, low resolution을 사용하면 부정확함이 높아질 수 있지만 코딩되는 값이 작으므로 적은 비트를 사용할 수 있다.
또한 상기 resolution을 블락, CU, slice 등의 단위로 다르게 설정하는 것이 가능하다. 따라서 단위에 맞도록 adaptive하게 resolution을 적용할 수 있다.
상기 resolution은 인코더에서 디코더로 시그날링될 수 있다. 이때 resolution에 대한 시그날링은 앞서 설명한 variable length로 binarization한 시그날링일 수 있다. 이러한 경우 가장 작은 값(가장 앞에 있는 값)에 해당하는 인덱스로 시그날링하는 경우 시그날링 오버헤드가 적어지게 된다.
일 실시예로 high resolution(자세히 시그날링)부터 low resolution 순서대로 시그날링 인덱스에 매칭시킬 수 있다.
도 10은 3가지 resolution에 대한 시그날링을 나타내고 있다. 이러한 경우 3가지 시그날링은 0, 10, 11일 수 있고, 3가지 시그날링 각각이 resolution 1, resolution 2, resolution 3에 해당할 수 있다. resolution 1을 시그날링 하는 데에는 1비트가 필요하고 나머지 resolution을 시그날링 하는 데에 2비트가 필요하므로 resolution 1을 시그날링 할 때 시그날링 오버헤드가 적다. 도 10의 예에서는 resolution 1, resolution 2, resolution 3이 각각 1/4, 1, 4 pel이다.
이하의 발명들에서 motion vector resolution은 motion vector difference의 resolution을 의미하는 것일 수 있다.
도 11은 본 발명의 일 실시예에 따른 inter prediction 관련 syntax를 나타낸 도면이다.
본 발명의 일 실시예를 따르면 inter prediction 방법은 skip mode, merge mode, inter mode 등을 포함할 수 있다. 일 실시예를 따르면 skip mode에서는 residual signal이 전송되지 않을 수 있다. 또한 skip mode에서 merge mode와 같은 MV 결정 방법을 사용할 수 있다. Skip mode 사용 여부는 skip flag에 따라 결정될 수 있다. 도 11을 참조하면 cu_skip_flag 값에 따라 skip mode 사용 여부가 결정될 수 있다.
일 실시예를 따르면 merge mode에서는 motion vector difference를 사용하지 않을 수 있다. Motion candidate index를 기초로 motion vector를 결정할 수 있다. Merge mode 사용 여부는 merge flag에 따라 결정될 수 있다. 도 11을 참조하면 merge_flag 값에 따라 merge mode 사용 여부가 결정될 수 있다. 또한 skip mode를 사용하지 않는 경우에 merge mode를 사용하는 것이 가능하다.
Skip mode 또는 merge mode에서 하나 이상의 candidate list 종류 중에서 선택적으로 사용하는 것이 가능하다. 예를 들어 merge candidate 또는 subblock merge candidate를 사용하는 것이 가능하다. 또한 merge candidate은 spatial neighboring candidate, temporal candidate 등을 포함할 수 있다. 또한 merge candidate는 현재 block(CU) 전체에 대한 motion vector를 사용하는 candidate를 포함할 수 있다. 즉, 현재 block에 속하는 각 subblock의 motion vector가 같은 candidate를 포함할 수 있다. 또한 subblock merge candidate는 subblock-based temporal MV, affine merge candidate 등을 포함할 수 있다. 또한 subblock merge candidate는 현재 block(CU)의 subblock 별로 다른 motion vector를 사용하는 것이 가능한 candidate를 포함할 수 있다. Affine merge candidate는 affine motion prediction의 control point motion vector를 결정할 때 motion vector difference를 사용하지 않고 결정하는 방법으로 만든 방법일 수 있다. 또한 subblock merge candidate는 현재 block에서 subblock 단위로 motion vector를 결정하는 방법들을 포함할 수 있다. 예를 들어 subblock merge candidate는 앞서 언급한 subblock-based temporal MV와 affine merge candidate 이외에도 planar MV, regression based MV, STMVP 등을 포함할 수 있다.
일 실시예를 따르면 inter mode에서는 motion vector difference를 사용할 수 있다. Motion candidate index를 기초로 motion vector predictor를 결정하고 상기 motion vector predictor와 motion vector difference를 기초로 motion vector를 결정할 수 있다. Inter mode 사용 여부는 다른 mode들의 사용 여부에 따라 결정될 수 있다. 또다른 실시예로 inter mode 사용 여부는 flag에 의해 결정될 수 있다. 도 11에서는 다른 mode들인 skip mode와 merge mode를 사용하지 않는 경우에 inter mode를 사용하는 예를 나타내고 있다.
Inter mode는 AMVP mode, affine inter mode 등을 포함할 수 있다. Inter mode는 motion vector predictor와 motion vector difference를 기초로 motion vector를 결정하는 모드일 수 있다. Affine inter mode는 affine motion prediction의 control point motion vector를 결정할 때 motion vector difference를 사용하는 방법일 수 있다.
도 11을 참조하면 skip mode 또는 merge mode로 결정된 후에 subblock merge candidate를 사용할 지, merge candidate를 사용할 지 결정할 수 있다. 예를 들면 특정 조건을 만족하는 경우에 subblock merge candidate를 사용하는지 여부를 나타내는 merge_subblock_flag를 parsing할 수 있다. 또한 상기 특정 조건은 block size와 관련된 조건일 수 있다. 예를 들면 width, height, area 등에 관한 조건일 수 있고, 이것들을 조합하여 사용할 수도 있다. 도 11을 참조하면 예를 들어 현재 block(CU)의 width 및 height가 특정값 이상일 때의 조건일 수 있다. merge_subblock_flag를 parsing하는 경우에는 그 값을 0으로 infer할 수 있다. 만약 merge_subblock_flag가 1인 경우에 subblock merge candidate를 사용하고 0인 경우에 merge candidate를 사용하는 것일 수 있다. Subblock merge candidate를 사용하는 경우에 candidate index인 merge_subblock_idx를 parsing할 수 있고, merge candidate를 사용하는 경우에 candidate index인 merge_idx를 parsing할 수 있다. 이때 candidate list의 maximum 개수가 1인 경우에는 parsing하지 않을 수 있다. merge_subblock_idx 또는 merge_idx를 parsing하지 않는 경우에는 0으로 infer할 수 있다.
도 11은 coding_unit 함수를 나타내고 있는데, intra prediction 관련 내용은 생략된 것일 수 있고, 도 11은 inter prediction으로 결정된 경우를 나타내는 것일 수 있다.
도 12는 본 발명의 일 실시예에 따른 spatial neighboring 위치를 나타낸 도면이다.
앞서 설명한 것처럼 prediction 수행 시 현재 block 주변 위치를 참조할 수 있다. 이것은 현재 block 주변 위치에 해당하는 motion information을 참조하는 것일 수 있다. 예를 들어 merge mode 또는 AMVP mode 등을 사용할 때 현재 block 주변 위치에 해당하는 motion information에 기초하여 MVP 또는 MV를 설정하는 것이 가능하다. 상기 주변 위치는 기설정되어 있을 수 있다. 또한 상기 주변 위치가 다수 있을 때 그것들을 참조하는 순서가 기설정되어 있을 수 있다. 또한 주변 위치는 spatial neighbor와 temporal neighbor를 포함할 수 있다.
도 12를 참조하면 A0, A1, B0, B1, B2에 해당하는 위치가 기설정되어 있을 수 있다. 또한 여기서의 위치는 luma location을 뜻할 수 있다. 현재 block의 top-left 위치를 (xCb, yCb)라고 할 때 A0, A1, B0, B1, B2는 각각 (xCb - 1, yCb + cbHeight), (xCb - 1, yCb + cbHeight - 1), (xCb + cbWidth, yCb - 1), (xCb + cbWidth - 1, yCb - 1), , (xCb - 1, yCb - 1) 일 수 있다. 이때 cbWidth, cbHeight는 각각 현재 block의 width와 height일 수 있다.
본 발명의 일 실시예를 따르면 merge mode에서 A1, B1, B0, A0, B2의 순서대로 spatial neighbor를 참조할 수 있다. 또한 spatial neighbor 위치에 해당하는 spatial candidate를 candidate list에 추가할 수 있다. 또한 spatial candidate 외에 temporal candidate를 추가할 수 있고 이것은 spatial candidate보다 뒤에 있을 수 있다. 또한 temporal candidate에 해당하는 motion vector를 collocated motion vector라고 부를 수 있다.
또한 candidate list가 채워지지 않은 경우 zero motion vector를 candidate list에 추가할 수 있다. Zero motion vector는 motion vector가 현재 block 위치를 가리키는 motion vector 일 수 있다.
또한 merge candidate list에 history-based motion vector prediction candidate, pairwise average candidate 등이 포함될 수 있다. 이것은 candidate list에서 spatial candidate보다 뒤에 위치하는 것이 가능하다. 상기 history-based motion vector prediction candidate는 저장해놓은 motion information일 수 있다. 또한 저장해놓은 motion information은 현재 block 이전에 디코딩된(인코딩된) block에 해당하는 motion information일 수 있다. 또한 pairwise average candidate는 candidate list에 이미 추가된 candidate들에 기초해서 생성하는 candidate 일 수 있다. 예를 들어 pairwise average candidate는 candidate list에 이미 추가된 candidate들의 평균일 수 있다.
위에서 설명한 현재 block 주변 위치를 참조하여 candidate list에 추가하는 과정에 motion vector scaling 과정이 포함될 수 있다. Motion vector scaling은 참조한 motion information의 reference picture의 picture order count(POC), 현재 block을 포함하는 picture의 POC, 현재 block의 reference picture의 POC, 참조한 motion information 등에 기반하여 이루어질 수 있다.
본 발명의 일 실시예를 따르면 기설정된 spatial neighbor 위치들 중에서 그룹을 설정할 수 있다. 또한 상기 그룹 중에서 기설정된 개수의 motion information을 참조하는 것이 가능하다. 예를 들어 그룹 1 중에서 기설정된 개수의 motion information을 참조하고, 그룹 2 중에서 기설정된 개수의 motion information을 참조할 수 있다. 예를 들어 상기 기설정된 개수는 1일 수 있다. 또한 그룹 내에서의 참조 순서가 기설정되어 있을 수 있다. 또한 그룹 간의 candidate 추가 순서가 기설정되어 있을 수 있다.
도 12를 참조하면 그룹 1이 A0, A1이고, 그룹 2가 B0, B1, B2인 것이 가능하다. 또한 그룹 1에서 사용 가능한 motion information으로부터 candidate를 만들고, 그룹 2에서 사용 가능한 motion information으로부터 candidate를 만들 수 있다. 또한 그룹 1으로부터의 candidate를 candidate list에 추가하고 그룹 2로부터의 candidate를 candidate list에 순서대로 추가할 수 있다. 예를 들면 AMVP mode에서 candidate list를 설명한 것과 같이 만들 수 있다.
또한 candidate list가 채워지지 않은 경우 scaled candidate, temporal candidate, zero motion vector 등을 추가하는 것이 가능하다.
도 13은 본 발명의 일 실시예에 따른 current picture referencing을 나타낸 도면이다.
앞서 설명한 것처럼 현재 block을 prediction할 때 reference picture 내의 block을 참조할 수 있다. 본 발명의 일 실시예를 따르면 상기 reference picture가 현재 block을 포함하는 picture, 즉 현재 picture인 것이 가능하다. 따라서 현재 block을 예측할 때에 현재 picture의 block을 참조하는 것이 가능하다. 이러한 기술을 current picture referencing(CPR)이라고 부를 수 있다.
일 실시예를 따르면 CPR을 사용하는 경우 현재 picture가 유일한 reference picture인 것이 가능하다. 이러한 경우 reference picture를 나타내는 시그날링을 생략하고 infer하는 것이 가능하다.
일 실시예를 따르면 CPR을 사용하는 경우에 현재 block이 참조할 reference block을 지시하는 motion vector가 존재할 수 있다. 일 실시예를 따르면 CPR을 사용하는 경우에 reference block의 위치가 제한되어 있을 수 있다. 예를 들면 reference block의 위치가 현재 block 위치를 기준으로 제한되어 있을 수 있다. 예를 들어 현재 block을 포함하는 CTU 안쪽으로 reference block 위치가 제한되어 있을 수 있다. 또는 현재 block을 포함하는 CTU를 일부라도 포함하는 위치로 reference block 위치가 제한되어 있을 수 있다. Reference block 위치를 제한하는 것은 memory 부담을 줄이기 위한 것일 수 있다.
본 발명의 일 실시예를 따르면 현재 block이 CPR을 사용하는지 나타내는 시그날링이 존재할 수 있다. 일 실시예로 이러한 시그날링은 현재 block을 포함하는 더 큰 단위에서의 시그날링인 것이 가능하다. 예를 들어 slice 또는 tile level에서의 시그날링이 가능하다. 일 실시예로 예를 들어 현재 block이 참조하는 reference picture가 현재 picture인 경우 CPR을 사용하는 것이 가능하다. 또는 현재 picture가 유일한 reference picture인 경우 CPR을 사용하는 것이 가능하다. 또한 추가적으로 현재 block이 intra prediction을 사용하지 않는 block인 경우에 CPR을 사용하는 것이 가능하다. 즉, 예를 들어 현재 block에 해당하는 reference picture가 현재 picture인 경우 intra prediction을 사용하지 않으면 CPR을 사용하는 것이 가능하다. 일 실시예로 현재 picture가 유일한 reference picture인 것을 CurrPicIsOnlyRef 라는 변수로 나타내는 것이 가능하다. 또는 CPR을 사용한다는 것은 reference picture가 현재 picture인 것일 수 있다. 또는 CPR을 사용한다는 것은 reference picture가 현재 picture이고, intra prediction을 사용하지 않는 것일 수 있다.
본 발명의 일 실시예를 따르면 CPR을 사용할 때 앞서 설명한 merge mode, AMVP mode 등을 사용하여 motion information을 나타내는 것이 가능하다.
또한 CPR을 사용하는 경우 현재 slice 또는 tile이 P slice 또는 P tile로 설정되는 것이 가능하다. 또한 CPR을 사용하는 경우 dual tree를 사용한다는 것을 나타내는 flag가 dual tree를 사용한다는 것을 나타내는 값으로 설정될 수 있다. Dual tree는 luma에 해당하는 tree와 chroma에 해당하는 tree가 다를 수 있는 것을 의미할 수 있다.
도 13을 참조하면 current picture 내에 실선으로 나타낸 현재 block이 있을 수 있다. 또한 점선으로 나타낸 reference block이 current picture 내에 존재할 수 있다. 이때 상기 reference block 위치를 지시하는 motion information이 존재할 수 있다. 도 13을 참조하면 화살표로 나타낸 것이 reference block 위치를 지시하는 motion information일 수 있다.
또한 본 발명의 일 실시예를 따르면 CPR을 사용하는 경우 candidate list 구성이 달라질 수 있다. 예를 들어 CPR을 사용하는 경우 temporal candidate를 candidate list에 포함하지 않을 수 있다.
또한 본 발명의 일 실시예를 따르면 CPR을 사용하는 경우 주변에서 참조한 motion information을 scaling하지 않을 수 있다.
도 14는 본 발명의 일 실시예에 따른 spatial neighboring candidate 참조 방법을 나타낸 도면이다.
본 발명의 일 실시예를 따르면 현재 block이 CPR을 사용하는 경우 candidate list 구성 방법이 CPR을 사용하지 않는 경우와 다를 수 있다. 예를 들어 현재 block이 CPR을 사용하는 경우 spatial neighboring candidate 추가 방법이 CPR을 사용하지 않는 경우와 다를 수 있다. 예를 들어 현재 block이 CPR을 사용하는 경우 CPR의 reference block이 위치할 수 있는 범위를 넘어서는 위치의 motion information을 참조하지 않을 수 있다. 또는 현재 block이 CPR을 사용하는 경우 CPR의 reference block이 위치할 수 있는 범위를 기초로 하는 범위를 넘어서는 위치의 motion information을 참조하지 않을 수 있다. 상기 CPR의 reference block이 위치할 수 있는 범위는 현재 block이 속한 CTU 범위일 수 있다. 따라서 본 발명의 일 실시예를 따르면 현재 CTU를 넘어서는 위치로부터 motion information을 참조하지 않을 수 있다. 예를 들면 현재 block이 reference block이 위치할 수 있는 범위 boundary와 접하여 있는 경우 기설정된 spatial neighbor 위치가 reference block이 위치할 수 있는 범위를 벗어날 수 있다. 특히 도 12의 기설정된 spatial neighbor 위치를 참조하면 현재 block이 reference block이 위치할 수 범위의 top boundary 또는 left boundary에 접하여 있는 경우 다수의 기설정된 spatial neighbor 위치가 reference block이 위치할 수 있는 범위를 벗어날 수 있다.
도 14를 참조하면 CTU 안쪽으로 reference block 위치가 제한될 수 있다. 일 실시예를 따르면 reference block이 위치할 수 있는 범위를 벗어나는 위치로부터의 motion information을 참조하지 않을 수 있다. 예를 들어 현재 block이 reference block이 가질 수 있는 범위의 boundary에 위치한 경우 기설정된 spatial neighbor 위치가 reference block이 위치할 수 있는 범위를 벗어나는 일이 발생할 수 있다. 도 14에서 current block 주변에 기설정된 spatial neighbor를 작은 점선 사각형으로 표시하였다. 이때 CTU를 벗어나는 위치는 사용 가능하지 않은 것으로 판단할 수 있다.
이것은 reference block이 위치할 수 있는 범위를 넘어서는 위치를 참조하면 그 위치의 motion information은 현재 block의 reference block이나 참조한 위치의 reference block이 제한된 범위를 넘게 하지 않기 위해서는 가질 수 있는 motion information의 범위가 좁기 때문이다. 예를 들어 도 14의 경우에서 not available이라고 표시한 부분의 reference block도 그것이 속한 CTU를 넘기 않아야 한다. 또한 not available이라고 표시한 부분의 motion information이 가리키는 위치가 현재 block의 reference block이 위치할 수 있는 범위를 벗어나지 않기 위해서는 도 14의 경우 참조하는 부분의 motion information의 y 성분이 0이어야 한다. 현재 block이 left boundary에 접한 경우에는 boundary를 벗어나는 참조하는 부분의 motion information의 x 성분이 0이어야 한다. 또한 x 성분 또는 y 성분이 0이고 나머지 성분은 0이 아닌 상황에서도 기설정된 코딩 순서 상 한 성분의 부호가 어느 하나(예를 들면 minus)인 것만이 유효하거나 그 부호가 아닌 다른 부호일 때 MVD를 크게 만들 확률이 높을 수 있다.
Reference block이 현재 CTU 안쪽으로 제한되는 경우로 추가 설명하면, CTU 안쪽만 reference block으로 사용하기 때문에 MV 간의 연관성이 별로 없을 수 있다. 또한 만약 merge mode와 같이 MVD 보정이 불가한 경우, CTU 밖의 MV가 x, y 성분 모두 있는 경우에 현재 block이나 주변 block의 reference block은 CTU 범위를 넘게 된다. 예를 들어 현재 block이 CTU 위 경계에 있는 경우 위쪽 block MV의 y 성분이 있는 경우 현재 block이나 주변 block이 CTU 범위를 넘게 된다.
Slice 전체가 CPR이 되므로 주변 block도 intra 또는 CPR을 사용했을 수 있다.
만약 tile 경계에 있는 경우(혹은 CPR아닌 slice 있는 경우) 주변이 CPR 아닌 inter일 수도 있는데 그 경우에는 주변 MV는 먼 곳을 가리켜서 CTU 벗어날 수 있다. 또 이 주변 MV는 다른 picture를 가리키므로 연관성이 적을 것이다.
따라서 본 발명의 일 실시예를 따르면 CPR을 사용하는 현재 block이 참조하는 spatial neighbor 위치가 CPR을 사용한 경우에만 motion information을 참조하는 것이 가능하다. 또는 CPR을 사용하는 현재 block이 참조하는 spatial neighbor 위치가 CPR을 사용하지 않은 경우 그로부터 motion information을 참조하지 않는 것이 가능하다.
또다른 실시예를 따르면 spatial neighbor 위치의 motion information을 현재 block에 해당하는 reference block이 가질 수 있는 범위로 clipping하여 참조할 수 있다.
도 14의 실시예와 같이 가능한 spatial neighbor 위치를 줄이는 경우 전체 candidate 개수를 줄이는 것이 가능하다. 이러한 경우 candidate index 시그날링을 줄이는 것이 가능하다. 예를 들어 기설정된 위치의 spatial neighboring candidate와 zero motion vector가 candidate list에 추가될 수 있거나 i) 기설정된 위치의 spatial neighboring candidate, ii) 제한된 개수의 HMVP candidate 또는 pairwise average candidate, iii) zero motion vector가 candidate list에 추가될 수 있는 경우에 가능한 spatial neighbor 위치가 줄어들면 가능한 candidate 개수가 줄 수 있다. 그러한 경우 candidate index의 max 값을 줄여서 index를 binarization 했을 때 bit 수를 줄일 수 있다.
또는 도 14의 실시예와 같이 가능한 spatial neighbor 위치를 줄이는 경우 spatial neighboring candidate 이후에 추가될 수 있는 candidate가 candidate list에서 더 앞에 추가될 수 있게 함으로써 상기 spatial neighboring candidate 이후에 추가될 수 있는 candidate를 사용할 때 candidate index에 해당하는 bit 수를 줄일 수 있다.
도 15는 본 발명의 일 실시예에 따른 block 위치와 motion candidate list 구성을 나타낸 도면이다.
본 발명의 일 실시예를 따르면 기설정된 위치에서 motion information을 참조하는 것으로 가능한 candidate 개수가 적을 수 있다. 예를 들면 도 14에서 설명한 상황에 따르면 가능한 spatial neighbor 위치가 줄어들 수 있다. 예를 들어 현재 block이 reference block이 가질 수 있는 범위의 top boundary 또는 left boundary에 접하여 존재하는 경우 가능한 candidate 개수가 적을 수 있다. 이러한 경우 디코더 및 인코더에서 해당 spatial neighbor를 참조하여 사용 가능한지 여부를 파악하지 않더라도(예를 들어 해당 spatial neighbor 위치가 intra prediction을 사용했는지 inter prediction을 사용했는지 파악하지 않더라도) 해당 spatial neighbor에 해당하는 candidate는 없다고 판단할 수 있다. 또한 이러한 경우 candidate list에서 zero MV가 들어가는 위치를 앞으로 당길 수 있다.
따라서 본 발명의 일 실시예를 따르면 candidate index를 통해 그것이 zero MV를 가리키는지 판단할 수 있는 경우가 있을 수 있다. 예를 들어 spatial neighbor 위치 중 일부가 현재 block 위치 및 neighbor로 참조할 수 있는 범위에 따라 제외되는 경우, 나머지로 가능한 모든 candidate 개수 이상의 index이면 zero motion vector일 수 있다. 예를 들어 spatial neighboring candidate 다음에 zero motion vector가 추가되는 경우에 가능한 spatial neighboring candidate 개수 이상의 index이면 zero motion vector라고 판단할 수 있다. 예를 들어 spatial neighbor 위치 중 일부가 현재 block 위치 및 neighbor로 참조할 수 있는 범위에 따라 제외되는 경우 남은 spatial neighbor 위치가 M개 일 때 0부터 시작하는 index 값이 M이면 spatial neighboring candidate 다음으로 추가되는 candidate임을 판단할 수 있고, spatial neighboring candidate 다음으로 zero MV가 오는 경우 zero MV임을 판단할 수 있다.
예를 들어 도 15에서 A라고 표시한 block의 경우와 같이 현재 block이 reference block이 위치할 수 있는 범위의 left boundary에 접한 경우가 있을 수 있다. 이러한 경우 도 14에서 설명한 것과 같이 reference block이 위치할 수 있는 범위를 벗어나는 곳의 motion information을 참조하지 않으면 현재 block의 above 위치가 사용 불가하게 된다. 따라서 above 위치를 제외한 위치만 사용 가능하다. 또는 이러한 경우 도 14에서 설명한 것과 같이 reference block이 위치할 수 있는 범위를 벗어나는 곳의 motion information을 참조하지 않으면 도 12에서 설명한 A0, A1, B2 위치가 사용 불가하게 된다. 따라서 B0와 B1만 사용 가능하다. 일 실시예로 merge mode인 경우 B0, B1을 모두 사용 가능한 것이 가능하고, AMVP mode인 경우 B0, B1 중 하나만 사용 가능한 것이 가능하다. 따라서 merge mode인 경우 0부터 index가 2이면 spatial neighboring candidate 다음으로 오는 candidate임을 판단할 수 있다. 또한 AMVP mode인 경우 0부터 index가 1이면 spatial neighboring candidate 다음으로 오는 candidate임을 판단할 수 있다. 즉 spatial neighboring candidate 다음으로 zero MV가 오는 경우에 index에 의해 zero MV임을 판단할 수 있다.
또한 도 15에서 B라고 표시한 block의 경우와 같이 현재 block이 reference block이 위치할 수 있는 범위의 top boundary에 접한 경우가 있을 수 있다. 이러한 경우 도 14에서 설명한 것과 같이 reference block이 위치할 수 있는 범위를 벗어나는 곳의 motion information을 참조하지 않으면 현재 block의 left 위치가 사용 불가하게 된다. 따라서 현재 block의 left 위치를 제외한 위치만 사용 가능하다. 또는 이러한 경우 도 14에서 설명한 것과 같이 reference block이 위치할 수 있는 범위를 벗어나는 곳의 motion information을 참조하지 않으면 도 12에서 설명한 B0, B1, B2 위치가 사용 불가하게 된다. 따라서 A0와 A1만 사용 가능하다. 일 실시예로 merge mode인 경우 A0, A1을 모두 사용 가능한 것이 가능하고, AMVP mode인 경우 A0, A1 중 하나만 사용 가능한 것이 가능하다. 따라서 merge mode인 경우 0부터 index가 2이면 spatial neighboring candidate 다음으로 오는 candidate임을 판단할 수 있다. 또한 AMVP mode인 경우 0부터 index가 1이면 spatial neighboring candidate 다음으로 오는 candidate임을 판단할 수 있다. 즉 spatial neighboring candidate 다음으로 zero MV가 오는 경우에 index에 의해 zero MV임을 판단할 수 있다.
도 15를 참조하면 현재 CTU 범위로 reference block 위치가 제한되고 현재 CTU를 벗어나는 위치의 motion information을 참조하지 않는 경우의 AMVP candidate list 구성을 나타내고 있다. 현재 block이 도 15의 A 또는 B와 같이 CTU left boundary 또는 top boundary에 접해있는 경우 spatial neighboring candidate 개수가 maximum 1개 가능하고 나머지 candidate는 zero MV로 채울 수 있다. 따라서 candidate index가 1인 경우에는 MVP가 zero MV라고 판단할 수 있다.
본 발명의 일 실시예를 따르면 candidate index를 통해 zero MV를 가리키는 것을 판단하면 도 18 내지 도 22에서 설명할 실시예 등을 수행하는 것이 가능하다. 예를 들면 MVD coding에 변화를 줄 수 있다. 예를 들면 특정 경우에 MVD component의 부호를 시그날링 전송 및 syntax parsing 없이 결정하는 것이 가능하다.
도 16은 본 발명의 일 실시예에 따른 block 위치와 motion candidate list 구성을 나타낸 도면이다.
본 발명의 일 실시예를 따르면 picture를 벗어나는 위치의 motion information을 참조할 수 없을 수 있다. 이것은 CPR을 사용하는 경우와 CPR을 사용하지 않는 경우를 모두 포함할 수 있다.
본 발명의 일 실시예에 따르면 CPR에서 reference block이 가질 수 있는 위치는 picture 안쪽일 수 있다. 또는 본 발명의 일 실시예에 따르면 CPR에서 reference block이 가질 수 있는 위치는 picture 안쪽을 포함하는 영역일 수 있다.
도 16을 참조하면 현재 block이 picture boundary에 접한 경우 spatial neighbor 위치가 제한될 수 있다. Picture를 벗어나는 위치의 motion information을 참조할 수 없기 때문일 수 있다. 예를 들어 현재 block이 picture의 left boundary에 접한 경우(도 16에서 A로 표시한 block의 경우) 현재 block의 left 위치를 참조할 수 없다. 또한 현재 block이 picture의 top boundary에 접한 경우(도 16에서 B로 표시한 block의 경우) 현재 block의 above 위치를 참조할 수 없다.
따라서 이러한 경우 binarization의 maximum value를 줄이거나 zero MV임을 판단하는 것이 가능하다.
앞서 설명한 것처럼 만약 CPR을 사용하는 경우 temporal candidate, scaled candidate 등을 사용하지 않을 수 있다.
먼저 CPR을 사용하고 AMVP mode를 사용하는 경우에 대해 보면 본 실시예와 같이 현재 block이 picture boundary에 인접한 경우 가능한 spatial neighbor 위치가 제한될 수 있다. 특히 left boundary 또는 top boundary에 인접한 경우 각각 현재 block의 left 위치들과 현재 block의 above 위치들의 motion information을 참조할 수 없게 된다. 따라서 AMVP candidate list 구성할 때 사용 가능한 spatial candidate는 maximum 1개가 될 수 있다. 만약 candidate index(maximum candidate 개수가 2인 경우 flag일 수도 있다.)가 나타내는 값이 1인 경우(candidate index가 0부터 시작하는 경우) 그 candidate index에 해당하는 motion vector는 zero motion vector인 것으로 판단할 수 있다.
Merge mode를 사용하는 경우에 대해 보면 본 실시예와 같이 현재 block이 picture boundary에 인접한 경우 가능한 spatial neighbor 위치가 제한될 수 있다. 특히 left boundary 또는 top boundary에 인접한 경우 각각 현재 block의 left 위치들과 현재 block의 above 위치들의 motion information을 참조할 수 없게 된다. 따라서 도 12의 실시예를 따른다면 참조 가능한 위치는 maximum 2개일 수 있다. 따라서 merge candidate index가 참조 가능한 maximum 개수 이상인 경우에 해당하는 motion vector는 spatial neighboring candidate로부터 온 것이 아니라고 판단할 수 있다.
만약 CPR을 사용하는 merge mode에서 spatial neighboring candidate와 zero MV만을 사용하는 경우에는 위와 같은 경우 zero MV인 것을 candidate index를 통해서 판단할 수 있다. 그러나 CPR merge mode에서 zero MV는 의미가 없을 수 있으므로 (가능한 spatial neighboring candidate 개수 - 1)로 variable length인 candidate index의 maximum value를 설정할 수 있다. 이렇게 되면 어떤 index 값의 bit 수를 줄일 수 있다.
다른 실시예로 CPR을 사용하는 merge mode에서 spatial neighboring candidate, HMVP candidate, pairwise average candidate 등을 candidate list에 포함할 수 있다. 이때 만약 위에서 설명한 실시예와 같이 spatial neighboring candidate의 가능한 최대 개수가 제한된다면 가능한 pairwise average candidate 개수도 줄어들 수 있다. Spatial neighboring candidate의 조합이 줄어들 수 있기 때문이다. 만약 도 12 및 도 16과 같은 실시예에서 가능한 spatial neighboring candidate 위치가 2개가 된다면 가능한 pairwise average candidate 개수는 1개가 될 수 있다. 또한 HMVP에서 history를 저장하는 공간이 reset되는 기설정된 부분이 있을 수 있다. 예를 들면 CTU row마다 HMVP에서 history를 저장하는 공간이 reset될 수 있다. 이것은 parallel processing을 용이하게 하기 위함일 수 있다. Encoder 및 decoder는 동일한 history를 유지할 수 있어야하기 때문이다. 따라서 HMVP에서 history를 저장하는 공간이 reset되는 기설정된 부분에서는 HMVP candidate를 candidate list에 추가할 수 없게 된다. 만약 CPR을 사용하고 spatial neighbor 위치가 제한되는 경우에 HMVP에서 history를 저장하는 공간이 reset되면 가능한 최대 candidate 개수가 더 줄어들 수 있다. 예를 들어 picture의 left boundary에서 spatial neighbor 위치가 최대 2개로 제한될 수 있고, CTU row의 시작 부분에서 HMVP에서 history를 저장하는 공간이 reset될 수 있다. 이 경우 candidate list에 최대 2개의 spatial neighboring candidates가 포함될 수 있고, HMVP candidate는 포함될 수 있다. 만약 pairwise average candidate를 추가할 수 있는 경우라도 pairwise average를 만들 때 1개의 조합 밖에 나오지 않는다. 따라서 pairwise average candidate를 추가할 수 있는 경우 candidate가 최대 3개와 zero motion vector일 수 있다. 만약 pairwise average candidate를 추가할 수 없는 실시예에서는 candidate가 최대 2개와 zero motion vector일 수 있다. 이에 따라 candidate index의 maximum value를 기존보다 줄일 수 있고, index의 bit 수를 줄이는 것이 가능하다.
또다른 실시예로 CPR을 사용하는 경우 pairwise average candidate를 사용하지 않는 것이 가능하다. CPR을 사용하는 경우에는 CPR을 사용하지 않는 경우에 비해 유용한 motion vector가 제한적일 수 있기 때문이다.
또다른 실시예로 현재 block이 picture의 left boundary에 인접한 경우 HMVP candidate를 사용하지 않을 수 있다. 또는 현재 block이 HMVP의 history가 reset되는 boundary에 인접한 경우(예를 들어 reset되는 위치와 현재 block left-top의 x 좌표가 동일한 경우) HMVP candidate를 사용하지 않을 수 있다. 만약 CTU row의 시작에서 HMVP의 history를 저장하는 공간이 reset 되는 경우 picture 가장 왼쪽의 CTU를 코딩할 때는 history에 motion information이 다양하지 않을 수 있다. 따라서 picture left boundary에 인접한 block의 경우에 motion vector의 x 성분은 0이나 plus여야 한다. 또한 이 시점에서 history에 저장된 motion vector 방향은 제한적이어서 left boundary에 인접한 block이 활용하기 어려울 수 있다. 따라서 현재 block이 picture left boundary에 인접한 경우 HMVP candidate를 사용하지 않을 수 있다. 이 경우 위의 실시예와 조합하면 picture의 left boundary에 인접한 block의 경우 merge candidate list에 최대 2개의 spatial neighboring candidate와 최대 1개의 pairwise average candidate 및 zero MV를 추가하는 것이 가능하다. 따라서 zero MV를 추가할 수 있는 경우 index의 최대값을 3(index가 0부터 시작하는 경우), zero MV를 추가할 수 없는 경우 index의 최대값을 2(index가 0부터 시작하는 경우)로 binarization할 수 있다.
본 발명의 일 실시예를 따르면 현재 block이 picture의 left, right, top, bottom boundary에 인접하다는 것을 현재 block의 좌표, 현재 block의 width, 현재 block의 height, 현재 picture의 width, 현재 picture의 height 등에 기초하여 판단 가능하다. 현재 block의 top-left 좌표를 (x0, y0)라고 할 수 있다. 현재 block의 width, height를 각각 cbWidth, cbHeight라고 할 수 있다. 현재 picture의 width, height를 각각 picWidth, picHeight라고 할 수 있다. 만약 (x0 == 0)이 true인 경우 picture left boundary에 인접한 것일 수 있다. 만약 ((x0 + cbWidth) == picWidth)가 true인 경우 picture right boundary에 인접한 것일 수 있다. 만약 (y0 == 0)이 true인 경우 picture top boundary에 인접한 것일 수 있다. 만약 ((y0 + cbHeight) == picHeight)가 true인 경우 picture bottom boundary에 인접한 것일 수 있다.
CPR을 사용하는 경우로 설명하였으나 CPR을 사용하지 않더라도 temporal motion vector를 사용할 수 없는 경우 또는 주변 block의 reference picture와 현재 block의 reference picture가 일치하는 경우 위와 같은 동작을 수행하는 것이 가능하다.
도 17은 본 발명의 일 실시예에 따른 spatial neighboring candidate 사용을 나타낸 도면이다.
본 발명의 일 실시예를 따르면 spatial neighbor 위치를 사용할 수 없는 경우가 있을 수 있다. 만약 기설정된 위치가 intra prediction을 한 경우에 해당 위치로부터 motion information을 참조할 수 없을 수 있다. 따라서 본 발명의 일 실시예를 따르면 기설정된 spatial neighbor 위치들이 intra prediction을 사용했는지 여부에 따라 가능한 spatial neighboring candidate 개수를 줄일 수 있다. 또는 기설정된 spatial neighbor 위치들이 참조할 수 있는 inter prediction을 사용했는지 여부에 따라 가능한 spatial neighboring candidate 개수를 줄일 수 있다. 예를 들어 기설정된 spatial neighbor 위치들이 CPR을 사용하는 inter prediction을 사용했는지 여부에 따라 가능한 spatial neighboring candidate 개수를 줄일 수 있다.
예를 들어 AMVP mode인 경우 spatial neighbor 위치 중 left 위치들이 모두 intra prediction 했거나 above 위치들이 모두 intra prediction 한 경우(picture를 벗어나는 부분이나 decoding되지 않은 위치는 제외하고 생각 할 수 있다.)가 있을 수 있다. 또는 AMVP mode인 경우 spatial neighbor 위치 중 left 위치들이 모두 참조할 수 있는 inter prediction을 하지 않았거나 above 위치들이 모두 참조할 수 있는 inter prediction 하지 않은 경우(picture를 벗어나는 부분이나 decoding되지 않은 위치는 제외하고 생각 할 수 있다.)가 있을 수 있다. 즉, left 위치 모두 혹은 above 위치 모두가 motion information 참조가 불가한 경우가 있을 수 있다. 이러한 경우 left 위치 혹은 above 위치 중 하나만 참조 가능한 경우 가능한 spatial neighboring candidate 개수는 1개이고, index가 1인 경우 zero MV인 것을 판단 할 수 있다. 또는 left 위치와 above 위치 모두 참조 불가한 경우(예를 들어 도 17에 나타낸 것처럼 기설정된 위치가 모두 intra prediction을 수행한 경우) 가능한 spatial neighboring candidate 개수는 0개이고, index가 0인 경우 zero MV인 것을 판단 할 수 있다. 혹은 left 위치와 above 위치 모두 참조 불가한 경우(예를 들어 도 17에 나타낸 것처럼 기설정된 위치가 모두 intra prediction을 수행한 경우) 가능한 spatial neighboring candidate 개수는 0개이고, index 전송 및 parsing을 생략할 수 있다. 그리고 index를 0, zero MV로 infer할 수 있다.
또다른 예로 기설정된 spatial neighbor 위치 중 motion information을 참조할 수 없는 경우에는 syntax parsing 단계에서 그 위치를 제외키시고, maximum candidate 개수에 변화를 주는 것이 가능하다. Motion information을 참조할 수 없는 경우는 해당 위치가 intra prediction을 사용한 경우를 포함할 수 있다. 또는 motion information을 참조할 수 없는 경우는 해당 위치가 picture를 벗어나거나 코딩 순서 상 decoding되지 않은 경우를 포함할 수 있다.
만약 merge mode에서 기설정된 위치에서 모두 motion information을 참조할 수 없는 경우를 가정하면 candidate list에 spatial neighboring candidate를 추가할 수 없을 수 있다. 따라서 HMVP candidate, pairwise average candidate 등을 candidate로 사용하는 것이 가능할 수 있다. 이때 현재 block이 앞 도면에서 설명한 HMVP의 history를 저장하는 공간을 reset하는 위치에 있다면 HMVP candidate 또한 추가할 수 없을 수 있다. 또한 pairwise average candidate가 HMVP candidate보다 앞에 오거나 HMVP candidate를 추가할 수 없는 경우에는 pairwise average candidate 또한 나올 수 없을 수 있다. 따라서 zero MV만 가능한 candidate로서 남을 수 있다. 그러나 CPR에서 zero MV가 의미 없을 수 있다. 이러한 경우에 merge mode임을 나타내는 시그날링을 생략(전송 및 parsing 생략)할 수 있다. 그리고 merge mode를 사용하지 않는 것으로 infer할 수 있다. 예를 들면 merge mode임을 나타내는 시그날링은 merge_flag일 수 있다. 따라서 본 발명의 일 실시예를 따르면 CPR을 사용하는 경우 현재 block 주변의 기설정된 spatial neighbor 위치들이 모두 사용 불가하고(해당 위치가 picture를 벗어난 경우, 해당 위치가 intra prediction을 한 경우, 해당 위치가 CPR을 사용하지 않은 경우 등을 포함할 수 있다.), 현재 block이 HMVP의 history를 저장하는 공간이 reset되는 위치인 경우에 merge mode임을 나타내는 시그날링을 생략하고 merge mode를 사용하지 않는 것으로 infer할 수 있다. HMVP의 history를 저장하는 공간이 reset되는 위치는 CTU row가 시작되는 위치 혹은 HMVP candidate를 사용하지 않기로 기설정된 위치 등일 수 있다.
또다른 예로 기설정된 spatial neighbor 위치 중 1개를 제외하고 motion information을 참조할 수 없는 경우가 있을 수 있다. Motion information을 참조할 수 없는 경우는 해당 위치가 picture를 벗어난 경우, 해당 위치가 intra prediction을 한 경우, 해당 위치가 CPR을 사용하지 않은 경우 등을 포함할 수 있다. 이 경우에도 앞 실시예와 같이 spatial neighboring candidate 1개 외에 다른 candidate가 추가되지 않으면 pairwise average candidate를 만들 수 없을 수 있다. 또한 HMVP의 history를 저장하는 곳이 reset되는 부분이어서 HMVP candidate를 포함할 수 없을 수 있다. 따라서 이러한 위치에서 candidate index의 maximum value를 기존과 다르게 하여 binarization할 수 있다. 예를 들어 기설정된 spatial neighbor 위치 중 1개를 제외하고 나머지 위치에서는 모두 motion information을 참조할 수 없고, HMVP의 history를 저장하는 공간을 reset하는 부분에서는 spatial neighboring candidate가 최대 1개, HMVP candidate가 최대 0개, pairwise average candidate가 최대 0개 만들어질 수 있다. 따라서 zero MV를 candidate에 추가할 수 있는 실시예에서는 1 bit의 flag로 candidate index 시그날링이 가능하다. 하지만 이 경우 candidate index를 전송하고 parsing하는 것을 생락하고 0으로 infer하는 것이 가능하다. CPR에서 zero MV가 의미가 없을 수 있기 때문이다. 또한 zero MV를 candidate에 추가할 수 없는 실시예에서는 가능한 candidate 1개 뿐일 수 있고, 이 경우 candidate index를 전송하고 parsing하는 것을 생락하고 0으로 infer하는 것이 가능하다.
도 18은 본 발명의 일 실시예에 따른 motion vector를 나타낸 도면이다.
본 발명의 일 실시예에 따르면 코딩 순서에 따라 motion vector가 가질 수 있는 값이 제한될 수 있다. 또한 이것은 CPR을 사용하는 경우일 수 있다. 예를 들어 코딩 순서에 따라 motion vector가 오른쪽 아래 방향을 가리키지 않을 수 있다. 현재 block을 기준으로 오른쪽이나 아래에 있는 block은 block 코딩 순서를 따르면 decoding이 되지 않았기 때문이다. 따라서 본 발명의 일 실시예를 따르면 CPR을 사용할 때 motion vector의 x성분이 0이상이고, 동시에 y성분이 0이상이지 않을 수 있다. 즉 CPR을 사용할 때 motion vector는 (x성분 >=0 && y성분 >= 0) 이지 않을 수 있다.
또한 도 14 내지 도 17에서 설명한 실시예들을 따르면 MVP가 zero MV인 경우가 있을 수 있다. 특히 MVP가 zero MV인 것은 syntax parsing 단계에서 알 수 있는 경우가 있다. 이러한 경우에는 motion vector difference(MVD)가 오른쪽 아래 방향을 가리키지 않을 수 있다. 즉 MVD는 (x성분 >=0 && y성분 >= 0) 이지 않을 수 있다. 또다른 실시예로 MV는 (x성분 > -(현재 block width) && y성분 > (-현재 block height)) 이지 않을 수 있다. 즉, zero MV를 MVP로 사용하는 경우에 MVD는 (x성분 > -(현재 block width) && y성분 > (-현재 block height)) 이지 않을 수 있다. 따라서 본 발명의 일 실시예를 따르면 MV 또는 MVD의 x성분 값에 따라 y성분 값의 범위를 한정할 수 있는 경우가 있을 수 있다.
일 실시예를 따르면 MVD의 성분을 나누어서 코딩할 수 있다. 예를 들면 도 9에서 설명한 것과 같이 MVD를 코딩할 수 있다. 예를 들면 성분1과 성분2를 나누어서 코딩할 수 있다. 또한 예를 들면 성분1, 성분2의 순서대로 코딩할 수 있다. 일 실시예로 성분1과 성분2는 각각 x-component, y-component일 수 있다. 아래 실시예들은 MVP가 zero MV인 경우일 수 있다.
본 발명의 일 실시예를 따르면 성분1이 0보다 크면 성분2는 0보다 작을 수 있다. 더 구체적으로 성분1이 0보다 크면 성분2의 절대값은 minimum block size 이상일 수 있다. 또한 성분1이 0보다 크면 성분2의 절대값은 현재 block height 이상일 수 있다.
본 발명의 일 실시예를 따르면 성분1이 0이면 성분2는 0이 아닐 수 있다. 또한 성분1이 0이면 성분2는 0보다 작을 수 있다. 더 구체적으로 성분1이 0이면 성분2의 절대값은 minimum block size 이상일 수 있다. 또한 성분1이 0이면 성분2의 절대값은 현재 block height 이상일 수 있다.
본 발명의 일 실시예를 따르면 성분1이 0보다 작고 절대값이 minimum block size보다 작을 때 성분2는 0이 아닐 수 있다. 또한 이 경우 성분2는 0보다 작을 수 있다. 더 구체적으로 이 경우 성분2의 절대값은 minimum block size 이상일 수 있다. 또한 이 경우 성분2의 절대값은 현재 block height 이상일 수 있다.
본 발명의 일 실시예를 따르면 성분1이 0보다 작고 절대값이 현재 block width보다 작을 때 성분2는 0이 아닐 수 있다. 또한 이 경우 성분2는 0보다 작을 수 있다. 더 구체적으로 이 경우 성분2의 절대값은 minimum block size 이상일 수 있다. 또한 이 경우 성분2의 절대값은 현재 block height 이상일 수 있다.
도 18을 참조하면 현재 block에서 MV의 x-component 값이 도면에 나타낸 것과 같을 수 있다. 그 경우 CPR의 reference block은 도 18에서 음영으로 표시한 영역에 들어오도록 할 수 있다. 따라서 y-component가 가질 수 있는 값의 범위를 한정할 수 있다. 즉, x-component 값에 따라 y-component의 값을 한정하는 것이 가능하다.
도 19는 본 발명의 일 실시예에 따른 motion vector difference syntax를 나타낸 도면이다.
도 9에서 설명한 것처럼 MVD를 x-component, y-component로 나누어서 코딩할 수 있다 .도 19를 참조하면 [ 0 ], [ 1 ]에 해당하는 값은 각각 x-component, y-component일 수 있다. 또한 abs_mvd_greater0_flag는 해당 component의 절대값이 0보다 큰지 아닌지를 나타내는 flag일 수 있다. 또한 abs_mvd_greater1_flag는 해당 component의 절대값이 1보다 큰지 아닌지를 나타내는 flag일 수 있다. 또한 abs_mvd_minus2는 해당 component의 절대값에서 2를 뺀 값일 수 있다. 또한 mvd_sign_flag는 해당 component의 sign을 나타내는 flag일 수 있다. 또한 mvd_sign_flag 0 값이 plus, 1 값이 minus를 지시할 수 있다.
도 18에서 설명한 실시예들을 도 19의 MVD coding syntax에 반영할 수 있다.
도 19에서 “zeroMVP” 조건은 MVP가 zero MV인 경우를 나타낼 수 있고, CPR을 사용하는 경우를 나타낼 수 있다. 즉, MVP가 zero MV이고, CPR을 사용하는 경우에 zeroMVP가 true일 수 있다. MVP가 zero MV인 조건은 도 14 내지 도 17에서 설명한 실시예를 따를 수 있다. 앞 실시예들을 따르면 MVP가 zero MV인 것은 현재 block의 위치 또는 candidate index에 기초할 수 있다.
본 발명의 일 실시예를 따르면 zeroMVP인 경우 x-component가 0이면 y-component는 0이 아닐 수 있다. 따라서 이 경우에 abs_mvd_greater0_flag[ 1 ]를 parsing하지 않을 수 있다. 또한 이 경우 abs_mvd_greater0_flag[ 1 ]를 0이 아닌 것을 나타내는 값으로 infer할 수 있다. 또한 이 경우 abs_mvd_greater0_flag[ 1 ]를 1로 infer할 수 있다.
본 발명의 일 실시예를 따르면 zeroMVP인 경우 x-component가 0이면 y-component의 절대값은 1보다 클 수 있다. 이것은 현재 block height가 1보다 크기 때문일 수 있다. 따라서 이 경우 abs_mvd_greater1_flag[ 1 ]를 parsing하지 않을 수 있다. 또한 이 경우 abs_mvd_greater1_flag[ 1 ]를 절대값이 1보다 큰 것을 나타내는 값으로 infer할 수 있다. 또한 이 경우 abs_mvd_greater1_flag[ 1 ]를 1로 infer할 수 있다. CPR이 있기 전 기존 MVD coding에서는 abs_mvd_greater1_flag가 존재하지 않을 때 0으로 infer 했기 때문에 본 실시예와 결합하면 abs_mvd_greater1_flag 가 존재하지 않을 때 infer 하는 값이 조건에 따라 나뉠 수 있다. 예를 들어 abs_mvd_greater1_flag[compIdx]가 존재하지 않을 때 abs_mvd_greater0_flag[compIdx]이 0이면 0으로 infer하고, abs_mvd_greater1_flag[compIdx]가 1이면 1로 infer할 수 있다. 또는 예를 들어 abs_mvd_greater1_flag[compIdx]가 존재하지 않을 때 abs_mvd_greater0_flag[compIdx]이 0이면 0으로 infer할 수 있다. 또는 abs_mvd_greater1_flag[compIdx]가 존재하지 않을 때 zeroMVP이고 abs_mvd_greater0_flag[!compIdx]가 0이면 1로 infer할 수 있다
본 발명의 일 실시예를 따르면 zeroMVP인 경우 x-component가 양수이거나 0이면 y-component는 음수일 수 있다. 따라서 이 경우 y-component의 mvd_sign_flag를 parsing하지 않을 수 있다. 또한 이 경우 mvd_sign_flag를 음수를 지시하는 값으로 infer할 수 있다. 이 경우 mvd_sign_flag를 1로 infer 할 수 있다. 따라서 zeroMVP이고 mvd_sign_flag[0]이 0인 경우 mvd_sign_flag[1]을 parsing하지 않고, 1로 infer 할 수 있다. 또한 zeroMVP이고 abs_mvd_greater0_flag[0]이 0인 경우 mvd_sign_flag[1]을 parsing하지 않고, 1로 infer 할 수 있다.
또한 CPR이 있기 전 기존에 mvd_sign_flag가 존재하지 않는 경우 0으로 infer했을 수 있다. 그러나 기존에 mvd_sign_flag가 존재하지 않는 경우는(도 9의 실시예 참조) 해당 component 절대값이 0인 경우 밖에 없었을 수 있다. 따라서 본 발명의 실시예와 결합하여 mvd_sign_flag가 존재하지 않는 경우 1로 infer하는 것으로 통일할 수 있다. 또다른 실시예로는 조건에 따라 mvd_sign_flag infer하는 값을 달리할 수 있다. 예를 들어 zeroMVP && (mvd_sign_flag[0] == 0 || abs_mvd_greater0_flag[ 0 ] == 0) 인 경우 1로 infer 하고, 그렇지 않은 경우 0으로 infer할 수 있다.
도 20은 본 발명의 일 실시예에 따른 motion vector를 나타낸 도면이다.
본 발명의 일 실시예에 따르면 reference block가 위치할 수 있는 범위에 따라 motion vector가 가질 수 있는 값이 제한될 수 있다. 또한 이것은 CPR을 사용하는 경우일 수 있다. 예를 들어 reference block이 위치할 수 있는 범위를 벗어나지 않도록 motion vector가 설정될 수 있다.
예를 들어 현재 block이 reference block이 위치할 수 있는 범위의 boundary에 인접한 경우 motion vector는 인접한 boundary의 반대 방향일 수 있다. 즉, 현재 block이 reference block이 위치할 수 있는 범위의 left boundary 또는 right boundary에 인접한 경우, x-component는 각각 0 이상, 0 이하일 수 있다. 또한 현재 block이 reference block이 위치할 수 있는 범위의 top boundary 또는 bottom boundary에 인접한 경우, y-component는 각각 0 이상, 0 이하일 수 있다. 또한 일 실시예로 reference block이 위치할 수 있는 범위는 현재 block이 속한 CTU 범위일 수 있다.
또한 도 14 내지 도 17에서 설명한 실시예들을 따르면 MVP가 zero MV인 경우가 있을 수 있다. 특히 MVP가 zero MV인 것은 syntax parsing 단계에서 알 수 있는 경우가 있다. 이러한 경우 motion vector에 관한 위의 설명이 MVD에 적용될 수 있다.
도 20을 참조하면 CPR의 reference block이 가질 수 있는 위치가 현재 block이 속한 CTU 내로 한정될 수 있다. 이 경우 현재 block이 A에 표시한 위치와 같이 left boundary에 인접한 경우, motion vector의 x-component는 0 이상일 수 있다. 또한 현재 block이 B에 표시한 위치와 같이 top boundary에 인접한 경우, motion vector의 y-component는 0 이상일 수 있다.
도 21은 본 발명의 일 실시예에 따른 motion vector difference syntax를 나타낸 도면이다.
도 9에서 설명한 것처럼 MVD를 x-component, y-component로 나누어서 코딩할 수 있다 .도 21을 참조하면 [ 0 ], [ 1 ]에 해당하는 값은 각각 x-component, y-component일 수 있다. 또한 abs_mvd_greater0_flag는 해당 component의 절대값이 0보다 큰지 아닌지를 나타내는 flag일 수 있다. 또한 abs_mvd_greater1_flag는 해당 component의 절대값이 1보다 큰지 아닌지를 나타내는 flag일 수 있다. 또한 abs_mvd_minus2는 해당 component의 절대값에서 2를 뺀 값일 수 있다. 또한 mvd_sign_flag는 해당 component의 sign을 나타내는 flag일 수 있다. 또한 mvd_sign_flag 0 값이 plus, 1 값이 minus를 지시할 수 있다.
도 20에서 설명한 실시예들을 도 21의 MVD coding syntax에 반영할 수 있다.
도 21에서 “zeroMVP” 조건은 MVP가 zero MV인 경우를 나타낼 수 있고, CPR을 사용하는 경우를 나타낼 수 있다. 즉, MVP가 zero MV이고, CPR을 사용하는 경우에 zeroMVP가 true일 수 있다. MVP가 zero MV인 조건은 도 14 내지 도 17에서 설명한 실시예를 따를 수 있다. 앞 실시예들을 따르면 MVP가 zero MV인 것은 현재 block의 위치 또는 candidate index에 기초할 수 있다.
도 21을 참조하면 left, right, top, bottom boundary에 인접한 것을 나타내는 조건을 각각 left_boundary, right_boundary, top_boundary, bottom_boundary로 나타내었다. 또한 boundary에 인접한 것은 현재 block의 좌표, 현재 block의 width, 현재 block의 height, reference block의 위치로 가능한 범위의 width, reference block의 위치로 가능한 범위의 height 등에 기초하여 판단할 수 있다. 예를 들어 현재 block의 top-left 좌표를 (x0, y0)로 나타낼 수 있다. 또한 현재 block의 width 및 height를 각각 cbWidth, cbHeight로 나타낼 수 있다. 또한 reference block의 위치로 가능한 범위의 width 및 height를 각각 rWidth, rHeight로 나타낼 수 있다. 예를 들어 (x0 % rWidth == 0)이 true면 left boundary에 인접한 것일 수 있다. ((x0 + cbWidth) % rWidth == 0)이 true이면 right boundary에 인접한 것일 수 있다. (y0 % rHeight == 0)이 true면 top boundary에 인접한 것일 수 있다. ((y0 + cbHeight) % rHeight == 0)이 true이면 bottom boundary에 인접한 것일 수 있다. 또한 일 실시예를 따르면 rWidth, rHeight는 CTU(CTB) width, height일 수 있다.
도 20에서 설명한 것처럼 zeroMVP이고 boundary에 인접한 경우 MVD의 sign이 결정될 수 있는 경우가 있다. 예를 들어 zeroMVP이고 left_boundary인 경우 mvd_sign_flag[0]을 parsing하지 않을 수 있고, plus를 나타내는 값(예를 들면 0)으로 infer할 수 있다.
또한 zeroMVP이고 right_boundary인 경우 mvd_sign_flag[0]을 parsing하지 않을 수 있고, minus를 나타내는 값(예를 들면 1)으로 infer할 수 있다.
또한 zeroMVP이고 top_boundary인 경우 mvd_sign_flag[1]을 parsing하지 않을 수 있고, plus를 나타내는 값(예를 들면 0)으로 infer할 수 있다.
또한 zeroMVP이고 bottom_boundary인 경우 mvd_sign_flag[1]을 parsing하지 않을 수 있고, minus를 나타내는 값(예를 들면 1)으로 infer할 수 있다.
또한 도 9, 도 19, 도 21에서는 abs_mvd_greater0_flag, abs_mvd_greater1_flag, abs_mvd_minus2, mvd_sign_flag 순서대로 코딩하는데 이 순서가 달라짐에 따라 다른 실시예를 수행하는 것도 가능하다. 현재 block 위치, zeroMVP 여부, reference block이 위치할 수 있는 범위, 이미 알고 있는 다른 syntax 값 등에 기초하여 어떤 syntax를 parsing하지 않고 infer할 수 있다.
도 22는 본 발명의 일 실시예에 따른 motion vector difference syntax를 나타낸 도면이다.
도 22를 참조하면 도 18 내지 도 21에서 설명한 실시예들을 결합하여 수행할 수 있다. 이에 따라 mvd_coding에 필요한 bit 수를 줄일 수 있다.
또한 본 발명의 일 실시예를 따르면 zeroMVP인 경우 어떤 component의 MVD의 절대값이 결정되고 나면 MVD 값이 가능한 범위를 넘는 reference block을 나타내지 않도록 MVD의 sign을 parsing 없이 결정하는 것이 가능하다. 예를 들어 도 9, 도 19, 도 21의 실시예와 같이 MVD의 sign을 결정하기 전에 절대값을 결정할 수 있는 경우가 있다. 만약 어떤 component의 |MVD|가 가능한 범위를 넘어서는 경우 sign을 minus로 결정할 수 있다. 또한 만약 어떤 component의 -|MVD|가 가능한 범위를 넘어서는 경우 sign을 plus로 결정할 수 있다.
도 23은 본 발명의 일 실시예에 따른 block과 크기를 나타낸 도면이다.
본 발명의 일 실시예를 따르면 현재 block의 width 또는 height가 maximum width 또는 maximum height인 경우가 있을 수 있다. 이러한 경우 기설정된 spatial neighbor 위치에서 motion information를 참조할 수 없을 수 있다. 이것은 코딩 순서에 따른 것일 수 있다. 예를 들어 현재 block의 width가 maximum width인 경우 현재 block의 right 위치로부터는 motion information을 참조할 수 없을 수 있다. 도 12의 실시예와 같은 경우 B0로부터 motion information을 참조할 수 없을 수 있다. 또다른 예로 현재 block의 height가 maximum height인 경우 현재 block의 bottom 위치로부터는 motion information을 참조할 수 없ㅇ르 수 있다. 도 12의 실시예와 같은 경우 A0로부터 motion information을 참조할 수 없을 수 있다.
만약 도 23의 실시예를 도 14의 실시예와 결합하면 motion information을 참조할 수 있는 spatial neighbor 위치를 1개로 줄일 수 있다. 예를 들어 left boundary에 인접하고 maximum width인 경우 도 12의 A0, A1, B0, B2로부터 motion information을 참조할 수 없을 수 있다. 또한 top boundary에 인접하고 maximum height인 경우 A0, B0, B1, B2로부터 motion information을 참조할 수 없을 수 있다. 따라서 이와 같은 경우 가능한 spatial neighbor 위치가 줄어들게 되므로 앞선 실시예들과 같이 zero MV를 판단하거나 candidate index parsing을 생략하거나 candidate index의 maximum value를 작게 binarization하는 등의 실시예를 수행하는 것이 가능하다.
도 24는 본 발명의 일 실시예에 따른 merge candidate list 구성을 나타낸 도면이다.
본 발명의 일 실시예를 따르면 CPR을 사용하는 경우 merge candidate list 구성 방법은 CPR을 사용하지 않는 경우와 다를 수 있다. 예를 들어 CPR을 사용하지 않는 경우 merge candidate list에 추가될 수 있는 candidate 중 일부가 CPR을 사용하는 경우에는 merge candidate list에 추가될 수 없을 수 있다.
일 실시예로 CPR을 사용하는 경우에 zero MV를 사용하지 않을 수 있다. 현재 picture 내에서 zero MV가 나타내는 reference block은 현재 block이 될 수 있기 때문이다.
일 실시예로 CPR을 사용하는 경우에 temporal MV(collocated MV)를 사용하지 않을 수 있다. CPR을 사용하는 경우 현재 picture가 아닌 picture을 참조할 수 없을 수 있기 때문이다.
일 실시예로 CPR을 사용하는 경우에 HMVP candidate 또는 pairwise average candidate를 사용하지 않을 수 있다. 이 경우 앞선 도면들의 실시예에서 설명한 것과 같이 index 시그날링에 변화를 주는 것이 가능하다.
일 실시예로 CPR을 사용하는 경우에 HMVP candidate 또는 pairwise average candidate을 기초로 한 candidate를 사용하는 것이 가능하다.
일 실시예로 CPR을 사용하는 경우 subblock merge mode를 사용하지 않을 수 있다. Subblock merge mode는 앞서 설명한 것과 같을 수 있다. 이에 따라 CPR을 사용하는 경우 subblock merge mode를 나타내는 flag를 parsing하지 않고 infer하는 것이 가능하다.
본 발명의 일 실시예를 따르면 CPR을 사용하는 경우 기설정된 spatial neighbor 위치의 집합이 CPR을 사용하지 않는 경우의 기설정된 spatial neighbor 위치의 집합과 다를 수 있다. 본 발명의 일 실시예를 따르면 CPR을 사용하는 경우 도 12의 기설정된 위치에서 B0와 B1 중 하나를 사용하지 않을 수 있다. 예를 들면 CPR을 사용하는 경우 B0 위치로부터 motion information을 참조하지 않을 수 있다. 또는 본 발명의 일 실시예를 따르면 CPR을 사용하는 경우 도 12의 기설정된 위치에서 A0와 A1 중 하나를 사용하지 않을 수 있다. 예를 들면 CPR을 사용하는 경우 A0 위치로부터 motion information을 참조하지 않을 수 있다. 이것은 CPR을 사용하는 경우의 motion information은 상대적으로 복잡하고 다양한 것을 요구하지 않을 수 있기 때문이다. 또는 CPR을 사용하는 경우 가까운 위치로부터의 motion information이 유사할 수 있기 때문이다.
도 25는 본 발명의 일 실시예에 따른 block 위치와 syntax를 나타낸 도면이다.
본 발명의 일 실시예를 따르면 CPR을 사용하는 경우 AMVP mode에서 zero MV를 MVP로 사용하지 않을 수 있다. 이 경우 도 15의 실시예와 결합하면 현재 block 위치에 따라 candidate list에 spatial candidate 1개만 추가되는 경우가 있을 수 있다. 또한 zero MV를 MVP로 사용하지 않으면 MVP candidate list에는 1개의 candidate만 존재할 수 있다. 이러한 경우 candidate index를 parsing하지 않는 것이 가능하다. 또한 이러한 경우 candidate index를 0으로 infer할 수 있다.
도 25를 참조하면 (a)에 현재 block이 reference block이 가질 수 있는 범위의 left boundary 또는 top boundary에 인접한 경우를 나타내었다. 이러한 경우 상기 reference block이 가질 수 있는 범위를 벗어나는 위치로부터의 motion information을 참조하지 않을 수 있다. 이러한 경우 AMVP mode를 사용할 때 zero MV를 MVP로 사용하지 않는 경우 MVP candidate로 가능한 것은 최대 1개가 될 수 있다. 따라서 도 25 (b)와 같이 그러한 경우 candidate index를 나타내는 mvp_l0_flag 및 mvp_l1_flag를 parsing하지 않을 수 있다. 이때 0으로 infer할 수 있다. CPR을 사용하는 경우를 CurrPicIsOnlyRef로 나타내었다. 또한 l0와 l1은 각각 reference list 0, 1을 나타낼 수 있다. 또한 CPR을 사용하는 경우 현재 picture가 유일한 reference picture일 수 있으므로 reference list 1개에 대해서만 MV가 존재할 수 있다. 이때 MV 관련 syntax도 reference list 1개에 대해서만 parsing할 수 있다.
도 26은 본 발명의 일 실시예에 따른 HMVP의 history를 저장하는 공간을 reset하는 것을 나타낸 도면이다.
앞서 설명한 것처럼 기설정된 위치에서 HMVP의 history를 저장하는 공간을 reset할 수 있다. 상기 HMVP의 history를 저장하는 공간을 HMVP table이라고 부를 수 있다.
본 발명의 일 실시예를 따르면 CPR을 사용하는 경우와 사용하지 않는 경우에 상기 기설정된 위치가 다를 수 있다. 예를 들어 CPR을 사용하지 않는 경우에 CTU row의 시작에서 HMVP table을 reset할 수 있다. 또한 예를 들어 CPR을 사용하는 경우에 reference block이 존재할 수 있는 범위의 시작에서 HMVP table을 reset할 수 있다. 또는 예를 들어 CPR을 사용하는 경우에 각 CTU의 시작에서 HMVP table을 reset할 수 있다. 또는 CPR을 사용하는 경우에는 CPR을 사용하지 않는 경우보다 HMVP table을 reset하는 기설정된 위치가 더 많이(자주) 존재할 수 있다.
CPR을 사용하는 경우 현재 block으로부터 멀리 떨어진 위치에 해당하는 motion information은 현재와 연관성이 적을 수 있기 때문이다. 또한 CPR을 사용하는 경우 HMVP table reset을 더 빈도 높게 함으로써 parallel processing을 더 용이하게 할 수 있다.
도 26을 참조하면 도면의 각 작은 사각형은 reference block이 존재할 수 있는 범위 혹은 CTU 범위를 나타낼 수 있다. 또한 X로 표시한 부분이 HMVP table이 reset되는 부분일 수 있다. 도 26 위쪽에 표시한 CPR을 사용하지 않는 경우에는 CTU row의 시작에서 HMVP table을 reset할 수 있다. 도 26 아래쪽에 표시한 CPR을 사용하는 경우에는 CTU의 시작에서 HMVP table을 reset할 수 있다.
본 발명의 일 실시예를 따르면 CPR을 사용하는 경우의 MVD coding 방법은 CPR을 사용하지 않는 경우의 MVD coding 방법과 다를 수 있다. 예를 들어 CPR을 사용하지 않는 경우에 도 9와 같은 coding 방법을 사용할 수 있다. 이것은 CPR을 사용하는 경우에는 코딩 순서에 따라 가능한 MV의 범위가 CPR을 사용하지 않는 경우와는 다를 수 있기 때문이다.
일 실시예로 CPR을 사용하는 경우에는 x-component와 y-component를 분리하여 코딩하는 방식을 사용하지 않을 수 있다. 예를 들면 vector의 절대값과 방향을 기초로 한 코딩 방식을 사용할 수 있다.
일 실시예로 CPR을 사용하는 경우에는 MVP가 zero MV일 때 MV가 나타내는 기준점이 기존(현재 block top-left로부터의 vector)과 다를 수 있다.
일 실시예로 CPR을 사용하는 경우에는 도 9, 도 19, 도 21에서 설명한 것과는 다른 syntax를 사용할 수 있다. 예를 들면 절대값이 어떤 값보다 큰지 나타내는 flag에서 어떤 값이 CPR을 사용하는 경우에는 사용하지 않는 경우와 다를 수 있다. 이에 따라 절대값에서 어떤 값을 뺀 값의 시그날링을 할 수 있다. 예를 들어 앞선 실시예들에서 절대값이 1보다 큰지 나타내는 flag가 있었다. 예를 들어 CPR을 사용하는 경우에는 절대값이 최소 block size보다 큰지 나타내는 flag가 있을 수 있다. 또는 CPR을 사용하는 경우에는 현재 block의 width 또는 height보다 큰지 나타내는 flag를 사용할 수 있다. 예를 들어 CPR을 사용하는 경우에는 x-component에 대해서는 절대값이 현재 block width보다 큰지 나타내는 flag를, y-component에 대해서는 절대값이 현재 block height보다 큰지 나타내는 flag를 사용할 수 있다.
본 발명의 일 실시예를 따르면 CPR을 사용하는 경우에는 shared merge list를 사용하지 않을 수 있다. Shared merge list는 다수의 block(예를 들면 coding unit)이 같은 merge list를 사용하는 기술일 수 있다. 이는 parallel processing을 용이하게 하기 위해서 shared merge list를 사용할 수 있다. 그러나 CPR을 사용하는 경우에는 현재 picture를 reference block으로 사용하기 때문에 현재 picture의 해당 부분이 reconstruction 되어 있어야 하고 parallel processing을 용이하게 하는 것이 큰 의미가 없을 수 있다. 또한 CPR을 사용하는 경우에는 shared merge list를 사용하면 정확도가 낮아지거나 사용할 수 있는 candidate 수가 너무 적어질 수 있다.
또다른 실시예를 따르면 CPR을 사용하는 경우에는 shared merge list에서 동일한 merge list를 사용하는 block들을 묶는 기준이 CPR을 사용하지 않을 때와 다를 수 있다.
본 발명의 일 실시예를 따르면 CPR을 사용하는 경우에는 CPR을 사용하지 않는 경우에 사용하는 방법 중 일부를 사용하지 않을 수 있다. 또는 본 발명의 일 실시예를 따르면 CPR을 사용하는 경우에는 CPR을 사용하지 않는 경우에 사용하는 방법 중 일부를 다르게 사용할 수 있다. 상기 CPR을 사용하지 않는 경우에 사용하는 방법은 prediction mode 등을 포함할 수 있다.
도 27는 본 발명의 일 실시예에 따른 coding unit syntax를 나타낸 도면이다.
앞서 설명한 CPR은 IBC (intra block copy)라고 불릴 수도 있다.
본 발명의 일 실시예를 따르면 IBC는 독립적인 prediction mode로서 존재할 수 있다. 즉, 앞서 설명한 intra prediction, inter prediction은 각각 MODE_INTRA, MODE_INTER일 수 있는데, MODE_INTRA 및 MODE_INTER와 다른 MODE_IBC가 존재할 수 있다. 또한 앞선 도면들에 나타낸 것처럼 MODE_INTRA, MODE_INTER, MODE_IBC는 CuPredMode 값에 의해 나타내어질 수 있다.
또한 tile group은 CU, CTU, PU 등보다 상위의 단위일 수 있다. 또한 tile group은 parallel processing 가능한 단위일 수 있다.
B (bi-predictive) tile group은 intra prediction 또는 inter prediction, IBC 등을 사용할 수 있을 수 있다. 또한 B tile group은 block에서 motion vector와 reference index를 각각 2개까지 사용하는 것이 가능하다. 또는 B tile group은 block에서 motion vector와 reference index를 각각 1개를 넘게 사용하는 것이 가능하다.
또한 intra prediction은 IBC 기법을 포함하는 개념일 수 있다. Intra prediction은 현재 picture만을 refer하는 prediction 방법일 수 있다. 또한 inter prediction은 현재 picture가 아닌 picture를 reference picture로 refer할 수 있는 방법일 수 있다.
P (predictive) tile group은 intra prediction 또는 inter prediction, IBC 등을 사용할 수 있을 수 있다. 또한 P tile group은 block에서 motion vector와 reference index를 각각 1개까지 사용하는 것이 가능하다. 또는 B tile group은 block에서 motion vector와 reference index를 각각 2개 넘게 사용하지 않는 것이 가능하다.
I (intra) tile group은 intra prediction, IBC를 사용하는 것일 수 있다. 또한 I tile group은 현재 picture가 아닌 picture를 reference picture로 refer하지 않을 수 있다.
본 발명의 일 실시예를 따르면 ( tile_group_type != I | | sps_ibc_enabled_flag ) 인 경우 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag를 parsing할 가능성이 있는 것이 가능하다. 즉, ( tile_group_type != I | | sps_ibc_enabled_flag )이지 않은 경우 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag 모두를 parsing하지 않는 것이 가능하다.
또한 sps_ibc_enabled_flag는 IBC가 사용되는지를 나타내는 상위 레벨의 시그날링일 수 있다. 또한 sps_ibc_enabled_flag가 0로 설정된 경우에는 IBC를 사용하지 않고, 1로 설정된 경우에는 IBC를 사용할 수 있는 것이 가능하다.
또한 cu_skip_flag 값에 기초하여 skip mode가 사용되는지를 결정할 수 있다. 만약 cu_skip_flag가 1인 경우 skip mode가 사용되는 것일 수 있다.
또한 pred_mode_flag 또는 pred_mode_ibc_flag에 기초하여 prediction mode가 결정되는 것이 가능하다. 즉, pred_mode_flag 또는 pred_mode_ibc_flag에 기초하여 현재 mode가 MODE_INTRA인지 MODE_INTER인지 MODE_IBC인지 결정되는 것이 가능하다. 또는 pred_mode_flag 또는 pred_mode_ibc_flag에 기초하여 CuPredMode 값이 결정되는 것이 가능하다.
또한 tile_group_type은 tile group의 종류를 나타낼 수 있다. Tile group의 종류는 앞서 설명한 것처럼 I tile group, P tile group, B tile group을 포함할 수 있다. 또한 tile_group_type 값이 I, P, B인 것은 각각 I tile group, P tile group, B tile group을 나타낼 수 있다.
본 발명의 일 실시예를 따르면 ( cu_skip_flag[ x0 ][ y0 ] = = 0 && tile_group_type != I)) 인 경우 pred_mode_flag를 parsing하는 것이 가능하다. 또한 cu_skip_flag가 1인 경우 pred_mode_flag를 parsing하지 않을 수 있다. 또한 tile_group_type이 I인 경우 pred_mode_flag를 parsing하지 않을 수 있다.
본 발명의 일 실시예를 따르면 ( ( tile_group_type = = I && cu_skip_flag[ x0 ][ y0 ] = =0 ) || ( tile_group_type != I && (cu_skip_flag[ x0 ][ y0 ] | | CuPredMode[ x0 ][ y0 ] != MODE_INTRA ) ) && sps_ibc_enabled_flag && blockSizeCondition ) 인 경우 pred_mode_ibc_flag를 parsing하는 것이 가능하다. 예를 들어 ( tile_group_type = = I && cu_skip_flag[ x0 ][ y0 ] == 0 )인 경우 pred_mode_ibc_flag를 parsing하는 것이 가능하다. 또는 ( tile_group_type != I && (cu_skip_flag[ x0 ][ y0 ] | | CuPredMode[ x0 ][ y0 ] != MODE_INTRA ) )인 경우 pred_mode_ibc_flag를 parsing하는 것이 가능하다. 또는 ( tile_group_type = = I && cu_skip_flag[ x0 ][ y0 ] == 0 )도 아니고, ( tile_group_type != I && (cu_skip_flag[ x0 ][ y0 ] | | CuPredMode[ x0 ][ y0 ] != MODE_INTRA ) )도 아닌 경우 pred_mode_ibc_flag를 parsing하지 않는 것이 가능하다. 또한 sps_ibc_enabled_flag가 1인 경우 pred_mode_ibc_flag를 parsing할 수 있고, sps_ibc_enabled_flag가 0인 경우 pred_mode_ibc_flag를 parsing하지 않는 것이 가능하다. 또한 pred_mode_ibc_flag를 parsing할 수 있는 block size에 기초한 condition이 있을 수 있다. 도 27을 참조하면 block size condition을 cbWidth와 cbHeight가 모두 32보다 작은 경우로 나타내었다.
또한 도 27을 참조하면 CuPredMode가 MODE_INTRA인 경우에 intra prediction 관련 syntax element를 parsing하는 것이 가능하다. 또한 CuPredMode가 MODE_INTRA인 경우에 motion vector 관련 syntax element를 parsing하지 않는 것이 가능하다.
또한 CuPredMode가 MODE_INTRA이지 않은 경우에 inter prediction 관련 syntax element를 parsing 할 수 있다. 또한 CuPredMode가 MODE_INTRA이지 않은 경우에 IBC 관련 syntax element를 parsing 할 수 있다. IBC 관련 syntax element는 motion vector 관련 syntax element를 포함할 수 있다. 즉, CuPredMode가 MODE_IBC인 경우 IBC 관련 syntax element를 parsing 할 수 있다. IBC 관련 syntax element는 merge mode 관련 syntax element, AMVP 관련 syntax element를 포함하는 것이 가능하다. 또한 IBC는 MODE_INTER인 경우보다 prediction mode가 제한적일 수 있고, parsing하는 syntax element도 더 적을 수 있다. 예를 들어 MODE_IBC인 경우에는 reference list L0에 대한 syntax element만 parsing하는 것이 가능하다. 또다른 예로 MODE_IBC인 경우에는 merge_data에서 mode 사용 여부를 나타내는 flag 중 일부를 parsing하지 않을 수 있다. 또한 CuPredMode가 MODE_INTRA이지 않은 경우에 inter prediction 관련 syntax element를 parsing하고, IBC 관련 syntax element를 parsing하는 것은 chroma component에 대한 syntax를 parsing하지 않는 경우일 수 있다. 또는 CuPredMode가 MODE_INTRA이지 않은 경우에 inter prediction 관련 syntax element를 parsing하고, IBC 관련 syntax element를 parsing하는 것은 treeType이 DUAL_TREE_CHROMA가 아닌 경우일 수 있다.
일 실시예로 treeType에 의해 어떤 성분에 대한 syntax를 parsing하는지, 어떤 성분에 대한 processing을 하는 것인지 등을 판단하는 것이 가능하다. 만약 treeType이 SINGLE_TREE인 경우 luma 성분과 chroma 성분이 syntax element 값을 공유할 수 있다. 또한 만약 treeType이 SINGLE_TREE인 경우에는 luma block과 chroma block이 같은 방법으로 partitioning 될 수 있다. 만약 treeType이 DUAL_TREE인 경우에는 luma block과 chroma block이 다른 방법으로 partitioning 되는 것이 가능하다. 또한 treeType이 DUAL_TREE인 것은 DUAL_TREE_LUMA, DUAL_TREE_CHROMA를 포함할 수 있다. treeType이 DUAL_TREE_LUMA인지 DUAL_TREE_CHROMA인지에 따라 luma component에 대한 처리를 하는 것인지 chroma component에 대한 처리를 하는 것인지 판단 가능하다.
도 28은 본 발명의 일 실시예에 따른 prediction mode 시그날링을 나타낸 도면이다.
본 발명의 일 실시예에 따르면 pred_mode_flag에 기초하여 prediction mode가 나타내어질 수 있다. 또한 pred_mode_flag에 기초하여 CuPredMode가 결정되는 것이 가능하다. 또한 pred_mode_flag에 기초하여 inter prediction인지, intra prediction인지 나타내는 것이 가능하다.
본 발명의 일 실시예에 따르면 pred_mode_flag가 0이면 CuPredMode는 MODE_INTER로 설정될 수 있다. 또한 pred_mode_flag가 1이면 CuPredMode가 MODE_INTRA로 설정될 수 있다. 일 실시예를 따르면 pred_mode_flag는 현재 CU가 inter prediction mode인지 intra prediction mode인지 나타내는 것이 가능하다.
만약 pred_mode_flag가 존재하지 않는 경우 pred_mode_flag 또는 CuPredMode를 infer하는 것이 가능하다. 만약 pred_mode_flag가 존재하지 않는 경우 pred_mode_flag 또는 CuPredMode를 어떤 tile group인지에 기초하여 infer하는 것이 가능하다. 예를 들어 I tile group인 경우 CuPredMode를 MODE_INTRA로 infer하는 것이 가능하다. 또한 P tile group 또는 B tile group인 경우 CuPredMode를 MODE_INTER로 infer하는 것이 가능하다.
본 발명의 일 실시예에 따르면 pred_mode_ibc_flag에 기초하여 prediction mode가 나타내어질 수 있다. 또한 pred_mode_ibc_flag에 기초하여 CuPredMode가 결정되는 것이 가능하다. 또한 pred_mode_ibc_flag에 기초하여 IBC mode인지 나타내는 것이 가능하다.
본 발명의 일 실시예에 따르면 pred_mode_ibc_flag가 0인 경우, CuPredMode는 MODE_INTER로 설정될 수 있다. 또한 pred_mode_ibc_flag가 1인 경우, CuPredMode는 MODE_IBC로 설정될 수 있다. 또는 pred_mode_ibc_flag가 0인 경우, CuPredMode는 MODE_IBC가 아닌 값으로 설정될 수 있다.
만약 pred_mode_ibc_flag가 존재하지 않는 경우 pred_mode_ibc_flag 또는 CuPredMode를 infer하는 것이 가능하다. 만약 pred_mode_ibc_flag가 존재하지 않는 경우 pred_mode_ibc_flag 또는 CuPredMode를 어떤 tile group인지에 기초하여 infer하는 것이 가능하다. 예를 들어 I tile group인 경우 CuPredMode를 MODE_INTRA로 infer하는 것이 가능하다. 또한 P tile group 또는 B tile group인 경우 CuPredMode를 MODE_INTER로 infer하는 것이 가능하다.
본 발명에서 tile group이라고 사용한 것은 tile group 이외에 slice 또는 다른 parallel processing 가능한 단위로 대체 가능하다.
본 발명의 일 실시예를 따르면 IBC를 사용하는 경우에 skip mode를 사용하는 것이 가능하다. 예를 들면 I tile group에 대하여 IBC를 사용하는 경우에 skip mode를 사용하는 것이 가능하다. 예를 들면 I tile group에 대하여 IBC를 사용하는 CU에 대하여 skip mode를 사용하는 것이 가능하다. 그러나 도 27 내지 도 28에서 설명한 syntax 및 시그날링 방법에서 이를 지원하지 못 할 수 있다. 예를 들어 I tile group에서 IBC mode이고 skip mode인 경우를 가정할 수 있다. 그러한 경우 sps_ibc_enabled_flag는 1일 수 있다. 또한 cu_skip_flag를 parsing할 수 있다. 이때 cu_skip_flag의 값은 1(skip mode를 사용하는 것을 나타내는 값)일 수 있다. 또한 cu_skip_flag가 1이거나 I tile group애 대하여 pred_mode_flag를 parsing하지 않을 수 있다. 그러한 경우 CuPredMode를 I tile group에 대하여 MODE_INTRA로 infer하는 것이 가능하다. 또한 I tile group이고 cu_skip_flag가 1인 경우 pred_mode_ibc_flag를 parsing하지 않을 수 있다. 그러한 경우 CuPredMode를 I tile group에 대하여 MODE_INTRA로 infer하는 것이 가능하다. 따라서 IBC를 사용함에도 불구하고 CuPredMode를 MODE_IBC로 나타낼 수 없는 상황이 발생할 수 있다.
도 29는 본 발명의 일 실시예에 따른 prediction mode 시그날링을 나타낸 도면이다.
도 29의 pred_mode_flag 및 pred_mode_ibc_flag에 대한 설명은 도 27 내지 도 28을 참조할 수 있다. 도 29의 실시예는 도 28에서 설명한 문제를 해결하기 위한 것일 수 있다.
본 발명의 일 실시예에 따르면 cu_skip_flag에 기초하여 CuPredMode가 infer되는 것이 가능하다. 또한 어떤 tile group인지에 기초하여 CuPredMode가 infer되는 것이 가능하다. 예를 들어 I tile group인 경우 cu_skip_flag에 기초하여 CuPredMode를 infer하는 것이 가능하다. 예를 들어 I tile group이고 cu_skip_flag가 0인 경우, CuPredMode를 MODE_INTRA로 infer하는 것이 가능하다. 또한 I tile group이고 cu_skip_flag가 1인 경우, CuPredMode를 MODE_IBC로 infer하는 것이 가능하다. 또한 cu_skip_flag가 0과 1인 것은 각각 skip mode를 사용하지 않는 것과 사용하는 것을 나타낼 수 있다. 또한 상기 실시예들은 pred_mode_flag 또는 pred_mode_ibc_flag가 존재하지 않는 경우에 수행하는 것일 수 있다.
또한 이때 cu_skip_flag에 기초하여 CuPredMode를 다른 값으로 설정하는 과정 없이 설정하는 것이 가능하다. 또한 이때 cu_skip_flag에 기초하여 CuPredMode를 다른 값으로 설정하는 과정 없이 MODE_IBC 또는 MODE_INTRA로 설정하는 것이 가능하다. 예를 들어 I tile group이고 cu_skip_flag가 1인 경우 CuPredMode를 바로 MODE_IBC로 설정하는 것이 가능하다. 또한 I tile group이고 cu_skip_flag가 0인 경우 CuPredMode를 바로 MODE_INTRA로 설정하는 것이 가능하다. 마찬가지로 상기 실시예들은 pred_mode_flag 또는 pred_mode_ibc_flag가 존재하지 않는 경우에 수행하는 것일 수 있다.
또한 tile group의 종류 및 cu_skip_flag에 기초하여 설정하는 CuPredMode infer 값이 있을 수 있고, tile group의 종류에 기초하고 cu_skip_flag에 기초하지 않고 설정하는 CuPredMode infer 값이 있을 수 있다. 예를 들어 tile group의 종류 및 cu_skip_flag에 기초하여 CuPredMode를 MODE_INTRA 및 MODE_IBC로 infer 할 수 있다. 또한 tile group의 종류에 기초하여 CuPredMode를 MODE_INTER로 infer 할 수 있다.
IBC가 아닌 기존 intra prediction은 skip mode를 사용하지 않을 수 있다. 따라서 skip mode를 사용한다고 시그날링된 경우 IBC 또는 inter prediction인 것으로 판단할 수 있다. 또한 skip mode를 사용한다고 시그날링되고 intra prediction (IBC 포함)만 사용하는 tile group의 경우에는 IBC인 것으로 판단할 수 있다.
도 29를 참조하면 pred_mode_flag가 존재하지 않는 경우 CuPredMode를 infer할 수 있다. 만약 I tile group이고 cu_skip_flag가 0인 경우 MODE_INTRA로 infer할 수 있다. 만약 I tile group이고 cu_skip_flag가 1인 경우 MODE_IBC로 infer할 수 있다. 만약 P tile group이거나 B tile group인 경우 MODE_INTER로 infer할 수 있다.
또한 도 29를 참조하면 pred_mode_ibc_flag가 존재하지 않는 경우 CuPredMode를 infer할 수 있다. 만약 I tile group이고 cu_skip_flag가 0인 경우 MODE_INTRA로 infer할 수 있다. 만약 I tile group이고 cu_skip_flag가 1인 경우 MODE_IBC로 infer할 수 있다. 만약 P tile group이거나 B tile group인 경우 MODE_INTER로 infer할 수 있다.
도 30은 본 발명의 일 실시예에 따른 prediction mode 시그날링을 나타낸 도면이다.
도 30의 pred_mode_flag 및 pred_mode_ibc_flag에 대한 설명은 도 27 내지 도 28을 참조할 수 있다. 도 30의 실시예는 도 28에서 설명한 문제를 해결하기 위한 것일 수 있다.
일 실시예로 sps_ibc_enabled_flag에 기초하여 CuPredMode 또는 pred_mode_flag 또는 pred_mode_ibc_flag를 infer하는 방법이 달라지는 것이 가능하다.
일 실시예로 sps_ibc_enabled_flag가 1인 경우에 도 29에서 설명한 infer 방법을 사용하는 것이 가능하다. 또한 sps_ibc_enabled_flag가 0인 경우에 도 28에서 설명한 infer 방법을 사용하는 것이 가능하다.
도 30을 참조하면 CuPredMode 값을 infer하는 경우가 있을 수 있다. 예를 들어 pred_mode_flag 또는 pred_mode_ibc_flag가 존재하지 않는 경우 CuPredMode 값을 infer하는 것이 가능하다. 본 발명의 일 실시예를 따르면 sps_ibc_enabled_flag가 1인 경우, I tile group인 경우 cu_skip_flag 값에 기초하여 CuPredMode를 infer 할 수 있다. 예를 들어 sps_ibc_enabled_flag가 1인 경우, I tile group이고 cu_skip_flag 값이 0인 경우 CuPredMode를 MODE_INTRA로 설정할 수 있다. 또한 sps_ibc_enabled_flag가 1인 경우, I tile group이고 cu_skip_flag 값이 1인 경우 CuPredMode를 MODE_IBC로 설정할 수 있다. 또한 sps_ibc_enabled_flag가 1인 경우, P tile group이거나 B tile group인 경우 CuPredMode를 MODE_INTER로 설정할 수 있다. 또한 sps_ibc_enabled_flag가 0인 경우, I tile group인 경우 CuPredMode를 MODE_INTRA로 설정할 수 있다. 또한 sps_ibc_enabled_flag가 0인 경우, P tile group이거나 B tile group인 경우 CuPredMode를 MODE_INTER로 설정할 수 있다.
도 31은 본 발명의 일 실시예에 따른 coding unit syntax를 나타낸 도면이다.
본 발명의 일 실시예를 따르면 I tile group인 경우 pred_mode_ibc_flag를 parsing할 수 있다. 이러한 경우 도 28에서 설명한 문제를 해결할 수 있다. 또한 I tile group이고, sps_ibc_enabled_flag가 1인 경우 pred_mode_ibc_flag를 parsing할 수 있다. 즉, I tile group에서 IBC mode를 사용하고 skip mode를 사용하는 경우에도 pred_mode_ibc_flag를 설정하여 MODE_IBC를 나타낼 수 있다.
도 31을 참조하면 (tile_group_type == I)인 경우, sps_ibc_enabled_flag가 1이고, block size와 관련된 조건을 만족키시면 pred_mode_ibc_flag를 parsing하고 있다.
도 32는 본 발명의 일 실시예에 따른 prediction mode 시그날링을 나타낸 도면이다.
본 발명의 일 실시예에 따르면 pred_mode_flag가 존재하지 않는 경우 pred_mode_flag를 infer할 수 있다. 일 실시예로 tile group의 종류에 기초하여 pred_mode_flag를 infer할 수 있다. 예를 들어 I tile group인 경우 pred_mode_flag 값을 1로 infer할 수 있다. 또한 P tile group인 경우 pred_mode_flag 값을 0으로 infer할 수 있다. 또한 B tile group인 경우 pred_mode_flag 값을 0으로 infer할 수 있다.
또한 pred_mode_flag에 기초하여 CuPredMode를 MODE_INTER 또는 MODE_INTRA로 설정할 수 있다. 예를 들어 pred_mode_flag가 0인 경우 CuPredMode를 MODE_INTER로 설정할 수 있다. 또한 pred_mode_flag가 1인 경우 CuPredMode를 MODE_INTRA로 설정할 수 있다.
본 발명의 일 실시예를 따르면 pred_mode_flag 또는 pred_mode_ibc_flag에 기초하여 CuPredMode를 설정하는 것이 가능하다. 예를 들어 pred_mode_ibc_flag가 0인 경우 pred_mode_flag에도 기초하여 CuPredMode를 설정하는 것이 가능하다. 예를 들어 pred_mode_ibc_flag가 0인 경우 pred_mode_flag에도 기초하여 CuPredMode를 MODE_INTER 또는 MODE_INTRA로 설정하는 것이 가능하다. 또는 pred_mode_ibc_flag가 0인 경우 pred_mode_flag에도 기초하여 CuPredMode를 MODE_IBC가 아닌 값으로 설정하는 것이 가능하다. 도 32를 참조하면 pred_mode_ibc_flag가 0이고, pred_mode_flag가 0인 경우 CuPredMode를 MODE_INTER로 설정할 수 있다. 또한 pred_mode_ibc_flag가 0이고, pred_mode_flag가 1인 경우 CuPredMode를 MODE_INTRA로 설정할 수 있다.
본 발명의 일 실시예를 따르면 pred_mode_ibc_flag에만 기초하여 CuPredMode를 설정하는 경우가 있을 수 있다. 예를 들어 pred_mode_ibc_flag가 1인 경우 다른 flag 없이 CuPredMode를 설정할 수 있다. 예를 들어 pred_mode_ibc_flag가 1인 경우 CuPredMode를 MODE_IBC로 설정할 수 있다.
본 발명의 일 실시예를 따르면 pred_mode_ibc_flag가 존재하지 않는 경우 pred_mode_ibc_flag를 infer할 수 있다. 예를 들면 tile group의 종류에 기초하여 pred_mode_ibc_flag 값을 infer할 수 있다. 또한 tile group의 종류 및 IBC mode 사용 가능 조건에 기초하여 pred_mode_ibc_flag 값을 infer할 수 있다. 더 구체적으로 I tile group인 경우 IBC mode 사용 가능 조건에 기초하여 pred_mode_ibc_flag 값을 infer할 수 있다. 예를 들어 I tile group이고 IBC 사용 가능 조건을 만족시키는 경우 pred_mode_ibc_flag 값을 1로 infer할 수 있다. 1로 infer하는 경우 CuPredMode는 MODE_IBC 값으로 설정될 수 있다. 또한 I tile group이고 IBC 사용 가능 조건을 만족시키지 않는 경우 pred_mode_ibc_flag 값을 0으로 infer할 수 있다. 또는 I tile group이고 IBC 사용 가능 조건 중 적어도 하나를 만족시키지 않는 경우 pred_mode_ibc_flag 값을 0으로 infer할 수 있다. 0으로 infer하는 경우 CuPredMode는 MODE_IBC가 아닌 값으로 설정될 수 있다. IBC mode 사용 가능 조건은 sps_ibc_enabled_flag 값을 포함할 수 있다. 또한 IBC mode 사용 가능 조건은 block size와 관련된 조건을 포함할 수 있다. 도 32를 참조하면 I tile group이고 sps_ibc_enabled_flag가 1인 경우 pred_mode_ibc_flag 값을 1로 infer하는 것이 가능하다. 이때 IBC mode 사용 가능 조건이 추가되어 그 조건까지 만족시키는 경우 pred_mode_ibc_flag 값을 1로 infer하는 것이 가능하다. 도 32에서 추가적인 IBC mode 사용 조건을 block size condition이라고 나타내었다.
또한 I tile group이고(도 32에서 조건 1)), sps_ibc_enabled_flag가 0인 경우(도 32에서 조건 2a)) pred_mode_ibc_flag 값을 0으로 infer할 수 있다. 또한 I tile group이고(도 32에서 조건 1)), 다른 IBC mode 사용 조건을 만족시키지 않는 경우(도 32에서 조건 2b)) pred_mode_ibc_flag 값을 0으로 infer할 수 있다.
또다른 실시예로 P 또는 B tile group인 경우 pred_mode_ibc_flag 값을 0으로 infer할 수 있다. 또한 P 또는 B tile group인 경우 tile group의 종류 외의 다른 조건 없이 pred_mode_ibc_flag 값을 기설정된 값으로 infer할 수 있다.
본 발명 다수의 실시예들에서 infer라고 표시한 것은 설정, derivation 등과 같은 의미일 수 있다.
본 발명의 일 실시예를 따르면 treeType은 다음과 같이 derive 될 수 있다.
만약 tile_group_type이 I이고 qtbtt_dual_tree_intra_flag가 1인 경우, treeType은 DUAL_TREE_LUMA로 설정될 수 있다. 또는 tile_group_type이 I이고 qtbtt_dual_tree_intra_flag가 1이고 luma component를 처리하는 경우, treeType은 DUAL_TREE_LUMA로 설정될 수 있다.
만약 tile_group_type이 I이고 qtbtt_dual_tree_intra_flag가 1인 경우, treeType은 DUAL_TREE_CHROMA로 설정될 수 있다. 또는 tile_group_type이 I이고 qtbtt_dual_tree_intra_flag가 1이고 chroma component를 처리하는 경우, treeType은 DUAL_TREE_CHROMA로 설정될 수 있다.
만약 tile_group_type이 I가 아니거나 qtbtt_dual_tree_intra_flag가 0인 경우, treeType은 SINGLE_TREE로 설정될 수 있다.
일 실시예를 따르면 qtbtt_dual_tree_intra_flag는 dual tree가 허용되는지 여부를 나타내는 시그날링일 수 있다. Dual tree가 허용된다는 것은 luma와 chroma 성분에 대한 separate coding quad tree syntax structure가 존재하는 것일 수 있다. 더 구체적으로 qtbtt_dual_tree_intra_flag는 현재 picture가 유일한 reference picture인 경우 dual tree가 허용되는지 여부를 나타내는 시그날링일 수 있다.
도 33은 본 발명의 일 실시예에 따른 coding unit syntax를 나타낸 도면이다.
본 발명의 일 실시예를 따르면 chroma 성분의 경우 IBC mode를 사용하지 않을 수 있다. 더 구체적으로 DUAL_TREE_CHROMA인 경우 IBC mode를 사용하지 않을 수 있다.
도 33을 참조하면 treeType이 DUAL_TREE_CHROMA가 아닌 경우 pred_mode_ibc_flag를 parsing할 수 있다. 또한 treeType이 DUAL_TREE_CHROMA인 경우 pred_mode_ibc_flag를 parsing하지 않을 수 있다. 일 실시예를 따르면 treeType이 DUAL_TREE_CHROMA인 경우 CuPredMode를 MODE_INTRA로 infer할 수 있다.
도 34는 본 발명의 일 실시예에 따른 coding unit syntax를 나타낸 도면이다.
도 34의 coding unit syntax는 intra prediction과 관련된 syntax를 나타낸 것일 수 있다. 본 발명의 일 실시예를 따르면 intra_chroma_pred_mode 시그날링이 존재할 수 있다. 또한 intra_chroma_pred_mode에 기초하셔 chroma 성분의 intra prediction mode를 결정할 수 있다.
도 34를 참조하면 treeType이 SINGLE_TREE이거나 DUAL_TREE_CHROMA인 경우 intra_chroma_pred_mode를 parsing하는 것이 가능하다. 또한 treeType이 DUAL_TREE_LUMA인 경우 intra_chroma_pred_mode를 parsing하지 않는 것이 가능하다.
도 35는 본 발명의 일 실시예에 따른 chroma 성분의 intra prediction mode derivation을 나타낸 도면이다.
도 35를 참조하면 IntraPredModeC는 chroma 성분에 대한 intra prediction mode일 수 있다. 또한 xCb, yCb는 chroma coding block의 top-left sample을 luma location을 기준으로 나타낸 것일 수 있다. 또한 IntraPredModeY는 luma 성분에 대한 intra prediction mode일 수 있다.
본 발명의 일 실시예를 따르면 IntraPredModeC는 IntraPredModeY에 기초하여 결정될 수 있다. 또한 IntraPredModeC는 IntraPredModeY 및 intra_chroma_pred_mode에 기초하여 결정될 수 있다. 이때 IntraPredModeY는 현재 chroma block에 해당하는 luma block에 해당하는 mode일 수 있다. 일 실시예를 따르면 어떤 위치에 대한 IntraPredModeC에 해당하는 IntraPredModeY를 사용하는 위치가 기설정되어있을 수 있다. 일 실시예를 따르면 기설정된 위치는 현재 chroma block의 가운데에 해당하는 luma block 위치일 수 있다. 예를 들어 (xCb, yCb)위치의 IntraPredModeC를 derivation 할 때 (xCb + cbWidth/2, yCb + cbHeight/2) 위치의 IntraPredModeY를 참조할 수 있다. 또는 (xCb, yCb)위치의 IntraPredModeC를 derivation 할 때 기설정된 위치는 xCb 또는 yCb를 기초로 한 위치일 수 있다.
어떤 IntraPredModeY 값에 대한 IntraPredModeC 값은 도 35의 Table 8-2 또는 Table 8-3을 참조할 수 있다. Table 8-2는 CCLM을 사용할 수 없는 경우(또는 sps_cclm_enalbed_flag가 0인 경우), Table 8-3은 CCLM을 사용할 수 있는 경우(또는 sps_cclm_enalbed_flag가 1인 경우)에 해당할 수 있다. IntraPredModeY가 어떤 값일 때 도 35에서 그 값에 해당하는 column을 참조할 수 있고, 그 column에서 intra_chroma_pred_mode에 해당하는 값이 IntraPredModeC가 될 수 있다. 예를 들어 IntraPredModeY가 1이고, intra_chroma_pred_mode가 1인 경우 IntraPredModeC는 50일 수 있다.
일 실시예를 따르면 sps_cclm_enalbed_flag는 CCLM이 적용될 수 있는지를 나타내는 상위 레벨의 시그날링일 수 있다. 예를 들어 sps_cclm_enalbed_flag가 1인 경우 CCLM이 적용될 수 있는 것일 수 있다. 또한 sps_cclm_enalbed_flag가 0인 경우 CCLM이 적용될 수 없는 것일 수 있다.
도 35의 IntraPredModeC 값이 81 또는 82 또는 83인 것은 CCLM mode에 해당할 수 있다. 또한 도 35의 sps_cclm_enabled_flag가 0일 때 IntraPredModeC 값이 4인 것은 DM mode에 해당할 수 있다. 또한 도 35의 sps_cclm_enabled_flag가 1일 때 IntraPredModeC 값이 7인 것은 DM mode에 해당할 수 있다.
또한 intra_chroma_pred_mode를 시그날링하는 bin string 정의가 존재할 수 있다. 예를 들어 DM mode를 가장 적은 비트수의 intra_chroma_pred_mode를 이용해서 나타낼 수 있다. 예를 들어 DM mode를 1-bit의 intra_chroma_pred_mode를 이용해서 나타낼 수 있다.
일 실시예를 따르면 sps_cclm_enalbed_flag가 0인 경우, intra_chroma_pred_mode 값 4, 0, 1, 2, 3을 나타내는 비트수를 점점 증가하거나 같을 수 있다. 일 실시예를 따르면 sps_cclm_enalbed_flag가 0인 경우, intra_chroma_pred_mode 값 4, 0, 1, 2, 3을 나타내는 bin string은 각각 0, 100, 101, 110, 111 일 수 있다.
일 실시예를 따르면 sps_cclm_enalbed_flag가 1인 경우, intra_chroma_pred_mode 값 7, 4, 5, 6, 0, 1, 2, 3을 나타내는 비트수를 점점 증가하거나 같을 수 있다. 일 실시예를 따르면 sps_cclm_enalbed_flag가 1인 경우, intra_chroma_pred_mode 값 7, 4, 5, 6, 0, 1, 2, 3을 나타내는 bin string은 각각 0, 10, 1110, 1111, 11000, 11001, 11010, 11011일 수 있다.
그러나 설명한 실시예들을 따르면 chroma block에 대한 intra prediction이 용이하지 않은 경우가 발생할 수 있다. 특히 chroma block에 대한 intra prediction mode derivation이 용이하지 않은 경우가 발생할 수 있다. 앞서 설명한 것처럼 chroma block이 intra prediction인 경우 intra prediction mode를 결정하기 위해 해당 luma block에 대한 intra prediction mode를 참조하여야 할 수 있다. 그러나 만약 해당 luma 위치가 intra prediction을 하지 않은 경우, 또는 MODE_INTRA가 아닌 경우가 발생할 수 있다. 예를 들어 해당 luma 위치가 MODE_IBC인 경우 해당하는 luma intra prediction mode가 존재하지 않을 수 있다. 일 실시예를 따르면 SINGLE_TREE인 경우에는 해당하는 luma block과 chroma block이 같은 prediction mode를 사용하는 것이 가능하다. 또한 DUAL_TREE인 경우에는 해당하는 luma block과 chroma block이 다른 prediction mode를 사용하는 것이 가능하다. 또한 I tile group인 경우에 DUAL_TREE를 사용하는 것이 가능하다. 또한 I tile group인 경우에 MODE_INTRA 또는 MODE_IBC를 사용하는 것이 가능하다. 따라서 같은 위치에서 DUAL_TREE_LUMA는 MODE_IBC를 사용하고 DUAL_TREE_CHROMA는 MODE_INTRA를 사용하는 경우가 발생할 수 있다.
도 36은 본 발명의 일 실시예에 따른 chroma 성분의 intra prediction mode derivation을 나타낸 도면이다.
도 36의 실시예는 도 35에서 설명한 문제를 해결하기 위한 방법일 수 있다.
본 발명의 일 실시예를 따르면 IntraPredModeY가 존재하지 않는 경우 IntraPredModeY를 기설정된 mode(또는 값)로 설정할 수 있다. 따라서 chroma block에 해당하는 luma 위치가 intra prediction을 사용하지 않은 경우 또는 IBC mode를 사용한 경우에도 IntraPredModeC를 derive하는 것이 가능하다.
더 구체적으로 IntraPredModeY가 존재하지 않는 경우 IntraPredModeY를 planar mode(value 0)로 설정하는 것이 가능하다. 이러한 경우 도 35에서 설명한 시그날링 방법에서 planar mode를 적은 비트수를 이용해서 시그날링하는 것이 가능하다.
또는 IntraPredModeY가 존재하지 않는 경우 IntraPredModeY를 DC mode(value 1)로 설정하는 것이 가능하다. 이러한 경우 도 35에서 설명한 시그날링 방법에서 DC mode를 적은 비트수를 이용해서 시그날링하는 것이 가능하다.
또는 IntraPredModeY가 존재하지 않는 경우 IntraPredModeY를 vertical mode(value 50)로 설정하는 것이 가능하다. 이러한 경우 도 35에서 설명한 시그날링 방법에서 vertical mode를 적은 비트수를 이용해서 시그날링하는 것이 가능하다.
또는 IntraPredModeY가 존재하지 않는 경우 IntraPredModeY를 horizontal mode(value 18)로 설정하는 것이 가능하다. 이러한 경우 도 35에서 설명한 시그날링 방법에서 horizontal mode를 적은 비트수를 이용해서 시그날링하는 것이 가능하다.
또다른 실시예로 IntraPredModeY가 존재하지 않는 경우 intra_chroma_pred_mode 값들에 해당하는 IntraPredModeC 값은 도 35에 나타내지 않은 값으로 정해질 수 있다. 즉, 도 35에서 IntraPredModeY 값이 존재하지 않는 경우의 column이 따로 존재할 수 있다. 예를 들면 intra_chroma_pred_mode 4, 0, 1, 2, 3에 해당하는 IntraPredModeC는 각각 0, 1, 50, 18일 수 있다. 또는 intra_chroma_pred_mode 4, 0, 1, 2, 3에 해당하는 IntraPredModeC는 각각 0, 50, 18, 1일 수 있다. 이것은 sps_cclm_enabled_flag가 0인 경우와 1인 경우 모두에 적용하는 것이 가능하다.
또다른 실시예로 IntraPredModeY가 존재하지 않는 경우 IntraPredModeC를 기설정된 값으로 설정하는 것이 가능하다. 예를 들면 IntraPredModeY가 존재하지 않는 경우 intra_chroma_pred_mode에 상관없이 IntraPredModeC를 기설정된 값으로 설정하는 것이 가능하다. 또한 IntraPredModeY가 존재하지 않는 경우 intra_chroma_pred_mode 값을 항상 0으로 시그날링하는 것이 가능하다. 예를 들면 IntraPredModeY가 존재하지 않는 경우 IntraPredModeC를 planar mode로 설정하는 것이 가능하다. 또는 IntraPredModeY가 존재하지 않는 경우 IntraPredModeC를 CCLM으로 설정하는 것이 가능하다. 또는 IntraPredModeY가 존재하지 않는 경우 IntraPredModeC를 DM mode로 설정하는 것이 가능하다. 또한 IntraPredModeY가 존재하지 않는 경우 도 34에서 설명한 intra_chroma_pred_mode를 parsing하지 않는 것이 가능하다.
또다른 실시예로 IntraPredModeY가 존재하지 않는 경우 IntraPredModeY를 참조하는 위치를 변경하는 것이 가능하다.
위 실시예들에서 IntraPredModeY가 존재하지 않는 경우는 chroma intra prediction mode를 derivation할 때 참조하는 해당 luma 위치 MODE_INTRA가 아닌 경우를 의미하는 것도 가능하다. 또는 (xCb, yCb) 위치의 chroma intra prediction mode를 derivation할 때 luma 성분에 해당하는 CuPredMode[ xCb + cbWidth/2][ yCb + cbHeight/2]가 MODE_INTRA가 아닌 경우, 또는 MODE_IBC인 경우를 의미하는 것이 가능하다.
또는 (xCb, yCb) 위치의 chroma intra prediction mode를 derivation할 때 luma 성분에 해당하는 IntraPredModeY[ xCb + cbWidth/2][ yCb + cbHeight/2]가 존재하지 않는 경우를 의미하는 것이 가능하다.
도 36을 참조하면 IntraPredModeC[ xCb ][ yCb ]를 derive할 때 IntraPredModeY[ xCb + cbWidth / 2 ][ yCb + cbHeight / 2 ]가 존재하지 않으면 IntraPredModeY[ xCb + cbWidth / 2 ][ yCb + cbHeight / 2 ]를 기설정된 값으로 설정할 수 있다. 그리고 IntraPredModeY[ xCb + cbWidth / 2 ][ yCb + cbHeight / 2 ] 및 도 35에서 설명한 Table을 참조하여 IntraPredModeC를 derive할 수 있다.
또한 IntraPredModeC[ xCb ][ yCb ]를 derive할 때 IntraPredModeY[ xCb + cbWidth / 2 ][ yCb + cbHeight / 2 ]가 존재하는 경우, IntraPredModeY[ xCb + cbWidth / 2 ][ yCb + cbHeight / 2 ] 및 도 35에서 설명한 Table을 참조하여 IntraPredModeC를 derive할 수 있다.
본 발명의 일 실시예를 따르면 chroma block을 prediction할 때 해당 luma block이 IBC mode를 사용한 경우 prediction mode가 제한될 수 있다. 더 구체적으로 chroma block을 intra prediction할 때 해당 luma block이 IBC mode를 사용한 경우 intra prediction mode가 제한될 수 있다. 예를 들어 이러한 경우 DM mode를 사용하지 않는 것이 가능하다. 해당하는 luma block과 chroma block가 다른 mode를 사용한 경우 둘 간의 유사성이 떨어질 수 있기 때문이다.
도 37은 본 발명의 일 실시예를 따른 coding unit syntax를 나타낸 도면이다.
본 발명의 일 실시예를 따르면 chroma block에 대한 motion information이 luma block에 대한 motion information과 따로 존재할 수 있다. 예를 들어 chroma block이 IBC mode를 사용하는 경우 chroma block에 대한 motion information이 luma block에 대한 motion information과 따로 존재할 수 있다.
도 37을 참조하면 treeType이 DUAL_TREE_CHROMA인 경우 motion information 관련 syntax element를 parsing하는 것이 가능하다. 예를 들어 treeType이 DUAL_TREE_CHROMA이고 CuPredMode가 MODE_IBC인 경우 motion information 관련 syntax element를 parsing하는 것이 가능하다. 상기 motion information 관련 syntax element는 merge_flag, merge_data 안의 syntax element, mvp_l0_flag, amvr_4pel_flag 등을 포함할 수 있다.
도 38은 본 발명의 일 실시예에 따른 syntax structure를 나타낸 도면이다.
본 발명의 일 실시예를 따르면 block size에 기반하여 prediction mode가 제한될 수 있다. 즉, block size에 기반하여 CuPredMode가 제한적일 수 있다. 예를 들면 inter prediction이 제한될 수 있다. 이것은 memory bandwidth 또는 computational complexity를 낮추기 위한 것일 수 있다. 예를 들면 작은 size의 block에서 prediction mode가 제한될 수 있다. 예를 들어 threshold 이하의 size의 block에서 prediction mode가 제한될 수 있다. 예를 들어 threshold는 4x4 size일 수 있다. 즉, 구체적인 실시예에서 4x4 이하 크기의 block에서 inter prediction이 사용되지 않을 수 있다.
또다른 실시예로 설명한 제한되는 prediction mode는 bi-prediction하는 inter prediction일 수 있다. 예를 들어 threshold 이하의 block size에서 bi-prediction이 사용되지 않을 수 있다. 이때 threshold는 4x8 또는 8x4 이하를 나타낼 수 있다. 예를 들어 threshold는 (width + height)가 12일 수 있다. 만약 bi-prediction이 제한되는 경우 bi-prediction을 uni-prediction으로 전환하는 과정이 존재하는 것이 가능하다. 또는 bi-prediction이 제한되는 경우 prediction 방향 또는 어떤 reference list를 쓰는지 나타내는 값이 제한적일 수 있다.
설명한 것처럼 prediction mode가 제한될 수 있고, 이에 따라 효율적인 시그날링을 위해 앞선 도면들에서 설명한 것과 다른 syntax structure를 사용할 수 있다.
본 발명의 일 실시예를 따르면 MODE_INTRA인 경우에는 skip mode를 사용하지 않을 수 있다. 따라서 MODE_INTRA인 경우에 cu_skip_flag가 0일 수 있다. 따라서 만약 cu_skip_flag가 1인 경우에 MODE_INTRA가 아닌 것으로 판단할 수 있다.
도 38을 참조하면 tile group type이 I가 아니거나 sps_ibc_enabled_flag가 1인 경우에 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag를 parsing하는 것이 가능하다. 또한 이때 추가적인 conditions를 고려하여 parsing할 수 있다. 즉, tile group type이 I이고 sps_ibc_enabled_flag가 0인 경우에는 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag를 parsing하지 않을 수 있다. 일 실시예를 따르면 CuPredMode는 MODE_INTRA, MODE_INTER, MODE_IBC 중 하나의 값일 수 있다. 만약 tile group type이 I인 경우 가능한 CuPredMode 값은 MODE_INTRA 또는 MODE_IBC일 수 있다. 그러나 MODE_IBC가 제한된 경우, 예를 들면 sps_ibc_enalbed_flag가 0인 경우에 가능한 CuPredMode 값은 MODE_INTRA 뿐일 수 있다. 따라서 tile group type이 I이고 sps_ibc_enabled_flag가 0인 경우에는 pred_mode_flag, pred_mode_ibc_flag를 parsing하지 안ㅇㅎ고 CuPredMode를 MODE_INTRA로 판단할 수 있다. 또한 앞서 설명한 것처럼 cu_skip_flag를 0으로 판단할 수 있다.
본 발명의 일 실시예를 따르면 block size에 기초하여 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag를 parsing할 수 있다.
예를 들어 inter prediction이 제한되는 block size이고, IBC 사용이 불가한 경우 cu_skip_flag를 parsing하지 않을 수 있다. 즉, inter prediction를 사용할 수 있는 block size이거나 IBC 사용이 가능한 경우 cu_skip_flag를 parsing하는 것이 가능하다. 만약 inter prediction이 제한되는 block size이고, IBC 사용이 불가한 경우에는 CuPredMode를 MODE_INTRA로 판단할 수 있다. 이러한 경우 cu_skip_flag 값을 0으로 판단, infer할 수 있다. 일 실시예로 inter prediction이 제한되는 block size는 4x4 block 일 수 있다. 또한 IBC 사용이 불가한 경우는 sps_ibc_enabled_flag가 0인 경우일 수 있다.
본 발명의 일 실시예를 따르면 inter prediction이 제한되는 block size이면 pred_mode_flag를 parsing하지 않을 수 있다. 본 발명의 일 실시예를 따르면 pred_mode_flag 값에 기초하여 CuPredMode가 MODE_INTRA인지 MODE_INTER인지 결정하는 것이 가능하다. 만약 inter prediction이 제한되는 block size이면 pred_mode_flag를 CuPredMode가 MODE_INTRA를 나타내는 값인 것으로 판단할 수 있다. 또한 CuPredMode는 pred_mode_ibc_flag에 기초해서 변경될 수 있다. 즉, CuPredMode는 pred_mode_flag 및 pred_mode_ibc_flag에 기초하여 결정될 수 있고, pred_mode_flag에만 기초하여 결정한 CuPredMode를 pred_mode_ibc_flag에 기초하여 변경할 수 있다. 일 실시예를 따르면 pred_mode_ibc_flag 값에 따라 CuPredMode가 MODE_IBC인지, pred_mode_flag에만 기초하여 결정한 값인지 결정할 수 있다.
만약 inter prediction이 제한되지 않는 block size이면 pred_mode_flag를 parsing하는 것이 가능하다. 이때 추가적인 조건을 고려할 수 있다. 예를 들어 cu_skip_flag 또는 tile group type에 기초하여 pred_mode_flag parsing 여부를 결정할 수 있다. 설명한 것처럼 pred_mode_flag는 CuPredMode가 MODE_INTRA인지 MODE_INTER인지 결정하는 값일 수 있는데 cu_skip_flag 또는 tile group type에 기초하여 CuPredMode가 제한되는 경우가 발생할 수 있기 때문이다. 예를 들어 tile group type이 I인 경우 CuPredMode가 MODE_INTRA 값만 가능할 수 있다. 또한 tile group type이 I가 아닌 경우, 즉 tile group type이 P or B인 경우 CuPredMode가 MODE_INTRA와 MODE_INTER 모두 가능할 수 있다. 그러나 만약 tile group type이 I가 아닌 경우 cu_skip_flag가 1인 경우 CuPredMode가 MODE_INTER 값만 가능할 수 있다. 따라서 본 발명의 일 실시예를 따르면 cu_skip_flag가 1이거나 tile group type이 I인 경우에는 pred_mode_flag를 parsing하지 않을 수 있다. 따라서 본 발명의 일 실시예를 따르면 tile group type이 I인 경우에는 pred_mode_flag 또는 CuPredMode를 MODE_INTRA를 나타내는 값으로 infer할 수 있다. 또한 tile group type이 P or B인 경우에는 pred_mode_flag 또는 CuPredMode를 MODE_INTER를 나타내는 값으로 infer할 수 있다.
일 실시예로 inter prediction이 제한되는 block size는 4x4 block 일 수 있다. 또는 inter prediction이 제한되는 block size는 4x4 이하의 block 일 수 있다.
또한 inter prediction이 제한되는 block size에 기초하여 pred_mode_ibc_flag를 parsing할 수 있다. 또한 cu_skip_flag에 기초하여 pred_mode_ibc_flag를 parsing할 수 있다. 일 실시예를 따르면 inter prediction이 제한되는 block size이고, cu_skip_flag가 1인 경우 pred_mode_ibc_flag를 parsing하지 않을 수 있다. 앞서 설명한 것처럼 inter prediction이 제한되는 block size에서는 CuPredMode가 MODE_INTER가 아닐 수 있다. 또한 cu_skip_flag가 1인 경우 CuPredMode가 MODE_IBC가 아닐 수 있다. 따라서 inter prediction이 제한되는 block size이고, cu_skip_flag가 1인 경우 pred_mode_ibc_flag 또는 CuPredMode를 MODE_IBC로 판단, infer할 수 있다. 또한 이것은 MODE_IBC로 설정하는 것이 가능한 경우일 수 있다. 예를 들어 sps_ibc_enabled_flag가 1인 경우 MODE_IBC로 설정하는 것이 가능한 것일 수 있다. 따라서 inter prediction이 제한되는 block size이고, cu_skip_flag가 1인 경우 pred_mode_ibc_flag 또는 CuPredMode를 sps_ibc_enabled_flag에 따라 판단, infer할 수 있다. 더 구체적으로 inter prediction이 제한되는 block size이고, cu_skip_flag가 1인 경우 pred_mode_ibc_flag를 sps_ibc_enabled_flag로 infer할 수 있다. 또한 inter prediction이 제한되지 않는 block size이거나 cu_skip_flag가 0인 경우 pred_mode_ibc_flag를 parsing하는 것이 가능하다.
또한 tile group type이 I이고 cu_skip_flag가 1인 경우 pred_mode_ibc_flag를 parsing하지 않는 것이 가능하다. 또한 이때 pred_mode_ibc_flag 또는 CuPredMode를 MODE_IBC를 나타내는 값으로 판단, infer하는 것이 가능하다. I tile group에서 가능한 CuPredMode 값은 MODE_INTRA, MODE_IBC인데, MODE_INTRA일 때는 skip mode를 사용하지 않기 때문일 수 있다. 따라서 tile group type이 I이고 cu_skip_flag가 0인 경우 pred_mode_ibc_flag를 parsing하는 것이 가능하다.
또한 tile group type이 I가 아닌 경우, CuPredMode가 MODE_INTRA이고, inter prediction이 제한되는 block size가 아닌 경우 pred_mode_ibc_flag를 parsing하지 않을 수 있다. 이러한 경우 pred_mode_ibc_flag 없이 prediction mode를 결정할 수 있기 때문일 수 있다. 또한 tile group type이 I가 아닌 경우, CuPredMode가 MODE_INTRA가 아니거나 inter prediction이 제한되는 block size인 경우 pred_mode_ibc_flag를 parsing할 수 있다. 또한 이때 추가적인 조건을 고려하여 pred_mode_ibc_flag를 parsing할 수 있다. 예를 들어 tile group type이 I가 아닌 경우, CuPredMode가 MODE_INTRA인 경우 inter prediction이 제한되는 block인 경우 pred_mode_ibc_flag를 parsing하는 것이 가능하다. Inter prediction이 제한되더라도 최종적인 prediction mode는 MODE_INTRA 또는 MODE_IBC로 결정될 수 있기 때문이다. 이때 추가적으로 cu_skip_flag가 0인 경우에 pred_mode_ibc_flag를 parsing하는 것이 가능하다.
일 실시예로 inter prediction이 제한되는 block size는 4x4 block 일 수 있다. 또는 inter prediction이 제한되는 block size는 4x4 이하의 block 일 수 있다.
도 39는 본 발명의 일 실시예에 따른 시그날링 값 infer 방법을 나타낸 도면이다.
도 39를 참조하면 도 38에서 설명한 것과 같이 pred_mode_flag 또는 pred_mode_ibc_flag를 infer할 수 있다. 또는 도 38에서 설명한 것과 같이 CuPredMode를 결정할 수 있다. 또한 도 39의 pred_mode_flag, pred_mode_ibc_flag는 각각 도 38의 pred_mode_flag, pred_mode_ibc_flag와 같은 시그날링일 수 있다.
본 발명의 일 실시예를 따르면 pred_mode_flag 값에 기초하여 CuPredMode를 MODE_INTER 또는 MODE_INTRA로 결정할 수 있다. 이 값을 MODE_TEMP라고 하면, pred_mode_ibc_flag 값에 기초하여 CuPredMode를 MODE_TEMP 또는 MODE_IBC로 결정할 수 있다.
도 38에서 설명한 것처럼 inter prediction이 제한되는 block size인 경우에 pred_mode_flag를 MODE_INTRA를 나타내는 값으로 infer할 수 있다. 즉, inter prediction이 제한되는 block size인 경우에 pred_mode_flag를 1로 infer할 수 있다. 도 39를 참조하면 block size가 4x4인 경우에 pred_mode_flag 값을 1로 infer할 수 있다.
또한 도 38에서 설명한 것처럼 inter prediction이 제한되는 block size이고, skip mode인 경우에 pred_mode_ibc_flag를 MODE_IBC를 나타내는 값으로 infer할 수 있다. 이것은 MODE_IBC를 사용하는 것이 가능한 경우일 수 있다. 예를 들어 MODE_IBC를 사용하는 것이 가능한 것은 sps_ibc_enabled_flag가 1인 경우일 수 있다. 예를 들어 inter prediction이 제한되는 block size이고, skip mode인 경우에 pred_mode_ibc_flag를 sps_ibc_enabled_flag 값으로 infer할 수 있다. 도 39를 참조하면 block size가 4x4이고, skip mode인 경우에 pred_mode_ibc_flag를 sps_ibc_enabled_flag 값으로 infer할 수 있다.
도 40은 본 발명의 일 실시예에 따른 시그날링 값 infer 방법을 나타낸 도면이다.
도 38 내지 도 39에서 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag, CuPredMode를 parsing하거나 infer하거나 결정하는 방법을 설명하였다. 그러나 도 39에서 나타낸 infer 방법에서 conflict가 있는 경우가 발생할 수 있다.
예를 들어 inter prediction이 제한되는 block size이고, tile group type이 P or B인 경우에 pred_mode_flag 값을 infer하기 어려울 수 있다. 도 39에서 pred_mode_flag 값을 두 가지 값 중 하나로 infer할 수 있는데 두 경우를 모두 만족할 수 있다.
또한 inter prediction이 제한되는 block size이고, skip mode이고, tile group type이 P or B인 경우에 pred_mode_ibc_flag 값을 infer하기 어려울 수 있다. 도 39에서 pred_mode_ibc_flag 값을 두 가지 값 중 하나로 infer할 수 있는데 두 경우를 모두 만족할 수 있다.
도 40은 이 문제를 해결하기 위한 실시예일 수 있다.
Tile group type이 P or B인 경우 가능한 prediction mode는 MODE_INTRA, MODE_INTER, MODE_IBC인 것이 가능하다. 만약 이때 inter prediction이 제한되는 block size인 경우에 MODE_INTRA, MODE_INTER, MODE_IBC 중 MODE_INTER를 이용할 수 없을 수 있다. 따라서 본 발명의 일 실시예를 따르면 이 경우에 pred_mode_flag를 MODE_INTRA를 나타내는 값으로 infer하는 것이 가능하다. MODE_IBC 결정은 pred_mode_ibc_flag를 통해서 하는 것이 가능하기 때문이다. 따라서 다음과 같이 정리할 수 있다.
만약 tile group type이 I 이거나 inter prediction이 제한되는 block size인 경우에 pred_mode_flag를 MODE_INTRA를 나타내는 값으로 infer할 수 있다. 또한 1) tile group type이 P or B이고, 2) inter prediction이 제한되는 block size가 아닌 경우에 pred_mode_flag를 MODE_INTER를 나타내는 값으로 infer할 수 있다.
Tile group type이 P or B인 경우 가능한 prediction mode는 MODE_INTRA, MODE_INTER, MODE_IBC인 것이 가능하다. 만약 이때 inter prediction이 제한되는 block size인 경우에 MODE_INTRA, MODE_INTER, MODE_IBC 중 MODE_INTER를 이용할 수 없을 수 있다. 또한 skip mode인 경우에 MODE_INTRA, MODE_INTER, MODE_IBC 중 MODE_INTRA를 이용할 수 없을 수 있다. 따라서 tile group type이 P or B이고, inter prediction이 제한되는 block size이고, skip mode인 경우에 MODE_IBC만을 사용할 수 있을 수 있다. 따라서 이 경우에 pred_mode_ibc_flag를 1로 infer하는 것이 가능하다. 따라서 다음과 같이 정리할 수 있다.
만약 1) tile group type이 I이거나 2) inter prediction이 제한되는 block size이고 skip mode인 경우에 pred_mode_ibc_flag를 MODE_IBC를 나타내는 값, 예를 들면 1로 infer할 수 있다. 또한 i) tile group type이 P or B이고 ii) inter prediction이 제한되는 block size가 아니거나 skip mode가 아닌 경우에 pred_mode_ibc_flag를 MODE_IBC를 나타내지 않는 값, 예를 들면 0으로 infer할 수 있다.
일 실시예로 inter prediction이 제한되는 block size는 4x4 block 일 수 있다. 또는 inter prediction이 제한되는 block size는 4x4 이하의 block 일 수 있다.
도 40은 설명한 pred_mode_flag, pred_mode_ibc_flag infer 방법을 inter prediction이 제한되는 block size가 4x4인 경우의 예로 나타내고 있다.
또한 설명한 발명들에서 tile group type은 slice type일 수 있다.
또한 skip mode인지 여부는 cu_skip_flag를 통해 결정될 수 있다.
도 41은 본 발명의 일 실시예에 따른 inter_pred_idc 값과 binarization을 나타낸 도면이다.
도 38에서 설명한 것처럼 block size에 기초하여 bi-prediction이 사용되지 않을 수 있다. 따라서 본 발명의 일 실시예에 따라서 어떤 block size에서는 가능한 inter prediction이 L0 uni-prediction, L1 uni-prediction, bi-prediction일 수 있고, 어떤 block size에서는 가능한 inter prediction이 L0 uni-prediction, L1 uni-prediction일 수 있다. 또한 어떤 inter prediction인지 inter_pred_idc를 통해 나타내는 것이 가능하다. 또한 L0 uni-prediction은 reference list 0만을 사용하는 inter prediction일 수 있다. 또한 L1 uni-prediction은 reference list 1만을 사용하는 inter prediction일 수 있다. 또한 bi-prediction은 reference list 0과 reference list 1을 모두 사용하는 inter prediction일 수 있다. 또한 어떤 inter prediction인지는 CU 별로 결정되는 것이 가능하다. 또한 L0 uni-prediction, L1 uni-prediction, bi-prediction을 나타내는 inter_pred_idc 값은 각각 PRED_L0, PRED_L1, PRED_BI일 수 있다. 또한 L0 uni-prediction, L1 uni-prediction, bi-prediction을 나타내는 inter_pred_idc 값은 각각 0, 1, 2일 수 있다.
본 발명의 일 실시예를 따르면 bi-prediction이 사용되지 않는 block size의 경우에는 bi-prediction에 해당하는 inter_pred_idc 값이 존재하지 않을 수 있다.
또한 inter_pred_idc를 나타내기 위한 binarization 방법이 존재할 수 있다. 또한 이 방법은 bi-prediction이 허용되는 block과 허용되지 않는 block에서 다를 수 있다. 또한 이것은 inter_pred_idc를 parsing하는 경우에 사용하는 bin string일 수 있다. 만약 bi-prediction이 허용되는 경우에 inter_pred_idc로 L0 uni-prediction 또는 L1 uni-prediction 또는 bi-prediction에 해당하는 값들이 가능할 수 있다. 이를 나타내기 위해 inter_pred_idc를 variable length binarization 방법으로 나타낼 수 있다. 예를 들어 L0 uni-prediction, L1 uni-prediction, bi-prediction에 해당하는 값을 각각 00, 01, 1로 나타낼 수 있다. 또는 L0 uni-prediction, L1 uni-prediction, bi-prediction에 해당하는 값을 각각 10, 11, 0으로 나타낼 수 있다. 또한 만약 bi-prediction이 허용되지 않는 경우에 inter_pred_idc로 L0 uni-prediction 또는 L1 uni-prediction에 해당하는 값들이 가능할 수 있다. 따라서 inter_pred_idc를 1-bit로 나타낼 수 있다. 예를 들어 L0 uni-prediction, L1 uni-prediction에 해당하는 값을 각각 0, 1로 나타낼 수 있다. 또는 L0 uni-prediction, L1 uni-prediction에 해당하는 값을 각각 1, 0로 나타낼 수 있다.
일 실시예를 따르면 bi-prediction이 사용되지 않는 block size는 threshold 이하의 block size일 수 있다. 예를 들어 threshold는 4x8 block 또는 8x4 block일 수 있다. 만약 4x4 inter prediction이 허용되지 않는 경우 bi-prediction이 사용되지 않는 block size는 4x8 or 8x4 block 일 수 있다. 또한 4x4 block은 (width + height == 8)인 것으로 나타낼 수 있다. 또한 4x8 or 8x4 block은 (width + height == 12)인 것으로 나타낼 수 있다.
도 41을 참조하면 4x8 or 8x4 block인 경우에 inter_pred_idc는 PRED_L0, PRED_L1에 해당하는 값만 존재할 수 있다. 또한 이 경우에 inter_pred_idc를 0 또는 1로 나타낼 수 있다.
도 42는 본 발명의 일 실시예에 따른 inter_pred_idc 값과 binarization을 나타낸 도면이다.
도 41에서 설명한 것처럼 inter_pred_idc가 나타낼 수 있는 값의 set 및 그 시그날링 방법이 다수 존재할 수 있다. 예를 들어 어떤 block에서는 inter_pred_idc가 나타낼 수 있는 값의 종류가 3가지 있고, 이때 1 내지 2 bit를 사용해서 시그날링할 수 있다. 또한 어떤 block에서는 inter_pred_idc가 나타낼 수 있는 값의 종류가 2가지 있고, b-bit를 사용해서 시그날링할 수 있다. 또한 이때 inter_pred_idc가 나타낼 수 있는 값의 종류와 시그날링은 block size에 기초하여 달라지는 것이 가능하다. 예를 들어 bi-prediction이 허용되는 block size인지 아닌지에 따라 inter_pred_idc가 나타낼 수 있는 값의 종류와 시그날링이 달라지는 것이 가능하다.
그러나 도 41에서 설명한 방법에서 어떤 block size의 경우에 inter_pred_idc가 나타낼 수 있는 값의 종류와 시그날링에 ambiguity가 있는 경우가 있을 수 있다. 예를 들어 block size가 4x8 or 8x4인 경우 (width + height) !=8 조건과 ((width+height == 8) || (width+height == 12)) 조건을 모두 만족시킬 수 있다. 따라서 encoder, decoder 간의 시그날링 및 비트스트림이 불일치하는 경우가 발생할 수 있다.
도 42의 실시예는 이 문제를 해결하기 위한 방법일 수 있다. 본 발명의 일 실시예를 따르면 condition1을 만족시키는 경우와 !condition1을 만족시키는 경우에 inter_pred_idc가 나타낼 수 있는 값의 종류와 시그날링 방법이 다를 수 있다. 예를 들면 condition1은 bi-prediction이 허용되지 않는 block size 조건일 수 있다. 예를 들면 condition1은 4x8 or 8x4 block인 조건일 수 있다. 만약 bi-prediction이 허용되지 않는 경우에 inter_pred_idc를 2 bit를 사용해서 시그날링하는 경우가 발생하면 시그날링이 효율적이지 않은 것일 수 있다. Bi-prediction이 허용되지 않는 경우에 inter_pred_idc 값으로 PRED_BI를 나타내지 않을 것이기 때문이다. 일 실시예로 bi-prediction이 허용되지 않는 block size 조건은 4x8 or 8x4 이하의 block size일 수 있다. 따라서 bi-prediction이 허용되지 않는 block size는 4x8 또는 8x4 또는 4x4일 수 있다.
도 42를 참조하면 width + height가 8 또는 12인 경우 inter_pred_idc로 가능한 값은 PRED_L0, PRED_L1일 수 있다. 또한 이때 1-bit를 통해 inter_pred_idc를 나타낼 수 있다. 시그날링은 0 또는 1일 수 있다. 또한 width + height가 8이 아니고 12가 아닌 경우 inter_pred_idc로 가능한 값은 PRED_L0, PRED_L1, PRED_BI일 수 있다. 또한 이때 1- or 2-bit를 통해 inter_pred_idc를 나타낼 수 있다. 시그날링은 00, 01, 1일 수 있다.
도 43은 본 발명의 일 실시예에 따른 inter_pred_idc 값과 binarization을 나타낸 도면이다.
도 43은 도 41 내지 도 42에서 설명한 문제를 해결하기 위한 실시예일 수 있다. 또한 도 43은 도 42의 실시예에서 효율성을 높인 방법일 수 있다. 앞서 설명한 것처럼 inter prediction이 허용되지 않는 block size가 존재할 수 있다. 도 42의 실시예에서 inter prediction이 허용되지 않는 block size를 고려하지 않으면 불필요한 condition check가 필요할 수 있다. 예를 들어 inter prediction이 허용되지 않는 경우에 inter_pred_idc 값은 의미가 없을 수 있다. 그런데 inter_pred_idc 시그날링에서 inter prediction이 허용되지 않는 경우의 조건을 체크한다면 이것은 의미가 없을 수 있다. 따라서 본 발명의 일 실시예에 따르면 inter prediction이 허용되지 않는 경우의 조건 체크 없이 bi-prediction이 허용되지 않는 경우의 조건 체크를 하여 inter_pred_idc 시그날링 및 값의 set를 결정할 수 있다. 예를 들어 inter prediction이 허용되지 않는 경우는 4x4 block size일 수 있고, bi-prediciton이 허용되지 않는 경우는 4x8 or 8x4 block size일 수 있다.
도 43을 참조하면 width + height가 12인 경우 inter_pred_idc로 가능한 값은 PRED_L0, PRED_L1일 수 있다. 또한 이때 1-bit를 통해 inter_pred_idc를 나타낼 수 있다. 시그날링은 0 또는 1일 수 있다. 또한 width + height가 12가 아닌 경우 inter_pred_idc로 가능한 값은 PRED_L0, PRED_L1, PRED_BI일 수 있다. 또한 이때 1- or 2-bit를 통해 inter_pred_idc를 나타낼 수 있다. 시그날링은 00, 01, 1일 수 있다.
따라서 사실상 도 43의 실시예에서 4x4 block의 경우에는 inter_pred_idc 값의 set와 시그날링은 도 43의 2개 column 중 왼쪽(전체에서 3번째 column)에 해당하게 되고 이는 도 42의 실시예에서와 다를 수 있다.
본 발명의 일 실시예를 따르면 treeType이 DUAL_TREE_CHROMA인 경우 cu_skip_flag를 parsing하는 것이 가능할 수 있다. treeType이 DUAL_TREE_CHROMA인 것은 luma block와 chroma block의 partitioning이 다를 수 있고, chroma에 해당하는 것을 processing하는 것을 나타낼 수 있다. 또한 treeType이 DUAL_TREE_CHROMA인 경우 MODE_IBC를 사용하는 것이 가능할 때 cu_skip_flag를 parsing하는 것이 가능할 수 있다. MODE_IBC를 사용하는 것이 가능할 때는 sps_ibc_enabled_flag가 1인 경우일 수 있다. 이것은 chroma block의 prediction mode가 MODE_IBC인 경우 skip mode를 사용할 수 있게 하기 위함일 수 있다.
도 44는 본 발명의 일 실시예에 따른 coding unit syntax 구조를 나타낸 도면이다.
도 44에서 나타내고 있는 syntax element들은 앞선 도면들에서 설명한 syntax element들일 수 있고, 중복된 설명을 생략했을 수 있다. 또한 본 발명은 도 27에서 설명한 부분을 포함할 수 있다.
앞서 설명한 것처럼 다수의 prediction mode가 존재할 수 있다. 예를 들면 상기 다수의 prediction mode는 MODE_INTRA, MODE_IBC, MODE_INTER를 포함할 수 있다. 도 44를 참조하면 prediction mode는 CuPredMode에 의해 나타내어질 수 있다. 또한 현재 picture만을 참조하는 prediction mode로 MODE_INTRA, MODE_IBC가 있을 수 있다. 또한 MODE_IBC는 block vector 또는 motion vector 또는 motion information 등을 사용하여 prediction에 참조할 block을 지시할 수 있다. 또한 MODE_INTER는 다른 picture를 참조하는 것이 가능하다. 또한 slice의 type, tile group의 type 등에 따라 사용하는 prediction mode가 제한적일 수 있다. 예를 들어 slice의 type, tile group의 type은 slice_type, tile_group_type 등에 의해 나타내어질 수 있다. 이하 설명에서 slice_type이라고 쓴 것은 tile_group_type에 대해서도 적용될 수 있다. 또한 slice_type이 X인 것은 X slice인 것일 수 있다. 또한 tile_group_type이 X인 것은 X tile group인 것일 수 있다. 또한 I slice는 MODE_INTRA 또는 MODE_IBC를 사용할 수 있을 수 있다, I slice는 MODE_INTER를 사용할 수 없을 수 있다.
본 발명의 일 실시예를 따르면 MODE_INTRA인 경우에는 skip mode를 사용하지 않을 수 있다. 즉, MODE_INTRA인 경우에는 cu_skip_flag 값이 항상 같은 값일 수 있다. 예를 들면 MODE_INTRA인 경우에는 cu_skip_flag 값이 항상 0일 수 있다. 또한 반대로 skip mode를 사용한다고 지시한 경우에 MODE_INTRA가 아닐 수 있다. 즉, cu_skip_flag 값에 기초하여 prediction mode를 결정할 수 있고, 예를 들면 cu_skip_flag 값에 기초하여 prediction mode가 (MODE_INTRA, MODE_INTER, or MODE_IBC)인지 (MODE_INTER, or MODE_IBC)인지 결정할 수 있다.
본 발명의 일 실시예를 따르면 prediction mode는 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag에 기초하여 결정될 수 있다. 예를 들어 pred_mode_ibc_flag는 MODE_IBC인지 아닌지를 나타내는 시그날링일 수 있다. 예를 들어 만약 pred_mode_ibc_flag 값이 1인 경우 CuPredMode는 MODE_IBC일 수 있고, pred_mode_ibc_flag 값이 0인 경우 CuPredMode는 MODE_INTRA 또는 MODE_INTER일 수 있다. 이에 대하여 도 45에서 더 설명한다.
본 발명의 일 실시예를 따르면 block size에 기초하여 prediction mode가 제한적일 수 있다. 일 실시예로 block size에 기초하여 MODE_INTER를 사용하지 않을 수 있다. 예를 들면 앞서 설명한 것처럼 작은 block size에 대해 MODE_INTER를 사용하지 않을 수 있다. 예를 들면 block size가 4x4인 경우 MODE_INTER를 사용하지 않을 수 있다. 따라서 이러한 size의 block에 대해 MODE_INTRA 또는 MODE_IBC 만을 사용할 수 있다. 이에 따라 앞서 설명한 것처럼 MODE_INTER를 사용할 수 없는 block size이고 MODE_IBC를 사용할 수 없는 경우, cu_skip_flag를 parsing하지 않고, 그 값을 skip mode를 사용하지 않는다는 것을 나타내는 값, 예를 들면 0으로 infer 할 수 있다. MODE_IBC를 사용할 수 없는 경우는 상위 레벨 시그날링으로 IBC를 사용할 수 없음을 나타낸 경우를 포함할 수 있다. 도 44를 참조하면 IBC를 사용할 수 있는지 없는지를 나타내는 상위 레벨 시그날링은 sps_ibc_enabled_flag일 수 있고, IBC를 사용할 수 없는 경우 sps_ibc_enabled_flag 값이 0일 수 있다. 또한 MODE_INTER를 사용할 수 없는 block size인 경우, pred_mode_flag를 parsing하지 않고, 그 값을 MODE_INTRA를 나타내는 값, 예를 들면 1로 infer 할 수 있다. 또한 MODE_INTER를 사용할 수 없는 block size인 경우, skip mode를 사용하는 경우 pred_mode_ibc_flag를 parsing하지 않고, 그 값을 MODE_IBC를 사용하는 것을 나타내는 값, 예를 들면 1로 infer 할 수 있다.
또다른 실시예로 block size에 기초하여 MODE_IBC를 사용하지 않을 수 있다. MODE_IBC를 사용하지 않는다는 것은 MODE_IBC를 사용하는지 나타내는 시그날링(예를 들면 pred_mode_ibc_flag)이 MODE_IBC를 사용하지 않는다는 것을 나타내는 기설정된 값(예를 들면 0)인 것을 의미할 수 있다. 또한 MODE_IBC를 사용하지 않는다는 것은 MODE_IBC를 사용하는지 나타내는 시그날링을 parsing하지 않는다는 것을 의미할 수 있다. 예를 들면 큰 block size에 대해 MODE_IBC를 사용하지 않을 수 있다. 예를 들면 width, height가 모두 128 이상인 block에 대해 MODE_IBC를 사용하지 않을 수 있다. 또는 width, height가 모두 128인 block에 대해 MODE_IBC를 사용하지 않을 수 있고, 또한 width 또는 height가 128보다 큰 것이 불가할 수 있다. 따라서 도 44를 참조하면 width 또는 height가 128이 아닌 경우 pred_mode_ibc_flag를 parsing할 수 있다. 또한 width와 height가 모두 128인 경우 pred_mode_ibc_flag를 parsing하지 않을 수 있다. 또한 width와 height가 모두 128인 경우 pred_mode_ibc_flag를 0으로 infer 할 수 있다.
Block의 width, height는 각각 cbWidth, cbHeight일 수 있고, 이것은 coding unit이나 prediction unit인 block에 대해서일 수 있다.
도 44를 참조하면 block size가 128x128인 경우 혹은 128x128 이상인 경우에 cu_skip_flag를 parsing할 수 있다. 그러나 block size에 기초하여 prediction mode가 제한적일 경우 더 효율적인 시그날링을 하는 것이 가능하다. 이에 대하여 도 46 이하에서 더 설명한다.
도 44를 참조하면 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag에 기초하여 prediction mode를 결정하는 것이 가능하다. 또한 결정한 prediction mode에 기초하여 prediction을 수행할 수 있다. 즉 결정한 prediction mode에 기초하여 prediction signal을 생성할 수 있고, 결정한 prediction mode에 기초하여 block을 복원할 수 있다.
도 44를 참조하면 pcm_flag, pcm_alignment_zero_bit, intra_mip_flag, intra_mip_mpm_flag, intra_mip_mpm_idx, intra_mip_mpm_remainder, intra_luma_ref_idx, intra_subpartitions_mode_flag, intra_subpartitions_split_flag, intra_luma_mpm_flag, intra_luma_not_planar_flag, intra_luma_mpm_idx, intra_luma_mpm_remainder, intra_chroma_pred_mode 등은 intra prediction과 관련한 syntax element일 수 있다. 또한 상기 intra prediction과 관련한 syntax element는 MODE_INTRA와 관련된 syntax element 일 수 있다. 또한 상기 intra prediction과 관련한 syntax element에 기초하여 prediction을 수행하는 것이 가능하다.
도 45는 본 발명의 일 실시예에 따른 skip mode, prediction mode 시그날링을 나타낸 도면이다.
도 44에서 설명한 것처럼 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag와 prediction mode 간의 관계가 존재할 수 있다. 또한 이것은 block size와도 연관있을 수 있다.
도 45를 참조하면 cu_skip_flag에 기초해서 이후의 syntax element parsing 여부가 결정될 수 있다. 예를 들어 cu_skip_flag가 1인 경우 P slice 또는 B slice에 대해서는 pred_mode_ibc_flag와 merge_data syntax structure 이외의 syntax element가 coding unit에서 cu_skip_flag parsing 이후 parsing되지 않는 것일 수 있다. 또한 cu_skip_flag가 1인 경우 I slice에 대해서는 merge_idx 이회의 syntax element가 coding unit에서 cu_skip_flag parsing 이후 parsing되지 않는 것일 수 있다. 또한 cu_skip_flag가 0인 경우 coding unit 이 skip되지 않는 것일 수 있다. 만약 cu_skip_flag가 존재하지 않는 경우 그 값을 0으로 infer할 수 있다.
도 45를 참조하면 pred_mode_flag에 기초해서 CuPredMode가 결정되는 것이 가능하다. 일 실시예를 따르면 pred_mode_flag가 0인 것은 inter prediction mode를 사용하는 것을 의미할 수 있고, CuPredMode가 MODE_INTER로 설정될 수 있다. 또한 pred_mode_flag가 1인 것은 intra prediction mode를 사용하는 것을 의미할 수 있고, CuPredMode가 MODE_INTRA로 설정될 수 있다. 또한 pred_mode_ibc_flag에 기초해서 CuPredMode가 설명한 MODE_INTER, MODE_INTRA 외의 다른 값으로 설정될 수 있다.
본 발명의 일 실시예를 따르면 pred_mode_flag가 존재하지 않는 경우, width와 height가 모두 4일 때 pred_mode_flag 값을 1로 infer할 수 있다. 또한 pred_mode_flag가 존재하지 않는 경우, width 또는 height가 4가 아닌 경우 pred_mode_flag 값을 I slice에서는 1로 infer하고, P or B slice에서는 0으로 infer할 수 있다.
도 45를 참조하면 pred_mode_ibc_flag는 IBC prediction mode를 사용하는지 여부를 나타낼 수 있다. 예를 들어 pred_mode_ibc_flag가 1인 경우 IBC prediction mode를 사용하고, pred_mode_ibc_flag가 0인 경우 IBC prediction mode를 사용하지 않는 것일 수 있다. 또한 pred_mode_ibc_flag가 1인 경우 CuPredMode를 MODE_IBC로 설정할 수 있다.
만약 pred_mode_ibc_flag가 존재하지 않는 경우 다음과 같이 그 값을 infer할 수 있다. 1) 만약 cu_skip_flag가 1이고, width와 height가 모두 4인 경우 pred_mode_ibc_flag를 1로 infer할 수 있고, 2) 그렇지 않고 width와 height가 모두 128인 경우 pred_mode_ibc_flag를 0으로 infer할 수 있고, 3) 그렇지 않은 경우 I slice에서는 pred_mode_ibc_flag를 sps_ibc_enabled_flag 값으로 infer하고, P or B slice에서는 pred_mode_ibc_flag를 0으로 infer할 수 있다.
도 44에서 설명한 것처럼 도 45의 발명에서 width와 height가 모두 4인 경우는 MODE_INTER가 사용되지 않는 경우, width와 height가 모두 128인 경우는 MODE_IBC가 사용되지 않는 경우의 구체적인 실시예일 수 있다.
도 46은 본 발명의 일 실시예에 따른 coding unit syntax 구조를 나타낸 도면이다.
도 44에서 설명한 것처럼 block size에 기초하여 prediction mode를 제한할 수 있고, 이에 따라 더욱 효율적인 시그날링을 하는 것이 가능하다.
본 발명의 일 실시예를 따르면 slice type과 block size에 기초하여 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag parsing 여부를 결정할 수 있다. 이것은 slice type 또는 block size에 기초하여 prediction mode가 제한적일 수 있기 때문이다. 예를 들면 I slice인 경우 block size에 기초하여 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag parsing 여부를 결정할 수 있다. 예를 들면 I slice이고, MODE_IBC를 사용할 수 없는 block size인 경우 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag를 parsing하지 않을 수 있다. 또한 I slice이고, MODE_IBC를 사용할 수 없는 block size인 경우 CuPredMode를 MODE_INTRA로 결정, 설정할 수 있다. 일 실시예로 MODE_IBC를 사용할 수 없는 block size는 width와 height가 모두 128인 경우일 수 있다. 또다른 실시예로 MODE_IBC를 사용할 수 없는 block size는 width와 height가 모두 128 이상인 경우일 수 있다. 또한 I slice이고, MODE_IBC를 사용할 수 없는 block size인 경우 cu_skip_flag를 0으로 infer할 수 있고, pred_mode_flag를 1로 infer할 수 있고, pred_mode_ibc_flag를 0으로 infer할 수 있다.
도 46을 참조하면 slice_type이 I이고, cbWidth가 128 이고, cbHeight가 128인 경우 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag를 parsing하지 않을 수 있다. 이때 slice_type이 I이고, cbWidth가 128 이고, cbHeight가 128인 것을 확인한 뒤에 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag를 parsing할 지 여부를 판단하는 조건 연산이 필요하지 않을 수 있다. 이 경우 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag parsing을 추가 연산 없이 skip할 수 있다. 즉 slice_type이 I이고, cbWidth가 128 이고, cbHeight가 128인 경우, 도 46에 표시한 Condition 1, Condition 2, Condition 3 체크가 필요하지 않으므로 연산량을 줄일 수 있다. 또한 이 경우 cu_skip_flag를 0으로 infer할 수 있고, pred_mode_flag를 1로 infer할 수 있고, pred_mode_ibc_flag를 0으로 infer할 수 있다. 또한 이 경우 CuPredMode를 MODE_INTRA로 결정, 설정할 수 있다. 또한 slice_type이 I가 아니거나 cbWidth가 128이 아니거나 cbHeight가 128이 아닌 경우, cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag를 parsing하는 것이 가능할 수 있고, 도 46의 Condition 1, Condition 2, Condition 3 확인이 필요할 수 있다.
또다른 실시예로 slice_type이 I이고, cbWidth가 128 이상이고, cbHeight가 128 이상인 경우 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag를 parsing하지 않을 수 있다. 이때 slice_type이 I이고, cbWidth가 128 이상이고, cbHeight가 128 이상인 것을 확인한 뒤에 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag를 parsing할 지 여부를 판단하는 조건 연산이 필요하지 않을 수 있다. 이 경우 cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag parsing을 추가 연산 없이 skip할 수 있다. 즉 이러한 경우, 도 46에 표시한 Condition 1, Condition 2, Condition 3 체크가 필요하지 않으므로 연산량을 줄일 수 있다. 또한 이 경우 cu_skip_flag를 0으로 infer할 수 있고, pred_mode_flag를 1로 infer할 수 있고, pred_mode_ibc_flag를 0으로 infer할 수 있다. 또한 이 경우 CuPredMode를 MODE_INTRA로 결정, 설정할 수 있다. 또한 slice_type이 I가 아니거나 cbWidth가 128보다 작거나 cbHeight가 128보다 작은 경우, cu_skip_flag, pred_mode_flag, pred_mode_ibc_flag를 parsing하는 것이 가능할 수 있고, 도 46의 Condition 1, Condition 2, Condition 3 확인이 필요할 수 있다.
Condition 1, Condition 2, Condition 3은 도 46에 나타낸 것처럼 treeType, cbWidth, cbHeight, sps_ibc_enabled_flag, cu_skip_flag, CuPredMode 중 적어도 하나에 기반한 조건일 수 있다.
도 47은 본 발명의 일 실시예에 따른 coding unit syntax 구조를 나타낸 도면이다.
도 44에서 설명한 것처럼 block size에 기초하여 prediction mode를 제한할 수 있고, 이에 따라 더욱 효율적인 시그날링을 하는 것이 가능하다.
앞서 설명한 것처럼 slice type과 block size에 기초하여 cu_skip_flag parsing 여부를 결정할 수 있다. 이것은 slice type 또는 block size에 기초하여 prediction mode가 제한적일 수 있기 때문이다. 예를 들어 I slice이고, MODE_IBC를 사용할 수 없는 block size인 경우 cu_skip_flag를 parsing하지 않을 수 있다. 또한 이 경우 cu_skip_flag 값을 0으로 infer할 수 있다. 또한 I slice가 아니거나, MODE_IBC를 사용할 수 있는 block size인 경우 cu_skip_flag를 parsing하는 것이 가능하다. 더 구체적으로 MODE_IBC를 사용할 수 없는 block size는 width와 height가 모두 128인 경우일 수 있다. 또다른 예로 MODE_IBC를 사용할 수 없는 block size는 width와 height가 모두 128 이상인 경우일 수 있다.
도 47을 참조하면 slice_type이 I이고, cbWidth가 128이고, cbHeight가 128인 경우, Condition 1을 만족시키지 않게 되고, cu_skip_flag를 parsing하지 않을 수 있다. 이때 cu_skip_flag를 0으로 infer할 수 있다.
도 46과 달리 도 47의 실시예에서는 I slice이고, MODE_IBC를 사용할 수 없는 block size인 경우에도 pred_mode_flag, pred_mode_ibc_flag parsing 여부를 확인할 수 있다. 즉, I slice이고, MODE_IBC를 사용할 수 없는 block size인 경우에도 도 47의 Condition 2, Condition 3를 확인할 수 있다. 따라서 도 47의 실시예는 도 46의 실시예에 비해 더 많은 연산이 포함될 수 있다.
도 48은 본 발명의 일 실시예에 따른 coding unit syntax 구조를 나타낸 도면이다.
도 48의 실시예는 도 46의 실시예를 기반으로 조건을 간단히 한 것이다.
도 48을 참조하면 pred_mode_ibc_flag를 parsing할지 여부를 판단할 때 slice_type을 기초로 block size 조건을 확인할지 여부가 다를 수 있다. 즉, 도 48의 Condition 3에서 slice_type을 기초로 block size 조건을 확인할지 여부가 다를 수 있다. 예를 들어 I slice인 경우에 pred_mode_ibc_flag를 parsing할지 여부를 판단할 때 block size를 참조하지 않을 수 있다. 예를 들면 I slice인 경우에 pred_mode_ibc_flag를 parsing할지 여부를 판단할 때 cu_skip_flag, sps_ibc_enabled_flag만을 참조할 수 있다. 예를 들어 I slice인 경우, width 또는 height가 128인지 아닌지 확인하는 절차 없이 pred_mode_ibc_flag를 parsing 여부를 확인할 수 있다. 또다른 실시예로 I slice인 경우, width 또는 height가 128보다 작은지, width와 height 모두가 128 이상인지 확인하는 절차 없이 pred_mode_ibc_flag를 parsing 여부를 확인할 수 있다.
도 46의 실시예에서는 I slice인 경우에 pred_mode_ibc_flag를 parsing할지 여부를 판단할 때 width, height를 참조하고 있다. 도 46의 실시예에서는 I slice인 경우에 pred_mode_ibc_flag를 parsing할지 여부를 판단할 때 width 또는 height가 128이 아닌 경우에 pred_mode_ibc_flag를 parsing할 수 있다. 그러나 도 48의 실시예에서는 I slice인 경우에 block size와 상관 없이 pred_mode_ibc_flag를 parsing할 수 있다.
또한 도 48의 실시예에서 I slice가 아닌 경우(예를 들면 P or B slice인 경우) block size를 참조하여 pred_mode_ibc_flag를 parsing할지 여부가 결정될 수 있다. 예를 들면 I slice가 아니고, CuPredMode가 MODE_INTRA가 아닌 경우 block size를 참조하여 pred_mode_ibc_flag를 parsing할지 여부가 결정될 수 있다. 예를 들면 I slice가 아니고, CuPredMode가 MODE_INTER인 경우 block size를 참조하여 pred_mode_ibc_flag를 parsing할지 여부가 결정될 수 있다. 예를 들면 block size를 참조할 때 width 또는 height가 128인지 아닌지 확인할 수 있다. 또다른 예로 block size를 참조할 때 width 또는 height가 128보다 작은지, width와 height 모두가 128 이상인지 확인할 수 있다. 또한 I slice가 아닌 경우 width와 height가 모두 4이고, cu_skip_flag가 0인 경우에는 추가적인 block size 확인(예를 들면 width 또는 height가 128인지 아닌지 여부)이 필요하지 않을 수 있다.
따라서 도 48의 실시예는 도 46의 실시예에 비해 더 적은 연산량을 사용하는 것이 가능하다.
상술한 본 발명의 실시예들은 다양한 수단을 통해 구현될 수 있다. 예를 들어, 본 발명의 실시예들은 하드웨어, 펌웨어(firmware), 소프트웨어 또는 그것들의 결합 등에 의해 구현될 수 있다.
하드웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 프로세서, 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.
펌웨어나 소프트웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 이상에서 설명된 기능 또는 동작들을 수행하는 모듈, 절차 또는 함수 등의 형태로 구현될 수 있다. 소프트웨어 코드는 메모리에 저장되어 프로세서에 의해 구동될 수 있다. 상기 메모리는 프로세서의 내부 또는 외부에 위치할 수 있으며, 이미 공지된 다양한 수단에 의해 프로세서와 데이터를 주고 받을 수 있다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적인 것이 아는 것으로 해석해야 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.
100 : 인코딩 장치
200 : 디코딩 장치
Claims (1)
- 비디오 신호 처리 장치 및 방법.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020190063478A KR20200137326A (ko) | 2019-05-29 | 2019-05-29 | 현재 픽쳐 참조를 이용한 비디오 신호 처리 방법 및 장치 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020190063478A KR20200137326A (ko) | 2019-05-29 | 2019-05-29 | 현재 픽쳐 참조를 이용한 비디오 신호 처리 방법 및 장치 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR20200137326A true KR20200137326A (ko) | 2020-12-09 |
Family
ID=73787222
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020190063478A KR20200137326A (ko) | 2019-05-29 | 2019-05-29 | 현재 픽쳐 참조를 이용한 비디오 신호 처리 방법 및 장치 |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR20200137326A (ko) |
-
2019
- 2019-05-29 KR KR1020190063478A patent/KR20200137326A/ko unknown
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11470306B2 (en) | Method and device for processing video signal using MPM configuration method for multiple reference lines | |
| US20240048692A1 (en) | Video signal processing method and device using motion compensation | |
| KR20210057187A (ko) | 다중 가정 예측을 사용하는 비디오 신호 처리 방법 및 장치 | |
| US12022132B2 (en) | Video signal processing method and device for signaling prediction mode | |
| US12047601B2 (en) | Video signal processing method and device using block DPCM prediction method | |
| WO2013155267A2 (en) | Motion vector rounding | |
| US20240195954A1 (en) | Video signal processing method and device | |
| US12003699B2 (en) | Video signal processing method and device using current picture reference | |
| KR20230104758A (ko) | 서브블록 기반의 모션 보상을 이용한 비디오 신호 처리방법 및 장치 | |
| KR20200095982A (ko) | 모션 벡터 차이를 사용하는 머지를 기반으로 한 모션 예측을 이용한 비디오 신호 처리 방법 및 장치 | |
| KR20240052025A (ko) | Lic(local illumination compensation) 모드를 이용한 비디오 신호 처리 방법 및 이를 위한 장치 | |
| KR20200137326A (ko) | 현재 픽쳐 참조를 이용한 비디오 신호 처리 방법 및 장치 | |
| KR20240087758A (ko) | Mhp(multi-hypothesis prediction)모드에 기초한 비디오 신호 처리 방법 및 이를 위한 장치 | |
| KR20240118089A (ko) | 비디오 신호 처리 방법 및 이를 위한 장치 | |
| KR20240132290A (ko) | 종속 양자화를 이용한 비디오 신호 처리 방법 및 이를 위한 장치 | |
| KR20240026180A (ko) | 인트라 예측을 이용한 비디오 신호 처리 방법 및 이를 위한 장치 | |
| KR20200054052A (ko) | 화면내 블록 복사를 사용하는 비디오 신호 처리 방법 및 장치 |