[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

KR101493325B1 - 정밀 움직임 예측을 기반으로 한 프레임 보간 장치 및 그 방법 - Google Patents

정밀 움직임 예측을 기반으로 한 프레임 보간 장치 및 그 방법 Download PDF

Info

Publication number
KR101493325B1
KR101493325B1 KR20080086717A KR20080086717A KR101493325B1 KR 101493325 B1 KR101493325 B1 KR 101493325B1 KR 20080086717 A KR20080086717 A KR 20080086717A KR 20080086717 A KR20080086717 A KR 20080086717A KR 101493325 B1 KR101493325 B1 KR 101493325B1
Authority
KR
South Korea
Prior art keywords
motion vector
frame
block
initial
current
Prior art date
Application number
KR20080086717A
Other languages
English (en)
Other versions
KR20100027703A (ko
Inventor
조양호
박현욱
성열민
이호영
Original Assignee
삼성전자주식회사
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사, 한국과학기술원 filed Critical 삼성전자주식회사
Priority to KR20080086717A priority Critical patent/KR101493325B1/ko
Priority to US12/382,190 priority patent/US8494055B2/en
Priority to EP09811636.1A priority patent/EP2321793B1/en
Priority to PCT/KR2009/002209 priority patent/WO2010027137A2/en
Priority to JP2011524883A priority patent/JP5506800B2/ja
Publication of KR20100027703A publication Critical patent/KR20100027703A/ko
Application granted granted Critical
Publication of KR101493325B1 publication Critical patent/KR101493325B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
    • H04N7/0132—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter the field or frame frequency of the incoming video signal being multiplied by a positive integer, e.g. for flicker reduction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

정밀 움직임 예측을 기반으로 한 프레임 보간 장치 및 그 방법을 개시한다. 프레임 보간 장치는 프레임 간의 전방 움직임 및 후방 움직임과 함께 회전 요소를 고려한 움직임 벡터를 결정한 후 결정된 움직임 벡터를 근거로 영상을 복원하기 위한 보간 프레임을 생성할 수 있다.
프레임 보간 기법, 움직임 예측, 양방향 움직임, 정밀 움직임 예측, 회전 운동, 보간 프레임

Description

정밀 움직임 예측을 기반으로 한 프레임 보간 장치 및 그 방법{APPARATUS AND METHOD FOR FRAME INTERPOLATION BASED ON ACCURATE MOTION ESTIMATION}
본 발명의 실시예들은 영상 복원을 위한 프레임 보간 기법에 관한 것으로서, 특히 프레임 간의 움직임 예측 및 움직임 보상을 통해 영상을 복원하는 기술과 관련된 것이다.
디스플레이 장치의 구동 방식에 따라 동영상을 재생할 경우 화면이 선명하게 보이지 않고 흐릿하게 보이는, 이른바 모션 블러(motion blur) 현상이 발생할 수 있다. 이러한 현상은 이미지가 움직이는 방향에 따라 꼬리 형태로 나타나거나 섬세한 대비 또는 색깔의 변화를 가지는 이미지일 경우 세부 이미지 정보가 사라지는 등 동영상의 화질 저하를 야기시킬 수 있다.
또한, 영상신호를 처리하는 과정에서 많은 양의 영상 데이터를 제한된 대역폭을 통해 전송할 때 원하는 비트율을 맞추기 위해 종종 영상 데이터를 감소시켜야 할 경우가 있다. 이와 같이 데이터 감소를 위해 전체 프레임을 보내지 않고 임의의 프레임만을 전송하면서 데이터 손실이 발생하게 되어 결과적으로 화질 저하의 원인이 된다.
여러 원인에 의한 디스플레이 장치의 화질 저하를 개선시키기 위하여 프레임 수를 늘려 영상을 복원하는 프레임 보간 기술을 이용할 수 있으며 프레임 보간 기술 중에서 움직임 예측을 통해 영상을 복원하기 위한 움직임 보상 프레임 보간 기법을 사용할 수 있다.
이러한 프레임 보간 기법에서는 움직임 예측을 통해 중간 프레임을 보간하기 위하여 영상 내 물체의 움직임 벡터를 정확하게 찾는 것이 중요하며 정확한 움직임 벡터를 탐색할수록 원본 영상에 가까운 프레임을 보간할 수 있다.
따라서, 디스플레이 장치의 화질을 향상시키기 위한 기술 연구뿐 아니라 프레임 보간 기법에서 움직임 예측 방법과 움직임 보상 방법에 대한 연구가 지속적으로 필요하다.
본 발명의 일실시예에 따른 프레임 보간 장치는 현재 프레임과 이전 프레임을 통해 전방 움직임 예측과 후방 움직임 예측을 수행하여 보간 프레임의 현재 블록 각각에 대해 초기 움직임 벡터를 결정하는 초기 움직임 벡터 결정부, 상기 초기 움직임 벡터에 따라 결정된 상기 현재 프레임과 상기 이전 프레임의 블록을 회전하여 회전 요소를 포함하는 최종 움직임 벡터를 결정하는 최종 움직임 벡터 결정부 및 상기 최종 움직임 벡터에 따라 상기 보간 프레임을 생성하는 프레임 생성부를 포함할 수 있다.
이때, 상기 초기 움직임 벡터 결정부는 상기 이전 프레임에서 현재 프레임으로의 전방 움직임 벡터를 산출하는 전방 움직임 산출부와, 상기 현재 프레임에서 이전 프레임으로의 후방 움직임 벡터를 산출하는 후방 움직임 산출부와, 상기 보간 프레임의 현재 블록에 대해 전방 움직임 벡터와 후방 움직임 벡터 간의 움직임 벡터차를 산출하는 움직임 벡터차 산출부와, 상기 움직임 벡터차를 근거로 상기 현재 블록의 초기 움직임 벡터를 선정하는 초기 움직임 벡터 선정부를 포함할 수 있다.
또한, 상기 최종 움직임 벡터 결정부는 상기 초기 움직임 벡터를 이용하여 상기 현재 프레임과 이전 프레임 각각의 초기 위치를 선정하는 초기 위치 선정부와, 상기 현재 프레임과 이전 프레임의 초기 위치에 해당하는 블록을 회전시켜 블록 간 블록 매칭 오차를 산출하는 오차 산출부와, 상기 블록 매칭 오차가 최소일 때의 회전 각도를 회전 요소로 선정하는 회전 요소 선정부를 포함할 수 있다.
또한, 본 발명의 일실시예에 따른 프레임 보간 방법은 현재 프레임과 이전 프레임을 통해 전방 움직임 예측과 후방 움직임 예측을 수행하여 보간 프레임의 현재 블록 각각에 대해 초기 움직임 벡터를 결정하는 단계, 상기 초기 움직임 벡터에 따라 결정된 상기 현재 프레임과 상기 이전 프레임의 블록을 회전하여 회전 요소를 포함하는 최종 움직임 벡터를 결정하는 단계 및 상기 최종 움직임 벡터에 따라 상기 보간 프레임을 생성하는 단계를 포함할 수 있다.
본 발명의 일실시예에 따르면, 양방향 움직임 예측과 함께 회전 검출을 통해 프레임 간의 정밀 움직임 예측이 가능함으로써 움직임 예측의 정확도가 향상될 수 있다.
본 발명의 일실시예에 따르면, 프레임 간 움직임 추정의 정확도를 향상시킴으로써 원본 영상에 가까운 보간 영상을 생성하여 고화질의 영상이 제공될 수 있다.
이하, 첨부된 도면들에 기재된 내용들을 참조하여 본 발명에 따른 바람직한 실시예를 상세하게 설명한다. 다만, 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다.
도 1은 본 발명의 일실시예에 따른 프레임 보간 장치를 나타낸 도면이다.
도 1을 참조하면, 프레임 보간 장치는 초기 움직임 벡터 결정부(101)와, 필터부(102)와, 최종 움직임 벡터 결정부(103)와, 프레임 생성부(104)로 구성될 수 있다.
초기 움직임 벡터 결정부(101)는 현재 프레임과 이전 프레임을 통해 전방 움직임 예측과 후방 움직임 예측을 수행한 후 보간 프레임의 현재 블록 각각에 대해 초기 움직임 벡터를 결정할 수 있다.
초기 움직임 벡터 결정부(101)는 블록 매칭 알고리즘을 이용하여 초기 움직임 벡터를 탐색할 수 있다. 초기 움직임 벡터를 정확하게 탐색하지 않을 경우 원하지 않는 요소들이 보간 프레임을 왜곡할 수 있기 때문에 전방 움직임 예측과 후방 움직임 예측을 통해 신뢰성 높은 움직임 벡터를 초기 움직임 벡터로 선정할 수 있다.
필터부(102)는 초기 움직임 벡터의 평탄화를 위해 메디안 필터 알고리즘을 적용할 수 있다. 필터부(102)는 전방 움직임 예측과 후방 움직임 예측에서 얻을 수 있는 움직임 벡터차(MVD)(motion vector difference)를 이용한 메디안 필터 알고리즘을 적용할 수 있다.
최종 움직임 벡터 결정부(103)는 정밀한 움직임 예측을 위하여 프레임 간의 병진 운동뿐 아니라 회전이 발생하는 부분을 탐색하여 회전 요소를 고려한 최종 움직임 벡터를 결정할 수 있다. 즉, 최종 움직임 벡터 결정부(103)는 초기 움직임 벡터에 회전 요소를 포함하여 3차원(x축, y축, 회전 값)의 최종 움직임 벡터를 결정할 수 있다.
프레임 생성부(104)는 최종 움직임 벡터를 토대로 프레임 간의 중첩된 블록에 대한 이동 보상 방법을 사용하여 보간 프레임을 생성할 수 있다.
결국, 본 발명의 일실시예에 따른, 프레임 보간 장치는 프레임 간의 양방향 움직임과 함께 회전 요소를 고려한 움직임 벡터를 결정하여 정밀 움직임 예측을 이용한 프레임 보간을 수행할 수 있다.
도 2는 초기 움직임 벡터 결정부(101)의 일례를 나타낸 블록도이다.
도 2를 참조하면, 초기 움직임 벡터 결정부(101)는 전방 움직임 산출부(201)와, 후방 움직임 산출부(202)와, 움직임 벡터차 산출부(203)와, 초기 움직임 벡터 선정부(204)로 구성될 수 있다.
초기 움직임 벡터 결정부(101)는 초기 움직임 벡터를 정확하게 찾기 위해 각 블록에 대하여 전방 움직임 예측과 후방 움직임 예측을 수행한다.
도 3의 왼쪽 도면을 참조하면, 전방 움직임 산출부(201)는 현재 프레임을 기준으로 이전 프레임으로부터의 전방 움직임에 대한 크기와 방향성을 찾기 위하여 이전 프레임에서 현재 프레임으로의 전방 움직임 벡터(MVforw)를 산출한다.
도 3의 오른쪽 도면을 참조하면, 후방 움직임 산출부(202)는 이전 프레임을 기준으로 현재 프레임으로부터의 후방 움직임에 대한 크기와 방향성을 찾기 위하여 현재 프레임에서 이전 프레임으로의 후방 움직임 벡터(MVback)를 산출한다.
전방 움직임 및 후방 움직임 예측이 수행되면 보간 프레임의 각 블록은 두 개의 후보 움직임 벡터인 전방 움직임 벡터(MVforw)와 후방 움직임 벡터(MVback)를 가질 수 있다.
움직임 벡터차 산출부(203)는 보간 프레임의 현재 블록에 대해 전방 움직임 벡터(MVforw)와 후방 움직임 벡터(MVback) 간의 움직임 벡터차(MVD)를 산출할 수 있다.
움직임 벡터차(MVD)는 수학식 1과 같이 정의할 수 있다.
MVD = | MVforw - MVback |
초기 움직임 벡터 선정부(204)는 움직임 벡터차(MVD)를 근거로 후보 움직임 벡터 중 신뢰성 높은 움직임 벡터를 선택하여 현재 블록에 대한 초기 움직임 벡터로 선정할 수 있다.
일례로, 초기 움직임 벡터 선정부(204)는 움직임 벡터차(MVD)에 따라 전방 움직임 벡터(MVforw)와 후방 움직임 벡터(MVback) 중 하나를 초기 움직임 벡터로 선정할 수 있다.
이때, 초기 움직임 벡터 선정부(204)는 움직임 벡터차(MVD)가 0(zero)일 경우 전방 움직임 벡터(MVforw)와 후방 움직임 벡터(MVback)가 동일한 것으로 두 후보 움직임 벡터가 같음을 의미할 수 있다. 이는, 이전 프레임과 현재 프레임의 연속적인 선형성이 잘 유지된다고 판단할 수 있으므로 동일한 두 후보 움직임 벡터 중 하나를 초기 움직임 벡터로 선정한다.
다른 일례로, 초기 움직임 벡터 선정부(204)는 움직임 벡터차(MVD)와 미리 선정된(predetermined) 임계치(T)의 비교를 통해 두 후보 움직임 벡터 중 하나를 초기 움직임 벡터를 선정할 수 있다. 여기서, 임계치(T)는 움직임 벡터에 대하여 움직임 보정이 가능한 오차 범위를 의미할 수 있다.
이때, 초기 움직임 벡터 선정부(204)는 움직임 벡터차(MVD)가 0보다 크고 미리 선정된 임계치(T) 보다 작을 경우 전방 움직임 벡터(MVforw)와 후방 움직임 벡터(MVback)의 블록 매칭 오차를 비교하여 두 후보 움직임 벡터 중 블록 매칭 오차가 작은 움직임 벡터를 초기 움직임 벡터로 선정할 수 있다.
전방 움직임 벡터(MVforw)에 대한 블록 매칭 오차는 이전 프레임의 현재 블록과 현재 프레임에서 전방 움직임 벡터(MVforw)만큼 이동한 블록 간의 화소 밝기 값의 차에 대한 평균을 의미할 수 있다. 마찬가지로, 후방 움직임 벡터(MVback)에 대한 블록 매칭 오차는 현재 프레임의 현재 블록과 이전 프레임에서 후방 움직임 벡터(MVback)만큼 이동한 블록 간의 화소 밝기 값의 차에 대한 평균을 의미할 수 있다.
전방 움직임 벡터(MVforw)와 후방 움직임 벡터(MVback) 중 블록 매칭 오차가 작은 움직임 벡터의 경우, 움직임 예측이 상대적으로 정확하다고 판단하여 해당 움직임 벡터를 초기 움직임 벡터로 선정할 수 있다.
다른 일례로, 초기 움직임 벡터 선정부(204)는 움직임 벡터차(MVD)와 상기 임계치(T)의 비교를 통해 현재 블록에 인접한 인접 블록들의 초기 움직임 벡터를 이용하여 초기 움직임 벡터로 선정할 수 있다.
이때, 초기 움직임 벡터 선정부(204)는 움직임 벡터차(MVD)가 임계치(T)보다 클 경우 현재 블록에 대하여 양방향 움직임 예측에도 불구하고 움직임 벡터에 대한 신뢰도가 떨어지는 경우에 해당한다. 예를 들어, 물체 가림 현상(occlusion)이나 고정된 배경에서 작은 물체가 빠르게 이동하는 경우 등에서 발생할 수 있으며 이러한 경우 양방향 움직임 예측으로는 움직임 보정이 어려울 수 있다.
초기 움직임 벡터 선정부(204)는 움직임 벡터차(MVD)가 임계치(T)보다 클 경우 인접 블록들의 초기 움직임 벡터를 이용하여 현재 블록에 대한 초기 움직임 벡터를 선정한다.
이를 위하여, 이전 프레임의 모든 블록에 대하여 산출된 현재 프레임으로의 전방 움직임 벡터(MVforw)와, 현재 프레임의 모든 블록에 대하여 산출된 이전 프레임으로의 후방 움직임 벡터(MVback)를 저장 및 유지할 수 있다. 그 중 현재 블록에 인접한 인접 블록에 해당하는 각 블록의 초기 움직임 벡터를 선정한 후 선정된 인접 블록의 초기 움직임 벡터를 이용할 수 있다.
현재 블록에 대한 움직임 벡터차(MVD)가 임계치(T)보다 클 경우에는 각 인접 블록에서 이미 결정된 초기 움직임 벡터 중 움직임 예측 오차가 가장 작은 움직임 벡터를 현재 블록에 대한 초기 움직임 벡터로 선정할 수 있다. 예를 들어, 현재 블록을 중심으로 한 3*3 블록 구조에서 현재 블록을 제외한 8개의 주변 블록을 인접블록으로 이용할 수 있으며, 인접 블록의 개수는 하드웨어의 복잡도 등을 고려하여 가변할 수 있음은 물론이다.
도 4를 참조하면, 도시한 프레임의 경우 고정된 배경을 가지므로 (P) 블록에 대하여 블록 매칭 오차를 이용하여 선정 가능한 움직임 벡터(도 4에서 실선 또 는 점선으로 도시한 벡터)는 다양하게 존재할 수 있다. 그러나, (P) 블록에서 점선에 해당하는 움직임 벡터를 선정하지 못할 경우 보간 프레임에서는 (P-1) 블록에 해당하는 영상이 존재하지 않게 되거나 왜곡이 발생할 수 있다.
초기 움직임 벡터 선정부(204)는 (P) 블록에 대하여 움직임 벡터차(MVD)가 임계치(T) 보다 클 경우 (P) 블록에 인접한 인접 블록 중 움직임 벡터차(MVD)가 0이거나 임계치(T) 보다 작으면서 동시에 현재 블록을 통과하는 블록을 후보 블록으로 결정한다.
그리고, 초기 움직임 벡터 선정부(204)는 상기 결정된 후보 블록을 포함하는 탐색 영역을 설정하고 탐색 영역에 포함된 블록의 초기 움직임 벡터를 현재 블록에 대한 후보 움직임 벡터로 결정한 후 상기 후보 움직임 벡터 중 블록 매칭 오차가 가장 작은 움직임 벡터를 현재 블록에 대한 초기 움직임 벡터로 최종 선정할 수 있다.
또한, 초기 움직임 벡터 선정부(204)는 (P) 블록에 대하여 후보 블록으로 결정할 수 있는 조건의 인접블록이 존재하지 않을 경우 인접블록의 범위를 확대해가면서 현재 블록의 초기 움직임 벡터를 선정할 수 있다.
따라서, 현재 블록에 대한 초기 움직임 벡터는 인접 블록의 초기 움직임 벡터 중에서 결정되므로 움직임 벡터가 공간적으로 상관성이 유지되어 움직임 벡터에 대한 급격한 오류 발생을 최소화할 수 있다.
필터부(102)는 보간 프레임의 모든 블록에 대하여 초기 움직임 벡터의 선정이 완료되면 움직임 벡터차(MVD)가 임계치(T) 이상인 블록('오류 블록'이라 칭함) 에 한하여 선택적으로 메디안 필터를 적용할 수 있다. 각 블록의 움직임 벡터차(MVD)가 임계치(T) 이하인 경우에는 해당 블록에 대한 전방 움직임 벡터(MVforw)와 후방 움직임 벡터(MVback)의 상관도가 높기 때문에 이러한 경우 메디안 필터를 사용하면 오히려 움직임 벡터가 왜곡될 가능성이 크다.
필터부(102)는 각 오류 블록에 대하여 (상/하 방향, 좌/우 방향, 대각선 방향으로) 인접한 인접블록 중에서 움직임 벡터차(MVD)가 임계치(T) 보다 작은 블록을 후보 블록으로 선정한 후, 후보 블록의 초기 움직임 벡터를 이용하여 메디안 필터를 적용할 수 있다. 다시 말해, 필터부(102)는 각 후보 블록의 초기 움직임 벡터를 해당 오류 블록에 대한 후보 움직임 벡터로 선정한 다음 메디안 필터를 적용하여 해당되는 움직임 벡터의 평균 값을 해당 오류 블록에 대한 초기 움직임 벡터로 선정할 수 있다.
따라서, 보간 프레임의 각 블록에 대하여 초기 움직임 벡터를 결정한 후 메디안 필터를 선택적으로 적용함으로써 신뢰성이 낮은 움직임 벡터를 제거하고 잘못된 움직임 벡터가 초기 움직임 벡터로 선정되는 것을 최소화할 수 있다.
도 5는 최종 움직임 벡터 결정부(103)의 일례를 나타낸 블록도이다.
도 5를 참조하면, 최종 움직임 벡터 결정부(103)는 초기 위치 선정부(501)와, 오차 산출부(502)와, 회전 요소 선정부(503)로 구성될 수 있다.
최종 움직임 벡터 결정부(103)는 각 블록에 대하여 최적의 초기 움직임 벡터가 결정되면 초기 움직임 벡터를 절반으로 나누어 보간 프레임을 생성할 수 있 다.
초기 위치 선정부(501)는 초기 움직임 벡터를 이용하여 해당 블록에 대한 현재 프레임과 이전 프레임의 초기 위치를 각각 선정할 수 있다.
도 6을 참조하면, 현재 프레임의 현재 블록에서 초기 움직임 벡터(V)를 이용하여 보간 프레임을 생성하기 위해서는 보간 프레임의 현재 블록(P) 위치에서 이전 프레임으로 (-V/2)만큼 이동한 블록(1)과, 현재 프레임으로 (+V/2)만큼 이동한 블록(2)을 초기 위치로 선정한다.
오차 산출부(502)는 이전 프레임의 초기 위치에 해당하는 블록(1)과 현재 프레임의 초기 위치에 해당하는 블록(2)을 회전시켜 블록 간 블록 매칭 오차를 산출할 수 있다. 이전 프레임에서 현재 프레임까지 D도 회전한 경우 보간 프레임은 D/2도 회전이 된 영상을 의미할 수 있으며, 각 블록에 대한 정확한 회전 요소를 산출하기 위하여 이전 프레임과 현재 프레임의 초기 위치에 해당하는 각 블록(1)(2)을 일정 각도(±θ도)씩 대칭적으로 회전시키면서 블록 매칭 오차를 산출할 수 있다.
회전 요소 선정부(503)는 산출된 블록 매칭 오차가 최소일 때의 회전 각도를 현재 블록의 회전 요소로 선정할 수 있다.
이와 같은 구성의 최종 움직임 벡터 결정부(103)는 보간될 프레임을 기준으로 초기 움직임 벡터를 절반으로 각각 이동한 지점에서 회전을 고려하여 블록 매칭 오차가 최소가 되는 움직임 벡터를 최종 움직임 벡터로 선정할 수 있다. 즉, 보간될 지점에서 양방향으로 블록 매칭 오차를 추정함으로써 보간 프레임의 각 블록에 대한 정밀 움직임 벡터로서 회전 요소를 포함한 최종 움직임 벡터를 결정할 수 있다.
따라서, 프레임 생성부(104)는 (x축, y축, 회전)의 세 가지 요소로 구성된 최종 움직임 벡터를 근거로 중첩된 블록 이동 보상 방법을 적용하여 최종적인 보간 프레임을 생성할 수 있다.
도 7은 본 발명의 일실시예에 따른 프레임 보간 방법을 나타낸 동작 흐름도이다.
본 발명의 일실시예에 따른 프레임 보간 방법에 있어서 보간 프레임을 생성하는 과정은 다음과 같은 과정을 포함할 수 있다.
본 발명의 일실시예에 따른 프레임 보간 방법은 현재 프레임과 이전 프레임을 통해 전방 움직임 예측과 후방 움직임 예측을 수행하여 보간 프레임의 현재 블록에 대한 초기 움직임 벡터를 결정한다(S701).
이때, 초기 움직임 벡터를 결정하는 단계(S701)는 블록 매칭 알고리즘을 이용하여 움직임 벡터를 탐색할 수 있으며 전방 움직임 예측과 후방 움직임 예측을 통해 신뢰성 높은 움직임 벡터를 초기 움직임 벡터로 결정할 수 있다.
초기 움직임 벡터를 결정하는 단계(S701)는 다음과 같은 과정을 포함할 수 있다.
도 8을 참조하면, 초기 움직임 벡터를 결정하는 단계(S701)는 이전 프레임에서 현재 프레임으로의 전방 움직임 벡터(MVforw)를 산출하고, 현재 프레임에서 이 전 프레임으로의 후방 움직임 벡터(MVback)를 산출한다(S801).
또한, 초기 움직임 벡터를 결정하는 단계(S701)는 보간 프레임의 현재 블록에 대해 전방 움직임 벡터(MVforw)와 후방 움직임 벡터(MVback) 간의 움직임 벡터차(MVD)를 산출한 후 움직임 벡터차(MVD)가 0(zero) 값에 해당하는지 여부를 판단한다(S802). 이때, 움직임 벡터차(MVD)가 0(zero)일 경우에는 전방 움직임 벡터(MVforw)와 후방 움직임 벡터(MVback) 중 하나를 선택하여(S803) 현재 블록에 대한 초기 움직임 벡터로 선정한다(S809).
한편, 초기 움직임 벡터를 결정하는 단계(S701)는 움직임 벡터차(MVD)가 0(zero)보다 크고 미리 선정된 임계치(T) 보다 작은지 여부를 판단한다(S804). 이때, 움직임 벡터차(MVD)가 0보다 크고 미리 선정된 임계치(T) 보다 작을 경우에는 전방 움직임 벡터(MVforw)와 후방 움직임 벡터(MVback)의 블록 매칭 오차를 비교한 후(S805) 두 움직임 벡터 중 블록 매칭 오차가 작은 움직임 벡터를 선택하여(S806) 현재 블록에 대한 초기 움직임 벡터로 선정한다(S809).
다른 한편, 초기 움직임 벡터를 결정하는 단계(S701)는 움직임 벡터차(MVD)가 임계치(T)보다 클 경우 현재 블록에 인접한 인접 블록의 초기 움직임 벡터를 근거로 탐색 영역을 설정한 후(S807) 상기 탐색 영역에 포함된 블록의 초기 움직임 벡터 중 블랙 매칭 오차가 가장 작은 블록의 초기 움직임 벡터를 선택하여(S808) 현재 블록에 대한 초기 움직임 벡터로 선정한다(S809).
다시 도 7에서, 본 발명의 일실시예에 따른 프레임 보간 방법은 보간 프레 임의 모든 블록에 대하여 초기 움직임 벡터가 결정되면 움직임 벡터차(MVD)가 임계치(T) 이상인 오류 블록에 한하여 선택적으로 메디안 필터를 적용하여 초기 움직임 벡터의 평탄화를 수행한다(S702).
이때, 초기 움직임 벡터의 평탄화를 수행하는 단계(S702)는 각 오류 블록에 대하여 인접한 인접블록 중에서 움직임 벡터차(MVD)가 임계치(T) 보다 작은 블록을 후보 블록으로 선정한 후, 후보 블록의 초기 움직임 벡터를 메디안 필터에 적용하여 해당되는 움직임 벡터의 평균 값을 해당 오류 블록에 대한 초기 움직임 벡터로 선정할 수 있다.
또한, 본 발명의 일실시예에 따른 프레임 보간 방법은 보간 프레임의 각 블록에 대하여 최적의 초기 움직임 벡터가 결정되면 초기 움직임 벡터에 회전 요소를 포함하여 3차원(x축, y축, 회전)의 최종 움직임 벡터를 결정한다(S703).
이때, 최종 움직임 벡터를 결정하는 단계(S703)는 초기 움직임 벡터(V)를 이용하여 보간 프레임을 생성하기 위해서 보간 프레임의 현재 블록 위치에서 이전 프레임으로 (-V/2)만큼 이동한 블록과, 현재 프레임으로 (+V/2)만큼 이동한 블록을 초기 위치로 선정한다. 이어, 각 블록에 대한 정확한 회전 요소를 산출하기 위하여 이전 프레임의 초기 위치에 해당하는 블록과 현재 프레임의 초기 위치에 해당하는 블록을 대칭적으로 회전시키면서 블록 간 블록 매칭 오차를 산출한다. 그리고, 산출된 블록 매칭 오차가 최소일 때의 회전 각도를 해당 블록의 회전 요소로 선정한 후 보간 프레임의 각 블록에 대한 정밀 움직임 벡터로서 회전 요소를 포함한 최종 움직임 벡터를 결정한다.
또한, 본 발명의 일실시예에 따른 프레임 보간 방법은 최종 움직임 벡터를 토대로 프레임 간의 중첩된 블록에 대한 이동 보상 방법을 사용하여 보간 프레임을 생성한다(S704).
따라서, 프레임 보간 방법은 양방향 움직임 예측과 회전 예측을 통해 정밀 움직임 예측을 실행할 수 있으며 (x축, y축, 회전)의 세 가지 요소로 구성된 최종 움직임 벡터를 근거로 원본 영상에 가까운 보간 프레임을 생성할 수 있다.
본 발명의 실시예에 따른 프레임 보간 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 본 발명의 일실시예에 따른 프레임 보간 장치는 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명의 일실시예에 따른 프레임 보간 장치는 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다.
그러므로, 본 발명의 일실시예에 따른 프레임 보간 장치는 앞서 설명된 실시예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등한 것들에 의해 정해져야 한다.
도 1은 본 발명의 일실시예에 따른 프레임 보간 장치를 나타낸 도면이다.
도 2는 도 1에 도시한 초기 움직임 벡터 결정부의 일례를 나타낸 블록도이다.
도 3 및 도 4는 도 2에 도시한 초기 움직임 벡터 결정부의 동작을 설명하기 위한 도면이다.
도 5는 도 1에 도시한 최종 움직임 벡터 결정부의 일례를 나타낸 블록도이다.
도 6은 도 5에 도시한 최종 움직임 벡터 결정부의 동작을 설명하기 위한 도면이다.
도 7은 본 발명의 일실시예에 따른 프레임 보간 방법을 나타낸 동작 흐름도이다.
도 8은 도 7에 도시한 초기 움직임 벡터를 결정하는 과정을 나타낸 동작 흐름도이다.

Claims (20)

  1. 현재 프레임과 이전 프레임을 통해 전방 움직임 예측과 후방 움직임 예측을 수행하여 보간 프레임의 현재 블록에 대한 초기 움직임 벡터를 결정하는 초기 움직임 벡터 결정부;
    상기 초기 움직임 벡터에 따라 결정된 상기 현재 프레임 블록과 상기 이전 프레임의 블록을 회전하여 회전 요소를 포함하는 최종 움직임 벡터를 결정하는 최종 움직임 벡터 결정부;
    상기 최종 움직임 벡터에 기초하여 상기 보간 프레임을 생성하는 프레임 생성부; 및
    상기 이전 프레임에서 상기 현재 프레임으로의 전방 움직임 벡터와 상기 현재 프레임에서 상기 이전 프레임으로의 후방 움직임 벡터 간의 움직임 벡터차에 기초하여 상기 초기 움직임 벡터에 대한 필터링을 수행하는 필터부
    를 포함하는 프레임 보간 장치.
  2. 제1항에 있어서,
    상기 초기 움직임 벡터 결정부는,
    상기 이전 프레임에서 현재 프레임으로의 전방 움직임 벡터를 산출하는 전방 움직임 산출부와,
    상기 현재 프레임에서 이전 프레임으로의 후방 움직임 벡터를 산출하는 후방 움직임 산출부와,
    상기 보간 프레임의 현재 블록에 대해 전방 움직임 벡터와 후방 움직임 벡터 간의 움직임 벡터차를 산출하는 움직임 벡터차 산출부와,
    상기 움직임 벡터차에 기초하여 상기 현재 블록의 초기 움직임 벡터를 선정하는 초기 움직임 벡터 선정부를 포함하는, 프레임 보간 장치.
  3. 제1항에 있어서,
    상기 초기 움직임 벡터 선정부는,
    상기 전방 움직임 벡터와 상기 후방 움직임 벡터 중 하나를 상기 초기 움직임 벡터로 선정하는, 프레임 보간 장치.
  4. 제1항에 있어서,
    상기 초기 움직임 벡터 선정부는,
    상기 전방 움직임 벡터와 상기 후방 움직임 벡터 중 블록 매칭 오차가 작은 움직임 벡터를 상기 초기 움직임 벡터로 선정하는, 프레임 보간 장치.
  5. 현재 프레임과 이전 프레임을 통해 전방 움직임 예측과 후방 움직임 예측을 수행하여 보간 프레임의 현재 블록에 대한 초기 움직임 벡터를 결정하는 초기 움직임 벡터 결정부;
    상기 초기 움직임 벡터에 따라 결정된 상기 현재 프레임 블록과 상기 이전 프레임의 블록을 회전하여 회전 요소를 포함하는 최종 움직임 벡터를 결정하는 최종 움직임 벡터 결정부; 및,
    상기 최종 움직임 벡터에 기초하여 상기 보간 프레임을 생성하는 프레임 생성부를 포함하고,
    상기 초기 움직임 벡터 결정부는,
    상기 현재 블록에 인접하는 인접 블록들의 초기 움직임 벡터에 기초하여 탐색 영역을 설정하고, 상기 탐색 영역을 이용하여 상기 현재 블록의 초기 움직임 벡터를 선정하는, 프레임 보간 장치.
  6. 삭제
  7. 제1항에 있어서,
    상기 필터부는,
    상기 보간 프레임의 모든 블록 중 상기 움직임 벡터차가 미리 선정된(predetermined) 임계치 이상인 오류 블록에 대하여 메디안 필터(median filter) 알고리즘을 적용하는, 프레임 보간 장치.
  8. 제7항에 있어서,
    상기 필터부는,
    상기 오류 블록에 인접하는 인접 블록들 중 상기 움직임 벡터차가 상기 임계치 이내인 후보 블록을 선정한 후, 상기 후보 블록의 초기 움직임 벡터를 이용하여 상기 메디안 필터 알고리즘을 적용하는, 프레임 보간 장치.
  9. 제1항에 있어서,
    상기 최종 움직임 벡터 결정부는,
    상기 초기 움직임 벡터를 이용하여 상기 현재 프레임과 이전 프레임 각각의 초기 위치를 선정하는 초기 위치 선정부와,
    상기 현재 프레임과 이전 프레임의 초기 위치에 해당하는 블록을 회전시켜 블록 간 블록 매칭 오차를 산출하는 오차 산출부와,
    상기 블록 매칭 오차가 최소일 때의 회전 각도를 회전 요소로 선정하는 회전 요소 선정부를 포함하는, 프레임 보간 장치.
  10. 제9항에 있어서,
    상기 오차 산출부는,
    상기 초기 위치에 해당하는 블록을 일정 각도 단위에 따라 대칭적으로 회전시켜 블록 매칭 오차를 산출하는 과정을 반복하는, 프레임 보간 장치.
  11. 현재 프레임과 이전 프레임을 통해 전방 움직임 예측과 후방 움직임 예측을 수행하여 보간 프레임의 현재 블록에 대해 초기 움직임 벡터를 결정하는 단계;
    상기 초기 움직임 벡터에 따라 결정된 상기 현재 프레임과 상기 이전 프레임의 블록을 회전하여 회전 요소를 포함하는 최종 움직임 벡터를 결정하는 단계;
    상기 최종 움직임 벡터에 따라 상기 보간 프레임을 생성하는 단계; 및
    상기 이전 프레임에서 상기 현재 프레임으로의 전방 움직임 벡터와 상기 현재 프레임에서 상기 이전 프레임으로의 후방 움직임 벡터 간의 움직임 벡터차에 기초하여 상기 초기 움직임 벡터에 대한 필터링을 수행하는 단계
    를 포함하는 프레임 보간 방법.
  12. 제11항에 있어서,
    상기 초기 움직임 벡터를 결정하는 단계는,
    상기 이전 프레임에서 현재 프레임으로의 전방 움직임 벡터를 산출하는 단계와,
    상기 현재 프레임에서 이전 프레임으로의 후방 움직임 벡터를 산출하는 단계와,
    상기 보간 프레임의 현재 블록에 대해 전방 움직임 벡터와 후방 움직임 벡터 간의 움직임 벡터차를 산출하는 단계와,
    상기 움직임 벡터차에 기초하여 상기 현재 블록의 초기 움직임 벡터를 선정하는 단계를 포함하는, 프레임 보간 방법.
  13. 제11항에 있어서,
    상기 초기 움직임 벡터를 선정하는 단계는,
    상기 전방 움직임 벡터와 상기 후방 움직임 벡터 중 하나를 상기 초기 움직임 벡터로 선정하는, 프레임 보간 방법.
  14. 제11항에 있어서,
    상기 초기 움직임 벡터 선정하는 단계는,
    상기 전방 움직임 벡터와 상기 후방 움직임 벡터 중 블록 매칭 오차가 작은 움직임 벡터를 상기 초기 움직임 벡터로 선정하는, 프레임 보간 방법.
  15. 현재 프레임과 이전 프레임을 통해 전방 움직임 예측과 후방 움직임 예측을 수행하여 보간 프레임의 현재 블록에 대해 초기 움직임 벡터를 결정하는 단계;
    상기 초기 움직임 벡터에 따라 결정된 상기 현재 프레임과 상기 이전 프레임의 블록을 회전하여 회전 요소를 포함하는 최종 움직임 벡터를 결정하는 단계; 및,
    상기 최종 움직임 벡터에 따라 상기 보간 프레임을 생성하는 단계를 포함하고,
    상기 초기 움직임 벡터 결정하는 단계는,
    상기 현재 블록에 인접하는 인접 블록들의 초기 움직임 벡터에 기초하여 탐색 영역을 설정하고, 상기 탐색 영역을 이용하여 상기 현재 블록의 초기 움직임 벡터를 선정하는, 프레임 보간 방법.
  16. 삭제
  17. 제11항에 있어서,
    상기 초기 움직임 벡터에 대한 필터링을 수행하는 단계는,
    상기 보간 프레임의 모든 블록 중 상기 움직임 벡터차가 미리 선정된 임계치 이상인 오류 블록에 대하여 메디안 필터(median filter) 알고리즘을 적용하는, 프레임 보간 방법.
  18. 제11항에 있어서,
    상기 최종 움직임 벡터를 결정하는 단계는,
    상기 초기 움직임 벡터를 이용하여 상기 현재 프레임과 이전 프레임 각각의 초기 위치를 선정하는 단계와,
    상기 현재 프레임과 이전 프레임의 초기 위치에 해당하는 블록을 회전시켜 블록 간 블록 매칭 오차를 산출하는 단계와,
    상기 블록 매칭 오차가 최소일 때의 회전 각도를 회전 요소로 선정하는 단계를 포함하는, 프레임 보간 방법.
  19. 제18항에 있어서,
    상기 블록 간 블랙 매칭 오차를 산출하는 단계는,
    상기 초기 위치에 해당하는 블록을 일정 각도 단위에 따라 대칭적으로 회전시켜 블록 매칭 오차를 산출하는 과정을 반복하는, 프레임 보간 방법.
  20. 제11항 내지 제15항, 및 제17항 내지 제19항 중 어느 한 항의 방법을 수행하는 프로그램을 기록한 컴퓨터 판독 가능 기록 매체.
KR20080086717A 2008-09-03 2008-09-03 정밀 움직임 예측을 기반으로 한 프레임 보간 장치 및 그 방법 KR101493325B1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR20080086717A KR101493325B1 (ko) 2008-09-03 2008-09-03 정밀 움직임 예측을 기반으로 한 프레임 보간 장치 및 그 방법
US12/382,190 US8494055B2 (en) 2008-09-03 2009-03-10 Apparatus and method for frame interpolation based on accurate motion estimation
EP09811636.1A EP2321793B1 (en) 2008-09-03 2009-04-28 Apparatus and method for frame interpolation based on accurate motion estimation
PCT/KR2009/002209 WO2010027137A2 (en) 2008-09-03 2009-04-28 Apparatus and method for frame interpolation based on accurate motion estimation
JP2011524883A JP5506800B2 (ja) 2008-09-03 2009-04-28 フレーム補間装置及びフレーム補間方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR20080086717A KR101493325B1 (ko) 2008-09-03 2008-09-03 정밀 움직임 예측을 기반으로 한 프레임 보간 장치 및 그 방법

Publications (2)

Publication Number Publication Date
KR20100027703A KR20100027703A (ko) 2010-03-11
KR101493325B1 true KR101493325B1 (ko) 2015-02-16

Family

ID=41724868

Family Applications (1)

Application Number Title Priority Date Filing Date
KR20080086717A KR101493325B1 (ko) 2008-09-03 2008-09-03 정밀 움직임 예측을 기반으로 한 프레임 보간 장치 및 그 방법

Country Status (5)

Country Link
US (1) US8494055B2 (ko)
EP (1) EP2321793B1 (ko)
JP (1) JP5506800B2 (ko)
KR (1) KR101493325B1 (ko)
WO (1) WO2010027137A2 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019194497A1 (ko) * 2018-04-01 2019-10-10 엘지전자 주식회사 인터 예측 모드 기반 영상 처리 방법 및 이를 위한 장치

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110022133A (ko) * 2009-08-27 2011-03-07 삼성전자주식회사 영상의 움직임 추정방법 및 영상처리장치
KR101710883B1 (ko) 2009-11-04 2017-02-28 삼성전자주식회사 필터 정보를 이용한 영상 압축 장치 및 방법과 영상 복원 장치 및 방법
TR201010080A2 (tr) * 2010-12-03 2012-06-21 Vestel Elektroni̇k Sanayi̇ Ve Ti̇caret A.Ş. Görüntü karesi hız artırımı uygulamaları için hareket kestirim yöntemi.
JP5645636B2 (ja) * 2010-12-16 2014-12-24 三菱電機株式会社 フレーム補間装置及び方法
CN102685504B (zh) 2011-03-10 2015-08-19 华为技术有限公司 视频图像的编解码方法、编码装置、解码装置及其系统
JP2013165487A (ja) * 2012-01-11 2013-08-22 Panasonic Corp 画像処理装置、撮像装置、およびプログラム
KR101932916B1 (ko) * 2012-06-28 2018-12-27 삼성전자 주식회사 모션 추정 시스템 및 그 방법, 디스플레이 컨트롤러, 및 전자 장치
US9288484B1 (en) 2012-08-30 2016-03-15 Google Inc. Sparse coding dictionary priming
US9300906B2 (en) * 2013-03-29 2016-03-29 Google Inc. Pull frame interpolation
KR101589727B1 (ko) * 2014-07-30 2016-01-28 엘아이지넥스원 주식회사 이동물체 취득 영상에서의 프레임율 향상 장치
US9286653B2 (en) 2014-08-06 2016-03-15 Google Inc. System and method for increasing the bit depth of images
US9153017B1 (en) 2014-08-15 2015-10-06 Google Inc. System and method for optimized chroma subsampling
KR102264840B1 (ko) 2014-11-27 2021-06-15 삼성전자주식회사 비디오 프레임 인코딩 회로, 그것의 인코딩 방법 및 그것을 포함하는 비디오 데이터 송수신 장치
GB2539198B (en) 2015-06-08 2019-09-25 Imagination Tech Ltd Motion estimation using collocated blocks
GB2539197B (en) * 2015-06-08 2019-10-30 Imagination Tech Ltd Complementary vectors
US10200715B2 (en) 2016-02-17 2019-02-05 Telefonaktiebolaget Lm Ericsson (Publ) Methods and devices for encoding and decoding video pictures
JP6681078B2 (ja) * 2017-10-10 2020-04-15 株式会社アクセル 画像処理装置、画像処理方法、および画像処理プログラム
JP6897885B2 (ja) * 2019-03-08 2021-07-07 株式会社Ｊｖｃケンウッド 動画像符号化装置、動画像符号化方法、及び動画像符号化プログラム、動画像復号装置、動画像復号方法及び動画像復号プログラム
CN112700516B (zh) * 2020-12-23 2023-12-01 杭州群核信息技术有限公司 基于深度学习的视频渲染方法和装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020118758A1 (en) 1997-03-17 2002-08-29 Mitsubishi Denki Kabushiki Kaisha Video encoder, video decoder, video encoding method, video decoding method, and video encoding and decoding system
US20050286632A1 (en) 2002-10-07 2005-12-29 Koninklijke Philips Electronics N.V. Efficient motion -vector prediction for unconstrained and lifting-based motion compensated temporal filtering
US20060280250A1 (en) 2005-06-10 2006-12-14 Sony Corporation Moving picture converting apparatus and method, and computer program

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11113002A (ja) * 1997-10-07 1999-04-23 Toyo Commun Equip Co Ltd マクロブロック別移動物体検出方法及び装置
JP2005006275A (ja) 2002-11-22 2005-01-06 Matsushita Electric Ind Co Ltd 補間フレーム作成装置、補間フレーム作成方法、および補間フレーム作成プログラム
KR100703283B1 (ko) * 2004-03-15 2007-04-03 삼성전자주식회사 회전 매칭을 통해 움직임을 예측하는 영상 부호화 장치 및방법
JP2005268912A (ja) 2004-03-16 2005-09-29 Sharp Corp フレーム補間のための画像処理装置およびそれを備えた表示装置
CA2565670A1 (en) * 2004-05-04 2005-11-17 Qualcomm Incorporated Method and apparatus for motion compensated frame rate up conversion
KR100870115B1 (ko) 2005-12-21 2008-12-10 주식회사 메디슨 블록정합 및 움직임 보상 보간을 이용한 영상 형성 방법
JP2007300209A (ja) * 2006-04-27 2007-11-15 Pioneer Electronic Corp 動画像再符号化装置およびその動きベクトル判定方法
JP2008022156A (ja) 2006-07-11 2008-01-31 Toshiba Corp 動きベクトル検出装置及び動きベクトル検出方法
JP4886479B2 (ja) * 2006-11-15 2012-02-29 日本放送協会 動きベクトル補正装置、動きベクトル補正プログラム、補間フレーム生成装置及び映像補正装置
US8218638B2 (en) * 2007-10-31 2012-07-10 Broadcom Corporation Method and system for optical flow based motion vector estimation for picture rate up-conversion

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020118758A1 (en) 1997-03-17 2002-08-29 Mitsubishi Denki Kabushiki Kaisha Video encoder, video decoder, video encoding method, video decoding method, and video encoding and decoding system
US20050286632A1 (en) 2002-10-07 2005-12-29 Koninklijke Philips Electronics N.V. Efficient motion -vector prediction for unconstrained and lifting-based motion compensated temporal filtering
US20060280250A1 (en) 2005-06-10 2006-12-14 Sony Corporation Moving picture converting apparatus and method, and computer program

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019194497A1 (ko) * 2018-04-01 2019-10-10 엘지전자 주식회사 인터 예측 모드 기반 영상 처리 방법 및 이를 위한 장치

Also Published As

Publication number Publication date
KR20100027703A (ko) 2010-03-11
JP5506800B2 (ja) 2014-05-28
US20100053451A1 (en) 2010-03-04
JP2012504878A (ja) 2012-02-23
WO2010027137A3 (en) 2012-10-18
EP2321793B1 (en) 2016-11-16
EP2321793A4 (en) 2013-10-16
WO2010027137A2 (en) 2010-03-11
EP2321793A2 (en) 2011-05-18
US8494055B2 (en) 2013-07-23

Similar Documents

Publication Publication Date Title
KR101493325B1 (ko) 정밀 움직임 예측을 기반으로 한 프레임 보간 장치 및 그 방법
US10404917B2 (en) One-pass video stabilization
JP6014089B2 (ja) 動き軌跡を用いたフレーム率向上装置および方法
US7180548B2 (en) Method of generating frame interpolation image and an apparatus therefor
US8018998B2 (en) Low complexity motion compensated frame interpolation method
JP2003533800A (ja) Ｍｃアップコンバージョンにおけるハローを低減する動き推定器
US20110050993A1 (en) Motion estimating method and image processing apparatus
KR20050061556A (ko) 고장시 조치를 갖는 이미지 처리 유닛
KR101805625B1 (ko) 영상 스케일링을 통한 영상 레이트 변환 방법 및 그 장치
JP2005506626A (ja) 動き推定ユニット及び方法並びにかような動き推定ユニットを備えた画像処理装置
US8787696B1 (en) Method and apparatus for replacing a block of pixels in a digital image frame to conceal an error associated with the block of pixels
KR102156410B1 (ko) 오브젝트 움직임을 고려한 영상 처리 장치 및 방법
US20220270267A1 (en) System and method for occlusion detection in frame rate up-conversion of video data
JP2017515372A (ja) 動きフィールド推定
KR102105766B1 (ko) 선형 및 비선형 움직임 모두에 적합한 움직임 보상 프레임 보간 장치 및 방법
KR101033242B1 (ko) 줌 환경을 고려한 객체 추적 방법 및 장치
JP4658686B2 (ja) 双方向動きベクトル検出による内挿画像生成装置及びプログラム
Ebdelli et al. Loss concealment based on video inpainting for robust video communication
US11533451B2 (en) System and method for frame rate up-conversion of video data
CN109788297A (zh) 一种基于元胞自动机的视频帧率上转换方法
US20220210467A1 (en) System and method for frame rate up-conversion of video data based on a quality reliability prediction
KR100499144B1 (ko) 적응적 양방향 움직임 추정 방법을 이용한 내삽 영상의움직임 벡터 생성 방법 및 장치
JP2009100017A (ja) 画像処理装置及び方法、並びにプログラム
JP2006215657A (ja) 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びプログラム記録媒体
CN117440246A (zh) 一种基于lk光流法的抗抖动实时目标跟踪方法

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
FPAY Annual fee payment

Payment date: 20180117

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20200120

Year of fee payment: 6