HEVC Rate-Distortion Optimization을 위한 Fast Algorithms

Abstract

디지털 영상 기기의 발전과 더불어, 고화질 영상에 대한 수요 또한 함께 증가하고 있다. 최근의 스마트폰과 태블릿 PC의 급속적인 성장은 이러한 추세를 가속화 시키고 있다. 이러한 변화에 맞추어, 고화질 영상 압축을 위한 새로운 영상 압축 기술의 표준화가 ISO/IEC MPEG과 ITU-T/VCEG의 공동의 팀으로 진행되어 왔다. HEVC는 H.264/AVC의 뒤를 잇는 차세대 영상 압축 표준 기술로서, 2013년 1월 FDIS (Final Draft International Standard)가 작성되면서, 표준화 과정이 완료되었다. HEVC는 H.264/AVC 대비 같은 화질의 영상을 절반의 비트량으로 압축하는 것을 목표로 하였으며, 이런 목표를 달성하기 위해, 새로운 기술들이 제안되었다. 특히, 복잡한 block 구조와 크게 늘어난 mode의 수는 영상 압축의 효율을 향상시키는 데에 크게 기여를 하였고, 이는 최적의 mode를 결정하는 RDO (Rate-Distortion Optimization)가 더욱 중요한 역할을 하도록 만들었다. 그러나, 복잡해진 block 구조는 RDO의 연산량 또한 크게 증가시켰다. 이러한 이유로, H.264/AVC와 달리 HEVC에서는 RDO의 연산량을 줄이면서 압축 효율을 유지하는 것이 중요한 이슈가 되었다. 본 논문에서는, H.264/AVC와 HEVC에서의 RDO에 의한 RD 저하의 차이를 실험 결과를 통해 제시하여 문제를 정의하고, RDO의 연산량을 줄이는 알고리즘들을 세 가지 연구 방향을 통해 제안하였다. 첫 번째 방향의 연구에서는 RDO의 과정을 구성하는 Transform, Quantization, Inverse Quantization, Inverse Transform 그리고 Entropy Coder 등의 일련의 과정의 연산을 단순화하는 알고리즘들이 제안되었다. 이러한 알고리즘은 기본적으로 H.264/AVC에서 이루어진 연구를 기반으로 하였고, 기존 알고리즘의 한계 또한 분석되어 성능을 향상시켰다. 더 나아가서는, 좀 더 공격적으로 RDO의 연산량을 줄일 수 있는 새로운 방법을 제안하였다. 두 번째 방향의 연구에서는 Zero Block detection이라는 기술을 기반으로, HEVC에 적합하게 RDO의 연산을 줄이는 방법을 제안하였다. H.264/AVC에서 제안되었던 알고리즘들은 HEVC에서의 Zero Block을 특징을 제대로 반영하지 못하기 때문에, 단순 수정을 통해 HEVC에 적용할 경우 기대한 만큼의 성능을 얻을 수 없다. 이러한 한계점을 해결하여 HEVC에 적합한 효율적인 Zero Block detection 알고리즘이 제시되었다. 세 번째 방향의 연구에서는, SATD 기반의 RDO를 활용하여, SSE 기반의 RDO의 연산량을 줄이는 방법을 제안하였다. SATD 기반의 RDO와 SSE 기반의 RDO의 차이점 분석과 실험 결과 바탕으로 효율적으로 SATD 기반의 RDO을 활용하는 방법이 제시되었다. 이렇게 제안된 알고리즘들은 HEVC의 reference software인 HM에 구현되어, RDO의 연산량을 크게 줄이면서도, RD 저하가 크게 증가하지 않는 실험 결과를 보이고 있다.