Robust Depth Map Estimation for Radiometrically Varying Stereo Images

Abstract

스테레오 정합의 목표는 시점 또는 시간차를 두고 얻은 이미지들 사이에서 정합 점을 예측함으로써, 깊이 정보 또는 3차원 정보를 획득하는 것을 목표로 하고 있다. 일반적으로 대부분의 스테레오 정합 알고리즘들은 이러한 입력 이미지들이 라디오메트릭하게 (radiometrically) 조정이 되어 있다고 가정하고 있다. 이러한 이미지들에 대해서는, 밝기 값의 절대 차이 값 (absolute difference)과 같은 간단한 정합 비용으로도 스테레오의 성능이 크게 떨어지지 않는다. 그러나, 실제 여러 상황의 이미지에서는 여러 라디오메트릭 변화 (radiometric variation)가 일어나기 때문에, 대부분의 스테레오 알고리즘의 성능은 이러한 실제 상황에서는 크게 성능 저하가 일어나게 된다.

본 학위 논문에서는, 이러한 문제를 해결하기 위한 강인한 깊이 정보 예측 알고리즘들을 제안한다. 첫번째로, 이러한 라디오메트릭 변화에 무관한 새로운 스테레오 정합 비용 (measure)을 제안하였다. 이를 위해서, 컬러의 형성 모델을 보다 구체적으로 살펴보았고, Adaptive Normalized Cross Correlation (ANCC)라고 하는 새로운 비용 (measure)을 제안하였다. 두번째로, SIFT 묘사기 (descriptor)와 상호 정보량 (mutual information)을 이용하는 새로운 강인한 깊이 정보 예측 알고리즘을 제안하였다. 이를 위해서 SIFT 묘사기와 상호 정보량의 상호 보완성의 성질을 이용하였다. 세번째로, 입력 스테레오 이미지의 컬러를 일치시키는 것과 깊이 정보를 예측하는 것을 반복적으로 수행하는 새로운 방법을 제안하였다. 마지막으로, 이미지에 매우 어두운 부분이나 매우 밝은 부분이 존재할 때 발생하는 정합 문제를 해결하기 위하여, high dynamic range imaging (HDRI)과 스테레오 정합을 동시에 수행하는 방법을 제안하였다. 제안하는 방법들이 기존의 방법보다 우수함을 여러 가지 실험을 통해서 정량적, 정성적으로 분석하였다.

Stereo matching aims to obtain depth map or 3D information by finding correct correspondence between images captured from different point of views or at different times. In general, most stereo algorithms assume radiometrically calibrated images. For these calibrated images, simple matching costs such as absolute difference of intensities do not degrade the performance of stereo algorithms. However, there exist many real and practical situations or challenging applications in which radiometric variations between stereo images are inevitable. The performance of most conventional stereo matching algorithms can be severely degraded under these radiometric variations.

In this thesis, we propose several robust depth map estimation and color correction methods for solving these problems. Firstly, we present a new stereo matching measure that is insensitive to radiometric variations between left and right images. For this goal, we use the color formation model explicitly in our framework and propose a new measure called the Adaptive Normalized Cross Correlation (ANCC) for a robust and accurate correspondence measure. Secondly, we propose a more robust method based on mutual information (MI) combined with SIFT descriptor to find correspondence for images which undergo various radiometric changes. Although the proposed ANCC is robust to radiometric variations to some degree, it still has some limitations. To devise a more robust measure, we combined MI and SIFT that have complementary roles to each other. Thirdly, we propose a new method which infers both accurate depth maps and color-consistent stereo images for radiometrically varying stereo images. From our framework, we showed that both depth map estimation and color correction could be beneficial to each other. Finally, we also propose an efficient method to generate high dynamic range multi-view stereo images as well as corresponding accurate depth maps for alternative exposure multi-view stereo images that consist of consecutive long and short exposure stereo images. Experimental results show that our methods outperform other state-of-the-art stereo methods under severely different radiometric conditions between stereo images.