몬테카를로 탈락 방법을 이용한 신경망 모형의 불확실성 측정

Abstract

신경망 모형의 급격한 발전으로, 이미지 인식 분야에서부터 신약 개발에 이르기까지 다양한 산업 현장에 신경망 모형이 도입되었다. 그에 발맞춰 신경망 모형의 불확실성을 예측할 수 있는 방법론에 대한 많은 연구가 진행되고 있다. 몬테카를로 탈락 방법은 기존의 신경망 모형을 크게 조정하지 않으면서도 불확실성을 측정할 수 있다는 점으로 인해 불확실성에 대한 연구가 필요한 산업 현장과 학계에서 자주 쓰이는 방법들 중 하나가 되었다. 다른 한편으로는 몬테카를로 탈락 방법의 한계가 이론적, 실증적으로 연구되고 있다. 본 논문은 몬테카를로 탈락 방법의 이론적 근거를 소개하고 모의 데이터에서 실제로 불확실성 측정이 어떤 양상을 띄는지 분석한다.

With the rapid development of neural network models, from the field of image recognition to drug discovery, neural network models have been introduced in a variety of industrial settings at an unprecedented rate. In line with the advancement, many studies are being actively conducted on methodologies that can predict the uncertainty of neural network models. Due to the fact that it can measure the uncertainty without significantly adjusting the existing model, Monte Carlo dropout has become one of the methods frequently used in the industry and academia where research on uncertainty is needed. On the other hand, the limitations of the Monte Carlo dropout method are being studied theoretically and empirically. This paper introduces the theoretical basis of the Monte Carlo dropout method and analyzes the uncertainty measurement in simulated data.